LLM 是什么：会用之前先懂一点原理

用大模型做应用，不需要会训练模型，但需要懂三件影响你写代码的事。

Token：计费和理解的基本单位

模型读写的最小单位是 token，不是字也不是词。中文大约 1 个汉字 = 1-2 token，英文约 1 个词 = 0.75 token。所有 API 按 token 计费——你的成本 = (输入 + 输出) × 单价。

实践含义：把长文档整个塞进 prompt 之前，先算一下多少钱。

上下文窗口：模型的“工作记忆”

窗口内的内容模型才“看得见”。超过窗口的对话会被截断，被截断的部分模型完全不知道——这是“聊着聊着它就忘了”的原因。

实践含义：多轮对话要自己做历史管理，不能无脑 append。

Temperature：确定性和创造性的旋钮

0：输出尽量确定，适合抽取、分类、格式转换
1 以上：发散，适合创意写作
别指望 temperature=0 永远输出一样——它只是“尽量”

第一次调用

from openai import OpenAI

client = OpenAI()
resp = client.chat.completions.create(
    model="gpt-4o-mini",
    temperature=0,
    messages=[{"role": "user", "content": "把这句话翻译成英文：今天天气不错"}],
)
print(resp.choices[0].message.content)

练习

同一个 prompt 分别在 temperature=0 和 1.5 下各跑 5 次，对比输出的差异。

下一课讲提示词工程——不是玄学，是可复用的结构。