深色模式
L1 · 工具与 API 入门
定位:从「AI 产品的用户」切换为「模型能力的调用者」。这层不难,但它是所有后续内容的接口层——L2 的 prompt 实验、L4 的 RAG、L5 的 Agent,全部通过 API 发生。 预计投入:2-3 天(每天 ≤2h)。
面试怎么考这一层
很少直接考,但它是区分「真做过」和「只聊过」的试金石。面试官一句「你调的是哪家的 API、怎么计费的」就能筛掉只用过聊天框的人。回答里能自然带出 token 账单、限流处理、流式体验差异,这层就过了。
核心概念清单
| 概念 | 一句话 |
|---|---|
| OpenAI 兼容协议 | 事实标准。智谱、DeepSeek、通义、Kimi 都提供兼容端点,学会一套代码到处换底座 |
| messages 结构 | system(人设与规则)/ user(用户输入)/ assistant(模型回复),多轮对话 = 把历史全部回传 |
| temperature | 采样随机性。0 附近求稳定(结构化输出、分类),调高求发散(创意)。不是"创造力旋钮",是"分布平坦度旋钮" |
| max_tokens | 输出长度上限,超了会被截断——JSON 输出被截断是经典坑 |
| token 与计费 | 中英文都按 token 计,输入输出分开计价。粗略换算:1 个汉字 ≈ 1-2 token |
| 流式输出(SSE) | 边生成边返回。改善体感延迟,不改善总耗时;SDK 里是一个迭代器 |
| 限流与重试 | RPM/TPM 限制;429 要指数退避重试,不能无脑立刻重发 |
学到什么程度算过(自测判据)
- 能用代码完成一次带 system prompt 的多轮对话调用(不是单次问答)。
- 能算出一次调用的 token 账单:输入多少、输出多少、按当前单价折合人民币多少钱。
- 能讲清 temperature=0 和 temperature=1 下同一个 prompt 的输出差异,并举一个该用低温、一个该用高温的场景。
- 流式和非流式各跑过一次,说得清为什么聊天产品都用流式。
学习路径(2-3 天)
- Day 1:开通一个国内 API(智谱 bigmodel.cn 或 DeepSeek platform,都有免费/低价额度),拿到 key;用
openaiPython 包指向兼容端点,跑通第一次调用。 - Day 2:把单轮改成多轮(自己维护 messages 数组);做 temperature 对比实验,同一个 prompt 各跑 5 次记录差异。
- Day 3:跑一次流式;故意触发一次 max_tokens 截断,观察输出。
常见误区
- 把「会聊天」当「会调用」。面试官见过太多简历写"熟练使用各类大模型",追问 messages 结构就卡壳。
- system prompt 里塞任务细节。规则人设放 system,具体任务输入放 user——分工混乱是 L2 阶段 prompt 失控的根源。
- 不看账单。工程师思维的第一体现就是知道每次调用花多少钱。
通往 L2
API 只是管道,管道里流的是 prompt。下一层解决:怎么让模型稳定输出你要的东西。