Skip to content

L1 · 工具与 API 入门 ​

定位:从「AI 产品的用户」切换为「模型能力的调用者」。这层不难,但它是所有后续内容的接口层——L2 的 prompt 实验、L4 的 RAG、L5 的 Agent,全部通过 API 发生。 预计投入:2-3 天(每天 ≤2h)。

面试怎么考这一层 ​

很少直接考,但它是区分「真做过」和「只聊过」的试金石。面试官一句「你调的是哪家的 API、怎么计费的」就能筛掉只用过聊天框的人。回答里能自然带出 token 账单、限流处理、流式体验差异,这层就过了。

核心概念清单 ​

概念一句话
OpenAI 兼容协议事实标准。智谱、DeepSeek、通义、Kimi 都提供兼容端点,学会一套代码到处换底座
messages 结构system(人设与规则)/ user(用户输入)/ assistant(模型回复),多轮对话 = 把历史全部回传
temperature采样随机性。0 附近求稳定(结构化输出、分类),调高求发散(创意)。不是"创造力旋钮",是"分布平坦度旋钮"
max_tokens输出长度上限,超了会被截断——JSON 输出被截断是经典坑
token 与计费中英文都按 token 计,输入输出分开计价。粗略换算:1 个汉字 ≈ 1-2 token
流式输出(SSE)边生成边返回。改善体感延迟,不改善总耗时;SDK 里是一个迭代器
限流与重试RPM/TPM 限制;429 要指数退避重试,不能无脑立刻重发

学到什么程度算过(自测判据) ​

  1. 能用代码完成一次带 system prompt 的多轮对话调用(不是单次问答)。
  2. 能算出一次调用的 token 账单:输入多少、输出多少、按当前单价折合人民币多少钱。
  3. 能讲清 temperature=0 和 temperature=1 下同一个 prompt 的输出差异,并举一个该用低温、一个该用高温的场景。
  4. 流式和非流式各跑过一次,说得清为什么聊天产品都用流式。

学习路径(2-3 天) ​

  • Day 1:开通一个国内 API(智谱 bigmodel.cn 或 DeepSeek platform,都有免费/低价额度),拿到 key;用 openai Python 包指向兼容端点,跑通第一次调用。
  • Day 2:把单轮改成多轮(自己维护 messages 数组);做 temperature 对比实验,同一个 prompt 各跑 5 次记录差异。
  • Day 3:跑一次流式;故意触发一次 max_tokens 截断,观察输出。

常见误区 ​

  • 把「会聊天」当「会调用」。面试官见过太多简历写"熟练使用各类大模型",追问 messages 结构就卡壳。
  • system prompt 里塞任务细节。规则人设放 system,具体任务输入放 user——分工混乱是 L2 阶段 prompt 失控的根源。
  • 不看账单。工程师思维的第一体现就是知道每次调用花多少钱。

通往 L2 ​

API 只是管道,管道里流的是 prompt。下一层解决:怎么让模型稳定输出你要的东西。