AI 智能体
概念解析——函数调用
函数调用(Function Calling)不是让模型真的去执行一段函数代码。它做的事更微妙——模型在回答时输出一份结构化 JSON,写明"我想调哪个工具、参数填什么",然后把这份 JSON 交给你的代码去执行。模型只开口,动手的是你。
2024 年起主流大模型(GPT-4o、Claude、Gemini、Qwen 等)都原生支持了这种能力。它把大模型从"只会聊天"变成了"能调用外部系统"——查数据库、调 API、写文件、发邮件,全都能做。今天所有 AI Agent 的"动手能力",底层都是函数调用。
模型不调用函数,它只填一张"调用单"
这是理解函数调用最关键的一步:大语言模型本身没有执行代码的能力。它不会真的去查天气数据库、不会读你的文件系统——它只做一件事:基于输入文本预测下一个 token。
函数调用的全部秘密在于:你提前写一份工具的说明书(叫 schema),描述每个工具的名字、用途、参数类型和约束。模型读到这份说明书,如果觉得应该用这个工具,就在回答中输出一段特殊格式的 JSON——而不是普通文字。
① 用户问:"今天北京要带伞吗?"
② 模型收到消息 + 你提供的 get_weather 工具 schema。它决定调用,输出:
{ "name": "get_weather", "arguments": { "city": "北京", "date": "today" } }③ 你的代码检测到模型输出了 tool_calls,拿到参数,真的去调用 OpenWeather API。
④ API 返回结果(温度 18-24°C,降雨概率 60%),你把结果作为新消息塞回 messages 数组。
⑤ 模型看到查询结果,生成最终回答:"今天 11 点起有 60% 几率下雨,建议带伞。"
所以关键就一句话:模型输出的是"调用意图",不是"调用执行"。真实执行必须由你的代码在客户端完成。把这一步想清楚,后面所有概念迎刃而解。
工具定义格式:schema 是模型的眼睛
模型看不到你的代码,看不到内部注释,看不到 git log。它判断"该不该调一个工具、怎么填参数"的唯一线索,就是你写在 tools 数组里的那段 JSON schema。所以 schema 的质量,直接决定函数调用的成败。
一份典型的工具 schema 包含四部分:函数名(name)、描述(description)、参数定义(parameters,含类型和约束)、是否必填(required)。
{
"type": "function",
"function": {
"name": "get_current_weather",
"description": "查询指定城市的实时天气。返回温度、降水概率和未来 6 小时天气趋势。仅当用户明确询问天气/温度/会不会下雨时调用。",
"parameters": {
"type": "object",
"properties": {
"city": {
"type": "string",
"description": "城市的中文全名,如 '北京''上海'。不接受拼音或英文缩写。"
},
"unit": {
"type": "string",
"enum": ["c", "f"],
"description": "温度单位,c 表示摄氏度,f 表示华氏度,默认 c。"
}
},
"required": ["city"],
"additionalProperties": false
},
"strict": true
}
}
几个经验法则。函数名用 snake_case,具体动词开头(get_、submit_、search_),别用 do_、stuff 这种。description 要把"这工具干什么"和"什么情况下调"都说清楚,30 字以上最好。参数名用完整英文单词,别用 u、q、loc 这种缩写——模型猜不出。枚举值能列就列,strict mode 一定要开。
函数调用 vs 传统 API 调用
传统 API 调用是你写代码,明确调用一个函数、传确定的参数。函数调用则是模型在运行时决定"要不要调、调哪个、填什么参数"——它是一种由模型驱动的动态路由。
两句话的区别:传统 API 调用是程序员在代码里写死的;函数调用是模型在推理中现场决定的。前者是确定的,后者是非确定的——同样的用户输入,模型可能每次选不同的工具、填不同的参数。
这个区别带来一个深刻的后果:传统 API 调用的错误是可复现、可调试的;函数调用的错误可能每次都不一样——上周五跑得好好的,这周一同样的用户问题,模型选了另一个工具。
所以函数调用本质上不是"让模型编程",而是"让模型做选择题"。你提供选项(工具),它做选择(哪个工具+什么参数),你的代码负责执行。模型的方向感决定了可靠性,但最终保障还是要靠你的代码去校验、兜底、重试。
Tool Choice:让模型选还是你替它选
主流 API 都支持一个参数叫 tool_choice(或类似的名称),控制模型什么时候必须调用工具、可以自由选择、还是只用文本回答。一般有三种模式:
- auto(默认):模型自己判断该不该调工具。最适合大多数场景,但偶尔模型会"嘴答"——该查工具却凭印象编答案。
- required:强制本轮必须调工具,不允许纯文本回复。适合做评测、或者你明确知道每个请求都要动工具的场景。
- specific tool:指定一个具体工具,模型只能用这个。适合路由已知的场景——比如你已经从上下文判断出用户要查天气,直接把 get_weather 设成必选。
生产中常见的做法是先让路由模型判断意图,再把具体的 tool_choice 指向那个工具。这种"先分类再调用"的模式比一次塞十几个工具让模型自己选要稳定得多。
并行函数调用:快,但有前提
新版模型默认允许一次回答里输出多条 tool_calls——比如"查北京和上海的天气",模型一次把两个请求都吐出来,你的代码用 Promise.all 并发执行,延迟几乎砍半。这个特性叫并行函数调用(Parallel Function Calling)。
但有一个隐藏前提:几个调用必须真独立。如果"下一步依赖上一步的结果"(比如先订机票、再拿到航班信息订酒店),模型可能误判为可并行——第二件事拿空参数硬跑,报错。这就是为什么事务性操作必须关掉并行,强制模型一次只做一件事。
· 独立任务(查 A 天气 + 查 B 天气)→ 并行,省时间
· 依赖任务(先订机票再订酒店)→ 串行,保正确
· 事务性操作(先确认再执行)→ 串行,保安全
流式输出与函数调用
流式输出(Streaming)让用户实时看到模型一个字一个字地输出,体验好。但函数调用和流式输出之间有一个值得注意的关系。
当模型决定输出 tool_calls 时,很多 API 在流式模式下需要特殊处理:模型先吐出一段 content(可能是 null),然后以多个 chunk 的方式把工具调用的名字和参数逐步传过来。你的客户端需要把这些 chunk 拼起来,等完整的 tool_calls 收齐之后,才能去执行函数。
这不像纯文本流式——文本可以逐字展示给用户;工具调用必须在完整接收后才能触发。多数 SDK 已经封装了这个过程(OpenAI 的 stream 事件、Anthropic 的 content_block_delta),但你做底层实现时需要清楚:流式模式下,tool_calls 是在 content block 收尾时才组装完成的。
实践中,如果 Agent 需要频繁调工具,不少团队选择不走流式——多等几百毫秒拿到完整的 tool_calls 数组,比处理流式拼装省心得多。只有最终回答的文本才走流式。
可靠性与错误处理
函数调用在生产环境中最头疼的问题不是模型不调,而是模型调不对。Berkeley Function-Calling Leaderboard(BFCL v4)的最新数据:2026 年 4 月,顶级模型(Claude Opus 4.6)综合准确率才 77.5%。前七名差距不到 8 分——换更贵的模型帮助有限。
更严峻的是 τ-bench 的数据:同一个任务跑 4 次全对的概率(pass^4),比单次准确率几乎砍半。Claude 3.5 Sonnet 单次 69.2%,四次全对只剩 46.2%。说明函数调用的"重复稳定性"远低于单次准确率。
这迫使生产系统必须内置多层防护:
- 参数校验:模型给的参数在发出去之前先过一遍校验逻辑,不合 schema 的当场拒掉,让模型重新填。
- 循环上限:每次 Agent 循环设硬上限(比如 10 轮),防止模型卡在同一个工具调用上反复重试。
- 错误回传:工具执行失败时返回结构化错误信息,让模型能看懂并修正参数重试,而非原地盲发。
- 幂等设计:同一个工具调用执行两次得到相同结果——这是上线前必须确保的特性,否则重试机制会制造数据灾难。
- 降级兜底:工具全部失败时,模型能退回"我只能用已有知识回答"的模式,而不是强行编数据。
函数调用 vs MCP
函数调用和 MCP(Model Context Protocol)不是替代关系,是不同层。先分清楚:函数调用是模型怎么"开口要工具"的协议——它定义的是模型输出中的 tool_call 格式。MCP 是你的程序怎么连上外部服务(GitHub、数据库、Slack)的标准化中间层。
原生函数调用的问题是每家 API 的 tool 格式不一样。OpenAI 的 tool_calls 字段、Anthropic 的 tool_use content block、Gemini 的 functionCall——同一个 PostgreSQL 查询工具,接每家模型都要重写一遍工具定义。
MCP 把工具定义抽成独立的 server,一个 MCP server 写一次,任何 MCP host(Claude Desktop、Cursor、ChatGPT)都能连。但 MCP 不改变"模型只吐 JSON、你的代码负责执行"这一本质——它解决的是工具管理的标准化和复用问题。
2026 年的格局:原生函数调用是底层的模型级协议,MCP 是上层的工具治理层。两者互补。小项目直接用 API 的原生函数调用就行,多模型、多工具的大项目才会引入 MCP 来降低维护成本。
总结:一句话的本质
函数调用 = 模型输出结构化 JSON(哪个工具 + 什么参数)+ 你的代码执行 + 结果回传模型。没有魔法,没有"模型帮你在服务器上跑代码",只有一段定义好的 JSON 协议在模型和你的程序之间传递。
它的设计很聪明:把"决策"留给模型(LLM 擅长语义理解),把"执行"留给你(代码擅长确定性操作)。各取所长。而它的脆弱也来自这同样的分工——模型做选择有时会错,你的代码必须为它的选择兜底。
参考资料
- OpenAI. "Function Calling Guide." platform.openai.com/docs/guides/function-calling, accessed 2026-07.
- Anthropic. "Tool Use." docs.anthropic.com/en/docs/build-with-claude/tool-use, accessed 2026-07.
- Berkeley Function-Calling Leaderboard (BFCL v4). gorilla.cs.berkeley.edu/leaderboard, 2026-04 snapshot.
- Sierra Research. "τ-bench: A Benchmark for Tool-Calling Agents." arXiv:2406.12045, 2024.
- Anthropic. "Model Context Protocol (MCP)." modelcontextprotocol.io, 2024-2026.