2026 年讓大模型會「用工具」,已經不是選修課——是把 AI 接進產品的標準動作。Function Calling(OpenAI 稱之)、Tools(Anthropic 稱之)、Function Calling(Google 稱之),本質都是同一件事:模型輸出結構化的函式呼叫,你的程式執行並把結果餵回去,模型再根據結果繼續推理。這篇用圖解把核心流程、主流協定差異、常見坑一次講清。
核心流程:四步走,一張圖看懂
- 用戶提問:「幫我查台北明天天氣並寄 Slack 通知」
- 模型判斷:需呼叫
get_weather+send_slack,輸出 JSON 含函式名與參數 - 執行並回傳:你的後端呼叫真實 API,把
{"weather": "晴 28C", "slack": "ok"}餵回模型 - 模型綜合:根據回傳結果生成自然語言回答
三大廠商的 Tools 協定差異(2026-10 版本)
| 項目 | OpenAI | Anthropic | |
|---|---|---|---|
| 參數名 | tools + tool_choice |
tools + tool_choice |
tools + tool_config |
| 函式定義格式 | JSON Schema(含 type、properties、required) |
同 OpenAI(相容) | 同 OpenAI(相容) |
| 回傳格式 | tool_calls 陣列,含 id、function.name、function.arguments |
tool_use 區塊,含 id、name、input |
function_calls 陣列,結構同 OpenAI |
| 強制呼叫 | tool_choice: "required" 或指定 {"type": "function", "function": {"name": "..."}} |
tool_choice: {"type": "tool", "name": "..."} |
tool_config: {"function_calling_config": {"mode": "ANY"}} |
| 並行呼叫 | 原生支援(單次回傳多個 tool_calls) |
原生支援 | 原生支援 |
| 流式回傳 | 支援(stream: true 時逐 token 送 tool_calls) |
支援 | 支援 |
實務上三家的 JSON Schema 定義幾乎可通用,差異只在回傳欄位名稱與強制呼叫的參數寫法。建議在自家 SDK 層做一層正規化,上層業務邏輯完全不用管用哪家模型。
常見三個坑(踩過才知道)
1. 模型愛編參數(Hallucinated Arguments)
最常見:用戶問「幫我訂明天飛東京的機票」,模型直接編一組 {"date": "2026-10-25", "to": "NRT"} 丟給你——但用戶根本沒說明天日期、也沒說出發地。對策:
- 函式定義裡
required只放真正必填的,其餘讓模型可選 - 執行前做「參數合法性檢查」(缺欄位、格式錯、權限不足)→ 回
tool_result告訴模型「缺出發地、請追問用戶」 - 關鍵操作(下單、刪資料、發信)一定要人工確認,不可直接讓模型一鍵執行
2. 工具結果太大、模型上下文爆炸
查資料庫回 5000 筆、爬網頁回完整 HTML,塞進 tool_result 直接把 context 擠滿。對策:
- 只回「摘要+關鍵欄位」(例如:
{"count": 5000, "sample": [...前 3 筆...]}) - 分頁:函式支援
page/page_size,模型要更多再叫下一頁 - 大型資料改走「參考模式」:存暫存檔給模型檔案 ID,模型只拿摘要
3. 迴圈不收斂(Infinite Tool Loop)
模型呼叫 A → 結果觸發呼叫 B → 結果又觸發 A… 無限迴圈。對策:
- 設
max_tool_calls(建議 5~8 次),超過直接中斷並回「我需要更多資訊才能完成」 - 在系統提示明確寫:「同一個函式對同一組參數只能呼叫一次」
- 記錄
tool_call_id去重,偵測到重複直接拒絕
最小可行性實作(Python 概念碼)
import json, openai
tools = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "查詢指定城市的即時天氣",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string", "description": "城市名稱,如:台北、東京"},
"date": {"type": "string", "description": "日期,格式 YYYY-MM-DD,預設今天"}
},
"required": ["city"]
}
}
}]
messages = [{"role": "user", "content": "台北明天天氣怎麼樣?"}]
resp = openai.chat.completions.create(
model="gpt-4o-mini",
messages=messages,
tools=tools,
tool_choice="auto"
)
if resp.choices[0].message.tool_calls:
for tc in resp.choices[0].message.tool_calls:
args = json.loads(tc.function.arguments)
# 這裡呼叫真實 API
result = {"city": args["city"], "weather": "晴 28C", "humidity": "65%"}
messages.append(resp.choices[0].message)
messages.append({
"role": "tool",
"tool_call_id": tc.id,
"content": json.dumps(result, ensure_ascii=False)
})
# 第二輪:模型綜合結果
final = openai.chat.completions.create(model="gpt-4o-mini", messages=messages)
print(final.choices[0].message.content)
進階:結構化輸出 + Function Calling(2026 新趨勢)
OpenAI 2024-08 推出 Structured Outputs(response_format: {"type": "json_schema", ...}),強制模型輸出符合 JSON Schema 的物件。搭配 Function Calling 可達成「一次呼叫、直接拿結構化資料」:
- 定義
tool_choice: "required"強制呼叫 - 函式回傳即是結構化輸出,省去二次解析
- 適用於:表單自動填寫、資料抽取、API 參數組裝
常見問題(FAQ)
Function Calling 需要微調模型嗎?
不需要。GPT-4o、Claude 3.5 Sonnet、Gemini 1.5 Pro 等主流模型原生支援,只要給正確的 JSON Schema 定義即可。微調只在極少數「特定領域術語密集、參數組合極複雜」的場合才有邊際效益。
怎麼測試函式定義好不好?
用「對抗性測試」:故意給模糊指令(「幫我查天氣」 不指定城市)、矛盾指令(「查東京天氣但用紐約時區」)、超出權限指令(「幫我刪掉生產資料庫」),觀察模型是否正確拒絕或追問。好的函式定義能讓模型在 90%+ 情況下給出可執行參數。
支援多模型切換的架構怎麼設計?
核心是「介面統一、實作隔離」:定義 ToolExecutor 介面,OpenAI/Anthropic/Google 各自實作 normalize_tool_calls()、normalize_tool_result()。業務層只呼叫 executor.run(messages, tools),完全不感知底層模型差異。見本站〈AI 編程工具四強比較〉的 SDK 設計原則。
延伸閱讀
- 本站:〈大模型 API 比較 2026〉——三大廠商價格、上下文、工具呼叫支援度完整對照
- 本站:〈AI 編程工具四強比較〉——Claude Code、Codex、Cursor、Gemini CLI 的工具呼叫實測
- OpenAI 官方:Function Calling Guide
- Anthropic 官方:Tool Use (Claude)
