AI 與 LLM 工具

AI Function Calling 圖解:怎麼把工具接給模型(2026)

admin · 11月19日 · 2026年本文共3337个字 · 预计阅读12分钟7次已读

2026 年讓大模型會「用工具」,已經不是選修課——是把 AI 接進產品的標準動作。Function Calling(OpenAI 稱之)、Tools(Anthropic 稱之)、Function Calling(Google 稱之),本質都是同一件事:模型輸出結構化的函式呼叫,你的程式執行並把結果餵回去,模型再根據結果繼續推理。這篇用圖解把核心流程、主流協定差異、常見坑一次講清。

核心流程:四步走,一張圖看懂

AI Function Calling 圖解:怎麼把工具接給模型(2026)
Function Calling 四步驟:用戶提問 → 模型決定呼叫哪個函式 → 你的程式執行並回傳結果 → 模型綜合結果生成最終回答
  1. 用戶提問:「幫我查台北明天天氣並寄 Slack 通知」
  2. 模型判斷:需呼叫 get_weather + send_slack,輸出 JSON 含函式名與參數
  3. 執行並回傳:你的後端呼叫真實 API,把 {"weather": "晴 28C", "slack": "ok"} 餵回模型
  4. 模型綜合:根據回傳結果生成自然語言回答

三大廠商的 Tools 協定差異(2026-10 版本)

項目 OpenAI Anthropic Google
參數名 tools + tool_choice tools + tool_choice tools + tool_config
函式定義格式 JSON Schema(含 type、properties、required) 同 OpenAI(相容) 同 OpenAI(相容)
回傳格式 tool_calls 陣列,含 id、function.name、function.arguments tool_use 區塊,含 id、name、input function_calls 陣列,結構同 OpenAI
強制呼叫 tool_choice: "required" 或指定 {"type": "function", "function": {"name": "..."}} tool_choice: {"type": "tool", "name": "..."} tool_config: {"function_calling_config": {"mode": "ANY"}}
並行呼叫 原生支援(單次回傳多個 tool_calls) 原生支援 原生支援
流式回傳 支援(stream: true 時逐 token 送 tool_calls) 支援 支援

實務上三家的 JSON Schema 定義幾乎可通用,差異只在回傳欄位名稱與強制呼叫的參數寫法。建議在自家 SDK 層做一層正規化,上層業務邏輯完全不用管用哪家模型。

常見三個坑(踩過才知道)

1. 模型愛編參數(Hallucinated Arguments)

最常見:用戶問「幫我訂明天飛東京的機票」,模型直接編一組 {"date": "2026-10-25", "to": "NRT"} 丟給你——但用戶根本沒說明天日期、也沒說出發地。對策:

  • 函式定義裡 required 只放真正必填的,其餘讓模型可選
  • 執行前做「參數合法性檢查」(缺欄位、格式錯、權限不足)→ 回 tool_result 告訴模型「缺出發地、請追問用戶」
  • 關鍵操作(下單、刪資料、發信)一定要人工確認,不可直接讓模型一鍵執行

2. 工具結果太大、模型上下文爆炸

查資料庫回 5000 筆、爬網頁回完整 HTML,塞進 tool_result 直接把 context 擠滿。對策:

  • 只回「摘要+關鍵欄位」(例如:{"count": 5000, "sample": [...前 3 筆...]})
  • 分頁:函式支援 page/page_size,模型要更多再叫下一頁
  • 大型資料改走「參考模式」:存暫存檔給模型檔案 ID,模型只拿摘要

3. 迴圈不收斂(Infinite Tool Loop)

模型呼叫 A → 結果觸發呼叫 B → 結果又觸發 A… 無限迴圈。對策:

  • 設 max_tool_calls(建議 5~8 次),超過直接中斷並回「我需要更多資訊才能完成」
  • 在系統提示明確寫:「同一個函式對同一組參數只能呼叫一次」
  • 記錄 tool_call_id 去重,偵測到重複直接拒絕

最小可行性實作(Python 概念碼)

import json, openai

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "查詢指定城市的即時天氣",
        "parameters": {
            "type": "object",
            "properties": {
                "city": {"type": "string", "description": "城市名稱,如:台北、東京"},
                "date": {"type": "string", "description": "日期,格式 YYYY-MM-DD,預設今天"}
            },
            "required": ["city"]
        }
    }
}]

messages = [{"role": "user", "content": "台北明天天氣怎麼樣?"}]
resp = openai.chat.completions.create(
    model="gpt-4o-mini",
    messages=messages,
    tools=tools,
    tool_choice="auto"
)

if resp.choices[0].message.tool_calls:
    for tc in resp.choices[0].message.tool_calls:
        args = json.loads(tc.function.arguments)
        # 這裡呼叫真實 API
        result = {"city": args["city"], "weather": "晴 28C", "humidity": "65%"}
        messages.append(resp.choices[0].message)
        messages.append({
            "role": "tool",
            "tool_call_id": tc.id,
            "content": json.dumps(result, ensure_ascii=False)
        })
    # 第二輪:模型綜合結果
    final = openai.chat.completions.create(model="gpt-4o-mini", messages=messages)
    print(final.choices[0].message.content)

進階:結構化輸出 + Function Calling(2026 新趨勢)

OpenAI 2024-08 推出 Structured Outputs(response_format: {"type": "json_schema", ...}),強制模型輸出符合 JSON Schema 的物件。搭配 Function Calling 可達成「一次呼叫、直接拿結構化資料」:

  • 定義 tool_choice: "required" 強制呼叫
  • 函式回傳即是結構化輸出,省去二次解析
  • 適用於:表單自動填寫、資料抽取、API 參數組裝

常見問題(FAQ)

Function Calling 需要微調模型嗎?

不需要。GPT-4o、Claude 3.5 Sonnet、Gemini 1.5 Pro 等主流模型原生支援,只要給正確的 JSON Schema 定義即可。微調只在極少數「特定領域術語密集、參數組合極複雜」的場合才有邊際效益。

怎麼測試函式定義好不好?

用「對抗性測試」:故意給模糊指令(「幫我查天氣」 不指定城市)、矛盾指令(「查東京天氣但用紐約時區」)、超出權限指令(「幫我刪掉生產資料庫」),觀察模型是否正確拒絕或追問。好的函式定義能讓模型在 90%+ 情況下給出可執行參數。

支援多模型切換的架構怎麼設計?

核心是「介面統一、實作隔離」:定義 ToolExecutor 介面,OpenAI/Anthropic/Google 各自實作 normalize_tool_calls()、normalize_tool_result()。業務層只呼叫 executor.run(messages, tools),完全不感知底層模型差異。見本站〈AI 編程工具四強比較〉的 SDK 設計原則。

延伸閱讀

  • 本站:〈大模型 API 比較 2026〉——三大廠商價格、上下文、工具呼叫支援度完整對照
  • 本站:〈AI 編程工具四強比較〉——Claude Code、Codex、Cursor、Gemini CLI 的工具呼叫實測
  • OpenAI 官方:Function Calling Guide
  • Anthropic 官方:Tool Use (Claude)
0 条回应