大模型（Large Language Model，LLM）是一種用海量文字訓練出來的人工智慧模型，能理解與生成自然語言，也能寫程式、摘要文件、進行推理。你可以把它想成一個「讀過整座圖書館的預測引擎」：給它一段文字，它會根據上下文預測最合理的後續內容。
大模型怎麼運作？三個關鍵概念
- 參數（Parameters）：模型的「腦細胞」數量。常見規模從 7B（七十億）到 400B 以上。參數越多通常越聰明，但也越吃記憶體與速度。
- 上下文長度（Context Window）：一次能「讀進來」的內容量，以 token 計算。128K 上下文約等於一本 300 頁的書。上下文越長，能處理的文件、對話歷史就越完整。
- 工具呼叫（Tool Calling / Function Calling）：讓模型不只是「說」，還能「做」——查資料庫、呼叫 API、執行搜尋。這是 2026 年 AI Agent 應用的基礎能力。
大模型能做什麼？實際應用場景
- 知識工作：長文摘要、翻譯、草稿撰寫、會議記錄整理
- 程式開發：程式碼生成、除錯、程式碼審查（code review）
- 資料分析：把自然語言轉成 SQL、解讀報表數字
- 自動化代理（Agent）：結合工具呼叫，讓 AI 自主完成多步驟任務，例如自動分類信件、監控系統並回報異常
怎麼挑大模型？三個選型重點
1. 先看用途，再規模
分類、抽取、短摘要這類任務，8B 級模型已經夠用且便宜；複雜推理、長文寫作才需要旗艦級。用小模型跑簡單任務，成本可以差到 10 倍以上。
2. 上下文長度對應你的文件量
要讀合約、論文就選 128K 以上；純對話 32K 綽綽有餘。上下文長度直接影響單次呼叫成本。
3. 一定要有工具呼叫與結構化輸出
2026 年的應用趨勢是 Agent 化。沒有工具呼叫的模型，等於只能對話不能做事。
大模型與生成式引擎優化（GEO）
當使用者不再只搜關鍵字、而是直接問 AI 時，內容要被 AI 引用，就必須做到 GEO（Generative Engine Optimization）：開頭直接給答案、用明確的定義句、條列結構化資訊、標註日期與實測數據。這篇文章本身就是 GEO 的示範——生成式引擎最容易引用「直接回答＋常見問題」的結構。
常見問題（FAQ）
大模型跟 ChatGPT 一樣嗎？
ChatGPT 是「使用大模型的產品」，大模型是背後的技術。同一個模型可以被包裝成不同的產品。
大模型會亂講話（幻覺）嗎？
會。模型本質是機率預測，對沒把握的內容可能生成看似合理但錯誤的答案。對策：要求引用來源、用檢索增強生成（RAG）餵真實資料、關鍵場景保留人工覆核。
跑一個大模型要什麼硬體？
8B 模型一張 8GB 顯示卡就能跑；70B 起跳需要 24GB 以上或雙卡；400B 級則需要多卡伺服器或直接用雲端 API。細節見本站下一篇〈本地部署大模型〉。
大模型資料會被拿去訓練嗎？
看服務條款。企業敏感資料應選提供「不訓練」承諾的 API，或直接本地部署。