大型語言模型（LLM）
以大量文字資料訓練、透過不斷預測「下一個 token」來生成內容的神經網路模型。ChatGPT、Claude、Gemini、DeepSeek 背後都是大型語言模型；新一代模型多半也能處理圖片、音訊等其他輸入。
AI 名詞解釋：開發者與使用者必懂的關鍵術語
最後更新：2026-09-30
這份詞彙表整理本站文章中反覆出現的 AI 與開發術語，用白話說明每個名詞是什麼、為什麼重要，並附上本站報導中的實際例子。詞條會隨著新文章持續補充。
模型基礎
Token
模型讀寫文字的基本單位，可能是一個字、一個詞，或詞的一部分。模型的上下文長度、API 計價與用量限制幾乎都以 token 計算；同樣一段內容會被切成多少 token，取決於語言與各模型的分詞器（tokenizer）。
上下文視窗（Context window）
模型在一次請求中能納入考量的 token 上限，包含你的指令、先前的對話、附加的文件，以及模型自己的輸出；超出的部分必須截斷或摘要。例如 DeepSeek V4 系列預設支援 100 萬 token 的上下文。
推論（Inference）
使用已經訓練好的模型實際產生回應的過程，相對於「訓練」。API 帳單、GPU 用量與回應速度，大多發生在推論階段；模型每次推論要動用多少參數，直接決定它跑得多快、成本多高。
參數與混合專家模型（MoE）
參數是模型在訓練中學到的權重數值，常被用來粗略衡量模型規模。混合專家架構把模型拆成許多「專家」子網路，每次推論只啟用其中一小部分，因此總參數很大、實際運算量卻小得多。例如 Nvidia 的 Nemotron 3.5 Lightning 總參數 300 億、每次推論只動用 30 億，一張消費級 GPU 就能跑；DeepSeek V4-Pro 總參數 1.6 兆、每次推論啟用 490 億。
開放權重模型與授權
公開釋出模型權重、讓任何人都能下載到自己的硬體上執行或微調的模型。「開放權重」不等於完全開源：訓練資料與訓練程式碼未必公開，能不能商用、有哪些限制，要看各自的授權條款。例如 DeepSeek V4 系列採 MIT 授權，Nvidia 則標榜 Nemotron 3.5 Lightning 商用完全免費。
蒸餾（Distillation）
用較大的「老師」模型的輸出來訓練較小的「學生」模型，讓小模型以低得多的成本學到相近的能力。Nemotron 3.5 Lightning 就是從更大的 Nemotron 3 Ultra 蒸餾而來；也正因為蒸餾能「借用」別家模型的能力，Anthropic 在推出 Claude Fable 5.1 時一併加入了防蒸餾機制。
多模態（Multimodal）
能同時理解或生成多種型態資料——文字、圖片、音訊、影片——的模型。例如字節跳動的 Seedance 2.5 一次可以生成 30 秒、音畫同步的影片，並接受最多 50 個多模態參考輸入。
推理模型與思考模式
在給出最終答案前，先產生一段內部推理過程的模型或模式。思考模式通常答得更準，但會消耗更多 token、回應也較慢，因此不少模型同時提供「思考」與「非思考」兩種模式，讓使用者依任務切換，DeepSeek V4 系列就是一例。
基準測試（Benchmark）
用一組固定題目或任務比較模型能力的標準化測驗，例如程式、數學或推理題庫。分數方便橫向比較，但無法完全代表實際使用體驗，解讀時也要一併看價格：DeepSeek V4 Pro 對上 Claude Fable 5 時落後約 5%，價格卻便宜約 46 倍。
計價與用量
API 計價：輸入、輸出與快取
多數模型 API 以「每百萬 token」分別計算輸入與輸出的價格，輸出通常比輸入貴上好幾倍；重複送出的相同內容（例如很長的系統提示）若命中快取，還能以低得多的「快取讀取」價格計費。比較不同模型的成本時，要用自己實際的輸入／輸出比例來算，而不是只看單一報價。
尖峰／離峰計價
依使用時段收取不同價格，把需求從尖峰時段引導到算力較空閒的時段。DeepSeek 在 2026 年 8 月 17 日推出尖峰／離峰雙軌計價，不到一週後又宣布從 8 月 23 日起週末全天改按離峰價收費。
用量限制（Usage limits）
訂閱方案或 API 在一段時間內允許使用的上限，例如每分鐘請求數，或每天、每週可用的額度。AI 程式工具的訂閱常以「週用量」計算，額度調整會直接影響重度使用者的工作節奏；Claude Code 週用量的幾次變動就是近期的例子。
AI 代理與開發
AI 代理（AI agent）
不只回答問題，還會自行規劃步驟、呼叫工具（搜尋、執行程式、操作檔案或 API）來完成任務的 AI 系統。代理能做的事越多，「它有沒有越權」與「它回報的是否屬實」就越重要——OpenAI 叫停 GPT-6.1 Astra，正是因為內部評測在這兩點上沒有過關。
程式代理（Coding agent）
專門寫程式的 AI 代理：能讀取整個程式碼庫、修改多個檔案、執行測試並根據結果持續修正，例如 Claude Code 與 OpenAI Codex。相較於只補全單行程式碼的助理，它能接手更完整的開發任務，也因此更需要權限控管與人工審查。
Vibe coding
主要用自然語言描述需求、讓 AI 產生並修改程式碼，開發者本人很少逐行閱讀或手寫程式的開發方式。它讓非工程師也能快速做出產品原型，但程式碼品質與資安風險也更難掌握——以 vibe coding 打造的 Moltbook，上線後就接連發生資料庫設定不當與 API 金鑰外洩的問題。
沙盒（Sandbox）
把程式或 AI 代理的執行環境隔離起來，限制它能讀寫的檔案、能連線的網路與能呼叫的工具，讓出錯或被濫用時的損害留在邊界之內。研究人員曾指出 OpenClaw 的 Skills 框架缺乏足夠的沙盒隔離；NVIDIA 的 OpenShell 則是專為 AI 代理設計的開源安全執行環境。
安全與對齊
幻覺（Hallucination）
模型以肯定的語氣產生與事實不符、或在來源中找不到根據的內容。幻覺可以靠評測發現、靠訓練與查證流程降低，但很難完全消除。也要留意「零幻覺」這類行銷說法：TypeSafe 的 Jev 模型所謂的零幻覺，指的是輸出一定符合宣告的型別（schema），官方也明說答案本身仍可能是錯的。
對齊（Alignment）
讓 AI 系統的行為符合人類意圖與價值的研究與工程工作，例如不說謊、不越權、拒絕有害請求。對齊問題往往不會反映在答題準確率上：模型可能越答越好，卻也越來越會隱瞞自己實際做了什麼。
強化學習（RL／RLHF）
讓模型根據「獎勵」訊號反覆調整行為的訓練方法；以人類回饋作為獎勵來源時稱為 RLHF。它常用在語言模型完成預訓練之後，用來強化推理能力或糾正不良行為——OpenAI 就打算讓 GPT-6.1 Astra 的底層模型繼續接受強化學習、針對正確行為給予獎勵。
提示注入（Prompt injection）
把惡意指令藏在模型會讀到的內容裡（網頁、文件、電子郵件），誘使模型偏離原本任務的攻擊手法；指令藏在第三方內容中時稱為「間接提示注入」。對會自行瀏覽網頁、呼叫工具的 AI 代理來說，這是最主要的資安風險之一。OpenAI 公布的數據顯示，GPT-6 Astra 對間接提示注入的防禦成功率從 96.23% 提升到 99.79%。
風險分級框架
AI 公司用來評估新模型在網路攻擊等高風險領域能力的內部制度，能力達到特定等級時，就必須升級防護措施、甚至暫停部署。GPT-6 Astra 是 OpenAI 第一個在自家 Preparedness Framework 中，網路安全能力被列為「Critical（重大）」等級的模型。
前沿模型（Frontier model）
能力處於業界最前端的最新一代大型模型，通常只有少數擁有龐大算力與資金的 AI 實驗室做得出來。AI 安全與監管的討論焦點多半放在前沿模型上，例如 Anthropic 執行長 Dario Amodei 呼籲業界刻意放慢腳步的公開信〈We Must Pace the Frontier〉。
AGI（通用人工智慧）
泛指在大多數認知工作上能達到或超越人類水準的 AI。AGI 沒有公認、可量測的定義，各家公司對「是否已經達到」的說法也不一致，因此看到「AGI 時代已經開始」這類說法時，最好搭配具體能力與評測數據一起判讀。
晶片與基礎設施
GPU、TPU 與 HBM
GPU 是訓練與執行 AI 模型最主要的平行運算晶片，NVIDIA 是最具代表性的供應商；TPU 是 Google 自行設計、專為 AI 運算打造的晶片；HBM（高頻寬記憶體）則是緊貼在 AI 晶片旁、以極高速度供應資料的記憶體。AI 需求讓這幾類元件都供不應求——據 DigiTimes 報導，三星、SK 海力士與美光 2027 年的 DRAM 與 HBM 產能已經售罄。