Tool Use
概念定義
LLM 在 inference 過程中呼叫外部工具的能力,例如網頁搜尋、程式執行、計算機或 API。模型決定何時、如何呼叫工具,接收結果後再整合進回覆。
相關術語
Function Calling
模型輸出結構化 JSON,描述要呼叫哪個函式與參數,而不是只回傳純文字。應用程式執行函式後再把結果餵回模型;GPT-4、Claude、Gemini 都支援類似能力。
Agent
能自主規劃並執行多步驟任務的 AI 系統。它可以呼叫工具、瀏覽網頁、撰寫程式碼,並和外部服務互動,不需要人類一路手動指揮。
MCP (Model Context Protocol)
Anthropic 提出的開放標準,用來把 AI assistant 連接到外部資料來源與工具。它定義共同介面,讓 Claude、Cursor 等 MCP client 可以連到資料庫、API、檔案系統等 MCP server。
全部術語
AgentAttention MechanismChain-of-ThoughtContext WindowDiffusion ModelDistillationDPO (Direct Preference Optimization)EmbeddingFew-shot PromptingFine-tuningFunction CallingGAN (Generative Adversarial Network)GRPO (Group Relative Policy Optimization)HallucinationInferenceLLM (Large Language Model)LoRA (Low-Rank Adaptation)MCP (Model Context Protocol)MultimodalPrompt EngineeringQLoRA (Quantized LoRA)QuantizationRAG (Retrieval-Augmented Generation)RLHF (Reinforcement Learning from Human Feedback)TemperatureTokenizerTool UseTop-p (Nucleus Sampling)TransformerVector DatabaseZero-shot Prompting