小模型

小模型為何吃下裝置端 AI

Llama 3.2 與 Phi 證明，1B 到 4B 的小模型已能在手機與筆電處理摘要、改寫、檔案搜尋等常見工作。重點不只省成本，還有更低延遲、更少資料外送，以及更貼近作業系統與 App 的整合。