C/C++

llama.cpp 把本地推理做進 C/C++

llama.cpp 強調在 C/C++ 中做本地 LLM 推理，支援多種硬體與 OpenAI 相容伺服器，適合離線、邊緣與隱私場景。