inference infrastructure

AI 代理能幫忙做 LLM 服務嗎

VibeServe 在問一個很實際的問題：AI 代理能不能幫忙打造客製化的 LLM serving 系統。可惜目前提供的摘要筆記沒有公開 benchmark 細節。