基础设施
部署 LLM 应用:那些不是模型的部分
- William Jacob
- 部署 , 基础设施
- 01 May, 2026
部署 LLM 应用,多半不是部署模型。模型差不多就是一个托管 API 调用。你真正部署的是它周围的一切:prompt 管理、检索层、缓存、队列、限流、可观测性栈。多数团队会低估这块表面积,直到第二个月 ...
部署 LLM 应用,多半不是部署模型。模型差不多就是一个托管 API 调用。你真正部署的是它周围的一切:prompt 管理、检索层、缓存、队列、限流、可观测性栈。多数团队会低估这块表面积,直到第二个月 ...