推理

经得起流量压力的思维链提示

思维链(Chain-of-Thought)是最容易上线、也最难维持的推理技巧。让模型在给出答案前先写出推理过程,这个想法在论文里非常稳健,但在生产环境中,同一个 Prompt 在 10 RPS 下表现 ...