2025.05.18
读了一篇关于 AI Agent 的论文 Read a Paper on AI Agents
ReAct 模式比单纯的 CoT 效果好很多,尤其是在需要调用外部工具的场景。但延迟是个问题,每次推理都要等好几秒。
想到一个优化方向:预先把常见问题的工具调用链缓存起来,减少重复推理。
2025.05.18
ReAct 模式比单纯的 CoT 效果好很多,尤其是在需要调用外部工具的场景。但延迟是个问题,每次推理都要等好几秒。
想到一个优化方向:预先把常见问题的工具调用链缓存起来,减少重复推理。