← 返回首页

Agent优化性能36万倍

发布时间: 2026-09-26 14:22(北京时间)

摘要: 作者复盘一次工具服务重构:旧逻辑由 GPT-4o 按早期人工约束生成,速度仅 0.366 条/秒且不稳定;改用 ds4.1f 智能体后,约 20 分钟将吞吐提升至 15.36 万条/秒。判断重点不在模型代差,而在人预设的低效实现框架;随智能体协作习惯成熟,作者减少对 Agent 施加多余约束。语调克制、自省,带工程迭代观察。

标签: 性能优化, 智能体协作, 模型差异, 实现约束, 工程复盘, 自省, 克制

字数: 352

原文链接: /7402396589/RjTaLjIgo

[哈哈] 有个工具服务当时应该是 GPT-4o 帮我写的。

按当时的实现,某个逻辑的处理速度大概是 0.366 条/s。虽然日常使用也觉得挺慢的,但遵循“能用就行”的原则,就一直没动。

但最近有点受不了,速度慢影响其他相关的服务,每过三五天服务就莫名 exit,界面和交互也有想吐槽的地方。索性今天就让 Hermes 来个大动工。

模型是 ds4.1f,从评估方案到改完大概20分钟。
该逻辑的处理速度优化到 15.36万条/s。

模型之间能力是有差距,但我并不认为当时的 GPT-4o 写不出如此高效的逻辑,更可能的情况是,当时我以自己的经验固化了一套并不理想的实现逻辑,AI 只是照着做而已。

随着 Agent 的出现和使用习惯变化,现在我已经很少再给 Agent 新增没有必要的实现约束。