LLM 代理经常以不透明的方式失败,尤其是在分布式环境中。创建一个记录和可视化重试的工具,显示失败的位置和原因。 AI 工程团队会为此付费以减少调试时间。从一个输出失败跟踪的 CLI 开始。风险是 LLM 的可靠性提高,降低了对该工具的需求。
LLM 重试调试工具
构建一个可视化 LLM 代理重试和失败的调试器。目标是构建基于代理的 AI 系统的开发者。
为什么是现在
随着 LLM 代理的复杂性不断增加,调试它们的分布式系统变得越来越痛苦。
- 做给谁
- AI 开发者
- 商业模式
- 月度 SaaS 订阅
- 投入量级
- 几周