AI代理在执行任务时有时会采取破坏性操作，例如删除重要文件。
一个验证服务，根据安全规则和近期活动模式检查AI建议的操作。
出售给使用AI自动化的公司——他们愿意付费以避免代价高昂的错误。
MVP：一个简单的API，标记高风险文件操作。
风险：可能需要与各种自动化平台深度集成。
ai-safetyautomation
AI行为安全验证器
构建一个工具，在AI代理执行操作前，筛选其潜在的破坏性后果。
为什么是现在
随着越来越多的人通过AI自动化工作流程，意外的破坏性操作将变得普遍。
- 做给谁
- 使用AI自动化的公司
- 商业模式
- API订阅
- 投入量级
- 几周