AI 系统经常过于保守地拒绝合理的请求。一个后处理工具可以将这些拒绝改写成有用的响应。
提供一个接受 AI 输出并应用安全保护平滑处理的 API。按每千次处理的响应收费。
从简单的基于规则的调整开始。稍后整合更复杂的模型。
平衡安全性和有用性很棘手。从低风险用例开始。
ai-safetynlp
AI 拒绝修复
开发一个修改 AI 输出以减少不必要拒绝的工具。帮助开发人员创建更具协作性的 AI 助手。
为什么是现在
控制 AI 行为的新技术创造了商业机会。
- 做给谁
- AI 开发人员
- 商业模式
- 按使用量付费 API
- 投入量级
- 几周