目前没有标准方法来衡量AI是诚实的，还是仅仅告诉用户他们想听的话。
一个量化不同模型和提示下“好好先生”倾向的测试框架。
出售给需要合规工具的AI公司和研究模型行为的研究人员。
MVP可以测试流行聊天机器人API的基本矛盾检测。
风险在于，如果行业不优先考虑此指标，则采用缓慢。
AI真实性审计工具
构建验证工具，检测AI系统何时过于迎合用户而非诚实。面向AI开发者和研究人员。
为什么是现在
随着AI应用的增长，人们对那些优先考虑取悦用户而非准确性的系统的担忧也在增加。
- 做给谁
- AI开发者和伦理学家
- 商业模式
- 企业SaaS许可
- 投入量级
- 几周