公司希望使用开源AI，但对模型安全性和行为缺乏信心。一项服务将在部署前对模型运行对抗性测试、偏差检查和合规性扫描。
为关键部署提供自动化扫描和人工专家审查。按分析的模型收费或通过企业订阅。
从针对常见漏洞的基本自动化扫描开始，然后扩展到自定义测试框架。
最大的风险是AI模型的发展速度超过了测试方法的跟进速度。
aisecurityopen-source
开源AI模型安全审计
构建一项服务，在部署前审计和压力测试开源AI模型是否存在漏洞和偏差。帮助企业安全采用AI。
为什么是现在
Hugging Face事件暴露了盲目信任开源AI模型的风险，催生了对验证工具的需求。
- 做给谁
- 企业AI采用者
- 商业模式
- 按模型审计
- 投入量级
- 几个月