公司在部署AI模型时盲目进行，不检查其中嵌入的漏洞或恶意负载。
构建一个扫描器，分析模型架构和权重是否存在篡改或危险行为的迹象。
向部署敏感模型的公司出售企业许可，并为开源项目提供免费版本。
从实现已知的攻击签名开始，然后再开发更复杂的检测方法。
挑战在于跟上这个新领域中快速发展的攻击技术。
AI模型安全扫描器
开发一个工具，在部署前检测AI模型文件中的潜在漏洞。帮助组织防止模型投毒攻击。
为什么是现在
随着AI模型成为部署目标，新的攻击向量正在出现，而传统扫描器无法检测。
- 做给谁
- MLOps团队
- 商业模式
- 企业许可
- 投入量级
- 几个月