目前没有集中方式来跟踪不同公司和系统中的 AI 安全问题。这使得模式检测变得困难。
构建一个社区编辑的 AI 事件数据库，包含标准化的分类法。包括验证流程和分析工具。
潜在资助者包括研究机构和负责任的 AI 组织。
从简单的事件报告开始。稍后添加验证和分析功能。
风险：可能难以获取秘密公司的不完整信息。
AI 安全事件数据库
创建一个标准化的存储库，用于跟踪和分析 AI 安全事件。帮助研究人员和政策制定者发现新兴风险。
为什么是现在
随着 AI 系统能力越来越强，对独立于公司公关的透明事件跟踪的需求日益增长。
- 做给谁
- AI 研究人员和政策制定者
- 商业模式
- 赠款和赞助
- 投入量级
- 几周