AI 系统会生成看似合理但晦涩难懂的推理。一个将模型内部映射到可验证步骤的翻译层将建立信任。
出售给部署 AI 决策系统的企业。从简单的注意力可视化开始，然后再进行复杂的解释。
风险：模型架构的快速变化需要不断更新。
aiexplainabilityllm
AI 翻译层，用于神经语言
创建一个工具，以人类可解释的术语解释 AI 输出。服务于 LLM 的业务用户。
为什么是现在
对“神经语言”问题的日益认识，催生了对解释工具的需求。
- 做给谁
- 企业 AI 采用者
- 商业模式
- SaaS 订阅
- 投入量级
- 几个月