研究人员在可视化 Transformer 行为和注意力模式方面遇到困难。构建工具来分析和显示 Transformer 电路。研究人员会因为对模型行为的洞察而采用。从注意力可视化开始。风险是受众群体狭窄，仅限于学术界。
transformersvisualizationai
Transformer 可视化工具
为 Transformer 神经网络构建可视化工具。专注于注意力机制和电路分析。
为什么是现在
Transformer 研究正在快速发展，这增加了对可视化的需求。
- 做给谁
- AI 研究人员
- 商业模式
- 开源赞助
- 投入量级
- 几个月