研究人员在无需重新训练的情况下，不断探索引导模型行为的新技术。
创建带有统一接口的、文档齐全的引导向量方法实现。
学术界和工业界的 AI 团队愿意为维护版本付费。
从实现几种成熟方法的 Python 包开始。
风险：快速发展的领域可能导致维护滞后。
ai-safetypython
AI 引导向量库
将常见的引导向量技术打包成易于使用的库。帮助研究人员控制模型行为。
为什么是现在
随着模型部署超越基础的文本生成，模型控制的需求日益增长。
- 做给谁
- AI 安全研究人员
- 商业模式
- 实验室赞助
- 投入量级
- 一个周末