AI 安全护栏监控仪表盘

许多已部署的 AI 系统存在未记录的故障模式，导致护栏被静默禁用。运维人员需要实时验证约束的执行情况。

构建一个监控仪表盘，根据配置的边界审计模型输出，并在出现漂移或禁用时发出警报。初期重点关注常见的 LLM 约束，如毒性过滤器。

作为 MLOps 堆栈的一部分，销售给运行内部模型的企业。

MVP：CLI 工具，根据提供的指南对 API 响应进行评分，并提供简单的通过/失败指标。

风险：小众受众可能更倾向于构建内部解决方案。