LLM 成本优化仪表板

使用多种 LLM API 的开发者难以跟踪支出并比较不同模型的成本/性能。

构建一个仪表板，聚合来自各种 LLM 提供商的使用数据，可视化成本，并提出优化建议，如模型切换或提示工程。

作为 SaaS 产品销售给工程团队，采用基于使用量的分级定价。

首先支持 OpenAI 和 Anthropic API，提供基本的成本跟踪。

风险：主要提供商可能会内置此功能，使独立工具变得不必要。