开发人员在运行过于强大的模型时浪费金钱，或因模型不足而牺牲质量。
创建一个决策引擎，根据用例需求推荐模型配置。
收取 API 费用或从优化中获得部分节省。
MVP 可以是一个简单的计算器，然后添加自动测试。
模型格局的快速变化使得维护具有挑战性。
aioptimizationcloud
LLM 成本效益优化器
构建一个帮助开发人员根据其预算和性能需求找到最佳 LLM 配置的工具。
为什么是现在
随着 LLM 使用量的增长，团队需要帮助来应对复杂的成本/性能权衡。
- 做给谁
- AI 开发人员
- 商业模式
- SaaS 或使用费
- 投入量级
- 几周