LLM优化咨询

| 部署大型语言模型的公司面临响应时间慢和计算成本高的问题。推测解码可以显著改善这两方面，但需要专业知识。

提供咨询服务，分析模型并实施优化技术。提供基准测试和持续调优服务。

运行自己模型的初创公司会为可衡量的性能提升付费。提供基于成功的定价。

从审计和建议开始，后期再构建自动化工具。

风险在于技术可能迅速标准化和自动化。