现在可以在消费级硬件上本地运行大型 AI 模型，但这需要针对性能进行微调。开发者需要工具来压缩和优化模型以适应 Surface Laptop Ultra 的规格。
创建一个 SaaS，分析模型并为本地部署提供优化建议，并提供不同硬件配置的基准测试。
AI 团队和独立开发者愿意为更快的迭代和更低的云账单付费。
从一个基本的模型分析器开始，该分析器建议量化级别和层剪枝。
风险：随着新芯片的发布，特定于硬件的优化可能会过时。
Surface 本地 AI 模型优化
构建一个工具，用于优化 AI 模型以在 Surface 笔记本电脑上本地部署。面向需要高效本地 AI 处理且无云成本的开发者。
为什么是现在
微软的新硬件实现了大规模本地 AI，催生了对优化工具的需求。
- 做给谁
- AI 开发者和团队
- 商业模式
- SaaS 订阅
- 投入量级
- 几个月