小型团队需要经济高效地运行 20-100GB 的模型，而无需构建自定义 SSD 缓存。
创建一个智能地从快速 SSD 流式传输模型层的托管平台。提供 Janas 和类似框架的简单部署。
按使用的 SSD 带宽按小时收费。目标是独立 AI 开发者和研究人员。
MVP 可以是具有基准测试设置的预配置云实例。
风险在于云提供商将其添加为标准选项。
SSD 优化模型托管
提供云托管服务，用于内存不足但容量足够大的模型。填补本地和大型云之间的空白。
为什么是现在
新技术使 SSD 托管模型成为可能，但没有平台专门针对这一中间地带。
- 做给谁
- 独立 AI 开发者
- 商业模式
- 云托管费
- 投入量级
- 几周