AI 研究人员为模型推理支付高昂的云成本，而数百万台闲置的家庭设备却未被利用。一个点对点计算网络可以将这些资源连接起来。
开发协调软件，将推理作业安全地分配到志愿者设备上。通过收取计算成本节省的一部分来获利。
从在志愿者游戏 PC 上为小型模型进行简单的概念验证分布式处理开始。
网络可靠性和异构硬件使得性能一致性面临挑战。
distributedaicloud
分布式 AI 计算协调器
构建软件以协调闲置的家庭设备进行模型推理。面向需要更便宜的分布式计算的研究人员。
为什么是现在
消费级硬件的进步使得家庭设备集群变得可行。
- 做给谁
- AI 研究人员
- 商业模式
- 计算市场
- 投入量级
- 几个月