AI团队在手动测试新硬件的性能上浪费了时间。
构建一个云服务，该服务可以在不同的加速器上运行标准化的机器学习基准测试。提供吞吐量、内存使用和能效的并排比较。
云服务提供商和硬件供应商将愿意付费来展示其平台的性能。对针对专有模型进行定制基准测试收费。
从在几种GPU类型上进行基本的图像和文本模型基准测试开始。
风险在于硬件供应商创建自己的基准测试套件。
新GPU的AI基准测试
为新的AI加速器硬件创建标准化基准测试。帮助开发人员比较芯片的实际性能。
为什么是现在
新的专用AI芯片每周都在发布，但缺乏可比性工具。
- 做给谁
- 机器学习工程师
- 商业模式
- 赞助
- 投入量级
- 几周