云 ML API 会为简单的分类任务增加延迟和成本。设备上的模型可以解决这个问题,但很难进行优化。
创建一个针对特定硬件的常见用例(垃圾邮件检测、情感分析)的预优化模型市场。
应用开发者将为降低云成本和提高响应速度的模型付费。
从一些针对 Apple Silicon 的 CoreML/TFLite 模型开始。
风险:需要跟上快速发展的硬件。
打包优化后的机器学习模型,以实现快速本地执行。面向需要低延迟决策的应用开发者。
新硬件和框架使得无需依赖云即可在消费设备上进行机器学习推理。
云 ML API 会为简单的分类任务增加延迟和成本。设备上的模型可以解决这个问题,但很难进行优化。
创建一个针对特定硬件的常见用例(垃圾邮件检测、情感分析)的预优化模型市场。
应用开发者将为降低云成本和提高响应速度的模型付费。
从一些针对 Apple Silicon 的 CoreML/TFLite 模型开始。
风险:需要跟上快速发展的硬件。