尽管具有潜在的成本/性能优势，硬件团队仍难以在 FPGA 上高效地实现 LLM。咨询公司可以提供架构审查、RTL 优化和基准测试。
为特定的模型架构提供固定价格的优化冲刺，以及持续的支持合同。
在扩展到定制架构之前，先为常见的开源模型提供基本咨询。
除了半导体公司之外，细分市场限制了市场规模。
llmfpgahardware
FPGA LLM 优化咨询
提供在 FPGA 上运行 LLM 的专业优化服务。帮助硬件团队实现生产级性能。
为什么是现在
Apex 芯片项目证明了 LLM 可以在定制硬件上运行，从而产生了对优化专业知识的需求。
- 做给谁
- 硬件工程师
- 商业模式
- 咨询费
- 投入量级
- 几个月