构建一个在浏览器中比较小型 LLM 的工具

开发人员通常难以找到快速试验多个小型语言模型的有效方法。该工具将允许用户输入提示，并在浏览器界面中并排查看各种微型 LLM 的输出。目标受众包括对探索轻量级模型感兴趣的 AI 开发人员、研究人员和爱好者，而无需进行繁重的安装。最小可行产品可以是一个简单的 Web 应用，加载几个预先选定的微型 LLM 进行测试。最大的风险在于被测试 LLM 的准确性和性能，如果效果不佳可能会劝退用户。