Bonsai
提供从 1.7B 到 27B 参数规模的模型,支持文本生成、视觉理解(27B 版本)、工具调用、长上下文对话和推理。用户可通过简单的命令行脚本在 Mac、Linux、Windows 上本地部署和运行。
一句话商业模式
为AI 开发者、研究人员、企业解决大模型体积大、推理成本高,难以在本地或移动设备上高效运行,通过Bonsai 系列超低比特量化语言模型及配套部署工具提供价值,主要依靠潜在收费方式:企业级支持、定制化模型训练服务、云 API 调用(假设)赚钱
商业模式画布
提供超低比特量化的语言模型,体积极小,可在本地设备(包括手机)上高效运行,同时支持视觉、工具调用、长上下文等高级功能
评分解析
研究分 73
这是什么
- 是什么
- Bonsai 是一系列超低比特量化的语言模型(1-bit 和三元),由 PrismML 团队开发,旨在让大模型在本地设备上高效运行。
- 给谁用
- 面向 AI 开发者、研究人员、边缘计算工程师、AI 爱好者,以及需要在本地或移动设备上运行大模型的用户。