手机AI的DeepSeek时刻:Bonsai 27B模型登场
(资料图片)
IT之家 7 月 15 日消息,@PrismML 官方账号今天(7 月 15 日)发布博文,宣布推出 Bonsai 27B 模型,基于 Qwen 3.6 27B 模型微调,在保留 90% 智能水平的情况下,可以在 12GB 内存的 iPhone 上原生运行。
Qwen 3.6 27B 模型进一步提升本地 AI 的能力,重点涵盖多步推理、结构化工具使用、长上下文工作流,以及连贯的智能体循环。
在 16-bit 精度下,Qwen 3.6 27B 模型需要占用 54GB 空间,而即便在 4-bit 精度下,该模型也需要占用 18GB 空间,对于手机和大部分笔记本而言,内存占用过高导致无法正常运行。
Bonsai 27B 模型基于 Qwen 3.6 27B 模型微调,推出 3-bit 和 1-bit 两个版本:
- Ternary(3-bit)Bonsai 27B:5.9 GB,每权重 1.71 有效位,针对笔记本级质量进行了优化。
- 1-bit Bonsai 27B:3.9 GB,每权重 1.125 有效位,针对手机级占用空间进行了优化。
美国软件工程师,开源本地 AI 客户端 AnythingLLM 的创始人蒂莫西 · 卡兰巴特(Tim Carambat)表示:“它的影响远比 Fable、Mythos 或 GPT 5.6 更重要。甚至可能比它们加起来还要重要。这才是 AI 的真正 DeepSeek 时刻。”
IT之家附上相关截图如下:
-
国家统计局:6月份规上工业原煤生产同比下降 电力生产稳定增长
-
长飞光纤大涨9.41% 预计上半年净利润暴增-焦点滚动
-
手机AI的DeepSeek时刻:Bonsai 27B模型登场
-
伟志控股(01305.HK)7月14日斥资1.08万港元回购1.2万股
-
Frontier航空签约Starlink 2027年推机上高速WiFi
-
速看:心泰医疗(02291)7月14日斥资96.71万港元回购9.4万股
-
每日快播:中国平安-R(82318.HK)7月14日收盘涨0.87%
-
开拓者夏联主帅:赢球的关键是让杨瀚森多拿球|每日快讯
-
一艘小船温暖整座城市 沈阳大哥冒雨划船护送被困路人
-
头条:53分先生!加盟欧洲球队!10年NBA生涯结束了
X 关闭
X 关闭


