語(yǔ)言模型剛刷屏文生圖也來(lái)了Bonsai Image 曝光PrismML 在下一盤(pán)端側(cè)全家桶大棋【免費(fèi)下載鏈接】Ternary-Bonsai-2-27B-mlx-2bit項(xiàng)目地址: https://ai.gitcode.com/hf_mirrors/prism-ml/Ternary-Bonsai-2-27B-mlx-2bit從 7 月 Bonsai 27B 被冠以手機(jī) AI 的 DeepSeek 時(shí)刻刷屏到 9 月 Bonsai 2 27B 以不到 1/9 內(nèi)存占用保留基模 98.2% 性能再度占領(lǐng)科技頭條PrismML 的低比特路線已經(jīng)連續(xù)制造了兩輪熱點(diǎn)。而就在這波語(yǔ)言模型熱度尚未平息之際社區(qū)情報(bào)中又出現(xiàn)了文生圖模型 Bonsai Image的曝光信號(hào)。當(dāng)能說(shuō)會(huì)道的端側(cè)語(yǔ)言模型開(kāi)始向看圖、作畫(huà)延展PrismML 所押注的顯然不止是一個(gè) 27B 的聊天模型——本文結(jié)合社區(qū)真實(shí)輿情與本倉(cāng)庫(kù)Ternary-Bonsai-2-27B-mlx-2bit的源碼細(xì)節(jié)拆解這條端側(cè)全家桶的產(chǎn)品邏輯與技術(shù)支撐。Bonsai Image 是什么從 27B 語(yǔ)言模型到文生圖的延展先厘清時(shí)間線。2026 年 7 月PrismML 基于 Qwen 3.6 27B 微調(diào)的 Bonsai 27B 發(fā)布推出 1-bit3.9GB、約 1.125 bits/weight與 Ternary5.9GB、約 1.71 bits/weight兩個(gè)版本首次讓 27B 級(jí)模型在 12GB 內(nèi)存的 iPhone 17 Pro 上原生運(yùn)行AnythingLLM 創(chuàng)始人因此給出了AI 的真正 DeepSeek 時(shí)刻的評(píng)價(jià)。9 月Bonsai 2 27B 接棒基模升級(jí)為 Qwen3.8 27B推理、編程、視覺(jué)、長(zhǎng)程智能體能力全面刷新以約 5.9GB 的體積不足基模 54GB FP16 的 1/9取得基模 98.2% 的綜合基準(zhǔn)分?jǐn)?shù)。本倉(cāng)庫(kù)正是該模型的 MLX 打包版本8.60GB 磁盤(pán)占用7.67GB 打包語(yǔ)言權(quán)重 0.92GB 視覺(jué)塔27.36B 總參數(shù)Apache 2.0 開(kāi)放。緊接著社區(qū)出現(xiàn)了文生圖模型 Bonsai Image的曝光信息。雖然目前公開(kāi)細(xì)節(jié)有限但從 PrismML 已有的技術(shù)資產(chǎn)看這一步并不突?！緜}(cāng)庫(kù)的 config.json 中components.vision: true明確聲明這是一個(gè)攜帶視覺(jué)塔的多模態(tài)包0.46B 參數(shù)、27 層、patch size 16、輸出對(duì)齊 5120 維語(yǔ)言隱藏層的官方 Qwen 視覺(jué)塔以 FP16 原樣未量化隨包分發(fā)。配套的 runtime/vision_artifact.py 提供了完整的 VLM 加載鏈路構(gòu)建 Qwen3VL 處理器、將 402 個(gè)已打包模塊安裝進(jìn)語(yǔ)言模型、處理|im_start|圖像 token 與多模態(tài) chat 模板。也就是說(shuō)看圖理解圖像輸入在 Bonsai 2 27B 上已經(jīng)是開(kāi)箱即用的能力——README 中 MMMU-Pro 75.49、OCR Bench v2 56.88 的視覺(jué)基準(zhǔn)成績(jī)即是證據(jù)。從讀圖到生圖是一個(gè)自然的模態(tài)延展方向但技術(shù)上并非同一件事。語(yǔ)言模型的低比特方法論三值權(quán)重 FP16 分組縮放 Hadamard 旋轉(zhuǎn)基可以直接遷移到擴(kuò)散或自回歸圖像生成模型的骨干上端側(cè)文生圖恰恰被公認(rèn)卡在兩條約束上一是生成模型權(quán)重與 KV/中間激活的帶寬壓力遠(yuǎn)高于純文本推理二是圖像生成對(duì)長(zhǎng)程一致性、細(xì)節(jié)保真度的要求讓低比特壓縮的容錯(cuò)空間更小。PrismML 在此前 1-bit/三值路線上的核心賣點(diǎn)——訓(xùn)練階段即約束低比特格式、無(wú)高精度逃生通道見(jiàn) README.md 與 hadamard.json 的 manifest 聲明——如果能在圖像生成模型上復(fù)現(xiàn)Bonsai Image 就具備與語(yǔ)言模型同源的差異化故事。反之如果只是對(duì)開(kāi)源文生圖模型做事后量化則難以與已有方案拉開(kāi)代差。這是觀察其后續(xù)發(fā)布時(shí)最值得盯住的判斷點(diǎn)。PrismML 端側(cè)全家桶的產(chǎn)品布局猜想把社區(qū)情報(bào)與倉(cāng)庫(kù)證據(jù)放在一起PrismML 的產(chǎn)品版圖已經(jīng)相當(dāng)清晰且每一塊都能在本倉(cāng)庫(kù)找到落點(diǎn)第一層語(yǔ)言智能底座。從 Bonsai-8B-GGUF1.15GB、Q1_0 格式、93% 存儲(chǔ)壓縮到 Bonsai 27B 的 1-bit/三值雙版本再到 Bonsai 2 27B產(chǎn)品線覆蓋了從 8B 到 27B、從手機(jī)到筆記本到單 GPU 服務(wù)器的完整檔位。本倉(cāng)庫(kù)的 README.md 給出了這一層的核心指標(biāo)語(yǔ)言模型 1.72 bits/weight 的真實(shí)表示成本理想化約 9.3 倍 vs FP16、262K 上下文、混合注意力骨干約 75% 線性注意力 25% 全注意力見(jiàn) config.json 的layer_types與full_attention_interval: 4以及跨平臺(tái)吞吐——RTX 5090 上 PQ2_0 解碼 129.9 tok/s72W 的 L4 上約 30 tok/sApple M5 Pro 上約 28 tok/s 且 GPU 軌功耗僅 27.5W。第二層多模態(tài)感知。視覺(jué)塔隨語(yǔ)言模型同包分發(fā)是倉(cāng)庫(kù)里最明確的信號(hào)——config.json 的components: {text: true, vision: true, mtp: false}與 runtime/vision_artifact.py 的完整 VLM 運(yùn)行時(shí)共同構(gòu)成語(yǔ)言 視覺(jué)雙能力包。而高通攜手 PrismML 發(fā)布 1-bit Bonsai AI、主打 AI 眼鏡離線識(shí)圖問(wèn)答的報(bào)道說(shuō)明這層能力已被芯片廠商當(dāng)作端側(cè)落地場(chǎng)景來(lái)合作。MIT 科技評(píng)論把 8B 模型塞進(jìn) iPhone、功耗省掉 80%、蘋(píng)果被曝接洽 PrismML 評(píng)估在 iPhone 上直接運(yùn)行更大規(guī)模模型等消息則從產(chǎn)業(yè)鏈側(cè)印證了該技術(shù)路線的吸引力。第三層內(nèi)容生成Bonsai Image 的信號(hào)。從語(yǔ)言到視覺(jué)理解再到圖像生成正是端側(cè) AI 全家桶的最后一環(huán)本地既懂文本、能讀圖還能按需作畫(huà)。Bonsai Image 的曝光與 PrismML 已披露的視覺(jué)資產(chǎn)0.92GB FP16 視覺(jué)塔、mlx-vlm 運(yùn)行時(shí)、多模態(tài) chat 模板形成了技術(shù)拼圖的互補(bǔ)關(guān)系——先解決理解再攻生成符合端側(cè)芯片功耗、內(nèi)存預(yù)算的漸進(jìn)釋放節(jié)奏。支撐這套布局的還有工程生態(tài)層本倉(cāng)庫(kù)同時(shí)提供 MLXApple Silicon、含 iOS/macOS 的 Swift 分支與 CUDA 后端GGUF 伴生包提供 PTQ1_05.95GB、密集三值編碼與 PQ2_07.21GB、2-bit 槽位兩種打包runtime/codec.py 實(shí)現(xiàn)了兩種 GGUF 格式到 MLX affine 2-bit 的無(wú)損轉(zhuǎn)碼reload-validation.json 記錄 402 個(gè)打包模塊的逐位驗(yàn)證quickstart.py 一行命令即可跑通文本與視覺(jué)推理。社區(qū)側(cè)Bonsai-demo 的增量下載、Docker GPU 部署、Brave Search MCP 集成等教程密集涌現(xiàn)說(shuō)明圍繞該模型已形成實(shí)際可用的部署生態(tài)而不僅是發(fā)布會(huì)上的 PPT 指標(biāo)。端側(cè)多模態(tài)會(huì)成為下一輪競(jìng)爭(zhēng)焦點(diǎn)嗎把視角拉遠(yuǎn)端側(cè) AI 的敘事正在經(jīng)歷一次范式的顯式化。36Kr 在報(bào)道中使用的措辭頗具代表性——AI 進(jìn)化從規(guī)模轉(zhuǎn)向智能密度。本倉(cāng)庫(kù) README.md 恰好定義并量化了這個(gè)指標(biāo)D -log2(1 - score/100) / size_GBBonsai 2 27B 達(dá)到 0.469 1/GB是傳統(tǒng) 2-bit 構(gòu)建IQ2_XXS0.199的 2.3 倍以上是 FP16 基模0.053的近 9 倍。當(dāng)每 GB 能換來(lái)多少可用智能成為度量衡多模態(tài)恰恰是拉大密度差距的杠桿同一份內(nèi)存預(yù)算里能看能畫(huà)的模型比純文本模型邊際價(jià)值更高這正是 Bonsai Image 出現(xiàn)的邏輯土壤。但端側(cè)多模態(tài)要真正成為下一輪競(jìng)爭(zhēng)焦點(diǎn)仍需跨過(guò)幾道現(xiàn)實(shí)門(mén)檻。其一低比特在生成任務(wù)上的質(zhì)量拐點(diǎn)語(yǔ)言模型上 98.2% 的保留率不等于圖像生成上同樣樂(lè)觀——圖像對(duì)高頻細(xì)節(jié)、全局一致性的敏感度更高README.md 中視覺(jué)類別MMMU-Pro 66.19 vs FP16 71.36已是全類別中差距最大的一項(xiàng)生成任務(wù)只會(huì)更苛刻。其二端側(cè)帶寬與功耗的現(xiàn)實(shí)約束文生圖的前向計(jì)算量遠(yuǎn)超文本推理即便權(quán)重被壓到 1.72 bits/weight自回歸擴(kuò)散的步數(shù)疊加仍會(huì)考驗(yàn) NPU/GPU 的峰值吞吐社區(qū)對(duì) Bonsai 1-bit 版的實(shí)測(cè)也提示了 tool calling 等 Agent 能力在極端量化下的下降數(shù)個(gè)百分點(diǎn)生成類能力大概率面臨同樣的選擇性退化。其三生態(tài)縱深llama.cpp、MLX 的定制內(nèi)核目前圍繞語(yǔ)言推理優(yōu)化圖像生成需要新的算子與內(nèi)存規(guī)劃這是從能跑到好用的工程鴻溝。結(jié)論上端側(cè)多模態(tài)幾乎是確定的方向——隱私、離線、低延遲的訴求在手機(jī)、眼鏡、車載等場(chǎng)景同樣指向看與畫(huà)而 PrismML 的差異化不在模態(tài)本身而在低比特方法論能否泛化到生成模型這個(gè)關(guān)鍵假設(shè)上。Bonsai Image 若真能兌現(xiàn)訓(xùn)練期約束 無(wú)逃生通道的三值/1-bit 圖像生成端側(cè)全家桶將從產(chǎn)品敘事變成技術(shù)事實(shí)若只是跟隨式量化則大概率停留在又一個(gè)端側(cè)生圖 demo的層級(jí)。無(wú)論結(jié)果如何從 Bonsai 27B 到 Bonsai 2 27B 再到 Bonsai ImagePrismML 已經(jīng)用連續(xù)三輪的節(jié)奏證明了一件事這場(chǎng)競(jìng)爭(zhēng)的主戰(zhàn)場(chǎng)正從云端參數(shù)量競(jìng)賽轉(zhuǎn)向端側(cè)每 GB 智能密度的貼身肉搏?！久赓M(fèi)下載鏈接】Ternary-Bonsai-2-27B-mlx-2bit項(xiàng)目地址: https://ai.gitcode.com/hf_mirrors/prism-ml/Ternary-Bonsai-2-27B-mlx-2bit創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考