【免費下載鏈接】InternVL3-9B-Instruct項目地址https://ai.gitcode.com/OpenGVLab/InternVL3-9B-Instruct點擊查看免費下載InternVL3-9B-Instruct是開源多模態(tài)大語言模型MLLMInternVL3-9B 的SFT監(jiān)督微調版本它已完成原生多模態(tài)預訓練和 SFT但尚未進行 MPO混合偏好優(yōu)化。而 InternVL3-9B不帶 Instruct 后綴的版本是走完全部訓練流程的完整版。兩者參數(shù)量同為 9B、架構完全相同差異只在訓練階段——本文帶你 5 分鐘看懂區(qū)別并給出選型建議。 一句話結論拿不準就選 InternVL3-9B項目官方在 README.md 中明確寫道This is the SFT version of InternVL3-9B, which has undergone native multimodal pre-training and SFT but has not undergone MPO. If youre unsure which version to use, please use the InternVL3-9B version.也就是說日常直接拿來用、跑推理優(yōu)先選 InternVL3-9BMPO 版只有在你想繼續(xù)訓練、做二次開發(fā)時SFT 版才有獨特價值。上圖項目倉庫examples/目錄自帶的示例圖片常用于測試 InternVL3 的圖像描述能力 先搞懂背景InternVL3 的訓練流水線InternVL3 遵循「ViT - MLP - LLM」經典多模態(tài)架構訓練分三個階段階段做什么SFT 版本倉庫完整版 InternVL3-9B① 原生多模態(tài)預訓練圖文視頻數(shù)據(jù)與文本語料混合預訓練??② SFT 監(jiān)督微調高質量、多樣化指令數(shù)據(jù)微調??③ MPO 混合偏好優(yōu)化引入正/負樣本對齊輸出分布??所以兩個版本的權重規(guī)模、模型結構、視覺編碼器InternViT-300M-448px和語言底座internlm3-8b完全一致區(qū)別就是那個? vs ?。?? 核心差異一MPO 帶來的推理能力躍升MPOMixed Preference Optimization混合偏好優(yōu)化是兩者最本質的區(qū)別。在預訓練和 SFT 階段模型學習的是給定標準答案的前文預測下一個 token但推理時模型只能基于自己生成的上文繼續(xù)預測——訓練與推理之間的這種分布偏移會削弱鏈式思維CoT推理表現(xiàn)。MPO 通過引入正樣本 負樣本雙重監(jiān)督來對齊這種偏移其訓練目標是三項損失的加權組合L w_p·L_p(偏好損失) w_q·L_q(質量損失) w_g·L_g(生成損失)實際效果如何官方消融實驗顯示經過 MPO 的模型在7 個多模態(tài)推理基準上全面領先未經 MPO 的對應版本其中 InternVL3-78B、38B 分別提升4.1 分和 4.5 分。更關鍵的是MPO 的訓練數(shù)據(jù)只是 SFT 數(shù)據(jù)的子集——提升來自算法本身而非更多數(shù)據(jù)。 結論如果你的任務涉及數(shù)學、邏輯推理、復雜圖表分析、長鏈 CoTMPO 版的優(yōu)勢是實打實的。?? 核心差異二SFT 版更適合再訓練為什么還有人需要 SFT 版答案是一類典型場景繼續(xù)訓練 / 二次開發(fā)。在你自己的領域數(shù)據(jù)上 SFTSFT 版停在監(jiān)督微調階段沒有經過偏好對齊行為上更接近毛坯繼續(xù)訓練時你可以完全掌控訓練階段與數(shù)據(jù)配比做蒸餾或下游定制從 SFT 版出發(fā)后續(xù)接 MPO、DPO 等偏好訓練的流程更干凈避免在已對齊的模型上疊加對齊帶來的偏置。當然這也意味著 SFT 版在開箱即用的推理/數(shù)學任務上會弱于 MPO 版——這是毛坯與精裝的天然取舍。 怎么選一張決策表搞定使用場景推薦版本理由直接部署、日常對話、圖像問答InternVL3-9BMPO 版推理能力更強官方推薦數(shù)學 / 邏輯 / 圖表等強推理任務InternVL3-9BMPO 版MPO 專治 CoT 分布偏移用自己的數(shù)據(jù)繼續(xù) SFT / LoRA 微調InternVL3-9B-InstructSFT 版訓練階段可控無偏好對齊干擾蒸餾、構建私有領域多模態(tài)模型InternVL3-9B-InstructSFT 版起點干凈流水線自由度高拿不準InternVL3-9B官方建議不確定就用完整版 另外提示推理階段還可疊加Test-Time ScalingBest-of-N 策略配合 VisualPRM-8B 評審模型挑選最佳答案在數(shù)學與推理評測上能再漲一截兩個版本均可受益。 模型本體速覽兩個版本共通的技術細節(jié)如果你想驗證或研究模型本身本倉庫即 SFT 版的完整權重關鍵文件config.json模型主配置?？梢钥吹秸Z言底座model_type: internlm2、48 層、上下文max_position_embeddings: 32768視覺側采用448px 動態(tài)分辨率force_image_size: 448、max_dynamic_patch: 12最多切 12 個圖像塊modeling_internvl_chat.pyInternVLChatModel 主模型實現(xiàn)負責圖文融合與對話生成modeling_intern_vit.pyInternViT 視覺編碼器實現(xiàn)model.safetensors.index.json4 個分片權重的索引文件。值得一提的是InternVL3 引入了V2PE可變視覺位置編碼使用更小更靈活的視覺 token 位置增量顯著增強了長上下文理解能力——這也是 SFT 版與 MPO 版共同享有的能力。? 快速上手5 行代碼加載 SFT 版使用transformers需transformers4.37.2加載本倉庫模型即可體驗import torch from transformers import AutoModel model AutoModel.from_pretrained( OpenGVLab/InternVL3-9B-Instruct, torch_dtypetorch.bfloat16, low_cpu_mem_usageTrue, trust_remote_codeTrue).eval().cuda()需要生產部署時推薦 README.md 中的LMDeploy方案Turbomind 引擎 兼容 OpenAI 接口的 API Server多卡推理與批處理都有現(xiàn)成示例可直接參考 README 的 Quick Start 與 Deployment 章節(jié)。? 總結InternVL3-9B-Instruct SFT 版完成了原生多模態(tài)預訓練 SFT沒有 MPOInternVL3-9B MPO 版完整版在 SFT 基礎上追加混合偏好優(yōu)化推理能力更強選型口訣直接推理用 MPO 版繼續(xù)訓練用 SFT 版拿不準就用 MPO 版兩者架構、參數(shù)量、視覺編碼器完全相同切換成本幾乎為零可以放心按場景選用。贊分享【免費下載鏈接】InternVL3-9B-Instruct項目地址https://ai.gitcode.com/OpenGVLab/InternVL3-9B-Instruct點擊查看免費下載相關推薦Phaser 4 Sprite 動畫完整指南從 AnimationManager 到 AnimationState 的實戰(zhàn)全解Phaser 4 Sprite 動畫完整指南從 AnimationManager 到 AnimationState 的實戰(zhàn)全解 本篇技術指南圍繞 Phaser最全面Manim版本解析社區(qū)版vs原版核心差異與選擇指南最全面Manim版本解析社區(qū)版vs原版核心差異與選擇指南 你還在為選擇Manim版本發(fā)愁嗎作為創(chuàng)建數(shù)學解釋視頻的頂級動畫引擎Animation engin圖形學教育Kavita 社區(qū)版 vs 商業(yè)版5大核心差異與最佳選擇指南Kavita 社區(qū)版 vs 商業(yè)版5大核心差異與最佳選擇指南 Kavita是一款快速、功能豐富的跨平臺閱讀服務器專注于漫畫閱讀體驗旨在為用戶提供完整的閱讀后端前端上一篇終極鼠標革命如何用Mac Mouse Fix讓普通鼠標在macOS上超越蘋果觸控板下一篇使用 ChatterBot 構建 Python 聊天機器人從零訓練到接入本地大模型Ollama的完整實戰(zhàn)創(chuàng)作聲明：本文部分內容由AI輔助生成（AIGC），僅供參考 InternVL3-9B-Instruct vs InternVL3-9B如何選？SFT版與MPO版核心差異全解讀
【免費下載鏈接】InternVL3-9B-Instruct項目地址https://ai.gitcode.com/OpenGVLab/InternVL3-9B-Instruct點擊查看免費下載InternVL3-9B-Instruct是開源多模態(tài)大語言模型MLLMInternVL3-9B 的SFT監(jiān)督微調版本它已完成原生多模態(tài)預訓練和 SFT但尚未進行 MPO混合偏好優(yōu)化。而 InternVL3-9B不帶 Instruct 后綴的版本是走完全部訓練流程的完整版。兩者參數(shù)量同為 9B、架構完全相同差異只在訓練階段——本文帶你 5 分鐘看懂區(qū)別并給出選型建議。 一句話結論拿不準就選 InternVL3-9B項目官方在 README.md 中明確寫道This is the SFT version of InternVL3-9B, which has undergone native multimodal pre-training and SFT but has not undergone MPO. If youre unsure which version to use, please use the InternVL3-9B version.也就是說日常直接拿來用、跑推理優(yōu)先選 InternVL3-9BMPO 版只有在你想繼續(xù)訓練、做二次開發(fā)時SFT 版才有獨特價值。上圖項目倉庫examples/目錄自帶的示例圖片常用于測試 InternVL3 的圖像描述能力 先搞懂背景InternVL3 的訓練流水線InternVL3 遵循「ViT - MLP - LLM」經典多模態(tài)架構訓練分三個階段階段做什么SFT 版本倉庫完整版 InternVL3-9B① 原生多模態(tài)預訓練圖文視頻數(shù)據(jù)與文本語料混合預訓練??② SFT 監(jiān)督微調高質量、多樣化指令數(shù)據(jù)微調??③ MPO 混合偏好優(yōu)化引入正/負樣本對齊輸出分布??所以兩個版本的權重規(guī)模、模型結構、視覺編碼器InternViT-300M-448px和語言底座internlm3-8b完全一致區(qū)別就是那個? vs ?。?? 核心差異一MPO 帶來的推理能力躍升MPOMixed Preference Optimization混合偏好優(yōu)化是兩者最本質的區(qū)別。在預訓練和 SFT 階段模型學習的是給定標準答案的前文預測下一個 token但推理時模型只能基于自己生成的上文繼續(xù)預測——訓練與推理之間的這種分布偏移會削弱鏈式思維CoT推理表現(xiàn)。MPO 通過引入正樣本 負樣本雙重監(jiān)督來對齊這種偏移其訓練目標是三項損失的加權組合L w_p·L_p(偏好損失) w_q·L_q(質量損失) w_g·L_g(生成損失)實際效果如何官方消融實驗顯示經過 MPO 的模型在7 個多模態(tài)推理基準上全面領先未經 MPO 的對應版本其中 InternVL3-78B、38B 分別提升4.1 分和 4.5 分。更關鍵的是MPO 的訓練數(shù)據(jù)只是 SFT 數(shù)據(jù)的子集——提升來自算法本身而非更多數(shù)據(jù)。 結論如果你的任務涉及數(shù)學、邏輯推理、復雜圖表分析、長鏈 CoTMPO 版的優(yōu)勢是實打實的。?? 核心差異二SFT 版更適合再訓練為什么還有人需要 SFT 版答案是一類典型場景繼續(xù)訓練 / 二次開發(fā)。在你自己的領域數(shù)據(jù)上 SFTSFT 版停在監(jiān)督微調階段沒有經過偏好對齊行為上更接近毛坯繼續(xù)訓練時你可以完全掌控訓練階段與數(shù)據(jù)配比做蒸餾或下游定制從 SFT 版出發(fā)后續(xù)接 MPO、DPO 等偏好訓練的流程更干凈避免在已對齊的模型上疊加對齊帶來的偏置。當然這也意味著 SFT 版在開箱即用的推理/數(shù)學任務上會弱于 MPO 版——這是毛坯與精裝的天然取舍。 怎么選一張決策表搞定使用場景推薦版本理由直接部署、日常對話、圖像問答InternVL3-9BMPO 版推理能力更強官方推薦數(shù)學 / 邏輯 / 圖表等強推理任務InternVL3-9BMPO 版MPO 專治 CoT 分布偏移用自己的數(shù)據(jù)繼續(xù) SFT / LoRA 微調InternVL3-9B-InstructSFT 版訓練階段可控無偏好對齊干擾蒸餾、構建私有領域多模態(tài)模型InternVL3-9B-InstructSFT 版起點干凈流水線自由度高拿不準InternVL3-9B官方建議不確定就用完整版 另外提示推理階段還可疊加Test-Time ScalingBest-of-N 策略配合 VisualPRM-8B 評審模型挑選最佳答案在數(shù)學與推理評測上能再漲一截兩個版本均可受益。 模型本體速覽兩個版本共通的技術細節(jié)如果你想驗證或研究模型本身本倉庫即 SFT 版的完整權重關鍵文件config.json模型主配置?？梢钥吹秸Z言底座model_type: internlm2、48 層、上下文max_position_embeddings: 32768視覺側采用448px 動態(tài)分辨率force_image_size: 448、max_dynamic_patch: 12最多切 12 個圖像塊modeling_internvl_chat.pyInternVLChatModel 主模型實現(xiàn)負責圖文融合與對話生成modeling_intern_vit.pyInternViT 視覺編碼器實現(xiàn)model.safetensors.index.json4 個分片權重的索引文件。值得一提的是InternVL3 引入了V2PE可變視覺位置編碼使用更小更靈活的視覺 token 位置增量顯著增強了長上下文理解能力——這也是 SFT 版與 MPO 版共同享有的能力。? 快速上手5 行代碼加載 SFT 版使用transformers需transformers4.37.2加載本倉庫模型即可體驗import torch from transformers import AutoModel model AutoModel.from_pretrained( OpenGVLab/InternVL3-9B-Instruct, torch_dtypetorch.bfloat16, low_cpu_mem_usageTrue, trust_remote_codeTrue).eval().cuda()需要生產部署時推薦 README.md 中的LMDeploy方案Turbomind 引擎 兼容 OpenAI 接口的 API Server多卡推理與批處理都有現(xiàn)成示例可直接參考 README 的 Quick Start 與 Deployment 章節(jié)。? 總結InternVL3-9B-Instruct SFT 版完成了原生多模態(tài)預訓練 SFT沒有 MPOInternVL3-9B MPO 版完整版在 SFT 基礎上追加混合偏好優(yōu)化推理能力更強選型口訣直接推理用 MPO 版繼續(xù)訓練用 SFT 版拿不準就用 MPO 版兩者架構、參數(shù)量、視覺編碼器完全相同切換成本幾乎為零可以放心按場景選用。贊分享【免費下載鏈接】InternVL3-9B-Instruct項目地址https://ai.gitcode.com/OpenGVLab/InternVL3-9B-Instruct點擊查看免費下載相關推薦Phaser 4 Sprite 動畫完整指南從 AnimationManager 到 AnimationState 的實戰(zhàn)全解Phaser 4 Sprite 動畫完整指南從 AnimationManager 到 AnimationState 的實戰(zhàn)全解 本篇技術指南圍繞 Phaser最全面Manim版本解析社區(qū)版vs原版核心差異與選擇指南最全面Manim版本解析社區(qū)版vs原版核心差異與選擇指南 你還在為選擇Manim版本發(fā)愁嗎作為創(chuàng)建數(shù)學解釋視頻的頂級動畫引擎Animation engin圖形學教育Kavita 社區(qū)版 vs 商業(yè)版5大核心差異與最佳選擇指南Kavita 社區(qū)版 vs 商業(yè)版5大核心差異與最佳選擇指南 Kavita是一款快速、功能豐富的跨平臺閱讀服務器專注于漫畫閱讀體驗旨在為用戶提供完整的閱讀后端前端上一篇終極鼠標革命如何用Mac Mouse Fix讓普通鼠標在macOS上超越蘋果觸控板下一篇使用 ChatterBot 構建 Python 聊天機器人從零訓練到接入本地大模型Ollama的完整實戰(zhàn)創(chuàng)作聲明：本文部分內容由AI輔助生成（AIGC），僅供參考