一、模型速覽10 月 15 日階躍星辰把 Step 5 Preview 的權(quán)重掛上了 Hugging Face 和魔搭FP8、BF16 雙版本同步放出另有一個(gè) NVFP4 構(gòu)建。智東西當(dāng)晚的標(biāo)題是OpenRouter 周榜全球第二這個(gè)國(guó)產(chǎn)模型終于開源了——近七天 Token 用量約 18.8 萬(wàn)億周榜日榜都是第二。項(xiàng)目參數(shù)發(fā)布方階躍星辰StepFun開放權(quán)重日期2026-10-15API 9 月 20 日已商用總參數(shù) / 激活6043 億官方取整 600B/ 每 token 270 億架構(gòu)92 層稀疏 MoE88 層 MoE 4 層稠密352 路由專家 Top-8 1 共享專家上下文原生 1M 輸入最高 1M 輸出輸入模態(tài)文本 圖像API 側(cè)另加視頻權(quán)重體積FP8 約 650GB / BF16 約 1.2TB / 另有 NVFP4許可證StepFun Model License 1.0不是Apache-2.0 / MIT官方最低自托管FP84×B300 或 8×H200BF168×B300 或 16×H200API 價(jià)格輸入 $1.00 / 輸出 $2.70 每百萬(wàn) token緩存命中 $0.10一句話定位它是給長(zhǎng)程 Agent 倉(cāng)庫(kù)級(jí)軟件工程 金融研究準(zhǔn)備的機(jī)房級(jí)基座不是能在筆記本上把玩的模型。二、核心亮點(diǎn)1. 600B 只動(dòng) 27B但千萬(wàn)別按 27B 去備卡。激活 27B 指的是每一步前向參與計(jì)算的規(guī)模決定的是算力開銷而權(quán)重必須整份駐留顯存決定的是顯存檔位。FP8 檢查點(diǎn) 650.32GB 擺在那里四張 B300 或八張 H200 是官方給出的下限不是建議值。把它當(dāng)成一個(gè) 27B 模型去規(guī)劃硬件是這一類稀疏 MoE 最常見(jiàn)的翻車方式。2. 92 層窄而深是沖著長(zhǎng)任務(wù)的多跳依賴去的。官方技術(shù)博客的解釋很直白Agent 跑久了工具返回的日志、文檔、代碼會(huì)一層層堆進(jìn)上下文多跳依賴需要在模型內(nèi)部逐層傳遞加深網(wǎng)絡(luò)比加寬更有效。注意力按 3∶1 交錯(cuò)排布——三層 Gated Sliding Window 管局部一層稀疏全局注意力用 Sparse GQA 從長(zhǎng)歷史里挑相關(guān)內(nèi)容且 Sparse GQA 走的是分塊索引。這是典型的用結(jié)構(gòu)換長(zhǎng)上下文效率和單純把 RoPE 拉長(zhǎng)是兩回事。3. 把上下文壓縮寫進(jìn)了策略訓(xùn)練。多數(shù)模型的長(zhǎng)上下文能力是能塞進(jìn)去Step 5 想解決的是塞滿了還能干活。官方說(shuō)法是把上下文壓縮納入端到端策略訓(xùn)練讓 Agent 自己整理任務(wù)狀態(tài)、騰出窗口再繼續(xù)執(zhí)行。對(duì)動(dòng)輒跑幾小時(shí)的 Agent 來(lái)說(shuō)這比多 10 萬(wàn)分好看得多——窗口管理做不好1M 只是把爆炸點(diǎn)往后推。4. 長(zhǎng)上下文是真強(qiáng)項(xiàng)第三方也認(rèn)。Artificial Analysis 的獨(dú)立結(jié)果里AA-LCR 長(zhǎng)上下文推理拿到88.3%這個(gè)分?jǐn)?shù)不是廠商自報(bào)。綜合智能指數(shù) 43.7官方口徑 44排在全球開源模型前三。HLE 46.5%、GDPval-AA 54.3%屬于能打但不封神的區(qū)間。5. 單任務(wù)成本 0.71 美元是 Opus 5 的 1/8。這個(gè)數(shù)字要拆開看它是 Artificial Analysis 的完成一個(gè)任務(wù)的總開銷口徑不是每百萬(wàn) token 的價(jià)目表——前者包含推理 token、重試、工具輪次后者只是單價(jià)。Step 5 的 API 定價(jià)是輸入 $1.00、輸出 $2.70對(duì)比 Kimi K3 的 $3.00 / $15.00輸出側(cè)便宜五倍多。對(duì)高頻 Agent 業(yè)務(wù)這個(gè)差價(jià)會(huì)被輪次放大。三、部署實(shí)戰(zhàn)3.1 環(huán)境準(zhǔn)備先接受一個(gè)現(xiàn)實(shí)這不是單卡能碰的模型。官方部署表列得很清楚精度權(quán)重體積vLLM / SGLang 最低配置FP8約 650GB4×B300單節(jié)點(diǎn)或 8×H200單節(jié)點(diǎn)BF16約 1.2TB8×B300單節(jié)點(diǎn)或 16×H200雙節(jié)點(diǎn)NVFP4更小官方未給完整配置表需自行驗(yàn)證Transformers 路徑官方明確寫著只支持離線生成而且完整 BF16 的轉(zhuǎn)換→分片→生成流程尚未端到端驗(yàn)證。所以生產(chǎn)部署請(qǐng)直接走 vLLM 或 SGLang兩家都提供了帶 OpenAI 兼容 API 的專用鏡像。# 1) 安裝下載工具 pip install -U huggingface_hub[cli] ? # 2) 拉取 FP8 權(quán)重約 650GB28 個(gè) safetensors 分片 # 國(guó)內(nèi)網(wǎng)絡(luò)可換 modelscopemodelscope download --model stepfun-ai/Step-5-Preview hf download stepfun-ai/Step-5-Preview --local-dir /models/Step-5-Preview3.2 啟動(dòng)推理服務(wù)# vLLM 單節(jié)點(diǎn) 8×H200 FP8開啟專家并行 docker run --gpus all --ipchost --network host \ -v /models/Step-5-Preview:/model \ vllm/vllm-openai:latest \ --model /model \ --served-model-name step-5-preview \ --trust-remote-code \ --tensor-parallel-size 8 \ --enable-expert-parallel \ --max-model-len 262144 ? # Blackwell 上專家并行會(huì)走 MegaMoE 后端 # reasoning / tool-call 解析器的參數(shù)名以官方 deployment 文檔為準(zhǔn)不要照抄舊版 Step 的寫法。一個(gè)實(shí)操提醒--max-model-len先別急著寫 1048576。1M 上下文的 KV 緩存是額外顯存開銷8×H200 上打滿長(zhǎng)度并發(fā)額度會(huì)非常薄。先按 256K 起服務(wù)驗(yàn)證鏈路再按實(shí)際業(yè)務(wù)長(zhǎng)度往上加。3.3 推理代碼官方推薦的采樣參數(shù)是temperature1.0、top_p0.95、top_k0——這三個(gè)值別按習(xí)慣改成 0.7/0.9長(zhǎng)程推理任務(wù)的穩(wěn)定性對(duì)這個(gè)很敏感。import time from openai import OpenAI ? client OpenAI(base_urlhttp://127.0.0.1:8000/v1, api_keyEMPTY) MODEL step-5-preview ? def ask(prompt: str, effort: str high, image_url: str | None None) - str: effort 支持 low / medium / high按任務(wù)復(fù)雜度選檔別一律拉滿。 content [{type: text, text: prompt}] if image_url: content.append({type: image_url, image_url: {url: image_url}}) ? t0 time.time() resp client.chat.completions.create( modelMODEL, messages[{role: user, content: content}], temperature1.0, top_p0.95, extra_body{top_k: 0, reasoning_effort: effort}, max_tokens4096, ) cost time.time() - t0 usage resp.usage out_tokens usage.completion_tokens print(f耗時(shí) {cost:.1f}s | 輸出 {out_tokens} tok | f解碼約 {out_tokens / max(cost, 1e-6):.1f} tok/s) return resp.choices[0].message.content ? # 場(chǎng)景一倉(cāng)庫(kù)級(jí)代碼修改官方主推場(chǎng)景 print(ask(把這個(gè) Flask 項(xiàng)目的會(huì)話存儲(chǔ)從內(nèi)存換成 Redis列出要改的文件和每處改動(dòng)理由。)) ? # 場(chǎng)景二長(zhǎng)文檔 圖表理解原生支持圖像輸入 # print(ask(這張財(cái)報(bào)截圖里的毛利率是多少把計(jì)算過(guò)程寫出來(lái)。, # image_urldata:image/png;base64,你的base64))3.4 效果驗(yàn)證服務(wù)起來(lái)后先做三件事別直接上業(yè)務(wù)第一用一句無(wú)工具依賴的問(wèn)題確認(rèn)模型能正常吐字第二跑一個(gè)帶reasoning_effort切換的對(duì)比看 thinking 長(zhǎng)度是否真的隨檔位變化第三把同一份 20 萬(wàn) token 的長(zhǎng)文檔喂兩遍確認(rèn)前綴緩存生效第二次的 TTFT 應(yīng)明顯低于第一次。第三步是長(zhǎng)上下文服務(wù)最容易出問(wèn)題的地方——緩存沒(méi)命中成本會(huì)翻倍。四、性能測(cè)評(píng)4.1 速度官方給的口徑是 NVIDIA 平臺(tái)上8K tok/s/GPU配套宣傳里還有24 小時(shí)長(zhǎng)程 Agent的說(shuō)法。這兩個(gè)數(shù)字都來(lái)自廠商目前沒(méi)有獨(dú)立第三方在公開硬件上復(fù)測(cè)。按 650GB 權(quán)重、4×B300 的最低配置反推這個(gè)吞吐量級(jí)在理論帶寬上說(shuō)得通但真實(shí)業(yè)務(wù)里的并發(fā)數(shù)、上下文長(zhǎng)度、工具輪次都會(huì)大幅拉低它。我在本地沒(méi)有多卡環(huán)境不做任何實(shí)測(cè)聲明。4.2 顯存項(xiàng)目數(shù)值說(shuō)明FP8 權(quán)重650.32 GB官方倉(cāng)庫(kù)總存儲(chǔ)28 分片BF16 權(quán)重約 1.2 TB獨(dú)立倉(cāng)庫(kù)其中 FP8 參數(shù)量約 5647 億 FP8 396 億 BF16混合精度不是全 FP81M 上下文 KV未公布與層數(shù)、KV 頭數(shù)、并發(fā)強(qiáng)相關(guān)務(wù)必自測(cè)4.3 生成質(zhì)量下表全部為 StepFun 在自己圖表上自報(bào)的成績(jī)Step 5 跑 High 檔競(jìng)品跑 Max 檔口徑并不對(duì)等橫向?qū)Ρ葍H供參考基準(zhǔn)Step 5 PreviewGLM-5.3Kimi K3Claude Opus 5DeepSWE v1.167.766.967.574.0ProgramBench80.572.077.8—FrontierFinance66.464.162.669.7Terminal-Bench 4.033.341.912.657.9GDPval-AA v2.115661645——AA-LCR第三方88.3%———真正該被放大的是后半張表——短板評(píng)測(cè)得分來(lái)源Terminal-Bench 4.033.3官方自報(bào)Agents Last ExamALE-CLI29.5官方自報(bào)SRE Bench0.4%Vals AIHarvey 法律 Agent9.2%Vals AISRE Bench 0.4% 基本等于完全不會(huì)法律 Agent 9.2% 同理。宣傳里專業(yè)知識(shí)工作這個(gè)大筐裝得下金融研究裝不下運(yùn)維排障和法務(wù)審閱——選型按具體任務(wù)對(duì)號(hào)入座。五、使用建議適用場(chǎng)景跨文件、跨倉(cāng)庫(kù)的軟件工程改造需要連續(xù)調(diào)用工具數(shù)小時(shí)的長(zhǎng)程 Agent金融投研這類讀大量材料→抽證據(jù)→出結(jié)論的鏈路對(duì)數(shù)據(jù)不出域有硬要求的私有化部署。不適用場(chǎng)景單卡或消費(fèi)級(jí)硬件物理上跑不動(dòng)SRE 排障、法律文書這類已驗(yàn)證的弱項(xiàng)只需要短問(wèn)答的高頻輕量調(diào)用用 API 或小模型更劃算對(duì)許可證敏感、必須 Apache-2.0 的商業(yè)項(xiàng)目。許可證必須逐條讀。StepFun Model License 1.0 允許免費(fèi)使用、修改、再分發(fā)但有三條附加條件單月活躍用戶超 1 億或月收入超 2000 萬(wàn)美元的商業(yè)產(chǎn)品要在界面和用戶協(xié)議里顯著標(biāo)注 Powered by StepFun AI把模型做進(jìn)手機(jī)、汽車、眼鏡、機(jī)器人的硬件廠商以及年收入超 2000 萬(wàn)美元的 MaaS 服務(wù)商商用前需單獨(dú)簽授權(quán)用 Step 5 輸出訓(xùn)練出的模型會(huì)被視為衍生作品。它不是 Apache-2.0HF 上的 license 字段寫的是 other。成本要算 TCO不是只看單價(jià)。API 輸入 $1.00 / 輸出 $2.70 看著便宜但自托管的賬是另一套四張 B300 或八張 H200 的機(jī)器成本、650GB 權(quán)重的存儲(chǔ)與加載時(shí)間、長(zhǎng)上下文的 KV 開銷、運(yùn)維人力。一個(gè)粗略的自托管 vs API 盈虧平衡測(cè)算腳本def breakeven(gpu_hour_cost: float, gpus: int, monthly_tasks: int, api_cost_per_task: float 0.71) - float: 返回每月跑多少任務(wù)時(shí)自托管開始比 API 更便宜。 gpu_hour_cost: 單卡每小時(shí)綜合成本租賃價(jià) 電費(fèi) 運(yùn)維攤銷 monthly_gpu gpu_hour_cost * gpus * 24 * 30 api_monthly api_cost_per_task * monthly_tasks print(f自托管固定成本 ≈ ${monthly_gpu:,.0f}/月) print(f{monthly_tasks:,} 個(gè)任務(wù)走 API ≈ ${api_monthly:,.0f}/月) return monthly_gpu / api_cost_per_task ? # 以 8×H200、單卡 $2.5/小時(shí) 粗算 need breakeven(gpu_hour_cost2.5, gpus8, monthly_tasks50_000) print(f盈虧平衡點(diǎn)約 {need:,.0f} 任務(wù)/月)按這組假設(shè)跑出來(lái)平衡點(diǎn)大概在每月一萬(wàn)多個(gè)任務(wù)。低于這個(gè)量級(jí)除非你有數(shù)據(jù)不能出域的硬約束否則 API 更劃算——這也是 Step 5 這類機(jī)房級(jí)開源模型最現(xiàn)實(shí)的落地姿勢(shì)權(quán)重開源的意義不是讓你自己扛機(jī)器而是讓你在必須自建的時(shí)候有的選。你會(huì)為了數(shù)據(jù)不出域多付多少機(jī)器成本四張 B300 的賬和直接調(diào) API 的賬你所在團(tuán)隊(duì)算下來(lái)是哪邊贏評(píng)論區(qū)聊聊你的實(shí)際數(shù)字。數(shù)據(jù)來(lái)源StepFun 官方模型卡stepfun-ai/Step-5-Preview 與 Step-5-Preview-BF16及 LICENSE.txt、官方技術(shù)博客與部署指南、Artificial Analysis智能指數(shù) 43.7 / AA-LCR 88.3% / HLE 46.5% / GDPval-AA 54.3% / 單任務(wù)成本 $0.71 對(duì)比 $5.86、Vals AISRE Bench 0.4% / Harvey 9.2%、OpenRouter Token 用量周榜日榜、SegmentFault 與七牛云的部署整理、智東西 10 月 15 日?qǐng)?bào)道。除 Artificial Analysis 與 Vals AI 的標(biāo)注項(xiàng)外基準(zhǔn)分?jǐn)?shù)均為廠商自報(bào)且 Step 5 跑 High 檔、競(jìng)品跑 Max 檔對(duì)比口徑不對(duì)等本機(jī)無(wú)多卡 GPU 環(huán)境全文未做任何實(shí)測(cè)速度與顯存數(shù)字均引用官方口徑。