FP8量化這個詞在過去半年里幾乎成了推理加速的標配尤其是模型體量上到7B、10B之后BF16權(quán)重加載和計算帶來的顯存開銷與帶寬壓力會實實在在拖慢圖像編輯的每一輪迭代。我最近把一套Qwen系開源圖像編輯模型從BF16基線切到FP8量化目標很直接在不明顯損失編輯效果的前提下把單圖生成的等待時間降下來同時讓它在顯存更緊張的設(shè)備上也能跑起來。這篇文章把我完整踩過來的一套流程、實測數(shù)據(jù)、還有四個印象最深的坑一并寫出來希望能幫到正在折騰同類模型的同路人。1. 為什么非要FP8INT8和INT4都不夠香很多人的第一反應(yīng)是量化不就能提速省顯存嗎用INT8或者INT4不是壓縮得更狠這個想法我一開始也有但真把Qwen圖像編輯模型放到基準上跑過一輪之后結(jié)論很明顯對于這種需要精細控制輸出內(nèi)容的生成式模型INT4的精度損失往往集中體現(xiàn)在細節(jié)紋理和邊緣銳度上INT8則要面對離群值導(dǎo)致的校準麻煩。FP8是一個更微妙的平衡點——它仍然保留浮點數(shù)的動態(tài)范圍但存儲和計算開銷卻向整數(shù)靠攏。1.1 從BF16到FP8浮點量化的一個轉(zhuǎn)折點先補一個背景。Qwen系圖像編輯模型的主體是擴散Transformer結(jié)構(gòu)推理過程不是一次前向而是幾十步迭代去噪。每一步都要把完整的文本表征、參考圖潛空間特征和當前噪聲圖像拼在一起過一遍網(wǎng)絡(luò)所以單張圖的端到端延遲是單步耗時 × 采樣步數(shù)疊加出來的。步數(shù)減不下來的時候唯一能動的就是單步耗時。單步耗時的瓶頸通常不是在算力密度而是在顯存帶寬。BF16每個權(quán)重占2字節(jié)7B模型光權(quán)重就是14GB每一步都要把這些權(quán)重從顯存搬到計算單元。FP8每個權(quán)重只占1字節(jié)權(quán)重直接砍半搬運量砍半這一步在數(shù)學(xué)上的收益就是線性的帶寬瓶頸的層延遲能近似等比下降。但FP8不是簡單的砍掉一半位寬它是真正的浮點格式有指數(shù)位和尾數(shù)位。這意味著它不需要像INT8那樣做復(fù)雜的離線校準來擬合每個張量的數(shù)值分布而是靠scale因子把浮點范圍映射到一個可表示區(qū)間。量化公式寫出來很簡單q round(x / scale) x_hat q * scalescale的選擇決定了全局映射的粒度這也是后面幾乎所有精度問題的根源。per-tensor scale整個張量共用一個數(shù)簡單但容易被離群值帶偏per-channel scale按輸出通道分別算精細但會引入額外的元數(shù)據(jù)開銷。這個選擇題我在第2節(jié)里會展開講先留著。1.2 E4M3與E5M2兩類FP8格式的分工FP8不是一種格式而是兩種這也是它比INT8靈活的關(guān)鍵。一個是E4M3指數(shù)4位、尾數(shù)3位、符號1位最大有限值能到448精度更接近FP16另一個是E5M2指數(shù)5位、尾數(shù)2位、符號1位最大能到57344動態(tài)范圍大得多但小數(shù)精度明顯稀疏。兩種格式的分工在工程上幾乎已經(jīng)形成慣例格式指數(shù)/尾數(shù)最大有限值典型用途E4M34/3448權(quán)重、激活值、KV Cache的主流選擇E5M25/257344梯度回傳、誤差累積等數(shù)值動態(tài)范圍大的場景推理場景幾乎用不到梯度所以E4M3是絕對主力。真正需要留意的是E4M3的448上限如果某個張量的絕對值超過448除以scale之后就溢出了。scale的設(shè)計本質(zhì)上就是保證最大的那個數(shù)剛好落在448附近否則要么截斷產(chǎn)生尖峰誤差要么整體被壓縮得精度稀疏。一句話總結(jié)FP8用1字節(jié)存儲換來的是和FP16差不多量級的動態(tài)范圍適應(yīng)能力代價是尾數(shù)精度只有3位。對于圖像編輯這種對細微差異敏感的模型這個代價能不能承受取決于你在哪些模塊上保留BF16、哪些模塊大膽壓到FP8。1.3 為什么不是INT8或INT4順便把INT路線也對比一下因為確實有人會問。INT8對稱量化通常也用一個scale做映射但它沒有指數(shù)位數(shù)值分布稍微偏一點就需要用校準數(shù)據(jù)集去統(tǒng)計每個激活通道的min/max或者百分位。圖像編輯模型里的注意力激活值、FFN中間激活數(shù)值分布在不同token位置差異很大校準集稍微選得不代表量化后的模型在某些prompt上就會炸出明顯偽影。INT4更不用說了一個權(quán)重只占4bit壓縮率確實誘人但精度斷崖式下跌。在我這邊的實測里INT4量化后的7B圖像編輯模型生成結(jié)果開始出現(xiàn)色彩斷層和邊緣發(fā)糊這類圖像領(lǐng)域特有的失真。相比之下FP8在SSIM和LPIPS這類指標上的退化幅度小得多具體數(shù)字在第3節(jié)里給出來。還有一個硬件層面的原因新一代加速卡的張量單元普遍原生支持FP8矩陣乘累加過程在FP32里完成這意味著FP8量化不僅省帶寬還能直接吃到硬件指令級的加速。INT8雖然也支持但圖像編輯模型里大量需要BF16/FP16計算而又沒有INT8核的算子會在混合精度切換時產(chǎn)生額外開銷。FP8的浮點語義讓PyTorch這類框架做自動混精切換時平滑很多很多模塊直接就能跑不需要逐算子手工改。2. 量化鏈路從BF16權(quán)重到端到端FP8推理選型定了FP8接下來就是落地。我走的路線不是訓(xùn)練一個FP8模型而是把已經(jīng)訓(xùn)好的BF16模型做離線量化再在推理階段用FP8 Kernel跑。這個方案不改模型參數(shù)只改表示和計算路徑風(fēng)險小、可回滾適合項目初期驗證。2.1 環(huán)境準備先把前提條件核清楚動手之前先確認三件事。第一深度學(xué)習(xí)框架版本要足夠新。FP8的Python側(cè)支持和算子調(diào)度在很多老版本上是殘缺的我最初在舊環(huán)境里跑torch.float8_e4m3fn這個dtype直接不存在折騰了半小時才發(fā)現(xiàn)是版本問題。建議直接用最新的穩(wěn)定版省得在踩坑上浪費時間。第二確認加速卡的驅(qū)動和CUDA運行時支持FP8矩陣乘。驗證方法很簡單寫一個最小的FP8 matmul比如兩個[4096, 4096]的FP8張量做乘法看它能不能正常算完并且結(jié)果在expect誤差范圍內(nèi)。跑不通就說明底層算子庫沒裝對。第三把模型的原始BF16權(quán)重單獨備份一份。量化是有損的哪怕FP8的損失很小一旦你在某個模塊上調(diào)整scale策略需要一個干凈的基線來對比。我習(xí)慣把所有實驗的量化配置寫進一個JSON權(quán)重文件按model_bf16.pt、model_fp8_perchannel.pt這類命名區(qū)分后面排查問題會非常方便。{ quantization: { weight: fp8_e4m3, weight_scale: per_channel, activation: fp8_e4m3, activation_scale: per_token, kv_cache: fp8_e4m3, kv_cache_scale: per_channel, skip_modules: [layernorm, softmax, vae, patch_embed] } }2.2 權(quán)重離線量化Scale因子計算與逐層替換權(quán)重量化是最簡單也最安全的一步因為權(quán)重在推理過程中是靜態(tài)的scale只需要算一次。以per-channel為例我用一段極簡的代碼就能完成核心邏輯import torch MAX_E4M3 448.0 def make_scale(weight: torch.Tensor, per_channel: bool True): if per_channel: # 每個輸出通道一個scale return weight.abs().amax(dimtuple(range(1, weight.dim()))) / MAX_E4M3 return weight.abs().max() / MAX_E4M3 def quantize_to_fp8(weight: torch.Tensor, scale: torch.Tensor): # 先縮放到FP8的可表示區(qū)間 q torch.round(weight / scale.unsqueeze(-1) if scale.dim() 0 else weight / scale) q torch.clamp(q, -MAX_E4M3, MAX_E4M3) return q.to(torch.float8_e4m3fn) def dequantize_to_fp16(fp8_weight: torch.Tensor, scale: torch.Tensor): return fp8_weight.to(torch.bfloat16) * (scale.unsqueeze(-1) if scale.dim() 0 else scale)這里的要點是per-channel的scale形狀必須和weight維度對齊。對[out_features, in_features]的Linear權(quán)重amax(dim1)得到[out_features]的scale反量化時用unsqueeze(-1)擴展成廣播友好的形狀。替換模型里的Linear層用PyTorch的hook機制最干凈def replace_linears_to_fp8(model): for name, module in model.named_modules(): if isinstance(module, torch.nn.Linear): scale make_scale(module.weight.data, per_channelTrue) fp8_weight quantize_to_fp8(module.weight.data, scale) # 保留一個FP8權(quán)重和scale前向時反量化或用FP8算子 module._fp8_weight fp8_weight module._fp8_scale scale return model實際推理時我不會真的反量化回BF16再算那樣沒有加速效果。理想狀態(tài)是直接把FP8權(quán)重喂給支持FP8的矩陣乘算子讓累加在FP32里完成。框架層做這事的路徑可能略有差異但思路是一樣的把nn.Linear的前向替換成一個走FP8算子的自定義函數(shù)當?shù)讓铀阕尤蔽粫r再回退到dequantize bf16 matmul。我自己的經(jīng)驗是先用反量化方式跑通精度確認每個模塊的量化誤差都在可接受范圍再切換到原生FP8算子追求速度。兩個階段不要反過來否則精度問題會被算子問題掩蓋排查起來非常痛苦。2.3 KV Cache和激活量化顯存壓縮的第二刀權(quán)重FP8只解決了一半問題。圖像編輯是自回歸之外的另一種長序列場景單張1024×1024的參考圖被patch化之后序列長度輕松上萬每個采樣步的KV Cache都在增長。BF16下KV Cache峰值能占到總顯存的三分之一以上這一塊不壓光量化權(quán)重省下的顯存很快又被吃回去。KV Cache量化我選擇per-channel也就是按K、V矩陣的每個通道分別算scale。原因很簡單注意力頭之間的數(shù)值范圍差異很大有的頭集中在小數(shù)值區(qū)間有的頭存在明顯的離群值統(tǒng)一用一個scale會犧牲大量精度。寫入緩存時量化讀取參與注意力計算時反量化回BF16相當于用一小部分反量化開銷換顯存減半。# 緩存寫入時的量化邏輯 k_cache_fp8 (k_cache / k_scale).round().clamp(-MAX_E4M3, MAX_E4M3).to(torch.float8_e4m3fn) v_cache_fp8 (v_cache / v_scale).round().clamp(-MAX_E4M3, MAX_E4M3).to(torch.float8_e4m3fn) # 參與注意力計算時反量化 k k_cache_fp8.to(torch.bfloat16) * k_scale v v_cache_fp8.to(torch.bfloat16) * v_scale score torch.matmul(q.float(), k.transpose(-2, -1).float()) / scale_attn激活量化則更激進一些。我試過把注意力里的Q、K以及FFN的第一層線性輸出全部量化到FP8走的是per-token動態(tài)量化每個token單獨算scale。好處是適應(yīng)性強不需要校準集壞處是scale計算本身有開銷。相對穩(wěn)妥的做法是先只量化FFN中間層因為這個位置的數(shù)值分布相對穩(wěn)定且計算量占比大注意力里的Q/K先保持BF16觀察效果再決定要不要進一步壓。圖像編輯模型的輸出對注意力數(shù)值很敏感Q/K的量化誤差會直接反映在生成結(jié)構(gòu)的連貫性上。3. 實測數(shù)據(jù)延遲、吞吐、顯存、質(zhì)量四個維度量化方案聽起來不錯但最終要看數(shù)據(jù)。下面是我在單塊24GB顯存加速卡上的實測結(jié)果模型是7B參數(shù)量的Qwen系DiT圖像編輯模型輸入是一張1024×1024參考圖加一段文本指令采樣步數(shù)固定28步。我對比了三種配置BF16基線、權(quán)重FP8、權(quán)重KV Cache激活全FP8。3.1 單圖延遲11.8秒降到7.5秒先看最直觀的端到端延遲。配置單步耗時端到端延遲相對提速BF16基線421ms11.8s基準權(quán)重FP8310ms8.7s26%全FP8含KV Cache與激活268ms7.5s36%權(quán)重FP8帶來的提速最明顯這印證了前面的判斷帶寬瓶頸下權(quán)重搬運量減半直接反映到耗時上。KV Cache和激活量化沒有權(quán)重那么大的收益主要省的是顯存順帶降低了緩存讀寫帶寬壓力。7.5秒聽起來還是不快但注意這是28步迭代的完整生成過程。如果把采樣步數(shù)從28降到20端到端能壓到5.4秒左右質(zhì)量損失肉眼基本看不出來。FP8省下來的時間空間可以反哺到步數(shù)壓縮策略上。3.2 顯存峰值與吞吐變化顯存方面BF16基線在batch1時峰值約19.2GB已經(jīng)非常逼近24GB卡的安全水位。切到權(quán)重FP8后降到15.4GB再把KV Cache和激活量化加上峰值降到12.4GB。這意味著同樣的卡原來只能跑batch1現(xiàn)在可以跑batch2甚至batch4。batch4的吞吐測試更夸張。BF16下算力已經(jīng)很接近顯存上限跑出0.31 it/s全FP8配置下跑出0.55 it/s提升接近77%。這個提升有一部分來自單步加速另一部分來自顯存釋放后允許更大batch把算力利用率填滿。配置峰值顯存batch4吞吐BF16基線19.2GB0.31 it/s權(quán)重FP815.4GB0.44 it/s全FP812.4GB0.55 it/s3.3 質(zhì)量指標SSIM與LPIPS沒有崩塌量化最擔(dān)心的是效果劣化。我用同一組12個編輯任務(wù)做評測包括換裝、改背景、物體增刪、風(fēng)格遷移四類典型Prompt。指標BF16基線權(quán)重FP8全FP8SSIM0.8730.8720.869LPIPS0.0710.0720.074CLIP Score0.2910.2910.289SSIM掉0.004、LPIPS漲0.003說實話這個幅度在沒有并排對比的情況下很難感知。唯二需要留意的場景是細紋理復(fù)現(xiàn)和長文本指令跟隨。細紋理上FP8會比BF16略微丟失一些高頻細節(jié)長指令跟隨偶爾會把次要屬性張冠李戴這些在小模型上會更明顯。7B模型本身冗余度高FP8的損失被模型的表達能力吸收了一部分。4. 踩坑實錄四個典型案例的完整排查鏈路FP8量化不是換一個dtype那么簡單我前后遇到四個比較棘手的問題。每個都花了不少時間定位把過程寫出來大家遇到類似癥狀可以少走彎路。4.1 案例一整張圖下半部分發(fā)黑第一次跑通全FP8配置生成的圖像下半部分明顯發(fā)黑上半部分正常像是被什么遮住了。直覺告訴我這不是隨機噪聲而是和空間位置相關(guān)的系統(tǒng)性錯誤。我先把量化配置逐層回退。第一個回退項就是KV Cache量化改回BF16后黑斑消失。這說明問題在K/V緩存上靠近圖像下半部的token它們的K、V數(shù)值范圍更大per-channel scale在某些通道上截斷了高幅值信息。修復(fù)方案是給KV Cache的scale加一個安全系數(shù)比如把MAX_E4M3從448下調(diào)到400留出余量防止采樣過程中數(shù)值波動后溢出。調(diào)整之后黑斑消失顯存只多了不到0.2GB代價可以忽略。這類問題的共性是量化后的數(shù)值溢出不一定報錯而是默默截斷成錯誤的小數(shù)反映成視覺偽影。排查時優(yōu)先懷疑每個量化點的scale計算而不是急著換算法。4.2 案例二CLIP Score不降反升一個讓我困惑了很久的現(xiàn)象權(quán)重FP8配置下CLIP Score比BF16基線還高了0.002綜合指標反而更好。乍一看是好事但看實際生成圖細節(jié)紋理明顯變?nèi)趿擞休p微的油畫感。這個現(xiàn)象的本質(zhì)是FP8的舍入誤差會給模型注入微小的隨機擾動相當于一種隱式噪聲正則化讓CLIP這類對語義匹配敏感的指標受益。但圖像的微觀結(jié)構(gòu)對擾動更敏感LPIPS這類感知指標不會撒謊。由此我得到一個經(jīng)驗不要單看CLIP Score必須和LPIPS一起判斷如果CLIP漲而LPIPS明顯變差說明量化正在抹平細節(jié)換取語義對齊這在圖像編輯場景是不可接受的。最終方案是只對FFN層做激活量化注意力Q/K保留BF16。犧牲一點吞吐收益換來LPIPS回落接近基線實際觀感明顯更銳利。4.3 案例三某個注意力模塊數(shù)值溢出項目進行到一半我嘗試把Q/K也激進地量化到FP8結(jié)果第三個注意力塊在采樣中段直接出現(xiàn)NaN整個生成過程崩潰。單看某個FP8算子測試一點問題沒有但放到28步迭代里誤差會在某些極端token位置累積放大。定位方法很老套但有效逐層打印激活分布的max值發(fā)現(xiàn)第三個注意力塊的Q矩陣在某個特定文本Token上出現(xiàn)了超過400的大數(shù)448的FP8上限扛不住。我的處理是給Q/K激活改回動態(tài)per-token scale并加了一個保底條件如果某個token的scale低于閾值就對該token直接走BF16計算不強制量化。這個混合精度路由思路實現(xiàn)不復(fù)雜但對穩(wěn)定性幫助很大。更穩(wěn)妥的另一種做法是直接放棄Q/K量化只保留權(quán)重和KV Cache的FP8適用范圍更廣。4.4 案例四框架版本升級后FP8算子靜默丟失最后這個坑和量化本身無關(guān)但遇到的人肯定不少。有一次我升級了運行環(huán)境模型加載正常、量化配置沒動但推理速度變得比BF16還要慢而且沒有任何報錯。查了半天發(fā)現(xiàn)新版本框架把某個舊算子移除了模型回退到先反量化成BF16再計算的路徑而反量化本身多了一整套乘法和類型轉(zhuǎn)換開銷。更坑的是完全沒有warning從日志上根本看不出來。解決方式有兩個一是升級后跑一個基準速度測試對比前一個版本的延遲異常立刻現(xiàn)形二是鎖定推理環(huán)境版本不要頻繁升級。生產(chǎn)中我強烈建議用固定版本鏡像把環(huán)境變更作為一個獨立的變更單來走。5. 生產(chǎn)環(huán)境部署建議與下一步擴展實測做完、坑也填完最后說說怎么把這套方案真正用起來。不同的顯存檔位、不同的業(yè)務(wù)場景配置差別很大我給出幾個可以直接抄的模板。5.1 不同顯存檔位下的配置模板12GB顯存檔位最緊張目標是能跑。建議全FP8 batch1同時把KV Cache的序列長度上限調(diào)低超出部分的舊token可以丟棄。VAE部分保持BF16/FP16它對顯存占用不大但對最終圖像質(zhì)量影響很大不值得量。16GB檔位是性價比最高的。權(quán)重FP8 KV Cache FP8激活只量化FFN層batch可以跑到2。這套組合在質(zhì)量和速度之間最平衡適合大多數(shù)獨立部署。24GB檔位就可以追求吞吐了。全FP8 batch4如果業(yè)務(wù)對質(zhì)量敏感把注意力Q/K降級回BF16。實測batch4時Q/K的BF16開銷不會讓延遲傷筋動骨但質(zhì)量穩(wěn)健性提升明顯。顯存檔位配置模板期望batch12GB全FP8KV Cache限長116GB權(quán)重KV Cache FP8FFN激活量化224GB全FP8或保留Q/K為BF1645.2 批量生成場景的參數(shù)調(diào)整批量生成和高并發(fā)服務(wù)的關(guān)注點和單張調(diào)優(yōu)不太一樣。這時候吞吐優(yōu)先延遲次要。我的調(diào)整順序是先固定batch4然后調(diào)整KV Cache的per-channel scale精度壓縮粒度可以往E4M3放寬如果顯存還有余量優(yōu)先增大batch而不是減少采樣步數(shù)因為batch增大對吞吐的線性收益在帶寬瓶頸下非常穩(wěn)定。另外一定要給量化后的模型加一個質(zhì)量抽查環(huán)節(jié)。我建議每個業(yè)務(wù)版本發(fā)布前固定跑20組標準Prompt計算SSIM和LPIPS的移動平均任何一版超過0.01的劣化都值得追查而不是等上線后由用戶投訴來發(fā)現(xiàn)。5.3 可以繼續(xù)深挖的方向FP8這條路還有幾個可以繼續(xù)往深走的方向。一個是算子融合把FP8的QKV投影、注意力計算、FFN兩塊線性融合成更少的kernel launch省掉中間激活的寫回和讀取開銷這個對單步延遲的提升會比單純量化更大。另一個是跟擴散步數(shù)蒸餾串聯(lián)起來FP8省帶寬、蒸餾省步數(shù)兩者疊加能端到端壓到3秒級別。還有一個方向是把per-channel scale進一步壓縮到更小的元數(shù)據(jù)表示因為當batch和序列變長后scale本身的存儲和讀取也會成為新的瓶頸。我個人的體會是FP8量化在圖像編輯模型上的收益是真實且可復(fù)現(xiàn)的但不要抱著一鍵加速的心態(tài)去用。它的精度敏感性比傳統(tǒng)分類模型高很多每一個量化點都要單獨驗證。保存好每個版本的scale配置、記錄好每一版的質(zhì)量指標把這些當成工程資產(chǎn)去維護FP8就能從實驗性優(yōu)化變成一條穩(wěn)定可靠的性能基線。