第一次用CrossEntropyLoss()做圖像分割是在一個(gè)街道場景的語義分割實(shí)驗(yàn)里。網(wǎng)絡(luò)結(jié)構(gòu)用的還是當(dāng)時(shí)很常見的編碼-解碼結(jié)構(gòu)第一版代碼跑起來之后loss從0.6慢慢降到0.3我當(dāng)時(shí)還挺高興結(jié)果驗(yàn)證集的mIoU一出來直接傻眼——背景類占了接近90%準(zhǔn)確率很高但車輛、行人、建筑這些真正關(guān)心的類幾乎全部沒學(xué)到。后來花了好幾個(gè)晚上排查發(fā)現(xiàn)問題基本都出在我對CrossEntropyLoss()這條函數(shù)本身的理解上輸入格式、標(biāo)簽編碼、類別分布、ignore_index每一個(gè)都能讓訓(xùn)練“看似正常、實(shí)則報(bào)廢”。這篇就把我用CrossEntropyLoss()做圖像分割踩過的坑按類別整理一遍每個(gè)坑后面附上可照做的檢查方式和修復(fù)思路希望能幫你少熬幾個(gè)夜。1. 為什么圖像分割任務(wù)繞不開CrossEntropyLoss1.1 CrossEntropyLoss到底在算什么首先回到一個(gè)最基本的認(rèn)知圖像分割的本質(zhì)是逐像素分類。模型對每個(gè)像素輸出C個(gè)類別的分?jǐn)?shù)CrossEntropyLoss()的作用就是衡量“模型預(yù)測的分?jǐn)?shù)分布”和“真實(shí)類別”之間的差異。PyTorch里的nn.CrossEntropyLoss()并不是一個(gè)復(fù)雜的黑盒它內(nèi)部等價(jià)于F.log_softmax(input, dim1)加F.nll_loss()也就是說它會先把logits在類別維度上做log softmax再取正確類別對應(yīng)的負(fù)對數(shù)概率作為loss。把公式拆開就是對某個(gè)像素如果真實(shí)類別是c模型對該類的得分是z_c那損失就是-log(exp(z_c) / sum_j exp(z_j))。得分越高loss越小得分越低loss越大而且梯度會因?yàn)閘og函數(shù)的性質(zhì)變得更加明顯。這也是它在分類類任務(wù)里比MSE好用的原因MSE對輸出概率的錯(cuò)誤懲罰是二次的到了飽和區(qū)梯度幾乎消失交叉熵在錯(cuò)誤嚴(yán)重時(shí)梯度很大優(yōu)化起來效率高得多。有一個(gè)點(diǎn)容易被忽略F.log_softmax里的dim1意味著它默認(rèn)輸入的第一維是batch第二維是通道也就是類別維度。這個(gè)約定直接影響后面所有輸入格式問題只要把通道維度放錯(cuò)位置整個(gè)loss計(jì)算就會在錯(cuò)誤的方向上“絲滑”地跑下去。1.2 分割場景下它比BCE、MSE更合適的原因很多做分割的新手會因?yàn)椤胺指钜彩禽敵鰉ask”就想到二分類于是直接拿BCE或者M(jìn)SE去套這種做法在二前景二背景的簡單任務(wù)里能跑通但一旦類別變多就立刻出問題。BCE是逐類別獨(dú)立計(jì)算損失的它不關(guān)心類別之間是不是互斥的相當(dāng)于把每個(gè)類都當(dāng)成一個(gè)獨(dú)立的二元分類問題而語義分割的類別通常是互斥的一個(gè)像素只能是某一個(gè)類用CE這種帶softmax歸一化的損失才能天然保證所有類別的概率加起來等于1模型輸出的是真正的概率分布。MSE的問題更明顯。如果把分割當(dāng)成回歸任務(wù)模型輸出的向量被強(qiáng)行拉向one-hot一樣的分布數(shù)值在飽和區(qū)梯度極小訓(xùn)練速度慢而且對類別判別邊界非常不敏感。簡單說就是MSE問“你預(yù)測的數(shù)字和真實(shí)數(shù)字差多少”CE問“你給正確類別的信心夠不夠高”后者更貼合分類任務(wù)的本質(zhì)。所以主流分割項(xiàng)目的第一步基本都是criterion nn.CrossEntropyLoss()。但要注意默認(rèn)情況下它給每個(gè)像素的權(quán)重是相同的也就是沒考慮類別分布差異。這在類別極不平衡的數(shù)據(jù)集上是致命問題后面第4章會展開講。1.3 使用它的前提約束logits與target的三條約定使用CrossEntropyLoss()前必須明確三條硬性約定第一輸入必須是未經(jīng)過softmax的原始logits不是概率第二logits的shape一般是(N, C, H, W)N是batchC是類別數(shù)H和W是空間尺寸第三target必須是整數(shù)索引形式的標(biāo)簽shape是(N, H, W)取值必須在[0, C-1]范圍內(nèi)或者用ignore_index指定一個(gè)特殊值來忽略某些區(qū)域。這三條約定錯(cuò)一條訓(xùn)練就會出現(xiàn)各種奇怪現(xiàn)象。最常見的錯(cuò)誤就是有人先寫了prob torch.softmax(logits, dim1)再把prob當(dāng)作輸入扔給CrossEntropyLoss()結(jié)果loss沒有爆掉但模型越訓(xùn)越差。還有人是把標(biāo)簽做成了one-hot形式然后發(fā)現(xiàn)shape對不上直接報(bào)錯(cuò)。后面所有踩坑內(nèi)容本質(zhì)上都圍繞這三條約定展開。2. 最容易踩的維度與形狀坑2.1 target的shape永遠(yuǎn)比logits少一維這是我身邊同事問過最多的問題。模型輸出logits是(B, C, H, W)而mask標(biāo)簽往往是(B, H, W)有些人會習(xí)慣性把mask也做成(B, H, W, 1)或者(B, 1, H, W)然后直接丟進(jìn)loss接著就會看到類似Expected target size [B, H, W], got [B, 1, H, W]的報(bào)錯(cuò)。為什么PyTorch要這么設(shè)計(jì)因?yàn)镃通道是類別維度對每個(gè)像素來說真實(shí)類別就一個(gè)整數(shù)索引不需要展開成one-hot。如果你習(xí)慣把mask做成(B,1,H,W)在放進(jìn)loss之前需要做一次squeeze(1)。如果你從圖像處理庫讀出來的是(H,W,1)類似的多余通道也要先去掉目的就是讓target保持(B,H,W)。我的建議是在dataloader的返回值里就把格式固化。圖像返回(3,H,W)的float tensor標(biāo)簽返回(H,W)的long tensordataloader自動堆疊后就是(B,3,H,W)和(B,H,W)直接在loss里對齊。不要在訓(xùn)練循環(huán)里臨時(shí)做各種view、squeeze、reshape少一步排錯(cuò)步驟就會少一個(gè)潛在坑。2.2 通道維度在第二維別對最后一維做softmaxPyTorch的圖像張量默認(rèn)是NCHW格式也就是說類別通道維度在第二維也就是dim1。但這個(gè)約定太容易被忽略尤其是從TensorFlow遷移過來的同學(xué)TF習(xí)慣把通道放在最后一維PyTorch里錯(cuò)誤地寫torch.softmax(logits, dim-1)非常常見。表面上看dim-1也能運(yùn)行不會報(bào)錯(cuò)但它在W方向上做歸一化而不是在類別方向上。舉個(gè)例子如果logits的shape是(2, 19, 256, 256)dim-1會在最后一個(gè)維度的256個(gè)空間位置做softmax結(jié)果是每個(gè)通道內(nèi)部的空間值被歸一化了類別之間完全沒有競爭關(guān)系。這種情況下loss還能正常計(jì)算因?yàn)镃rossEntropyLoss()內(nèi)部還會在dim1再做一次log_softmax但輸入已經(jīng)變成了一堆被空間歸一化過的數(shù)字模型基本學(xué)不出有效的類別邊界。診斷這類問題有一個(gè)很笨但有效的辦法在loss計(jì)算前打印一行l(wèi)ogits.shape然后自己默念一遍“第二維是類別數(shù)”再檢查softmax的dim是1。如果嫌麻煩就把softmax這類操作封裝成一個(gè)函數(shù)統(tǒng)一傳dim1避免到處手寫。2.3 提前對logits做softmax再送進(jìn)loss等于白做這個(gè)坑我踩過而且是在一輪已經(jīng)很深的訓(xùn)練之后才發(fā)現(xiàn)的。當(dāng)時(shí)我為了在訓(xùn)練日志里輸出“置信度”順手在loss之前寫了一句out torch.softmax(out, dim1)然后才把out傳給CrossEntropyLoss()。結(jié)果模型訓(xùn)練一直很慢loss數(shù)值偏小驗(yàn)證集幾乎不動。原因是CrossEntropyLoss()內(nèi)部已經(jīng)有l(wèi)og_softmax這一步。如果你先把softmax結(jié)果傳進(jìn)去它等于在[0,1]范圍內(nèi)的概率值上再取一次log得到的分布已經(jīng)不再是模型原始分?jǐn)?shù)的對數(shù)概率。尤其在概率接近0或1時(shí)數(shù)值會發(fā)生奇怪的偏移梯度方向雖然不至于完全反向但優(yōu)化過程被嚴(yán)重扭曲。正確做法是模型最后一層輸出logits直接丟給CrossEntropyLoss()需要看概率時(shí)單獨(dú)在inference階段做softmax。如果你非要在訓(xùn)練過程中監(jiān)視概率就用with torch.no_grad()的代碼塊只算softmax做日志別讓它進(jìn)入損失計(jì)算圖。2.4 上采樣、padding、裁剪引起的尺寸錯(cuò)位分割模型里編碼-解碼結(jié)構(gòu)非常常見很多模型在解碼器末尾直接輸出了下采樣后的特征圖而不是原圖大小。此時(shí)如果直接把logits和原始分辨率mask去算CrossEntropyLoss()會報(bào)shape不匹配的錯(cuò)誤。但比這個(gè)更隱蔽的情況是你用某種方式強(qiáng)行把它們對齊了但空間位置是錯(cuò)的。比如DeepLab系模型最后特征圖是輸入尺寸的1/8或1/16如果沒做上采樣shape對不上會立刻報(bào)錯(cuò)如果你寫了logits F.interpolate(logits, size(H, W), modebilinear, align_cornersTrue)尺寸對了但因?yàn)閙ask和原圖經(jīng)過的裁剪、padding不一樣實(shí)際像素錯(cuò)位loss還在繼續(xù)算只是結(jié)果全程沒有意義。我的排查順序是先看原始圖像進(jìn)模型前的尺寸變換再看mask有沒有做過相同的resize和crop。特別是在使用隨機(jī)裁剪時(shí)必須保證image和mask使用同一個(gè)crop參數(shù)。如果你在dataloader里用了圖像增強(qiáng)庫一定檢查是不是對mask也同步做了增強(qiáng)而且mask的插值方式要選最近鄰。3. mask標(biāo)簽處理中隱藏的坑3.1 RGB的標(biāo)注圖不能直接當(dāng)target現(xiàn)在很多公開分割數(shù)據(jù)集給的標(biāo)簽是RGB偽彩色圖而不是每個(gè)像素一個(gè)索引的PNG。比如VOC格式的mask是一張彩圖背景是黑色行人是紅色汽車是藍(lán)色。如果直接把RGB圖讀進(jìn)來變成(H,W,3)或(3,H,W)再扔給CrossEntropyLoss()第一個(gè)崩潰點(diǎn)就是target維度不對第二個(gè)崩潰點(diǎn)是數(shù)值范圍不對——CrossEntropyLoss希望target是單通道整數(shù)索引不是一個(gè)三元組。正確做法是建一個(gè)顏色映射表把每個(gè)RGB值映射到類別索引。速度上別用純Python逐像素循環(huán)數(shù)據(jù)量一大就慢得致命?？梢杂肗umPy一行搞定每一類先做一個(gè)全零的索引矩陣然后對每個(gè)類別用np.all(mask_rgb color, axis-1)得到一個(gè)布爾矩陣再把對應(yīng)位置填成類別id。最后轉(zhuǎn)成torch.from_numpy(index).long()。這個(gè)轉(zhuǎn)換過程最好放在預(yù)處理階段提前批量生成索引版mask保存下來而不是每次訓(xùn)練都在dataloader里現(xiàn)場轉(zhuǎn)換。否則訓(xùn)練時(shí)每讀一個(gè)樣本都做一次全圖顏色匹配CPU負(fù)載高到無法接受。3.2 標(biāo)簽值必須連續(xù)且從0開始這個(gè)坑極其隱蔽。很多數(shù)據(jù)集的原始標(biāo)簽里忽略區(qū)域用255背景用0但某些類別的ID可能是1、2、3之后直接跳到7、8、9中間沒有4、5、6。人的直覺是“既然是類別ID那就直接用”但CrossEntropyLoss()內(nèi)部做索引查表時(shí)是按target里的具體數(shù)值去取logits對應(yīng)通道的。比如logits有10個(gè)通道代表類別0到9target里如果出現(xiàn)值12它會直接訪問越界報(bào)錯(cuò)如果target里的值不連續(xù)但都沒有越界比如某些類從0到9中間缺了幾個(gè)那模型的一個(gè)輸出通道可能永遠(yuǎn)不被用到另一個(gè)類別卻對上了錯(cuò)誤通道最終預(yù)測結(jié)果混亂。所以在訓(xùn)練前要做一件看起來多余但救命的事對訓(xùn)練集和驗(yàn)證集分別執(zhí)行np.unique(mask)看看mask到底有哪些值。如果發(fā)現(xiàn)不連續(xù)或者存在超出類別數(shù)范圍的值就建立一個(gè)重映射字典把所有有效值映射成0,1,2,...,C-1忽略值映射成255。這樣CrossEntropyLoss的通道和標(biāo)簽才能一一對應(yīng)。3.3 ignore_index是雙刃劍別指望它自動處理所有無效區(qū)域ignore_index的設(shè)計(jì)初衷是忽略某些位置的像素比如VOC的邊界白線、標(biāo)注不全的區(qū)域等。常見做法是nn.CrossEntropyLoss(ignore_index255)然后在target里把無效區(qū)域的值設(shè)為255。這個(gè)機(jī)制很好用但它有幾個(gè)副作用需要留意。第一個(gè)副作用是當(dāng)reductionmean時(shí)分母只統(tǒng)計(jì)有效像素?cái)?shù)不是所有像素。如果一個(gè)batch里有效像素特別少loss值會表現(xiàn)出不正常的劇烈波動。更極端的情況是整個(gè)batch里的像素全是255loss直接變成nan。這個(gè)問題在小batch訓(xùn)練、mask標(biāo)注大量缺失時(shí)尤其明顯。第二個(gè)副作用是如果你同時(shí)設(shè)置了類別權(quán)重weight和ignore_indexweight的長度必須等于真實(shí)類別數(shù)C不要把忽略區(qū)域當(dāng)成一個(gè)類別放進(jìn)weight里。否則要么報(bào)維度不匹配要么權(quán)重語義錯(cuò)亂。我習(xí)慣在計(jì)算weight時(shí)只統(tǒng)計(jì)非忽略區(qū)域的像素確保每個(gè)類別都有合理的頻率估計(jì)。3.4 數(shù)據(jù)增強(qiáng)后mask錯(cuò)位和插值問題做分割的人都用過隨機(jī)翻轉(zhuǎn)、隨機(jī)旋轉(zhuǎn)、隨機(jī)縮放這些增強(qiáng)。很多人會把圖像增強(qiáng)做好但mask增強(qiáng)忘掉或者雖然做了用了雙線性插值。雙線性插值會產(chǎn)生介于兩個(gè)整數(shù)之間的浮點(diǎn)值比如0.2、0.8這樣的target直接傳給CrossEntropyLoss()會報(bào)dtype錯(cuò)誤或者被某些操作截?cái)喑?和1導(dǎo)致類別完全錯(cuò)亂。mask的resize必須用最近鄰插值這在PyTorch的F.interpolate里就是modenearest在圖像增強(qiáng)庫里有類似參數(shù)。翻轉(zhuǎn)和旋轉(zhuǎn)這種不改變像素值的幾何變換要特別確認(rèn)邊界填充值不要生成垃圾類別。隨機(jī)旋轉(zhuǎn)時(shí)如果邊界填充用了0那么補(bǔ)齊區(qū)域會被當(dāng)成背景類這往往不是你想要的結(jié)果需要顯式用一個(gè)填充值然后在target里把它映射成ignore_index。另外一個(gè)容易被忽略的點(diǎn)如果對圖像做了歸一化mask不要做同樣的歸一化。圖像需要減去均值除以標(biāo)準(zhǔn)差mask只需要做類型轉(zhuǎn)換否則會引入浮點(diǎn)誤差。很多新手在同一個(gè)transform里對圖像和mask套了同一個(gè)標(biāo)準(zhǔn)化函數(shù)最后target直接變成了負(fù)數(shù)或者0.幾的小數(shù)loss瞬間變成nan。4. 訓(xùn)練時(shí)loss表現(xiàn)異常的排查4.1 loss突然變成nan先從數(shù)據(jù)和target查起loss變成nan是分割訓(xùn)練里最常見的異常之一。很多人第一反應(yīng)是調(diào)整學(xué)習(xí)率、換優(yōu)化器但我經(jīng)手的案例里大部分nan其實(shí)來自target和輸入格式的問題而不是優(yōu)化器的問題。排查順序應(yīng)該是先打印target.min()和target.max()確認(rèn)沒有超出類別數(shù)范圍再打印logits.min()和logits.max()確認(rèn)沒有inf或者nan最后看loss.item()是不是一開始就是nan如果是那大概率是數(shù)據(jù)問題。比如target里有值200而你的模型輸出通道只有19個(gè)CrossEntropyLoss在取log_softmax對應(yīng)通道時(shí)會越界輕則報(bào)錯(cuò)重則在某些版本里直接產(chǎn)生nan。還有如果標(biāo)簽是浮點(diǎn)型必須轉(zhuǎn)成long()。我建議在dataloader里就把mask mask.long()固定好不要等到訓(xùn)練循環(huán)里再改更不要依賴自動類型推斷。排查時(shí)在loss.backward()前面加一行斷言也很有用assert loss.item() loss.item()這能快速發(fā)現(xiàn)nan。加assert不能解決根本問題但它能把問題卡在最早出現(xiàn)的時(shí)刻避免訓(xùn)了半天才發(fā)現(xiàn)loss早就壞了。4.2 loss不下降多半是大類別把模型帶偏了這個(gè)問題表面上跟CrossEntropyLoss關(guān)系不大但它確實(shí)是使用默認(rèn)參數(shù)最容易踩的大坑。默認(rèn)的weightNone意味著每個(gè)像素對loss的貢獻(xiàn)相同。當(dāng)背景像素占95%、前景只占5%時(shí)模型只需要把所有像素都判成背景l(fā)oss就能降到很低mIoU卻慘不忍睹。我比較推薦的做法是先跑一個(gè)epoch統(tǒng)計(jì)各類別像素占比然后計(jì)算中位數(shù)頻率平衡權(quán)重。公式思路很簡單weight_i median_freq / freq_i其中freq_i是第i類像素在所有有效像素中的比例median_freq是這些比例的中位數(shù)。這樣做的效果是讓出現(xiàn)少的類別獲得更大權(quán)重同時(shí)不至于讓極稀有類權(quán)重過大導(dǎo)致訓(xùn)練震蕩。設(shè)置weight時(shí)還有一個(gè)細(xì)節(jié)weight的每個(gè)值對應(yīng)logits的通道索引不是類別標(biāo)簽本身。如果你重映射過mask那么mask的值和weight的順序都要按照重映射后的索引來。否則即使維度匹配權(quán)重也會“配錯(cuò)對象”。4.3 整個(gè)batch全是ignore區(qū)域時(shí)的空張量問題這個(gè)坑我調(diào)試了很久。當(dāng)時(shí)用的數(shù)據(jù)集標(biāo)注很稀疏一個(gè)batch里大部分像素都是未標(biāo)注區(qū)域全是255。CrossEntropyLoss的ignore_index255把所有像素都過濾掉之后reductionmean要對0個(gè)元素求平均結(jié)果就是nan。這個(gè)問題在batch size比較小、類別又多又稀疏時(shí)很容易發(fā)生。修復(fù)思路有幾個(gè)方向。最直接的是增大batch size或者過濾掉那些有效標(biāo)注太少的數(shù)據(jù)樣本。另一個(gè)通用做法是在訓(xùn)練循環(huán)里檢測一下有效像素?cái)?shù)量如果為0就跳過這個(gè)batch。但更治本的是檢查數(shù)據(jù)pipeline確認(rèn)255這個(gè)值到底是“忽略區(qū)域”還是“背景類0”被強(qiáng)行轉(zhuǎn)成了255。我見過有人把mask填充值設(shè)成255但忘記標(biāo)注它是ignore導(dǎo)致所有有效像素都被丟掉了。還有一個(gè)小技巧如果你發(fā)現(xiàn)訓(xùn)練集里某些類別的像素總數(shù)少得可憐與其硬扛CrossEntropyLoss不如先做數(shù)據(jù)清洗把標(biāo)注明顯錯(cuò)誤的樣本剔除。損失函數(shù)能緩解類別不平衡但補(bǔ)不了標(biāo)注質(zhì)量的問題。4.4 損失看起來太小或?yàn)?的幾種情況loss異?！昂谩辈灰欢ù碛?xùn)練正常。最常見的一種情況是忘記喂logits直接拿softmax后的概率值傳給CrossEntropyLoss此時(shí)loss數(shù)值會比正常情況小很多因?yàn)樗窃诟怕手瞪显偃og而概率值的范圍天然被壓縮在0到1之間log后的負(fù)數(shù)絕對值非常小。這時(shí)候模型不一定完全學(xué)廢但跑很久也很難收斂到理想狀態(tài)。還有一種情況是target退化成了常數(shù)比如所有mask都是背景類0。此時(shí)模型只需要輸出一個(gè)常數(shù)分布就能把loss壓得很低。驗(yàn)證集mIoU可能不為0但仔細(xì)看每類IoU只有一個(gè)類有數(shù)值。要排查這個(gè)問題可以在訓(xùn)練開始前可視化幾個(gè)樣本的mask看一眼是不是存在不同類別的像素。如果驗(yàn)證時(shí)loss很低但mIoU不高還有一個(gè)隱藏原因是模型處于model.train()而不是model.eval()模式BatchNorm的統(tǒng)計(jì)量在驗(yàn)證時(shí)還在不斷變化導(dǎo)致輸出不穩(wěn)定。這種問題在分割任務(wù)里很常見尤其在用驗(yàn)證集計(jì)算loss時(shí)必須用with torch.no_grad()加上model.eval()。5. 一次完整最小可復(fù)現(xiàn)的分割訓(xùn)練實(shí)操5.1 最小數(shù)據(jù)讀取與標(biāo)簽格式轉(zhuǎn)換下面給一個(gè)可以直接改來跑的流程重點(diǎn)不是模型多強(qiáng)而是讓CrossEntropyLoss的輸入輸出嚴(yán)格合規(guī)。圖像讀取后統(tǒng)一轉(zhuǎn)成float32的(3,H,W)張量mask讀取后先做顏色映射或直接讀索引圖然后轉(zhuǎn)成int64的(H,W)張量。def load_sample(image_path, mask_path): image read_image(image_path).astype(np.float32) # H,W,3 mask_raw read_mask(mask_path) # 可能是RGB或索引圖 # 如果mask是RGB圖這里要完成顏色到索引的映射 h, w mask_raw.shape[:2] mask np.zeros((h, w), dtypenp.int64) for cls, color in color_mapping.items(): mask[np.all(mask_raw color, axis-1)] cls # 統(tǒng)一格式圖像CHW標(biāo)簽HW image torch.from_numpy(image.transpose(2, 0, 1)).float() mask torch.from_numpy(mask).long() return image, mask這里color_mapping要自己根據(jù)數(shù)據(jù)集定義比如{0: (0,0,0), 1: (128,0,0)}。映射完成后做一次np.unique(mask)確認(rèn)最大值小于類別數(shù)或者把不需要的區(qū)域改成255。這個(gè)步驟雖然看起來啰嗦但能攔住后面至少一半的問題。5.2 一個(gè)最小分割模型與loss初始化模型不需要太復(fù)雜核心是最后輸出logits。class SegmentNet(nn.Module): def __init__(self, in_channels3, num_classes19): super().__init__() self.backbone nn.Sequential( nn.Conv2d(in_channels, 32, 3, padding1), nn.ReLU(inplaceTrue), nn.Conv2d(32, 64, 3, padding1), nn.ReLU(inplaceTrue), ) self.head nn.Conv2d(64, num_classes, 1) def forward(self, x): return self.head(self.backbone(x))損失函數(shù)我一般先這樣初始化criterion nn.CrossEntropyLoss(ignore_index255)如果已經(jīng)統(tǒng)計(jì)好了類別頻率就加上weight參數(shù)比如weightclass_weight_tensor。注意這個(gè)tensor要放到和模型一樣的device上并且數(shù)據(jù)類型是torch.float32。不要一開始就上focal loss、dice loss之類的復(fù)雜變體先用默認(rèn)CE跑通基線后續(xù)再根據(jù)問題換。5.3 訓(xùn)練循環(huán)中損失計(jì)算的常見寫法對照訓(xùn)練循環(huán)的核心就幾行但錯(cuò)誤寫法非常多。正確寫法是for images, targets in dataloader: images images.to(device) targets targets.to(device) # (B,H,W), long logits model(images) # (B,C,H,W) loss criterion(logits, targets) optimizer.zero_grad() loss.backward() optimizer.step()常見錯(cuò)誤寫法我列幾個(gè)如果你在代碼里看到類似寫法直接改loss criterion(torch.softmax(logits, dim1), targets)——錯(cuò)誤重復(fù)softmax。loss criterion(logits, targets.unsqueeze(1))——錯(cuò)誤target多了通道維度。loss criterion(logits, targets.float())——錯(cuò)誤target必須是long。loss criterion(logits.view(-1, C), targets.view(-1))——這種做法本身沒問題但前提是原始空間對應(yīng)關(guān)系沒亂。很多人是在HWC和CHW之間換得暈頭轉(zhuǎn)向結(jié)果像素順序全亂了。與其手動view不如直接保持(B,C,H,W)和(B,H,W)傳給loss。5.4 驗(yàn)證與保存指標(biāo)時(shí)要注意的細(xì)節(jié)驗(yàn)證階段很多人會直接pred logits.argmax(dim1)然后和target比較。這里最隱蔽的問題是argmax(dim1)是類別維度是對的但如果你因?yàn)橹傲?xí)慣了TF的NHWC寫成argmax(dim-1)那你的pred會在W方向上取最大得到的結(jié)果完全不是類別索引。計(jì)算mIoU時(shí)也要過濾掉ignore_index對應(yīng)的像素。最簡單的方法是只計(jì)算有效像素的混淆矩陣然后逐類計(jì)算IoU。混淆矩陣的維度是C x C但一定要先確認(rèn)target的值都在0到C-1之間否則索引直接越界。另外保存可視化結(jié)果時(shí)索引mask直接保存成灰度圖會很難看最好映射回原始RGB顏色再保存。但保存和可視化用的顏色映射不能影響訓(xùn)練數(shù)據(jù)它只是后處理別把它混進(jìn)dataloader里。6. 問題排查速查表與實(shí)際心得6.1 常見報(bào)錯(cuò)與修復(fù)對照表這里整理一份我現(xiàn)在幾乎每次排查都會對照的速查表能覆蓋大多數(shù)分割任務(wù)中的CrossEntropyLoss問題。現(xiàn)象常見原因修復(fù)方式報(bào)錯(cuò)Expected target sizetarget多了一維或傳了one-hot統(tǒng)一為(B,H,W)的long型標(biāo)簽loss是nantarget含越界值、ignore_index未設(shè)置、lr過高打印target min/max設(shè)置ignore_index降低lrloss數(shù)值異常小對softmax結(jié)果再算CrossEntropyLoss改為直接傳logits訓(xùn)練acc高但mIoU低類別不平衡加類別權(quán)重或換focal/dice losslabel和模型通道錯(cuò)位使用了不連續(xù)的類別ID重映射標(biāo)簽為0到C-1mask增強(qiáng)后錯(cuò)位mask用了雙線性插值或未同步變換用最近鄰插值圖像和mask走同一變換驗(yàn)證時(shí)loss波動大忘記model.eval()BatchNorm失效驗(yàn)證階段固定model.eval()這張表每次排查都能用上但真正解決問題的往往不是最后一條而是前幾條數(shù)據(jù)鏈路的問題。所以我的習(xí)慣是先檢查數(shù)據(jù)再去動損失函數(shù)。6.2 幾個(gè)我一直在用的診斷習(xí)慣我現(xiàn)在的固定流程是在第一次訓(xùn)練前單獨(dú)寫一個(gè)“冒煙測試”腳本把第一個(gè)batch的數(shù)據(jù)取出來手動前向一次打印以下信息logits.shape、target.shape、target.dtype、target.min()、target.max()、logits.min()、logits.max()。這一堆信息看一眼能攔住絕大多數(shù)低級錯(cuò)誤。如果訓(xùn)練過程中l(wèi)oss出現(xiàn)異常我還會把當(dāng)前batch的image和target可視化拼圖保存下來。直接看圖片比看數(shù)字快得多尤其是mask是否錯(cuò)位、是否有莫名奇妙的填充值、以及255和0到底哪個(gè)是背景一張圖就能講清楚。還有一個(gè)小習(xí)慣是給訓(xùn)練腳本設(shè)置固定隨機(jī)種子并且使用確定性的dataloader。這樣排查問題時(shí)能穩(wěn)定復(fù)現(xiàn)不會因?yàn)閿?shù)據(jù)順序變化導(dǎo)致現(xiàn)象時(shí)有時(shí)無。分割任務(wù)本來訓(xùn)練周期就長能復(fù)現(xiàn)的問題最好在早期就控制住。6.3 回到最初的那個(gè)項(xiàng)目最后是怎么修好的回到我開頭說的那個(gè)街道場景項(xiàng)目最后其實(shí)只改了三處把RGB mask轉(zhuǎn)成了連續(xù)索引給CrossEntropyLoss設(shè)置了ignore_index255再按各類別像素頻率計(jì)算了權(quán)重。沒換模型結(jié)構(gòu)沒換優(yōu)化器mIoU直接從不到20漲到接近50。那次之后我養(yǎng)成了一個(gè)習(xí)慣每次想把損失函數(shù)換成更復(fù)雜的東西之前先問自己幾個(gè)問題——target是不是long型通道維度是不是在第2維數(shù)據(jù)增強(qiáng)是不是同步了mask里的值是不是在0到C-1之間如果這些答案有任何一個(gè)是“沒確認(rèn)”那就先別換loss因?yàn)镃rossEntropyLoss本身很簡單復(fù)雜的永遠(yuǎn)是它前后那堆數(shù)據(jù)。最后再分享一個(gè)小技巧如果你調(diào)來調(diào)去還是覺得loss表現(xiàn)詭異先臨時(shí)把數(shù)據(jù)集縮小到一個(gè)batch擬合一個(gè)或幾個(gè)樣本看loss能不能降到接近0。如果連單樣本都擬合不了那問題一定在數(shù)據(jù)鏈路或模型前向而不是損失函數(shù)。這個(gè)辦法我在很多項(xiàng)目里都用過比反復(fù)調(diào)整優(yōu)化器參數(shù)有效得多。