簡介從零搭建CNN與ResNet的入門實(shí)戰(zhàn)代碼包面向深度學(xué)習(xí)初學(xué)者和想厘清“ResNet與CNN關(guān)系”的開發(fā)者可直接用于計(jì)算機(jī)視覺自學(xué)或課程設(shè)計(jì)參考。資源共24個(gè)文件包含5個(gè)Python訓(xùn)練與工具腳本、6個(gè)h5格式數(shù)據(jù)集文件交通標(biāo)志、手勢(shì)、笑臉等另有PyCharm工程配置xml/iml與運(yùn)行生成的pyc緩存壓縮包整體約25.27MB代碼按“第一周CNN、第二周ResNet”兩階段組織目錄清晰便于逐周學(xué)習(xí)。目前已有1099人學(xué)習(xí)下載。源碼完整展現(xiàn)了CNN的卷積層、池化層、全連接層以及ResNet殘差塊、跳躍連接和批量歸一化的實(shí)際寫法可直接運(yùn)行查看訓(xùn)練過程配套h5數(shù)據(jù)集支持從數(shù)據(jù)加載、模型搭建到損失計(jì)算與驗(yàn)證的完整閉環(huán)幫助讀者快速掌握PyTorch/TensorFlow建模思路并深入理解殘差連接如何緩解深層網(wǎng)絡(luò)梯度消失問題。1. 先解決最大困惑ResNet到底是不是CNN第一次看到“簡易CNN和ResNet搭建Python源碼”這份資源時(shí)我腦子里最大的問號(hào)不是“怎么搭建”而是一個(gè)更基礎(chǔ)的問題ResNet是CNN嗎如果你也有同款困惑那這篇入門文章就是寫給你的。CNN和ResNet的關(guān)系可以類比成同一道菜的基礎(chǔ)版和改良版CNN是深度學(xué)習(xí)里最常用的圖像識(shí)別模型ResNet是在CNN骨架上加裝了“殘差塊”的升級(jí)型號(hào)所以它本質(zhì)上還是CNN只不過更聰明、更適合往深了堆。這份資源里的代碼用Python帶你按兩周的節(jié)奏搭出這兩個(gè)模型。今天我們不急著刷原理我?guī)惆阉x成能上手的東西先搞懂兩個(gè)概念再看看資料里到底有什么最后落在你電腦上能跑通的第一個(gè)例子。2. 先搞懂地基CNN是怎么“看”一張圖的不管第一周還是第二周你寫的每一段代碼都是在做同一件事讓電腦從圖片里認(rèn)出東西來。CNN解決的就是這個(gè)問題它仿照人眼的工作方式一層一層地從圖里找特征——先找邊緣再找紋理最后拼出“這是一只貓”的結(jié)論。要理解ResNet你得先知道CNN的四個(gè)積木塊下面我們一塊一塊來。2.1 圖像在電腦眼里是一堆數(shù)字你在屏幕上看到的照片對(duì)電腦來說只是一個(gè)巨大的數(shù)字矩陣。一張灰度圖就是一個(gè)二維數(shù)組每個(gè)數(shù)字代表一個(gè)像素點(diǎn)的亮度范圍通常是0到2550是純黑255是純白。彩色圖則稍微復(fù)雜一點(diǎn)它由三個(gè)矩陣疊在一起組成分別對(duì)應(yīng)紅、綠、藍(lán)三個(gè)顏色通道。你可以用幾行代碼親手驗(yàn)證這件事。打開任意一個(gè)Python文件敲進(jìn)下面這段import numpy as np # 用隨機(jī)數(shù)模擬一張 4x4 的灰度圖 fake_image np.random.randint(0, 256, size(4, 4)) print(fake_image)跑一下你就會(huì)發(fā)現(xiàn)圖像在程序眼里根本不是“畫面”而是一張寫滿數(shù)字的網(wǎng)格。這里有兩個(gè)值得記住的點(diǎn)第一這張數(shù)字網(wǎng)格就是CNN的“輸入層”接收的數(shù)據(jù)第二數(shù)字的取值范圍很關(guān)鍵后面你訓(xùn)練網(wǎng)絡(luò)時(shí)經(jīng)常要把這些數(shù)字除以255讓它們落在0到1之間這個(gè)操作叫歸一化很多新手漏了這一步導(dǎo)致模型怎么訓(xùn)都不收斂。2.2 卷積層用一個(gè)小窗口“掃描”整張圖既然圖是數(shù)字網(wǎng)格那怎么從中找出特征最笨的辦法是把所有數(shù)字拉平成一條長向量交給全連接層處理。但這樣做有個(gè)致命問題一張100×100的圖拉平后有一萬個(gè)數(shù)字全連接層要為每個(gè)數(shù)字配一大堆權(quán)重參數(shù)數(shù)量爆炸訓(xùn)練極慢還容易過擬合。卷積層換了個(gè)思路它不用看整張圖只用一個(gè)小窗口比如3×3的小方塊在圖上滑動(dòng)每滑到一個(gè)位置就做一次“逐點(diǎn)相乘再求和”得出來的結(jié)果構(gòu)成一張新的小圖叫特征圖。這個(gè)小窗口就是濾波器也叫卷積核。一個(gè)濾波器只能找一種特征——有的負(fù)責(zé)找豎線有的負(fù)責(zé)找橫線有的負(fù)責(zé)找拐角。想讓網(wǎng)絡(luò)認(rèn)識(shí)更復(fù)雜的東西就多放幾個(gè)濾波器所以卷積層的輸出通常有好多張?zhí)卣鲌D每一張是“某個(gè)特征在圖上哪里出現(xiàn)了”的地圖。這里有兩個(gè)概念會(huì)在代碼里反復(fù)出現(xiàn)步長和填充。步長就是窗口每次往右或往下挪幾格步長越大輸出圖越小填充是在原圖四周補(bǔ)一圈0用來控制輸出尺寸。比如輸入是32×32的圖卷積核是3×3填充設(shè)為1輸出還是32×32如果不填充輸出就變成30×30。動(dòng)手改代碼時(shí)常會(huì)因?yàn)檫@兩個(gè)參數(shù)沒算清楚導(dǎo)致后面全連接層維度不匹配這個(gè)是后話你現(xiàn)在先有個(gè)印象。2.3 激活函數(shù)和池化層給特征“表態(tài)”再“瘦身”卷積層是線性操作就算堆一百層本質(zhì)上還是線性變換的組合學(xué)不到復(fù)雜規(guī)律。這時(shí)候就需要激活函數(shù)出場(chǎng)。CNN里最常用的是ReLU公式極其簡單負(fù)數(shù)全部變0正數(shù)原樣保留。import torch # 模擬ReLU把負(fù)數(shù)清零 x torch.tensor([-2.0, -1.0, 0.0, 1.0, 3.0]) y torch.relu(x) print(y) # 輸出: tensor([0., 0., 0., 1., 3.])為什么要把負(fù)數(shù)清零因?yàn)榍辶悴僮饕肓朔蔷€性讓網(wǎng)絡(luò)有能力擬合各種彎彎曲曲的邊界。你可以把ReLU理解成“表態(tài)”這個(gè)位置沒找到特征就直接閉嘴輸出0找到了就大聲報(bào)數(shù)。池化層接在卷積和激活后面最常見的是最大池化在一個(gè)2×2的小窗口里取最大值然后窗口滑過整張圖。這樣做的效果是圖像尺寸縮小一半但最強(qiáng)的特征被保留下來計(jì)算量也大幅下降。而且池化讓網(wǎng)絡(luò)對(duì)輕微的位移不那么敏感——小貓?jiān)谡掌锷晕⑵税雮€(gè)像素提取到的特征幾乎不變。要注意的是池化層沒有可學(xué)習(xí)的參數(shù)它是個(gè)純“瘦身”操作新手常誤以為它和卷積一樣需要訓(xùn)練。2.4 全連接層收尾把特征“拉平投票”經(jīng)過幾輪“卷積→激活→池化”之后原始圖片已經(jīng)變成一堆小而深的特征圖。接下來要做的是把這些特征圖拉平成一維向量送進(jìn)全連接層做最終判斷。全連接層就像一個(gè)投票委員會(huì)每個(gè)輸入特征有權(quán)重經(jīng)過加權(quán)求和后輸出每個(gè)類別的得分。分類任務(wù)通常在最后一層接softmax把這些得分換算成概率比如“是貓的概率0.8是狗的概率0.2”。完整的CNN流程你可以記成一句話輸入→卷積→激活→池化→重復(fù)若干次→拉平→全連接→輸出概率。下面用一個(gè)極簡的CNN把這句話落到代碼上import torch import torch.nn as nn class SimpleCNN(nn.Module): def __init__(self): super().__init__() # 卷積塊1輸入3通道彩色圖輸出8個(gè)特征圖 self.conv1 nn.Conv2d(in_channels3, out_channels8, kernel_size3, padding1) self.pool1 nn.MaxPool2d(kernel_size2, stride2) # 卷積塊2輸入8個(gè)特征圖輸出16個(gè)特征圖 self.conv2 nn.Conv2d(in_channels8, out_channels16, kernel_size3, padding1) self.pool2 nn.MaxPool2d(kernel_size2, stride2) # 全連接層把拉平后的特征映射到10個(gè)類別 self.fc nn.Linear(16 * 8 * 8, 10) def forward(self, x): x torch.relu(self.conv1(x)) # 先卷積再ReLU激活 x self.pool1(x) # 池化縮小尺寸 x torch.relu(self.conv2(x)) x self.pool2(x) x x.view(x.size(0), -1) # 拉平成一維向量 x self.fc(x) # 全連接輸出10個(gè)類別的分?jǐn)?shù) return x上面這段代碼里的模型假設(shè)輸入是32×32的彩色圖。數(shù)據(jù)流向是這樣的32×32輸入經(jīng)過conv1padding1還是32×32經(jīng)過pool1變成16×16再走一輪變成8×8這時(shí)有16個(gè)特征圖拉平后就是16×8×81024個(gè)數(shù)全連接層把這1024個(gè)數(shù)映射到10個(gè)類別。如果你想換個(gè)數(shù)據(jù)集只需要改兩處全連接層的輸入維度以及最后的輸出類別數(shù)。第一次跑模型時(shí)建議在forward里加一行print(x.shape)看看每一步數(shù)據(jù)尺寸變成什么樣這是理解CNN最快的方式。3. ResNet為什么是CNN的升級(jí)版殘差塊到底在做什么現(xiàn)在你已經(jīng)知道CNN的四個(gè)積木塊了。但你可能有個(gè)疑問既然卷積、池化、全連接一套流程能把貓和狗分開那為什么還要搞一個(gè)ResNet出來答案很簡單因?yàn)槿藗儼l(fā)現(xiàn)CNN越深反而越難訓(xùn)練而ResNet專治這個(gè)毛病。這一章我們解決兩個(gè)問題普通CNN到底遇到了什么困難以及殘差塊是用什么思路化解困難的。3.1 普通CNN加深后為什么會(huì)“翻車”直覺告訴我們層數(shù)越多網(wǎng)絡(luò)應(yīng)該越強(qiáng)——畢竟能提取更細(xì)的特征。但研究者實(shí)驗(yàn)后發(fā)現(xiàn)普通CNN在層數(shù)超過一定值之后訓(xùn)練集上的錯(cuò)誤率反而升高了不是過擬合是根本學(xué)不動(dòng)。我第一學(xué)到這里時(shí)也不懂后來才明白主要有兩個(gè)原因在搗亂。第一個(gè)原因是梯度消失。深度學(xué)習(xí)靠“反向傳播”更新參數(shù)誤差要從最后一層傳回第一層每經(jīng)過一層就要乘一次梯度。如果梯度值小于1乘上幾十次之后傳到前面的梯度已經(jīng)小到接近0前面的卷積層幾乎學(xué)不到東西陷入“癱瘓”。第二個(gè)原因是退化問題理論上更深的網(wǎng)絡(luò)至少應(yīng)該能模仿淺層網(wǎng)絡(luò)的性能只要后面幾層學(xué)“什么都不做”就行但實(shí)踐證明讓普通網(wǎng)絡(luò)學(xué)會(huì)“什么都不做”這件事本身就非常困難?？偨Y(jié)成一句話層數(shù)加深后網(wǎng)絡(luò)不是不想學(xué)是傳不下去、學(xué)不動(dòng)。這時(shí)候需要的不是更復(fù)雜的結(jié)構(gòu)而是一條能讓信息“抄近路”的通道。3.2 殘差塊的設(shè)計(jì)思路y F(x) xResNet解決這個(gè)問題的辦法看起來簡單到讓人懷疑在模塊外面加一條短路把輸入直接加到輸出上。一個(gè)殘差塊的輸出不是“經(jīng)過卷積之后的結(jié)果”而是“卷積結(jié)果加上原始輸入”。用公式寫就是y F(x) x其中F(x)是幾層卷積和激活的組合。這條加法操作網(wǎng)上各種文章叫“跳躍連接”“恒等映射”“shortcut”聽起來很高深其實(shí)你只需要理解它給了網(wǎng)絡(luò)一條短路通道信息可以不經(jīng)過中間的卷積層直接往后傳。這樣一來即使某一層卷積學(xué)得很差原始輸入x也能原樣保留。更妙的是如果這一層確實(shí)沒什么可學(xué)的網(wǎng)絡(luò)只需要讓F(x)趨近于0輸出就約等于輸入x相當(dāng)于這一層自動(dòng)變成了“透明層”。相比之下普通CNN沒有這條通道每一層都必須“硬學(xué)”一個(gè)結(jié)果學(xué)不好反而添亂。打個(gè)比方普通CNN像一條必須每道工序都做好的流水線ResNet則在每段工序旁邊修了一條應(yīng)急通道師傅狀態(tài)不好時(shí)東西可以直接滑到下一站不影響整體進(jìn)度。這就是為什么ResNet能堆到50層、101層甚至更深而普通CNN堆到20多層就學(xué)不動(dòng)了。3.3 用一張表回答“ResNet是CNN嗎”很多人糾結(jié)這個(gè)問題其實(shí)答案很明確是的ResNet就是CNN的一種是CNN的改進(jìn)版本。那種“ResNet和CNN是兩套東西”的感覺來自對(duì)比時(shí)把“普通CNN”默認(rèn)成了“CNN”本身。下面這張對(duì)比表幫你把關(guān)系看清楚。對(duì)比維度普通CNNResNet基本積木塊卷積、激活、池化、全連接同樣是卷積、激活、池化、全連接特殊結(jié)構(gòu)沒有跳躍連接在卷積塊之間加了殘差連接shortcut能加深嗎十幾層后容易梯度消失可以輕松堆到幾十上百層典型代表簡易CNN、VGG系列ResNet-18、ResNet-50訓(xùn)練難度淺層好訓(xùn)加深后變難深度較大時(shí)依然穩(wěn)定所以如果你在新手期聽人說“ResNet不是CNN它和CNN是兩種網(wǎng)絡(luò)”那這話是錯(cuò)的。更準(zhǔn)確的說法是ResNet屬于CNN家族它是為了解決CNN加深時(shí)“學(xué)不動(dòng)”的問題在結(jié)構(gòu)上做的一個(gè)巧妙升級(jí)。搞懂這一點(diǎn)你就不會(huì)再被這兩個(gè)詞繞暈了。3.4 動(dòng)手寫一個(gè)殘差塊BasicBlock說了這么多不如直接看代碼。下面是PyTorch里一個(gè)最基礎(chǔ)的殘差塊對(duì)應(yīng)的是ResNet-18這類淺層ResNet里使用的結(jié)構(gòu)通常叫BasicBlockimport torch import torch.nn as nn class BasicBlock(nn.Module): def __init__(self, in_channels, out_channels, stride1): super().__init__() # 兩個(gè)3x3卷積每個(gè)后面跟一個(gè)批量歸一化 self.conv1 nn.Conv2d(in_channels, out_channels, kernel_size3, stridestride, padding1, biasFalse) self.bn1 nn.BatchNorm2d(out_channels) self.conv2 nn.Conv2d(out_channels, out_channels, kernel_size3, stride1, padding1, biasFalse) self.bn2 nn.BatchNorm2d(out_channels) # 當(dāng)輸入輸出形狀不一致時(shí)用1x1卷積調(diào)整x的形狀 self.shortcut nn.Sequential() if stride ! 1 or in_channels ! out_channels: self.shortcut nn.Sequential( nn.Conv2d(in_channels, out_channels, kernel_size1, stridestride, biasFalse), nn.BatchNorm2d(out_channels) ) def forward(self, x): identity x # 先保存原始輸入這就是“跳躍連接”的起點(diǎn) out torch.relu(self.bn1(self.conv1(x))) out self.bn2(self.conv2(out)) out identity # 關(guān)鍵一步卷積結(jié)果和原始輸入相加 out torch.relu(out) return out和上一章的SimpleCNN相比這個(gè)殘差塊多了三樣?xùn)|西批量歸一化、identity變量、相加操作。批量歸一化的作用是在每層卷積之后把數(shù)據(jù)分布拉回正規(guī)范圍讓訓(xùn)練更穩(wěn)定這也是ResNet敢訓(xùn)練得很深的原因之一。identity保存的是剛進(jìn)入模塊時(shí)的原始數(shù)據(jù)它沒有經(jīng)過任何卷積操作相當(dāng)于抄了近路。最后out identity這一行就是跳躍連接本身它會(huì)先在通道數(shù)上對(duì)齊兩個(gè)矩陣如果通道不一致shortcut里的1×1卷積會(huì)負(fù)責(zé)把identity調(diào)整成和out一樣的大小再逐元素相加。把幾個(gè)這樣的BasicBlock串起來最后接一個(gè)全連接層就組成一個(gè)微型ResNet。你在第4章會(huì)看到項(xiàng)目第二周做的事情本質(zhì)上就是重復(fù)練習(xí)組裝這種殘差塊。4. 拿到這份Python資源之后先認(rèn)識(shí)文件再準(zhǔn)備環(huán)境概念有了代碼也見過了接下來該真正動(dòng)手了。但打開資源包的那一刻很多新手會(huì)被嚇一跳又是“1第一周”又是“2第二周”里面還有一堆以.idea、.iml結(jié)尾的陌生文件。別慌這一章我?guī)阒饌€(gè)認(rèn)門把文件夾里每一類文件是干什么的弄清楚然后裝好環(huán)境讓代碼跑起來。4.1 資源里到底有什么按文件夾認(rèn)門這份代碼是按兩周的學(xué)習(xí)節(jié)奏組織的兩個(gè)文件夾的名字已經(jīng)說明了內(nèi)容第一周搭簡易CNN第二周搭ResNet。下面這張表把核心文件列出來你對(duì)照著看就不迷路。文件/文件夾作用備注1第一周/test.py第一周的訓(xùn)練/測(cè)試主流程從這里開始看1第一周/cnn_utils.pyCNN相關(guān)的輔助函數(shù)包含數(shù)據(jù)加載、參數(shù)初始化等1第一周/datasets/train_signs.h5第一周訓(xùn)練數(shù)據(jù)集手勢(shì)數(shù)字圖片1第一周/datasets/test_signs.h5第一周測(cè)試數(shù)據(jù)集用來驗(yàn)證訓(xùn)練效果2第二周/resnets_utils.pyResNet相關(guān)的輔助函數(shù)第二周的核心工具文件2第二周/kt_utils.py笑臉數(shù)據(jù)加載工具配合train_happy使用2第二周/datasets/train_happy.h5第二周附加數(shù)據(jù)集笑臉識(shí)別任務(wù).idea、*.iml、workspace.xmlIDE配置文件可以完全忽略pycachePython運(yùn)行緩存可以完全忽略你可能會(huì)注意到第二周的datasets里也有train_signs.h5。這說明同一個(gè)手勢(shì)數(shù)據(jù)集被兩套模型各跑了一遍正好可以用來對(duì)比普通CNN和ResNet誰的準(zhǔn)確率更高、訓(xùn)練過程更穩(wěn)這是一個(gè)非常直觀的體驗(yàn)設(shè)計(jì)。至于kt_utils.py和train_happy.h5它們是另一個(gè)小任務(wù)——區(qū)分圖片里是笑臉還是非笑臉適合你在學(xué)會(huì)ResNet之后拿來做二次練習(xí)。第一次看代碼時(shí)我建議你先打開test.py別看細(xì)節(jié)只追主線加載數(shù)據(jù)→建立模型→訓(xùn)練→測(cè)試。你會(huì)發(fā)現(xiàn)流程和上一章的SimpleCNN幾乎一樣區(qū)別只是模型換成了ResNet。輔助函數(shù)先不細(xì)讀等主線通了再回頭看效率會(huì)高很多。另外資源里的緩存文件名帶了cpython-37字樣說明作者在Python 3.7版本下運(yùn)行過你現(xiàn)在用更新的Python版本大概率也能跑但要注意依賴庫的版本兼容。4.2 跑起來之前先裝好三樣?xùn)|西動(dòng)手前需要準(zhǔn)備的東西不多就三樣Python環(huán)境、PyTorch庫和h5py庫。如果你的電腦里還沒有打開終端執(zhí)行下面這條命令可以一次裝齊pip install torch h5py numpy matplotlib裝完之后建議你先用下面兩行代碼驗(yàn)證環(huán)境是否正常import torch import h5py print(torch.__version__)能打印出torch的版本號(hào)說明環(huán)境沒問題了。這里有個(gè)重要的心態(tài)調(diào)整新手階段完全可以用CPU訓(xùn)練不需要急著買顯卡。第一周的CNN模型很小用CPU跑幾分鐘也能完成訓(xùn)練足夠你看清楚整個(gè)流程。為什么要提這一點(diǎn)因?yàn)榻?jīng)常有新手第一反應(yīng)是“我沒有GPU是不是學(xué)不了”然后在配環(huán)境中卡了三天。事實(shí)是你只需要先把邏輯跑通GPU是后面提速的事不是入門的門檻。如果你電腦上同時(shí)裝了多個(gè)Python環(huán)境建議用虛擬環(huán)境工具比如conda或venv給這個(gè)項(xiàng)目單獨(dú)開一個(gè)環(huán)境。虛擬環(huán)境相當(dāng)于給項(xiàng)目一個(gè)獨(dú)立的“小房間”里面裝的庫互不干擾以后出問題了直接扔掉重建比在全局環(huán)境里折騰省心得多。這也是我踩過坑之后才養(yǎng)成的習(xí)慣——曾經(jīng)因?yàn)槿汁h(huán)境里某個(gè)庫版本沖突連續(xù)兩次安裝失敗后來一律開新環(huán)境再?zèng)]遇到過這個(gè)問題。4.3 讀懂h5數(shù)據(jù)項(xiàng)目里的第一道關(guān)卡安裝好環(huán)境之后你碰到的第一個(gè)實(shí)際障礙大概率是數(shù)據(jù)集文件。這套資源的所有數(shù)據(jù)都打包在.h5文件里新手看到這種格式往往不知道從哪下手。簡單說.h5就是一種可以同時(shí)存儲(chǔ)多個(gè)數(shù)組的文件格式里面數(shù)據(jù)按“鍵值對(duì)”組織類似一個(gè)字典。要查看文件里有哪些鍵用h5py寫幾行代碼就行import h5py # 先打開文件看看里面存了什么 with h5py.File(1第一周/datasets/train_signs.h5, r) as f: print(list(f.keys()))運(yùn)行后你會(huì)看到類似[train_x, train_y]這樣的鍵名列表。這時(shí)你再讀取就順理成章了import h5py import numpy as np with h5py.File(1第一周/datasets/train_signs.h5, r) as f: X np.array(f[train_x]) # 圖像數(shù)據(jù) y np.array(f[train_y]) # 標(biāo)簽 print(X.shape, y.shape)打印出來的形狀信息非常重要一般你會(huì)看到(樣本數(shù), 高, 寬, 通道數(shù))這種結(jié)構(gòu)。這里埋伏著新手最容易踩的一個(gè)坑h5文件里存的圖像維度順序是“高、寬、通道”而PyTorch的卷積層要求輸入是“通道、高、寬”。如果你不管三七二十一直接把數(shù)據(jù)喂給模型會(huì)立刻報(bào)維度錯(cuò)誤。解決辦法是交換軸的順序代碼寫成X np.transpose(X, (0, 3, 1, 2))同時(shí)再除以255做歸一化。項(xiàng)目里的utils文件通常已經(jīng)把這些工作封裝好了所以新手第一周直接用現(xiàn)成的加載函數(shù)最穩(wěn)等你理解了這個(gè)步驟再自己去寫也不遲。5. 避坑指南搭CNN和ResNet最容易翻車的五個(gè)坑代碼看得再多不如自己報(bào)錯(cuò)一次學(xué)得快。我下面列出的五個(gè)坑幾乎每個(gè)新手都會(huì)踩中至少兩三個(gè)每一個(gè)我都會(huì)按“現(xiàn)象→原因→解決”的順序講清楚你碰到時(shí)可以一條條對(duì)著排查。5.1 環(huán)境與路徑還沒開始訓(xùn)練就卡住的兩個(gè)坑坑1找不到數(shù)據(jù)集文件?，F(xiàn)象是運(yùn)行test.py時(shí)拋出FileNotFoundError提示找不到datasets/train_signs.h5。原因是代碼里寫的是相對(duì)路徑而你是從別的目錄啟動(dòng)腳本的Python按照當(dāng)前工作目錄去找文件自然找不到。解決方法是先確認(rèn)你當(dāng)前的運(yùn)行目錄在代碼里加一行import os; print(os.getcwd())看輸出是不是項(xiàng)目所在目錄如果不是用os.chdir(項(xiàng)目絕對(duì)路徑)切換過去或者把數(shù)據(jù)路徑改成絕對(duì)路徑。另外提醒一句文件夾名帶了“1第一周”這種中文極少數(shù)情況下在某些開發(fā)環(huán)境會(huì)出編碼問題穩(wěn)妥的做法是進(jìn)到文件夾內(nèi)部運(yùn)行不要從外部拼接層次過深的路徑?？?提示缺少模塊?，F(xiàn)象是報(bào)ModuleNotFoundError: No module named h5py或類似錯(cuò)誤。原因很簡單新環(huán)境里沒有安裝全依賴庫。解決方法是執(zhí)行pip install h5py補(bǔ)齊缺失的庫。但我更推薦的做法是不要挨個(gè)手動(dòng)裝先把環(huán)境中已裝的庫導(dǎo)出成清單文件以后換電腦直接一鍵還原。如果你發(fā)現(xiàn)torch裝好后導(dǎo)入報(bào)錯(cuò)先檢查是不是裝成了CPU版本但想用GPU或者反過來入門階段統(tǒng)一裝CPU版本即可省去一堆CUDA配置問題。5.2 維度與數(shù)據(jù)格式一跑就報(bào)錯(cuò)的經(jīng)典原因坑3矩陣乘法維度不匹配。現(xiàn)象是訓(xùn)練腳本跑到forward時(shí)報(bào)RuntimeError: size mismatch。原因大多是你改了網(wǎng)絡(luò)結(jié)構(gòu)或輸入圖片尺寸但全連接層的輸入維度沒有跟著算清楚。我在第2章說過全連接層的輸入等于“最后一個(gè)池化層輸出的特征圖數(shù)量×寬×高”這個(gè)值只要卷積、步長、池化任何一處改動(dòng)數(shù)字就會(huì)變。解決方法是給網(wǎng)絡(luò)寫一個(gè)“維度探測(cè)”流程在forward里臨時(shí)插入print(x.shape)跑一次就能看到每一層輸出的實(shí)際尺寸確定后再把數(shù)字填進(jìn)全連接層。剛學(xué)的時(shí)候覺得加print很笨但它比閉眼硬算快得多?？?圖像數(shù)據(jù)的維度順序不對(duì)。現(xiàn)象是數(shù)據(jù)能加載但送給模型時(shí)shape是(64, 64, 3)而模型期望(3, 64, 64)報(bào)錯(cuò)信息看起來像“Expected 4D input, got 3D input”。原因是h5文件里存的是“高、寬、通道”順序而PyTorch卷積層要的是“通道、高、寬”。解決方法是做一次軸交換np.transpose(X, (0, 3, 1, 2))把通道維從最后挪到第二位。這也是項(xiàng)目里utils文件的核心功能之一所以你用現(xiàn)成函數(shù)時(shí)會(huì)覺得很順自己重寫時(shí)就容易翻車。5.3 訓(xùn)練不收斂跑起來了但loss不降坑5loss一直不下降?，F(xiàn)象是訓(xùn)練了好幾個(gè)epoch損失函數(shù)值幾乎沒變準(zhǔn)確率還在瞎猜的水平。原因通常是下面幾個(gè)中的一個(gè)輸入數(shù)據(jù)沒歸一化像素還停留在0~255、學(xué)習(xí)率設(shè)得太離譜太大震蕩、太小蝸牛、或者輸出層接法有問題。解決方法是按順序排查檢查輸入數(shù)據(jù)有沒有除以255把學(xué)習(xí)率調(diào)到0.001這個(gè)常用起點(diǎn)如果用了CrossEntropyLoss交叉熵?fù)p失網(wǎng)絡(luò)最后一層不要再額外加softmax因?yàn)檫@個(gè)損失函數(shù)內(nèi)部已經(jīng)包含了softmax操作重復(fù)加會(huì)導(dǎo)致梯度異常。如果你想讓實(shí)驗(yàn)結(jié)果可復(fù)現(xiàn)還可以在代碼開頭加上torch.manual_seed(42)固定隨機(jī)種子這樣每次跑出來的結(jié)果基本一致不會(huì)出現(xiàn)“明明沒改代碼效果卻忽好忽壞”的玄學(xué)情況。6. 下一步怎么學(xué)從跑通代碼到真正吃透ResNet到這里你已經(jīng)知道CNN和ResNet是什么關(guān)系也能看懂資源里的文件結(jié)構(gòu)了。接下來的學(xué)習(xí)路徑我建議你按下面這張表的順序走步驟任務(wù)目標(biāo)第一步運(yùn)行第一周的test.py完整走通“加載數(shù)據(jù)→訓(xùn)練→測(cè)試”流程第二步精讀cnn_utils.py讀懂?dāng)?shù)據(jù)加載和參數(shù)初始化細(xì)節(jié)第三步自己寫一個(gè)SimpleCNN不看源碼也能搭出CNN第四步運(yùn)行第二周的ResNet代碼感受殘差塊的訓(xùn)練效果第五步改寫一個(gè)BasicBlock能解釋每一行在干嘛每一步的驗(yàn)收標(biāo)準(zhǔn)都很明確能跑通且能向別人講清楚代碼在做什么。特別是走到第四步時(shí)建議你在同一份手勢(shì)數(shù)據(jù)集上分別用第一周的CNN和第二周的ResNet訓(xùn)練對(duì)比兩者的最終準(zhǔn)確率和loss曲線。你大概率會(huì)發(fā)現(xiàn)ResNet收斂得更穩(wěn)、準(zhǔn)確率更高——這種“親手看到差距”的體驗(yàn)比背十遍理論都管用。走完基礎(chǔ)流程后可以試著把數(shù)據(jù)集換成train_happy.h5做一次笑臉識(shí)別。這仍然屬于分類任務(wù)但數(shù)據(jù)分布變了你會(huì)被迫去檢查維度、類別數(shù)、歸一化方式這些細(xì)節(jié)。接著可以挑戰(zhàn)一下傳說中的ResNet-18它其實(shí)就是把你學(xué)過的BasicBlock串聯(lián)4組每組分別重復(fù)2次再接全連接層。你在第3章見過的每個(gè)零件到這里全部派上用場(chǎng)。如果想更進(jìn)一步試著把學(xué)習(xí)率從0.001改成0.0001或者把batch size從32改成64觀察訓(xùn)練曲線變化建立對(duì)超參數(shù)的“手感”。最后說點(diǎn)我自己的教訓(xùn)。剛上手時(shí)我總喜歡跳過看數(shù)據(jù)這一步拿起來就訓(xùn)練結(jié)果經(jīng)常被維度報(bào)錯(cuò)和loss不降折騰一晚上。后來我強(qiáng)制自己每次拿到新項(xiàng)目先打印數(shù)據(jù)shape、再打印標(biāo)簽類別數(shù)、最后才寫模型。這個(gè)習(xí)慣讓我少走了很多彎路。從那以后每次拿到新項(xiàng)目我都會(huì)先走一遍這個(gè)流程再開始跑代碼。希望幫到你——現(xiàn)在放心地去跑你的第一個(gè)test.py吧跑通的那一刻你會(huì)覺得這一切并不難。本文還有配套的精品資源點(diǎn)擊獲取