簡介這是一份面向深度學習初學者和自然語言處理研究者的注意力機制專題課件系統(tǒng)講解序列到序列模型中的編碼器—解碼器結(jié)構(gòu)為何需要注意力以及固定長度語義向量在長輸入下的信息丟失問題。課件從循環(huán)神經(jīng)網(wǎng)絡(luò)只能處理等長序列的局限出發(fā)逐步引出注意力思想的來源并重點剖析Bahdanau提出的加性注意力、Luong提出的注意力變體以及硬注意力、局部注意力與自注意力等主流分支分別說明其計算邏輯、優(yōu)缺點和適用任務(wù)。結(jié)合機器翻譯、文本摘要、語音識別、圖像描述等典型場景通過圖解和權(quán)重配色示意直觀呈現(xiàn)注意力分數(shù)如何在不同輸入位置上分配幫助讀者理解每類注意力的工作機制。資源為1個PPT文件大小約2.7MB結(jié)構(gòu)緊湊、圖文并茂既適合教師備課參考也適合學生課前預習、課堂展示或考研復試快速回顧。目前已有1183人學習下載能夠顯著降低理解門檻也為后續(xù)學習Transformer架構(gòu)打下扎實基礎(chǔ)。1. 注意力機制不是玄學你在Transformer、Seq2Seq和圖像里早就見過它搜索“深度學習中attention注意力機制.ppt”的人多半是要準備技術(shù)分享或者被面試題逼到了。注意力機制看起來像一套優(yōu)雅的數(shù)學公式但真正困擾開發(fā)者的不是讀不懂論文而是“我怎么把它用起來”。這篇筆記會把你從“知道Attention”拉到“能寫最小實現(xiàn)、能調(diào)參數(shù)、能排坑”的狀態(tài)。我不打算復制PPT里的定義而是把QKV、多頭、mask、緩存這些實操點拆開每個環(huán)節(jié)都給出能直接跑的代碼和踩過的坑。你在Seq2Seq、Transformer、圖像分類里見到的各種注意力底層都是同一套加權(quán)求和邏輯。新手可以照步驟做熟手可以對照參數(shù)和邊界。2. 從“對齊”到“加權(quán)求和”Attention的核心數(shù)學直覺與QKV拆解2.1 早期Seq2Seq的Attention為什么要在譯每個詞時“回頭看”注意力機制最早出圈是在機器翻譯里。當時常見的做法是用一個編碼器把整個輸入句子壓成一個固定長度的向量解碼器每一步都從這個向量里取信息。句子一長最后那個向量扛不住信息量前面的內(nèi)容基本被后面蓋掉了。后來某篇工作提出解碼時每一步不要把目光鎖死在那個固定向量上而是回到編碼器的每個隱藏狀態(tài)上“按需取用”。具體做法是計算當前解碼狀態(tài)和每個編碼器隱藏狀態(tài)的相關(guān)程度得到一個權(quán)重分布然后用這個權(quán)重對編碼器隱藏狀態(tài)做加權(quán)求和得到這一步的上下文向量。這個“回頭看”的操作本質(zhì)就是給序列里的每個位置分配一個重要性分數(shù)。分數(shù)高的位置對當前輸出的影響大分數(shù)低的位置幾乎被忽略。這就是Attention最初的含義注意力權(quán)重告訴模型“該看哪個位置”加權(quán)和把“看到了什么”送到解碼器。它不需要額外的監(jiān)督信號權(quán)重完全由數(shù)據(jù)驅(qū)動學出來所以經(jīng)常被形容為“網(wǎng)絡(luò)學會了自動對齊”?，F(xiàn)在很多文章一上來就講Q、K、V但如果你沒看過這個背景就會覺得QKV只是花哨的改名。其實Q就是“當前的查詢”K是“序列里每個位置的鑰匙”V是“序列里每個位置的信息”。相關(guān)程度就是拿查詢和每一把鑰匙做匹配匹配度越高對應信息被取出的比例就越大。這個視角貫穿所有變體包括Transformer里的自注意力。2.2 縮放點積Attention的完整公式為什么除以根號d_k現(xiàn)在主流公式長這樣Attention(Q,K,V)softmax(QK^T/√d_k)V其中Q、K、V分別是查詢、鍵、值矩陣d_k是鍵向量的維度。計算分四步先把Q和K做點積得到相似度分數(shù)再除以√d_k做縮放然后softmax歸一化成權(quán)重最后用權(quán)重對V做加權(quán)求和。QK^T如果形狀分別是[B, T_q, d_k]和[B, d_k, T_k]得到的就是[B, T_q, T_k]的分數(shù)矩陣表示每個查詢對所有鍵的匹配程度。為什么要除以√d_k這是很多初學者最容易忽略的點。假設(shè)Q和K的元素是獨立的隨機變量均值0、方差1那么點積后的期望是0方差卻會變成d_k。d_k越大分數(shù)的方差越大softmax輸入值會落到梯度極小的區(qū)域訓練時梯度很容易消失。除以√d_k后方差被拉回接近1softmax的輸入范圍更穩(wěn)定。這個縮放是固定操作不需要學習也不要自作主張改成其他值它已經(jīng)是被反復驗證過的默認項。還有一種常見的變體叫加性注意力用一個小網(wǎng)絡(luò)來算匹配度而不是直接用點積。它在早期Seq2Seq里常見但縮放點積因為計算更高效、更容易向量化后來成了主流。所以你現(xiàn)在看到“Attention”默認都是指縮放點積注意力除非特別說明。2.3 用PyTorch 20行實現(xiàn)單頭Attention最小可用代碼import torch import torch.nn.functional as F def scaled_dot_product_attention(query, key, value, maskNone): d_k query.size(-1) # 點積分數(shù)形狀 [B, T_q, T_k] scores torch.matmul(query, key.transpose(-2, -1)) / (d_k ** 0.5) if mask is not None: scores scores.masked_fill(mask 0, float(-inf)) weights F.softmax(scores, dim-1) output torch.matmul(weights, value) return output, weights這段代碼里query、key、value的最后一維分別是d_k最前面兩維可以是[B, seq_len]。如果query長度是T_q、key長度是T_k那么輸出形狀是[B, T_q, d_v]。注意value的維度d_v可以和d_k不同但實際工程里通常相等方便做殘差拼接。mask參數(shù)采用“0表示屏蔽”的約定。把對應分數(shù)填充成負無窮softmax之后權(quán)重就是0。為什么要用負無窮而不是直接置0因為如果把分數(shù)直接置0softmax后仍然會有小概率分配到該位置負無窮可以保證數(shù)學上徹底忽略。這個習慣在所有Transformer實現(xiàn)里都成立后面排查問題時你也會用到它。寫這個函數(shù)時我一般會順手打印出中間張量形狀。你拿一個B2、T_q3、T_k4的輸入跑一次就能看到scores變成[2,3,4]。先確認維度再談效果這是避免后面對著頭數(shù)調(diào)半天卻沒用的一步。3. Self-Attention與Multi-HeadTransformer的基石怎么搭起來3.1 Self-Attention如何讓每個token看到全序列自注意力Self-Attention是Transformer的核心。一句話概括序列里的每個token都要看著整個序列重新計算自己的表示。它跟上一章的Seq2Seq注意力最大的區(qū)別是Q、K、V都來自同一個輸入。每個token先經(jīng)過三個線性投影變成自己的Q、K、V然后執(zhí)行縮放點積注意力。這樣一來每個位置都能直接和任意遠的位置建立依賴卷積和循環(huán)網(wǎng)絡(luò)那種“隔著好幾層才能接觸”的問題被繞開了。舉個例子“他喜歡吃蘋果”和“她喜歡吃蘋果”只差一個字但語義完全變了。要理解“他”網(wǎng)絡(luò)需要看“喜歡”和“吃”等遠距離信息。用自注意力這句話里每個詞兩兩之間都算一個分數(shù)模型可以自由決定哪個詞對當前詞更重要。訓練時不帶任何人工規(guī)則全靠任務(wù)loss反向傳播來塑造這些分數(shù)。但自注意力有個代價分數(shù)矩陣是O(T^2)的。序列長度從512漲到1024顯存占用直接翻4倍這在后面第5章會提到。所以工程上經(jīng)常會限制序列長度或者用稀疏注意力、線形注意力等近似方案來處理超長文本。3.2 Multi-Head Attention的拼接與投影多子空間帶來的增益單頭注意力只能學一種“匹配模式”實際任務(wù)里需要同時關(guān)注語法關(guān)系、指代關(guān)系、局部連貫性等多種信息。多頭注意力就是把d_model維拆成h個d_k維子空間每個頭獨立做注意力最后拼接起來再投影回d_model。谷歌最早提出的配置是d_model512、h8每個子空間d_k64。h個頭并行計算彼此不共享參數(shù)所以不同的頭會傾向于學到不同的注意力模式有的頭關(guān)注前后詞有的頭關(guān)注主語謂語這就是“多子空間”的價值。實現(xiàn)時要注意每個頭的維度d_k d_model / h所以d_model必須能整除h。這不只是一個數(shù)學要求更是一個工程約束。如果你選了不規(guī)則的頭數(shù)比如h7、d_model512就麻煩了。所以選頭數(shù)前先看d_model能不能被它整除。為了兼容預訓練模型一般不要試圖去改這個比例。多頭注意力在計算結(jié)束后并不是簡單把h個結(jié)果相加而是把所有頭的輸出在特征維度上拼接起來生成一個長度為d_model的向量再做一次線性投影W_o。這次投影的目的是讓不同頭的信息做一次交叉融合而不是各說各話。如果你在調(diào)試時發(fā)現(xiàn)效果不好檢查一下是不是忘了最后這個投影或者維度拼接時contiguous搞丟了這類問題很常見。3.3 從零拼一個多頭注意力模塊代碼與維度核對import torch import torch.nn as nn import torch.nn.functional as F class MultiHeadAttention(nn.Module): def __init__(self, d_model, num_heads, dropout0.1): super().__init__() assert d_model % num_heads 0 self.d_model d_model self.num_heads num_heads self.d_k d_model // num_heads self.W_q nn.Linear(d_model, d_model) self.W_k nn.Linear(d_model, d_model) self.W_v nn.Linear(d_model, d_model) self.W_o nn.Linear(d_model, d_model) self.dropout nn.Dropout(dropout) def forward(self, x, maskNone): batch_size, seq_len, _ x.size() # 投影并拆出頭維度: [B, T, h, d_k] - [B, h, T, d_k] Q self.W_q(x).view(batch_size, seq_len, self.num_heads, self.d_k).transpose(1, 2) K self.W_k(x).view(batch_size, seq_len, self.num_heads, self.d_k).transpose(1, 2) V self.W_v(x).view(batch_size, seq_len, self.num_heads, self.d_k).transpose(1, 2) # 縮放點積注意力scores形狀 [B, h, T, T] scores Q K.transpose(-2, -1) / (self.d_k ** 0.5) if mask is not None: scores scores.masked_fill(mask 0, float(-inf)) attn F.softmax(scores, dim-1) attn self.dropout(attn) # 注意dropout在softmax之后 context attn V # [B, h, T, d_k] # 把頭拼回去: [B, T, h, d_k] - [B, T, d_model] context context.transpose(1, 2).contiguous().view(batch_size, seq_len, self.d_model) output self.W_o(context) return output這段代碼里最容易被搞混的是view和transpose的順序。先用view把[B, T, d_model]拆成[B, T, h, d_k]再transpose成[B, h, T, d_k]這樣Q和K做矩陣乘時每個頭是獨立的。如果你先transpose再view會得到完全錯亂的排列算出來的score沒有任何意義。mask參數(shù)可以傳兩種形狀。一是[B, 1, 1, T]的padding mask代表每個位置是否是有效token二是[B, 1, T, T]的causal mask下三角為1上三角為0用于自回歸生成。因為維度廣播機制[B, 1, T, T]會自動廣播到[B, h, T, T]所以不需要復制多份。attention dropout放在softmax之后這是很多實現(xiàn)里的標準位置它隨機讓一部分注意力權(quán)重歸零相當于正則化。我調(diào)試這段代碼時習慣用一個小例子batch_size2、seq_len5、d_model8、num_heads2跑一次打印Q、K、V的shape確認最后輸出shape又變回[2,5,8]。如果哪一步維度對不上問題一定出現(xiàn)在view或transpose上不要瞎調(diào)dropout。4. 訓練與推理中的Attention參數(shù)怎么設(shè)d_model、頭數(shù)、dropout與mask4.1 頭數(shù)、維度和投影一個表格看清常見配置模型規(guī)模d_modelnum_headsd_k典型用途微型64416臨時Demo、小數(shù)據(jù)集小號128432輕量分類、短文本基礎(chǔ)512864常見Transformer基準大號10241664長文本、預訓練模型頭數(shù)不是越大越好。頭越多每個頭的維度越小單個頭能表達的信息容量就越少。頭數(shù)增大到一定程度后不同頭會開始“冗余”。很多實驗表明8頭兩頭效果接近但不是翻倍就有翻倍效果。常見做法是保持每個頭d_k在32到64之間。如果你自己搭模型建議先從d_model128、heads4開始跑通性能達標后再往大擴。直接照搬5128組合在小數(shù)據(jù)集上很容易過擬合。還有一個容易被忽略的參數(shù)輸出投影W_o是否帶bias。默認nn.Linear是帶bias的但在某些實現(xiàn)里為了追求算力優(yōu)化會把它設(shè)成False。這不會顯著影響效果但如果你要加載預訓練權(quán)重必須和原配置保持一致。另一個相關(guān)參數(shù)是注意力dropout和FFN的dropout它們通常是兩個獨立值。注意別把attention dropout設(shè)成0.5這會嚴重干擾學習一般0.1是個穩(wěn)定起點。4.2 訓練階段必調(diào)的三個參數(shù)dropout、縮放因子和mask訓練時最需要關(guān)注的三個點是dropout、縮放因子、mask它們各自都可能成為性能瓶頸。第一dropout。模型里通常有兩個dropout注意力權(quán)重上的dropout和FeedForward后的dropout。注意力權(quán)重dropout作用于softmax之后的權(quán)重它會讓某些位置的整條信息傳遞被阻斷防止個別token過度主導。如果你發(fā)現(xiàn)訓練loss下降很慢先看它是不是設(shè)太大。我的習慣是注意力dropout0.1FFN dropout0.1到0.2。若你的數(shù)據(jù)集非常小可以考慮降到0.05但不要完全去掉。第二縮放因子。公式里固定用√d_k這個不需要調(diào)。不過有一種常見誤用把縮放因子當作超參數(shù)去搜或者直接去掉。去掉縮放后大d_k會導致softmax梯度消失這在長序列上尤其明顯。所以縮放因子不是可選項而是標準操作。你看到的某些第三方代碼里寫了“scale”參數(shù)其實只是把除以√d_k換成了乘以scale本質(zhì)一樣。第三mask。訓練時最常見的是padding mask和causal mask。padding mask負責把不足固定長度的批量樣本填0的位置屏蔽掉causal mask負責保證自回歸模型看不到未來。如果你兩個都加需要把兩個mask做位與操作一個位置要想?yún)⑴c注意力必須同時滿足不是padding且在因果范圍內(nèi)。我見過很多翻車現(xiàn)場就是只加了padding mask忘了causal mask導致訓練時模型提前看到了答案loss異常低但推理效果一塌糊涂。檢查方法很簡單打印scores矩陣里被mask后的分布確認右側(cè)上三角全是負無窮。4.3 推理階段的速度優(yōu)化緩存KV與attention的代價到了推理階段尤其是自回歸生成Attention的代價會變得非常扎眼。假設(shè)當前生成了第n個token普通實現(xiàn)會把這n個token重新過一遍編碼器重新計算所有Q、K、V再做一次完整n×n的注意力。這就導致生成第n步的計算開銷是O(n^2)總開銷O(n^3)。實際項目里n稍微上千延遲和顯存就撐不住了。常用的優(yōu)化手段是KV Cache。因為解碼第n個token時前面所有token的K、V其實已經(jīng)算過而且不會變。只有Q是當前步新算的。所以可以把每一步的K、V緩存下來下一步只需要算新token的K、V然后拼接到緩存矩陣上注意力分數(shù)矩陣雖然還是n×n但計算量從“重新算所有n個token”降為“只算一個新的token”。在很多推理框架里你看到的關(guān)鍵詞“past_key_values”就是這個東西。實現(xiàn)KV Cache時要注意緩存的形狀是[B, h, T_prev, d_k]每一步新token的K/V是[B, h, 1, d_k]拼接后變成[B, h, T_prev1, d_k]。拼接發(fā)生在時間維度不要搞錯。還有緩存必須和輸入長度對得上如果你在批量生成不同長度的序列需要給每個樣本維護一個獨立的cache否則短的序列會讀到長的序列的K/V輸出直接崩掉。顯存方面即便有KV Cacheattention矩陣本身仍是O(T^2)。長序列生成時這一步就會成為顯存瓶頸。常見的處理是把attention計算切成塊或者用FlashAttention這類kernel融合把中間矩陣不落地到全局顯存。作為一個獨立開發(fā)者你最快能做的優(yōu)化是推理時把batch_size調(diào)小或者限制max_new_tokens讓attention矩陣不要爆掉。要是還不滿足再考慮FlashAttention或改用線性復雜度注意力。5. Attention的5個常見“玄學”坑排查順序與修正方案5.1 現(xiàn)象訓練loss不降——原因mask把pad位置也參與注意力計算新手第一次搭Transformer最常遇到的問題是loss一直在一個高位震蕩怎么調(diào)學習率都不動。我見過某開發(fā)者調(diào)試了一整晚最后發(fā)現(xiàn)是padding位置沒屏蔽。原因是批量輸入先pad到統(tǒng)一長度比如一批里有3個樣本長度分別是3、5、4pad到5。沒加mask的話第2個樣本的attention會看到后面兩個pad位置pad位置通常被初始化成0于是模型學會去關(guān)注這些廢位置有效信息被稀釋loss自然降不下去。解決方法是構(gòu)造padding mask把pad位置置0然后傳入attention函數(shù)在softmax之前把那些位置的分數(shù)改為負無窮。mask形狀可以是[B, 1, T]廣播到所有頭。我在代碼里習慣用mask 0作為填充條件這樣mask里1表示有效、0表示pad。如果你用的庫是0表示有效、1表示pad記得反轉(zhuǎn)一下否則會把有效位置全屏蔽了loss直接飛起來。排查時先打印scores矩陣看pad位置的分數(shù)是不是負無窮。如果是-1e9或者某個有限值說明mask根本沒生效。再檢查mask是否在Q、K、V投影之后才傳入或者在多頭模塊里用的是mask而不是~mask。這些細節(jié)不看代碼一眼根本發(fā)現(xiàn)不了。5.2 現(xiàn)象多卡訓練時顯存爆炸——原因attention矩陣O(n^2)被復制到每卡有人用單卡訓練512長度的序列很正常換成多卡DDP后明明batch_size沒變顯存卻直線上漲。attention機制本身有一個O(T^2)的分數(shù)矩陣如果序列長度是1024就是100萬個浮點數(shù)單卡還能扛。但多卡DDP不是專人負責某一塊序列而是每張卡保留完整的batch副本和梯度副本所以attention矩陣也會在每個進程里各自存一份。顯存占用是單卡的總和不會因為你加了卡就分掉。還有一個隱性膨脹點如果用PyTorch原生DDP且沒有開啟gradient checkpointing反向傳播會保存所有中間激活包括注意力分數(shù)和softmax權(quán)重。序列越長激活越大。我對付這個問題的順序是先開自動混合精度AMP把中間張量從FP32減到FP16顯存能砍一半左右然后開gradient checkpointing犧牲一點重算時間換顯存最后如果還爆就只能降低batch_size或序列長度。不要一開始就懷疑是多卡配置問題多數(shù)時候是attention矩陣大小乘以卡數(shù)超出物理顯存。5.3 現(xiàn)象推理結(jié)果重復——原因softmax溫度與attention dropout不一致生成任務(wù)里模型經(jīng)常輸出同一個詞反復循環(huán)比如“我愛吃我愛吃我愛吃”。很多人以為是解碼策略的懲罰參數(shù)沒調(diào)好但背后還有一個更隱蔽的坑訓練時attention dropout隨機把一部分權(quán)重置零而推理時沒有開dropout這會導致推理時的注意力分布和訓練時不一樣尤其對短序列影響更大。如果訓練時dropout較高模型在推理時看到的信息過于確定會更容易陷入重復模式。解決思路有兩類。一類是推理時也開啟dropout但這會讓生成結(jié)果隨機性變大通常不建議。另一類是把注意力softmax的溫度調(diào)到小于1讓分布更尖銳減少隨機重復。具體做法是在softmax之前把scores除以一個溫度系數(shù)溫度越低輸出越確定。但溫度太低又會坍縮到最高概率的token反而重復。我的經(jīng)驗是先確認訓練和推理的dropout設(shè)置一致再調(diào)溫度為0.8到0.9結(jié)合重復懲罰因子比單獨調(diào)一個參數(shù)有效。如果你用的是預訓練模型還得檢查加載權(quán)重時是否強制設(shè)置了model.eval()。很多庫在推理時會自動關(guān)閉dropout但如果你手工切換模型狀態(tài)晚了整個推理結(jié)果都會帶隨機性看起來就像“模型變笨了”。這種問題耗時很長但排查起來很簡單打印推理次數(shù)如果兩次完全相同輸入給不同結(jié)果說明dropout沒有關(guān)干凈。5.4 現(xiàn)象位置信息丟失——原因沒有加位置編碼或者加了但沒參與attention自注意力是置換等變的你把序列順序打亂得到的輸出只是同樣位置被打亂不會攜帶任何順序信息。這一點在理解上很容易踩坑。某同學在搭建情感分類模型時直接拿Embedding后的向量進Transformer沒加任何位置編碼。模型訓練出來準確率很低因為他覺得attention已經(jīng)“記住了”每個詞的位置。其實attention只關(guān)注詞與詞之間的匹配關(guān)系并不會告訴你“第一個詞”是哪個絕對位置。解決方案是加位置編碼。常見的有固定正弦編碼和可學習位置編碼。正弦編碼根據(jù)公式生成不同頻率的正弦余弦值疊加到embedding上可學習編碼則是構(gòu)造一個形狀為[max_seq_len, d_model]的變量隨模型一起訓練。無論哪種都要確保位置編碼在attention計算之前被加到詞嵌入向量上而不是加在輸出之后。否則attention看到的仍是原始embedding位置信息進不了Q、K、V。調(diào)試時可以做一個簡單驗證輸入兩個完全相同詞但順序不同的句子比如“貓追狗”和“狗追貓”檢查模型最后的輸出表示是否不同。如果兩者完全一樣問題幾乎肯定出在位置編碼沒生效。還要注意位置編碼的角色在多頭注意力中會被每個頭以不同方式調(diào)制所以加位置編碼的幅度不能太大一般和embedding同尺度否則會淹沒語義信息。5.5 現(xiàn)象可視化attention像個噪聲圖——原因多頭平均后互相抵消或者沒對齊tokenizer做模型可視化是注意力機制最有成就感的一步但經(jīng)常會得到一團亂麻。有人把多頭注意力權(quán)重直接平均后畫出來發(fā)現(xiàn)完全看不出對角線或者局部模式。原因很簡單每個頭關(guān)注的信息可能完全不同一個頭關(guān)注語法關(guān)系另一個頭關(guān)注長距離依賴強行平均會把這些模式全部抵消掉。正確做法是分頭可視化先確認每個頭的權(quán)重分布再合并。另一個崩潰點是tokenizer對齊。如果原始句子是中文按字切分但訓練時用的tokenizer是BPE可視化時你拿字粒度的句子去對應attention權(quán)重位置就會錯位。需要先用同一個tokenizer把輸入轉(zhuǎn)換再拿解碼后的tokenid去映射注意力矩陣的行列。不然你圖上顯示的“注意力”根本不在這個字上看起來當然像噪聲。最后的常見問題是對角線權(quán)重過高。如果attention權(quán)重集中在對角線說明模型幾乎沒有跨位置交互這通常發(fā)生在訓練不足或序列長度不夠時。這時不要急于下結(jié)論說代碼有問題先檢查是不是位置編碼沒有參與注意力或者是不是層數(shù)太少。我的習慣是同時打印scores的標準差如果標準差接近0說明softmax已經(jīng)接近均勻分布模型還在“偷懶”需要增加訓練步數(shù)。6. 把這張“PPT”講成落地技能三張圖講清原理一個腳本做原型驗證如果你是要做分享與其堆公式不如準備三張圖。第一張畫Seq2Seq不帶attention的瓶頸就是那個被固定向量壓扁的過程第二張畫QKV的映射關(guān)系用三個不同顏色的方塊表示Q、K、V再把點積到softmax到加權(quán)求和的過程用箭頭連起來第三張畫多頭在d_model維度上切出4條豎條每條算一次attention再拼回去。這三張圖能讓聽的人五分鐘內(nèi)建立起直覺剩下的時間留給代碼和現(xiàn)象。驗證自己是否真的理解了注意力機制我建議寫一個極小的腳本隨機生成一組整數(shù)序列給每個位置接一個可學習的embedding然后只套一個單頭attention不加位置編碼用“預測序列中是否出現(xiàn)某個數(shù)字”這種玩具任務(wù)訓練。如果attention能學會把權(quán)重放到那個數(shù)字出現(xiàn)的位置說明你的實現(xiàn)是通的。這比直接跑一個大模型更省時間也能快速暴露mask或維度問題。參考腳本的輸入輸出形狀對照第2章的函數(shù)即可。我早期做這個方向時曾經(jīng)為了一條維度對不上的錯誤把多頭實現(xiàn)重寫了三遍。后來養(yǎng)成一個習慣每個新模塊先跑一個batch把中間張量的shape全部打印出來確認無誤再往上搭。注意力機制本身并不復雜復雜的是它和周圍模塊的邊界條件。你真正需要記住的是QKV是三種投影scores是匹配度mask是邊界dropout是正則KV Cache是代價。這些點串聯(lián)起來你再去讀任何Transformer源碼都會順暢很多。希望這篇筆記能幫你在注意力機制這條路上少走幾段彎路。本文還有配套的精品資源點擊獲取