簡介面向畢業(yè)設(shè)計與期末大作業(yè)的Python時間序列預測源碼完整覆蓋ARIMA、Transformer、LSTM三種模型的搭建、訓練與對比。方案基于MIT-BIH公開心跳數(shù)據(jù)包含310組記錄及預處理結(jié)果代碼附詳細注釋部署簡單適合希望復用高分項目或系統(tǒng)掌握時序預測流程的高校學生。資源共1179個文件壓縮包約19.85MB核心類型包括心跳數(shù)據(jù)文件.hea/.dat/.atr、Python腳本.py、Jupyter Notebook分析筆記.ipynb、可視化圖表.png、模型權(quán)重.pth與說明文檔.md/README目錄結(jié)構(gòu)清晰便于按模塊檢索和二次開發(fā)。目前已有225人學習下載。項目經(jīng)過嚴格調(diào)試可直接用于畢業(yè)設(shè)計、期末大作業(yè)或課程設(shè)計除完整源碼與數(shù)據(jù)集外還提供對比實驗圖表、代碼注釋和文檔說明能幫助新手理解三種算法的預測差異、復現(xiàn)關(guān)鍵步驟并降低環(huán)境配置與調(diào)參門檻提升答辯和提交準備效率。1. 為什么心跳時間序列預測要把 ARIMA、Transformer、LSTM 擺在一起比心跳心電/脈搏時間序列預測是很多可穿戴健康分析和醫(yī)學數(shù)據(jù)處理任務(wù)里的前置步驟先預測未來一段波形再做異常形態(tài)匹配或節(jié)律判斷。這類“基于ARIMA、Transformer、LSTM對心跳時間序列數(shù)據(jù)進行預測”的項目做的事本質(zhì)上不是選一個模型跑通而是用統(tǒng)計模型、循環(huán)網(wǎng)絡(luò)、注意力機制三種路線對同一段生理信號做閉環(huán)對比評測搞清楚數(shù)據(jù)里哪些是周期規(guī)律、哪些是隨機噪聲、哪些能被模型真正學到——這個結(jié)論會直接影響后續(xù)模型選型和部署方式。對從業(yè)者來說這類項目的價值很實在它覆蓋了從數(shù)據(jù)清洗、滑窗切片、模型訓練到統(tǒng)一評估的完整技術(shù)棧。新手可以用它建立時序預測的選型直覺熟手則能用它快速驗證新數(shù)據(jù)集的“可預測性上限”。常見做法是取公開的心電數(shù)據(jù)集或直接使用可穿戴設(shè)備采集的脈搏波數(shù)據(jù)把原始信號重采樣到固定頻率后分別用三種模型預測未來 1 秒的心跳波形。下文按數(shù)據(jù)工程、ARIMA 基線、LSTM、Transformer、統(tǒng)一評估與實戰(zhàn)技巧的順序展開每一步都給出可復現(xiàn)的參數(shù)和代碼。2. 心跳序列的數(shù)據(jù)工程從原始波形到模型能吃的樣本2.1 數(shù)據(jù)準備與特征選擇心電數(shù)據(jù)并不是拿來就能跑常見做法是使用公開心電圖數(shù)據(jù)集或可穿戴設(shè)備采集的脈搏波截取單導聯(lián)的心電信號通常用 MLII 導聯(lián)或等效單通道并做 128Hz 或 250Hz 的統(tǒng)一重采樣。模型能看懂的輸入是三段式過去一段觀察窗口的心跳波形以及對應(yīng)的未來心跳波形。特征上注意直接使用歸一化后的原始幅值即可不必過多構(gòu)造手工特征心電信號本身波形形態(tài)已經(jīng)足夠豐富額外堆砌統(tǒng)計特征反而會干擾深度模型的學習。我一般會先用連續(xù) 10 秒的完整信號做切片。觀察窗口設(shè) 5 秒、預測窗口設(shè) 1 秒這種比例對 R 波周期相對規(guī)律的數(shù)據(jù)很合適。如果數(shù)據(jù)里有較多早搏或運動偽跡可以把預測窗口縮到 0.5 秒降低任務(wù)難度。數(shù)據(jù)集劃分也要按病人或時段切避免同一病人的不同片段同時出現(xiàn)在訓練集和測試集里否則模型對特定病人的“記憶”會直接影響評估結(jié)果部署時表現(xiàn)會大打折扣。心跳序列是強周期信號但幅度和間期并不固定。數(shù)據(jù)增強方面我通常會加入輕微的時間縮放每段隨機縮放 0.98~1.02但絕不在心電幅值上做隨機平移因為那樣等于把心電的基線漂移當成特征教給模型實際預測時反而會放大誤差。最終每個樣本是[batch, seq_len, 1]的張量喂給 LSTM 和 TransformerARIMA 則吃原始的一維數(shù)值序列。2.2 切片、歸一化與數(shù)據(jù)集劃分的標準流程把原始信號切成可監(jiān)督學習的樣本時通常會寫成下面的 Python 函數(shù)。這一步是整個項目的基石切出來的數(shù)據(jù)質(zhì)量直接決定三個模型的天花板。import numpy as np def make_windows(signal, fs128, obs_sec5, pred_sec1, step1): obs_len int(fs * obs_sec) # 觀察窗口640個點 pred_len int(fs * pred_sec) # 預測窗口128個點 X, y [], [] for i in range(0, len(signal) - obs_len - pred_len, fs * step): x signal[i:i obs_len] t signal[i obs_len:i obs_len pred_len] # 對每個窗口做z-score避免不同樣本之間的幅值差異 mu, sigma x.mean(), x.std() 1e-6 X.append((x - mu) / sigma) y.append((t - mu) / sigma) # 注意用觀察窗口的均值/方差防止未來信息泄漏 return np.array(X)[..., None], np.array(y)[..., None]代碼里有一個關(guān)鍵點歸一化的均值和方差取自觀察窗口而不是預測窗口。如果對整段數(shù)據(jù)先全局歸一化再切片測試時會用到未來的統(tǒng)計量屬于典型的信息泄漏。這種泄漏在深度模型里不容易馬上暴露但會嚴重抬高測試集指標到了真實部署階段模型立刻被打回原形——這一點務(wù)必留意。參數(shù)上step1表示窗口每次移動 1 秒適合數(shù)據(jù)量不大時做滑窗復用如果數(shù)據(jù)量充足我會把 step 改成 2 或 3減少相鄰樣本的相關(guān)性。否則訓練集和驗證集幾乎重疊驗證損失會異常好看但毫無參考價值等于在“開卷考試”。2.3 ARIMA、LSTM、Transformer 對輸入形態(tài)的不同要求三個模型的輸入側(cè)差異很大。ARIMA 吃一維數(shù)值序列不需要切片成窗口對直接用觀察窗口內(nèi)的 640 個點去滾動預測后面 128 個點LSTM 需要三維輸入[batch, time_steps, features]Transformer 的輸入和 LSTM 類似但一般要在 token 維度上先做一次線性映射把單個幅值點映射成 d_model 維向量然后加上位置編碼。在 LSTM 和 Transformer 的輸入上是否需要特征數(shù)大于 1 的多通道如果做的是單導聯(lián)心跳預測一個幅值特征足夠了。強行加入心率、呼吸等外部變量會讓模型學到的組合關(guān)系在測試時失效因為設(shè)備更換或佩戴位置變化后這些外部變量的分布會漂移。這類項目里單通道入門、多通道做擴展才是正常路徑。此外我建議把觀察窗口的點數(shù)和下游模型結(jié)構(gòu)一起考慮如果采樣率是 128Hz640 個點對 LSTM 來說屬于中等長度可以直接輸入如果采樣率提升到 1000Hz觀察窗口變成 5000 個點LSTM 訓練速度會明顯下降這時應(yīng)該先用卷積層降采樣或按心拍邊界切塊而不是硬著頭皮把全部原始點直接喂進去。3. 基于 ARIMA 的統(tǒng)計基線先看傳統(tǒng)方法的上限3.1 為什么 ARIMA 仍是心跳序列預測的合格基線雖然 ARIMA 沒有顯式的周期建模能力但它通過差分和自回歸項能捕捉短時間窗口內(nèi)連續(xù)的波形走向。尤其預測未來 0.5 到 1 秒的波形時ARIMA 的結(jié)果通?？勺鳛樯疃葘W習模型是否真正有效的參照物。很多深度模型跑出來的漂亮指標對照 ARIMA 基線后會發(fā)現(xiàn)只是“噪聲擬合”。判斷心電數(shù)據(jù)是否適合 ARIMA核心是看差分后的序列是否平穩(wěn)做法是 ADF 檢驗。多數(shù)心電信號經(jīng)過一階差分后能通過檢驗若不行就需要用二階差分。但注意差分階數(shù)過高會讓模型把噪聲也當成規(guī)律學進去預測結(jié)果會出現(xiàn)嚴重的鋸齒狀抖動。對心跳數(shù)據(jù)d 設(shè)為 1 或 2 就夠。ARIMA 在這類項目的定位是基線和“可解釋對照”。深度學習模型如果連 ARIMA 都無法穩(wěn)定超過說明數(shù)據(jù)切分或訓練流程可能有 bug而不是模型能力問題。這個判斷聽起來武斷但在不少實測項目中確實管用ARIMA 差深度模型也好不到哪去ARIMA 好深度模型才有發(fā)力空間。這也解釋了為什么這類項目里 ARIMA 幾乎是必備對照組。3.2 用 statsmodels 快速構(gòu)建心跳 ARIMA 模型并做滾動預測使用 statsmodels 庫能快速搭建 ARIMA 模型常見代碼如下。這是整套項目里最輕量的一段邏輯也是后續(xù)評估的“最低水位線”。from statsmodels.tsa.arima.model import ARIMA import numpy as np pred_len 128 # 預測未來1秒(128Hz) history list(train_signal[:640]) # 觀察窗口5秒 predictions [] for t in range(len(train_signal[640:640pred_len])): model ARIMA(history, order(2, 1, 2)) fit model.fit(methodinnovations_mle, trendc) pred fit.forecast(steps1)[0] predictions.append(pred) history.append(train_signal[640t])這段代碼是典型的滾動預測每預測一個點把真實觀測值回填到歷史里再進行下一輪預測。對心電這種準周期信號單步滾動預測比直接預測 128 個點要穩(wěn)得多原因在于每一步都校正了誤差不會讓誤差沿著預測窗口一路累積。但要注意代碼里每次循環(huán)都重新擬合了 ARIMA 模型這在 128 步預測里耗時尚可如果預測窗口更長或數(shù)據(jù)量大效率會成為嚴重問題。這時候常見做法是每 10 步或 20 步重新擬合一次中間步驟直接用已有模型滾動預測雖然誤差會稍微累積但速度提升非常明顯。實際參數(shù)選擇上methodinnovations_mle比默認的statespace在小樣本上更穩(wěn)定遇到收斂警告時可以換回后者對比。3.3 ARIMA 的階數(shù)選擇與心跳場景下的邊界ARIMA 的參數(shù)p、d、q通常通過 AIC 網(wǎng)格搜索選定。對心電序列我一般把 p 和 q 的搜索范圍放在 0~3d 固定在 1 或 2。更復雜的心電特征如早搏、房顫可能讓搜索到的 p、q 偏大而模型會變得不穩(wěn)定預測結(jié)果一旦波動過大就要回到簡單階數(shù)。在心跳數(shù)據(jù)上“簡單模型 穩(wěn)定輸出”比“復雜模型 偶爾爆炸”重要得多。還有一點容易被忽略ARIMA 對缺失值很敏感。心跳數(shù)據(jù)常因為設(shè)備脫落或運動偽跡出現(xiàn) NaN如果直接喂給 ARIMA擬合階段會直接報錯或輸出異常值。通常做法是先用線性插值或前后向填充補齊缺口再進行 ARIMA 擬合。如果缺失段太長超過 2 秒建議直接丟棄該段信號不要硬補否則會把插值產(chǎn)生的虛假波形當成真實規(guī)律學進去。ARIMA 適合做整個項目評估的標準基線但它的明顯邊界是不能捕捉心率變異性中的長程依賴也不能對多步預測給出穩(wěn)定輸出誤差隨時間累積。所以它不會是最終方案但它能快速幫你確認數(shù)據(jù)是否存在明顯的趨勢異常并給深度學習模型劃定一個最低標準——后續(xù) LSTM 和 Transformer 的表現(xiàn)都要以它為參照系。4. 基于 LSTM 的循環(huán)預測模型把時序記憶用起來4.1 LSTM 為什么會成為心電時間序列預測的默認選擇LSTM 在心跳預測中成為默認選擇是因為它用門控機制解決了長序列訓練時的梯度消失問題。心跳序列的每個波形是有記憶的下一個波形的形態(tài)往往取決于前面的多個心動周期。LSTM 通過輸入門、遺忘門、輸出門把“上一個心跳的形態(tài)”這種信息保留在細胞狀態(tài)里從而做到基于周期記憶的預測。在結(jié)構(gòu)上絕大多數(shù)項目采用雙層 LSTM 加全連接輸出層。第一層 LSTM 學習波形段的短時依賴第二層進一步抽象出周期模式。我一般會把第一層的 return_sequences 設(shè)為 True第二層只返回最后一個時間步的隱狀態(tài)再接 Dense 層輸出預測窗口長度。這樣做比單層 LSTM 效果好而且參數(shù)量增加不多訓練成本可控。LSTM 輸入是[batch, seq_len, 1]的窗口樣本。如果觀察窗口是 640 個點直接把這 640 個點全部喂給 LSTM 并不算長對 LSTM 來說 640 步屬于中等長度但如果采樣率提高到 1000Hz觀察窗口點數(shù)是原來的 4 倍就應(yīng)該考慮先用卷積層降采樣或把序列切分成較小的塊否則訓練速度會明顯下降顯存占用也會成倍增加。4.2 搭建并訓練一個心跳波形 LSTM 預測模型以 PyTorch 為例搭建一個雙層 LSTM 模型并完成訓練閉環(huán)代碼結(jié)構(gòu)如下。這是整個項目里最核心的可復用代碼段之一。import torch import torch.nn as nn class HeartLSTM(nn.Module): def __init__(self, input_size1, hidden_size64, num_layers2, pred_len128): super().__init__() self.lstm nn.LSTM(input_size, hidden_size, num_layers, batch_firstTrue, dropout0.2) self.head nn.Sequential( nn.Linear(hidden_size, 32), nn.ReLU(), nn.Linear(32, pred_len) ) def forward(self, x): # x: [batch, seq_len, 1] out, _ self.lstm(x) # 取最后時間步的輸出 out out[:, -1, :] # [batch, hidden_size] return self.head(out)這里有個容易踩坑的地方LSTM 的 dropout 參數(shù)dropout0.2只在num_layers 1時生效且它作用于層與層之間不是時間步之間。如果為了提效果而把 dropout 加在輸出層之前要自己插入 Dropout 層而不是靠 LSTM 的參數(shù)。這是 PyTorch 文檔里寫明但很多人忽略的細節(jié)。訓練參數(shù)上我一般用 AdamW 優(yōu)化器、學習率 1e-3 配合 cosine 衰減batch size 64損失函數(shù)用 HuberLossSmooth L1。它對心電波形中偶爾出現(xiàn)的異常峰不敏感不會像 MSE 那樣被個別離群點帶偏。訓練輪數(shù)不建議太多心電數(shù)據(jù)增強手段有限跑 30 到 50 個 epoch 之后基本就能看到驗證損失是否觸底再多就容易過擬合。4.3 LSTM 在心跳預測中的預測步數(shù)與誤差累積問題LSTM 直接輸出未來 128 個點訓練時是 teacher forcing 的預測時卻是一次性給出 128 個點這個“訓練-預測不一致”是 LSTM 模型最常見的誤差來源。雖然它并不像 ARIMA 那樣逐點滾動但本質(zhì)上仍要面對長期預測誤差累積的問題只是發(fā)生位置從推理階段挪到了訓練階段。緩解辦法有兩種第一種是 Scheduled Sampling訓練時以概率 p 用模型自己的預測值代替真實值作為下一步輸入p 隨訓練進度衰減。第二種是把模型改成 seq2seq 結(jié)構(gòu)編碼器讀入觀察窗口解碼器逐步輸出預測點每一步把上一步的輸出作為輸入。對心跳預測項目第二種更容易落地因為波形預測本質(zhì)上是逐點生成的不是一次性回歸。我一般會優(yōu)先嘗試 LSTM 的多步直接輸出如果驗證集誤差明顯高于訓練集誤差再切到 seq2seq 結(jié)構(gòu)。在實際數(shù)據(jù)上單步誤差通常能壓得很低但多步誤差會隨步數(shù)明顯上升所以對比 ARIMA、Transformer 時要統(tǒng)一在同樣的預測窗口下評估不能用不同步數(shù)量級的結(jié)果互相比較。5. 基于 Transformer 的注意力預測長程依賴與并行訓練5.1 Transformer 在時間序列預測任務(wù)里的定位Transformer 原本用在自然語言處理上核心是自注意力機制。它在心跳預測上的優(yōu)勢有兩點一是能直接建模長距離依賴心跳波形中相距很遠的心動周期也能通過注意力建立關(guān)聯(lián)二是訓練時可并行處理整個序列不像 LSTM 必須逐步計算這在觀察窗口較長時能明顯提升訓練速度。但 Transformer 也有代價它沒有內(nèi)置的時間順序概念必須加位置編碼才能讓模型感知波形點的先后。常見做法是使用三角函數(shù)位置編碼因為它的相對位置信息可以通過線性變換表達。對心跳序列來說周期性強三角函數(shù)位置編碼能很好地編碼相對距離但具體效果還是需要用實驗來驗證不能想當然。在輸入形態(tài)上Transformer 通常不直接吃原始采樣點而是先做 token 映射。常見操作是把 5 秒的觀察窗口640 個點按 16 或 32 個點切塊每個塊是一個 token經(jīng)過線性映射成 d_model 維向量再加上位置編碼才進入 Transformer 編碼器。這樣做的原因是單個心拍大約 0.8 秒切塊后的 token 能更好地表達一個個局部波形片段而不是讓模型在單個采樣點上浪費注意力。5.2 PyTorch 實現(xiàn)一個輕量 Transformer 編碼器并用于心電預測直接構(gòu)造 Transformer 的編碼器部分作為預測模型實現(xiàn)代碼大致如下。這里的結(jié)構(gòu)是后續(xù)調(diào)參的主戰(zhàn)場。import torch import torch.nn as nn import math class PositionalEncoding(nn.Module): def __init__(self, d_model, max_len1000): super().__init__() pe torch.zeros(max_len, d_model) pos torch.arange(0, max_len).unsqueeze(1) div_term torch.exp(torch.arange(0, d_model, 2) * (-math.log(10000.0) / d_model)) pe[:, 0::2] torch.sin(pos * div_term) pe[:, 1::2] torch.cos(pos * div_term) self.register_buffer(pe, pe.unsqueeze(0)) def forward(self, x): return x self.pe[:, :x.size(1)] class HeartTransformer(nn.Module): def __init__(self, d_model64, nhead4, num_layers2, pred_len128): super().__init__() self.token_embed nn.Linear(16, d_model) self.pos_enc PositionalEncoding(d_model) encoder_layer nn.TransformerEncoderLayer(d_model, nhead, dim_feedforward128, batch_firstTrue, dropout0.1) self.encoder nn.TransformerEncoder(encoder_layer, num_layers) self.head nn.Linear(d_model, pred_len) def forward(self, x): # x: [batch, 640, 1] - 切塊為 [batch, 40, 16] b, seq, _ x.shape x x.reshape(b, seq // 16, 16) # 40個token x self.token_embed(x) # [batch, 40, d_model] x self.pos_enc(x) x self.encoder(x) x x.mean(dim1) # 全局平均池化 return self.head(x)這段代碼里d_model64、nhead4、num_layers2是我常用的一組輕量參數(shù)。心電數(shù)據(jù)量通常不大參數(shù)過多會過擬合。注意token_embed把每個 16 點的塊映射到 d_model 維而不是一個點一個點地進入注意力機制否則注意力的計算復雜度跟序列長度的平方成正比訓練會非常慢。位置編碼這里用的是經(jīng)典的三角函數(shù)版本register_buffer保證它不會作為模型參數(shù)被訓練。如果換用可學習位置編碼在小數(shù)據(jù)集上反而容易過擬合因為位置信息被當作可訓練的偏置項模型會記住訓練集里的波形相位而不是學到通用的相對位置關(guān)系。5.3 Transformer 在心跳任務(wù)上的數(shù)據(jù)量與調(diào)參要點Transformer 在心跳項目上最大的問題是數(shù)據(jù)量需求比 LSTM 更大。自注意力機制參數(shù)共享程度低自由度更高同樣的數(shù)據(jù)量下更容易過擬合。緩解手段除了加 dropout還可以用數(shù)據(jù)增強、更小的 d_model、更淺的結(jié)構(gòu)。數(shù)據(jù)量只有幾千個樣本時不建議一上來就堆參數(shù)量。具體到心跳序列nhead4比nhead8在小數(shù)據(jù)上更穩(wěn)定。num_layers2足夠超過 4 層在幾千個樣本規(guī)模下幾乎必過擬合。學習率方面Transformer 對學習率更敏感我一般先用 1e-4 起步配合 warmup 策略前 10 個 step 從 1e-6 線性升到 1e-4再用 cosine 退火。這個細節(jié)經(jīng)常決定 Transformer 是否收斂很多復現(xiàn)失敗都卡在固定學習率這里。此外心電信號是強周期信號Transformer 需要明確地利用周期信息。如果只用位置編碼而不做任何周期先驗?zāi)Ｐ鸵材軐W但需要更多數(shù)據(jù)。我在實際項目中會把單個心拍長度作為先驗知識把觀察窗口按心拍分成若干段段內(nèi)用 Transformer 編碼器建模細節(jié)段間用簡單平均池化這樣預測效果往往比純 Transformer 更穩(wěn)——這種帶先驗的結(jié)構(gòu)設(shè)計在小數(shù)據(jù)場景下非常管用。6. 統(tǒng)一評測框架與避坑指南6.1 統(tǒng)一評測框架三個模型要在同一把尺子下比較在 ARIMA、LSTM、Transformer 三者的比較上最常見的問題是評估方式不一致。ARIMA 用單步滾動預測LSTM 用一次性多步輸出Transformer 用多步輸出最后放在同一個圖表里卻沒有標注各自的任務(wù)難度這種對比毫無說服力。統(tǒng)一的評測方式是三個模型全都預測未來 128 個點1 秒波形用同樣長度的觀察窗口640 個點評估指標用 RMSE、MAE 以及波形形態(tài)相似度如動態(tài)時間規(guī)整 DTW 距離。RMSE 對峰值敏感MAE 對整體偏移敏感DTW 則能衡量波形“形狀”是否對得上。推薦把三項都算出來如果 RMSE 低但 DTW 高說明波形偏移了半個相位形態(tài)不對這樣的預測在醫(yī)學場景里是不能用的。評估時還要按病人或時間段劃分數(shù)據(jù)集。常見做法是把前 70% 的數(shù)據(jù)按時間順序作為訓練集中間 15% 做驗證集最后 15% 做測試集。如果數(shù)據(jù)來自多個個體必須保證每個個體的數(shù)據(jù)只出現(xiàn)在一個集合里這是心電數(shù)據(jù)處理中最重要的評估紀律。違反這條紀律的評估結(jié)果換個體數(shù)據(jù)后基本都會崩。6.2 訓練與評估中的主要踩坑記錄我在這類預測項目里踩過不少坑挑幾個高頻的分享。問題一驗證損失很低但可視化預測波形完全對不上相位?，F(xiàn)象是訓練曲線非常漂亮RMSE 也低但把預測波形和真實波形疊在一起看峰和谷完全錯位。原因是驗證集與訓練集切片重疊太多滑窗步長太小時相鄰樣本高度相關(guān)模型等于在“開卷考試”。解決方法是增大滑窗間隔或按時間段切分驗證集確保驗證集和訓練集沒有時間重疊。問題二ARIMA 輸出全是上一個點的延遲復制?，F(xiàn)象是預測曲線比真實曲線滯后一個采樣點看起來幾乎重合但實際上只是平移。原因是差分階數(shù)不夠序列仍然非平穩(wěn)模型學到的就是“把最近值平移過去”。解決方法是先做 ADF 檢驗確認 d 的取值如果仍存在明顯趨勢考慮對信號做高通濾波去除基線漂移再進入 ARIMA 擬合。問題三LSTM 訓練到一半 loss 變成 NaN。常見原因是學習率過大或數(shù)據(jù)里有 NaN。解決方法是先把數(shù)據(jù)中的 NaN 值顯式檢查并補齊再把學習率降到 1e-4 試跑 5 個 epoch如果仍然 NaN檢查 LSTM 輸出層是否出現(xiàn)了梯度爆炸必要時對梯度做裁剪clip_grad_norm_處理。這個問題的隱藏版本是 loss 不變成 NaN 但開始劇烈震蕩同樣要從學習率和數(shù)據(jù)異常兩個方向排查。問題四Transformer 在小數(shù)據(jù)集上嚴重過擬合?，F(xiàn)象是訓練損失不斷下降驗證損失在第 10 個 epoch 后開始上升。解決方法是減小 d_model、加深 dropout、加入早停同時確認注意力頭數(shù)是否過大4 個頭一般夠了。如果數(shù)據(jù)量實在太小應(yīng)該優(yōu)先把 token 切塊變大減少序列長度降低模型自由度。6.3 模型選型結(jié)論與部署視角的建議在跑完對比實驗之后我的經(jīng)驗是如果預測窗口很短0.5 秒以內(nèi)ARIMA 通常夠用深度模型未必有明顯優(yōu)勢如果預測窗口在 1 秒左右LSTM 是性價比最高的選擇訓練穩(wěn)定、參數(shù)少、部署也容易如果數(shù)據(jù)量很大、預測窗口更長且有能力做調(diào)參和訓練優(yōu)化Transformer 才有機會勝出——但它的優(yōu)勢并不會自動出現(xiàn)需要做足調(diào)參工作。部署視角上LSTM 的推理速度在 CPU 上已經(jīng)很快1 秒窗口的單次推理大概在幾十毫秒量級適合實時心跳監(jiān)測Transformer 雖然訓練慢但推理時也可以接受只是模型文件和內(nèi)存占用更大。ARIMA 部署最簡單不需要深度學習框架但滾動擬合需要保留狀態(tài)每一步預測都要更新歷史數(shù)組時序性依賴比深度模型更重。7. 實戰(zhàn)技巧用模型對比的結(jié)果反推數(shù)據(jù)質(zhì)量與調(diào)參方向這類項目的最終交付物不只是三個預測圖而是一整套可以復用的評測腳本。我會在項目里額外寫一個腳本把三個模型的預測結(jié)果和真實波形疊加可視化逐段打印每個模型的誤差。這樣做的好處是能直接發(fā)現(xiàn)數(shù)據(jù)切分、預處理和模型結(jié)構(gòu)上的問題而不是對著總指標一頭霧水。具體技巧是把測試集按心拍邊界切分成獨立片段逐段對比三個模型的誤差。如果 ARIMA 在某些片段上表現(xiàn)得比 LSTM 還好那這些片段很可能是高質(zhì)量、強周期、無噪聲的而 LSTM 有優(yōu)勢的片段往往含有輕微的早搏或心率變異。這種“按片段歸因”的做法能幫你快速定位數(shù)據(jù)中哪些模式是模型真正需要的而不是盲目調(diào)參數(shù)。驗證階段我習慣在最終評估時再增加一個“留一對象”交叉驗證每次拿一個對象的完整數(shù)據(jù)做測試集其余對象的數(shù)據(jù)訓練。這樣出來的指標比隨機切分可靠得多也更接近真實部署時的表現(xiàn)。雖然訓練次數(shù)會翻倍但對心跳預測這種小數(shù)據(jù)量任務(wù)來說時間成本完全可控。另一個實用習慣是保存每個模型的預測殘差序列分析殘差是否存在自相關(guān)。如果 LSTM 或 Transformer 的殘差仍然有明顯的周期性說明模型沒有完全學到心電的節(jié)律信息通常是因為觀察窗口不夠長或者目標窗口里有多個心拍導致輸出平滑化。此時把預測目標從“逐點波形”換成“下一個心拍間隔或波形模板”效果往往立竿見影。整個項目做下來我最大的體會是不要把三個模型當作競爭關(guān)系而是當作三條可互相驗證的路徑。ARIMA 定義了數(shù)據(jù)的最低可預測性LSTM 展示了循環(huán)網(wǎng)絡(luò)的穩(wěn)定上限Transformer 則帶你探索數(shù)據(jù)量足夠時注意力機制能走多遠。對某個具體心電預測任務(wù)判斷模型是否有效可以先用 ARIMA 定基線再讓 LSTM 打底最后看 Transformer 是否值得投入調(diào)參成本——這樣安排項目邏輯清晰每個模型都有明確的角色和邊界文檔寫起來也更有說服力。希望幫到你。本文還有配套的精品資源點擊獲取