日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

ARIMA-SSA-LSTM組合模型:小樣本時(shí)間序列預(yù)測(cè)實(shí)戰(zhàn)指南

ARIMA-SSA-LSTM組合模型:小樣本時(shí)間序列預(yù)測(cè)實(shí)戰(zhàn)指南 簡(jiǎn)介本資源面向計(jì)算機(jī)、電子信息工程、數(shù)學(xué)等專業(yè)的大學(xué)生及算法入門者提供一套完整的ARIMA-SSA-LSTM時(shí)間序列預(yù)測(cè)實(shí)現(xiàn)方案可用于課程設(shè)計(jì)、期末大作業(yè)或畢業(yè)設(shè)計(jì)。代碼基于Python與TensorFlow編寫采用參數(shù)化編程思路參數(shù)可靈活調(diào)整且配有保姆級(jí)注釋幾乎一行一注釋便于零基礎(chǔ)讀者理解建模流程。壓縮包共3個(gè)文件包含2個(gè)CSV數(shù)據(jù)文件與1個(gè)Python源碼文件整體約51KB數(shù)據(jù)與代碼配套齊全可直接運(yùn)行驗(yàn)證。資源將ARIMA、麻雀搜索算法SSA與LSTM相結(jié)合展示了從數(shù)據(jù)讀取、參數(shù)優(yōu)化到預(yù)測(cè)輸出的完整鏈路讀者可據(jù)此掌握組合模型的搭建方法與調(diào)參技巧。目前已有510人學(xué)習(xí)適合希望快速上手時(shí)間序列預(yù)測(cè)實(shí)戰(zhàn)的讀者參考。1. 從一條震蕩的銷量曲線說(shuō)起ARIMA-SSA-LSTM 到底在解決什么去年幫一個(gè)做小家電的朋友看數(shù)據(jù)他手里有 36 個(gè)月的出貨記錄想預(yù)測(cè)未來(lái) 6 個(gè)月。我先用 ARIMA 跑了一版趨勢(shì)抓得還行但每逢大促月份的尖峰全被抹平換成 LSTM 單模型尖峰能咬住一部分可樣本量太小驗(yàn)證集上的曲線抖得像心電圖。這不是模型不行是單一模型對(duì)「線性趨勢(shì) 非線性突變」這種混合結(jié)構(gòu)天然偏科。ARIMA-SSA-LSTM 這套組合就是沖這個(gè)痛點(diǎn)來(lái)的ARIMA 負(fù)責(zé)把線性成分剝出來(lái)SSA奇異譜分析把殘差里的噪聲和周期分量拆開(kāi)、重構(gòu)出更干凈的序列LSTM 再去學(xué)剩下的非線性映射。它適合手里有幾百到幾千條單變量序列、又不想上重型深度模型的從業(yè)者比如銷量、負(fù)荷、流量、GDP 這類按時(shí)間排隊(duì)的數(shù)值預(yù)測(cè)。下面我按自己落地的順序把數(shù)據(jù)怎么切、三個(gè)模塊怎么串、參數(shù)怎么調(diào)、哪里最容易翻車講清楚。2. 數(shù)據(jù)準(zhǔn)備與平穩(wěn)性處理ARIMA 的地基怎么打2.1 時(shí)間序列的四個(gè)前置檢查拿到一列帶時(shí)間戳的數(shù)值別急著往模型里灌。我一般先做四件事確認(rèn)時(shí)間間隔是否等距、檢查缺失值和異常點(diǎn)、看量綱是否需要?dú)w一化、畫一遍原始曲線和差分曲線。等距是 ARIMA 的硬要求如果原始數(shù)據(jù)是「有單才記一筆」的事件流得先重采樣成固定頻率比如按天求和或按周取均值。缺失值不要直接dropna銷量類數(shù)據(jù)缺失往往意味著當(dāng)天真沒(méi)賣出去填 0 比填均值更合理傳感器類數(shù)據(jù)則適合線性插值。異常點(diǎn)用滾動(dòng)中位數(shù)加 3 倍 MAD 判定超過(guò)閾值的先標(biāo)記別急著刪后面 SSA 重構(gòu)時(shí)還能用上。平穩(wěn)性決定了 ARIMA 的差分階數(shù) d。ADF 檢驗(yàn)是常用手段p 值小于 0.05 認(rèn)為平穩(wěn)。但我要提醒一句ADF 對(duì)短序列和強(qiáng)周期序列經(jīng)常誤判最好配合 ACF/PACF 圖一起看。如果 ACF 衰減極慢、PACF 在 1 階后截尾基本就是需要差分的信號(hào)。差分不是越多越好過(guò)度差分會(huì)把序列里的有效信息也差掉一般 d 取 0、1、2 三檔試優(yōu)先 1 階。import pandas as pd import numpy as np from statsmodels.tsa.stattools import adfuller # 讀取數(shù)據(jù)假設(shè)兩列ds(時(shí)間), y(數(shù)值) df pd.read_csv(series.csv, parse_dates[ds]).sort_values(ds) df df.set_index(ds).asfreq(D) # 統(tǒng)一成日頻缺失處補(bǔ) NaT df[y] df[y].interpolate(linear) # 線性插值補(bǔ)缺失 # 異常點(diǎn)標(biāo)記滾動(dòng)中位數(shù) 3倍MAD med df[y].rolling(7, centerTrue).median() mad (df[y] - med).abs().rolling(7, centerTrue).median() df[outlier] (df[y] - med).abs() 3 * 1.4826 * mad # ADF 檢驗(yàn) def adf_report(s, name): r adfuller(s.dropna(), autolagAIC) print(f{name}: stat{r[0]:.3f}, p{r[1]:.4f}, lags{r[2]}) adf_report(df[y], 原始序列) adf_report(df[y].diff(), 一階差分)這段代碼里asfreq(D)把不規(guī)則時(shí)間軸強(qiáng)制對(duì)齊到日頻interpolate(linear)只補(bǔ)數(shù)值不補(bǔ)時(shí)間。MAD 判定用 1.4826 這個(gè)系數(shù)是為了讓 MAD 在正態(tài)分布下與標(biāo)準(zhǔn)差可比這是穩(wěn)健統(tǒng)計(jì)里的常規(guī)做法。ADF 的autolagAIC讓函數(shù)自動(dòng)選滯后階數(shù)比手動(dòng)指定穩(wěn)。跑完看兩個(gè) p 值原始不平穩(wěn)、一階差分平穩(wěn)d 就定 1。2.2 ARIMA 定階別迷信 auto_arima定階我踩過(guò)的坑最多。pmdarima的auto_arima很方便但它默認(rèn)用 AIC 做準(zhǔn)則短序列上容易選出過(guò)大的 p 和 q導(dǎo)致過(guò)擬合。我的習(xí)慣是先用auto_arima給一個(gè)候選范圍再手動(dòng)在 (p,d,q) 的鄰域里用 BIC 和滾動(dòng)驗(yàn)證比一遍。BIC 對(duì)參數(shù)個(gè)數(shù)懲罰更重小樣本下更保守。季節(jié)性明顯的序列比如月度數(shù)據(jù)還要加 (P,D,Q,s) 這組季節(jié)項(xiàng)s 取 12。from statsmodels.tsa.arima.model import ARIMA from sklearn.metrics import mean_absolute_error y df[y].values train, test y[:-12], y[-12:] best None for p in range(0, 4): for q in range(0, 4): try: m ARIMA(train, order(p, 1, q)).fit() pred m.forecast(len(test)) mae mean_absolute_error(test, pred) if best is None or mae best[0]: best (mae, p, q, m) except Exception: continue print(最優(yōu)階數(shù):, best[1], best[2], MAE:, round(best[0], 3))這里用滾動(dòng)外推的方式評(píng)估而不是只看訓(xùn)練集擬合優(yōu)度。order(p,1,q)里的 1 就是前面定下的 d。forecast(len(test))做的是樣本外預(yù)測(cè)比f(wàn)ittedvalues更能反映真實(shí)泛化。如果所有組合的 MAE 都很大說(shuō)明線性部分解釋力有限這恰恰是后面要上 SSA 和 LSTM 的信號(hào)不是失敗。2.3 殘差提取把線性部分「減」出去ARIMA 擬合完真正要交給下游的不是預(yù)測(cè)值而是殘差。殘差 真實(shí)值 ? ARIMA 擬合值它承載了線性模型沒(méi)抓住的非線性結(jié)構(gòu)和周期波動(dòng)。提取時(shí)注意對(duì)齊索引訓(xùn)練段和測(cè)試段要分開(kāi)存別把未來(lái)信息漏進(jìn)訓(xùn)練。殘差序列通常均值接近 0如果還有明顯趨勢(shì)說(shuō)明 d 選小了回去重定階。resid_train train - best[3].fittedvalues resid_test test - best[3].forecast(len(test)) np.save(resid_train.npy, resid_train) np.save(resid_test.npy, resid_test)fittedvalues是樣本內(nèi)一步預(yù)測(cè)forecast是樣本外。兩者相減得到的兩段殘差拼起來(lái)才是完整殘差序列。存成 npy 是為了下一步 SSA 直接讀避免反復(fù)跑 ARIMA。到這里ARIMA 這層地基就算打完了接下來(lái)處理殘差。3. SSA 分解與重構(gòu)殘差里的噪聲和周期怎么拆3.1 奇異譜分析的軌跡矩陣與分組邏輯SSA 的核心是把一維序列嵌成軌跡矩陣再做奇異值分解按奇異值大小把分量分成「趨勢(shì)」「周期」「噪聲」幾組最后對(duì)角平均重構(gòu)回一維。它不像小波那樣需要選基函數(shù)也不像 EMD 那樣容易模態(tài)混疊對(duì)殘差這種信噪比不高的序列比較友好。關(guān)鍵參數(shù)有兩個(gè)窗口長(zhǎng)度 L 和分組方式。L 一般取序列長(zhǎng)度的 1/3 到 1/2太短拆不出周期太長(zhǎng)計(jì)算量陡增且分量之間開(kāi)始混。分組是 SSA 里最像「玄學(xué)」的一步。奇異值從大到小排前幾個(gè)通常對(duì)應(yīng)趨勢(shì)和主周期中間一段對(duì)應(yīng)次周期尾部小奇異值基本是噪聲。我一般畫一張奇異值譜找那個(gè)明顯拐點(diǎn)拐點(diǎn)之后的重構(gòu)時(shí)直接丟掉。如果拐點(diǎn)不明顯就用分組重構(gòu)后的序列做 ADF 和方差比檢驗(yàn)看保留多少組能讓殘差既平滑又不丟周期。import numpy as np def ssa_decompose(series, L): N len(series) K N - L 1 # 軌跡矩陣 X np.column_stack([series[i:iL] for i in range(K)]) # 奇異值分解 U, s, Vt np.linalg.svd(X, full_matricesFalse) return U, s, Vt, L, K def ssa_reconstruct(U, s, Vt, L, K, groups): groups: 列表的列表每個(gè)子列表是一組要保留的分量索引 recon np.zeros(L K - 1) for g in groups: Xg np.zeros((L, K)) for i in g: Xg s[i] * np.outer(U[:, i], Vt[i, :]) # 對(duì)角平均 for k in range(L K - 1): idx [j for j in range(K) if 0 k - j L] recon[k] np.mean([Xg[k - j, j] for j in idx]) return recon resid np.load(resid_train.npy) L len(resid) // 3 U, s, Vt, L, K ssa_decompose(resid, L) print(奇異值譜:, np.round(s[:10], 3))ssa_decompose里np.column_stack構(gòu)造的是 Hankel 型軌跡矩陣每一列是原序列的一個(gè)滑動(dòng)窗口。np.linalg.svd返回的 s 是降序奇異值。ssa_reconstruct里的對(duì)角平均是 SSA 反變換的標(biāo)準(zhǔn)操作把矩陣元素沿反對(duì)角線取平均還原成一維。groups參數(shù)讓你自由指定保留哪幾組比如[[0,1],[2,3,4]]表示趨勢(shì)組和周期組分開(kāi)重構(gòu)。3.2 分組策略用方差貢獻(xiàn)率代替肉眼判斷肉眼找拐點(diǎn)不穩(wěn)定換個(gè)人看可能結(jié)論就變了。我后來(lái)改成算方差貢獻(xiàn)率每個(gè)奇異值的平方除以總和累計(jì)到 85% 到 95% 之間的那一段就是主分量。剩下的尾部直接歸入噪聲組丟棄。這樣每次跑結(jié)果可復(fù)現(xiàn)也方便寫進(jìn)腳本自動(dòng)執(zhí)行。var_ratio s**2 / np.sum(s**2) cum_ratio np.cumsum(var_ratio) keep np.where(cum_ratio 0.90)[0] # 保留累計(jì)貢獻(xiàn)90%的分量 print(保留分量數(shù):, len(keep), 累計(jì)貢獻(xiàn):, round(cum_ratio[keep[-1]], 3)) recon ssa_reconstruct(U, s, Vt, L, K, [list(keep)]) resid_clean resid - recon # 去掉主分量后的噪聲殘差這里keep取累計(jì)貢獻(xiàn)不超過(guò) 90% 的索引意味著把 90% 的能量當(dāng)作「有結(jié)構(gòu)的部分」重構(gòu)出來(lái)剩下的 10% 當(dāng)噪聲。resid_clean是去噪后的殘差它比原始?xì)埐钇交m合喂給 LSTM。注意recon長(zhǎng)度是 LK-1正好等于原序列長(zhǎng)度可以直接相減。3.3 重構(gòu)序列的對(duì)齊與長(zhǎng)度校驗(yàn)SSA 重構(gòu)最容易翻車的地方是長(zhǎng)度對(duì)不上。軌跡矩陣的維度是 L × K對(duì)角平均后長(zhǎng)度是 L K ? 1而 K N ? L 1所以 L K ? 1 N理論上嚴(yán)絲合縫。但如果你在分組時(shí)對(duì)某些分量做了截?cái)嗷蜓a(bǔ)零長(zhǎng)度就會(huì)漂。我的做法是重構(gòu)完立刻斷言len(recon) len(resid)不等就報(bào)錯(cuò)別讓它悄悄錯(cuò)位到 LSTM 階段才暴露。assert len(recon) len(resid), f長(zhǎng)度不匹配: {len(recon)} vs {len(resid)} resid_clean resid - recon np.save(resid_clean_train.npy, resid_clean)這個(gè)斷言看著簡(jiǎn)單但幫我省過(guò)至少兩次深夜排查。SSA 輸出的resid_clean就是 LSTM 的輸入。到這一步線性部分歸 ARIMA周期和噪聲歸 SSA剩下的非線性映射交給 LSTM。4. LSTM 建模把 SSA 重構(gòu)后的殘差喂進(jìn)網(wǎng)絡(luò)4.1 滑窗構(gòu)造監(jiān)督樣本LSTM 要的是監(jiān)督學(xué)習(xí)格式得把一維序列切成 (樣本, 時(shí)間步, 特征) 的三維張量?;伴L(zhǎng)度時(shí)間步是個(gè)關(guān)鍵參數(shù)太短學(xué)不到長(zhǎng)依賴太長(zhǎng)梯度容易消失且樣本數(shù)驟減。經(jīng)驗(yàn)上取序列主周期的 1 到 2 倍比如月度數(shù)據(jù)主周期 12窗口取 12 到 24。步長(zhǎng)一般取 1做數(shù)據(jù)增強(qiáng)時(shí)可以取 2 或 3 增加樣本多樣性。def make_windows(series, window, horizon1): X, y [], [] for i in range(len(series) - window - horizon 1): X.append(series[i:iwindow]) y.append(series[iwindow:iwindowhorizon]) X np.array(X).reshape(-1, window, 1) y np.array(y).reshape(-1, horizon) return X, y resid_clean np.load(resid_clean_train.npy) WINDOW 12 X, y make_windows(resid_clean, WINDOW, horizon1) print(樣本形狀:, X.shape, y.shape)make_windows里reshape(-1, window, 1)的最后一個(gè) 1 是特征維度單變量預(yù)測(cè)就是 1。horizon1表示單步預(yù)測(cè)要多步就把 horizon 調(diào)大y 會(huì)變成二維。注意樣本數(shù) 序列長(zhǎng)度 ? window ? horizon 1窗口越大樣本越少小數(shù)據(jù)集上要權(quán)衡。4.2 網(wǎng)絡(luò)結(jié)構(gòu)與訓(xùn)練參數(shù)結(jié)構(gòu)上我用兩層 LSTM 加一層全連接隱藏單元第一層 64、第二層 32dropout 0.2。優(yōu)化器 Adam學(xué)習(xí)率 1e-3損失 MSE早停 patience 設(shè) 10。批大小 32epoch 上限 200。這些不是金科玉律但作為起點(diǎn)很穩(wěn)。歸一化用 MinMax 把殘差縮到 [0,1]因?yàn)闅埐钣姓胸?fù)標(biāo)準(zhǔn)化到均值 0 方差 1 也可以我傾向 MinMax反歸一化時(shí)不容易出錯(cuò)。import torch import torch.nn as nn class LSTMForecaster(nn.Module): def __init__(self, input_size1, hidden164, hidden232, dropout0.2): super().__init__() self.lstm1 nn.LSTM(input_size, hidden1, batch_firstTrue) self.lstm2 nn.LSTM(hidden1, hidden2, batch_firstTrue) self.drop nn.Dropout(dropout) self.fc nn.Linear(hidden2, 1) def forward(self, x): out, _ self.lstm1(x) out, _ self.lstm2(out) out self.drop(out[:, -1, :]) # 取最后一個(gè)時(shí)間步 return self.fc(out) model LSTMForecaster() opt torch.optim.Adam(model.parameters(), lr1e-3) loss_fn nn.MSELoss()batch_firstTrue讓輸入維度是 (batch, seq, feature)符合習(xí)慣。out[:, -1, :]只取最后一個(gè)時(shí)間步的隱藏狀態(tài)因?yàn)轭A(yù)測(cè)目標(biāo)在窗口末尾之后。兩層 LSTM 堆疊能提取更抽象的時(shí)序模式但層數(shù)再多小數(shù)據(jù)上就開(kāi)始過(guò)擬合了。dropout 加在 LSTM 輸出和全連接之間別加在 LSTM 內(nèi)部PyTorch 的 LSTM 自帶 dropout 參數(shù)只在多層時(shí)生效容易混淆。4.3 訓(xùn)練循環(huán)與早停訓(xùn)練循環(huán)里我固定做三件事每個(gè) epoch 記錄訓(xùn)練和驗(yàn)證損失、驗(yàn)證損失連續(xù) 10 輪不降就停、保存驗(yàn)證損失最低的權(quán)重。這樣即使訓(xùn)練震蕩最后拿到的也是驗(yàn)證集上最好的那個(gè)模型而不是最后一個(gè) epoch 的。from torch.utils.data import TensorDataset, DataLoader X_t torch.tensor(X, dtypetorch.float32) y_t torch.tensor(y, dtypetorch.float32) split int(len(X_t) * 0.8) train_ds TensorDataset(X_t[:split], y_t[:split]) val_ds TensorDataset(X_t[split:], y_t[split:]) train_dl DataLoader(train_ds, batch_size32, shuffleTrue) val_dl DataLoader(val_ds, batch_size32) best_val, patience, wait float(inf), 10, 0 for epoch in range(200): model.train() for xb, yb in train_dl: opt.zero_grad() loss loss_fn(model(xb), yb) loss.backward() opt.step() model.eval() with torch.no_grad(): val_loss np.mean([loss_fn(model(xb), yb).item() for xb, yb in val_dl]) if val_loss best_val: best_val, wait val_loss, 0 torch.save(model.state_dict(), best_lstm.pt) else: wait 1 if wait patience: print(f早停于 epoch {epoch}) breakshuffleTrue只在訓(xùn)練集開(kāi)驗(yàn)證集保持順序。torch.save存的是 state_dict加載時(shí)先實(shí)例化同結(jié)構(gòu)模型再load_state_dict。早停的 patience 設(shè) 10 是經(jīng)驗(yàn)值數(shù)據(jù)噪聲大可以放寬到 15數(shù)據(jù)干凈可以收緊到 5。訓(xùn)練完把驗(yàn)證集預(yù)測(cè)和真實(shí)值畫在一起看是欠擬合還是過(guò)擬合再?zèng)Q定要不要調(diào)窗口或隱藏單元。4.4 三模型疊加預(yù)測(cè)與反歸一化最終預(yù)測(cè) ARIMA 預(yù)測(cè) SSA 重構(gòu)的 LSTM 預(yù)測(cè)。注意 LSTM 學(xué)的是resid_clean而resid_clean resid ? recon所以 LSTM 輸出的是「去噪后殘差」的預(yù)測(cè)要加回recon再和 ARIMA 相加。順序別搞反這是最容易出錯(cuò)的一步。model.load_state_dict(torch.load(best_lstm.pt)) model.eval() with torch.no_grad(): lstm_pred model(torch.tensor(X_test, dtypetorch.float32)).numpy().flatten() final_pred arima_pred recon_test lstm_predarima_pred是 ARIMA 的樣本外預(yù)測(cè)recon_test是測(cè)試段 SSA 重構(gòu)的主分量lstm_pred是網(wǎng)絡(luò)對(duì)去噪殘差的預(yù)測(cè)。三者相加才是最終值。如果前面歸一化過(guò)這里要先反歸一化再相加或者全程在歸一化空間里加完再反歸一化但三種量的歸一化參數(shù)必須一致否則量綱對(duì)不上。5. 避坑與排查這套組合拳最容易翻車的五個(gè)地方5.1 現(xiàn)象驗(yàn)證集 MAE 比測(cè)試集還低以為模型很強(qiáng)原因滑窗構(gòu)造時(shí)用了未來(lái)數(shù)據(jù)或者歸一化參數(shù)在劃分訓(xùn)練測(cè)試之前就用全量數(shù)據(jù)算了。這是時(shí)間序列里最經(jīng)典的數(shù)據(jù)泄漏。解決所有統(tǒng)計(jì)量均值、方差、最大最小值只在訓(xùn)練段計(jì)算然后應(yīng)用到驗(yàn)證和測(cè)試段?;暗那蟹忠跉w一化之后、但歸一化參數(shù)必須來(lái)自訓(xùn)練段。我習(xí)慣寫一個(gè)fit_scaler(train)和transform(scaler, data)分開(kāi)的函數(shù)從代碼結(jié)構(gòu)上杜絕泄漏。5.2 現(xiàn)象SSA 重構(gòu)后序列和原序列幾乎一樣LSTM 學(xué)不到東西原因分組時(shí)保留了太多分量把噪聲也重構(gòu)進(jìn)去了等于沒(méi)去噪?;蛘叽翱?L 取太小軌跡矩陣秩不夠分解不出有效結(jié)構(gòu)。解決檢查累計(jì)方差貢獻(xiàn)率保留到 85% 到 90% 就停別貪多。L 至少取序列長(zhǎng)度的 1/4短序列可以到 1/2。重構(gòu)后算一下和原殘差的相關(guān)系數(shù)如果高于 0.99說(shuō)明基本沒(méi)去掉東西回去調(diào)分組。5.3 現(xiàn)象LSTM 訓(xùn)練損失一直降驗(yàn)證損失從第 3 輪就開(kāi)始漲原因模型容量相對(duì)數(shù)據(jù)量太大或者窗口太長(zhǎng)導(dǎo)致樣本數(shù)太少。小數(shù)據(jù)集上兩層 LSTM 加 64 單元很容易過(guò)擬合。解決先減容量隱藏單元降到 32 和 16層數(shù)降到一層。再加大 dropout 到 0.3 到 0.4。還不行就縮短窗口增加樣本數(shù)。數(shù)據(jù)量少于 500 條時(shí)我一般直接用單層 LSTM 加 32 單元起步別一上來(lái)就堆結(jié)構(gòu)。5.4 現(xiàn)象最終預(yù)測(cè)曲線整體偏移所有點(diǎn)都偏高或偏低原因反歸一化時(shí)用的參數(shù)不對(duì)或者 ARIMA 預(yù)測(cè)和 LSTM 預(yù)測(cè)的量綱沒(méi)對(duì)齊。常見(jiàn)于 ARIMA 用了差分、LSTM 用了歸一化兩者還原順序不一致。解決統(tǒng)一在原始量綱上做加法。具體做法是 ARIMA 預(yù)測(cè)先還原到原始尺度SSA 重構(gòu)也在原始尺度LSTM 輸出反歸一化到原始尺度三者都還原完再相加。別在歸一化空間里混著加。5.5 現(xiàn)象每次跑結(jié)果都不一樣MAE 波動(dòng)超過(guò) 20%原因PyTorch 默認(rèn)隨機(jī)初始化DataLoader 的 shuffle 也帶隨機(jī)性。深度學(xué)習(xí)部分本身就有方差。解決固定隨機(jī)種子torch.manual_seed(42)、np.random.seed(42)DataLoader 的 generator 也設(shè)種子。然后跑 5 次取平均作為最終報(bào)告值。如果 5 次方差仍然很大說(shuō)明模型不穩(wěn)定回去檢查數(shù)據(jù)質(zhì)量和窗口設(shè)置而不是繼續(xù)調(diào)種子。6. 進(jìn)階技巧用滾動(dòng)重訓(xùn)和殘差診斷把誤差再壓一檔模型搭完能跑通只是及格線真正拉開(kāi)差距的是滾動(dòng)重訓(xùn)和殘差診斷。我現(xiàn)在的習(xí)慣是每預(yù)測(cè)一步就把真實(shí)值并入訓(xùn)練集重新擬合 ARIMA 和微調(diào) LSTM這叫 walk-forward validation。它比一次性切分訓(xùn)練測(cè)試更貼近生產(chǎn)環(huán)境因?yàn)樯a(chǎn)上你每天都會(huì)拿到新數(shù)據(jù)。代價(jià)是計(jì)算量成倍增加但小數(shù)據(jù)集上完全扛得住。def walk_forward(y, window, horizon, n_splits): preds, truths [], [] for i in range(n_splits): end len(y) - n_splits i train, test y[:end], y[end:endhorizon] if len(test) horizon: break # 這里復(fù)用前面的 ARIMA SSA LSTM 流程 p full_pipeline(train, horizon) preds.append(p) truths.append(test) return np.array(preds), np.array(truths)full_pipeline把前面所有步驟封成一個(gè)函數(shù)輸入訓(xùn)練序列和預(yù)測(cè)步長(zhǎng)輸出預(yù)測(cè)值。n_splits控制回測(cè)輪數(shù)一般取 5 到 10。跑完算 MAPE 和 RMSE和單次切分的結(jié)果對(duì)比如果滾動(dòng)重訓(xùn)明顯更好說(shuō)明數(shù)據(jù)分布隨時(shí)間漂移生產(chǎn)上必須用滾動(dòng)策略。殘差診斷是另一個(gè)被低估的環(huán)節(jié)。把最終預(yù)測(cè)誤差畫出來(lái)看有沒(méi)有自相關(guān)。如果誤差的 ACF 在滯后幾階還有顯著尖峰說(shuō)明模型沒(méi)抓干凈還有結(jié)構(gòu)留在誤差里。這時(shí)候可以回到 SSA 階段多保留一組分量或者給 LSTM 加一層注意力。我一般用 Ljung-Box 檢驗(yàn)p 值大于 0.05 就認(rèn)為誤差接近白噪聲可以收手了。from statsmodels.stats.diagnostic import acorr_ljungbox err truths.flatten() - preds.flatten() lb acorr_ljungbox(err, lags[5, 10, 20], return_dfTrue) print(lb)acorr_ljungbox返回每個(gè)滯后階的統(tǒng)計(jì)量和 p 值。如果 10 階 p 值小于 0.05誤差還有自相關(guān)模型沒(méi)榨干。這時(shí)候別急著換模型先回去看 SSA 分組和 ARIMA 階數(shù)往往問(wèn)題出在前兩層。參數(shù)搜索上我最后會(huì)做一輪粗網(wǎng)格ARIMA 的 (p,q) 在 0 到 3 之間、SSA 的 L 在 N/4 到 N/2 之間、LSTM 窗口在 6 到 24 之間各取三檔組合用滾動(dòng)驗(yàn)證的 MAPE 排序。組合數(shù)控制在 50 以內(nèi)不然跑一天都跑不完。排序后取前 5 組人工看預(yù)測(cè)曲線和真實(shí)曲線的貼合度選那個(gè)不僅誤差小、而且拐點(diǎn)也咬得住的。誤差小但曲線平滑得像直線的生產(chǎn)上反而危險(xiǎn)因?yàn)樗淹蛔內(nèi)?。最后說(shuō)個(gè)我自己的習(xí)慣每次上線新數(shù)據(jù)前先拿歷史數(shù)據(jù)做一次「假裝不知道未來(lái)」的回測(cè)把預(yù)測(cè)值和真實(shí)值并排打出來(lái)逐月看偏差方向。如果連續(xù)三個(gè)月同向偏差說(shuō)明模型有系統(tǒng)性偏移得檢查是不是數(shù)據(jù)采集口徑變了而不是模型參數(shù)問(wèn)題。這套流程跑順之后ARIMA-SSA-LSTM 在小樣本單變量預(yù)測(cè)上確實(shí)比單模型穩(wěn)但它不是萬(wàn)能藥數(shù)據(jù)里的突變?nèi)绻麃?lái)自外部事件任何時(shí)序模型都抓不住那得靠外部特征。希望幫到你。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
激情在线青青操| 99热导航| 日欧亚洲二三区大片不卡| 欧美—性—交—色| 欧美成人色| 少妇一线天久久久久久| 粉嫩av在线一区二区| 最新日本中文字幕| 欧美96在线|欧| 蜜臀aV午夜一区二区三区| 亚洲 欧美 小说| 婷婷综合| 91人人臊| 色一情一乱一乱一区91Av| 日本成熟少妇A∨网站| 97中文综合| 91艹| 久久久少妇诱惑精品视频| 美骚妇av高清在线| 超碰人妻中文在线| 欧美永久激情一区二区| 刺激性视频黄页| 亚洲人妻一区二区三区| 视频二区美腿丝袜制服人妻欧美| 欧美在线视频99| 蜜乳AV色欲AVAV无码| 影音先锋视频在线| 黄色AAAAA欧美| 強姦亂倫a| 午夜男女爽爽爽影院视频| 96久久久| 91网九色蝌蚪操熟女| 香蕉视频精品亚洲一区二区三区在线播| 九九九偷拍| Julia Annxxxxx| 色偷综合| 超碰社区97| 中文一区二区| 日韩精品午夜操呦呦不卡影院| 精品无码产区一区二| 狠狠干妹子| 日本性一区| 日日AAvv| 天天上日日上日韩精品| 亚洲男人久久综合天堂| 看黄片视频免费| 美国aaaaa一级黄片| 人人摸.人人色| 久久久久九九九| 亚欧国产无码精品在线| 九九热在线视频| 综合网欧美在线| 91欧美偷拍| 西西美女视频网| 国产精品电影推荐| 玖玖久久久| 校园春色五月天| 亚洲成人黄色在线观看| 伊人黄色视频免费观看| 污啪啪啪视频| aaa淫乱视频| 我想要啊 啊 啊| 亚洲丨在线| 日韩欧美加勒比| 天天日天天干天天色| 欧美日韩激情无码专区| 任你艹| 桃色六月天| 亚洲s色图| 亚欧美色| 强奸a片网| 天天日少妇逼AV| 美女在线H91| 欧美亚洲厕所精品偷拍91| 欧美另类天堂| 热久久国产| 中文字幕一区日韩精| 天天看少妇| 久久噜| 亚州性色| 在线观看黄色电话| 日本中文字幕高跟| 亚洲黄色| 成人日本视频人妻在线| 青青三级视频| 一级岛国大片| 97亚洲综合电影| 人妻少妇久久| 蜜乳AV一区二区三区四| 欧美中文狠| 久久专区| 99操| 亚洲天在线| 天天谢天天干| 中文字幕88av在线| 欧亚日韩一区在线| 激情综合97| 欧美在线干| 中国操逼无码| 精产国品一区二三产品| 国产精品美女视频诱惑| 91久精品| 91丝袜在线观看| 先锋精品av色鲁| 一二视频神马久久传媒| 91精品啪在线观看国产城中村| 欧美 青青草| 国产在线综合福利网站| 哈哈操电影AV| 免费1级a做爰片观看| 97国产色综合| av一区二区三区四区| 欧美少妇一区二区三区| 无码最新| 老鸭窝日丰县女人| 亚洲另类在线观看| 亚洲成人贴图| 免费看美国人人爽,人人操| 97中文字幕一区| 亚洲最大AV网| 男人的天堂va在线| 国产精品suv一区| 人人爱人人乐人人操| 黄页大片在线观看| 国产精品视频内谢女人| 久射吧| 亚欧国产无码精品在线| 另类图片综合| 国产AV人人 夜夜人人澡| 精品综合久久久久久五月天| 国产久久一区二区三区野外在线| 俄罗斯一区二区视频在线观看| 欧美色图私拍91| 内射小黄片| 久久人爽| 亚洲日本韩国在线| 日韩欧无码一区二区三区免费不卡| 婷婷香蕉欧美在线一区二区三区| 国产日韩精品suv| 成人日本精品九区| 亚洲一本色道中文无码aV天美| 久久机热| 最新加勒比丝袜在线| 9色国产精品一区粉嫩| 亚洲成人精品久久久| 国产女同视频在线播放| 日韩97在线| 成人综合网 欧美| 色婷婷激一区二区三区| 亚洲午夜精品久久久中文影院| 久久亚洲不卡| 97人妻免费中文字幕| 粉嫩久久久极品| 久久久久精| 在线播放免费av福利片| 竹菊一区二区三区AV线| 久久鲁夜| 极品五月天噜噜| www.亚洲黄色| 欲色综合| 久久AV色| 91九九九逼| 日韩精品中文字幕二区| 97超碰人人模人人拍人人| 97精品国产手机| 婷婷亚洲综合| 91操人| 欧美日韩国产成人高清| 大屁股人妻女教师撅着屁股| 99热在线只有精品| 久久骚少妇| 婷婷丁香成人| 久操视频资源站公开| 加勒比海色香蕉婷婷| 四虎884a| 炮色五月| 红杏大香蕉| 精品国产肉丝袜在线拍国语| 日欧亚洲二三区大片不卡| 国产精品福利视频| 97色操| av72网| 色色99| 久久丁香| 97se综合网| 日日夜夜天天| AV九九| 中文字幕一区电影在线观看| 人人做,人人操,人人摸| 98久久| 伊人麻豆传媒| 国产精品96久久久久久| 一区二区高清视频| 国产视频人人网| 97这里有精品| 欧美综合网| 综合亚洲欧美| 91A欧美电影网站| 久久是精品| 97视频在线视频| 天天干天天中出av| 天天日天天屌天天操| 求求你操操我| 色哟哟av| 亚洲人妻日日日| 东京热,男人的天堂| 国产一| 亚洲色欧| 国产h小视频在线观看免费| 中国熟妇| 天美91| 91在线视频国产网站| 一区二区影视| 97久久久| 亚洲欧美日韩精品久久久一区二区| 超97在线精品视频| www.91色| 性欧美另类高清| 美女露胸露奶头| 天堂资源欧美| 欧美国产有色电影| 久久久久女教师免费一区| 久久香蕉国产线看观看亚洲女人 | 国产做?爰片久久毛片?片美国| 中文字幕一区电影在线观看| 婷婷丁香五月天综合东京热| 爱媛媛久久国产福利| 欧美十八禁在线看| 九九九久千久久激情蜜桃在线看 | 7777奇米影视久久| 亚洲av乱伦色图网站| 99综合网| 日本大香蕉| 精品久久九| 婷婷五月天色网| 国产精品一区二区密臀| 亚州免费啪啪视频| 色婷婷五月天| 曰本91情色| 视频黄站| 免费看黄片现成| 自拍偷拍 日韩无码| 国产高潮AA片免费看| 色综合91| 亚洲人妻久久久| 九月伊人中文字幕| 少妇高潮对白在线观看| 丝袜美腿欧美| 激情四射婷婷六月天| 超碰美国| 黄色免费网页无码| 欧美三级一级| 激情另类激情| 久久双插| 免费看毛片操穴| 97超碰久| 亚洲无码国产探花在线观看| 大奶啊啊好爽| 啊啊啊 在线| 三级日韩一区二区三区| 超碰人人色| 色超碰综合| 91老熟妇| 艹我哪美一区无码| 台湾佬大香蕉| 午夜黄色免费在线观看| 91热情品| 国产品精品自在在线午夜免费| 黄色欧美性爱视频| 欧美中字二区| 92性色国产午夜福利在线661| 欧美久热| 国产精品对白自产拍| 黄人人操人人操| 人人操天天爽| 大学生美女口爆| 综合色久| 五月天精品| 国产精品自产拍在线观看社区| 97看操| 波多野42部激情无码喷潮| 色激情五月天| 男人的天堂久久久| 日韩伦理久 久久 清纯| 国产精品乱码久久| 男人兔费天堂| 欧美综合天天| 97超碰逼| 51久久夜色精品国产麻豆| 夜夜操天| 黄色无码高清黄色无码网站| 亚洲情色电影网| 青草成人免费视频一COm| 亚洲中文字幕网| 久久亚洲欧美一区二区三区-亚洲国产精品第一区二区 | 久久69| 日本在线一二 | 黑人操一区二区| 中文字幕人妻色偷偷久久皮 | 天天日天天屌天天操| 国产午夜福利电影免费在线观看| 欧美激情超碰777| 无码久久国产| 好看的久久不射无码影视影院| 91网九色蝌蚪操熟女| 四虎影库国产精品免费| 日本在线观看网址| 被男人吃奶很爽的毛片| 久久久久亚洲Aⅴ无码| 激情五月天色色| 国产后入式在线观看| 国产 三级自拍| 福利天天都操| 中文字幕在线观看丝袜| 老子午夜伦不卡影院| 97玖玖超碰| 日韩久久.一级黄色片| 亚洲性少妇| 粉嫩绯色AV一区二区在线| 中出人妻中文字幕91在线| 黄片直播三级黄片两女一男| 超碰在线91| 夜夜狼人妻| 亚洲激情综合另类男同| 久九九九九九九九热| 色九九九九久| 伦伦成年午夜免费视频| 丰满人妻-区二区三区免费看 | 国产人伦精品一区二区三区| 日本免费中文字幕在线| 又黄又硬又粗又长国产视频| 在线视频一区二区传媒| 免费av大片| 好吊色综合| 国产久久一区二区| 五月天丁香| 久久亚洲欧美中文字幕国语 | 国产成人+综合亚洲+天堂| 国产97视频| 制服诱惑亚洲一区二区三区在线观看| 色色操| 欧美亚洲素人制服精品| 久久粉色| 国产中文字幕在线| 美女啪欧美一区| 免费黄色视频网址| 超碰成人最新最好看| 色香av| 91精品少妇搡搡搡| 香港日本韩国人妇99www.wccm20| www99热| 日韩欧美午夜视频在线| 最近2018中文字幕在线高清第一页| 少妇特黄一区二区三区| 欲香欲色天天天综合和网| 夜夜操2028| 欧美特大黄一级片片免费| 国产成人自拍视频视频| 立川理惠被中出无码| 五月天久久人妻| 龙兴卡官方查询| 最新亚洲风情电影| 啊a一区在线| 亚洲天堂99| 激情干在线| 人妻 丝袜美腿 中文字幕| 青青草久草| 精品免费成人久久| 久草老司机| 97在线观看免费视频l| 啊啊啊啊啊操我视频| 色九九九九久| 天天欧美欧美亚洲网| 六月丁香久久| 亚洲日本成人动漫| 91美女丝袜诱惑视频| 色色色999| 久久这里只精品99re66图| 男人高清无码一区二区| 日韩丰满熟妇| 国产精品青草综合久久| 床上啊啊啊一区二区三区| 亚洲精品成人激情在线| 95人妻爽爽人人做人人澡| 麻豆这里只有精品| 人妻久久久久久| 欧美精品999| 人人透人人操| 91 刺激在线| 欧美成人都市人妻| 久久久9品一区二区三区| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 久久这里只有精品9| 色淫网站优优视频| 人妻一区二区三区熟女| 97操| 日韩操逼性鲍| 操屄不卡视频| 97精品国产97久久久久久免费| 亚洲国产欧美日韩人妻日中文| 啊啊啊com| 综合激情97| 好爽免费视频,| 欧美日韩亚洲少妇寂寞影院正在播放| 97超级久久| 91 欧美| 在线岛| 日本午夜福利影院| 国精品一区二区三| 国产乱子伦一区二区三区免看| 白嫩白嫩的午夜九久久久久久久久久久久成人剧场 | 欧色综合| 密臀国产在线| 国内偷拍精品一区二区| 亚欧性爱ab| 精品一区二区三区蜜桃臀赵总| 美腿色图| 黑人精品欧美一区二区蜜桃| 午夜舔阴达高潮视频免费看| 中国zzijzzijzzwww精品| 婷婷亚洲五月***久久| 看看小穴| 成人精品久久| 午夜福利无毒不卡| 五月综合久久| 中文字幕一区二区三四五区日日骚| 黑人精品欧美一区二区蜜桃| 久久久久久99AV无码免费网站| 免费看欧美美女黄色大片 | 一个色导综合| 麻豆国产尤物AV| 国产熟女二区| 囯产精品久久久久久久久久梁医生| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 九九久久一区二区三区| 人妻无码一区二区三区久久99| 啊啊啊在线观看| 国产精品无码论坛| 熟女欧美日韩综合婷婷| 蜜臀99久久精品久久久懂爱| 黄aaaaaaaaaaaaaaaaaa色网站 | A级片日韩欧美国产欧美视频精选观看| 日韩,欧美,中文在线| 青青草黑寡妇男人天堂| 九九热九九| 丰满人妻av一区二区三区| 蜜臀99999| 日本人妻丰满熟妇久久久久久| 亚洲精品美女久久久久久久久| 日韩情色AV| 天天草天天日| 亚洲欧洲小说图片视频 | 一个色导综合| 欧美日韩222| 人人妻人人爱人人玩| 亚洲图片偷拍视频区| 亚洲熟女乱综合一区二区三区 | 国模不卡一本二本三电影| 最新国产精品| 精品免费1| 久一区久久蜜桃| 探花精品视频| 国产综合久| 亚洲免费看片| 伊人91| 天天爽天天爽| 午夜αv| 久久香蕉国产传媒一区剧情天美| 外国免费性情大片| 黑丝内射一区二区三区| 97综合网| 亚洲色图欧美另类在线| 国产野战露脸在线播放| 超碰97久久国| 国产大学生高潮在线播放| 999久久芭蕾| 亚洲国产成人高清在线| 啊啊啊啊好多水| 又黄又爽在线观看视频| 黑人免费福利视频| 91中文精品日韩欧美在线| 99这里只有精品国产| 青青国产在线拍揄自揄拍| 岛国黄| 日韩丨制服丨中文|在线| 国产视频一区二区免费| 好爽免费视频| 青女在线| 久久婷婷亚洲| 91精品人妻偷情| 欧美暴力猛交| 99超级碰免费视频| 乱伦熟女论坛| 日本久久久精品电影| 五月天婷婷基地| 国产成人欧美精品在线| 亚洲日韩乱码中文无码蜜桃臀网站| 蜜乳AV网址| 久久岛国| 日日夜夜草草草| 综合网色| 美国人人操人人操| 99久草| 日韩精品9999| 亚 欧 美 综合| 久久久久久久久久久免费精品| 加勒比少妇AV婷婷六月天超碰超碰| 超碰人人色| 中国操逼无码| 97在线/亚洲| 97久久精品国产| 国产高清无码一区二区三区四区皇冠| 人人操人人色网| 91在线国产后入风骚翘臀美女素人| 天天弄天天操| 人人操人人叉人人插人人| 香蕉视频精品亚洲一区二区三区在线播| 在线视频一区二区传媒| 在线只有精品| 偷窥自拍A片| 中文字幕黄片在线| 伊人91| 免费成人在线熟妇网| 熟女人妻av在线资源,黄色的资源| 国产日韩区| 欧美91精品国产自产| 久久精品女同亚洲女同13| 99热精品青草在线| 女优视频第10页| 成年人一级黄色毛片大全在线观看| 加勒比综合网| 91爱剪切久久| 热热色青青草| 国产自产22区| 69久久久久久久久久久久久| 亚洲av总站| 人妻熟女午夜精品在线| 亚洲图片偷拍视频区| 精品中文字幕第一页| 欧美一区二区三区不卡高清视频| 亚洲高清色综合| 亚洲欧美啪啪| 日产成人久久| 久久精品99| 91男人天堂网| 欧美第一页| 日韩欧美被操黄免费观看| 九九热精品免费视频| 色婷婷电影网| 欧美亚洲丝袜人妻制服99| 国产精品久久久鸭无码的功能| 国产中文精品一区二区在线观看| 久久精品欧美一区二区三区不卡| 青青青国产手线观看视频2| 综合网亚洲| 亚洲欧美不卡线| 亚洲色图A| 男人天堂资源| 偷拍综合网| 国产一国产一级毛片古装| 国产精品福利视频| 熟女激情综合网| 欧州一区二区三区四区| 国产探花日韩援交| 国产精品无套内谢| 国产粉嫩出水在线播放| 久操精品网| 九九色综合| 韩国久久97| 曰本熟女视频| 欧洲亚洲综合| 麻豆一区二区三区在线看 | 色色五月天激情| 日日狠狠久久偷偷色综合免费| 大香蕉碰碰| 亚洲国产综合久久久性感熟妇| 日韩一级二级在线| 九九九九免费视频| 这里只有精品97| 精品高潮| 国产极品美女高潮无套在线观看| av资源在线观看少妇| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 婷婷av在线中文字幕| 国产精品视频自拍在线| 人妻少妇av在线观看| 五月天丁香| 日韩99神马视频播放| 国产免费一区| 啊啊啊想要| 国产精品久久久久亚洲av| 91精品黄在线观看| 97 超碰 人人做 人人爱| 精品九九淫乱男| 欧美性夜| 亚洲AV秘 精品久久老牛影视| 亚洲天堂99| 求求你操操我| 欧美日韩狠狠爱| 国产精品99精品视频网站| 国产精点久久久成人| 青青青国产| 伊人四虎综合| 大香蕉免费3| 色色五月婷| 日韩中文字幕2020| 欧洲久久一二线| 亚洲一区二区三区四区视频| 狠狠搞 亚洲91| 欧美综合色,www| 国产精品麻豆视频网站| 91久久精品国产| 夜夜高潮夜夜爽国产伦精品| 国产精品蜜臀久久久久无码AV| 丁香五月天堂| 成人久久久精品| 国产9 9在线 | 亚洲| 激情五月天网站| 欧美黑人91| 26uuu性物| 人人手机欧洲亚洲国产人妻| 青女偷拍网| 国产高清在线观看欧美| 青草香蕉网| 亚洲欧美一区二区网址| 玖玖视频在线资源一区二区三区| 亚洲伊人青青草| 欧美日韩精品一区二区三区高清| 人妻出轨一区二区三区| 97天天综合| 色色99| 亚洲综合在线91| 国产动漫操逼视频| 国产中午字一暮区| 欧美黑人精品一区二区| 欧美亚州色的图| 国产51色综合久久免费| 人妻酒店出差被中出免费在线播放| 亚洲综合欧美| 嗯……啊…嗯嗯…啊…好舒服| 欧美激情专区| 精品超碰中文在线| 蜜臀99久久精品久久久久| www.99视频| 超碰碰97资源站| 人妻少妇久久久| 91精品91久久久中77777| 99婷婷| 久久久人妻| 69超碰综合| 啪啪综合网| 中文字幕在线观看第二页| 久久永久无码人妻视频| 美骚妇av高清在线| 日韩乱中文 | 日韩黄色成人性爱| 97亚洲中文| 国产人妻精品久久久一区二区三区 | 东北操逼| 丁香五月婷婷啪啪| 欧成人精品H无码| 青娱乐av在线| 国产精品亚洲无码| 精品无码一区二区三区| 久久精彩视频| 性无码专区2020| 色娱乐色呦呦夜夜夜夜av| 国产精品久久久久久片| 日日骚一区二区三区| av优播| 国产一区自拍欧美日韩| 中文无线日韩一区| 人妻少妇蜜桃视频欧美一区| 白丝被操91| 东京热99999| 天天日天天舔天天喷天天射| 久久性爱视频99| 欧美玖玖爱免费玖玖| 六月色色| 国产黄色在线播放观看| 玖玖大干人妻| 涩爱AV在线| 亚洲成人性爱在线观看| 精品午夜福利| 欧洲亚洲天堂精品| 欧美综合骚| 九九热久久99精品re| 人妻精品一区一区三区蜜桃91| 熟妇人妻精品一区二区视频色欲| AV和黑人在线播放| 亚洲综合在线第一页| 嗯嗯啊啊视频一区二区三区| 成人丁香五月| 免费观看国产小粉嫩喷水精品午| 国产午夜精品一区二区三区牛牛| 绯色AV粉色AV蜜臀AV| 丁香六月综合激情| 51久久夜色精品国产麻豆| 国产97av| 天天操天天谢| 欧美一二三区四五区| 翔田千里av一区二区三区| 久久久99免费| 亚洲天天更新| 中文字幕av一区二区三区人妻少妇| 亚洲男人的天堂V| 超碰91在线| 日本无码1| 91在线精品一区二区三区| 日日97| 91麻豆一二三区| 人妻精品综合中文字幕在线 | 十八禁网站在线| 99啪啪视频| 亚洲国产成人精品无码专区| 日韩偷拍一区二区三区| 久久久人妻| 0755午夜福利视频| nuu12国产麻豆精品| 亚洲在高跟鞋自慰久久在色线| 久久天天摸| 大香蕉婷婷| 亚洲超碰在线| 凹凸视频特色日本特黄| 天天天天天天天天天天干美女| 久久久久久亚洲Av无码| 伊人一级免费黄片| 一起草三级AV电影在线观看| 熟妇视频一区二区三区在线| 亚洲男人在线观看天堂| 亚洲欧美校园| 97爱爱官网| 国产乱码久久久| 亚洲熟女一区二区| 日日干日日摸| 91性网| 99re视频在线播放青草| 久久线上视频免费看| 大香蕉性欧美| 青青草这里只有精品| 992大香蕉| 人人妻人人爽一区二区三区| 久久这里只| 91丨人妻丨国产丨丝袜| 国产精品福利视频| 色吧5亚洲| 中文字幕高清精品一区| 久久受www免费人成| 国产成人综合在线播放| 亚洲第一黄色av网站 | 日韩综合色网| 精品免费囯产一区二区三区| 色香天天| 亚洲在线网站| 韩日性爱av| 国产三级中文有码在线视频| 久久久精品成人国产| 丝袜大香蕉| 人妻久热在线| 麻豆精品天美| 欧美丝袜91| 亚洲熟女综合一区二区| 日本一区二区亚洲综合| 欧美一区二区福利在线| 熟女六十路| 欧美视频在线第3页| 亚洲影院小综合| 无码人妻系列少妇| 国产精品9999| 久久中文字幕一区不卡| 激情久久av一区av二区av| 老女人爆菊| 亚洲污污网站| 国产免费内射视频| 国产毛片久久久久久久| 日本福利二区视频| 色婷婷成人综合| 欧美黑人168页欧美黑人167| 亚洲视频精选| 色五天伊人| 日韩一区二区精品视频| 91国产大片| 久久有码视频| 国产精品 久久久精品一牛| 综合久久中文字幕综合日韩精品| 亚洲中文字幕有码视频一区二区三区| 久久久111| 亚洲日韩美女丝袜美腿人妻视频| 岛国片在线播放| 亚洲综合激情五月久久| 91N综合在线| 香蕉综合网| 成人5码视频| juliaann精品熟女一区| 91综合天天看| 免费日韩黄片| 少妇99成人麻豆| 色97欧美| 福利视频一区二区微拍| 91老司机在线视频免费观看| 久草成人影片| 三级色综合| 国精品一区二区三| 精品对白久久不卡| 伊人久久大香大香线蕉中文| 欧美熟女妇同| 亚洲国产综合视频| 99精品在线| 日本精品一区二区三| 东京热伊久| 91久热| 自怕偷自怕亚洲精品| 丁香九月激情| 激情视频一二三| 国产一区二区二区按摩精品啪视频| 午夜精品五区| 日韩不卡码| 日本孕妇一区二区视频操逼免费看 | 国产精品点击进入在线影院| 亚洲国产欧美日韩人妻日中文| 亚洲色天堂九9| 上海一级黄片| 91强在线播放| 无码高清少妇久久| 青青草在线视频人人想人人上 | 性爱久久| 蜜区区视频79| 国产亚州日韩欧美看片| 91高潮喷水美女| 岛国免费黄色网址| 丰满搜索结果 -第18页- 久久高清无码| 另类欧美色| 日欧操屄视频| 国产吹潮女在线观看| 高清国产成人无码| 国产传媒一区日韩| 精品免费视频国产一区| 久久久精品国产亚洲伊人| 91N综合网| 丁香色五月 97干| 婷婷九月丁香| 久操热线| 五十路一区无码| 偷拍网站久久男女男| 精品午夜福利导航| 国产精品肉丝自拍| 91免费看一区二区三区| 密臀在线免费观看| 欧洲性爱无码区| 中文字幕少妇色 | 秋霞欧美性爰视频| 久久精品国产久精国产| 天天操天天射天天日| 亚洲AV不卡在线观看尤物| 一区二区三区高清天码| 亚洲Av噜噜一区二区三区妖精| 免费超碰97在线观看| 四虎在线观看网站| 日韩性爱视频免费在线| 欧美se综合| 青青11操操操操操操操操| AVE乱伦| 成人久久精品| 蜜乳AV色欲AVAV无码| 欧美激情高清性猛交| 免费看美国人人爽,人人操| 性饥渴少妇av无码毛片| 亚洲精品久久久久毛片A片拉屎 | 偷拍导航视频网站| 大香蕉在线视频15| 东北丰满熟女国产一区| 日韩97超碰| 国产精品对白内射| 九月丁香综合网| 一区二区三区四区理论片| 九热大香蕉| 日韩性爱高清免费视频| 日本久久女同性恋视频| 青青草玖玖爱| 色97| 岛国视频免费在线观看| 日韩啪啪视频| 国产女人9999| 美女啊啊啊啊啊啊啊| 国产AV激情无码久久无码| 亚洲熟女人妻中文字幕一区二区| 蜜桃视频一区二区三区在线观看| 影音先锋乱| 国产精品美女久久久久久网站| 欧美一品道| 三级片大波波| 久久婷婷视频| 国产亚洲女v在线观看| 欧美乱欲| 亚洲AV色图一区| 亚洲丝袜B诱惑| 色播丁香| 国产三区免费在线观看| 自拍偷拍 日韩欧美| 欧洲视频在线| 人妻无码视频一区二区三区久久| 热天堂一区二区| 91|九色|国产熟女| 中国国产精品一区视频| 国产精品com| 国产精选视频| 国产AV天美传媒一区二区三区 | 精品久久97| 99热99re6国产在线播放| 青青草在线视频人人想人人上| 青青草天天亲夜夜操网| 草草影院最新网址| 精品无码久久久久久久杏吧| 日日骚一区二区三区| 欧美 亚洲 综合 制服 另类| 欧美性爱一区| 炮色五月| AV天堂丝袜| 东京热激情视频一二三区| 国产激情片在线观看| 国产精品婬乱一级毛片彝族| 老司机深夜18禁污污网站| 久久国产成人精品国产成人亚洲| 校园春色亚洲色图| 91天天综合在线观看| 嫩草 我啊~嗯~在线| 91nbbbbbb| 淫骚熟女一区二区三区| 97色论| 日韩传媒在线| 天天弄欧美| 激情文学 国产一二三aV| 久久久久久久久久久久久9999| 黑操B| 精品久久青青草| 天天色悠悠激情| 天美传媒国产原创中文字幕亚洲欧美另类 | 91精品国产综合久久久蜜臀| 最新欧洲欧美日本激情网站| 久久综合五月天| 这里只有精品视频在线| 中文字幕 码 自拍 视频 区| 九九色色| 女优免费一区二区永久| 国产成人亚洲精品自产在线 | 精品无吗m| 综合久久少妇中文字幕| 亚洲本色精品一区二区久久| 色哟哟 日韩精品| 99久久久久久亚洲精品不卡| 国产隔壁老王影院在线| 亚州免费啪啪视频| 亚洲国产午夜真人一级片中文字幕精品黄网站| 超97在线精品视频| 亚洲熟女av日韩熟女| 91九九| 九九精品美女高溯喷水| 国产SV一线| 久久原创中文| 欧洲视频在线| 亚洲**2021在线观看| 亚洲国产尤物yw在线观看| 黑人无码一区二区| 激情丁香五月婷婷| 亚洲精品丝袜| 综合网97| 春色91| 91人精品妻入口| 少妇干B| 亚洲精品丝袜-不卡成人免费……| 亭亭丁香激情| 久久偷偷色综合蜜桃| 久久在肏| 收看日本人日bb| 日韩中文字幕二区| 91丝袜美女| 人妻天天爽夜夜爽2| 91丝袜美女视频| 色在线亚洲视频www| 99久久综合网| 老熟女熟妇| 91痴汉| 男女猛烈无遮掩视频免费软件| 黄色网址在线免费观看| 欧美久久九九| 九九九九免费视频| 亚洲自拍偷拍视频在线| 国产精品久久久久久 百度| 久久久草成人网站久久久草成人久久久草久久久 | 香蕉一区二区三区在线视频| 中出在线视频| 欧州一区二区三区四区| 丰满人妻大屁一区二区| 色 婷97| 亚洲第一视频 欧美风情 日韩| 极品欧美一区二区三区| 99ri精品| 日韩天天本| 欧美综合网| 岛国成人av在线播放网址| 日夜久久久九九九久| 欧美熟妇精品黑人巨大91| 国产精品亚洲高清在线| 亚洲图片 91| 丝袜视频网国产90| 欧美性生活免费网| 有码免费观看| 777超碰| 中文字幕在线日亚洲9| 亚洲国内精品成人不卡| 精品欧美老熟女一二区| 91九九| 蜜臀一二三区| 久操网视频| 欧美老妇综合网| 中文字幕一区二区视频在线观看| 国内毛片无码一级毛片| 久操视频免费观看| 亚洲无码成人精品| 九九九九88| 丝袜美腿亚洲| 婷婷成人五月天| 四虎精品亚洲| 日韩欧美亚洲一区二区三区影院 | 亚洲啪啪视频一区二区| 久草婷婷| 综合伊人网12色| 天天综合网国产| 97极品无码| 亚洲,欧美,春色,另类| 日韩综合97p| 六月丁香婷| 国产久久天堂资源| 超碰av在线| 欧美性爱一区二区三区| 五月天激情四射| 就去色综合| 99色婷婷| 亚洲精品99999| 天综合网| 中文字幕精品探花视频| 丰满人妻一区二区三区在线| 国产一级内射高清视频| 人人手机欧洲亚洲国产人妻| 人人操人人摸人人骑| 欧美精品另类人妖xxxx| 天天上日日上日韩精品| 女同性恋一区二区三区精品视频| 欧美片第一页| 伊人久久大香蕉线AV五月天| 国产精品亚洲一级av第二区| 麻豆精品天美| 日本性爱不卡视频| 88在线一区二区三区| www.99热| 精品无码久久久久久久久果冻糖心| 青青草亚洲一区 | 操死我了嗯嗯嗯| 粉嫩不卡一区二区性爱 | 欧美熟妇视频| 最新av网站在线观看| 久久美国毛片| 国产伦精品一区二区三区在线观| 亚洲色图欧洲| 99热aaa| 亚洲砖码砖专无区2023| 欲香欲色综合天天伊人| 中文字幕一区 二区三四五 区日 日骚| 天天日天天操天天射河南省| 久久久久久波多野吉衣高潮| 97欧美性爱| 91综合网在线| 99RE在线视频精品,这里只有精品| 日韩国产乱子伦App| 天美传媒麻豆一区二区三区国产精| 天天看综合网| 亚洲 自拍偷拍 欧美| 天美传媒麻豆一区二区三区国产精| 四虎影库国产精品免费| 最好看的中文字幕在线2018| 午夜噜噜噜| 亚洲男人的天堂AV| 日韩国产中文字幕| 1769一区| 5252色欧美在线男人的天堂| 区一在线观看| 色色色色网站| 国产亚洲色婷婷久久99精品91 - 百度| 天美传媒Av在线| 99热| aⅴ日韩成人电影av在线免费看av大全 | 日产操逼| 97人人色| 超碰中文字幕人妻草一区| 成人精品在线观看| 岛国色情视频在线观看| 亚洲日韩精品一区二区| 99只有精品| 人人喜人人妻| 国产女人成人精品视频| 久久久久亚洲三级电影| 色色九区| 亚洲日本天堂| 国产乱弄免费在线视频。| 欧美成人精品A片免费一区99| 综合五月婷婷亚洲一区| 99久久精品国产系列| 精品女同一区二区三区| 狠色婷婷久久一区二区三区_| 色精品极品| 色婷婷av在线观看| 国产第25页在线观看| 亚洲精品男人的天堂| 96精品久久| 97久久精品不卡| 亚洲限制级| 国产老熟女| 一区二区激情国产熟女| 国产激情在线观看| 日本激情免费大片| 中字幕人妻一区二区三区| 国产91 丝袜在线播放00-百度| 精久久久| 秋霞福利网| 日本人妻天堂网站在线播放| 91 丝袜在线| 性欧美另类高清| 亚洲欧美精品一区天堂久久 | 无码精品久久| 97色碰| 国产久久久久久| 超碰地址久久| 草草草视频| 2017天天插| 国产精品成人午夜福利| 加勒比无码毛片| 中文字幕精品三级久久久| 久久九操在线观看| 久久妇| 欧美日韩亚洲国产中文永久天天看 | 中文字幕一区二区视频在线观看| 色图四区| 啪啪啪亚欧美视频| 麻豆亚洲AV成人无码久久精品| 97欧美综合网| 澳门色噜噜色噜噜色噜噜色噜噜色噜噜| 免费精品AB| 91操熟女视频| 快灬快灬 一下爽蜜桃在线观看 | 91亚州日韩高清| 手机av天堂久久久久| 久久精品人体| 99国产在线绯色一区| 男女激情中文字幕| 欧美少妇性乱| 亚洲资源网| 91色射| 国产精品久久久久婷婷二区次| 亚洲综合首页| 日韩极品无码B|