日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

黃金期貨預(yù)測:線性回歸與MLP的實證對比

黃金期貨預(yù)測:線性回歸與MLP的實證對比 簡介在金融時間序列預(yù)測中多元線性回歸與多層感知機MLP是兩類代表性的建模方法。線性回歸以可解釋性和高效性見長而MLP通過非線性激活函數(shù)具備逼近復(fù)雜映射的能力。在量化交易與風(fēng)險管理場景下如何選擇更合適的模型取決于數(shù)據(jù)中信號的本質(zhì)。黃金期貨價格受宏觀因子驅(qū)動但日頻收益率信噪比極低其可預(yù)測模式可能以線性關(guān)系為主。本文以上海期貨交易所滬金主力合約為樣本系統(tǒng)梳理數(shù)據(jù)清洗、平穩(wěn)性檢驗、格蘭杰因果檢驗等流程并設(shè)計公平的滾動回測評估。實證結(jié)果顯示兩個模型預(yù)測精度幾乎持平線性回歸在計算成本和解釋性上更優(yōu)。該結(jié)論為金融時序建模中模型選型提供了參考也揭示了復(fù)雜模型并非必然優(yōu)于簡單基線這一核心觀點。 做黃金期貨價格預(yù)測研究時多元線性回歸和多層感知機MLP這兩個模型經(jīng)常被拿來放在天平兩端。這次項目我?guī)е暗降渍l更適合預(yù)測滬金價格”這個疑問把一整條量化研究流程跑了一遍數(shù)據(jù)清洗、平穩(wěn)性檢驗、格蘭杰因果檢驗、兩套模型訓(xùn)練、滾動回測驗證。結(jié)論不是簡單的誰贏誰輸而是這兩個模型在黃金期貨這個高噪音、弱信號的市場里各自的邊界在哪里。這篇文章我不想只堆結(jié)論我會把整個實驗設(shè)計的邏輯、為什么選這些方法、每一步踩過的坑、以及最終如何公平比較預(yù)測準(zhǔn)確性都攤開來講。適合正在做金融時間序列預(yù)測相關(guān)課題的研究生、剛?cè)腴T量化交易的開發(fā)人員以及所有想搞清楚“線性模型和神經(jīng)網(wǎng)絡(luò)在金融預(yù)測中到底誰更靠譜”的讀者。1. 為什么拿線性回歸和MLP硬碰硬——黃金期貨預(yù)測的建模動機與數(shù)據(jù)底座1.1 黃金期貨的可預(yù)測性從哪里來先說一個很多初學(xué)者容易搞混的事情黃金期貨價格預(yù)測和股票價格預(yù)測看起來都是價格序列但背后的驅(qū)動邏輯差別非常大。黃金是一個具有“避險抗通脹美元計價”三重屬性的品種它的價格變動受到美元指數(shù)、美債實際利率、地緣風(fēng)險事件、全球央行購金行為等多重因素影響。這意味著它不像某些小盤股那樣容易受到資金操縱也不像加密貨幣那樣完全脫離基本面。理論上它的價格波動中有一部分是可以通過宏觀因子解釋的這正是建模的空間所在。但話說回來這個“可解釋的部分”有多大我在這項研究里做了大量特征工程后發(fā)現(xiàn)即使把所有能想到的宏觀變量都放進(jìn)去模型能解釋的日頻收益率方差也相當(dāng)有限。這個現(xiàn)象背后是黃金市場已經(jīng)是一個高度有效的全球定價市場價格在被發(fā)現(xiàn)的那一刻就已經(jīng)反映了大部分公開信息。所以我們做預(yù)測本質(zhì)上是在捕捉“信息反映的滯后性”和“非理性情緒產(chǎn)生的慣性”而不是試圖發(fā)明一套能精準(zhǔn)預(yù)知明天的公式。1.2 為什么選擇這兩個模型做對比很多人在做類似研究時會一上來就上LSTM、Transformer覺得結(jié)構(gòu)越復(fù)雜越好。但我這次刻意選擇了“最樸素”的多元線性回歸和“最經(jīng)典”的多層感知機神經(jīng)網(wǎng)絡(luò)原因有三點。第一這兩個模型在理論上代表了兩類完全不同的學(xué)習(xí)范式。線性回歸假設(shè)因變量與自變量之間是線性疊加關(guān)系每個特征對目標(biāo)的影響是獨立的、可加性的而MLP通過隱藏層的非線性激活函數(shù)理論上可以逼近任意連續(xù)函數(shù)能夠捕捉特征之間的交互作用和非線性關(guān)系。把這兩個模型放在同一批數(shù)據(jù)上訓(xùn)練本質(zhì)上是在回答一個問題黃金期貨收益率的變化規(guī)律到底是被線性關(guān)系主導(dǎo)還是存在明顯的非線性結(jié)構(gòu)第二從工程角度看這兩個模型都足夠透明、穩(wěn)定、可復(fù)現(xiàn)。線性回歸有完整的統(tǒng)計推斷框架能給出每個特征的顯著性水平和置信區(qū)間MLP雖然是個“黑箱”但訓(xùn)練過程可以通過早停、正則化、多隨機種子等策略控制。對于一篇量化研究項目來說可解釋性和可復(fù)現(xiàn)性比單純的精度數(shù)字更重要。第三從對比實驗的公平性出發(fā)模型的復(fù)雜度差異要控制在“考察目標(biāo)”而不是“資源投入”上。如果我們拿線性回歸和一個調(diào)參充分的Transformer對比模型性能差距很難歸因于“線性vs非線性”而更像是“統(tǒng)計推理vs暴力擬合”的差異。所以這次實驗里的MLP沒有刻意堆參數(shù)量只使用了一個兩層隱藏層的結(jié)構(gòu)目的就是讓兩個模型站在盡量對等的條件下去比較。1.3 數(shù)據(jù)集構(gòu)成與來源本次研究的數(shù)據(jù)范圍是上海期貨交易所黃金期貨主力連續(xù)合約的日頻行情時間跨度從2010年1月到2023年12月一共約3200個交易日。原始數(shù)據(jù)包括收盤價、成交量、持倉量三個核心字段。同時我引入了四類外部宏微觀變量美元指數(shù)DXY日收益率——黃金以美元計價美元走勢是黃金價格最重要的反向指標(biāo)之一美國10年期通脹保值債券TIPS實際收益率——實際利率是黃金持有成本的關(guān)鍵變量布倫特原油期貨日收益率——原油價格反映全球通脹預(yù)期和大宗商品情緒滬金期貨持倉量變化率——反映國內(nèi)資金參與頻度和市場情緒這里有一個容易忽略的點國內(nèi)外市場的交易日歷并不完全一致。國內(nèi)黃金期貨有春節(jié)、國慶等長假美國市場也有自己的節(jié)假日如果用簡單的日期索引左連接經(jīng)常會出現(xiàn)錯位一天甚至好幾天的數(shù)據(jù)殘留代碼不報錯但實驗結(jié)果的可靠性會大打折扣。我的做法是先分別把各數(shù)據(jù)源按交易日重采樣再做“交易日歷對齊”確保每一條樣本中所有變量都對應(yīng)同一個真實交易時段。這塊處理細(xì)節(jié)會在下一節(jié)詳細(xì)展開。2. 數(shù)據(jù)清洗與特征工程時間序列建模最容易被低估的一環(huán)2.1 對齊、缺失值與異常值處理數(shù)據(jù)處理這步說難不難但一旦出問題后期所有建模工作都會建立在流沙上。我在第一次跑通流程時就遇到過一個大坑當(dāng)時直接用了Pandas的merge函數(shù)把滬金期貨和美元指數(shù)按日期左連接后來發(fā)現(xiàn)美元指數(shù)的數(shù)據(jù)源有部分日期缺失結(jié)果導(dǎo)致某幾天的特征里混入了前一天的值。這種錯位在日頻收益率這種量級的數(shù)據(jù)上不容易被肉眼察覺但模型效果會默默變差。正確的做法是先把所有數(shù)據(jù)源統(tǒng)一到同一個交易日歷上。我是這樣操作的定義“核心交易日列表”以滬金期貨的交易日為準(zhǔn)對每個外部變量先按各自交易日排序然后使用reindex到核心日歷缺失值向前填充對極端跳空缺口比如向前填充后仍無法填補的日期直接刪除不做插值檢查收益率序列的異常值把單日波動超過5個標(biāo)準(zhǔn)差的樣本單獨標(biāo)記出來確認(rèn)是否存在行情事故。另外在特征構(gòu)造上我不僅使用了原始的宏觀變量當(dāng)日值還加入了它們的滯后項lag 1、lag 2、lag 3。為什么加滯后項因為金融市場對信息的反應(yīng)往往不是瞬間完成的。美元指數(shù)當(dāng)天的變動可能不會立刻完全反映到滬金期貨價格里可能會延遲半天到一天。這些滯后項相當(dāng)于給了模型一個“消化信息的時間窗口”。2.2 為什么不能用原始價格做回歸如果你直接把黃金期貨的收盤價當(dāng)作因變量把美元指數(shù)、原油價格等當(dāng)作自變量跑一個多元線性回歸你大概率會得到一個非常“漂亮”的結(jié)果R2高達(dá)0.9以上各項系數(shù)都極其顯著。但這個結(jié)果是完全虛假的。問題出在“偽回歸”上價格序列通常是非平穩(wěn)的帶單位根兩個不相關(guān)的非平穩(wěn)序列放在一起回歸很容易被趨勢帶出虛假的顯著性關(guān)系。這就像北京和紐約的日均氣溫序列長期來看都在上升或波動但你并不能說北京氣溫是紐約氣溫的格蘭杰原因。它們之間看似相關(guān)其實只是兩個帶趨勢的序列在“各自走路”。所以在實驗中我把所有價格類的變量全部轉(zhuǎn)換成了收益率對數(shù)一階差分流量類的變量如持倉量做了變化率處理存量類的變量如實際利率則使用了一階差分。這是時間序列建模的標(biāo)準(zhǔn)預(yù)處理也是后面所有統(tǒng)計檢驗的基礎(chǔ)。2.3 特征標(biāo)準(zhǔn)化與數(shù)據(jù)泄漏防范線性回歸對特征的尺度其實不太敏感因為它自己會學(xué)習(xí)系數(shù)來適配。但神經(jīng)網(wǎng)絡(luò)完全不一樣特別是使用ReLU激活函數(shù)和Adam優(yōu)化器時如果輸入特征的量綱差異太大比如持倉量是幾十萬手收益率是0.001訓(xùn)練過程會非常不穩(wěn)定甚至出現(xiàn)梯度爆炸。我的做法是在MLP訓(xùn)練前對全部特征做Z-score標(biāo)準(zhǔn)化。但這里有一個很多初學(xué)者都會犯的錯誤標(biāo)準(zhǔn)化要在訓(xùn)練集上計算均值和標(biāo)準(zhǔn)差再用這組參數(shù)去變換驗證集和測試集而不能在整個數(shù)據(jù)集上統(tǒng)一標(biāo)準(zhǔn)化。為什么因為測試集的分布信息一旦混入訓(xùn)練過程模型就相當(dāng)于“偷看”了未來的數(shù)據(jù)分布這叫數(shù)據(jù)泄漏data leakage。在時間序列場景下數(shù)據(jù)泄漏會更加隱形因為你使用的所有統(tǒng)計量都可能攜帶未來信息。這次實驗中我把標(biāo)準(zhǔn)化器StandardScaler只fit在訓(xùn)練集上然后在驗證集和測試集上只做transform。同樣要提防的是時間序列的交叉驗證和普通交叉驗證不一樣。普通K折隨機打亂數(shù)據(jù)是線狀回歸的標(biāo)準(zhǔn)做法但時間序列如果隨機打亂訓(xùn)練集里會出現(xiàn)未來數(shù)據(jù)驗證集里會出現(xiàn)過去數(shù)據(jù)模型就是在拿未來預(yù)測過去結(jié)果會虛高得離譜。這個問題我會在后面評估章節(jié)詳細(xì)展開。3. 平穩(wěn)性檢驗與格蘭杰因果檢驗統(tǒng)計流程如何決定模型上限3.1 平穩(wěn)性檢驗——線性模型的“合法地基”在做任何時間序列回歸之前必須驗證序列的平穩(wěn)性。平穩(wěn)性簡單說就是序列的均值、方差在時間上保持穩(wěn)定未來的波動規(guī)律和過去一致。如果序列帶趨勢或者方差隨時間變化回歸結(jié)果就缺少統(tǒng)計推斷的有效性基礎(chǔ)。我使用的是ADF檢驗Augmented Dickey-Fuller Test原假設(shè)是“序列存在單位根即非平穩(wěn)”。檢驗結(jié)果如下表變量ADF統(tǒng)計量P值結(jié)論滬金期貨收盤價-1.870.35非平穩(wěn)滬金期貨日收益率-31.020.000平穩(wěn)美元指數(shù)日收益率-28.440.000平穩(wěn)布倫特原油日收益率-30.100.000平穩(wěn)10年期TIPS實際收益率-2.310.17非平穩(wěn)TIPS實際收益率一階差分-26.900.000平穩(wěn)這個表說明了為什么不能直接拿價格建模價格序列的ADF統(tǒng)計量只有-1.87遠(yuǎn)不能拒絕單位根假設(shè)而非平穩(wěn)序列之間的回歸會產(chǎn)生偽回歸。而TIPS實際收益率作為存量變量也是非平穩(wěn)的所以我對它做了一階差分。最終模型所用變量全部在1%顯著性水平下平穩(wěn)。這里有一個小建議ADF檢驗的滯后階數(shù)不要隨便填。statsmodels里的adfuller函數(shù)有一個autolag參數(shù)我設(shè)置為AIC讓程序根據(jù)信息準(zhǔn)則自動選擇最優(yōu)滯后階數(shù)這樣更客觀。3.2 格蘭杰因果檢驗——變量的預(yù)測力有多少平穩(wěn)性檢驗通過之后下一步是回答一個問題外部變量美元指數(shù)、原油、實際利率等對滬金期貨收益率到底有沒有預(yù)測能力格蘭杰因果檢驗Granger Causality Test是這個問題最常用的統(tǒng)計工具。它的核心思想是如果加入X的歷史值后對Y的預(yù)測效果顯著優(yōu)于僅用Y自身歷史值做預(yù)測那么稱X是Y的格蘭杰原因。注意格蘭杰因果檢驗并不等同于真正的因果性。它只是說“X的過去信息對Y的未來走勢有一定的增量預(yù)測力”。這有點像天氣預(yù)報里的“云層厚度”和“降雨”的關(guān)系云層厚不一定導(dǎo)致降雨但云層厚度信息確實能提升降雨預(yù)測的準(zhǔn)確率這就足夠作為建模時選入特征的理由了。本次實驗中我用美元指數(shù)日收益率、原油日收益率、TIPS實際收益率差分分別對滬金期貨日收益率做格蘭杰因果檢驗滯后期從1到5分別嘗試最終根據(jù)AIC選擇最優(yōu)滯后階數(shù)。結(jié)果如下美元指數(shù)日收益率在滯后1期時對滬金收益率的格蘭杰因果檢驗P值為0.013在5%水平下顯著說明美元指數(shù)當(dāng)天的變動確實會“帶動”次日黃金價格的走勢布倫特原油日收益率在滯后1期和2期下P值在0.05附近波動邊際顯著說明大宗商品情緒有一定溢出效應(yīng)TIPS實際收益率差分在多數(shù)滯后期下不顯著和理論預(yù)期有出入我猜測是因為實際利率是慢變量對黃金的影響更多體現(xiàn)在月頻低頻維度而非日頻。這里我要提醒一句格蘭杰因果檢驗的結(jié)果會受到滯后階數(shù)選擇的影響。同一個變量滯后1期時顯著滯后3期時可能就不顯著了。所以研究者不能只看一個滯后階數(shù)的結(jié)果就下結(jié)論最好做一個敏感性分析把滯后1到5期的結(jié)果都列出來看看顯著性是否一致。這既是對自己結(jié)論負(fù)責(zé)也是給審稿人看的嚴(yán)謹(jǐn)性。3.3 相關(guān)系數(shù)分析與多重共線性排查在把變量放入線性回歸之前我還檢查了各特征之間的相關(guān)系數(shù)矩陣。為什么因為如果兩個變量高度相關(guān)比如美元指數(shù)和原油在某些時段負(fù)相關(guān)放進(jìn)同一個線性回歸里會導(dǎo)致多重共線性單個系數(shù)的標(biāo)準(zhǔn)誤會變大顯著性結(jié)果不穩(wěn)定。我用的判斷標(biāo)準(zhǔn)是方差膨脹因子VIFVariance Inflation Factor。一般來說VIF超過5就應(yīng)該引起注意超過10就需要考慮去除變量或做降維。本次實驗里所有特征的VIF都小于3這讓我對后續(xù)線性回歸的系數(shù)解釋比較有信心。順帶一提VIF是對線性回歸而言的MLP并沒有這個假設(shè)約束。所以同一個特征集放進(jìn)MLP時多重共線性不會影響訓(xùn)練過程但會影響特征重要性的解讀。也就是說神經(jīng)網(wǎng)絡(luò)可以從高相關(guān)變量中提取共同信號但很難告訴我們“到底是哪個變量起作用”。4. 多元線性回歸實現(xiàn)用可解釋性換精度的基線模型4.1 模型設(shè)定與公式多元線性回歸是我這場對比實驗的“地基模型”。說它“地”不是說它低端而是因為它具備了兩個核心優(yōu)勢一是計算開銷極小幾乎瞬間出結(jié)果二是每個特征都有明確的系數(shù)、標(biāo)準(zhǔn)誤和置信區(qū)間解釋性強。我的模型設(shè)定如下au_ret_t β0 β1*usd_ret_t-1 β2*brent_ret_t-1 β3*d_tips_t-1 β4*oi_change_t-1 β5*au_ret_t-1 ε_t其中au_ret_t滬金期貨第t日的收益率目標(biāo)變量usd_ret_t-1美元指數(shù)第t-1日的收益率brent_ret_t-1布倫特原油第t-1日的收益率d_tips_t-1TIPS實際收益率在第t-1日的一階差分oi_change_t-1滬金持倉量在第t-1日的變化率au_ret_t-1滬金期貨收益率滯后一階用于捕獲價格慣性之所以全部使用滯后特征是為了保證模型在預(yù)測時只使用第t日之前的數(shù)據(jù)不會觸犯時間穿越的禁忌。這在實際量化策略中也是鐵律你預(yù)測未來的依據(jù)只能是過去的已知信息。4.2 statsmodels實現(xiàn)與結(jié)果解讀用Python實現(xiàn)這個模型非常直接import statsmodels.api as sm import pandas as pd feature_cols [usd_ret_lag1, brent_ret_lag1, d_tips_lag1, oi_change_lag1, au_ret_lag1] X data[feature_cols].copy() y data[au_ret] # 添加常數(shù)項 X sm.add_constant(X) model sm.OLS(y, X).fit() print(model.summary())運行之后幾個關(guān)鍵輸出項需要重點關(guān)注R2本次實驗中全樣本擬合的R2在0.03到0.06之間波動。這個數(shù)字乍看很低但在金融時間序列預(yù)測里非常正常。日頻收益率的可預(yù)測部分本來就極弱大多數(shù)時候市場已經(jīng)把信息消化完了。F統(tǒng)計量雖然R2低但F統(tǒng)計量的P值小于0.001說明整個模型的解釋力在統(tǒng)計上是顯著的而不是純噪音。系數(shù)符號美元指數(shù)收益率的系數(shù)為負(fù)符合邏輯——美元走強黃金價格承壓持倉量變化率系數(shù)為正說明資金流入對黃金價格有正向推動。AIC/BIC這兩個信息準(zhǔn)則用于模型比較值越小說明擬合越好且不大可能過擬合。這里我要特別提醒statsmodels的OLS輸出里有一個Durbin-Watson統(tǒng)計量。它衡量的是殘差的自相關(guān)程度理想值接近2。如果DW值遠(yuǎn)小于2比如1.2說明殘差存在正自相關(guān)這意味著標(biāo)準(zhǔn)誤被低估系數(shù)的顯著性可能被高估。我在第一次擬合時DW值大約是1.89處于合理區(qū)間于是放心繼續(xù)。4.3 線性回歸的局限與改進(jìn)嘗試盡管線性回歸給出了“顯著的F檢驗”和“符合邏輯的系數(shù)符號”但它的預(yù)測能力在測試集上依然有限。這讓我不得不追問是特征不夠還是線性假設(shè)本身鎖死了上限為了回答這個問題我用兩種方式做了驗證。第一種是在線性模型中加入更多非線性特征比如美元指數(shù)的平方項、美元指數(shù)與原油的交互項發(fā)現(xiàn)R2幾乎不變第二種是把目標(biāo)變量換成周頻收益率R2上升到0.1左右說明低頻預(yù)測的確定性更強。這給我的啟示是黃金日頻收益率的“信號”本來就非常微弱線性模型能夠捕捉到的就是這么多的線性傳導(dǎo)關(guān)系。如果MLP在測試集上的表現(xiàn)比線性回歸好那么改善部分大概率來自非線性關(guān)系如果MLP也沒有顯著提升那就可以判斷這個市場環(huán)境中非線性結(jié)構(gòu)并不占主導(dǎo)。5. 多層感知機實現(xiàn)神經(jīng)網(wǎng)絡(luò)在金融時序上的優(yōu)與坑5.1 為什么用MLP而不用LSTM或Transformer在部署模型之前你可以會問既然都上神經(jīng)網(wǎng)絡(luò)了為什么不直接用LSTM這類項目如果發(fā)論文多半會用LSTM一類更“高級”的模型。我的回應(yīng)是要看你做這項研究的目的是什么。如果目的是“刷一個最高的預(yù)測準(zhǔn)確率”那確實可以嘗試LSTM、GRU、甚至CNN-LSTM混合結(jié)構(gòu)但如果目的是回答“線性模型是否已經(jīng)足夠”這個研究問題MLP這種純粹的非線性映射器是最合適的對照。MLP不依賴數(shù)據(jù)的時序結(jié)構(gòu)先驗。它把每條樣本當(dāng)作獨立輸入用全連接層去學(xué)習(xí)特征之間的非線性組合。如果MLP和線性回歸表現(xiàn)相近說明“非線性組合”這一能力對黃金期貨預(yù)測并無顯著增益如果MLP明顯更好說明特征間確實存在線性回歸無法表達(dá)的模式。這個歸因在LSTM上就很難做因為LSTM的性能提升可能來自時序建模能力而不是非線性表達(dá)能力。5.2 網(wǎng)絡(luò)結(jié)構(gòu)與輸入特征設(shè)計MLP的輸入特征和線性回歸保持完全一致仍然是滯后一期的美元指數(shù)收益率、原油收益率、TIPS差分、持倉量變化率和黃金自身滯后收益率。為了讓MLP的輸入更豐富一些我額外把滯后2期和3期的特征也加入了輸入矩陣形成94維特征向量5個原始特征共3個滯后階共15維同時我加入了一些窗口類特征滾動均值和滾動波動率。網(wǎng)絡(luò)結(jié)構(gòu)設(shè)為一個兩層隱藏層MLP輸入層15維滯后窗口特征隱藏層164個神經(jīng)元ReLU激活加Dropout(0.1)隱藏層232個神經(jīng)元ReLU激活輸出層1個神經(jīng)元無激活函數(shù)線性回歸頭代碼實現(xiàn)如下import tensorflow as tf from tensorflow.keras.models import Sequential from tensorflow.keras.layers import Dense, Dropout from tensorflow.keras.callbacks import EarlyStopping tf.random.set_seed(42) model Sequential() model.add(Dense(64, activationrelu, input_dimX_train_std.shape[1])) model.add(Dropout(0.1)) model.add(Dense(32, activationrelu)) model.add(Dense(1, activationlinear)) model.compile(optimizeradam, lossmse, metrics[mae]) early_stop EarlyStopping( monitorval_loss, patience20, restore_best_weightsTrue ) history model.fit( X_train_std, y_train, epochs100, batch_size32, validation_split0.1, callbacks[early_stop], verbose0 )為什么選擇64-32這樣的結(jié)構(gòu)而不是更大的網(wǎng)絡(luò)因為在數(shù)據(jù)量只有幾千條的情況下過大的網(wǎng)絡(luò)會迅速進(jìn)入過擬合狀態(tài)。金融數(shù)據(jù)的信噪比極低噪聲會先于信號被網(wǎng)絡(luò)記住。64-32對于15維輸入來說已經(jīng)足夠表達(dá)多數(shù)非線性函數(shù)繼續(xù)加寬加深度只會讓驗證損失回升得更早。5.3 訓(xùn)練過程中最關(guān)鍵的三個陷阱陷阱一特征標(biāo)準(zhǔn)化必須以訓(xùn)練集為準(zhǔn)。我在第2章已經(jīng)提過但這里再強調(diào)一次因為它的影響在神經(jīng)網(wǎng)絡(luò)中比線性回歸大得多。我用訓(xùn)練集統(tǒng)計量標(biāo)準(zhǔn)化訓(xùn)練集、驗證集、測試集代碼里體現(xiàn)為from sklearn.preprocessing import StandardScaler scaler StandardScaler() X_train_std scaler.fit_transform(X_train) X_val_std scaler.transform(X_val) X_test_std scaler.transform(X_test)陷阱二隨機種子不固定結(jié)果不可復(fù)現(xiàn)。神經(jīng)網(wǎng)絡(luò)初始化權(quán)重是隨機的每次運行結(jié)果都會有些許差異。在金融數(shù)據(jù)這種信號極弱的場景下兩次運行的測試集MAE可能在0.0085到0.0092之間飄動。所以我在項目里固定了三個層面的隨機種子Python的random.seed、NumPy的np.random.seed、TensorFlow的tf.random.set_seed。我還把同一次實驗重復(fù)跑了5次不同隨機種子最后取平均值作為模型的最終表現(xiàn)這樣能有效排除“某一次運氣好”的偶然性。陷阱三早停時機的選擇。我設(shè)置了patience20意思是驗證損失連續(xù)20個epoch沒有提升就停止。金融數(shù)據(jù)很容易出現(xiàn)“驗證損失先降后升”的過程早停太早模型欠擬合早停太晚模型過擬合。我在實驗中還加了一條額外規(guī)則restore_best_weightsTrue確保返回的是驗證損失最低那一輪的模型權(quán)重而不是最后一輪的權(quán)重。5.4 訓(xùn)練結(jié)果MLP到底贏了沒有從訓(xùn)練曲線看訓(xùn)練損失在前10輪快速下降驗證損失在20輪左右達(dá)到最低點之后開始振蕩上升。這是典型的過擬合信號早停機制在第43輪左右觸發(fā)。測試集上的表現(xiàn)呢這里有幾個數(shù)字指標(biāo)多元線性回歸MLP5次隨機種子均值MAE0.00860.0087RMSE0.01210.0123測試集R20.0340.028方向準(zhǔn)確率53.1%52.6%這個結(jié)果讓我有些意外但也在意料之中。MLP的表現(xiàn)不僅沒有優(yōu)于線性回歸反而在MAE和方向準(zhǔn)確率上略遜一籌。從統(tǒng)計角度說這個差距非常小幾乎可以看作是兩個模型打平。進(jìn)一步看兩模型在特征重要性上的行為有本質(zhì)差異線性回歸明確指出美元指數(shù)和原油是主要驅(qū)動因子而MLP則把權(quán)重分散到了大量節(jié)點上很難提取出單一主導(dǎo)特征。這引出了一個更深層的結(jié)論在日頻黃金期貨收益率這個預(yù)測任務(wù)上線性關(guān)系已經(jīng)捕獲了絕大部分可學(xué)習(xí)信號剩下的是無法被現(xiàn)有特征集解釋的純粹市場噪音。神經(jīng)網(wǎng)絡(luò)沒有“魔法”它只能從數(shù)據(jù)中學(xué)到確實存在的模式。如果數(shù)據(jù)本身沒有強烈的非線性結(jié)構(gòu)MLP的復(fù)雜結(jié)構(gòu)反而容易在噪聲中浪費時間。6. 評估體系設(shè)計預(yù)測對比中的公平性與魯棒性6.1 為什么不能只用R2判斷模型好壞很多同學(xué)做模型對比時習(xí)慣只盯著R2看。R2高就好R2低就不好。在金融時間序列里這是一件很危險的事。因為R2衡量的是“模型解釋的方差占總方差的比例”而日頻收益率的方差絕大多數(shù)來自不可預(yù)測的隨機沖擊。即使你的模型完美捕捉到了所有可預(yù)測部分R2可能也只有0.05。這時候你更需要用一組有多維度的指標(biāo)來評估模型。我在本次實驗中同時記錄了四類指標(biāo)MAE平均絕對誤差直觀衡量預(yù)測值與真實值的平均偏離程度單位與收益率一致RMSE均方根誤差對大誤差更敏感如果RMSE明顯大于MAE說明誤差分布有長尾模型在大行情階段容易失準(zhǔn)方向準(zhǔn)確率DA預(yù)測收益率方向與實際方向一致的比例。這個指標(biāo)對交易策略尤其重要因為很多策略本質(zhì)上是做方向判斷的勝率與盈虧比結(jié)合的日度策略模擬雖然不屬于標(biāo)準(zhǔn)回歸評估指標(biāo)但在量化應(yīng)用場景下用預(yù)測信號生成一個簡單的“做多做空”策略計算累計收益曲線能直觀看出模型是否有實際價值。6.2 時間序列交叉驗證的最佳實踐除非你想得到一份“看起來特別厲害但根本不可靠”的結(jié)果否則千萬不要在時間序列上用train_test_split(random_state42)這樣隨機打亂的劃分方式。時間序列數(shù)據(jù)的核心特征是有序性未來信息不能參與過去的決策。我使用的是“滾動窗口擴展驗證法”Expanding Window Validation具體流程如下將數(shù)據(jù)集按時間升序排列設(shè)定初始訓(xùn)練窗口長度為1000個交易日每次擴展訓(xùn)練窗口100個交易日滾動預(yù)測未來5個交易日保存每一天的預(yù)測值最后統(tǒng)一計算全部預(yù)測期的指標(biāo)。這種設(shè)計下模型永遠(yuǎn)不會看到它需要預(yù)測的那個時點的任何信息。實際回測區(qū)間覆蓋了2018年至2023年包含了幾輪美聯(lián)儲加息周期、2020年全球流動性恐慌、2022年俄烏沖突、2023年銀行業(yè)危機等不同市場環(huán)境。時間序列交叉驗證的好處就是如果模型在多種市場狀態(tài)下都能維持相對穩(wěn)定的預(yù)測誤差那么結(jié)論的魯棒性會高很多。6.3 模型對比的公平性超參數(shù)與計算資源為了讓MLP和線性回歸的對比盡量公平我在MLP中只使用了最基礎(chǔ)的調(diào)參手段隱藏層數(shù)量和單元數(shù)固定優(yōu)化器用Adam學(xué)習(xí)率使用默認(rèn)值0.001。很多人會問為什么不給MLP也做一下GridSearch網(wǎng)格搜索超參數(shù)這樣MLP的結(jié)果可能更強也更公平。我的回答是在量化研究里“公平”和“合理”是兩回事。我們不是在比拼“誰調(diào)參調(diào)得更猛”而是對比“同等工作量下誰的自然表現(xiàn)更好”。線性回歸沒有超參數(shù)網(wǎng)格搜索對線性模型只影響特征選擇不影響模型結(jié)構(gòu)如果給MLP一整套網(wǎng)格搜索等于人為給MLP增加投入這種對比偏離了模型本身能力的比較。更實際的原因還有一點在真實交易系統(tǒng)中同樣一份特征數(shù)據(jù)和每日更新機制線性回歸從訓(xùn)練到預(yù)測只需要毫秒級而MLP需要更多的時間和算力。如果兩者預(yù)測精度沒有顯著差異那么在實盤場景下我會無條件選擇線性回歸——因為省時間、省算力、好解釋、易監(jiān)管。這個思路對從業(yè)者來說非常有參考價值。6.4 結(jié)果解讀方向正確比絕對精度重要綜合各輪滾動驗證的預(yù)測結(jié)果我發(fā)現(xiàn)一個被很多人忽略的現(xiàn)象預(yù)測絕對誤差和方向準(zhǔn)確率之間并沒有強相關(guān)。某些時段比如2020年3月全球流動性危機模型誤差極大但方向判斷反而是對的另一些時段比如長期橫盤震蕩期誤差不大方向準(zhǔn)確率卻徘徊在50%附近跟拋硬幣沒有區(qū)別。這說明黃金期貨市場的“可預(yù)測信號”是存在但稀薄的。對交易而言一個60%方向準(zhǔn)確率但平均收益幅度很小的信號可能不如一個50%方向準(zhǔn)確率但在大行情中能有效捕捉方向轉(zhuǎn)變的信號更有價值。這也是為什么評估模型時我強烈建議大家引入策略模擬環(huán)節(jié)用信號構(gòu)建一個最簡單的等權(quán)重多空策略看看累計收益曲線和夏普比率這樣才能真正判斷模型預(yù)測結(jié)果是否“有用”。7. 實操踩坑記錄與延伸思考7.1 數(shù)據(jù)對齊錯位最隱蔽的“時間穿越”我在第2章提到了交易日歷對齊的問題這里展開講一個具體踩坑過程。最開始我用的是公共數(shù)據(jù)源直接下載的CSV文件美元指數(shù)和滬金期貨的數(shù)據(jù)日期看起來都一樣于是直接按日期merge。后來在檢查特征相關(guān)性時發(fā)現(xiàn)美元指數(shù)當(dāng)日收益率與滬金期貨當(dāng)日收益率的相關(guān)系數(shù)異常地低幾乎為0而理論上兩者當(dāng)日走勢應(yīng)該高度負(fù)相關(guān)。這讓我起了疑心。追查后發(fā)現(xiàn)美元指數(shù)的數(shù)據(jù)源有一個“時區(qū)標(biāo)簽”問題它記錄的日期是美東日期而滬金期貨記錄的是北京時間。當(dāng)北京時間上午9點開盤時美東時間是前一天晚上20點——美元指數(shù)當(dāng)天的大部分交易時段美東時間白天還沒有發(fā)生。這就導(dǎo)致如果直接用日歷日對齊模型會在北京時間當(dāng)天上午用到美東時間當(dāng)天晚上的數(shù)據(jù)產(chǎn)生嚴(yán)重的前視偏差。解決方法是用美東日期作為美元指數(shù)的“信息到達(dá)日”然后手動偏移一天再對齊滬金期貨。也就是說美元指數(shù)T日的數(shù)據(jù)在T1日的滬金期貨預(yù)測中才能使用。這個調(diào)整對模型預(yù)測結(jié)果產(chǎn)生了顯著影響——調(diào)整后美元指數(shù)變量的滯后一期系數(shù)從微弱的負(fù)值變成了更強的負(fù)值模型效果反而更真實了。7.2 偽回歸的誘惑R2高不代表模型好另一個讓人印象深刻的坑是我在一次探索性實驗中嘗試用原始價格做回歸時R2居然達(dá)到了0.96。當(dāng)時第一反應(yīng)是“發(fā)現(xiàn)了一個超強模型”但冷靜下來用ADF去檢驗殘差發(fā)現(xiàn)殘差本身就是非平穩(wěn)的。這意味著什么意味著回歸結(jié)果完全不可靠R2只不過是在描述兩個帶趨勢序列的“虛假同步運動”。這種情況下就算模型的預(yù)測曲線和真實價格曲線畫在一起非常貼近也毫無意義。因為它的“預(yù)測”本質(zhì)上是用未來的趨勢信息拼湊出來的。后來我把實驗全部改為收益率預(yù)測R2驟降到0.03左右這才是真實世界的映射。這個教訓(xùn)讓我在以后看到任何金融模型“高R2”的報告時第一件事就是檢查它預(yù)測的是原始價格還是收益率。7.3 隨機因素對結(jié)果的影響MLP跑三遍三個答案我在實驗穩(wěn)定性測試中發(fā)現(xiàn)同一個MLP結(jié)構(gòu)、同一份數(shù)據(jù)只改變隨機種子測試集MAE的最大值與最小值之間相差約8%。8%這個波動幅度已經(jīng)超過了線性回歸與MLP之間的性能差距如果不做多隨機種子平均就會得出一個完全相反的結(jié)論你可能會因為某一次運氣好的隨機種子宣稱MLP優(yōu)于線性回歸換了另一個隨機種子結(jié)論立刻反轉(zhuǎn)。所以我強烈建議所有涉及神經(jīng)網(wǎng)絡(luò)的金融實證研究至少要跑5個以上不同隨機種子報告均值和標(biāo)準(zhǔn)差。如果一個模型性能的波動幅度大于它與對比模型的實際差距那“差異”就是統(tǒng)計噪音而不是真實優(yōu)勢。7.4 對后續(xù)研究的延伸思考這次實驗以“線性回歸vs MLP”為核心在日頻收益率的預(yù)測難度下兩者基本打平。但如果你想把這項研究繼續(xù)往前推進(jìn)有幾個方向值得嘗試第一更換目標(biāo)變量。黃金價格的波動率比如已實現(xiàn)波動率比收益率更容易被模型捕捉。MLP在波動率預(yù)測上可能更容易發(fā)揮非線性優(yōu)勢因為波動率本身就具有集群性和非線性特征。第二增加特征維度。當(dāng)前特征集中沒有期貨期限結(jié)構(gòu)數(shù)據(jù)、沒有市場情緒指標(biāo)、沒有人民幣匯率因素。滬金期貨以人民幣計價美元兌人民幣匯率的變化會直接影響滬金價格的定價。加入這些維度可以提高模型捕捉真實驅(qū)動因子的能力。第三分市場狀態(tài)建模。本次實驗結(jié)果在2020年流動性危機期間出現(xiàn)了明顯的誤差尖峰說明單一靜態(tài)模型很難覆蓋所有市場狀態(tài)??梢試L試用馬爾可夫區(qū)制轉(zhuǎn)換模型或簡單的高波動/低波動過濾規(guī)則對樣本分層在每一層里分別訓(xùn)練和預(yù)測。第四用更強的基準(zhǔn)模型復(fù)盤。如果未來想做更復(fù)雜的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)對比我建議把LSTM、Transformer加進(jìn)來和MLP放一起但一定要控制變量同樣的數(shù)據(jù)清洗、同樣的滾動驗證方式、同樣的隨機種子管理。只有這樣才能準(zhǔn)確歸因不同結(jié)構(gòu)帶來的性能差異。回到本文最核心的問題——在中國黃金期貨價格預(yù)測這個場景下多元線性回歸和多層感知機哪一個更準(zhǔn)我的答案是它們在統(tǒng)計意義上幾乎打平線性回歸以微弱優(yōu)勢勝出且計算開銷和可解釋性遠(yuǎn)超MLP。這個結(jié)論不代表神經(jīng)網(wǎng)絡(luò)沒有價值而是說明在所有模型都使用相同特征的情況下黃金期貨日頻收益率中的非線性關(guān)系并沒有想象中那么強。如果讓我給后來者一句建議那就是任何模型對比實驗先不要假設(shè)復(fù)雜模型一定更好先保證數(shù)據(jù)干凈、檢驗規(guī)范、評估公平再去爭論模型高下。黃金市場的噪音足夠大模型能不能贏很多時候取決于你給它多少可以被學(xué)習(xí)的信號而不是它有多少參數(shù)。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
国产亚州精品美女久久久免费| 观看视频图片一区二区三区| 亚洲日韩精品一区二区| 任我爽在线视频免费观看| 狠狠色丁香| 久久无码成人| 91免费看一区二区三区| 无码精品啪啪啪一区二区三区三州| 免费观看有码高清视频| 自偷自拍的亚洲视频| av亚欧| 丝袜高跟澳门91视频| 久久国产精品视频| 成人在线午夜视频一区| 亚洲人在线| 91人人爽人人爽人人人,gav福利视频导航,日韩欧美亚洲国产字幕四区 | 欧美另类天堂| 一区二区三区成人| 九九十八精品| 亚洲有码第一页| 欧美 亚洲 大香| 天天日老熟妇| 国产精品久久久久绯色| 97人肏| 91狠狠综合久久久| 日韩一级片| 91香蕉视频在线观看免费| 欧美在线啊啊啊 | 欧美性爱在线无码| 无码外流操逼视频| 中文字幕日产av人| 精品欧美А∨无码黑人大荫蒂| 伊人青青一区成人视频在线观看区| 2017天天拍大香蕉| 美性中文综合网| 日韩欧美性吧婷婷乱伦大香蕉| 黑人综合网| 0755午夜福利视频| 欧美性爱一区二区三区| 五月天激情四射| 97超碰香蕉| 欧美丝袜中文字幕07在线| 屌色在线97视频| 亚洲av性爱电影| 人妻社区男人天堂| 日韩免费看黄片| 成人AV在线网站| 中文字幕啊啊啊在线观看视频| 中文字幕av亚洲精品| 后入式在线免费观看60秒| 国产综合永久精品日韩鬼片| 人妻-91porn| 福利视频一区二区微拍| 亚洲欧洲美腿丝袜| 精品人妻一区春色| 国产91 丝袜在线播放| 国产美女精品| 亚码激情| 欧美人人AAA| 国产精品操| 色综和网| 久九干| 欧美香蕉视xxx| 91美女视频在线| 中文字幕二区| 98超碰日本| 极品后入免费视频| 亚洲一区中文精品| 日本国产欧美高清在线| 欧美日韩情色一区二区| 九一综合网| 综合亚州欧美| 久久免费99精品久久久久久| 99久久99久久综合| 蜜臀久久99精品| 精品区9| 人人色人人射人人妻| 99国产精品久久久久久久成人热| 欧美少妇高潮视频| 亚洲春色欧美激情自拍| 长长久久曰曰夜夜成人网| 一道本东京热加勒比一区二区三区 | 97亚洲国产影视| 天天躁狠狠躁av| 大香蕉一级黄色片久久| 一块操欧美| 97久久精品亚洲中六字幕| 婷婷探花久久精品一区| 老司机老司机午夜影院| 激情欧美日韩女同久久| 制度丝袜99| 色色国产| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 蜜臀th| 婷婷五月天激情四射| 国产精品一区av在线| 啊啊啊好爽快点啊啊啊嗯嗯| 国产风韵犹存熟妇三区| 日本成人A片免费看| 婷婷五月天丁香| 91nbbbbbb| 久久久99免费| 狼人综合婷婷激情四射| 亚洲骚逼少妇| 免费观看欧美日韩操逼视频| 五月丁香影视| 97欧美日韩精品| 在线观看无码三级少妇| 蜜臀亚洲中文| 东京热一区二区中文字幕| 国产 v乱码一区二| 亚洲综合九九| 日本色婷婷| 插入粉嫩少妇视频| 蜜屁av| 夜夜操一区二区| 福利大香蕉| 人妻9117c| 欧美日韩淫加| 岛国在线免费视频| 国产情色在线| 久久久国产成人一区二区三区在线| 亚洲熟女乱熟乱熟妇综合网二区| 成人av福利在线观看| 99999久久久久9国产精品| 一起草视频在线| 综合色久| 日本性爱视频一级| 美腿丝袜偷拍亚洲欧美| 久操com| 欧美大片天天看| 中国一级操逼视频| 97热视频在线观看| 爱做久久久久久| 色综合 加勒比| 欧美日韩国产色图在线| 色欲av国内精品久久久久久| 欧美熟妇视频| 夜夜狼人妻| 综合网亚洲| wwe 天天干.com| 成人精品久久久午夜福利| 欧美精品91| 免费黄色片。| 97久久久久久久久久| 亚洲熟女中文字幕在线| 色香天天| 久操九九九九九九九九九九九九九九九九九九九九九九九九九九九九 | 久久超碰大香蕉| 亚洲黄色网址视频| 青春草莓视频在线观看网址| 日韩欧美水蜜桃人妻| av天堂手机版追回 | 强奸乱伦AV网站| 操少妞在线视频| 亚洲成人综合在线| 精品久久久久久AV无码| 亚洲综合有码| 免费9 1久久| 黄片免费看的| 女性91网站| 双插在线| 综合色播| 丁香六月东京热| 青草成人免费视频一com| 99啪啪| 亚洲AV永久无码一区仙野| 一区二区三区国产在线播放| 亚洲极品| 啊操爽品善一区二区三区| 亚洲成人免费在线| 亚洲av影音先锋| 蜜臀99久久国产| 91路www| 欧美午夜精品久久久久久3D| 欧美日韩操逼动图| 岛国大片在线观看网站入口| 午夜精品久久99蜜桃的功能章节| 久久久久久久久久久精| 综合天天网| 神马久久久久眼| 国产不卡免费在线视频| 国产最新小视频在线播放下载| 亚洲a色| 日韩天天本| 丝袜狠狠草尤物人妻av91| 婷婷丁香成人| 亚洲一区二区精品福利| 成人性爱AV在线免费观看| 色爱亚洲| 欧美日综合| 97在线观看免费| 性交一区二区在线播放| 欧美精品丝袜久久久中文字幕| 婷婷精品视频| 丁香五月激情综合国产| 亚洲操逼无码| 黄色AAAAAAAAAAA大片| 亚洲欧美国产va在线播放频| 久久超碰com| 综合天天。| 亚洲中文电影| 亚洲国产精品久久久久婷婷老年| 九一综合网| 91爱做| 操美女人妻| 蜜臀久久99精品久久久久免费观| xxx亚洲午夜天堂| 九九热精品在线| 久久精彩视频| 97久久久久久久精| 欧美黄页在线| 亚洲日本男人天堂网| 啊啊啊用力在线观看| 天天干天天日天天射黄色| 青娱乐亚洲热| 国产老熟女| 97超碰天天爱天天爱| 超碰碰97| 狠操91,com| 超碰97人人乐| 日本在线999| 992视频一区| 中文乱码字幕观看视频| 97亚洲综合影院| 欧美一级久久久丰满| 国产一区在线观看无码AV| 93人人操人人| 五月天社区| 先锋精品av色鲁| 天天欧美色| 射欧美综合| 欧美 亚洲 另类 综合| 亚洲综合草草| 久久久久九九九| 久久久久亚洲AV无码专区少妇| 国语精品内射在线观看| 狠狠操狠狠爱| 亚洲国产综合久久久性感熟妇| 亚州久久9| 麻豆人妻偷人精品无码视频| 97亚洲精品超碰| 性色av大全| 小情侣高清国产在线视频| 国产在线76页| 天天插天天操天天摸天天射天天看| 天欧美在线| 欧美性高潮在线| 欧美色涩| 老熟妇乱轮| 成人线上超碰| 啪啪综合网| 男人下部插入女人下部 | 粉嫩av在线| 无码人妻精品一区二区中文| 欧美男人一区| 肉丝中文无码高清| 一本色道无码DVD中文字幕| 可以在线观看AV的网站| 中日无幕一二三四区| 97视频在线视频| 乱伦熟女论坛| 色播五月丁香| 在线情色电影 91大| 欧美精品庄| 色欲无码人妻日韩欧美精品| 亚洲精品久久久久久久久豆丁网| 综合大香蕉美。| 三级日韩一区二区三区| 久久五月婷| 小骚逼被操的爽不爽| 亚洲av青草久久一区二区| 中文字幕aⅴ在线视频| 丝袜综合色图| 97爱| 99热免费| 97综合| 天堂精品在线| 精品天堂| 欧美后进式| 精品少妇一区二区三区| 黄页网站免费高清在线观看| 婷婷丁香一区二区三区| 亚洲av无码国产精品字幕| 亚洲麻豆精品二区三区| 亚洲se91| 久久久久久久久久久97| 97超碰精品| 少妇 综合| 99精品在线播放| 手机av亚洲丝袜美腿日韩第一页二页| 操逼操逼逼操操逼91| 哈哈操电影AV| 国产精品自拍xxxx| 久噜噜| 啪啪AV导航| 精品网站99999| 粉嫩av久久一区二区三区| 东北女人被操| 激情干在线| 久久久国产护士丝袜美腿一| 日本高清一区二区在线| 深夜激情| 色妹子A V| 人妻精品视频一区二区三区| 欧美性区| 亚洲精品无码久久AV| 吉川爱美亚洲二区在线 | 欧美少妇一区二区三区| 成人无遮挡毛片免费看| 曰本91情色| 天天看天天在线精品| 久湿久久| 天天影视色香色欲| 囯产精品久久久久久久久久梁医生| 国产自产91区13区| 免费黄色片。| 国产免费内射视频| 欧美精品在线观看| 三级三级三级a级全黄三| av橘色网站| 日韩乱码av| 狠狠操官网| 天天综合麻豆视频| 又大又白奶子| 三级精品三级在线观看| 午夜啊啊| 天美精品一区二区三区四区在线观看| 强奸乱伦Av网| 曰韩人妻中文字幕在线| 美女网站黄页| 中日无幕一二三四区| 日韩亚洲国产视频| 夜夜躁狠狠躁日日躁av| 大香蕉青青9| 91oumei| 乱伦a片视频| 清纯唯美亚洲另类| laoshunv91| 久久露脸国产老熟女| 老司机午夜精品视频| 亚洲色情在线影视| 久久精品人体| 狠狠激情综合狠狠操中文字幕| 国产精品96| 久久 久久国内精品亚洲| 99免费视频| 亚洲熟女性高潮久久久| 中文字幕欧美日韩三级| 欧美色图99| 久久一二三四五六七八九区区| 狠狠五月天| 美女写真| 日韩操逼HD| 很很操在线| 欧亚三区动漫| 大屁股熟女一区二区三区| 国产日本熟女顶级一区二区三区视频| 人人扣人人操| 久久婷婷亚洲| www.色婷婷色综合| 国产欧美亚洲精品a第2页| 成人性爱av| 黑人猛交| 中文乱码字幕观看| 粉嫩AV一区二区夜夜| 美女91av| 嗯嗯啊啊日韩精品| 裸体1区| 97这里都是精品| 国产青一二三| 国产少妇与亚洲av| 蜜桃视频精品一区二区三区| 香蕉一区二区三区在线视频 | 97爱综合| 精品九九九九九九| 91五十路| 99久久久无码国产精品性啊聊| 97国产精品一区二区传媒公司| 99热线麻豆| 无码九九| 国产精品农村妇女精品| 东京太热男人的天堂久久久| 久久这里只有精品9| 欧美自拍网| 强乱老妇中文字幕| 78操B| 中文字幕视频二区| 亚洲中文字幕一区二区| 色臀av| 九九综合九九综合| 免费视频在线一区二区不卡| 久久精品人人做人人看| 天天操人人操狠狠插| 国产福利视频精品视频| 黄色AAAAAAAAAAA大片| 99精品久久久久久久婷婷| 蜜乳AV一区二区三区四| 欧美顶级黄片AAAAA在线免费看| 欧美黄片欧美黄片xxx| 亚洲二区精品在线观看| 五月婷婷六月丁香| 91在线美女| 欧美黄色大片在线观看| 久久亚洲AV无码专区首页| 国产中出内射一区二区| 手机在线A片| 大香网站| 95精品在线| 人妻美腿丝袜制服诱惑综合天堂-| 久热久一区二区三区| 久久大线蕉一区| 中国黄色特级精品一区二区三区片| 精久久久| 丰满人妻被猛烈进入中| 乱论91| 五月天成人综合| 在线观看十八禁| 亚洲成人妻日韩在线| 大香蕉92| 91国产操逼视频| 久久精品国产亚洲AV高级北京| 91精品久久久久久77777| 日韩亚洲美州欧洲综三区一品在线| 91色噜噜狠狠| 中国熟妇| 亚洲天堂AV在线播放| 婷婷五月天成人网| 日韩欧美偷拍美女视频| 麻豆视频一区二区| 一区操逼日比视频| 天美av在线观看| 男人的天堂久久狠| www.yeyecao| 婷婷九月色| 97久久久精品| 国产极品馒头逼| 激情啪啪拍91| 97超碰资源网| 久久久九九九| 天天影视综合网欧美精品| 精品人妻视频一区二区在线播放| 黄片免费视频2019| 欧美熟女激情| 97综合| 一区二区三区激情在线观看| 蜜屁Av| 天堂无码| 精品国产少妇高潮视频| 噜噜噜亚洲精| 懂色AV蜜臀无码精品APP | 亚洲一二三| 密臀在线视频| 性爱av在线免费观看| 久久大线蕉一区| 久久的免费性爱视频| 99久久久久| 久久久天美| 十八岁啪啪视频免费看| 午夜后入| 亚州免费啪啪视频| 亚洲少妇激情视频| 人人干黄色| 色91综合网| 电家庭影院午夜69久久夜色精品国产69乱| 色综合色欲色综合色综合色综合| 亚州欧美综合| 亚洲最大AV网| 蜜臀中文无码午夜| 狠狠色综合网| 91免费看中出视频| 亚洲久热| 久久国产乱子伦精品免费女,网站| 国模精品一区二区三区苹果色戒| 96精品久久久| 99无码视频| 一本久道久久综合狠狠爱一密臀精| 99热9| 国产馆| 国产av尤物| 久久午夜色播影院免费高清| 日欧美色| 强奸乱伦大香蕉| 狠狠2050在线观看| av凤凰久久久| 99热这里都是精品| 人人澡人人爽人人精品| 777AV电影| 嗯嗯啊啊的视频| 久久男女激情视频网站| 蜜臀99久| 9超碰免费| 免费一级特黄特色大片在线观看看| 校园春色宗合网| 亚洲精品aa久久伊人| 亚洲午夜精品久久久中文影院| 三级三级三级日本99| 久久久久久99AV无码免费网站| 久久有码| 久热无码| 岛国免费黄色网址| 青草一区二区| 日韩人妻精品中文字幕| 激情综合五月丁香| 日韩无码三级影院| 嗯嗯不要视频| 欧美色综合图片| 色噜噜婷婷| 九九精品无码专区免费| 人妻第一页| 99精品丰满人妻| 婷婷五月天福利| 亚洲图片色图欧美另类| 九九碰九九爱97超| 91亚洲欧美综合高清在线| 亚洲色图日韩丝袜制服一区二区五月在线| 大香蕉在线视频15| 九九性爱网| 国产超碰AV在线精品| 欧美亚洲特P| 伦理弟一页| 蜜桃色色网站视频三区| 国产人妻天天干精品| 五月丁香黄色网| 中国和日本人色哪个不下载能放| 一直超碰| 伊人影院在线理论播放 | 国产精品久久久久999| 欧美熟妇视频| 97色碰| 色呦呦呦在线观看视频| 国产在线综合网| 易易A毛视频| 国产精品3| 国产精品久久久蜜臀| 青草视频在线看看看看看看看看看| 欧美强奸乱| 日韩免费在线视频观看| 强奸乱伦AV一天堂网| 97综合在线| 变态综合色| 九九九不卡| 久久 久久国内精品亚洲| 美女久久久久久久| 一区黄二区黄| 欧美.亚洲.另类.丝袜.制服.诱惑| 99日韩| 欧日a| 午夜爽爽爽在线观看永久入口姬片| 东京热视频网| 激情五月综合开心五月| 免费97视频| 91美女视频。| 免費人妻夜夜爽天天爽爽一区| 久久久一区二区三区四区五区| 亚洲欧美综合网| 久久9免费视频| 97人妻碰碰中文无码久热丝袜| 天天综合网国产| 天堂亚洲精品| 人妻一区视频| 97超碰资源网| 秋霞一集毛片观看| 97精品国产97久久久久久免费| 色一区二区三区综合| 九九九九国产| 在线黄页看毛片| 天天干夜夜操一区二区| 欧美精品久久久久久久久88| 男人成人黄色视频在线观看免费下载| 鲁鲁色综合网| 国产农村妇女精品一二区| 久久精品亚洲婷婷| ,国产乱人伦精品一区二区三区| 日本免费中文一区二区三区四区 | 四虎免费视频| 大粗鳼巴久久久久| 一区二区三区不卡视频| 成人av毛片在线观看| 一级一性爱免费视频| 亚洲欧美日韩中文播放| 99久久久无码精品国产人| 国产成人自拍视频视频| 精品视频在线观看精品| 丰满人妻无码一区二区三区| 亚洲乱码尤物193YW| 色色色五月婷婷| 欧洲天天在线| 67914亚洲精品| 求求你操操我| 中国黄色特级精品一区二区三区片| 午夜操操操| 色欲久久99国产精品久久久久久| 欧美在线亚洲| 久久性爱精品一区| 日本一区二区不卡精品| 9久超碰| 国产午夜在线观看| 国产综合永久精品日韩鬼片| 天天日天天插| 97色色色综合网站| 久久黄黄黄| 97超碰碰| 大香蕉人妻| 综精品久久久aaaa| 99热日| 日韩成人高清一区二区| 人人人人插| 久久这里都是精品| 99精品高潮| 中国91AV| 国产女人操逼视频| 精品四五区| 亚洲精品97p| 成·人免费午夜在线观看| 亚洲九月丁香| 宗合情欲网| 亚洲 欧美 日本 国内 首页| 免费αⅴ在线观看| 亚洲AV无码天美传媒一区| 91国内外在线| 69XX一中文字幕人妻91| 日欧操屄视频| 天美传媒av在线| 色在线视频导航| 九九精品热| 色欧洲97| 亚洲欧美中文一区二区三| 天天91~综合入口| 蜜臀无码一区二区| 淫荡熟女乱伦网| 伊人影院在线理论播放| 久久久日本电影| 国产亚洲日本精品在线| 啊啊啊啊嗯嗯嗯用力好爽| 久久视频,这里只有精品| 精品免费视频国产一区| 香蕉在线一区二区三区| 超碰导航97| 欧美日韩第一页| 四虎在线免费视频| 99精品欧美一区二区三区桃色| 国产60区。| 亚洲男人天堂网| 亚洲中文字幕妇伦久久| 2017亚洲天堂| 久久国产99精品72福利| 天堂成人网| 狠狠穞A片一區二區三區| 色网亚洲人| 国产AV超爽| 久久97视频| 久草视频分类在线| 国产久久天堂资源| 男人的天堂亚洲| 天天拍天| 色色婷| 蜜臀视频网站| 成人贴图日韩欧美| 中文字幕精品一区二| 97色视频在线| 国产无马在线| Aa东京男人的天堂| 国模精品一区二区三区苹果色戒| 九九九九九九九九九国产精品| 日韩熟妇二区| 亚洲熟妇一,二,三期| 97人人爱人人做人人乐| 370p日韩欧美亚洲精品| 日韩欧美蜜桃精品久久中文字幕久久| 亚洲天堂无码| 高颜值美女口爆高潮浪叫| 天天综合亚在线| 1769国内精品视频| 加勒比东京热五月天天堂网| av资源在线观看少妇| 欧美宗合网| 97硬碰| 国产女人与拘做受视频免费| 97视频在线观看网站| 国产少妇肉丝在线观看| 久久伊人最新网址视频| 青青三级视频| 国产少妇肉丝在线观看| 2020中文在线一区二区三区| 五月天欧美色图| 超碰日本97美女人妻人人玩人人爱 | 日韩在线一区二区| 天天干夜夜操一区二区| 另类图片五月| 天天做日日做天天欢。| 97精品免费视频网站| 中文字幕精品久久久久人妻红杏ⅰ| 国产福利小视频高清在线观看| 国产91美女视频| 青青草精品| 色噜噜狠狠色综无码久久合欧美| 在线免费观看日韩一区| 91美女视频。| 日产123区精品免费观看| 日产国产精品中文久久婷婷| 九九久久一区二区伦理| 人人性爱视频免费| 亚洲天天自拍| 美女黑人91神马| 啊…啊…操我用力操我| 国产精品无码AV网站| 免费观看日本操逼视频| 台湾佬大香蕉| 色网1| 午夜欧美J进J出白浆流出久久久| 亚洲欧美中文日韩视频中国语| 18啪啪手机免费性爱| 欧美色97| 后入日本1234| 欧美激情片一区二区| 久久久草成人网站久久久草成人久久久草久久久 | 加勒比性爱成人在线| 国产精品女同| 婷婷久月| 欧美在线播放aaaa| 芊芊操逼视频无码| 成人av影院在线观看| 91成人无码| 久久蜜桃一区二区| 日本黄色天堂| 狠狠爱AV| 999 久久久| 日本男人插女人的逼黄色| 国产999精品久久久久久| 91精品人妻电影| 91足交| 波多野42部无码喷潮在线观看| 一级AV性爱| 夜夜骑夜夜操| 国产激情视频一区区三区| 精品人妻一区二区三区视频在线| 久9爱精品| 啊啊啊久久久视频| 超碰综合97在线| 欧美 亚洲 91| 久久是精品| 91操人| 手机不卡视频不卡在线一二三区| 婷婷国产精品九区| 国产亚洲 中文欧美久久| 亚洲天天艹| 欧美日不卡| 曰本精品久久久| 用力操死我| 人妻熟女一区二区三区在线| 97频视在线| 欧美在线 亚洲| 五十路成人在线视频二区三区| aV中文麻| 国产女人视频三四五区| 91 欧美| 欧美日韩黄片精品在线| 日本东京热加勒比久久| 国产精品呦一区二区三区| 天天操天天舔| 国产乱码久久| 亚洲成人综合在线| 日本精品一区三区| 99综合自拍| 亚洲色棕合| 久久久999国产| 91天天| 黄页网站免费高清在线观看| 亚洲中文国际强奸字幕| 色婷婷丁香五月| 婷婷伊人网| 天天日老熟妇| 国产精品久久久久久夜夜夜| 久久一二三四五六七八九区区| 蜜桃在线观看一区二区三区| 久久骚少妇| 欧美啪啪啪91| 日本性交操一区二区不卡系列| 手机在线人成免费视频| 久热九九| 青青草色插素人| 9 1果冻精品视频| 偷拍偷窥与盗摄视频专区| 免费观看的黄色的网站| 91人妻爽爽人人做人人澡| 啊啊啊啊二区好大| 9九九国产| 国产精品麻豆成人av| 国产精品激情久久久久久久| 亚洲色人妻综合| 成熟熟女国产精品一区二区| 成年人黄色| 国产精品999zyz| 色av中文字| 亚洲熟久久| www.av家庭乱伦| 国产成人精品日本视频| 欧美亚洲一区二区久久久婷精品大包诱| 天堂伊人久久| 色色毛片| 99在线精品观看99| 玖玖超碰熟| 国产真实子伦对白| 婷婷丁香六月天| 色综合99999| a男人的天堂久久一级A毛片| 99国产精品视频尤物| 欧美日韩性感| 2017大香蕉国产精品久久| 蜜臀久久99精品久久久久久无删减 | 久久后入制服| 欧洲黄色网| 亚洲91av| 91蜜臀人妻中文字幕在线| 国产h片在线观看视频| 殴美牲| 久久二| 欧美成人一区二区三区在线播放| 精品一二三区女同| 新久久AV| 欧美性战999| 2017av无码免费无线播| 亚洲天堂热| 蜜汁欧美| 日韩亚洲Av人人夜夜澡人人爽| 另类图片亚洲加勒比另类图片亚洲加勒比另类图片亚洲加勒比 | 大黄片做爱的大的| 伊人97色天使| 百度百度日本操逼| 3571色综合一区二区二区| 亚洲高清欧美总合| 国产情侣自拍在线播放| 蜜桃网熟妇| 1禁看欧美黄片免费看| 北野未奈加勒比av| 在线性黄高清免费视频| 男人的天堂午夜av| 欧美中文狠| 做爱A级亚欧| 偷拍色图| 国产熟女乱论| 91综合天天看| 狠狠综合| 97视频免费在线观看| 99re6久热只有精品6在线直播| 九九无码| 亚洲男人的天堂AV| 999精品国产高清一区二区| 91成人国产综合久久精品蜜月| 国产成人无码a| 白丝少妇一区二区| 欧美人妻精品一区二区| www.成人无码| 欧美人妻精品一区二区| 日韩国产九九精品一区二区三区毛片| 在线观看日韩av不卡| 亚洲Av诱惑| 日韩性爱再线视频| 骚女天天综合网| 亚洲综合另类欧美久久久| 91视频精品| 亚洲综合图片在线| 国产尹人在线视频免费| 蜜臀久久99精品久久久电影| 一本正道久久熟女| 日韩无码精品综合久久| 天欧美在线| 欧美日综合| 精品人妻一区二区三区四区石在线| 97天天做| 99自拍视频在线观看| 91天堂| 日韩三级在线观看mp4| 日本熟女中文字幕一区| 欧美日韩亚洲天堂| 操操操操网黑人| 国产激情在线| 91狠狠| 黄色不卡视频| 日韩精品国产精品五码一区二区| 国产成人在线观看网址| yazhouzaixian| 25国产精品免费观看| 亚洲自拍天堂| 成人在线午夜视频一区| 久久久久久亚洲精品不卡人乳 | 成人精品在线免费视频| 1000午夜黄色| 免费看毛片操穴| 国产成人综合在线播放| 1区2区3区视频| 国产精品suv一区| 日日狠狠久久偷偷色综合免费| av一区二区三区不卡| 玖玖爱视频网站| 综合天天网| 九九热免费视频| 日韩欧美中文| 偷拍精品一区二区三区| 久9爱精品| 欧美少妇高潮久久91| 亚洲综合激情五月久久| 99久久e免费热视| 欧美资源| 伊人九九九| 亚洲综合九九| 996热| 91女在线观看| 亚洲国产剧情少妇激情| 欧美视频激情久久久久久| 伊人黄色片| 日本免费专区| www.色婷婷| 日韩啪啪啪啪啪| 一区二区首页| 日本淫穴在线| 精品美女少妇一区二区| 另类欧美色| 澳门黄片一香蕉视频| 国产精品一区二区三区免费视频| 欧美淫穴| 亚洲精品 大香蕉| 久久99午夜精品一区人妻| 欧美一区二区三区入口| 久操免费电影| 亚洲高潮影院| 51一区二区三区| 亚州欧美一区| 校园春色中文字幕AV| 伊人久久国产免费观看视频| 青青欧美在线| 亚洲 中文 女同| 亚洲天堂男人在线| 国产黄a三级三级三级av在线看| 俺去俺来也在线www| av婷婷色婷婷色六月| 脫衣舞一区二区三区| www.av在线视频| 麻花传媒免费网站在线观看| 久一区久久蜜桃| 亚洲欧洲综合| 操死我了啊啊啊| 蜜乳av一区二区三区| 久久久九九| 91欧美性| 色网亚洲人| 欧美天天干| 夜夜欧美| 韩国免费播放一级毛片| 97国产精品一区二区传媒公司| 日韩综合色图| 成人性爱免费播放| 伊人一级免费黄片| 久综合国内精品自在自线| 国产 亚洲 一二三四| 在线播放免费av福利片| 久久夜黄色无码A级大片| 操逼国产免费| 91GD.COM| 91粉芽高清在线一区二区| 91丝袜美女| 人妻天天夜夜爽一区二区| 亚洲中文人妻色| 久草精品视频| 欧美色爱综合| av中亚| 九t超碰| 99精品国产户外露出| 日韩欧美成人性爱在线| 国产综合网站在线播放 | 强奸国产精品视频| 免费中文在线| 天天色黄色影院天天操| 男人天堂2019亚洲| 日本免费二区三区| 粉嫩av平台| 国产亚洲 中文欧美久久| 亚洲AV色图一区| 91超碰在线观看| 国产毛片毛片4p懂色| 午夜.DJ高清在线观看免费7| 久久香蕉国产线看观看猫咪av| 成年人三级黄色片视频| 日韩精品一区的| 亚洲乱熟女一区二区| 欧美日韩啪啪电影| 日韩国产欧美伦理在线| 99精品在线播放| 丝袜性亚洲| 欧美情色亚洲| 污污汅18禁网站在线永久免费观看 | 久久中文字幕一区不卡| 国产AV色黄看到爽| 盗摄 精品 另类 一区| 国产情色第一第二页在线观看| 色色97爱| 亚洲国产一级精品毛一级精品看免费视频| 国产多人在线观看视频| 欧美翘臀视频网站一区二区三区| 欧美青青视频| 四虎884| 中文乱码字字幕在线第5页| 成人乱码一区二区三少妇| 午夜激情床戏激情| 亚州高清av| 奇米四色网| 伊人激情五月天一区二区| 成人情色一区二区| 国产AV线| 人人看人人插| 激情四射婷婷四五月天| 欧美三级偷拍| 狼狼色丁香久久婷婷综合五月 | 亚洲av影院在线观看| 亚洲国产一级中文综合久久天堂在线免费观看| 婷婷久久久精品| 近亲乱伦一区二区| 99色色网| 日本布卡一区二三区| 无码人妻丰满热妇又大又粗| 丝袜狠狠草尤物人妻av91| 日韩97超碰| 成人无码在线视频网站| 神马精品视频| 熟妇高潮二区三区| 中字幕人妻一区二区三区| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 亚洲91在线播放影院| 99999精品成人| 91搡老女人老妇女老熟女歌词翻译| 日本一区二区不卡精品| 任你干在线视频| 亚洲最新av无码成人精品区| 亚洲瓯美色图| 强奸乱伦AV一天堂网| 91网亚洲| 亚洲一级黄色毛片| 国产精品天美传媒| 天天亚洲| 91 丝袜在线播放| 激情丁香五月| 99在线精品观看视频中文| 人、人、摸,人、人、草| 欧美专区17页| 天天日B夜夜干B时时操B| 91模特在线观看| 中文字幕在线观看视频www| 亚洲中字慕不卡| 99亚洲天堂| 91精品国产91久久青草| 啊啊啊啊一区| 91综合色噜噜| 蜜桃臀av在线观看| 91丝袜在线观看| 精品人妻夜夜草| 亚洲一区在线观看欧洲 | 外国免费性情大片| 亚洲国产精品久久久久久久久久| 夜夜夜爽www精品视频| 曰韩精品九九无码| 大二网站亚洲| 一区二区三区蜜桃成人撸久久东京热 | 男人的天堂com| 久久婷婷一区二| 欧洲在线性爱视频| 一区二区视频你懂的| 性做久久久久久免费观看软件| 日韩BBN| 最新欧美色网| 国产精品人妻无码久久久老鸭窝| 欧洲精品一区二区三区| 国产精品自产拍在线观看社区| 激情婷婷丁香网| 色哟哟国产精品免费网址| 欧美性爱第一区| 日韩有码回春沙龙第一页| 国产人妻精品久久久一区二区三区 | WWW啪啪的com| 狠操91,com| 99这里有精品视频| 大香蕉视频一二三区| 欧美色自拍| 九九热九九热| 美女写真| 一区二区三区看视频| 日本东京热大香蕉a片| 国产无马av| 国产精品96| 日韩97视频| 久久一区无码| 久久九九视频九九视频| 超碰人妻97| 日欧毛片久久| 亚洲av无码成人精品国产| 欧美v亚洲v综合v国产v妖精| 97精品视频在线| 91亚洲影院综合| 超碰碰碰碰| 精品无码一区二区三区| 国产9熟妇视频网站| 国产美女精品| 操逼网免费无码视频| 国产精品视频自拍在线| 天天综合网在线91| 日韩精品99久久久久久中文字幕| 天天日天天爽| 午夜偷拍久久熟女| 综合亚州欧美| 欧美亚洲国产日本在线,久久精品国产| 天天日少妇逼AV| 中国一级操逼视频| 色色九区| nuu12国产麻豆精品| 欧美人妻色| 婷婷99狠狠| 亚洲性爱无码乱伦av| 香蕉热人人精品| 99国产精品| 中文字幕免费在线观看| 国产精品欧美激在线| 五月婷婷综合网| 亚洲AV成人无码久久精品播放| av毛片aaaaa免费看| 欧美色干| 欧美激情亚洲情色| 久久久久网站-538在线视频-欧美永久乱码| 国产精品久久久亚洲一区| 丝袜美腿制服人妻二区中文字幕| 欧美在线啊啊| 婷婷激情五月天小说网| 四虎午夜影院| 黑人娇小av在线播放| 国产精品3| 久久111| 美女淫穴| 九九久久国产精品| 国产一区96在线| 东京热男人的天堂网| 色综合色综合网| 久久一级无码精品毛片6| 国产精品嫩草影院免费| 精品人妻一区二区视频| 欧美色图片| 猛猛干| 亚洲天天操| 97香蕉网| 久久久久9999| 91欧美大片| 亚洲天堂在线怕怕视频 | 午夜精品久久久久久久99蜜桃一| 亚欧无码在线| 亚洲人体视频在线观看| 妇女性内射冈站HDWWWCOM| 亚洲欧洲中文日韩女优乱码| 国产精品久久天天干| 国产家庭乱伦表演| 欧美精品一区二区少妇免费A片| 吖在线不卡一区二区国产剧情| 午夜福利1区2区3区|