日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

Zabbix監(jiān)控Nginx:stub_status+UserParameter配置實戰(zhàn)指南

Zabbix監(jiān)控Nginx:stub_status+UserParameter配置實戰(zhàn)指南 Nginx 監(jiān)控這件事很多人一開始想復雜了。Zabbix 要拿到 Nginx 的運行狀態(tài)并不需要裝額外探針也不一定非要解析訪問日志最穩(wěn)定的入口其實是 Nginx 自帶的 stub_status 狀態(tài)頁。只要把它打開再用 Zabbix Agent 把里面的幾個數(shù)字讀回來就能完成請求量、并發(fā)連接、讀寫狀態(tài)的監(jiān)控再配上觸發(fā)器和圖形連接數(shù)異常、請求速率突變這些情況都能直接看到。這篇內(nèi)容按實際落地順序來拆先講 Nginx 狀態(tài)頁每個字段是什么意思再講怎么讓 Zabbix Agent 把數(shù)據(jù)采回來然后是 Zabbix 前端里的監(jiān)控項、觸發(fā)器和圖形怎么配最后做一輪實測把請求打起來再去看統(tǒng)計結(jié)果怎么解讀。適合剛接觸 Zabbix 監(jiān)控 Nginx 的人也適合已經(jīng)在用 shell 腳本采集、但想轉(zhuǎn)成 Zabbix 規(guī)范化監(jiān)控的人。1. 先搞清楚 nginx 狀態(tài)頁Zabbix 監(jiān)控 Nginx 的數(shù)據(jù)從哪來1.1 stub_status 輸出字段對照Zabbix 監(jiān)控 Nginx底層數(shù)據(jù)源不是日志而是 Nginx 自己維護的計數(shù)器。只要在 Nginx 配置里啟用 stub_status訪問狀態(tài)頁就能看到一小段純文本Active connections: 291 server accepts handled requests 16630948 16630948 31070465 Reading: 6 Writing: 179 Waiting: 106這段文本雖然短但每個字段都有明確含義。字段含義類型Active connections當前活動連接數(shù)瞬時值acceptsNginx 啟動以來累計接受的客戶端連接總數(shù)累計值handled成功處理的連接總數(shù)累計值requests累計處理的客戶端請求總數(shù)累計值Reading正在讀取請求頭的連接數(shù)瞬時值Writing正在讀取請求體、處理請求或?qū)戫憫倪B接數(shù)瞬時值Waiting空閑的 keep-alive 連接數(shù)瞬時值第一行Active connections是當前活動連接數(shù)。注意它包含后面 Reading、Writing、Waiting 三類的總和所以只要 Nginx 活著這個數(shù)值通常不會是 0。第二行是固定表頭server accepts handled requests。第三行的三個數(shù)字分別對應表頭都是只增不減的累計計數(shù)器只有 Nginx 重啟才會歸零。第四行的 Reading、Writing、Waiting 是三個瞬時值。一個請求從進入到結(jié)束通常會依次經(jīng)過 Reading、Writing 兩個階段最后進入 Waiting或者直接關閉連接。這幾個字段之間的換算關系是Active connections Reading Writing Waiting。理解這個關系后面看圖形和觸發(fā)器才不會被數(shù)字騙到。1.2 哪些指標值得接進 Zabbix不是每個字段都必須接進來但下面這幾個我建議至少都要有。請求速率是最核心的指標對應 requests 計數(shù)器看的是單位時間內(nèi)處理了多少請求也就是平時說的 QPS。只看累計值沒有意義必須換算成速率。新建連接速率對應 accepts 計數(shù)器看的是單位時間內(nèi)來了多少新連接。這個值和 QPS 的區(qū)別在于keep-alive 生效的情況下一個連接上可以連續(xù)發(fā)多個請求所以請求速率通常遠大于連接速率。當前并發(fā)連接數(shù)對應 Active connections是最直觀的負載指標。但它不能單獨說明問題必須結(jié)合 Reading、Writing、Waiting 一起看。Reading 如果持續(xù)偏高說明有一些客戶端請求頭發(fā)得很慢或者請求頭一直沒發(fā)完。Writing 持續(xù)偏高說明 Nginx 正在大量往客戶端寫響應這時候要關注帶寬和上游服務能不能跟上。Waiting 高反而是正?,F(xiàn)象說明大量連接是空閑 keep-alive對靜態(tài)資源或高并發(fā) Web 服務很常見。把這些字段全部接進 Zabbix才算真正把 Nginx 的運行狀態(tài)看完整。2. 環(huán)境準備與最小配置讓 Nginx 先吐出狀態(tài)數(shù)據(jù)2.1 確認 Nginx 是否支持 stub_statusstub_status 不是所有 Nginx 都默認包含。編譯 Nginx 時如果沒有加--with-http_stub_status_module這個功能就不存在配置寫了也會報錯。先檢查當前 Nginx 有沒有這個模塊nginx -V 21 | grep -o http_stub_status_module如果輸出里有http_stub_status_module說明支持。如果沒有有兩個方向重新編譯 Nginx 時加上這個模塊或者換成已經(jīng)默認包含該模塊的發(fā)行版軟件包。很多發(fā)行版和官方倉庫自帶的 Nginx 都已經(jīng)開啟了這個模塊但自編譯版本一定要單獨確認。這里提醒一下執(zhí)行nginx -V時編譯參數(shù)是在標準錯誤輸出里所以我加了21把錯誤輸出重定向到同一路。很多人第一次只看第一行 version以為不支持其實是沒看全。2.2 Nginx 狀態(tài)頁配置示例與安全限制確認模塊存在后在 Nginx 的 server 配置里加一個 location。以下是一份最小配置server { listen 80; server_name _; location /nginx_status { stub_status on; access_log off; allow 127.0.0.1; deny all; } }這里最關鍵的是allow和deny。stub_status 本身沒有任何認證機制任何人能訪問就能看到你的連接數(shù)、請求量和連接狀態(tài)。如果把狀態(tài)頁暴露到公網(wǎng)內(nèi)部運行信息等于公開了。所以默認只允許本機訪問是最穩(wěn)妥的做法。如果你的 Zabbix Agent 和 Nginx 不在同一臺機器上不要直接把deny all刪掉應該改成只允許采集機 IP 訪問location /nginx_status { stub_status on; access_log off; allow 192.168.1.100; deny all; }改完配置先檢查再重載nginx -t nginx -s reloadnginx -t這一步不能省。stub_status 的 location 如果配置在錯誤的上下文里或者和已有配置沖突reload 會直接失敗。2.3 用 curl 驗證狀態(tài)頁是否生效配置完成之后先在 Nginx 所在機器上驗證curl -s http://127.0.0.1/nginx_status如果能看到開頭那段文本說明狀態(tài)頁已經(jīng)可以訪問了。如果返回 404說明 location 沒生效或者配置在了錯誤的 server 塊里。如果返回 403大概率是deny all生效了而你的請求來源 IP 不在allow列表里。這里有個容易忽略的點如果你的 Nginx 不是監(jiān)聽 80 端口或者同時有 HTTPSURL 里要帶上實際協(xié)議和端口例如http://127.0.0.1:8080/nginx_status。先花一分鐘把 curl 這步跑通后面會省很多時間。3. Zabbix Agent 接入一條 UserParameter 和一個監(jiān)控項的關系3.1 安裝與基礎配置 Zabbix AgentZabbix Agent 是部署在 Nginx 所在機器上的采集程序。它的作用和 Nginx 狀態(tài)頁互補狀態(tài)頁負責提供數(shù)據(jù)Agent 負責把數(shù)據(jù)讀出來再交給 Zabbix Server。安裝方式要看你的系統(tǒng)和 Zabbix 版本直接使用官方倉庫安裝 zabbix-agent 即可。裝完需要修改配置文件常見要確認三個參數(shù)Server192.168.1.10 ServerActive192.168.1.10 Hostnameweb01Server是允許給這臺 Agent 下發(fā)被動采集請求的 Zabbix Server 地址。ServerActive是主動上報要連接的 Server 地址。Hostname是 Agent 上報時使用的名字在 Zabbix 前端添加主機時要保持一致特別是主動檢查時Hostname 對不上會直接導致數(shù)據(jù)丟失。這里解釋一下被動檢查和主動檢查的區(qū)別。被動檢查是 Zabbix Server 主動連接 Agent 的 10050 端口要數(shù)據(jù)主動檢查是 Agent 主動連接 Server 的 10051 端口上報數(shù)據(jù)。自定義 UserParameter 兩種方式都支持但排查問題時的思路不一樣后面會詳細說。改完配置啟動服務systemctl restart zabbix-agent systemctl status zabbix-agent3.2 通過 UserParameter 把 nginx_status 轉(zhuǎn)成監(jiān)控項Zabbix Agent 默認不認識 nginx 的 key需要通過 UserParameter 來定義。UserParameter 的格式很簡單一個 key一個命令Agent 執(zhí)行命令把標準輸出作為監(jiān)控值返回。在/etc/zabbix/zabbix_agentd.d/目錄下創(chuàng)建一個 nginx.conf寫入以下內(nèi)容UserParameternginx.active,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Active connections/{print $3} UserParameternginx.accepts,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk NR3{print $1} UserParameternginx.handled,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk NR3{print $2} UserParameternginx.requests,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk NR3{print $3} UserParameternginx.reading,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Reading/{print $2} UserParameternginx.writing,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Writing/{print $4} UserParameternginx.waiting,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Waiting/{print $6}逐個拆一下。每行都是一個 key例如nginx.active。后面的命令先用 curl 抓取狀態(tài)頁再用 awk 提取對應字段。awk 的寫法要特別注意。第三行的 accepts、handled、requests 是三個連續(xù)數(shù)字所以分別用NR3定位到第三行再打印第 1、2、3 列。Reading、Writing、Waiting 在同一行里所以要先用正則匹配到這一行再打印對應列。Writing 是第 4 列Waiting 是第 6 列這個順序很多人會弄錯。命令里的--max-time 3不是隨便加的。如果狀態(tài)頁異常導致 curl 一直掛住Agent 執(zhí)行這個 UserParameter 就會卡住嚴重時會占滿 Agent 的檢查線程影響這臺機器上的其他監(jiān)控項。加上超時時間最壞 3 秒也會退出。改完配置后重啟 Agentsystemctl restart zabbix-agent3.3 先用 zabbix_get 還是前端測試功能配置完 UserParameter不要急著去 Zabbix 前端創(chuàng)建主機先在命令行驗證一遍 key 能不能查到值。在有 zabbix-get 工具的機器上執(zhí)行它通常在 Zabbix Server 或 Proxy 上zabbix_get -s 192.168.1.20 -k nginx.requests返回一個數(shù)字說明這條鏈路通了。如果提示 Not supported 或者沒有輸出先不要懷疑 Zabbix 配置回到 Nginx 機器上直接執(zhí)行那條 UserParameter 命令看有沒有結(jié)果。這里有個容易踩的坑你手動執(zhí)行命令時用的是 root 用戶而 Zabbix Agent 運行時的用戶通常是 zabbix兩個用戶的環(huán)境變量、權(quán)限、可執(zhí)行路徑可能都不一樣。比如 zabbix 用戶沒有權(quán)限訪問某個目錄或者 SELinux 攔截了 zabbix 用戶執(zhí)行 curl都會導致手動執(zhí)行正常、Agent 執(zhí)行失敗。新版 Zabbix 前端在監(jiān)控項配置里也有一個 Test 按鈕可以直接測試當前主機上的 key返回結(jié)果和報錯更直觀。實際排查時我一般按三個地方順序看Agent 所在機器手動執(zhí)行命令、zabbix_get 從 Server 端測試、前端 Test 按鈕看報錯。4. 創(chuàng)建主機、監(jiān)控項、觸發(fā)器數(shù)據(jù)到告警的完整鏈路4.1 在 Zabbix 前端添加主機與監(jiān)控項命令行驗證通過后進入 Zabbix Web 界面按照 配置 → 主機 → 創(chuàng)建主機 的路徑添加一臺主機。填寫主機名時要注意Agent 配置文件里的 Hostname 和這里的主機名必須一致否則主動檢查會失敗。接口配置里選擇 Agent填寫 Nginx 所在機器的 IP 和默認端口 10050。添加監(jiān)控項有兩條路線。一條是直接鏈接模板Zabbix 模板庫里有 Nginx by HTTP、Nginx by Zabbix agent 2 這類現(xiàn)成模板不同版本的模板數(shù)量和名稱會有差異底層采集方式也是去讀狀態(tài)頁適合不想自己維護 key 的人。另一條是手動創(chuàng)建監(jiān)控項用剛才定義的 UserParameter 鍵值自由度更高也更容易理解每個數(shù)字怎么來的。如果你是第一次做我更建議先手動創(chuàng)建。原因很簡單自動模板會隱藏很多細節(jié)一旦出了問題你很難判斷是狀態(tài)頁的問題、Agent 的問題還是模板映射的問題。手動創(chuàng)建一遍等于把鏈路里的每個環(huán)節(jié)都摸清楚了。手動創(chuàng)建監(jiān)控項時以nginx.requests為例名稱Nginx Requests類型Zabbix Agent鍵值nginx.requests信息類型數(shù)字無正負更新間隔1m 或 30s 都可以歷史數(shù)據(jù)保留7d趨勢數(shù)據(jù)保留365d其他幾個 key 按同樣方法創(chuàng)建。4.2 請求速率、連接數(shù)怎么存儲和計算單位這里要解決一個關鍵問題accepts、handled、requests 這三個字段是累計值直接存進 Zabbix 只能看到一根一直向上的線很難判斷當前請求量到底是多少。所以必須讓 Zabbix 把累計值換算成速率。在 Zabbix 監(jiān)控項配置里有一個字段叫“存儲值”可以選“原樣存儲”“增量簡單變化”和“增量每秒速率”。存儲方式適用場景示例原樣存儲瞬時值當前是多少就存多少active、reading、writing、waiting增量簡單變化累計值的兩次差值accepts 每次變化量增量每秒速率累計值換算成每秒速率requests、accepts、handled對 requests、accepts、handled 這三個累計計數(shù)器應該選擇“增量每秒速率”單位寫成 req/s 或 conn/s。這樣 Zabbix 會在后臺自動計算兩次采集之間的差值再除以時間間隔得到每秒速率。如果你不想在監(jiān)控項里改存儲方式也可以用預處理步驟里的“每秒更改量”來實現(xiàn)同樣效果。兩者本質(zhì)上是一樣的看你習慣哪種。唯一要注意的是如果 Nginx 在兩次采集之間重啟過計數(shù)器歸零速率可能會出現(xiàn)一次很大的負值或異常值統(tǒng)計圖形上會出現(xiàn)明顯的斷點這是正?,F(xiàn)象不是系統(tǒng)崩潰。active、reading、writing、waiting 這四個瞬時值就保持“原樣存儲”它們的數(shù)值本身就是當前狀態(tài)不需要做速率換算。4.3 觸發(fā)器和告警閾值怎么定監(jiān)控項建好后數(shù)據(jù)會不斷進入 Zabbix但沒人盯著圖形的話異常還是發(fā)現(xiàn)不了。觸發(fā)器的意義就是自動判斷數(shù)值是否超過預期。觸發(fā)器配置路徑是 配置 → 主機 → 觸發(fā)器 → 創(chuàng)建觸發(fā)器。以活躍連接數(shù)為例一個簡單表達式last(/web01/nginx.active)10000含義是當前活躍連接數(shù)大于 10000 時觸發(fā)警告。再比如請求速率min(/web01/nginx.requests,5m)5000含義是最近 5 分鐘請求速率平均值超過 5000 req/s 時觸發(fā)。閾值定多少沒有標準答案取決于你的業(yè)務。我建議先讓 Zabbix 跑兩三天積累一段基線數(shù)據(jù)再根據(jù)圖形里的峰值來定警告和嚴重閾值不要憑感覺拍腦袋。第一次設置可以把閾值放寬一點確認告警鏈路能正常觸發(fā)后再往回收。觸發(fā)器還可以設置恢復表達式也就是數(shù)值降到多少以下時自動恢復為正常。這個最好一起配好否則每次數(shù)值震蕩都會反復觸發(fā)、恢復告警會很吵。要測試告警鏈路的完整效果除了觸發(fā)器還需要配置好動作和通知方式。如果暫時沒配郵件或其他通知也可以先只做觸發(fā)器通過 Zabbix 首頁的告警記錄來確認觸發(fā)是否成功。5. 實測一輪用請求壓一壓再去看統(tǒng)計結(jié)果和圖形5.1 制造流量curl 循環(huán)或 ab 簡單壓測配置完成之后最關鍵的一步就是實測。沒有流量監(jiān)控圖形是一條平線你很難判斷數(shù)據(jù)到底有沒有采集成功。最簡單的測試方法是用 curl 發(fā)一批請求。在 Nginx 機器上執(zhí)行for i in $(seq 1 1000); do curl -s -o /dev/null http://127.0.0.1/; done這個循環(huán)會向本機 Nginx 發(fā)送 1000 次請求每次丟棄響應內(nèi)容。優(yōu)點是環(huán)境干凈不需要額外工具。缺點是速度不夠快產(chǎn)生的請求速率不會特別高。如果你機器上有 ab也就是 ApacheBench可以壓得更明顯一些ab -n 5000 -c 100 -k http://127.0.0.1/這條命令的含義是總共發(fā)送 5000 個請求同時保持 100 個并發(fā)連接-k表示啟用 keep-alive。ab 在測試時會持續(xù)請求能把 Nginx 的請求速率和活躍連接數(shù)明顯拉起來。執(zhí)行的時候建議一次只跑一種跑完等一分鐘讓 Zabbix 完成幾個采集周期再去前端看數(shù)據(jù)。如果立刻去看采集周期還沒到可能什么都看不到。5.2 分析 Latest data 和 Graphs進入 Zabbix 前端的“監(jiān)測 → 最新數(shù)據(jù)”選擇剛才創(chuàng)建的主機就能看到每條監(jiān)控項的當前值。這時候你看到的應該是有具體數(shù)字的綠色狀態(tài)而不是“不支持”或“無數(shù)據(jù)”。以剛才 ab 壓測為例壓測過程中可以看到 requests 數(shù)值沖上去壓測結(jié)束后又會回落。如果配上圖形把請求速率、活躍連接、Reading、Writing、Waiting 放在同一張圖里觀察能很直觀地看到整個請求生命周期的變化。如果你沒有在監(jiān)控項里單獨創(chuàng)建圖形也可以在儀表盤中添加一個圖表組件數(shù)據(jù)源選擇對應主機的監(jiān)控項。Zabbix 的圖表組件支持把多個監(jiān)控項疊加到同一張圖上非常適合對比 Active connections、Reading、Writing、Waiting 這幾個相關指標。5.3 從數(shù)據(jù)反向判斷 Nginx 狀態(tài)是否健康數(shù)據(jù)有了接下來的重點是怎么讀這些數(shù)字。先看 active connections 和 waiting 的關系。如果活躍連接數(shù)很高但 waiting 也很高說明大量連接是空閑 keep-aliveNginx 實際壓力不大只是在維持長連接。如果活躍連接數(shù)高waiting 卻很低說明連接都在真正干活這時候負載才是真的高。再看 accepts 和 handled 的對比。正常情況下這兩個數(shù)值應該非常接近。如果 handled 長期明顯小于 accepts說明有一部分連接沒有被 Nginx 成功處理可能原因是 worker_connections 配置過低連接數(shù)被系統(tǒng)層面拒絕了。通過 Zabbix 監(jiān)控這兩個值的曲線差值能比看錯誤日志更早發(fā)現(xiàn)問題。再看請求速率和連接速率的關系。用 requests 速率除以 accepts 速率可以得到平均每個連接上的請求數(shù)。如果這個值接近 1說明 keep-alive 基本沒起作用客戶端每次請求都新建連接連接效率很低。如果明顯大于 1說明 keep-alive 生效良好一個連接上處理了多個請求。Reading 和 Writing 是更細的觀察點。靜態(tài)資源站點在壓測時Writing 會明顯升高因為 Nginx 正在往客戶端輸出響應。如果 Writing 持續(xù)高位但 requests 并不高可能是網(wǎng)絡帶寬打滿了響應寫不出去。Reading 持續(xù)高位則要小心可能是客戶端請求頭發(fā)送緩慢也可能是存在慢連接這種情況即使活躍連接數(shù)不高worker 也可能被拖住。這些判斷不能只看一兩個采樣點最好結(jié)合 5 分鐘、1 小時的時間窗口來看趨勢。這也是為什么前面建議把趨勢數(shù)據(jù)保留時間設長一些。6. 常見問題排查與生產(chǎn)環(huán)境落地的邊界6.1 Agent 顯示 Not supported 時按什么順序查Zabbix Agent 返回 Not supported 是監(jiān)控 Nginx 時最常遇到的問題。很多人第一反應是去改 Zabbix 配置其實大多數(shù)時候問題出在 Agent 側(cè)。我的排查順序是固定的。第一步直接手動執(zhí)行那條 UserParameter 命令看有沒有輸出。如果命令本身就沒輸出說明狀態(tài)頁、curl、awk 里有一環(huán)斷了。第二步確認執(zhí)行用戶。Zabbix Agent 通常以 zabbix 用戶運行手動用 root 執(zhí)行成功不代表 zabbix 用戶能執(zhí)行。可以用su - zabbix -s /bin/bash -c 命令來模擬 Agent 的執(zhí)行環(huán)境。第三步看 Agent 日志默認在 /var/log/zabbix/zabbix_agentd.log。日志里會記錄 key 對應的錯誤信息比如命令找不到、執(zhí)行超時、權(quán)限不足等。第四步改完 UserParameter 后確認重啟了 Agent。UserParameter 是在 Agent 啟動時讀取的不重啟不會生效。第五步從 Server 端用 zabbix_get 測試連通性。這一步能區(qū)分問題是出在 Agent 執(zhí)行命令還是 Server 與 Agent 之間的網(wǎng)絡、端口、密鑰配置上。還有一個常見問題Linux 有 SELinux 或 AppArmor 環(huán)境時zabbix 用戶執(zhí)行 curl 連接本機端口可能會被攔截。手動執(zhí)行正常Agent 執(zhí)行就是失敗排查到這一步時要看安全審計日志確認是不是被策略攔截了。6.2 狀態(tài)頁不能直接暴露在公網(wǎng)前面配置 Nginx 狀態(tài)頁時寫了 allow 和 deny這個限制在正式環(huán)境同樣重要。stub_status 只有數(shù)據(jù)輸出沒有認證、沒有訪問控制任何人拿到狀態(tài)頁地址就能看到你所有虛擬主機的連接數(shù)、請求量等信息。這些數(shù)據(jù)單獨看不算機密但結(jié)合業(yè)務時序可能暴露促銷活動、低谷期等運營信息。所以生產(chǎn)環(huán)境要遵守幾個原則狀態(tài)頁只監(jiān)聽內(nèi)網(wǎng)地址或只允許內(nèi)網(wǎng)訪問。Zabbix Agent 與 Nginx 部署在一起時直接限制為 127.0.0.1。如果需要遠程采集優(yōu)先讓 Agent 本機讀取不要讓其他機器直接 HTTP 訪問狀態(tài)頁。Nginx 服務本身就開啟了公網(wǎng)監(jiān)聽時更要檢查 allow 列表不要把公網(wǎng)網(wǎng)段放進去。另外狀態(tài)頁建議使用獨立 location不要放在一個會匹配大量路徑的通用規(guī)則里避免被掃描工具順帶發(fā)現(xiàn)。access_log off也要保留否則每個狀態(tài)頁請求都會寫一條訪問日志白白增加磁盤 IO。6.3 多實例和規(guī)范化模板、宏、命名規(guī)則如果只有一臺機器手動創(chuàng)建監(jiān)控項沒什么問題。一旦機器多起來比如七八臺 Nginx 都要監(jiān)控逐臺手動創(chuàng)建就很痛苦而且容易漏配。這時候應該把監(jiān)控項、觸發(fā)器、圖形整理成模板。在模板里創(chuàng)建好 nginx.active、nginx.requests 這些監(jiān)控項和對應的觸發(fā)器再把模板鏈接到主機上所有主機自動繼承配置。后續(xù)要加閾值、加圖形只需要改模板一處所有主機同步生效。模板里的閾值可以做成宏比如{$NGINX_ACTIVE_WARN}、{$NGINX_REQ_HIGH}。這樣在不同業(yè)務機器上可以差異化覆蓋不用復制整個模板。比如 A 機器請求量本來就大警告閾值定 8000B 機器是小業(yè)務閾值定 1000。用宏就能在同一套模板下按主機單獨調(diào)整。key 的命名也要規(guī)范。前面用的 nginx.active、nginx.requests 就是比較清晰的命名方式。如果一臺機器上有多個 Nginx 實例建議在 key 里帶實例編號比如 nginx1.active、nginx2.active避免數(shù)據(jù)串臺。6.4 歷史數(shù)據(jù)保留和監(jiān)控頻率最后聊一下采集頻率和數(shù)據(jù)保留。對 Nginx 監(jiān)控來說30 秒到 1 分鐘的采集間隔已經(jīng)足夠。不要看到別人用 1 秒間隔就覺得越快越好越短的間隔意味著越多的 Agent 執(zhí)行、越多的 Server 輪詢和越大的存儲開銷。尤其是自定義 UserParameter 每次都執(zhí)行 curl 命令如果一臺機器上有 7 個 nginx key每個采集周期就有 7 次 curl。機器數(shù)量一多這個開銷會被明顯放大。如果想降低開銷有兩個方向。一個方向是把采集間隔統(tǒng)一調(diào)大成 1 分鐘。Nginx 的指標本來就是慢變量1 分鐘內(nèi)的尖峰對告警影響不大。另一個方向是寫一個單獨的采集腳本一次抓取狀態(tài)頁把結(jié)果寫到臨時文件再由多個 UserParameter 去讀文件避免每次都重新 curl。后一種方案適合機器多、又不愿意放寬采集間隔的場景但腳本邏輯和錯誤處理要寫得更嚴謹否則一個腳本崩了所有 nginx key 都會失效。歷史數(shù)據(jù)保留方面原始監(jiān)控值保留 7 到 14 天足夠趨勢數(shù)據(jù)保留 365 天用于回顧容量。如果你發(fā)現(xiàn)自己經(jīng)常要回溯更久之前的 Nginx 指標建議單獨導出到外部存儲不要無限拉長 Zabbix 的保留周期否則數(shù)據(jù)庫膨脹之后整個監(jiān)控系統(tǒng)的查詢速度都會受影響。我個人更建議按這個順序落地先把狀態(tài)頁和 curl 驗證跑通再用 zabbix_get 確認 key 有數(shù)據(jù)然后創(chuàng)建主機和監(jiān)控項最后才是觸發(fā)器和圖形??雌饋砹鞒谈L但每一步都有明確的成功標準出了問題也知道在哪一段排查。真正跑過一輪測試之后你會發(fā)現(xiàn) Zabbix 監(jiān)控 Nginx 并不復雜難點反而不是工具而是你愿不愿意把一個累計計數(shù)器、一個狀態(tài)頁字段吃透。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久久极品伊人| 一类av片在线看| 欧美精品四区| 国产又色又粗又黄又爽| jiujiujiujingpin| 99久久综合| 精品国产精品一区二区| 翔田千里A片一区二区| 天天操人人操骚逼网站| 色五月婷婷五月天| 亚洲夜夜欢无码一区二区 | 亚洲色图激情小说| 成人七区| 欧美黄色大片在线观看| 久久产精品一区二区三区电影| 国产25页| 亚洲熟女乱综合一区二区三区| 一起草AV| 欧美大香蕉专区网| 午夜视频好爽啊| 91美女高潮| 国产精品制服丝袜中文字幕日韩一区二区三区| 精品一啪| 99re95| 精品一二三区久久AAA片| 91精品国产91久久福利| 在线二区不卡| 伊人国产视频| 亚洲欧美一区二区三区在钱蜜桃| 日本在线播放不卡一区| 欧美日韩另类在线播放| 久久av无码| 久久99久久99精品天美传媒棢·纸:.| 精品一二三区女同| 天天草AV| 亚洲色图美腿丝袜| 国产日本顶级一区二区三区| 天美传媒精品一区二区三区| 免费超碰97久久| 亚洲欧美天堂在线| 9久综合网| 极品美女福利在线观看| 黄在线| 无码操逼视频一下| 岛国黄| 青青草依人大香蕉| 日本一线产区和二线产区伦理片| 亚洲自拍青操视频| 老女人91| 美女网站黄页| 精品一区二区2| 91天射| 91撸色网 玖玖网 欧美| 色婷婷综合久久中文字幕雪峰| 狠狠五月天| www.色婷婷| 乱伦熟女区| 亚洲五码一区二区三区| 亚洲日韩国产欧美综合v| 操逼操逼视频操逼| julia高潮后不停追击中出| 亚洲中文字幕精品久久久久久直播| 91久久99久久91熟女精品| 午夜免费福利视频一区| 91色婷婷综合久久中文字幕二区| 乱色视频中文字幕| 亚洲nv男人的天堂网| 伊人激情| 91色图片| 青娱乐蜜桃臀AV色婷| 天天做天天爱天天爽AV| AV在线播放网址| 很狠操| 死我十八禁| 天美麻豆黄色录像| 国产熟女一区二区| 亚洲一卡二卡在线免费| 亚洲最大AV网| 91网站18在线| 欧美日韩传媒| 欧美性爱1080p| 色天使亚洲综合在线观看| 八人操人人摸人人看| 亚洲最大网站av| 人人人人人人少妇| 一区二区三区蜜桃成人撸久久东京热| 亚洲精品不卡一二三区| 成人毛片免费| 丁香五月色| 少妇免费视频| 亚洲第一男人天堂| 波多野结衣先锋影音| 日本久久精品| 精品一区二区三区四区外站| 99国产女人| 精品免费视频国产一区| 日本在线播放不卡一区| 97欧美精品综合| 啊灬啊灬啊灬啊灬高潮奶出了免费视| 99热在线观看| 新版天堂中文资源8在线| 人妻AV 中文字幕的| 91艹逼精品| 天天综合网合集91| 強姦亂倫a| 懂色AV一区二区三区| 丝袜翘臀后入欧美校园亚洲自拍另类小说一区中文字幕少妇诱惑 | 富女玩鸭子一级毛片| 亚洲一区二区三区中文字幕| 亚洲色图国产另类| 美女91网| 久久九九网| 国产成自自拍在线观看| 欧美一二三| 亚洲各类熟们中文字幕| 欧美第五页| 亚洲 自拍偷拍 欧美| 色婷婷丁香五月| 91美女看B| 精品91日日夜夜超清资源| 手机在线视频国内精品| 青青草伊人久久| 在线观看中文字幕| 丁香五月av| 人妻精品一区一区三区蜜桃91| 强被迫伦姧在线观看无码网站| 9l视频自拍9l九色成人| 蜜臀无码视频在线观看| 久久久久久久少妇| 天天综合~91| 天天日天天插| 午夜操一操| 婷婷伊人网| 日韩欧美中文字| 久久大黄片| 婷婷五月影院| 91女日逼| 精品妇女一区二区三区| 成人a大片在线观看| 亚洲最大的黄色电影网站。 | 亚洲九九九| 91 亚洲 欧洲| 啪啪啪精品| 欧美最婬乱婬爆婬性视频 | 60秒不遮不挡| 中文字幕亚洲欧美在线不卡| 国产极品粉嫩馒头一线天av| 磁力99AV| 在线综合色| 亚洲欧美日韩有码| 影音先锋视频在线| 夜夜操夜夜高潮夜夜爽国产精品区| 探花一区二区三| 亚热日本熟女| 色情五月综合婷婷| 欧美少妇色图| 伦在线97| 狠狠操综合| 爱丝福利| 中文字幕老熟妇黄色视频| 亚洲97精品| 啊啊啊com| 成人午夜高潮av猛片| 蜜桃中文字日产乱幕4区| 偷拍精品一区二区三区| 久热久| 日韩国产乱子伦App| 日韩综合97P| 久久男女激情视频网站| 亚洲色图图片| 精品999日本| 久久精品国产亚洲AV成人直播| 国产精品一区在线播放| 亚洲 欧美 另类 日韩 人妻一区| 欧美视频一区二区在线| 中文字幕97| 人人污日韩一区二区| 色婷婷九月天天综合| 精品人妻一区二区三区鲁大师| 热久久91婷婷| 亚洲成A∨人影院在线欢看| 97亚洲色图| 亚洲AV不卡在线观看尤物| 色五月婷婷中文字幕| 日韩一级性爱无码| 超碰97久| 物业黑人 AV一区| 国产精品一级片在线看| 特污精品女优骚货黄色视频在线免费观看| 高树玛利亚无码流出| 成年女人18级毛片毛片免费观看| 91久久九九精品国产综合| 午夜福利一区二区三区四区五区色婷婷| 91啪啪| 翔田千里AⅤHD无码| 日韩本不卡视频在线观看 | 欧美少妇第一页| 特级丰满少妇一级AAAA爱毛片 | 亚洲另类久操网| 国产h片在线观看视频| 一本色道久久综合精品婷婷| 亚洲天天影视色综合| 天堂九九九九九九九九九| www.av在线视频| JIZZJIZZ亚洲女人被躁| 成人免费性爱视视| 九九九九九精品| 天天干夜夜肏| 亚洲和欧美裸体美女双飞视频| 麻豆天美国美国产| 成人精品在线| 亚州精人品大香蕉| 91精品国产长腿丝袜美女| 亚洲国产一级精品毛一级精品看免费视频 | 91超碰人人| av强奸乱轮| 亚洲黄片免费在线播放| 亚洲国产精品无码AV久久| 在线小视频| 91强在线播放| 欧美在线第五页| 午夜激情床戏激情| 激情黄色片在线观看| 91精品久久久久五月天精品 | 少妇厨房愉情理伦片bd在线观看| 一级婬片120分钟试看| 色综合1991| 久久久久久久国产| 久久草视频污视频| 久久熟女嫩草成人片免费| 天海翼久久| 无码人妻系列少妇| 超碰色图| 综合网天天| 亚洲欧美第一页| 色激情综合网站| 一区二区三区免费视频入口| 久久五月天婷婷丁香中文字幕| 综合久久久久久久久91| 国产女同视频在线播放| 午夜福利精品| 六月丁香啪啪| 久久97资源 网| 97超碰色屌| 97操在线| 极品色电影院| 99热线麻豆| 欧美日韩人妻精品系列一区二区三区| 校园春色五月天| 日韩一级久久毛片| 搡老人老9丨女老熟人| 蜜乳AV网址| 动漫爆乳3D奶水一区在线观看 | 99爱久久视频频| 欧美激情超碰777| 亚洲视频一二区| 啊灬啊灬啊灬啊灬高潮奶出了免费视 | 色婷婷六月| 97午夜剧场日韩| 97视频620| 经典丝袜一区| 亚洲AV成人精品网站在AV| 人妻丰满熟妇一区二区三| 在线国产一区二区av| 久久一二三四五六七八九区区区 | 久热最新在线杭州| 午夜毛片亚洲精品片国产久久久| 国产精品爆乳懂色蜜乳| 超碰人人超在线观看| 日本久操视频| 无套后入双马尾| 少妇一级无码精品| 日本操BAV| 97蜜桃综合| 丝袜天堂网| 热G综合热G中文| 亚洲色图综合| 婷婷丁香六月| 欧美国产有色电影| 久久久久亚洲| 99色综合| 啊啊啊轻点在线观看| 久久精品国产精品一区| 人人操人人狠狠操| 久久人爽| 91色色网站| 天堂8在线新版官网| 一个人在线看的黄色电影网站| av东京热男人的天堂| 日本东京热久久久电影| 成人短视频在线观看| 中文字幕AV片| 国产精品国产自产高清AV| 99色悠悠| 亚洲欧美碰碰| 精品少妇一区二区三区在线视频| 亚洲凸凹超碰成人| 日韩操逼性鲍| 免费看污网站| 高清国产精品福利网站| 无码99| 日本免费一区二区不卡| 久久亚洲AV无码白度| 成人精品在线观看| 九热久| 免费中文在线| 国产AV天美传媒一区二区三区 | 日韩色香| 禁片 高清 在线观看视频网站| 亚洲丝袜二区在线| 欧美躁死她一区二区| nuu12国产麻豆精品| 天天色综亚洲91污| 97久久国产亚洲精品超碰热| 一本大道不卡一二三区| 亚洲天堂久| 久久美女国产| 9999亚洲电影| 加勒比久久综合网高清| 老司机午夜精品福利视频一区二区| 操婢日韩| 日本熟妇色熟妇在线视频播放| 成人aⅴ一区二区三区| 精品久久久久久久久久久久| 天天干干天天干干| 久久久久久99999国产精品| 秋霞蝌科网日本一区| x97av| 国产精品视频麻豆入口| 人人妻天天做天天爽| 午夜天堂啪啪| 91在线视频国产网站| 97人人中文网| 日本高清_区二区三区 | 另类欧美色| 热久久91婷婷| 正在播放国产精品一区| 骚熟女吞| av天堂影视中文在字幕在线中文| 另类欧美色| 蜜臀在线免费观看在线免费观看| 人人看黄色视频| 九一综合网| 中文字幕在线观看视频www| 91亚州| 人人摸.人人色| 9久精品视频在线观看| 国产av美女被艹的乱叫| 人人干黄色| 中文精品少妇天堂| 爱欲AV| 人妻精品一区二区在线| 一二三区精品视频| 国产欧美日产一区二区三区 - 国产欧美日 | 国产亚洲深夜激情| 色色九区| 91视频观看网站| 色色香蕉| 天天澡天天狠天天天做| 亚洲se电影| 中文伊人大香蕉视频| 亚洲精品国产无码高清| 快播久久人人aV| 女人妻一区| 日本欧美一区二区三区视频麻豆| 麻豆一区二区三区在线看 | 大香蕉久久| 精品国产91av一区二区三区 | 国产精品一区二区 尿失禁| 久久久久久久伊人精品| 极品美女嘿咻| 九九热精彩视频| 精精夜夜| 素人播放一区| 亚洲熟妇极品| 伊人激情| 五月开心网| 97最新在线播放视频| 牛牛操视频逼| 97欧美精品| 日韩大香蕉AV影片| 欧美激色| 久草精品一区| 精品国产乱码久久久久A| 日韩美女操b| AV一区观看| 91精品国产一区三一| 少好三P| 国产免费久久精品99re韩国| 丝袜无码a片| 热久久91婷婷| 草b在线| 97电影院超碰| 蜜臀国产AV中文字幕| 亚洲一级性爱视频免费看| 操屄日韩| 两女互慰AV高潮喷水在线观看| 欧差乱伦二三| 操逼逼一区视频| 人人弄人人摸| 日本一区二区三区午夜观看| 最新日本中文字幕| 日韩日本欧美在线观看| 国产操逼视频在线观看| 高潮的A片激情扒开一区| 9国产超碰| 日本淫乱女一区二区三区视频| 欧美激情专区| 久久久久久久九九九九九九| 性开放中文AV高清无码免费看| 日韩成人在线性爱视频| 色官网色综合| 亚洲一本大道中文字幕无码在线| 精品91| 亚洲无992tv| 91丨九色丨国产丨人妻在线| 在线欧美69V免费观看视频| 日本视频一区二区三区| 天天干天天燥| 激情接吻视频久久久久久| 日韩AV无码中文一区二区| 国产精品免费视频人成| 国产吞精a级片激情电影| www…国产操逼| 亚洲色图殴美色图激情乱伦| 97色色色| 四季AV一区二区凹凸精品小说| 狠操91,com| 久久成人东京热人妻| 国产一区在线播放| 亚洲国产91精品一区二区久久| 欧美日韩性爱无码| 激情综合婷婷| 日韩97视频!在线| 二三四区精品| 欧美亚洲首页| 欧美激情另类一区二区| www色色com| 伊人综合色网| 超碰97久久国| 超碰99在线| 国产操伦| 小少妇| 香蕉久久精品| 诱惑网综合| 91丨人妻丨国产丨丝袜| 久久久久婷婷| 青青草中日韩在线| 中文字幕乱妇免费视频| 欧美人妻一区| 色综和网| 亚洲97| 亚洲人妻中文高清| 婷婷成人久久久精品| 欧美色图 人妻| 99热这里只有精品18| 亚洲激情综合另类男同| 色五月首页| AV色五月天| 国产一区二区三区高清视频| 一区二区三区 日韩欧美| 日韩在线女优天天干| 91熟女视频网| 亚洲囯产精品女人久久久| 人妻久久久久久| 久久一区无码| 久热这里只有精品9| 十八禁的黄污污免费网站| 色优久久| 夜夜操一区二区| 国产91影院| 五月天激情小说网| 久久伊人东京热| 国产操逼逼网| 人妻在线臀日韩| 中文字幕三四五区| 五月婷婷大香蕉| 91男人天堂网| 久久久久久久国产a∨| 欧美激情超碰777| 91亚洲综合| 深爱五月天| 97鸡把在线视频| 亚洲欧美国产日本一区二区三区| 99热国产| 国产操操日韩三级黄| 欧美亚洲se91| 国产一级不卡在线观看| 午夜男人天堂| 蜜乳中文字幕a在线| 久久国色天香香蕉| 91色人妻| 涩涩久久精品| 三级网色| 91蜜桃传媒精品久久久一区二区| 国产成人手机视频激情| 91精品免费| 日本一区二区做爱的视频| 久9爱经典视频| 91碰超| 超碰97首页| 国产麻豆一级精品视频| 精品日日人妻| 少妇免费视频| 欧美强奸乱能| 久久精品超碰| 大胆91| 亚洲 小说 欧美 激情 另类| 麻豆久久久久久久久丝袜| A级在线视频| 国产传媒日本欧美专区| 日韩欧美aⅴ综合网站发布| 久久亚洲天堂| 亚洲欧美国产其他二区| 亚洲影视第一页| 99热综合| 视频在线观看免费一区二区三区| 玖玖超碰熟| 日韩不卡a级视频专区| 日逼97| A啊啊在线观看| 久久精视频美日韩在线视频| 射久久| 男人的天堂在线2| 东京热男人的天堂精品| 国产精品自拍视频| 91激情综合| 蜜臀av在线播放一区二区三区| 综合伊人激情| 成人综合久久精品色婷婷| 97干在线视频| 97视频在线视频| 日韩免费人妻色情网站| 日本孕妇一区二区视频操逼免费看 | 不卡av在线中文字幕| 偷拍亚洲视频一区二区三区四区| 成人日韩中文字幕| 玖玖婷婷五月天| 九九精品99| 久久久日本电影| 风骚少妇视频中文字幕| www色婷婷| 成人精品一区二区91毛片不卡| 国内一级精品| 国产夫妻性生活视频| 啊啊啊好湿久久| 精品久久一区二区三区四区五区| 强奸乱伦αv片| 超碰在线人妻中文字幕| 亚州性色| 91视频综合在线| 91新在线欧美| 97色五月天完| 五月综合激情网| 综合自拍| 色久桃花影院在线观看| 国产AAAAAABBBBB| 久久91| 国产91 丝袜在线播放| 欧洲亚洲人人爽爽视频| 超碰综合色| 五月天色电影| 射欧美综合| 久久大香蕉手机高清| 激情综合五| 久久香蕉国产线看观看猫咪av| av强奸乱轮| 激情抓乳插进去啪啪啪日韩 | 欧美亚洲AN| 在线天堂999| 欧美熟妇乱码在线一区| 97人妻色| 久久久蜜桃一区二区三区| 97色婷婷| 99热官网| 国产性感骚丝袜在线| 少妇高潮99p| 人人爽天天爽| 天天日日日射| 亚洲情色五月天 | 超碰久热| 欧美|91色综合| 91九九九馒头| 欧美韩国你懂得在线 | 97国产色综合| 国产这里只有精品| 青青草九九九九九| 人妻精品4K4K4K4K4| 欧美色66| 99re6国产精品99re| 亚洲伊人久久精品影院| 91久久精品美女高潮喷水| 亚洲第一页综合在线| 九九九成人| 蜜臀视频网站| 亚洲日韩视频二区| 郑州宾馆老熟女露脸啪啪| 精品黑人一区二区| 大香樵伊人网| 亚洲精品日日夜夜52| 久久五月天婷婷丁香中文字幕| 亚洲成人一区二区精品| 亚洲九月丁香| 国产精品视频精品一二| 国产99 中文字幕日韩小视频| 五月激情影院| 亚洲视频,小说| 亚洲欧洲色情高清| 玖玖爱视频网站| 曰韩人妻中文字幕在线| 夜间福利片1000无码| 操91| 男生女生啊啊啊啊| 人妻丝袜一区二区三区在线| 久久透逼视频| 色丁香五月婷婷| 人妻无码后入| 人妻少妇无码 | 黑人性欧美| 台湾佬大香蕉| 国产极品99热在线播放69| 九九热精品| 嗯嗯啊啊好疼| 久久久91| 黄色性爱网网| 97看操| 台湾佬大香蕉| 人人插人人摸人人| 首页亚洲国产高跟丝袜诱惑视频| 成人综合网 欧美| 日韩日韩日韩-国产乱码精品一区二区| 国产主播福利| 久久久久久亚洲精品不卡人乳| 国产精品3| 欧美18 在线观看| 亚洲精品中文字幕一区在线视频 | 色网亚洲人| 91 手机在线播放 绯色| 国产日韩人人| 九九色图| 亚洲蜜乳av| 亚洲无吗在线视频| 玖玖爱视频网站| 狠狠爱夜夜干| 啊啊啊啊啊啊啊啊啊啊在线观看| 91无码中出人妻视频| 日本免费中文字幕在线| 久久嫩草| 91色欧美| 伊人精品视频| 欧美在线色图| 偷窥自拍亚洲色图| 大香蕉九九| 国产粉嫩出水在线播放| 超97在线精品视频| 免费av在线播放二区| 亚州性色| 骚货 中文字幕 av| 999 久久久| 日日妻色网| 啊啊啊好大好湿| av东京热男人的天堂| 亚洲熟女乱综合一区二区三区| 91女网站| 久久久久久久久久久久久久久久9| 97超碰无码网| 精品97久久综合| 女人的天堂大香蕉网| SS久久| 蜜桃狠狠色伊人亚洲综合 | 亚洲图片欧美制度| 加勒比大香蕉视频在线| 四虎永久在线精品免费网址| 国产馆极品诱惑| 啊啊好多水| 亚州综合图片| 日日不卡av| 久久久96| 亚洲古典另类欧美在线| 亚洲欧洲网站免费观看| 青青欧美在线| 黑人与人妻| 免费观看一区| 中文字幕一区二区三区高清| 超碰人人在线| 97久久超碰国产网站| 怡红院亚洲怡春院av| 99热这里只有精品18| 亚洲成人性爱网站在线播放| 乱伦日本色图AⅤ| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴| 日本三级久| 97免费视频在线观看视频| 资源新线在线天堂| 欧美久久人人网| 人妻人人澡人人爽人人| 欧美亚洲手机在线| 亚洲成人色情五月天丁香花| 自拍第一页| 国产熟女免费观看久久| 另类亚洲图色| 精品蜜乳AV免费观看| 丁香五月激情综合国产| 久久熟女久| 伊人操你| 色优久久| 国产又粗又长又大的视频| 日韩 欧美 视频 在线 一区| 很黄很污的免费网站| 日韩精品-原创伙伴| 国产日本久久免费精品| av线电影| 欧美日韩国产高清在线一二三区 | av毛片aaaaa免费看| 亚洲精品国产精品乱码不99| 玖玖综合视频| 日韩欧美亚洲一区二区三区影院| 九九人妻| 久久久精品成人国产| 日韩成人人妻网站| 日韩精品碰碰| 国产精品久久久久久9999| 黄色免费网页无码| 久肏视频字幕| 99欧美| 国产一级高清免费观看| 人妻精品一区二区全免费| 国产又黄又粗又猛大片| 成人一区二区三区四区| 思思热免费视频观看| 国产精品一区二区麻豆| 久久久蜜桃一区二区三区| 久久亚洲天堂| 久热久一区二区三区| 日本精品一级二级三级| 91青青在线视频| 欧美乱色| 操逼日韩无码| 亚洲欧洲日本精品中文a∨| 蜜屁Av| 麻豆久久视频在线地址| 淫荡熟女乱伦网| 大学生美女口爆| 区一在线观看| 天天干嫩逼网| chaopen97久久| 岛国片在线观看视频亚洲| 天天草天天日| 久久精品国产亚洲妲己影视| 国产精品久久久久无码A√| 中文字幕日韩人妻视频一区二区三区| 亚洲国产奇米影视久久| 久久久久成人亚洲国产| 国产欧美一区激情交| 920日本午夜免费| 我想要啊 啊 啊| 白嫩妹子国产骚| 天天噜| 国产精品免费1区2区视频| 日本Xx性爱| 欧美亚洲激情小说| 青青草啪啪网| 极品色综合| 伦伦成年午夜免费视频| 九九碰九九爱97| 婷婷另类小说| 清纯唯美亚洲| 亚洲色图亚洲无码强奸乱伦| 久久久久久久久久久999| 欧美三四五区| 经典丝袜一区| 久肏视频字幕| 久久是精品| 欧美老妇综合网| 亚洲丝袜色图| 97欧美精品综合| 97视频在| 亚洲高清欧美总合| 亚洲一区在线观看欧洲 | 97超碰美女| 中文?日韩?免费?精品| av天堂精品久久| 五月天丁香网| WWW.操逼.COM| av爱爱爱| 天天综合网在线观看| 色香91| 婷婷色香| 99国产精品久久久在线播放| 人妻一区二区三区| 999综合色| 美女啊啊啊啊啊啊| www.91逼逼.com| 精品 码产区一区二-1080P高清在线www-B029AV | 伊人国产AV| 囯产精品久久久久久久久久梁医生 | 极品AV网站在线观看| 久久久啊啊啊| 成人性爱视频在线看| 极品五月天噜噜| 啊啊啊啊无码| www.黄色在线| 男人久久精品| 欧美片第一页| 精品超碰国产| 久久精品欧美一区二区三区不卡| 国产熟女完整版中字| 超碰 另类 欧美 | 亚洲资源站| 国产福利av精彩对白| 天天综合网1| 亚洲 无码 偷拍| www.操| 99亚洲国产精品色一区二区三区| 麻豆精品久久久久久久| 亚洲第一视频 欧美风情 日韩| 久久久久国产精品片区无码直播| 97免费视频网| 国产日韩在线播放av| 制服少妇欧美| 亚洲中文字幕久久人妻| 淫乱图区| 日本色色色视频| 久久久专区| 99精品国产户外露出| 日韩传媒在线| 精品无码不卡视频| 日本黄色天堂| 伊人久久艹| 91久久久亚洲| 少妇丝袜在线观看AV| HEYZO高无码国产精品227| 人澡逼| 国产久久一区二区午夜| 在线观看不卡一区二区三区| 精品人妻无码一区二区三区不卡-精品人妻无码一区二区...|精品少妇一区二区三 | 思思热免费在线视频| 欧美大色交| 天天操狠狠日夜夜干超碰撸com视频在线观看 | 免费看污网址| 欧美成人都市人妻| 精品久久久久久AV无码| 大屁股熟女一区二区三区| 一区二区 韩日AV| 国产精品点击进入在线影院高清| 美女超碰978| 九月丁香综合网| 日韩福利综合一区| 久久老熟女| 尤物视频偷拍免费| 亚洲天堂另类小说男人| AV无码久久久精品| 韩国三级一线观看久| 国产精品农村妇女精品| 91影视亚洲| 久久一留热品黄| 久久欧美1卡2卡3| 大香蕉综合网| 婷婷色婷婷| 97精品综合| 95人妻爽爽人人做人人澡| 色视频蜜乳| 中文字幕丰满人妻日本| 欧美亚洲小说| 天天天堂影视日韩亚洲91| 亚洲日本韩国极品一区二区| 亚洲av无线观看| 天天干人人干天天日97| 免费又黄又裸乳的视频| 翔田千里Av在线| 国产一区二区三区久久久精品| 午夜精品久久一区二区| 精品无码久久久久久久久果冻糖心| 漂亮人妻被强中文字幕hd| 久久噜噜噜精品国产亚洲综合| 性欧美| 美女啊啊啊啊啊啊| 国产农村妇女精品| 岛国1区2区3区在线观看| 无码外流操逼视频| 亚洲欧美在线观看2021| 欧美精品1区2区3区| 亚洲婷婷五月天| 97超碰色屌| 久久久三区二区一区| 国产成人无码久久精品| 久久精品国产精品亚洲艾通辽熟妇 | 国产视频一区二区免费| 91美女中出| 久久夜嗨| 99操逼| 国产黄色影片在线观看| 国产成人在线观看综合| 极品白嫩福利在线| 成人九九| 在线无码视频| 神马福利久草| 51一区二区三区| 亚洲春色欧美激情自拍| 中文字幕成人理论在线| 麻豆黄色五月天| 精品无码少妇| 国产免费黄色一级大片| 日韩av不卡在线观看| 九九九久千久久激情蜜桃在线看 | 99在线观看| 伊人久久蜜月| 一区不卡在线观看av| 久久久久久人妻| 成人AV在线网站| 丰满人妻区一区二区三| www.婷婷五月天| 本道在线| 97最新在线播放视频| 久操大香蕉超碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰 | 久久久无码精品人妻二区 | 国产午夜激片Av毛片不卡| 中国AAAAAA黄色片| 操逼1区| 天堂精品| 欧美18禁91| 在线精品福利免费播放| 凹凸精品熟女在线观看| 另类av综合久久| 久久五月综合| 综合免费无码中文| 欧美日韩中文视频播放| 97超碰资源网| 天天看综合网| 无码乱人伦中文视频| 99久久99久久免费精品蜜臀| 欧美在线视频观看一二三四区高清| 99热在线观看| 亚洲色图欧美视频| 91搞逼视频| 日韩性爱啪啪视频| 99久热精品99re6热| 丁香久久| 强奸乱伦中文字幕AV| 操操逼视频| 亚洲av成人精品一区| 综合久久2017| 国产精品一区二区三区在线| 久久一本大香蕉| 好爽,再快点啊哈嗯嗯嗯嗯| 无码少妇精品一区二区60岁老人| 国产精品网址| 日韩黄片视频试看| 国产成人自拍视频视频| 日韩极品无码B| 国产精品久久久久久亚洲色欲| 国产精品午夜AV完会免费 | 天天爽天天| 妇女性内射冈站HDWWWCOM| 日B操| 日本黄大片在线观看视频| 亚洲av性爱电影| 秋霞操逼片| 手机在线播放国产福利| 黑人操一区二区| 黑人黄片在线免费观看| 人人插人人搞人人操| 少妇滛荡视频| 欧美最婬乱婬爆婬性视频 | 青青草中文字幕| 日语五十路和六十路亚洲国产精品 | 色婷婷婷五月天激情四射| 黑人粗大V S日韩女优视频| 日日AAvv| 天天看精品动漫视频一区| 午夜一级免费毛片| 免费一级毛片在线视频观看| 丁香五月成人| 婷婷丁香一区二区三区| 久九九九九九九九热| 测评在线观看AV| 99精品国产户外露出| 国产自制av蜜乳| www.色婷婷| 97精品国产精品免费观看| 大逼色网站| 乱伦图av| 亚州色图狠狠干| 78久久| 破苞ⅩXXX性无码动漫无码| 激情文学小说一区二区| 天天干人人看综合| av三级电影在线播放| 免费人成毛片乱码| 国产乱伦亚洲| 97综合在线| av情色影音| 在线播放中文字幕| 91久久青青草原精品| 国产精品视频麻豆入口| 色优久久| 亚洲欧美综合色| 麻豆色99999| 久操91视频| 日韩成人人妻网站| 久久成人东京热人妻| 中国小夫妻勾搭露脸淫荡对白| 婷婷操逼| 综合久欧洲| 久久激情四射婷婷丁香五月天| AAAA欧美日韩| 亚洲**2021在线观看| 国产在线精品偷| 黄网站黄视频网站进入口| 欧美春色| 韩国黄片aaaa| 男人的天堂激情| 日本布卡一区二三区| 啪啪啪东京| 中文字幕91综合| 九九操久久国产免费视频| 狠狠操,使劲操| 中文字幕精品一区二区精品| 97综合久第一页| 老外又粗又长一晚做五次| 日本高清电影欧美色图| 久久久久久久久国产| 欧美亚洲国产91在线| 六月丁香婷| 哈哈操电影AV| 日本黄色天堂| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区 | 麻豆 亚洲 97| 天天拍夜夜| 看一级黄色视频| 大香蕉青青9| 九月丁香婷婷色| 天天看片天天爽| 99re免费| 色噜噜狠狠色综无码久久合欧美| 夜夜骑日日| 国产AV久久野战精品| 国产精品网站www| 日本操逼无码| 亚洲精品97在线| 久久久555| 久久性爱视频| 精品人妻一区二区蜜桃视频| 欧美精品精品一区二区| 东京太热久久久| 少妇淫妇久久久久久久| 日本三级大片| 伊人网综合在线视频| 97超碰久| 最新av中文字幕高清| 东京热一区二区三区四区五区六区| 2020中文字幕在线观看| 色婷婷视频| 日韩天天综合| 婷婷亚洲色| 欧美色九九| 亚洲 91 在线| 熟女人妻一区二区三区| 日韩亚洲美州欧洲综三区一品在线| 91操熟女视频 | 色综合九九| 成人精品一区二区三区| 欧美一区二区三区蜜桃| 精品v1区| 老熟女乱子伦中文字幕一区二区| 午夜精品久久久久久久99热影院| 无码丰满熟妇一区二区浪潮AV| 欧美另类自拍 | 91美女色视频亚洲| 天天操夜夜操狠很操| 狠狠爱AV| 中文字幕 国产 精品| 午夜一区| 九九九九九九九九九九九免费国产| 伊人久久综合影院精品久久久| 亚洲 se图 欧美电影| 亚一综合久久久久久久久久| 日本好吊色视频| 丁香色五月 97干| 殴美性天天| 欧美老妇女内射网址| 久久五十路熟女人妻| 五月天九九日国产精品一区二区三区| 任你爽视频| 69av一区二区三区| 日本九九久久99| 久久综合99| 肉动漫无遮挡h在线观看| 精品美女久久一二三| 日本操BAV| av三级电影在线播放| 亚洲91网站| 水澄无码AV| 嫩草在线视频| 成人小电影网站tex| 怡红院怡春院| 亚洲福利中文字幕在线| 综合久久99| 俞拍自拍| 九月丁香婷婷| 亚洲最大无码中文字幕网站| 搡老女人老熟女91| 97伦乱| 日本福利二区视频| 成人免费毛片| 日本熟妇精品九九| 超碰免费在线| 高清无码 国产精品| 熟妇熟女一区二区三区| 天美一区在线| 久久久久久久久久久六六| 国产精品69人妻无码久久久| 色图四区| 综合色久欲| 欧中日成人免费影视| 丁香六月啪| 搞中出久久| 亚洲爽图| 国产日韩中文字幕欧美| 成人热久久精品| 国产少妇肉丝在线观看| 秋霞曰韩R级| 无码 黑人一区二区三区| 女色综合| 97超久碰| 91亚洲精品青草| 天天爽天天干| 免费看A片毛毛片在线播| 国产精品久久久久无码Av网曝门| 婷婷五月色| 97在线/亚洲| 人人九九精| 日韩人妻网站| 91老熟女逼| 日本三级大片| 99热自拍| 啪啪性爱免费视频| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 欧美亚洲韩国视频十五区| 欧美天堂超碰97| juliaann精品熟女一区| 国产精品一区二区三区在线密挑| 一区二区三区视频在线观看免费| 国产亚洲日韩在线三区黑人| 亚洲成人激情小说视频| 夜夜骑夜夜操| 男人天堂资源| 91色久| 国产伦乱91| 国产一区二区啪啪视频| 亚洲黄片免费在线播放| 亚洲欧美国产中文视频| 男女猛烈无遮掩视频免费软件| 国产一区在线播放| 欧美综合另类| 久久春色| 91精品无码久久久久久久| 天天日天天干少妇日| 97超碰色色| 97综合在线|