日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Zabbix監(jiān)控Nginx實(shí)戰(zhàn):Agent端配置與狀態(tài)頁采集全解析

Zabbix監(jiān)控Nginx實(shí)戰(zhàn):Agent端配置與狀態(tài)頁采集全解析 先說結(jié)論Zabbix 監(jiān)控 Nginx最關(guān)鍵的環(huán)節(jié)不在 Server 端怎么寫監(jiān)控項(xiàng)而在 Agent 端怎么把 Nginx 的實(shí)時(shí)狀態(tài)穩(wěn)定采集上來。很多人裝了一堆組件最后發(fā)現(xiàn)數(shù)據(jù)過不來問題大多出在 Nginx 狀態(tài)頁沒開、Agent 配置文件沒改對(duì)、自定義監(jiān)控項(xiàng)寫錯(cuò)這三個(gè)地方。這篇文章適合兩類人。一類是剛開始接觸 Zabbix想用 Agent 方式給 Nginx 加監(jiān)控的新手另一類是已經(jīng)把 Zabbix Server 跑起來但搞不清客戶端、狀態(tài)頁、自定義 key 之間關(guān)系的人??赐曛竽隳馨错樞虼畛鲆粭l完整鏈路Nginx 暴露狀態(tài)頁Agent 執(zhí)行采集命令Zabbix Server 通過 key 拿到數(shù)據(jù)最終在 Web 界面看到指標(biāo)曲線和告警。下面按實(shí)際落地順序拆一遍。1. 先把Zabbix監(jiān)控Nginx的數(shù)據(jù)鏈路拆清楚1.1 Agent在監(jiān)控鏈路里到底干什么Zabbix 監(jiān)控 Nginx 可以有多種方式比如直接用 SNMP、用 Zabbix Agent、或者讓 Zabbix Server 主動(dòng)去請(qǐng)求 HTTP 接口。最常見、也最適合多數(shù)企業(yè)內(nèi)部場(chǎng)景的就是Zabbix Agent方式。Agent 本質(zhì)上是一個(gè)安裝在被監(jiān)控機(jī)器上的小服務(wù)。它負(fù)責(zé)做三件事接收 Zabbix Server 或 Zabbix Proxy 發(fā)來的數(shù)據(jù)請(qǐng)求執(zhí)行本地的采集命令、腳本或從狀態(tài)頁讀取數(shù)據(jù)把結(jié)果返回給 Server 端。所以Agent 不是直接“連”上 Nginx而是起到了一個(gè)翻譯和采集的作用。Nginx 本身不會(huì)主動(dòng)告訴 Zabbix “我的并發(fā)連接是多少”Agent 需要自己去讀 Nginx 暴露出來的狀態(tài)信息然后轉(zhuǎn)換成 Zabbix 能識(shí)別的數(shù)值。理解這條鏈路非常重要。很多人直接照著網(wǎng)上配置往配置文件里寫了幾行UserParameter發(fā)現(xiàn)沒數(shù)據(jù)就以為是 Zabbix 的問題。實(shí)際上往往是 Nginx 狀態(tài)頁本身打不開或者 Agent 所在用戶沒有權(quán)限執(zhí)行 curl又或者 key 名稱寫錯(cuò)了導(dǎo)致 Server 端拿不到結(jié)果。1.2 基礎(chǔ)監(jiān)控項(xiàng)可以直接用高級(jí)指標(biāo)要靠狀態(tài)頁或腳本如果你只是監(jiān)控“進(jìn)程在不在”那 Zabbix 自帶的模板和內(nèi)置 key 就夠了。比如用proc.num[nginx]或proc.num[nginx.exe]判斷 Nginx 進(jìn)程數(shù)量用system.cpu.load看 CPU 負(fù)載用net.if.in、net.if.out看網(wǎng)卡流量。這些不需要改動(dòng) Nginx 配置Agent 裝上之后就能用。但如果你想監(jiān)控 Nginx 的業(yè)務(wù)指標(biāo)比如當(dāng)前活躍連接數(shù)總連接數(shù)總請(qǐng)求數(shù)每秒請(qǐng)求數(shù)Reading、Writing、Waiting 的數(shù)量那一定要開啟 Nginx 的stub_status模塊并配置一個(gè)狀態(tài)頁。然后通過 Agent 的UserParameter去讀取解析。這里有一個(gè)常見誤解以為 Zabbix 官方模板會(huì)自動(dòng)采集這些數(shù)據(jù)。實(shí)際上官方模板里包含這些監(jiān)控項(xiàng)但前提是 Agent 端已經(jīng)裝好了 Nginx 狀態(tài)頁采集腳本或自定義 key。模板只是“裝了 CPU 插座”還得你自己把“電源線”接上。1.3 環(huán)境準(zhǔn)備和判斷標(biāo)準(zhǔn)準(zhǔn)備環(huán)境時(shí)先確認(rèn)以下條件Zabbix Server 已經(jīng)安裝并運(yùn)行Web 界面可以打開被監(jiān)控的 Nginx 服務(wù)器能訪問 Zabbix Server/Serve 端也能訪問 Agent 的監(jiān)聽端口Agent 版本盡量和 Server 主版本接近避免低版本 agent 不支持某些 keyNginx 編譯時(shí)帶上了--with-http_stub_status_module或者本身就是發(fā)行版默認(rèn)編譯好的版本如果是 Docker 部署的 Nginx也要確認(rèn)容器內(nèi)是否有 curl、grep、awk 這些基礎(chǔ)命令后面腳本采集時(shí)會(huì)用到。其中“Agent 版本和 Server 版本盡量一致”這條很多人會(huì)忽略。雖然 Zabbix Agent 大體上向后兼容但高版本 Server 搭配特別老的 Agent可能出現(xiàn)監(jiān)控項(xiàng)顯示“不支持”的情況。建議落地前先統(tǒng)一版本。如果只是學(xué)習(xí)測(cè)試單機(jī)部署一臺(tái) VM 就夠如果要進(jìn)生產(chǎn)建議把 Zabbix Server 和 Agent 分別部署在不同機(jī)器上避免性能干擾。2. Agent端安裝和基礎(chǔ)配置決定后面少踩一半坑2.1 安裝方式選擇Zabbix Agent 的安裝方式取決于操作系統(tǒng)。常見的有使用發(fā)行版官方倉庫或 Zabbix 官方倉庫安裝下載源碼編譯安裝使用 Docker 容器運(yùn)行 agent如果是 Windows Nginx還需要安裝 Windows 版本的 agent。安裝時(shí)最好不要用“從網(wǎng)上隨手找個(gè)包”的方式因?yàn)?Zabbix 官方倉庫會(huì)根據(jù)你使用的系統(tǒng)版本提供對(duì)應(yīng)的 agent 包依賴也能自動(dòng)處理。具體安裝命令這里不給死版本因?yàn)椴煌到y(tǒng)和 Zabbix 版本的倉庫地址差異很大。建議參考官方安裝文檔或者直接看倉庫安裝提示按照“添加官方倉庫 - 刷新包列表 - 安裝 zabbix-agent”的順序走。安裝完成后先不著急改配置確認(rèn) agent 二進(jìn)制文件已經(jīng)存在。which zabbix_agentd或者zabbix_agentd --version如果命令能打印出版本信息說明安裝成功。這一步能提前發(fā)現(xiàn)“安裝到一半缺依賴”“架構(gòu)不對(duì)”等問題。2.2 修改Agent配置文件Agent 的主配置文件一般叫zabbix_agentd.conf在 Linux 上常見路徑有/etc/zabbix/zabbix_agentd.conf、/usr/local/etc/zabbix_agentd.conf。Windows 上通常安裝在 agent 安裝目錄下。需要重點(diǎn)關(guān)注這幾個(gè)參數(shù)參數(shù)作用填寫建議Server允許向本 Agent 請(qǐng)求數(shù)據(jù)的 Zabbix Server 或 Proxy IP寫 Server 的實(shí)際 IP不要寫 0.0.0.0ServerActiveAgent 主動(dòng)連接 Server 的地址用于主動(dòng)模式同樣寫 Server IP 和端口HostnameAgent 在 Server 端注冊(cè)或顯示的主機(jī)名必須和 Web 界面創(chuàng)建的主機(jī)名一致UnsafeUserParameters是否允許自定義 key 包含特殊字符或帶參數(shù)如果自定義命令很簡(jiǎn)單可以設(shè)為 0如果帶參數(shù)、管道最好設(shè)為 1UserParameter自定義監(jiān)控項(xiàng) key 和采集命令可以寫在單獨(dú)文件里引用一個(gè)常見的問題是同時(shí)配置了Server和ServerActive但 Hostname 寫錯(cuò)了。結(jié)果就是 Zabbix Server 能看到主機(jī)但數(shù)據(jù)全斷斷續(xù)續(xù)。原因是被動(dòng)模式下 Server 根據(jù) IP 來找 Agent主動(dòng)模式下 Agent 要上報(bào)自己的 Hostname兩套機(jī)制的校驗(yàn)方式不一樣。我給你一個(gè)比較穩(wěn)妥的配置習(xí)慣先只配置被動(dòng)模式也就是Server和Hostname確認(rèn) zabbix_get 能取到數(shù)據(jù)后再按需開啟主動(dòng)模式不要一上來就同時(shí)開兩個(gè)模式排查起來不方便。2.3 啟動(dòng)與連通性驗(yàn)證配置文件改完后重啟 Agent 服務(wù)。systemctl restart zabbix-agent確認(rèn)進(jìn)程狀態(tài)systemctl status zabbix-agent然后看 Agent 日志確認(rèn)沒有報(bào)錯(cuò)。日志位置通常在/var/log/zabbix/zabbix_agentd.log。如果 Agent 和服務(wù)在同一臺(tái)機(jī)器可以用zabbix_get命令模擬 Server 拉取數(shù)據(jù)。zabbix_get -s 127.0.0.1 -k agent.ping返回1代表 Agent 活著。返回超時(shí)或cannot connect就要檢查端口監(jiān)聽和防火墻。接下來用同樣方式測(cè)試 Nginx 相關(guān)的內(nèi)置 key比如zabbix_get -s 127.0.0.1 -k proc.num[nginx]如果返回?cái)?shù)字說明 Agent 部署正常已經(jīng)能獲取系統(tǒng)數(shù)據(jù)。到這里基礎(chǔ)的 Agent 鏈路算通了。3. Nginx狀態(tài)頁開啟核心指標(biāo)都從這里來3.1 檢查Nginx是否帶stub_status模塊Nginx 的stub_status是官方自帶的一個(gè)模塊但很多源碼編譯的 Nginx 默認(rèn)并沒有把它帶上。所以第一步是先確認(rèn)??匆寻惭b Nginx 是否包含該模塊nginx -V 21 | grep stub_status如果有輸出說明模塊已經(jīng)編譯進(jìn)去了。如果沒有輸出有兩種處理方式重新編譯 Nginx在 configure 參數(shù)中加上--with-http_stub_status_module如果用的是發(fā)行版默認(rèn) Nginx可以檢查是否已經(jīng)默認(rèn)帶了這個(gè)模塊。比如某些 Linux 發(fā)行版的 nginx 包會(huì)默認(rèn)包含。重新編譯相對(duì)麻煩尤其會(huì)影響現(xiàn)有 Nginx 的平滑升級(jí)。建議先在測(cè)試環(huán)境驗(yàn)證不要直接在線上操作。如果線上 Nginx 是別人裝的你也不清楚編譯參數(shù)那就先跑nginx -V看看結(jié)果。3.2 配置location /nginx_status在 Nginx 配置中增加一個(gè)狀態(tài)頁 location。常見做法是新增一個(gè)獨(dú)立配置文件或者在server塊中新增 location。location /nginx_status { stub_status on; access_log off; allow 127.0.0.1; deny all; }這里最重要的不是stub_status on;而是allow和deny的訪問控制。默認(rèn)情況下這個(gè)頁面會(huì)暴露 Nginx 當(dāng)前所有連接和請(qǐng)求狀態(tài)。如果不做限制外網(wǎng)可以隨便訪問等于泄露了服務(wù)運(yùn)行基礎(chǔ)信息。所以一般只允許本機(jī)或內(nèi)網(wǎng)監(jiān)控網(wǎng)段訪問。如果 Agent 和 Nginx 在同一臺(tái)機(jī)器allow 127.0.0.1就夠了。如果 Agent 要從另一臺(tái)機(jī)器抓取就把a(bǔ)llow換成監(jiān)控網(wǎng)段但這樣會(huì)對(duì) Nginx 暴露一個(gè) HTTP 端點(diǎn)必須在防火墻層面做好限制。有些朋友會(huì)問不是 Agent 本機(jī)采集嗎為什么還要允許局域網(wǎng)因?yàn)槿绻愕牟杉_本是跑在 Agent 本機(jī)通過http://127.0.0.1/nginx_status訪問那確實(shí)只需要允許本機(jī)。但如果你嘗試從 Zabbix Server 直接用 HTTP agent 監(jiān)控 Nginx那就必須允許 Server IP。本文統(tǒng)一采用 Agent 本機(jī)采集的方式所以只允許 127.0.0.1 最穩(wěn)。配置完成后重載 Nginx。nginx -t nginx -s reload3.3 本地curl驗(yàn)證輸出格式在 Agent 本機(jī)執(zhí)行curl http://127.0.0.1/nginx_status正常情況下會(huì)看到類似這樣的輸出Active connections: 12 server accepts handled requests 100 100 200 Reading: 0 Writing: 1 Waiting: 11四行數(shù)據(jù)的含義第一行當(dāng)前活躍連接數(shù)第二行三個(gè)計(jì)數(shù)器的標(biāo)題第三行總接受連接數(shù)、總握手連接數(shù)、總請(qǐng)求數(shù)第四行正在讀取請(qǐng)求頭的連接數(shù)、正在寫入響應(yīng)的連接數(shù)、空閑等待請(qǐng)求的連接數(shù)。如果 curl 返回空或者 403、404先查 Nginx 配置是否真正生效再查防火墻。403 通常是 allow/deny 規(guī)則問題404 通常是 location 路徑或配置文件沒加載。4. 自定義監(jiān)控項(xiàng)把status頁轉(zhuǎn)換成Zabbix能識(shí)別的數(shù)據(jù)4.1 用UserParameter定義KeyAgent 拿到 Nginx 狀態(tài)頁內(nèi)容之后還需要把它解析成獨(dú)立指標(biāo)。Zabbix 是通過自定義 key 來實(shí)現(xiàn)的。在/etc/zabbix/zabbix_agentd.d/目錄下新建一個(gè)配置文件比如userparameter_nginx.conf寫入U(xiǎn)serParameternginx.active,curl -s http://127.0.0.1/nginx_status | grep Active | awk {print $NF} UserParameternginx.requests,curl -s http://127.0.0.1/nginx_status | sed -n 3p | awk {print $3} UserParameternginx.reading,curl -s http://127.0.0.1/nginx_status | grep Reading | awk {print $2} UserParameternginx.writing,curl -s http://127.0.0.1/nginx_status | grep Writing | awk {print $4} UserParameternginx.waiting,curl -s http://127.0.0.1/nginx_status | grep Waiting | awk {print $6}注意這里的命令里用到了管道和grep所以UnsafeUserParameters需要設(shè)為1否則 Agent 可能拒絕執(zhí)行這類帶特殊字符的命令。配置完重啟 Agentsystemctl restart zabbix-agent用zabbix_get測(cè)試zabbix_get -s 127.0.0.1 -k nginx.active如果返回?cái)?shù)字說明自定義 key 已經(jīng)生效。4.2 用腳本代替多條命令上面的寫法雖然簡(jiǎn)單但每條 key 都執(zhí)行一次 curl而且解析邏輯各不相同。如果有 5 個(gè)指標(biāo)每次采集都要重復(fù)請(qǐng)求 5 次狀態(tài)頁。雖然對(duì)單機(jī)來說影響不大但會(huì)讓監(jiān)控?cái)?shù)據(jù)點(diǎn)的時(shí)間不完全一致尤其是 active、connections、requests 三個(gè)值是不同時(shí)間快照畫圖時(shí)可能看到輕微波動(dòng)。更好的方式是寫一個(gè)采集腳本一次請(qǐng)求拿到所有值再按需輸出。#!/bin/bash STATUS$(curl -s http://127.0.0.1/nginx_status) case $1 in active) echo $STATUS | grep Active | awk {print $NF} ;; requests) echo $STATUS | sed -n 3p | awk {print $3} ;; reading) echo $STATUS | grep Reading | awk {print $2} ;; writing) echo $STATUS | grep Writing | awk {print $4} ;; waiting) echo $STATUS | grep Waiting | awk {print $6} ;; *) echo UNKNOWN ;; esac把這個(gè)腳本放到/usr/local/bin/nginx_status.sh并加執(zhí)行權(quán)限chmod x /usr/local/bin/nginx_status.sh然后配置 userparameterUserParameternginx.status[*],/usr/local/bin/nginx_status.sh $1這樣在 Zabbix Server 端可以用nginx.status[active]、nginx.status[waiting]讀取不同指標(biāo)每次采集只請(qǐng)求一次 Nginx 狀態(tài)頁。這類腳本方案適合指標(biāo)多、采集頻率高的場(chǎng)景。缺點(diǎn)是腳本出了問題排查難度更大所以腳本里盡量減少對(duì)系統(tǒng)命令路徑的依賴。4.3 主動(dòng)模式和被動(dòng)模式對(duì)自定義key的影響自定義 key 本身不區(qū)分主動(dòng)還是被動(dòng)兩種模式都支持。區(qū)別在于被動(dòng)模式Zabbix Server 發(fā)起 TCP 連接向 Agent 請(qǐng)求 keyAgent 執(zhí)行命令返回結(jié)果。適合監(jiān)控項(xiàng)不多、Server 并發(fā)壓力不大的場(chǎng)景。主動(dòng)模式Agent 每隔一段時(shí)間主動(dòng)去向 Server 獲取監(jiān)控項(xiàng)列表然后執(zhí)行并上報(bào)結(jié)果。適合監(jiān)控項(xiàng)很多、網(wǎng)絡(luò)分區(qū)復(fù)雜的場(chǎng)景。如果你使用主動(dòng)模式ServerActive必須配置正確并且 Agent 能訪問 Server 的 10051 端口。同時(shí) Hostname 必須和 Web 界面創(chuàng)建的主機(jī)名完全一致否則 Agent 上報(bào)的數(shù)據(jù)找不到歸屬主機(jī)。在測(cè)試階段建議先使用被動(dòng)模式因?yàn)閦abbix_get就是模擬被動(dòng)模式的請(qǐng)求排錯(cuò)更直觀。5. Server端把主機(jī)和監(jiān)控項(xiàng)綁定起來5.1 在Web界面添加主機(jī)Zabbix Server 裝好并配置好 Agent 后登錄 Web 界面在“數(shù)據(jù)采集 - 主機(jī)”里創(chuàng)建新主機(jī)。需要填寫的內(nèi)容主機(jī)名稱必須與 Agent 配置里的Hostname一致可見名稱可以自定義顯示在頁面上模板可以先選擇自帶模板測(cè)試連接性群組選一個(gè)已有主機(jī)組或者新建一個(gè) Nginx 組Interface選擇 Agent填寫被監(jiān)控機(jī)器 IP 地址端口默認(rèn) 10050。創(chuàng)建時(shí)如果勾選了“添加后啟用”保存后主機(jī)應(yīng)該會(huì)出現(xiàn)在可用主機(jī)列表里。很多人第一次配置時(shí)會(huì)把“主機(jī)名稱”和“可見名稱”混在一起。實(shí)際上主機(jī)名稱是 Zabbix 內(nèi)部用于匹配 Agent 上報(bào)的標(biāo)識(shí)必須嚴(yán)格對(duì)應(yīng)可見名稱可以隨便寫。如果主機(jī)名稱填錯(cuò)主動(dòng)模式下數(shù)據(jù)絕對(duì)不來被動(dòng)模式下有時(shí)還能通過 IP 匹配所以這個(gè)坑要記住。5.2 關(guān)聯(lián)模板或手動(dòng)添加監(jiān)控項(xiàng)Zabbix 官方提供了 Nginx by Zabbix agent 模板里面已經(jīng)定義好了監(jiān)控項(xiàng)和觸發(fā)器。如果你的 Agent 端已經(jīng)配好了對(duì)應(yīng)的自定義 key直接關(guān)聯(lián)模板就能看到數(shù)據(jù)。關(guān)聯(lián)模板之后建議先看“最新數(shù)據(jù)”。如果監(jiān)控項(xiàng)顯示“不支持”說明模板里引用的 key 在 Agent 端并沒有定義要么是自定義配置文件沒生效要么是 key 名稱不匹配。不使用模板的情況下也可以手動(dòng)創(chuàng)建監(jiān)控項(xiàng)字段示例名稱Nginx 活躍連接數(shù)類型Zabbix agent鍵值nginx.status[active]信息類型數(shù)字無正負(fù)更新時(shí)間30s手動(dòng)創(chuàng)建的好處是靈活壞處是每臺(tái)主機(jī)都要配一遍效率低。建議至少從模板開始再按需修改。5.3 最新數(shù)據(jù)驗(yàn)證添加監(jiān)控項(xiàng)后等一兩個(gè)更新周期再到“監(jiān)測(cè) - 最新數(shù)據(jù)”里查看。判斷標(biāo)準(zhǔn)有數(shù)值且持續(xù)更新鏈路完全通顯示不支持Agent 執(zhí)行命令失敗或 key 名稱不對(duì)顯示“不支持”但 zabbix_get 正常檢查 Server 端 Agent 配置的 IP 和端口有數(shù)據(jù)但一直不變檢查腳本是否用了緩存或者 Nginx 狀態(tài)頁是否更新異常。有時(shí)候 Agent 端剛改了自定義配置需要等 Agent 重啟后才會(huì)重新加載。如果發(fā)現(xiàn)改了配置但沒生效先確認(rèn)是否重啟了 zabbix-agent。我用 zabbix_get 排查時(shí)會(huì)習(xí)慣在前面加一個(gè)timeouttimeout 5 zabbix_get -s 192.168.1.10 -k nginx.status[active]加上 timeout 可以避免命令長(zhǎng)時(shí)間卡住尤其當(dāng)腳本內(nèi)部頻繁請(qǐng)求外部地址時(shí)。生產(chǎn)上不建議讓監(jiān)控采集命令永久阻塞Zabbix Agent 本身有 timeout 限制但腳本內(nèi)部如果卡在某個(gè)命令上也會(huì)拖慢采集。6. 數(shù)據(jù)沒到、不支持、為0時(shí)按這個(gè)順序排查6.1 Agent狀態(tài)不可達(dá)現(xiàn)象Zabbix Server 頁面顯示主機(jī)離線zabbix_get -s 目標(biāo)IP -k agent.ping超時(shí)或 cannot connect。排查順序先確認(rèn)目標(biāo) IP 是否通ping 目標(biāo)IP確認(rèn) Agent 端口監(jiān)聽是否正常ss -lntp | grep 10050確認(rèn)防火墻是否放行端口Linux 檢查firewalld或iptables確認(rèn) Zabbix Server 能否連接到該端口用telnet 目標(biāo)IP 10050或nc -vz 目標(biāo)IP 10050如果前面都正???Agent 日志可能有配置錯(cuò)誤或啟動(dòng)失敗。大多數(shù)“不可達(dá)”不是 Zabbix Server 的問題而是防火墻或者 Agent 沒啟動(dòng)。6.2 監(jiān)控項(xiàng)顯示不支持現(xiàn)象agent.ping正常但 Nginx 相關(guān)監(jiān)控項(xiàng)顯示“不支持”。在 Agent 本機(jī)執(zhí)行zabbix_get -s 127.0.0.1 -k nginx.status[active]如果返回非數(shù)字或報(bào)錯(cuò)繼續(xù)看key 名稱是否和 Server 端完全一致自定義配置文件是否生效腳本是否有執(zhí)行權(quán)限腳本里的 curl 是否能訪問 Nginx 狀態(tài)頁Agent 日志里是否有cannot run command之類的記錄。這一層最常見的問題有兩個(gè)一個(gè)是UnsafeUserParameters0導(dǎo)致帶管道或參數(shù)字符的命令被攔截另一個(gè)是腳本權(quán)限不對(duì)Agent 執(zhí)行腳本時(shí)沒有執(zhí)行權(quán)限返回空值。6.3 數(shù)據(jù)為0或長(zhǎng)時(shí)間不變?nèi)绻?zabbix_get 能返回?cái)?shù)字但 Web 界面數(shù)據(jù)為 0 或不變可能的原因監(jiān)控項(xiàng)類型設(shè)置錯(cuò)誤比如把整數(shù)項(xiàng)配置成字符型更新周期太長(zhǎng)短時(shí)間內(nèi)看不到變化Agent 端腳本使用了緩存文件但緩存文件沒有及時(shí)更新Nginx 狀態(tài)頁的數(shù)值確實(shí)沒變化尤其是 Reading/Writing/Waiting請(qǐng)求量低的時(shí)候波動(dòng)很小。遇到這種問題先把監(jiān)控項(xiàng)改成 10s 更新間隔觀察同時(shí)把采集腳本手動(dòng)執(zhí)行幾次對(duì)比結(jié)果。如果手動(dòng)執(zhí)行有變化而 Zabbix 一直取舊值多半是 Agent 端緩存或 Server 端歷史數(shù)據(jù)存儲(chǔ)延遲。6.4 檢查權(quán)限和SELinux這個(gè)坑在 Linux 生產(chǎn)環(huán)境中非常普遍。如果 Agent 和 Nginx 都在同一臺(tái)機(jī)器Agent 執(zhí)行 curl 訪問http://127.0.0.1/nginx_status一般沒問題。但如果 SELinux 開啟可能會(huì)有連接被拒的情況。排查時(shí)先看/var/log/audit/audit.log有沒有 denied 記錄。有的話可以采用兩種方式放通相關(guān)端口或者把 SELinux 臨時(shí)轉(zhuǎn)為 permissive 測(cè)試。不要一上來就永久關(guān)閉 SELinux先確認(rèn)是不是它的原因。Zabbix Agent 默認(rèn)以zabbix用戶運(yùn)行這個(gè)用戶對(duì) Nginx 狀態(tài)頁的訪問是走 HTTP 協(xié)議的不涉及文件系統(tǒng)權(quán)限但要在操作系統(tǒng)層面允許它建立本地網(wǎng)絡(luò)連接。如果連本機(jī)回環(huán)都被限制curl 會(huì)返回空。7. 從單臺(tái)試跑到批量部署還要補(bǔ)三件事7.1 批量部署Agent單機(jī)跑通后批量監(jiān)控也別急著手工逐臺(tái)配置。建議提前準(zhǔn)備好 Agent 配置文件模板和安裝腳本利用自動(dòng)化運(yùn)維工具分發(fā)安裝。批量部署時(shí)每臺(tái)機(jī)器需要變化的內(nèi)容主要有兩個(gè)Hostname和Server。Server通常都指向同一個(gè) Zabbix ServerHostname則建議用機(jī)器名或業(yè)務(wù)名方便識(shí)別。如果沒有自動(dòng)化工具可以寫一個(gè)簡(jiǎn)單的 Shell 腳本在一批機(jī)器上執(zhí)行安裝、寫入配置、啟動(dòng)服務(wù)。關(guān)鍵點(diǎn)在于腳本要冪等重復(fù)執(zhí)行不會(huì)產(chǎn)生重復(fù)監(jiān)控項(xiàng)或配置沖突。7.2 模板復(fù)用和指標(biāo)命名規(guī)范批量部署前先定義一套統(tǒng)一的監(jiān)控項(xiàng)命名規(guī)范。比如nginx.active nginx.requests nginx.reading nginx.writing nginx.waiting不要每臺(tái)機(jī)器都用不同的 key 名。否則后面加圖形、加聚合、加告警時(shí)工作量會(huì)翻好幾倍。在 Zabbix 里一套完整的 Nginx 監(jiān)控模板應(yīng)該包含監(jiān)控項(xiàng)連接數(shù)、請(qǐng)求數(shù)、Reading、Writing、Waiting觸發(fā)器活躍連接數(shù)過高、請(qǐng)求數(shù)異常下降、Nginx 進(jìn)程數(shù)小于 1圖形連接數(shù)和請(qǐng)求數(shù)趨勢(shì)圖聚合原型如果需要按集群視圖查看可以配置聚合監(jiān)控項(xiàng)。模板設(shè)計(jì)好之后所有新主機(jī)直接關(guān)聯(lián)模板避免人工逐條添加監(jiān)控項(xiàng)。7.3 監(jiān)控頻率與告警閾值的取舍Nginx 的指標(biāo)采集頻率不建議太高。默認(rèn) 30 秒到 1 分鐘已經(jīng)足夠尤其是請(qǐng)求數(shù)、活躍連接數(shù)這類指標(biāo)本身就是瞬時(shí)快照采集頻率高并不能提高準(zhǔn)確性反而會(huì)增加 Agent 和 Server 的負(fù)擔(dān)。告警閾值要根據(jù)實(shí)際業(yè)務(wù)來定。比如活躍連接數(shù)超過某個(gè)值就告警但不同服務(wù)器的性能差異很大最好先采集一周數(shù)據(jù)再看基線請(qǐng)求數(shù)突然掉到接近 0可能是 Nginx 掛了也可能是業(yè)務(wù)本身陷入了低谷Reading、Writing 長(zhǎng)期偏高說明可能有大文件傳輸或慢客戶端不一定是故障。我在實(shí)際項(xiàng)目中用過的最不后悔的一個(gè)習(xí)慣是剛開始只采集不告警。先積累一兩周數(shù)據(jù)再根據(jù)真實(shí)基線設(shè)定閾值否則很容易被誤報(bào)刷屏。7.4 日志和備份最后補(bǔ)一個(gè)容易被忽略的點(diǎn)Agent 端自定義配置和腳本要納入版本管理不能只留在機(jī)器上。否則重裝機(jī)器后監(jiān)控配置就很難原樣恢復(fù)了。Zabbix 本身的模板、主機(jī)、監(jiān)控項(xiàng)配置也要定期導(dǎo)出備份。監(jiān)控系統(tǒng)一旦配置多了重新手搭非常痛苦。備份不只是保護(hù)數(shù)據(jù)也是在保護(hù)自己的運(yùn)維效率。如果只是學(xué)習(xí)按默認(rèn)配置跑通就可以了如果要長(zhǎng)期維護(hù)那就把日志、輸出目錄、模板備份和權(quán)限控制都提前整理好后面真的會(huì)省很多事。踩過幾次之后我發(fā)現(xiàn)Zabbix 監(jiān)控 Nginx 的坑很少在“功能不夠”上多半是前置環(huán)境不一致、狀態(tài)頁訪問受限、自定義 key 書寫習(xí)慣不統(tǒng)一。把這幾條理順整個(gè)監(jiān)控鏈路就穩(wěn)了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
337p大胆噜噜噜噜噜91Av| 偷拍色图| 亚洲国产一区二区入口| 九九热三级片| 操淫穴亚洲五月丁香 | 玖色AV| gogogo免费高清看中国国语| 日韩精品碰碰| 强奸乱伦Av网| 欧美一区二区一级岛国大片| 东北熟女91| 欧美91网站| 97国产色综合| 超碰公开久久网| 欧美后进式| 国产精品无码av在线| 女人久久久| 99色热| 1二区9| 国产天美欧美| 青青草原人妻| 青娱乐 成人娱乐在线| 九九黄色视频在线观看| 国产精品青青草| 久久99亚洲精品久久99果| 亚洲高清无码在线桃色| 黄色一区二区秘书性感| 人人妻人人爽 97人人看碰人免费公开视频| 天天射天天色成人| 人妻熟女一区二区三区视频| 欧美丝袜中文字幕07在线| 久久久久久久久久久精| 97超碰超碰| 天天看天天日天天操| 麻豆一区二区AV天美| 国产青青综合伊人| 天天天干977| 国产又粗又长又大的视频| 青青青草原| 国内毛片四区| 高清国产成人无码| 亚洲国产av中文字幕久久| 欧美一区二区一级岛国大片| 中文字幕一区二区日韩网| 欧美黄色片在线播放| 国产成人午夜视频网址| 色婷婷狠狠| 操狠狠| 日本不卡卡一区| 800zy一区二区| 久久免费中文字幕在线观看| 裸体1区| 91无摭挡| 女性喷水高潮在线观看| 久久男人精品| 欧美成不卡网| 超碰97欧美日韩| 熟妇人妻精品一区二区| 亚洲国产一级黄色视频| 爽极品影院| 亚洲欧美一区二区三区一猛片| 日韩性爱网址| 国产AV天美| 99热国产精品| 手机午夜电影神马久久| 特级丰满少妇一级AAAA爱毛片| 99久re热视频精品98| 东京太热久久久| 东北操逼| 国产一区二区三三视频| 激情网五月天| 97在线亚洲| 97视频在线| 17c在线成人免费A片观看| 亚洲成熟国产精品美女| 精品国产乱码久久久久久影片| 久久人人爽爽爽人久久久| 超碰日韩美妻| 久久夜夜| 麻豆天美国美国产AV| 激情亚洲天堂| 鸥美中出| 免费啪啪一级视频| 久久、1234| 色爱亚洲| 国模精品娜娜一二三区| 大香蕉欧美伊| 久久精品店| 在线强奷到舒服的无码视频 | 伊人在线大香蕉二。| 国产一区二区在线播放| 日韩精品黄片免费观看| 欧美亚洲第1页| 久久久久久久9999| 午夜精品探花| 91天天c| 精品国产乱子伦一区二区三区,精品一| 青娱乐亚洲自拍| 啪啪91| 啊啊啊好大好深| 日韩亚洲国产视频| 欧美少妇高潮久久91| 超碰91在线| 丝袜熟女一区二区三区| 亚洲AV色图一区| 一个色导综合| yazhousetuoumei| 91亚洲情色| 成人丁香五月| 东京热,男人的天堂| 蜜乳AV一区| 99xav| 中文色综合| 久久一区无码| 中文?日韩?免费?精品| 欧美性爱五月天| 久久久久久免费电影| 欧美日韩亚洲一区二区在线观看| 色五月激情AV在线| 日日操丁香五月天| 97操综合| 婷婷五月天丁香| 欧美亚洲今日在线| 亚洲熟妇乱女区二区三区| 97超碰欧美手机| 91精品黄在线观看| 另类欧美综合| 超碰人妻中文在线| 国产黄色 A 片免费看| 欧美国产有色电影| 激情五月天视频| 中文字幕一区二区三区四五区| 91干熟女| 女欧美一区二三区| 日韩操呦呦影院在线观看| 精品性爱一二三区| 久久嫩草| 亚洲色图a| 在线播放一级无码视频| 综合色久欲| 91久久精品蜜臀| 婷婷色综合欧美日韩| 青青草国产亚洲精品久久| 成人日韩3| 亚洲资源网| 丁香五月综合| 伊人精品久久网站| 一二三区精品视频| 尤物av网站| 国产美女裸体秘 永久无遮挡| 亚洲免费97免费| 亚洲制服欧美另类内射| 日本一二区不卡| 大香蕉综合久久| 岛国成人av在线播放网址| 欧综合网| 好看的久久不射无码影视影院| 99性爱在线观看| 97色操| 91 国产丝袜在线放观看| 亚洲色图欧美色图日韩色图| 人妻丝袜一区二区三区在线| 美女大乳久久久久久久女人18| 大香蕉一线视频| 久久久久久97| 四季av一区二区凹凸精品小说| 亚洲中文字幕噜噜噜久久久| 日韩av影片在线观看| 91内射| 久久久少妇诱惑精品视频| 欧美黑人XXXⅩ高潮交| 日韩操p| 香港久久久| 偷偷人人精品女女久久| 91处女在线观看| 91在线美女| 97爱| 国偷自 一区二区| 久久九九综合| 国产av又色又爽又黄| 超碰在线一区二区三区| 少妇高潮喷水无套久久久久久| 99欧美| 激情专区综合| 日本免费中文字幕在线 | 久久99亚洲精品久久99果| 97超碰站| 中文字幕乱亚洲美女精品一区| 日本熟妇精品九九| 亚洲色图美腿丝袜| 精品国产网站| 丝袜视频一区二区在线播放国产中文| www久久久| 人人摸人人摸人人干| 黄色免费网| 外国免费性情大片| 欧美黑人与女人91| 97在线免费视频| 国产suv精品一区二六| 99re在线观看| 亚洲揄拍网| 久久av色| 精彩国产视频播放1区2区| 天天综合网~69| 91站街按摩店老熟女熟女| 亚欧性爱ab| 超碰成人国产| 深爱五月婷婷| 97网址www| 久久久久久久久久久人妻| 五月色综合| 99热在线观看| 91红杏| 久久精彩视频9| 日韩精品熟妇| 成人片视频| 欧美色图人妻| 91bbb| 久久久精品中文字幕爱豆| 日韩有码 一区二区三区| 91久久久亚洲| 中文字幕91页| 蜜桃久久综合视频| 韩国女主播青草在线| 欧美一区二区传媒| 色亚州人久干视频在线观看免费版| 日韩中文字幕2020| 久久久久深夜无码| 97视频在线播放| 欧美日韩性爱电影在线| 一级特级aaaa毛片免费观看| 四虎AV在线观看| 日本免费一区二| 台湾大香蕉99热| 99999这里都精品| 九九九成人| 精品视频在线观看精品| 天天做日日爱夜夜爽| 综合久| 久操视频免费在线观看| 亚洲日本天堂| 久久久性| 免费视频a级毛片免费视频| 久久美女福利是上海美女| 亚洲激情网一二三四区| 久久精品视频28| 欧亚 另类 久| 特级毛片特黄久久免费看| 色婷婷综合视频| 不卡九肏| 色综合加勒比| 中国探花熟女| 九一综合精品视品av| 好舒服视频| se..亚洲欧美| 色yeye成人免费视频| 啊啊啊啊啊在线观看网址 | 嗯嗯啊啊的视频| 欧美性高潮| 日韩综合无码色欲vv| 色情成人五月天| 久久视网78| 丝袜加勒比| 欧美日韩大黄片| 91粉芽高清在线一区二区 | 粉嫩粉嫩一区性色AV片| 少妇极品熟妇人妻无码| 另类图片综合| 色色综合网站| 日本2020一区二区| 无码高清专| 久久111| 伦理第一页| 大屁股xxxxx| 热久日综合| 91成人无码| 欧美极度丰满熟妇hd| 超碰 av 女人天堂| 69XX一中文字幕人妻91| 91亚洲黑人| 上床啊啊啊| 激情五月天社区| 久久99精品九九久久久婷婷| 操逼不卡中文字幕| 色娱乐色呦呦夜夜夜夜av| 蜜臀久久99精品久久久久| 国产福利影视| 99夜夜操| 天天操天天射青青草| 久久久久久久91| 久久老子无码午夜伦不卡| 麻豆精品三区视频| 大香蕉专区| 色娱乐色呦呦夜夜夜夜av| 成人av福利在线观看| 国产精品 午夜福利| 欧美色图亚洲激情| 爆乳免费黄网站| 综合夜夜| 97色涩| 成年女人黄网站| 天天操天天日青青草超碰av| 国产亚州精品美女久久久免费| 无码人妻精品一区二区三区九九 | 熟妇人妻一区二区三在线| 国产精品一区av在线| 东北女人被操| 国产成人无码网站在线视频| 992视频一区| 色性综合| 操逼操逼逼操操逼91 | 91天美免费| 国产日比| 中文字幕日韩电影人妻| 蜜桃丰满熟妇av无码区不卡| 亚洲欧洲国产综合av| 91高清欧美| 一区二区三区在线资源| 日小BB小视频| 无码人妻一区二区三区免费九色| 美日韩一卡二卡三卡免费人妻精品| 超碰欧美| 四虎影视 亚洲无码| 97人妻碰碰中文无码久热丝袜| 青青草好吊色| 久久 亚洲 日韩 人妻| 日本操逼二区| 青娱乐老司机视频| 亚洲少妇视频| 97色欧州| 欧美|91色综合| 秋霞一级A片黄色视频| 大香蕉92| 欧色综合| 天堂种子在线www网资源| 色欧洲| 久久99草| www老逼91| 国产 亚洲 丝袜 制服| 在线二区不卡| 超碰97欧美日韩| 亚洲天堂区| 2019天天干天天操| 亚洲国产美女久久久久| 国产精品久久久久久久久久久久久久| 欧美青青视频| 国产四虎在线| 99热最新网址| 久久久亚洲欧美综合| 干少妇视频| 日韩精品国模| 大肉棒导航| 六六久久日韩不卡| 婷婷丁香成人| 97国产成人精品免费视频| 日本精品中文字幕视频| 草草草视频| 天天在线91| 精品一区二区麻豆| 吉川爱美98堂在线| 国产最新AV| 日本欧美国内在线| 国产偷拍自拍在线视频| 亚洲精品白浆高清久久久久久 | 国产亚洲日韩在线三区黑人| 搡老熟女免费视频| 尤物网站91| 9 1果冻精品视频| 亚洲资源网| 丰满搜索结果 -第18页- 久久高清无码| 91 手机在线播放 绯色| 亚洲欧美经典一区二区| 日韩精品中文字幕二区| 亚洲黄色网址视频| 日韩性爱网址| 国产99 中文字幕日韩小视频| 岛国网址国产| 岛国片在线观看视频亚洲| 国产亚洲精品农村妇女| 国产精品美女在线一区| 精品无码不卡视频| 国产黄片在线免费观看| 一级黄色性爱A级片| 国产精品亚洲天堂网址| 少妇一区二区三区高速| 亚洲一区二区三区欧美日韩| 欧美一区二区三区日韩| 欧美做爰无码A片视频| 男女真人网18| 亚洲欧美中文日韩视频中国语| 久久高清欧美国产| 久久精品色欧美aⅴ一区二区| av天堂手机版追回| 国产日比| 成人精品视频一区二区| 亚洲黄色网址| 激情内射| 屁股久久久久久久久久| 人人操我人人干| 中文字幕亚洲永久精品| 深夜激情无码| 日本在线一二 | 女人久久久| 久久精品一区二区一8| 呦呦影院| 99热99色| 青青草十区九区爱夜| 啊好爽快点-国产一区二区三区撒尿在线-成人AV | 综合色图亚洲欧美| 亚洲视频,小说| 欧美高潮| 亚洲欧美色图小说| 午夜电影在线观看无码专区| 射 色综合| 欲香欲色天天天综合和网| 一本色道久久综合狠狠操| 久久岛国| 亚洲国产精品有声| 夜夜一区二区| 天天影视综合色| 久草午夜| 无码日韩网站| 亚洲棕合电彰| 99在线精品观看视频中文| 欧美亚洲综合高清在线| 一本一道波多野毛片中文在线| 国产67194| 97超碰逼| 妇女一区二区三区| 国产操操日韩三级黄| 国产精品一二三区福利| 国产精品乱码久久久久久| 日韩9区| 精品国产91av一区二区三区| 蜜臀少妇一区二区| 九99久久| 欧美日韩另类在线| 95精品在线| 婷婷探花久久精品一区| 无码av永久免费专区网站| 老女人爆菊| 大逼色网站| 人人潮人人摸| 亚洲aw毛茸茸在线| 久久六六| 91爱综合| 亚洲欧美洲综合| 人人妻人人狠人人| 加勒比性爱成人在线| 国产91av在线播放| 欧美18禁91| 精品九九九| 国产精品交换一区二区| 色九九久九九| 久久香蕉影院| 国产精品97视频| 十八禁成人网站在线观看| 久久超碰97中文字幕| 九九九九九九视频免费| 乱人伦 国语对白:视频直接看| 丰满熟妇大乳做爰| 影音先锋乱| 午夜久久久| 亚洲导航深夜福利| 操淫穴亚洲五月丁香| 18禁中文字幕| 超碰偷拍| 天天爽天天操| 91综合网站| 少妇无码太爽| 午夜男女爽爽爽影院视频| 国产精品国产自产拍高清AV| 亚洲AV麻豆Aⅴ无码电影一| 麻豆AV一区二区| 日韩性爱小视频| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 超碰在线第一页| 亚洲1区2区三区高清中文字幕| 欧日韩在线观看| 3D污黄视频在线观看| 搡老女人老91妇女熟女| 亚洲成人久久美女| 2019天天干| 欧美色图片91| 国产av又色又爽又黄| 风月影院男女十八禁| 日韩免费看黄片| 床戏久久久av一区二区麻豆| 婷婷香蕉欧美在线一区二区三区| 成人小说另类在线| 日本超碰色精品| 91色色色| 男女啪啪网站免费视频| 色天欧美| 亚洲黑丝在线| 99久国产精品午夜性色福利| 国产97在线播放| 国产精品一区人妻精品阁在线| 婷婷色色五月天福利| 天天看片麻豆| 91美女丝袜诱惑视频| 精品免费视频国产一区| 久久大精品乱码视频人妻熟女| www.人人cao| 91老熟妇| 超碰97人妻在线| 亚熟在线| 日韩成人网址| 9丨亚洲一区二区在线| 亚洲综合另类色图| 国产嫩草精品A88AV在线| 午夜爽爽爽在线观看永久入口姬片| 情色大香蕉| 区一在线观看| 99热自拍| 婷婷激情五月天小说网| 秋霞午夜成人福利片片| 超碰在线在公开超碰在线在公开| 欧美色图亚洲色图成人在在线| 国产精品久久久久久久黄无码| 酒色综合网| 精品无码产区一区二| 亚洲免费精品一区| 综合五月婷婷| 夜间福利片1000无码| 深夜福利黄片| 欧美性夜| 97久久超碰国产精品| 亚洲在高跟鞋自慰久久在色线| 激情五月婷婷| 最新啪啪视频| 国产久久av| 国产精品精品系列在线观看| 99re28在线观看| 偷拍片久久| 97日视频| 久久日本熟妇熟色高清| 亚洲妇色| 欧美综合色站| 中文字幕 一区二区 亚洲无码| 欧美操人| 欧美一级色| 激情五月天视频| 国产伦乱91| 欧美亚洲另类在线蜜桃| 国产欧美成人第一页在线观看| 永久电影三级在线观看| 蜜桃狠狠色伊人亚洲综合网站| 久久久久女教师免费一区| 97久久天天综合色天天综合色电影| 一区二区精品更新提醒| 97色97好| 色天堂综合| 超碰97最新人妻| 久久久18禁| 日韩ab网 | 国产在线视频二区| 日日噜噜夜夜狠狠视频无| 内射夫妻三片| 乱伦a片视频| 亚洲国产欧美另类自拍| 韩国成人精品久久久免费看| 国产 亚洲 丝袜 制服| 日本国产高清色www视频在线| 亚洲国产奇米影视久久| 大色综合网| 2024人人操人人摸| 成人婷婷丁香| 成人影 天天操 亚洲| 青青草在线视频人人想人人上 | 国产操操日韩三级黄| 亚洲成人免费中文字幕| 欧美v亚洲v日韩v最新在线二区| 丁香九月激情啪| 九九热精品| 中文字幕91综合| 国产中文福利| 另类图片五月天| 天天日夜干| 夜夜草我| 日本理论在线| 久久最新免费视频23| 国产精品午夜成人福利| 超碰 欧美| 啊啊啊在线观看| 操逼片国产| 天天肏夜夜肏| 91麻豆天美国产| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 操逼视频亚洲| 91美女中出| 久久日本熟女精品一区| 欧美激情高清性猛交| 国产高清视频无码在线| 天天色播亚洲综合网站| 男人的天堂激情| 99999亚洲另类| hd成人一区二区在线| 精品国产一区二区三区在线播出| 激情综合网五月婷婷五月天| 久久久蜜桃一区二区三区| 国产精品视频| 亚洲熟女av中文字幕| 四虎影视永久在线免费| 伊人成人中文字幕久久网| 色大香蕉97N| 久午视频| 欧美顶级黄片AAAAA在线免费看| 9/A片| 女上位精品在线| 久久草草亚洲蜜桃臀| 日韩免费性爱视频在线观看| 91美女色视频亚洲| 亚洲综合首页| 制服乱伦| 超碰在线第一页| 白丝被操91| 成人五月香网在线| 蜜臀中文无码午夜| 超碰成人公开| 躁躁日曰躁2020| 欧美碰碰综合色| 天天做日日爱夜夜爽| 亚洲国产精品久久久男人的天堂| 91色交| 天天爽天天操| 超碰97极品9| 午夜福利视频在线一区| 亚洲欧美日韩电影网站一区| 欧美日韩*字幕一区| 日本三级韩三级99久久| 天美麻豆一区二区三区| 亚洲福利中文字幕在线| 欧美色图在线视频少妇| 欧美少妇性爱网站| 夜草欧美| av绯色| 青青欧洲黑| 九月丁香婷婷色| 超碰中文字幕人妻草一区| 激情熟女12P| 佐山爱中文字幕| 欧美爆乳精品一区二区| 久久熟妇五十路一区| 人人操,人人液| 爆乳免费黄网站| 国产毛片片精品天天看视频| 白丝1区2区3区| 三级日本一区二区三区| 色九九九综合| 盗摄女人妻在线| 91色伦| 色婷婷狠狠18禁| 欧美中日韩XXXX| 97超碰碰碰| 被操高清无码视频| 精品十三区| 操迟操逼在巾线Fre看| 后入式在线免费观看60秒| 成年人黄色小视频网站| 亚洲丝袜制服国产91_国语字幕免费观看完整版下载第5集_ | 久久久久9999妇女| 亚洲图片激情综合另类| 日本黄色天堂| 99热精品在线| 亚洲欧洲中文日韩女优乱码| 黑人与人妻| 自拍鲍鱼一区在线高清观看免费| 94色色电影网| 熟女自慰久久久| 风流老熟女一区二区三区l| 全国男人天堂网| 国产欧美美女免费观看视频| 一级岛国大片| 久久精品国产97欧美精品亚洲 | 欧美激情一区| 一直超碰| 99热在线播放| 八戒无码国产午夜福利| 久久9精品网站| 色999人与兽| 日韩欧美成人综合在线| www男人天堂| 日本精品国产视频| 国产精品久久久鸭无码的功能| 999综合网| 试看60秒| 中文字幕一区 二 区 三 四 五 区日 日 骚 | 91国产丝袜美女| 亚洲激情网一二三四区| 日本性爰一道本| 91 综合网| 欧美韩国你懂得在线| 丁香六月婷婷久久综合| 成人性爱av| 久久久久久综合久久伊人蜜月| 午夜欧美神马久久久久| 久久天堂婷婷网| 久久综合亚洲色1080p| 91成人无码| 久久久9 9 9精品| 免费看美国人人爽,人人操| 亚洲αv一区二区三区| 乱欲视频| 欧美性高潮在线| 久日综合网| julia在线观看久久| 日本欧美国内在线| 日本欧美一区二区三区免费| 欧美中出| 91精品人妻| 亚洲熟妇白浆无码AV| 天天α片| 日日干夜夜操视频h| 五月天激情婷婷| 在线v中文字幕一区二区三区 | 精品无码一区二区| 天天日天天舔| 亚洲精品三| 久久久久成人亚洲国产| 人妻一区二区三区视频 | 先锋精品av色鲁| 亚洲最大无码中文字幕网站| 99久久婷婷丁香| 亚洲无码成人精品| 日韩肏逼视频| 啊啊啊啊啊啊啊啊在线观看| 啊啊啊慢点| 欧美色91| 久久老熟女| 天天影视综合色| 熟妇高潮二区三区| 一区二区三区在线日韩影院观看| 蜜桃久久久久久久久久久久| 国产欧美日韩臀| 午夜性| 自拍视频大全亚洲专媒视频/一区二区三区 | 天美麻花大全视频| 六十路日本| 天天躁日日躁AAAXX| 岛国成人av在线播放网址| 欧美一级黄片免费播放| 99精品久久久久久久婷婷蜜桃| 777奇米影视777四色| 日韩国产中文字幕| 狠狠爱综合| 五月天色图影视| 精品久久在线区一区| 中文字幕视频在线观看一区二区| 美日韩一卡二卡三卡免费人妻精品| 爆乳免费黄网站| 天美一二三在线观看Av| 高跟伊人julia ann| 亚洲无限观看| 青青草一本道福利视频| 另类欧美色| 欧美成人一级麻豆| 91丨九色丨国产丨人妻在线| 欧美极品性爱天天射| 久久精视频美日韩在线视频| 国产亚洲综合欧美一区| 玖玖综合.com| 99久久综合| 九九人妻| 久久久久久久人妻丝袜| 国产乱色国产精品免费视| 少妇高潮对白在线观看| 91日韩在线| 久久的网站啊啊啊啊啊| 久久大精品乱码视频人妻熟女| 福利五区| 丰满人妻被猛烈进入中| 插穴性爱视频在线观看| 午夜丁香婷婷| 大香蕉国产中文自拍| 亚洲系列欧美| 亚洲超碰97| 中文字幕精品日韩中文字幕| 色欧美天天| 性性欧美| 九九九九9999| Blackedraw视频一区二区| 韩日精品四区| 99日免费视频中文字幕| 中文字幕一二三| 上海一级黄片| 精品久久久久9999| 熟妇女伦乱视频视频| 亚洲无码精品AV久久久| 自拍偷拍2025在线观看| 亚洲国产综合久久天堂| 精品二区三四区五电影| 精品日韩人妻视频| 久久女婷| 中文字幕伊人| 中文乱码字字幕在线第5页| 手机看片1024你懂的国产| 国产极品999| 强乱老妇中文字幕| 精品一区二区成人| 婷婷综合在线观看| 欧美欧美少妇| 国产三级中文有码在线视频| 有码人妻系列| 亚洲熟女综合网| 成人免费不卡在线视频| 天天日天天舔东京热| 94色色电影网| 日韩黄色成人性爱| 国产1727欧美| 无码一区二区精品视频久久久春药| 五月婷婷深深爱| 国产吹潮女在线观看| www.yeyecao| 内射中出日韩在线观看视频| 老熟妇91| 久久99久久99久久99人受| 欧美体内射精| 国产 日韩 欧美 中文 另类,国产 欧美 另类 制服 变态,高清 日韩 欧美 中文,高 | 国模91| 久操com| 69精品人人人人| 人妻少妇久久中文字幕一区二区 麻豆| 色综合色| 嗯嗯不要 视频| 女人高潮抽搐喷水视频网站| 九九热午夜欧亚国产视频| 三级激情网站| 欧美日韩精品久久| 九月激情婷婷| 久久久性爱视频| 免费自拍三级综合| 媚薬在线视频麻豆| 日韩国产不卡在线视频| 二级久久网| 五月婷婷丁香六月丁香| 四虎视频在线观看| 免费一级黄色录像影片| 欧美激情色婷婷花野真衣一区二区| 国产美女裸体秘 永久无遮挡| 亚洲精品天天影视综合网| 综合伊人激情| 日韩视频小说在线观看| 强奸乱伦麻豆| 欧美图片校园春色| 人妻中文在线| 性色A∨91| 超碰在线974| 久久本道| 看日韩黄片| 超碰碰97| 日韩丝袜二区| 欧美色图综合网| 第四色色综合91| 日韩黄片视频试看| 国产精品乱码久久久、久久| 亚洲九九夜夜| 欧美精品三级黄片| 超碰综合色| 欧美v亚洲v日韩v最新在线二区| 0755午夜福利视频| 久久免费中文字幕在线观看| 国产日产精品久久快鸭的功能介绍| 欧美韩日精品资源| 亚洲中文字幕精品久久久久久直播| 91宗合网| 超碰天天久久79| 亚洲综合中文字幕有码| 91丝袜美女视频| 久久久久久久78| 国产又粗又长又爽又色| 9Ⅰ老熟女| 久日91在线| 97精品综合| 国产精品视频自拍在线| 亚洲欧美日韩中文久久自慰| 欧美综合站| 很黄很色的视频在线观看| 亚洲深夜福利| 免费久久9999| 99精品在线播放| 九九精品无码专区免费| 亚洲激情深爱文学小说网站| 国产怡红院| av天堂手机版追回| 人人性爱视频免费| 深夜激情| 97超碰巨乳| 免费夜夜爱黄色视频毛片| av天堂精品久久| 91综合网在线| 久久骚| 亚洲精品天天影视综合网 | 自拍鲍鱼一区在线高清观看免费| 亚洲影院365| 欧美中日韩XXXX| 啊啊啊啊啊,啊啊啊啊好舒服,操我舒服啊啊啊 | 亚欧高清| 日逼97| 超碰午夜| 九九九九九九成人| 九九无码久久精品视频| 国产福利精品最新在线| 国产精品网址| 欧美操人视频| 97免费在线观看| 9九九国产| 国产视频大全| 久久欧洲| 嗯嗯啊啊用力视频免费| 久久怡红院| 美女被艹尤物视频| 国产三级多多影院2022国产AA一级毛片无码 | 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 三级三久久线久久99久目本WW| 亚洲av综合色| 久久国产免费激情视频| 激情小说日韩无码| 国产真实子伦对白| 久久 精品| 大香蕉日韩| 国产一二三福利视频网| 日夜尻逼网| 亚洲男人天堂视频| 97超碰免费生活| 精品国产乱码久久久兰草影视| 欧美香蕉视xxx| 精品熟女一区=区三区| 亚洲人成网www| 五月色综合| 婷婷五月色| 久久性爱视频| 99精品视频在线观看| 欧美激情综合| 大香蕉啪啪啪| 丁香激情网| 欧美色三级片91| 欧美亚州手机在线| 久久久精品国产亚洲伊人| 男人的天堂在线有码| 俺去久久| n1038 一二三区| 粉嫩少妇自慰在线| 国产成人主播| 日本黄色天堂| 67914在线兔费成人视频| 91视频女生| 亚洲狠| 国产肏逼网站| 草草影院最新网址| 激情视屏国产乱伦强奸| 免费a在线播放v| 性吧在线视频| 手机不卡视频不卡在线一二三区 | 欧美人人曰人人操人人射射| 色色网91| 五月婷婷丁香中文字幕| 91丨九色丨大屁股| 丝袜熟女2P| 欧美情色贴图| 欧美天天影院| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 欧美 日韩 亚洲 春色| 操逼视频亚洲| 国产这里只有精品| 免费看污网站| 亚洲污污网站| 少妇激情一区二区三区视频| 亚洲午夜未满十八勿入网站日本又色又爽又黄| 日韩视频精品在线观看| 色情乱伦AV| 黑丝少妇| 激情终合网| 97操碰| 插入逼91| 欧美三级中文字幕hd| 欧美亚洲日韩人妻在线观看| 97色欧州| 亚州欧美在线| 黄色操人| 99热官网| 麻豆精品三区视频| 97超碰9| 2020中文在线一区二区三区| 综合色啪| 磁力99AV| 超碰色97| 精品国产人成在线| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 天天做天天爽| 18禁久极品美女久久哦哟呀!| 九九热av| 日本操嫩b网| 老女人爆菊| 精品人妻一区二区蜜桃视频| 亚洲无码国产探花在线观看| www.激情| 久久久精品中文字幕麻豆| 亚洲国产综合视频| 美女黄频a美女大全免费皮| 用力操死我| 天天摸天天操视频| 久久国产乱子伦精品免费女人| 69人妻精品一区二区绯色| 香蕉免费一区二区三区不读| 熟妇乱伦一区二区| 在线国产探花| 中国熟女91| 人人玩人人添人人澡免费| 97超级久久强资源| 欧美色吧综合| av无码精品久久久久| 一个人在线看的黄色电影网站| 欧美在线亚洲| 国产精品免费美女视频| 蜜臀久久在线视频| 欧美岛国精品在线观看| 人妻啊啊人妻啊| 国产精品一区在线播放| 欧美日韩一区二区三区四区蜜桃| 中文字幕天天天天天| 欧美亚洲中文| 3571色综合一区二区二区| 91欧美少妇| 色综合尤物| 人人妻天天做天天爽| 亚洲国产奇米影视久久| 精品乱子一区二区三区99| 国产品精品自在在线午夜免费| 亚洲另类在线观看| 18+91网站| 十八禁啪啦拍视频无遮挡| 久久久九精品| AV免费在线播放一区| 亚洲情色一区二区三区| 伊人久久在线视频观看| 国产天天看| 热久久国产| 加勒比av中文| 欧美视频一区二区在线| 五月天加勒比啪| 午夜福利免费精品视频| 日韩 女同 综合| 天天色播亚洲综合网站| 少妇精品久久久八区九区| 精品一区二区人妖| 丰满少妇精品一区二区| 国产原创剧情在线丝袜| 91n处女在线观看| 夜夜嗨一区二区| 啊啊啊好想要| 欧亚第一综合网| 草草影院日本第一页| 亚洲AV在线资源| 丁香五月自拍| 亚洲国产精品无石码久久 | 超碰在线人人射| 伊人久久国产免费观看视频| 久久精品人人做人人看| 97在线观视频免费观看| 日韩av一级黄片| 男人的天堂久久| 国产性感骚丝袜在线| 久热影视| 日本五区不卡| 人人色97| 久久免费99精品久久久久久| 大香蕉伊然在亚洲91| 超碰成人免费| 91视频精品| 亚洲性猛| 校园春色制服丝袜中文字亚洲| 日韩av在线精品观看| 日本久久999| 丁香五月激情五月| 国产精品99精品视频网站| 久久久九九| 青青网三级视频| 国产操伦| 大香蕉99999| 最新精品久久蜜桃| av资源在线观看少妇| 日本在线观看网址| 欲色啪| 97网址www| 人人干人人搞人人摸| 亚洲伊人成综合成人网| 在线情色电影 91大 | 色欧洲| 啊啊啊不要嗯嗯在线观看| 天天欧美欧美亚洲网| 丰满岳乱妇一区二区三区 | 秋霞男人网| 国产成人无码久久精品| 秋霞一级鲁丝片A片| 精品少妇高潮久久| AV老汉| 欧美性爱五月天| 岛国网址国产| 乱伦强奸区日韩| 97操碰| 国产一区二区久久| 玖玖97综合 | 伊人网高清| 国产九九九九九九| 欧美 亚洲 大香| 大奶啊啊好爽| 中文自拍欧美影视| 欧美日韩啪啪电影| 久久久四区| 日本熟妇自慰性高潮一区二区三区| 欧美三级免费伊人| 九九九九九九九精品视频| 自拍偷拍 日韩无码| 熟妇xxxxx性春色| 大色综合| 干B网| 精品国产99999| 欧美激情亚洲情色| 中出789在线视频| 麻豆国产原创AV色哟哟| 日韩精品 资源| 亚洲激情av| 黄网色一区二区三区四区精品| 亚洲国产一区二区入口| 91网九色蝌蚪操熟女| 日韩人妻丝袜中文字幕| 蜜臀久久99精品久久久久久成人小说 | 伊人97色天使| 亚洲春色激情小说| 黑丝内射一区二区三区| 久热9| 九九碰九九爱97| 色情综合| 五月综合激情网| 国产欧美日韩在线不卡第一页| 日本国产欧美高清在线| 国产极品99热在线播放69| 日韩av不卡在线看| 蜜乳AV.COM| 免费αⅴ在线观看| 熟女五十路一区二区三| 中文字幕精品一区欧美| 东京热视频网| 啪啪啪东京| 欧美少妇性爱网站| 少妇高潮特黄A片| 最近2019中文字幕国语免费版| 天堂中文日本在线观看| 精品国产乱码久久久久久口爆网站| 免费观看的黄色的网站| 中文一区二区婷婷视频| 天天色天天干天天爱| 欧美性爱日韩高清| 97色伦97色伦国产欧美| 日韩簧片免费看| 国产成人欧美一区二区三区的国产| 日本免费专区| 日本在线激情一区二区三区 | 激情四射婷婷六月天|