日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

微服務(wù)日志體系設(shè)計(jì):從規(guī)范到排障的完整實(shí)踐

微服務(wù)日志體系設(shè)計(jì):從規(guī)范到排障的完整實(shí)踐 微服務(wù)架構(gòu)解決了單體應(yīng)用擴(kuò)展難的問題卻把排障難度轉(zhuǎn)移到了日志和鏈路追蹤上。一次用戶請(qǐng)求跨越多個(gè)服務(wù)、多個(gè)數(shù)據(jù)庫、多個(gè)中間件任何一個(gè)環(huán)節(jié)超時(shí)或報(bào)錯(cuò)都需要從分散日志中還原現(xiàn)場。如果日志體系沒有設(shè)計(jì)好排障就變成低效的人工 grep。微服務(wù)日志體系不是簡單地接一個(gè)采集工具而是一套覆蓋日志產(chǎn)生、規(guī)范、采集、傳輸、存儲(chǔ)、檢索、告警和治理的完整鏈路。這里會(huì)先講清楚排障難點(diǎn)再逐步展開一套可落地的生產(chǎn)級(jí)日志體系設(shè)計(jì)。1. 為什么微服務(wù)排障難日志體系要解決什么問題1.1 微服務(wù)排障的三類典型困境第一類困境是日志分散。單體應(yīng)用時(shí)代一個(gè)請(qǐng)求的完整執(zhí)行過程基本都在同一個(gè)進(jìn)程里日志文件也相對(duì)集中。微服務(wù)化之后一個(gè)請(qǐng)求可能要經(jīng)過網(wǎng)關(guān)、用戶服務(wù)、訂單服務(wù)、支付服務(wù)、消息消費(fèi)者每個(gè)服務(wù)可能還有多個(gè)實(shí)例。日志散落在不同機(jī)器、不同容器、不同目錄里沒有統(tǒng)一線索時(shí)很難把一次請(qǐng)求串起來。第二類困境是格式不統(tǒng)一。不同團(tuán)隊(duì)寫的服務(wù)可能有的用 logback有的用 log4j2有的直接System.out.println。日志時(shí)間有的用本地時(shí)間有的用 UTC有的沒有毫秒。字段命名也各不相同userId和user_id同時(shí)存在。排障時(shí)每次都要先理解日志格式再去過濾效率很低。第三類困境是日志量大。微服務(wù)實(shí)例一多日志量會(huì)快速膨脹。如果直接全文檢索查詢會(huì)越來越慢如果不做索引生命周期管理磁盤遲早被寫滿。到了大促或故障高峰期日志系統(tǒng)本身也可能成為瓶頸反而拖慢業(yè)務(wù)恢復(fù)。1.2 生產(chǎn)級(jí)日志體系的目標(biāo)所謂生產(chǎn)級(jí)不是日志采集工具能跑起來就行而是必須滿足幾個(gè)基本要求。請(qǐng)求有鏈路標(biāo)識(shí)。入口生成 traceId下游服務(wù)通過調(diào)用鏈透傳日志中能根據(jù) traceId 查到一個(gè)請(qǐng)求的完整路徑。日志格式可解析。日志輸出為結(jié)構(gòu)化字段而不是只有一段模糊的文本。至少包含時(shí)間、級(jí)別、服務(wù)名、實(shí)例、traceId、業(yè)務(wù)消息和異常信息。日志延遲可控。從業(yè)務(wù)寫日志到 Elasticsearch 可檢索延遲需要在一定范圍比如分鐘級(jí)以內(nèi)。不能經(jīng)常出現(xiàn)日志丟失或幾個(gè)小時(shí)后才看到日志。日志有生命周期。熱數(shù)據(jù)保留幾天冷數(shù)據(jù)保留更長時(shí)間超過保留周期的數(shù)據(jù)要自動(dòng)刪除或歸檔而不是等磁盤告警后手工清理。日志系統(tǒng)本身不能影響業(yè)務(wù)。應(yīng)用寫日志是異步的采集鏈路故障時(shí)不能阻塞業(yè)務(wù)線程。生產(chǎn)級(jí)體系還要關(guān)注采集組件狀態(tài)、Kafka 消費(fèi)堆積和 ES 磁盤水位。2. 設(shè)計(jì)日志體系前先把日志規(guī)范定下來日志規(guī)范是整套體系的地基。如果每個(gè)服務(wù)輸出的字段都不一樣后面接 Filebeat、Kafka、Logstash、Elasticsearch 都會(huì)很被動(dòng)。排障效率提升的第一步不是工具而是標(biāo)準(zhǔn)。2.1 統(tǒng)一日志字段讓檢索有依據(jù)建議服務(wù)端日志統(tǒng)一輸出為 JSON 格式。每條日志的頂層字段盡量固定下面是一組常見字段。字段類型含義示例timestampstring日志產(chǎn)生時(shí)間2026-06-01T10:00:00.123Zlevelstring日志級(jí)別ERRORservicestring服務(wù)名order-serviceinstancestring實(shí)例標(biāo)識(shí)10.0.0.1:8080traceIdstring鏈路ID8f3a1b2c...methodstring請(qǐng)求方法POSTuristring請(qǐng)求路徑/api/orderstatusintHTTP 狀態(tài)碼500costMsint接口耗時(shí)毫秒128userIdstring用戶標(biāo)識(shí)u_10001messagestring業(yè)務(wù)消息訂單創(chuàng)建失敗exceptionstring異常棧原文java.lang.NullPointerException...字段不是越多越好但上面這些基礎(chǔ)字段能覆蓋大部分排障場景。service用于區(qū)分系統(tǒng)instance用于還原具體實(shí)例traceId用于串聯(lián)調(diào)用鏈costMs用于定位性能問題exception用于快速搜索異常棧。實(shí)際項(xiàng)目里團(tuán)隊(duì)可以先定一個(gè)最小字段集發(fā)布到協(xié)作文檔或代碼倉庫的模板中。新服務(wù)開發(fā)時(shí)必須按這套字段輸出老服務(wù)逐步遷移。不要指望所有服務(wù)一天改完但至少要有一個(gè)明確的規(guī)范版本。2.2 日志級(jí)別怎么定避免日志噪音日志級(jí)別是排障時(shí)最重要的過濾維度之一。級(jí)別定得不好會(huì)帶來兩種典型問題把 ERROR 當(dāng)普通日志打告警全是噪音或者把 DEBUG 打到生產(chǎn)日志量爆炸真正有用的 ERROR 被淹沒。級(jí)別使用場景生產(chǎn)預(yù)期ERROR業(yè)務(wù)失敗、異常導(dǎo)致流程中斷需要人工介入保留并告警WARN可以恢復(fù)但不正常比如緩存穿透、重試成功保留不直接告警INFO關(guān)鍵流程節(jié)點(diǎn)比如訂單創(chuàng)建、支付回調(diào)保留但要控制頻率DEBUG排查細(xì)節(jié)數(shù)據(jù)默認(rèn)關(guān)閉按需開啟TRACE內(nèi)部調(diào)用鏈細(xì)節(jié)很少開啟一個(gè)簡單判斷標(biāo)準(zhǔn)如果某條日志打出來之后值班同學(xué)不用看那它就不該是 ERROR。ERROR 應(yīng)該對(duì)應(yīng)一個(gè)需要關(guān)注的失敗事實(shí)而不是每次 catch 異常都打 ERROR。2.3 TraceID 貫穿始終從一次請(qǐng)求還原完整路徑TraceID 是微服務(wù)日志體系里最重要的字段。它的作用很簡單一次外部請(qǐng)求進(jìn)入系統(tǒng)時(shí)生成一個(gè)唯一 ID之后所有服務(wù)在處理這個(gè)請(qǐng)求時(shí)都攜帶這個(gè) ID并寫入各自日志。排障時(shí)只要搜索這個(gè) ID就能得到完整請(qǐng)求鏈路。常見做法是在網(wǎng)關(guān)或入口 Filter 中生成 TraceID并通過 HTTP Header 向下游傳遞。比如統(tǒng)一使用X-Trace-Id作為透傳 Header。以 Servlet 場景為例可以用一個(gè) Filter 在入口生成并寫入 MDC。public class TraceIdFilter implements Filter { Override public void doFilter(ServletRequest request, ServletResponse response, FilterChain chain) throws IOException, ServletException { String traceId ((HttpServletRequest) request).getHeader(X-Trace-Id); if (traceId null || traceId.isEmpty()) { traceId UUID.randomUUID().toString().replace(-, ); } MDC.put(traceId, traceId); try { ((HttpServletResponse) response).setHeader(X-Trace-Id, traceId); chain.doFilter(request, response); } finally { MDC.remove(traceId); } } }MDC.remove很重要。線程池中的線程會(huì)被復(fù)用如果不清理下一條請(qǐng)求可能拿到上一個(gè)請(qǐng)求的 traceId導(dǎo)致日志串鏈路。下游服務(wù)在發(fā)起遠(yuǎn)程調(diào)用時(shí)要把 traceId 繼續(xù)傳遞下去。HttpHeaders headers new HttpHeaders(); if (MDC.get(traceId) ! null) { headers.set(X-Trace-Id, MDC.get(traceId)); }使用異步線程池時(shí)MDC 不會(huì)自動(dòng)傳遞。如果是 SpringThreadPoolTaskExecutor可以通過TaskDecorator在提交任務(wù)時(shí)拷貝 MDC執(zhí)行完后恢復(fù)如果只是在代碼里手動(dòng)new Thread則需要手工 put 和 remove。日志框架側(cè)也要把 traceId 輸出到結(jié)構(gòu)化字段中。使用logstash-logback-encoder時(shí)encoder 會(huì)自動(dòng)包含 MDC 中的字段。以 logback 為例一個(gè)最小 JSON 輸出配置如下。configuration appender nameJSON_FILE classch.qos.logback.core.rolling.RollingFileAppender file/data/logs/order-service/app.log/file rollingPolicy classch.qos.logback.core.rolling.TimeBasedRollingPolicy fileNamePattern/data/logs/order-service/app.%d{yyyy-MM-dd}.log/fileNamePattern maxHistory7/maxHistory /rollingPolicy encoder classnet.logstash.logback.encoder.LogstashEncoder includeMdctrue/includeMdc customFields{service:order-service,env:prod}/customFields /encoder /appender root levelINFO appender-ref refJSON_FILE/ /root /configuration這里把service和env固定寫進(jìn)了應(yīng)用日志配置避免了每個(gè)服務(wù)在業(yè)務(wù)代碼里重復(fù)拼接。不同版本 encoder 的配置略有差異落地前先確認(rèn)依賴版本。3. 日志采集層從服務(wù)本地日志到統(tǒng)一通道日志規(guī)范定好后下一個(gè)問題是日志怎么從應(yīng)用進(jìn)程到達(dá)統(tǒng)一的日志中心。生產(chǎn)環(huán)境常見的方案是應(yīng)用寫本地文件Filebeat 采集文件輸出到 Kafka。3.1 本地文件采集和直接上報(bào)怎么選有些新項(xiàng)目會(huì)直接在應(yīng)用里用 HTTP 或 SDK 把日志發(fā)送到 Logstash 或 Kafka。這種方式接入快但客戶端邏輯重還要處理發(fā)送失敗、緩沖區(qū)溢出、網(wǎng)絡(luò)抖動(dòng)等問題。應(yīng)用本身已經(jīng)有業(yè)務(wù)邏輯再承擔(dān)完整的日志傳輸職責(zé)容易引入不穩(wěn)定因素。更穩(wěn)妥的組合是應(yīng)用只負(fù)責(zé)把結(jié)構(gòu)化日志寫到本地磁盤采集器負(fù)責(zé)讀文件和傳輸。Filebeat 是常用選擇它輕量、內(nèi)存開銷小、支持?jǐn)帱c(diǎn)續(xù)采適合部署在應(yīng)用實(shí)例旁邊。采集端故障時(shí)應(yīng)用日志仍然寫在本地文件不會(huì)立刻丟失。這相當(dāng)于給日志多了一層本地緩沖。學(xué)習(xí)環(huán)境可以直接看控制臺(tái)或tail -f日志文件生產(chǎn)環(huán)境建議走文件采集。直接上報(bào)適合日志量不大、團(tuán)隊(duì)能接受客戶端 SDK 維護(hù)成本的場景但不是默認(rèn)首選。3.2 Filebeat 采集配置示例Filebeat 配置由 input 和 output 兩部分組成。下面是一個(gè)把訂單服務(wù)日志采集到 Kafka 的示例。filebeat.inputs: - type: filestream id: order-service-app enabled: true paths: - /data/logs/order-service/*.log fields: service: order-service env: prod fields_under_root: true processors: - add_host_metadata: ~ output.kafka: hosts: [kafka01:9092, kafka02:9092, kafka03:9092] topic: app-log partition: round_robin: reachable_only: true required_acks: 1 compression: gzip max_message_bytes: 1048576paths指定日志文件位置推薦一個(gè) input 只匹配一個(gè)服務(wù)的日志。fields用于給日志打上服務(wù)名和環(huán)境標(biāo)簽fields_under_root: true讓這些字段出現(xiàn)在日志頂層。add_host_metadata會(huì)把主機(jī)名和 IP 加進(jìn)來方便按實(shí)例過濾。output.kafka中的required_acks: 1表示 Kafka leader 寫入成功即可返回性能和可靠性比較均衡。compression: gzip可以降低網(wǎng)絡(luò)帶寬但會(huì)增加一點(diǎn) CPU 開銷。日志量很大時(shí)這個(gè)權(quán)衡通常值得。如果 Filebeat 版本較舊可能沒有filestream需要使用loginput。接入前先確認(rèn)版本不同版本的配置語法有差異。3.3 采集層最容易踩的坑第一個(gè)坑是多個(gè)服務(wù)共享同一個(gè)日志目錄。比如把所有服務(wù)的日志都寫到/data/logs/app.logFilebeat 采集后只能打同一個(gè)service標(biāo)簽無法區(qū)分來源。推薦按服務(wù)隔離目錄比如/data/logs/{service}/app.log。第二個(gè)坑是 Filebeat 重復(fù)采集滾動(dòng)日志。應(yīng)用日志按天滾動(dòng)后舊文件可能被改名成app.2026-06-01.log。如果 Filebeat 的 path 使用*.log可能把滾動(dòng)文件和新文件同時(shí)采集產(chǎn)生重復(fù)。建議嚴(yán)格約定文件名規(guī)則并在采集配置里避免把歸檔目錄包含進(jìn)來。第三個(gè)坑是采集延遲的假象。業(yè)務(wù)日志已經(jīng)寫到文件但 Filebeat 的ignore_older或close_inactive配置過大導(dǎo)致新日志不能及時(shí)讀取。排查時(shí)不要只看應(yīng)用日志有沒有寫還要看 Filebeat 是否處于運(yùn)行狀態(tài)、是否報(bào)權(quán)限錯(cuò)誤。4. 日志傳輸管道如何保證日志不丟不堵日志量是有峰值的。大促、秒殺、定時(shí)任務(wù)集中執(zhí)行時(shí)日志寫入速率可能瞬間翻幾倍。如果所有采集器直接把日志寫到 ElasticsearchES 寫入壓力會(huì)很大。引入 Kafka 作為緩沖是生產(chǎn)級(jí)日志體系里常見的解耦手段。4.1 Kafka 緩沖的作用和關(guān)鍵參數(shù)Kafka 在日志鏈路中負(fù)責(zé)削峰填谷。Filebeat 寫入 Kafka 后下游 Logstash 或消費(fèi)程序可以按照自己的節(jié)奏消費(fèi)不會(huì)因?yàn)闃I(yè)務(wù)流量突增而丟日志。Topic 設(shè)計(jì)時(shí)可以只建一個(gè)app-log主題通過日志中的service字段區(qū)分服務(wù)。也可以按環(huán)境分主題比如app-log-prod和app-log-test。分區(qū)數(shù)要結(jié)合下游消費(fèi)并發(fā)決定。單個(gè)分區(qū)只能被同一個(gè)消費(fèi)組里的一個(gè)線程消費(fèi)分區(qū)太少消費(fèi)并發(fā)上不去分區(qū)太多Kafka 元數(shù)據(jù)開銷也會(huì)變大。副本數(shù)建議生產(chǎn)環(huán)境至少 3并配置min.insync.replicas防止部分節(jié)點(diǎn)故障時(shí)寫入丟失。retention.ms可以設(shè)置日志在 Kafka 中的保留時(shí)間給下游鏈路故障留出恢復(fù)窗口。常見設(shè)置是保留 24 到 72 小時(shí)具體要看磁盤成本和團(tuán)隊(duì)對(duì)日志完整性的要求。分區(qū) key 的選擇也要考慮。如果希望同一實(shí)例的日志順序保持有序可以使用instance作為 key如果只關(guān)心吞吐可以使用輪詢策略。跨服務(wù)按 traceId 聚合到同一分區(qū)意義不大因?yàn)椴樵冸A段已經(jīng)在 ES 中完成聚合不需要在消息隊(duì)列里強(qiáng)制同分區(qū)。4.2 Logstash 消費(fèi)和寫入 ElasticsearchLogstash 在整個(gè)鏈路里負(fù)責(zé)消費(fèi) Kafka 消息、解析字段、補(bǔ)充信息再批量寫入 Elasticsearch。由于應(yīng)用側(cè)已經(jīng)輸出 JSON 日志Logstash 的 filter 可以保持很輕不需要用復(fù)雜的 grok 正則去切文本。一個(gè)最小 pipeline 配置如下。input { kafka { bootstrap_servers kafka01:9092,kafka02:9092 topics [app-log] group_id logstash-app-log codec json consumer_threads 6 } } filter { date { match [timestamp, ISO8601] target timestamp } if [exception] { mutate { add_field { error_flag true } } } } output { elasticsearch { hosts [http://es-data01:9200, http://es-data02:9200] index app-log-%{YYYY.MM.dd} } }codec json表示消息體本身就是 JSON。datefilter 把日志里的timestamp解析成 ES 使用的timestamp字段。error_flag是為了后續(xù)檢索時(shí)快速過濾異常日志。如果應(yīng)用日志里混入非 JSON 行比如System.out.println或啟動(dòng) Bannercodec json會(huì)導(dǎo)致解析失敗。這個(gè)問題最好在應(yīng)用層解決統(tǒng)一使用 logger 輸出不要混用標(biāo)準(zhǔn)輸出。如果無法避免可以改用純文本采集或獨(dú)立 topic再用 grok 解析。4.3 消費(fèi)堆積和背壓處理Kafka 消費(fèi)堆積是日志鏈路最常見的故障。現(xiàn)象是 Kibana 里最新日志遲遲不出現(xiàn)kafka-consumer-groups顯示的LAG持續(xù)增長。處理順序不要亂。先確認(rèn)是上游寫入變快還是下游消費(fèi)變慢。如果只是瞬時(shí)峰值可以等待消費(fèi)追平如果持續(xù)堆積優(yōu)先擴(kuò)容 Logstash 消費(fèi)吞吐也就是增加分區(qū)數(shù)和consumer_threads。但不要無限增加線程因?yàn)樽罱K瓶頸可能在 ES 寫入。ES 寫入壓力大時(shí)會(huì)表現(xiàn)為拒絕寫入或?qū)懭牒臅r(shí)上升。這時(shí)要檢查 ES 集群的寫入隊(duì)列、磁盤水位和 bulk 大小。生產(chǎn)環(huán)境建議將 ES 節(jié)點(diǎn)角色拆分?jǐn)?shù)據(jù)節(jié)點(diǎn)和協(xié)調(diào)節(jié)點(diǎn)分離避免高負(fù)載互相影響。還要給 ES 設(shè)置合理的索引分片數(shù)分片過少無法充分利用多節(jié)點(diǎn)過多會(huì)帶來資源浪費(fèi)。注意Kafka 消費(fèi)堆積本身不一定是故障如果業(yè)務(wù)日志量確實(shí)超過正常水位優(yōu)先擴(kuò)容而不是清空堆積。清空堆積會(huì)丟掉排障現(xiàn)場這是最不建議的做法。5. 日志存儲(chǔ)與檢索ES 索引設(shè)計(jì)決定查詢速度日志進(jìn)入 Elasticsearch 之后能不能快速查出來取決于索引設(shè)計(jì)和字段映射。生產(chǎn)環(huán)境見過太多“索引大了查不動(dòng)”的問題根源往往是最初沒有做索引規(guī)劃。5.1 按時(shí)間分索引避免單索引無限增長日志天然是和時(shí)間強(qiáng)相關(guān)的數(shù)據(jù)。按天建立索引比如app-log-2026.06.01是最常見的做法。好處很明顯查詢最近一天的數(shù)據(jù)只需要掃描當(dāng)天索引刪除過期數(shù)據(jù)只需刪除舊索引不用在單個(gè)大索引里做復(fù)雜清理。索引別名也可以配合使用。比如查詢最近 7 天日志時(shí)可以搜索app-log-*寫入側(cè)使用app-log-write別名由 ILM 管理實(shí)際索引。這樣可以保持查詢和寫入的穩(wěn)定。索引分片數(shù)要根據(jù)數(shù)據(jù)量和節(jié)點(diǎn)數(shù)預(yù)估。一個(gè)分片通常建議控制在 30GB 到 50GB 以內(nèi)。按天索引時(shí)如果每天日志量很大可以按天索引并配置多分片如果每天只有幾百 MB一個(gè)分片或少量分片就夠了。5.2 字段映射決定你是過濾還是全文搜索ES 中的字段類型直接影響查詢方式。精確匹配和聚合統(tǒng)計(jì)要使用keyword類型模糊匹配和關(guān)鍵詞搜索要使用text類型。排障中常用的service、level、traceId、instance、status都應(yīng)該設(shè)計(jì)為keyword或數(shù)值類型。一個(gè)參考 mapping 如下。{ mappings: { properties: { timestamp: { type: date }, level: { type: keyword }, service: { type: keyword }, instance: { type: keyword }, traceId: { type: keyword }, method: { type: keyword }, uri: { type: keyword }, status: { type: integer }, costMs: { type: long }, message: { type: text, fields: { keyword: { type: keyword, ignore_above: 256 } } }, exception: { type: text } } } }message使用text是為了支持關(guān)鍵詞搜索同時(shí)加了一個(gè)keyword子字段方便對(duì)短消息做精確過濾。exception使用text但要注意異常棧內(nèi)容很長不建議在 ES 中對(duì)全文做復(fù)雜聚合。如果日志字段不固定建議關(guān)閉動(dòng)態(tài) mapping 或使用 dynamic template 白名單。大量動(dòng)態(tài)字段會(huì)導(dǎo)致索引 mapping 膨脹嚴(yán)重時(shí)甚至讓集群停止寫入。統(tǒng)一日志字段規(guī)范也是保護(hù) ES 的一個(gè)手段。5.3 索引生命周期管理避免磁盤被打滿索引生命周期管理ILM是生產(chǎn)級(jí)日志存儲(chǔ)的必需環(huán)節(jié)。通過 ILM可以讓索引從熱階段滾動(dòng)到暖階段再按策略刪除。下面是一個(gè)簡單的 ILM 策略索引達(dá)到 50GB 或 7 天時(shí)滾動(dòng)超過 30 天的索引自動(dòng)刪除。PUT _ilm/policy/app-log-policy { policy: { phases: { hot: { min_age: 0ms, actions: { rollover: { max_size: 50gb, max_age: 7d } } }, delete: { min_age: 30d, actions: { delete: {} } } } } }ILM 需要配合索引模板使用把策略綁定到對(duì)應(yīng)索引模式上。PUT _index_template/app-log-template { index_patterns: [app-log-*], template: { settings: { number_of_shards: 3, number_of_replicas: 1, index.lifecycle.name: app-log-policy, index.lifecycle.rollover_alias: app-log-write } } }如果使用 ILM 的 Rollover寫入側(cè)應(yīng)使用別名app-log-write查詢則使用app-log-*。日志保留周期的選擇要結(jié)合業(yè)務(wù)需求ERROR 日志可以保留更久普通 INFO 日志保留 7 到 15 天通常就夠。注意不要只設(shè)置 ILM 而忽略磁盤容量評(píng)估。保留 30 天日志至少要把每天日志量乘以 30 乘以副本數(shù)再算上 ES 索引膨脹和 overhead才能確認(rèn)集群容量是否夠用。6. 排障實(shí)戰(zhàn)從一條報(bào)警到根因定位的完整鏈路日志體系設(shè)計(jì)得再好最終還是要回歸到排障場景。用一個(gè)常見例子說明凌晨收到告警訂單服務(wù) ERROR 增多接口 P99 升高。這時(shí)候應(yīng)該怎么查。6.1 先用時(shí)間和級(jí)別縮小范圍不要盲目搜全文排障第一步不是搜具體異常棧而是確定影響范圍。在 Kibana 中使用時(shí)間范圍過濾最近 15 分鐘再疊加服務(wù)名和級(jí)別。service:order-service AND level:ERROR AND timestamp now-15m如果日志量仍然很大可以加上uri或status進(jìn)一步縮小范圍。比如只查看POST /api/order的錯(cuò)誤日志。service:order-service AND level:ERROR AND uri:/api/order AND timestamp now-15m排序按timestamp升序先看最早的異常因?yàn)榈谝粋€(gè)異常往往是后續(xù)大量錯(cuò)誤的源頭。如果看到Connection timed out或Read timed out要意識(shí)到這可能是下游依賴導(dǎo)致的連鎖反應(yīng)先找出被調(diào)用方是否也有異常。6.2 用 TraceID 串聯(lián)完整調(diào)用鏈確定一條典型錯(cuò)誤日志后復(fù)制其中的traceId在 Kibana 中搜索。traceId:8f3a1b2c3d4e5f6a7b8c搜索時(shí)不限制服務(wù)名。只要 TraceID 在所有服務(wù)間透傳正確就能查到這個(gè)請(qǐng)求經(jīng)過的所有服務(wù)、所有實(shí)例的日志。按時(shí)間順序排列后可以看到請(qǐng)求從網(wǎng)關(guān)進(jìn)入訂單服務(wù)然后調(diào)用支付服務(wù)最后在哪里耗時(shí)最長。日志中會(huì)看到類似這樣的關(guān)鍵點(diǎn)訂單服務(wù)日志顯示調(diào)用支付服務(wù)開始和結(jié)束。支付服務(wù)日志顯示處理耗時(shí)超過 3 秒。支付服務(wù)之后出現(xiàn)數(shù)據(jù)庫超時(shí)或連接池等待。這一步的核心是確認(rèn)異常發(fā)生位置而不是只看最外層報(bào)錯(cuò)。外層的RestClientException可能只是下游超時(shí)的表象根因在支付服務(wù)的數(shù)據(jù)庫連接或 SQL 執(zhí)行上。6.3 從異常日志特征定位根因類型不同錯(cuò)誤特征對(duì)應(yīng)不同排查方向整理成速查表會(huì)很有用。日志特征可能根因下一步檢查status500 大量異常棧服務(wù)內(nèi)部異??串惓?、線程池、連接池Connection timed out網(wǎng)絡(luò)不通或連接池耗盡檢查目標(biāo)服務(wù)、端口、連接池配置Read timed out下游處理慢查看下游服務(wù)耗時(shí)、GC、慢 SQLlock wait timeout exceeded數(shù)據(jù)庫鎖競爭查數(shù)據(jù)庫事務(wù)、慢 SQL、死鎖日志OutOfMemoryError內(nèi)存不足或泄漏查看對(duì)堆配置、GC 日志和
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
91一区二区| 女人高潮抽搐喷水视频网站| 日韩久久三区| 大茄子熟女AV导航| 色色色欧美| 欧美日韩日产免费网站看| 99热99色| 亚洲色人阁| 国产女人成人精品视频| 偷窥自拍亚洲| 99热超碰在线| 亚洲男人的天堂va亚洲男人社| 国产三级多多影院2022国产AA一级毛片无码| 天天射网| 性爱免费视频成人| 熟女91网| 91超碰人人操| 婷婷激情四射| 极品五月天噜噜| 大香蕉人妻久久| 日本精品第一视频在'| 精彩久久中文| 亚洲精品乱码久久久久久蜜桃麻豆| 午夜精品久久久久| 国产高清26uuu| 99后入| 在线播放成人网站| 亚洲高清在线se| 浪人综合网| 91色综合色| 久久 国产精品 一区| 综合九九| 久久五月视频| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 97久久精品亚洲| 岛国片在线观看视频亚洲| 熟女熟妇伦久久影院毛片一区二区| 久久精品中文字幕无码l| 久久精品一区一起草| 成人在线视频网| 亚州色综合| 久久亚洲天天做| 草草影院最新网址| 麻豆人妻偷人精品无码视频| 五月婷婷综合在线| 精品九九九| 金典av| 操逼操逼逼操操逼91 | 国产成人在线观看综合| 日本在线999| 日韩人妻少妇中文字幕| 久久有码视频| 99爱爱| 亚洲精品久久久久久久蜜桃臀| 天天综合色图| 最新av在线| 色爱三区| 13小男生GAY自慰脱裤子| 日本精品免费一区二区三区四区| 日本在线一二| 强奸乱伦大香蕉网| 日韩中文字墓| 中韩中文字幕在线观看| 欧美91在线+|+欧美| 性做久久久久久免费观看软件| 欲香欲色综合天天伊人| 99热精品国产| 男人兔费天堂| 国产伦精品一区二区三区在线观| 日本精品一级二级三级| 噜噜瑟| 欧美日韩资源在线| 久无码| 亚洲国产欧美中文永久| 国产精品无套内谢| 天天色综亚洲91污| 思思在线免费视频| 青青操轻轻| 四虎午夜影院| 69av一区二区三区| 五十路熟女人妻一区二区在线观看 | 男人的天堂99| 欧美少妇高潮视频| 国产精品对白自产拍| 午夜福利一区二区影院| v91av| 青青草玖玖爱| 国产九九九九九九九九| 思思热免费视频观看| 最新亚洲黄色免费电影| 青青草国产欧美非洲黑人| 偷拍综合亚洲| 国产精品亚洲日韩骚欢乐谷最新地址发布页huanieguty性屋娱乐妖精视频 | 精品无码一区二区| 久久精品一区二区三区不卡| 人人看人人摸人人色| 欧美日日夜夜| 亚洲成成熟女人综合一区二区| 深夜激情| 99热最新| 骚女高跟AV在线| 强奸熟女一区二区三区| 91超级碰碰碰| 日韩欧美性吧婷婷乱伦大香蕉| 中国一区二区亚洲人妻| 国产在线播放成人免费| 亚洲av无码成电影在线播放| 欧美日韩在线小说| 日本有码久久| 欧美 亚洲精品首页| 97人人操人人干| 午夜无码熟妇丰满人妻| 色香阁在线| 久久久久亚洲Av无码专区老牛影视| 啊嗯嗯啊好大好爽| www.99热在线只有精品| 黄片www视频免费| 国产黄色 A 片免费看| 日韩三级在线观看网站| 欧美日韩不卡a片| 久久男人的天堂| 日韩成人性日韩成人性爱视频在线免费观看| 天天影视网色欲色香| 殴美牲| 嗯啊啊啊轻点视频 | 久久 久久国内精品亚洲| 欧洲亚洲人妻无码中字久久三区四区| 亚洲熟久久| 最新9久久久9免费视频| 四虎av在线| 91国产丝袜白虎| 亚洲另类春色| 亚洲一区中文精品| 免费看A片毛毛片在线播| 人妻丰满熟妇av无码区蜜桃| 国产精品国产自产拍高清AV| 性爱欧美五月| 综精品久久久aaaa| 国产精品电| 欧美天堂亚洲电影院一区在线播放| 快灬快灬 一下爽蜜桃在线观看 | 亚洲色图美腿丝袜| 亚洲国产中文字幕| 夜夜操中文字幕| 九九九九九九视频| 在线97视频| 欧美1区二区三区公司| 91精品91久久久中77777| 欧美色老汉| 99热综合在线| 啊啊啊不要啊啊受不了了视频在线| 九九国产热| 在线精品福利免费播放| 日本色色的视频| 国产精品老熟女一区二区| 五月激情视频| 大香蕉之青青草原| 18禁免费视频| 99热色精品| 岛国色情视频在线观看| 国产精品乱码久久久、久久| 欧美性生活免费网| 在线情色电影 91大| 青青伊人这里只有精品| 丝袜美腿欧美| 中文字幕一区二区三区字幕| 97舔舔| 欧美天堂第二区| 99re98| 少妇无码av专区线| 婷婷综合五月| 97bbn| 欧洲精品二区| 一本久道在线综合视频| 欧美亚洲尤物久久| 蜜臀一区二区三区在线 | 婷婷国产精品九区| 97超碰中文| 丁香婷婷久久 | 强奸乱伦大香蕉| 乱操乱伦AV| 精品国产久热在线观看| 91丝袜激情在线| 日韩国产中文字幕| 日韩丨制服丨中文|在线| 午夜性刺激视频免费观看| 日熟女| 久久激情网| 91久久久久久久久久久| 久久久久国色αv免费观看| 成人无码电影在线观看网| 亚洲操操| 精品无av| AV无码久久久精品| 日日做夜狠狠爱欧美黑人| 网友自拍第一页| 91精品人妻电影| 激情综合av| 天天澡天天爽日日AV| 网页导航五月天免费一二三区| 黑丝91视频| 伊人国产AV| 欧美亚洲日本视频久久久| 东北女人的毛片| 亚洲久草AV色图| 欧美极品性爱天天射| 天天综合有色网| 女人综合网| 中文字幕成人| 亚洲欧美另类图片| 97天天爽| 国产一级舔足在线观看| 中文字幕视频2区| 中文字幕天堂在线| 91夜色chaopeng| 国产精品高清2021在线| 天天摸天天碰天天添青青| 亚州欧美色图| 欧美72网页| 国产黄色影片在线观看| 91大香蕉伊人| 国产欧美伊人| 边做饭边操逼逼| 青青草精品| 国产传媒操逼视频| 亚洲se电影| 久久婷婷五月综合| 亚洲在线欧美| 96精品久久久久中文字幕| 五月亭亭六月丁香| 91少妇香蕉久久精品| 人妻 欧美 中文| 91成人高清在线观看| 人妻在线臀日韩| 欧美日韩1234| 99久在线精品99re8a| 操逼www.| 人澡逼| 囯产乱伦一区二区三女| 青青五月天| 极品白嫩福利在线| 免费人成毛片乱码| 99亚洲人人| 久操网无码在线| 女上位精品在线| 婷婷伊人| 亚洲AV噜噜狠狠网址蜜桃动漫| 国产精品午夜精品| 国产亚洲综合欧美一区| 亚洲中文字幕妇伦久久| 乱伦图一区| 91色宗合| 亚洲老司机123专区| 自拍偷拍2025在线观看| 97超碰人人操人人操| 日本熟妇熟色97一本在线观看| 综合久久久久久久久91| 蜜桃臀一区二区aV| 久久久com| 欧美裸体美女日麻屄| 操老熟女AV| 91 在线亚洲| 日韩精品人妻一| 97伊人| 婷婷五月天无码| 国产精品亚洲免费| 欧美黑人精品在线播放| 色欲久久99国产精品久久久久久| 久久国模av| 婷婷操逼| 尤物一级在线免费观看| 曰本人妻人人澡人人夹| AAAA级日本片免费视频| 亚洲深夜福利| 蜜臀中文无码午夜| 97超碰超欧美。| 18精品一区| 免费人成?大片在线播放| 乱操乱伦AV| 亚洲丝袜少妇在线| 久草综合网| 精品二999| 最新加勒比丝袜在线| 亚洲最新a在线观看| 熟女探花啪啪| 98福利在线视频| 天美一二三在线观看Av| 大香蕉伊人75| 婷婷探花久久精品一区| 美女丝袜激情小说| 天天摸天天舔天天操| 五月婷婷六月色| 操逼天美3区| 91久久婷婷| 人人搡人人肉久久精品| 日本福利二区视频| 国产探花日韩援交| 日本人妻最新在线中| 嗯嗯,好大,好爽,好骚| 久操99| 国产这里只有精品| 亚州色交| 操狠狠| 亚洲丝袜色| 久热99| 五月天激情小说| 9l视频自拍9l九色成人| 猛交交| 欧美黑人性猛交91| 毛片17S| 欧美黄色图片| 后入式在线免费观看60秒| 亚洲91色在线| 中文字幕免费在线观看| 日本二区不卡| 中文字幕99999| 色网色网色网色网色网色| 性天堂| 亚洲国产另类在线中文| 国产精品无码成人精品| 91午夜无码| 国产激情久久久| 日本性爱网址| 久久久无码av精| 国产一级作爱毛片| 91丨九色丨东北熟女| 色99视频| 国产精品亚洲无码| 久久久久9| 色色无码| 天天综合网91入口| 日韩青久久| 亚洲欧美清纯| 中文操逼字幕| 色官网色综合| 亚洲乱码尤物193YW| 成人a级高清视频在线观看| 日本国产亚洲一区在线观看| 26uuu欧美日韩| 国产一级操B视频| 色色色欧美| 无码99| 中文字幕精品专区搜索结果91| 亚洲,欧美,综合网| 青青草色情网站视频| 色综合久久夜色精品国产天堂| 性性久久| 久久久亚洲精品中文字幕人妻| www熟女乱伦com| 艹少妇网站| www四虎| 欧美熟女丝袜| AⅤ片水多多| 亚洲最大无码中文字幕网站 | 超碰性爱97| 中文字幕人乱码中文字的预防方法 | 久久老女人| 飘花国产午夜精品不卡| 这里有精品| www.国产高潮精品| 色天使大香蕉| 91成人亚洲色图| 欧美日韩天堂| 青娱乐 青青青操 日逼| 狠操91,com| 亚洲图片欧美偷拍| 在线看的av| 一区二区三区在线资源| 久久精品视| 97超碰超碰| 国产亚洲日本精品在线| 密臀在线免费观看| 好爽视频在线观看视频 | 青青伊人加勒比海| 久久久久久久免费A片国产成a人亚洲精∨品无码 | 久久久久久91香蕉国产| 91精产一区二区三区| 91色图| 岛国激情视频在线观看| 欧美日不卡| 欧美操逼录像国产黄色国产| 国产成人手机视频激情| 亚洲五区熟女| 2024黄色视频| 久久a久久| 欧美日韩小说| 色官网色综合| 夜夜騷av、一區二區| 91综合中文字幕| 免费A V在线| 欧美第一页| www.亚洲成人一区| 尹人大香蕉视频在线| 97射欧美| 天天看,天天做| 91欧美丝袜| 超碰在线香蕉| 春色综合免费| 久久婷婷五月天| 久久久精品九| 国产福利影视| 一区二区三区色综合| 东京热视频网| 热热色色综合| 日韩av在线播放不卡| 综合网97| 免看60秒涩涩视频| 人妻精品一区二区在线| 亚洲图片欧美另类综合免费视频大大香| 26uuu欧美日韩| www.高清无码诱惑一区.com| 亚瑟国产精品久久无码| 欧美夜色| 国产综合永久精品日韩鬼片| 91女优在线观看 | 蜜臀99久久国产| 激情四射五月天| 国产一区二区在线看| 综合婷婷| 亚洲欧美另类激情小说| 人妻熟女午夜精品在线| 黑人综合网| 男人天堂站| 亚洲一区二区三区不卡国产欧美| 台湾佬中文娱乐网久久久久久久久久com | 欧美另类色| 久久精品 六十路 熟女 欧美| 人妻熟女一区二区三区在线| 欧美色欧美| 97色欧洲| 天天干一区二区| www.99色| 麻豆区久久久久亚| 依人大香蕉| 亚洲福利影院一区久久| 一区,二区,三区视频| 草草影院最新网址| 夜夜久久久| 五月天婷婷综合| 思思热在线| 97在线视频观看免费| 欧美乱色| 美国一区二区三区视频| 亚洲 中文 女同| 欧美综合色综合| www.狠狠干.coom | 欧美96交| 中文字幕片| 一区三区啪啪| 欧美的性爱网站免费| 风月影院男女十八禁| 久久久久密| 日韩一区二区三区四区五区 | 97精品97| 日本精品一区三区| 美女黄频a美女大全免费皮| 一区二区三区一亚洲中文字幕、综合区灬 | 国产在线76页| 中国一区二区亚洲人妻| 亚洲第2页| 妇女性内射冈站HDWWWCOM| 少妇精品久久久八区九区| 欧美少妇性乱| 传媒在线观看一区二区三区| 97视频7| 丰满欧美放荡少妇在线| 婷婷综合在线观看| 狠狠干综合| A级片日韩欧美国产欧美视频精选观看 | q2午夜理论片夜色av| 啊a一区在线| 91精品国产麻豆国产自产在| 天天操天天射天天日| 春色91| 人妻社区男人天堂| 亚洲宗合电影| 理论久久婷婷网 8| 激情五月婷婷综合| 日韩性爱再线视频| 人妻系列无码专区中文有码| 99久久久无码精品国产人| 超碰在线91| 大香交| 内射卯月麻衣| 麻豆国产成人精品| 精品十三区| 亚洲精品蜜桃久久久一区二区三区| 亚洲少妇色| 六十路日本| 99热伊人| 亚洲综合色网| 欧美国产日韩清纯唯美| 爱av免费| 婷婷久久五月天| 色综合网1| 欧洲一级性爱视频在线观看| 中文字幕交换人妻| 操一操摸一摸| 视频一区二区免费在线| 99热在线播放| 中国一级αV| 九色97| 麻豆人妻精品一区二区| 人妻日日干| 亚洲中文字幕精品久久久久久直播| 污污汅18禁网站在线永久免费观看| 亚洲欧美国产中文视频| AV和黑人在线播放| 91爆操视频| 日韩,欧美,中文在线| 立川理惠无码一区二区| 99久久网站| 婷婷爱五月| 少妇99成人麻豆| 亚洲男人的天堂V| 亚州综合色图| 2019男人的天堂| 狠狠爱大香蕉| 中文字幕一区二区三区字幕| 亚洲导航深夜福利| 女人爽到高潮潮喷18禁网站| 99操99| 大香蕉久久| 欧美中文字幕男人天堂久久精品 | 五月婷婷丁香六月丁香| 免费看A片毛毛片在线播| 亚洲日韩精品在线播放| 亚洲天堂男人在线| 91综合国产精品| 久肏视频字幕| 中国一级αV| 草草影院日本第一页| 亚洲精品亚洲人成在线麻豆| 快灬快灬 一下爽蜜桃在线观看| 少妇综合网| 天天弄天天操| 狠狠色噜噜狠狠狠狠狠色综合久久| 在线观看成人性爱免费小视频| 翔田千里爆乳巨臀无码| 特级毛片特黄久久免费看| 五月天激情小说网| 和协影院中文字幕三区| 欧成人精品一区二区三区| 国产辣妈在线视频福利| JIZZJIZZ亚洲女人被躁| 天堂а√在线最新版在线| 亚洲AV无码成人精品久久| 亚洲国产精品久久久久婷婷青年| 97色冈| 激情文学小说一区二区| 综合亚洲欧美精品日韩?v| 亚洲黄网在哪免费看| 老色69| 欧美九一精品久久久熟妇| 性猛交| 无码免费精品高清| 狠狠图片青青草| 精品人妻av区天天看片| 99日精品欧美国产| 久久香蕉超碰97国产精品| 亚洲天天精品| 亚洲AV操| 欧美性特| 久久国产精品视频| 高清有码一区二区| 亚洲中文字幕噜噜噜久久久| 精品美女人人干| 国产亚洲精品A在线观看下载| 综合网色| 久久视频,这里只有精品 | 天天日少妇逼AV| 射丝袜大香蕉| 影音先锋日本一区二区| 国产精品色| 少妇精品久久久八区九区| 国产精品亚洲无码| 亚洲欧洲久久天堂| av网站国产主播在线| 天天欧美欧美亚洲网| 人妻少妇久久| 91人妻做a观看视频| 老熟妇综合| 国产无码成人无码| 99国产在线绯色一区| 色噜噜国产精品视频一区二区| 日本福利二区视频| 综合色区偷拍| 色噜噜综合在线| 玖玖爱影院| 天天欧美欧美亚洲网| 农村少妇久久久久久久| 资源在线观一 二| 久久女人| 熟女丝袜视频| 亚洲无线观看久久| 亚洲男人的天堂AV| 婷婷超| 婷婷五月天成人网| 国产精品96久久久久久| 天美AV片| 亚洲精品自拍| 91人妻视频在线| 白丝被操91| 亚洲资源网| AV色五月| 久久一二三四五六七八九区区区 | 丝袜综合色图| 午夜精品久久久久久久久久蜜桃| 大乔未久88一区| 黄片com.| 亚洲综合色图欧美| 在线啊啊啊啊| A级毛片在线看免费| 亚洲精品一卡二卡三卡福利视频网站 | 精品女人999| 18禁在线视频| 青青青青草av在线观看| 亚洲暴力强奸AV| 狠狠97| 91狠狠综合久久久久久| 日本精品网站在线中文| 精品妇操一区二区三区| 久久黄黄| 久久久久国产精品喷潮免费观看臀| 无码九九| 观看视频图片一区二区三区| 手机在线A片| 99在线精品视频| 国产天美传媒精品| 超碰人人在线| 双插性欧美一二三区| 欧美三四五区| 欧美少妇性乱| 久久性爱精品一区| sewuyueav| 亚洲天堂人人妻| 亚洲人妻AV| 人人操 欧美| 亚洲丝袜二区在线| 91久久久视| 久热无码| 91碰超| 日韩欧美~中文字| av亚洲天堂资源网站| 欧美大香蕉同搞| 不卡在线观看视频| 久久精品女同亚洲女同13| 久操九九九九| 欧美日韩中文亚洲v在线综合| 欧美片第一页| 国际精品久久久| 极品内射| 免费黄色片子| 1024人妻熟女一区二区三区| 欧美成人一级麻豆| 少妇大屁屁| 91丝袜美腿片| 75大香蕉| 国产久久一区二区午夜| 最新日韩黄片| 天天日夜干| 99后入| 久久久久久91香蕉国产| 中文字幕交换人妻| 99re国产精品视频| 久久精品黄色| 99re99在线视频| www. 男人天堂成人在线| 91啪9色| 伊人久久婷婷| 欧美精品久久久久久久久88| 日韩精品在线视频在线观看| 国产精品懂色tv影视免费观看| 日韩欧视频| 久久精品国产97欧美精品亚洲| 国产视频大全| 久久綜合很很很| 富二代亚洲精品99| 日韩av熟女一区二区三区成人| 五月天啪啪| 日韩中文字幕在线视频观看| 蜜臀AV秘一区翔田千里| 日本阿v天堂在线观看| 啊啊啊好舒服视频| 97人人夜| 91青青草| 男人天堂网站| 三久久久四久久久久| 国产精品乱码久久| 性色亚洲| 成人精品无码| 国产综合在线视频网站| 少妇厨房愉情理伦片bd在线观看| 97在线视频免费观看| 熟妇乱伦一区二区| 呦呦一区| 日韩簧片免费看| 日逼视频日本| 日韩 欧美 视频 在线 一区| 日韩欧美国产一区二区三区四区| 无码人妻精品一区二区三区99不卡| 久久久久久9| 97超碰人人模人人拍人人| 久久男人的天堂| 日本国产欧美一区三区二区| 精品国模无码| 99国产精品视频尤物| 日本五十路熟女一区二区| 天天操天天舔| www99热| 亚洲情色1区| 国产熟女一区二区丰满| 日韩精品操少妇| 亚洲文学偷乱拍啪啪啪啪| 91精品操美女| 蜜桃久久一区二区| 以及麻豆国产入口在线观看免费| 国产一区二区a毛片| 操逼视频亚洲| 久久久久久午夜男人的天堂| 99视频精品| 9超碰免费| 欧美丝袜美女电影一二三四区| 欧美淫乱视频| 久久产精品一区二区三区电影| 91东京热男人的天堂| 温婉少妇玩3p| 国产高清1234区| 青青操在线亚洲视频观看欧美在线| 狠狠爱夜夜干| 日韩激情电影中文字幕| 日韩久久.一级黄色片| 欧美综合区| 日欧美色| 深夜激情 | 91男人综合| 久久超碰97| 91强热人妻| 久久久久性熟视频| 天天天天天天天天综合| 欧美姓爱综合网| 人人贴人人摸| 熟妇操花| 性色av一区二区| 狠狠躁伊人中文字幕| 综合伊人网12色| 另类一区| 91在线页| 欧美激情久久久久| 富女玩鸭子一级毛片| 亚洲午夜福利在线影院| 午夜婷婷| 黄色一区三区| 人人操人人爽人人操人人| 激情久久av一区av二区av| 二对二中文字幕。| 中文字幕三四五区| 成人黑料社久久| 黄色十八禁| 日韩字幕一区| 欧美精品在线观看| 78超碰| 国产麻豆一级精品视频| 97爱b| 乱操乱伦AV| 嗯嗯嗯好爽| 中文字幕国产| 久久久成人国产精品无码| 大香蕉在线免| 国产精品免费久久久久久久久久| 26uuu欧美| 人妻 欧美亚洲| 亚洲欧美日韩激情不卡| 99在线观看| 97视频在线免费| 日本色色的视频| 校园春色综合香蕉| 成 人片 黄色大片| 伊人国产视频| 粉嫩av平台| 一区二区三区网站日日骚| 亚洲清纯唯美| 欧美日韩国产三级黄色| 蜜臀AV一区二区三区激情综合| 蜜臀Av一区二区三区| 全免费a敌肛交毛片免费| 国产性感在线观看| 午夜视频久久久久一区| 色月天AV导航| 骚女天天综合网| 久久伊人五月天| 少好三P| 1024人妻熟女一区二区三区| 黑人与人妻| 精品午夜福利国产一区二区在线观看| 欧亚成人在线视频| 婷婷丁香九月| 日韩视频小说在线观看| 午夜福利免费福利视频| 97就爱干| 看大黄色大片原件| 男人的天堂2018东京热啪啪啪| 国产吹潮女在线观看| 日韩激情啪啪啪| 天综合网欧美| 欧美黄片视频在线观看免费 | 亚洲色 国产 欧美 日韩| 亚洲AV不卡在线观看| 日韩一级片在线看| 校园春色第一页| 久久婷婷国产一区二区色| 偷拍综合网| 天天色粽合合合合合合合| 美女啊啊啊啊啊啊| 欧美日日夜夜| 精品一区二区成人| 4tube欧美女厕所| 国产一级片| 日本国产亚洲一区在线观看| 极品色电影院| 激情综合婷婷| 丁香婷婷五月| 超碰97欧美日韩| 日本成人A片免费看| 蜜桃视频啊啊啊啊| 亚洲另类综合欧美| 超碰97精品| 日韩精品操少妇| 色综合尤物| 成人性爱免费播放| 色偷偷男人的天堂麻豆| 成人欧美一区二区三区黑人一| 蜜乳中文字幕a在线| 久久九操在线观看| 亚洲人妻一区二区三区| 国产精品亚洲天堂网址| 熟女高潮合集-永久久久-成人AV | A级国产欧美激情在线| 欧美色图在线视频少妇| 超碰调教97| 免费观看国产不卡av| 综合网 欧美| 亚洲鸥美色图| 熟女人妻av在线资源,黄色的资源 粉嫩国产精品久久粉嫩 | 天无日色综合| 国产精品视频麻豆入口| 区自美91| 欧美AB在线观看| 97超碰影音| 91视频观看网站| 爱做久久久久久| 岛国激情视频软件| 超碰91在线| 青青草久久| 久久久久9999妇女| 亚洲.欧美.丝袜.中文.综合| 国产AV激情无码久久无码| 啊啊啊啊操死我| 激情综合亚洲| 日本操逼视频导航| 日韩无码极品| 日本 情色 1区| 超碰久久网| 国产精品久久久亚洲一区| 日本精品无码三级网站| 中文字幕国产在线天堂| 久久久青青草| 无码九九九九| 蜜桃视频啊啊啊啊| 天天香香欲综合| 婷婷AV一区二区三区| 中文字幕三四区| 久久少妇人妻| 人夜夜精品网站香蕉嫩草| www.伪伪| 亚洲欧美不卡线| 欧美日韩人妻婷婷一区| 亚洲欲色9532548967一区| 国产精品熟女丝袜一区二区| 久久无码一区二区二三区性色| 九九九九九精品视频| 欧美淫乱视频| 精品一二三区女同| 欧美 传媒 麻豆 日韩 偷拍| 中文字幕二区日韩天堂| 99久久婷婷国产综合| 久久久久久AⅤ无码免费肉站| 一起草在线视频| 久操精品| 日韩射精| 亚洲成人贴图| 青青在线视频免费| 成人青青草原伊人| 超碰久超碰久| 亚洲欧洲日韩中文字幕一区| 在线二区不卡| 亚洲自拍97| 91热色| 后入福利| 中文不卡视频| 日韩97在线| 哈哈操电影| 日韩欧美女求操每天更新| 久久精品女同亚洲女同13| 国产精品对白自产拍| 天天天做天天天爱天天天爽| 夜夜做夜夜爽精品视频| 97欧美久久久久久久| 啊啊啊啊啊在线视频| 欧美72网页| 91N综合在线| 日韩久久超碰色| 91撸色网 玖玖网 欧美| 青青欧洲黑| 亚洲色图综合网| 九九免费影片| 97人妻人人躁人人玩人人| 草B在线| 欧美劲爆第一页| 一区二区不卡视| 国产精品久久久无码aV去| 99久国产精品午夜性色福利| 中文字幕国产在线天堂| 欧美日韩午夜精品一区二区三区 | 天天综合网合集91| 久久精品操| 一中国女人毛片水真多| 日韩精品一区二区高清| 中文字幕国产| 91操碰| 久久这里精品国产99丫e6| 亚洲色图加勒比| 加勒比伊人综合| 欧美精品黑人猛交高潮| 欧美激情激情xxxx欧美专区| 亚洲图片激情综合另类| 久久免费精品视频免一| 91无码中出人妻视频| 久久人妻四季| ai欧美亚洲小说| 婷婷激情四射| 最新av网站在线观看| 成人免费在线网站| 大香蕉宗合网在线| juliaann精品熟女一区| 日日日啊啊啊| 视频黄站| 婷婷av在线中文字幕| 黑人精品成人一区二区三区| 日产狠狠干| 美日韩一二三区| 亚洲综合首页| 免费伦费视频在线观看| 99久热| 亚州成人a∨| 精品人妻视频一区二区三区蜜桃视频| 久久天堂网| av一区二区三区四区| 久久乐| 2019亚洲男人天堂| 国产91影院| 五月天婷婷基地| 在线亚洲丝袜视频网站| 日产操逼| 99热欧美| 是还免费视频1727我| 无码不卡亚洲成?人片| 91午夜无码| 很黄很污的免费网站| 91老妇女| 国产精品蜜乳AV| 黄色成品网站| 天天狂操夜夜狂日| 无码黑人精品一区二区三区三| 激情四射婷婷四五月天| 呻吟 欧美 日本 中出| 青娱乐福利99| www老逼91| 欧美丝袜中文字幕07在线| 免费一级a毛片久久久久久鸭绿欲 国产精品亚洲天堂网址 | 日韩电影免费网站麻豆视频| 欧美18老人禁| 日韩三四五区| 97超碰9| 日韩去日本高清在| 欧美影音在线| 欧美18老人禁| 歐美一級亂黃99在綫精品| 国产97色在线 | 亚洲| 在线中文字幕极品av| 天堂精品小草| 我想要 啊 啊 啊| 亚洲AV成人无码一区二区三区在线观看| 伊人五月天青青草婷婷| 最近二区三区视频大全| 丁香九月激情| 日本五区不卡| 91成人在线免费视频| 偷拍片久久| 人妻中文字幕精品无码| 久草资源在线视频官方总站日韩丝袜美腿 | 黄色片大香蕉| 2003天天干夜夜操| 日韩不卡av一二三| 伊人久久亚洲中文字幕不卡| 久久丁香久草综合网| 蜜臀AV一区二区三区激情综合| 精品欧美老熟女一二区| 99爱在线视频| 久久无码精品| 亚洲欧美大| 肏逼视频日本| 亚洲国产综合久久久性感熟妇| 羞涩视频| 999久久久九| 黄片国产精品一区二区| 黄日韩| 老司机老司机午夜影院| 日韩中文9| 99热9| 99热在线观看| 91丝袜在线观看视频在线观看| 国内偷拍精品一区二区| 热久久99999| 久久久久久久国产视频| 智利AV在线网| 日韩av乱伦| 热99这里有精品综合久久| 亚洲天堂男人在线| 欧美AB在线| 天天综合有色网| 国产亚洲日本精品在线| 97在线/亚洲| 久操com| 91成人亚洲色图| 日日夜夜干| 国产精品久久久久久高清无码免费看| 97电影院超碰| 亚洲在线网站| 丝袜美腿射精91| 成人情色一区二区| aaa亚无码专区| 天天操美美| 日韩高潮一区| 国产一区二区三区免费视频在性观看 | 亚洲成人在线高清| 久久久一区二区| 久热伊人99re| 高清成年美女黄网站免费大全| 中文无线日韩一区| 成人婷婷丁香| 日本精品无码三级网站| 欧美在线电影| 婷婷色一区| 日本无码1| 91在线欧美| 欧美性天天影院| 精品久久久中文字幕不| 色综合av男人天堂| 国产精品白领在线观看| 裸模AV女优| a网站免费观看| 台湾一区国产高清在线| 色777999综合| 曰本熟女视频| 五月丁香婷婷色| 爱爱动态60秒| 天天综合麻豆视频| 欧美一区二区在线资源| 5月婷婷6月六月丁香| 中文字幕AV乱伦| 风韵犹存大大大大香蕉 | www.色婷婷| 亚洲啪啪视频一区二区| 97超碰精品| 大香蕉视频啪啪啪啪| 中亚黄色三级大片| 嗯啊啊啊轻点视频 | 超碰国产精品无码| 激情色图| 九九九九一区| 加勒比五月天| 亚洲情色1区| 久久人妻视频网| 夜嗨影院| 草莓精品视频在线免费观看| 天操天操夜操夜月月年年操操| 狠狠夜色午夜久久综合在线| 国产一区二区啪啪视频| 成人性爱av| 精品国模无码| 美女91AV| 日本大香蕉综合网| 亚洲极品| 久久综合久色欧美综合狠狠 | 日韩 欧美 视频 在线 一区| 超碰午夜| 日本布卡一区二三区| 亚州色图片在线色| 伊人aaa| 欧美日韩国产人人| 岛国小电影| 久7色| 啊啊啊啊啊啊在线看| 嗯啊不要啊在线 | 91老妇女| 欧美韩日精品99综合| 九九免费影片| 欧美色图在线视频少妇| 狠色婷婷久久一区二区三区_| 久久久久13| 九九精品美女高溯喷水| 欧美嗯啊……在线观看视频免费| 99综合免费视频| 亚洲日韩精品在线播放| 熟女色综合久久| 国产树林里野战在线看| 精品久久久久久中文| 日本操嫩b网| 青娱乐国产精品| 久久久久久久亚洲Av无码| 强奸乱伦大香蕉| 777AV电影| 亚洲色图殴美色图激情乱伦| 日韩国产在线观看av| 久久国内| 黄色AAAAAAAAAAA大片| 男女性感激情网站| 韩日无码在线观看| 中文字幕精品资源在线| 日本日逼视频网| 九热视频| 中文字幕一区 二 区 三 四 五 区日 日 骚 | 男女啊啊啊啊啊| 成人国产二区三区在线,男女精品。| 美女诱惑久久| 久久久新亚洲AV| 乱伦一二三| 国产理论视频在线播放| 国产精品自在线发布| 2024人人操人人摸| 尹人大香蕉视频在线| 吻戏激情性巴克| 亚洲不卡av在线| 人人噜夜夜操| 国产高清在线观看欧美| 日韩av在线免费网站| 欧美精品1区2区3区| 激情五月综合| 91色五月俺来也| 伊人在线大香蕉二。| 超碰人妻久久人妻中文97| 精品九九九九九九九九九| 精品九九淫乱男| 校园春色亚洲色图| 91丝袜在线观看| 日韩免费看在线黄色片| 欧美视频在线视频免费va| AV大香蕉| 日韩美女高潮喷水视频|