日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

研發(fā)數(shù)字中樞落地復(fù)盤:從工具堆疊走向軟件工業(yè)化的底層重構(gòu)

研發(fā)數(shù)字中樞落地復(fù)盤:從工具堆疊走向軟件工業(yè)化的底層重構(gòu) 前兩年我接手了一個(gè)“研發(fā)效能提升”的項(xiàng)目。剛開(kāi)始我特別反感這個(gè)命名因?yàn)檫^(guò)去我們公司已經(jīng)上過(guò)不少類似的平臺(tái)項(xiàng)目最后不是成了沒(méi)人用的報(bào)表工具就是變成了各自為政的工具堆疊。但真正把需求、代碼、流水線、測(cè)試環(huán)境、發(fā)布審批和線上觀測(cè)這六塊核心數(shù)據(jù)全部打通并沉淀出一個(gè)統(tǒng)一的研發(fā)數(shù)字中樞之后我對(duì)“軟件工業(yè)化”這件事的看法發(fā)生了根本轉(zhuǎn)變。它不是一個(gè)趕時(shí)髦的概念而是軟件生產(chǎn)方式從手工作坊走向流水線裝配時(shí)必然要經(jīng)歷的一次底層重構(gòu)。這篇文章是我在設(shè)計(jì)和落地整個(gè)研發(fā)數(shù)字中樞過(guò)程中的完整復(fù)盤。我會(huì)講清楚它到底解決了什么問(wèn)題、如何定義自己的能力邊界、技術(shù)選型時(shí)為什么堅(jiān)持“開(kāi)源基座自研擴(kuò)展”的路線、核心流程閉環(huán)怎么搭建以及這三年里我們踩過(guò)哪些值得警惕的坑。如果你也正在推動(dòng)類似的研發(fā)效能建設(shè)、工程生產(chǎn)力平臺(tái)整合或者只是想搞明白“工業(yè)化研發(fā)”和“上幾個(gè)工具”之間的本質(zhì)差別這篇文章應(yīng)該能給你一些可落地的參考。1. 軟件工業(yè)化到底在解決什么問(wèn)題從作坊式研發(fā)到流水線生產(chǎn)的范式切換很多團(tuán)隊(duì)把軟件工業(yè)化理解成“上自動(dòng)化工具”這是我認(rèn)為最大的誤讀。工業(yè)化的核心不是自動(dòng)化而是可復(fù)制、可度量、可治理。手工做一把椅子匠人可以用五年時(shí)間打磨出藝術(shù)品但沒(méi)法保證第二把、第三把還能保持同樣的水準(zhǔn)。流水線的價(jià)值在于任何一個(gè)熟練工按照標(biāo)準(zhǔn)作業(yè)指導(dǎo)書操作都能做出品質(zhì)穩(wěn)定、符合規(guī)格的產(chǎn)品。這個(gè)邏輯映射到軟件行業(yè)就是我們常說(shuō)的“研發(fā)數(shù)字化”。1.1 作坊式研發(fā)的三個(gè)典型痛點(diǎn)我復(fù)盤了過(guò)去項(xiàng)目里反復(fù)出現(xiàn)的三類問(wèn)題它們幾乎在每個(gè)轉(zhuǎn)型初期的團(tuán)隊(duì)都存在。第一個(gè)痛點(diǎn)是“信息孤島”。需求在項(xiàng)目管理工具里代碼在代碼倉(cāng)庫(kù)里測(cè)試用例在另一個(gè)系統(tǒng)里線上監(jiān)控又在別的地方。每次要做一次完整的變更影響分析都需要人工去五個(gè)系統(tǒng)分別查一遍再憑個(gè)人經(jīng)驗(yàn)拼湊結(jié)論。這種模式下人的記憶力成了最高優(yōu)先級(jí)的基礎(chǔ)設(shè)施一旦核心人員請(qǐng)假或離職整個(gè)變更的上下文就斷了。第二個(gè)痛點(diǎn)是“過(guò)程不可見(jiàn)”。代碼提交了沒(méi)有測(cè)試跑了沒(méi)有部署到哪個(gè)環(huán)境了版本對(duì)不對(duì)這些信息散落在各個(gè)工具的日志和通知里管理層看到的是團(tuán)隊(duì)每周匯報(bào)的PPT聽(tīng)不到系統(tǒng)的真實(shí)聲音。第三個(gè)痛點(diǎn)是“質(zhì)量靠英雄”。在一個(gè)沒(méi)有標(biāo)準(zhǔn)化流程的團(tuán)隊(duì)里高質(zhì)量的交付往往來(lái)自個(gè)別資深工程師的個(gè)人習(xí)慣——有人習(xí)慣寫單測(cè)有人寫完代碼會(huì)自己先走查一遍有人會(huì)在合并前手動(dòng)檢查依賴。但個(gè)人的好習(xí)慣如果不能沉淀為團(tuán)隊(duì)的標(biāo)準(zhǔn)動(dòng)作整個(gè)組織的交付質(zhì)量就會(huì)像水波紋一樣起伏不定。這三個(gè)痛點(diǎn)讓我確定了一件事研發(fā)數(shù)字中樞的核心價(jià)值不是多做一個(gè)系統(tǒng)而是把已經(jīng)存在的系統(tǒng)和數(shù)據(jù)串成一個(gè)可以被統(tǒng)一治理的整體。1.2 工業(yè)化的核心詞是“可復(fù)制”而非“自動(dòng)化”很多人一談工業(yè)化就想到自動(dòng)化率比如CI/CD是否全自動(dòng)、測(cè)試是否自動(dòng)跑。但自動(dòng)化只是手段不是目的。一個(gè)全自動(dòng)但口徑混亂、結(jié)果不可信的流水線只會(huì)更快地把錯(cuò)誤推向生產(chǎn)環(huán)境。我更喜歡用制造業(yè)的“工藝路線”來(lái)類比。在工廠里一個(gè)零件從毛坯到成品要走哪幾道工序、每道工序用什么設(shè)備、加工到什么尺寸、用什么樣的檢驗(yàn)標(biāo)準(zhǔn)這些都有明確的定義。軟件研發(fā)中也應(yīng)該有同樣的東西一個(gè)需求從提出到上線要走哪些狀態(tài)、每個(gè)狀態(tài)需要什么條件才能進(jìn)入下一階段、每個(gè)階段產(chǎn)出什么產(chǎn)物、用什么樣的標(biāo)準(zhǔn)來(lái)判定“完成”。這些標(biāo)準(zhǔn)一旦被固化到研發(fā)數(shù)字中樞里團(tuán)隊(duì)得到的就不只是效率而是確定性。所以我在設(shè)計(jì)中樞的時(shí)候首要目標(biāo)不是把流水線做得“快”而是把流程定義得“一致”。只要流程一致后續(xù)的度量、質(zhì)量分析、瓶頸識(shí)別全部有了數(shù)據(jù)基礎(chǔ)。這一步走扎實(shí)后面的技術(shù)選型和架構(gòu)設(shè)計(jì)才有意義。2. 研發(fā)數(shù)字中樞的定位設(shè)計(jì)它包含什么以及它拒絕了什么項(xiàng)目啟動(dòng)時(shí)我們面臨的最尖銳問(wèn)題是這個(gè)中樞到底要做什么最初討論會(huì)上產(chǎn)品經(jīng)理列了兩百多條功能需求研發(fā)團(tuán)隊(duì)提出要統(tǒng)一六個(gè)工具的登錄認(rèn)證管理層希望一個(gè)看板看到所有項(xiàng)目的進(jìn)度和風(fēng)險(xiǎn)。如果都滿足這個(gè)項(xiàng)目三年都交付不了。我后來(lái)用了一個(gè)很樸素的判斷標(biāo)準(zhǔn)來(lái)收斂需求凡是只解決“點(diǎn)”上效率的不做凡是能沉淀為“面”上能力的優(yōu)先做。研發(fā)數(shù)字中樞定位為全鏈路數(shù)據(jù)的治理與流轉(zhuǎn)平臺(tái)而不是業(yè)務(wù)工具本身。它不替代代碼倉(cāng)庫(kù)、不替代CI系統(tǒng)、不替代監(jiān)控系統(tǒng)而是作為它們之上的統(tǒng)一編排與數(shù)據(jù)通道。2.1 中樞的能力邊界六類核心數(shù)據(jù)的治理我最終把中樞的能力邊界收斂在六類數(shù)據(jù)的統(tǒng)一治理上分別是需求數(shù)據(jù)、代碼數(shù)據(jù)、制品數(shù)據(jù)、環(huán)境數(shù)據(jù)、發(fā)布數(shù)據(jù)和觀測(cè)數(shù)據(jù)。需求數(shù)據(jù)指的是從需求提出、評(píng)審、排期到最終驗(yàn)收的完整狀態(tài)流代碼數(shù)據(jù)包括代碼倉(cāng)庫(kù)元數(shù)據(jù)、分支信息、提交記錄、代碼評(píng)審記錄等制品數(shù)據(jù)指構(gòu)建產(chǎn)物、鏡像、依賴包及其版本和簽名信息環(huán)境數(shù)據(jù)描述開(kāi)發(fā)、測(cè)試、預(yù)發(fā)、生產(chǎn)等各環(huán)境的狀態(tài)和部署關(guān)系發(fā)布數(shù)據(jù)記錄每一次變更的審批、執(zhí)行、回滾全過(guò)程觀測(cè)數(shù)據(jù)則匯聚線上監(jiān)控、日志、告警和調(diào)用鏈信息。這六類數(shù)據(jù)的共同特點(diǎn)是沒(méi)有業(yè)務(wù)領(lǐng)域?qū)傩允侨魏渭夹g(shù)團(tuán)隊(duì)都通用的研發(fā)過(guò)程資產(chǎn)。把它們治理好了團(tuán)隊(duì)就可以回答幾個(gè)以前很難回答的問(wèn)題某個(gè)需求到底合入到哪個(gè)版本了線上運(yùn)行的鏡像包含哪幾個(gè) commit告警對(duì)應(yīng)的那次變更是誰(shuí)在什么時(shí)候?qū)徟倪@些問(wèn)題的答案一旦能自動(dòng)給出研發(fā)和運(yùn)維協(xié)作的信任成本會(huì)立刻下降。2.2 拆掉重造和工具堆疊之間的中間路線在落地路徑上我們很清楚自己不會(huì)走兩條極端的路。第一條是拆掉重造所有東西都自研。這需要極強(qiáng)的研發(fā)資源和長(zhǎng)期投入收益期太晚對(duì)大部分公司來(lái)說(shuō)不現(xiàn)實(shí)。第二條是工具堆疊買來(lái)或接入一批現(xiàn)成系統(tǒng)用一個(gè)頁(yè)面聚合入口就對(duì)外宣稱是“平臺(tái)”這是最容易出現(xiàn)的結(jié)果也是最沒(méi)價(jià)值的。兩條路之間的中間路線是保留成熟工具的核心能力在其之上做統(tǒng)一的數(shù)據(jù)模型、統(tǒng)一的流程編排、統(tǒng)一的門戶展示。核心資產(chǎn)自己控制非核心能力讓專業(yè)工具發(fā)揮專業(yè)價(jià)值。這種定位帶來(lái)的最大好處是我們不需要去和已有的系統(tǒng)競(jìng)爭(zhēng)而是成為它們之間的連接器和規(guī)則引擎。整個(gè)項(xiàng)目始終是“減法優(yōu)先”而不是“加法優(yōu)先”每加一個(gè)功能模塊之前都要先回答一個(gè)問(wèn)題它是否在為六類數(shù)據(jù)的完整流動(dòng)服務(wù)如果答案是“體驗(yàn)優(yōu)化”或“展示美觀”我就把它排到后置。3. 自主可控的技術(shù)選型與架構(gòu)落地細(xì)節(jié)自主可控這個(gè)提法在研發(fā)數(shù)字中樞的語(yǔ)境下不是一句口號(hào)而是一系列非常具體的技術(shù)決策。我的理解是系統(tǒng)必須保證全鏈路的技術(shù)可解釋、可維護(hù)、可替換不讓任何一環(huán)被供應(yīng)商鎖定也不讓核心邏輯變成誰(shuí)都不懂的黑盒。3.1 為什么堅(jiān)持“開(kāi)源基座自研插件統(tǒng)一門戶”技術(shù)選型階段我們?cè)u(píng)估過(guò)一個(gè)龐大的商業(yè)研發(fā)效能平臺(tái)功能確實(shí)全但有兩個(gè)問(wèn)題我們接受不了一是核心代碼在供應(yīng)商手里個(gè)性化需求必須走漫長(zhǎng)的排期二是數(shù)據(jù)模型不開(kāi)放未來(lái)如果我們想基于這些數(shù)據(jù)做更深入的算法分析會(huì)非常被動(dòng)。最終我們選擇了“開(kāi)源基座自研插件統(tǒng)一門戶”三層結(jié)構(gòu)。開(kāi)源基座提供穩(wěn)定的基礎(chǔ)能力比如代碼倉(cāng)庫(kù)我們用GitLabCI/CD用Jenkins和GitLab CI混合制品管理用Nexus監(jiān)控體系用Prometheus和Grafana。自研插件解決關(guān)鍵路徑上的訴求包括需求到代碼的自動(dòng)關(guān)聯(lián)、發(fā)布審批的流程編排、跨系統(tǒng)數(shù)據(jù)同步等。統(tǒng)一門戶則是一個(gè)自研的前端容器把所有系統(tǒng)的常用操作做成了統(tǒng)一體驗(yàn)的入口底層卻仍然調(diào)用各系統(tǒng)的原生API。這個(gè)結(jié)構(gòu)的核心優(yōu)勢(shì)是每一層都可替換。如果未來(lái)某個(gè)開(kāi)源基座無(wú)法滿足需求我們只需要替換對(duì)應(yīng)的適配層不需要重寫中樞的邏輯。這種“可替換性”正是自主可控最容易落地的一種形態(tài)。3.2 技術(shù)棧和部署架構(gòu)的穩(wěn)定基線中樞本身我們分為接入層、流程層和數(shù)據(jù)層。接入層負(fù)責(zé)對(duì)接各類外部系統(tǒng)的API所有調(diào)用統(tǒng)一走一個(gè)獨(dú)立的網(wǎng)關(guān)在網(wǎng)關(guān)層完成鑒權(quán)、限流和敏感字段脫敏。流程層是中樞的大腦采用微服務(wù)架構(gòu)按領(lǐng)域拆分成需求服務(wù)、流水線服務(wù)、發(fā)布服務(wù)、度量服務(wù)等模塊服務(wù)之間通過(guò)事件總線異步通信。數(shù)據(jù)層使用MySQL存儲(chǔ)核心流程數(shù)據(jù)用Elasticsearch存儲(chǔ)全量審計(jì)日志和度量數(shù)據(jù)用Redis緩存熱點(diǎn)狀態(tài)。部署上我們沒(méi)有追求復(fù)雜的容器集群初期就采用單Kubernetes集群多命名空間的方式把不同模塊軟隔離。每個(gè)服務(wù)設(shè)置資源上限避免某個(gè)模塊的異常流量拖垮整個(gè)中樞。數(shù)據(jù)庫(kù)主從同步從庫(kù)承擔(dān)所有查詢和分析類任務(wù)主庫(kù)只寫高一致性的狀態(tài)變更大幅降低了鎖沖突。這里有一個(gè)容易被忽略的細(xì)節(jié)各系統(tǒng)之間的同步不能直接強(qiáng)依賴定時(shí)任務(wù)拉輪詢而要優(yōu)先使用Webhook事件驅(qū)動(dòng)。GitLab的Push事件、Jenkins的構(gòu)建完成事件、Prometheus的告警事件都以消息形式進(jìn)入我們的事件總線再由流程層的消費(fèi)者來(lái)決定觸發(fā)什么動(dòng)作。這種設(shè)計(jì)讓全鏈路的響應(yīng)時(shí)間從分鐘級(jí)降低到秒級(jí)這才是數(shù)字化中樞該有的體感。4. 從需求到發(fā)布核心流程的數(shù)字化閉環(huán)實(shí)現(xiàn)研發(fā)數(shù)字中樞如果只做一個(gè)數(shù)據(jù)倉(cāng)庫(kù)價(jià)值會(huì)大打折扣。真正的價(jià)值體現(xiàn)在流程閉環(huán)上一條需求從進(jìn)入系統(tǒng)到最終上線產(chǎn)生觀測(cè)反饋全鏈路都在中樞的控制和監(jiān)視之下任何環(huán)節(jié)出現(xiàn)偏差都能被及時(shí)暴露。4.1 需求到代碼關(guān)聯(lián)強(qiáng)制卡片流轉(zhuǎn)第一個(gè)閉環(huán)是需求和代碼的關(guān)聯(lián)。過(guò)去經(jīng)常出現(xiàn)一種情況產(chǎn)品經(jīng)理統(tǒng)計(jì)需求完成率時(shí)發(fā)現(xiàn)80%的需求都顯示“待驗(yàn)收”但代碼已經(jīng)上線了。原因是代碼提交信息里根本沒(méi)有關(guān)聯(lián)到需求ID兩者在數(shù)據(jù)層就斷裂了。我們做了一個(gè)強(qiáng)制規(guī)則所有功能分支必須從主分支拉出分支名必須包含需求編號(hào)所有合并請(qǐng)求的描述里必須關(guān)聯(lián)需求卡片否則CI的第一階段校驗(yàn)直接失敗阻斷合并。同時(shí)當(dāng)合并請(qǐng)求被合入主分支后中樞會(huì)自動(dòng)更新對(duì)應(yīng)需求的狀態(tài)為“已實(shí)現(xiàn)”并記錄這次需求量變更涉及的提交哈希和代碼文件列表。這個(gè)規(guī)則的推行阻力不小最初兩周幾乎每天都有人在群里抱怨“流程太重”。但堅(jiān)持跑了一個(gè)月后產(chǎn)品經(jīng)理、測(cè)試和研發(fā)的數(shù)據(jù)口徑完全統(tǒng)一了一個(gè)需求關(guān)聯(lián)了幾個(gè)提交、改動(dòng)了哪些文件、對(duì)應(yīng)哪個(gè)合并請(qǐng)求、測(cè)試通過(guò)沒(méi)有全部可以在一個(gè)界面里看到。跨部門協(xié)作的爭(zhēng)吵明顯減少因?yàn)榇蠹铱吹氖峭惶资聦?shí)。4.2 可重復(fù)的流水線模板與制品管理流水線的建設(shè)我們同樣遵循“模板化”而非“靈活自由”的理念。研發(fā)團(tuán)隊(duì)可以自定義自己的構(gòu)建步驟但沒(méi)有權(quán)限直接編寫不受控的Shell腳本。所有語(yǔ)言類型Java、Go、Node等的默認(rèn)流水線都從中樞提供的標(biāo)準(zhǔn)模板中生成模板里包含了版本號(hào)自動(dòng)生成、依賴安全檢查、單元測(cè)試、制品歸檔等一系列默認(rèn)動(dòng)作。版本號(hào)規(guī)則是我們很早定下來(lái)的Git的短提交哈希構(gòu)建序號(hào)。例如release-1.4.2-a1b2c3d-78。這樣的好處是每個(gè)制品都同時(shí)對(duì)應(yīng)到一個(gè)明確的代碼版本和一個(gè)構(gòu)建批次回滾時(shí)可以準(zhǔn)確無(wú)誤地找到上一個(gè)可用的制品而不是重新構(gòu)建一份新鏡像。制品管理采用不刪除策略所有鏡像和jar包都保留可追溯的記錄磁盤不夠就定期歸檔到冷存儲(chǔ)。這套機(jī)制幫我們解決了一個(gè)非常實(shí)際的痛點(diǎn)環(huán)境差異導(dǎo)致“在我機(jī)器上能跑”的問(wèn)題。通過(guò)模板化的流水線每個(gè)環(huán)境的部署制品完全一樣區(qū)別只是配置注入不同。研發(fā)和生產(chǎn)環(huán)境用的是同一個(gè)構(gòu)建產(chǎn)物這從根本上消除了“測(cè)試通過(guò)但上線失敗”的常見(jiàn)根源之一。4.3 上線審批與變更數(shù)據(jù)的沉淀發(fā)布是研發(fā)流程里風(fēng)險(xiǎn)最高的環(huán)節(jié)所以我把它設(shè)計(jì)成了流程層的核心場(chǎng)景。在中樞里發(fā)布和變更不再是直接在Kubernetes集群上執(zhí)行命令而是一條受控的審批流水線。每一次正式環(huán)境發(fā)布系統(tǒng)會(huì)在前端頁(yè)面把這次發(fā)布涉及的代碼變更、關(guān)聯(lián)需求、測(cè)試報(bào)告、制品信息、之前同類變更的歷史告警情況匯總到一張“變更說(shuō)明書”頁(yè)面上。審批人不再憑感覺(jué)點(diǎn)“同意”而是先看變更影響面和測(cè)試證據(jù)。審批通過(guò)后系統(tǒng)調(diào)用底層發(fā)布工具執(zhí)行部署并在部署完成后拉取一段時(shí)間窗口內(nèi)的監(jiān)控?cái)?shù)據(jù)做自動(dòng)比對(duì)如果發(fā)現(xiàn)錯(cuò)誤率上升或延遲增加立即觸發(fā)回滾預(yù)案。這些變更記錄全部進(jìn)入了我們的ES索引形成持續(xù)積累的變更知識(shí)庫(kù)。后續(xù)每當(dāng)有類似模塊的變更申請(qǐng)時(shí)系統(tǒng)會(huì)自動(dòng)提示歷史上同模塊的變更頻率和故障率幫助審批人更精準(zhǔn)地識(shí)別風(fēng)險(xiǎn)。這是我認(rèn)為“數(shù)據(jù)資產(chǎn)”最有價(jià)值的地方它把每一次事故都轉(zhuǎn)化成了下一次決策的參考依據(jù)。5. 構(gòu)建過(guò)程中的典型故障與避坑記錄承接中樞這個(gè)項(xiàng)目最不缺的就是踩坑。我在這里記錄三個(gè)最典型的教訓(xùn)它們分別出現(xiàn)在權(quán)限模型、數(shù)據(jù)同步和度量口徑三個(gè)方向每一個(gè)都曾經(jīng)讓項(xiàng)目停滯過(guò)一兩周以上。5.1 權(quán)限模型設(shè)計(jì)失誤從“功能權(quán)限”轉(zhuǎn)向“數(shù)據(jù)權(quán)限”項(xiàng)目初期我們模仿很多后臺(tái)系統(tǒng)的做法設(shè)計(jì)了基于角色的功能權(quán)限每個(gè)用戶可以訪問(wèn)哪些頁(yè)面、點(diǎn)擊哪些按鈕。但上線兩周后就出了問(wèn)題測(cè)試部門的小李可以進(jìn)入項(xiàng)目A的需求列表修改狀態(tài)因?yàn)樗麚碛械慕巧恰皽y(cè)試工程師”而角色定義沒(méi)有細(xì)化到項(xiàng)目維度。這個(gè)bug在項(xiàng)目初期直接被忽略直到一次跨部門審計(jì)時(shí)才發(fā)現(xiàn)一位研發(fā)可以隨意查看所有項(xiàng)目群的生產(chǎn)環(huán)境密鑰。問(wèn)題本質(zhì)在于研發(fā)數(shù)字中樞的訪問(wèn)控制粒度必須是“數(shù)據(jù)權(quán)限”而不是“功能權(quán)限”。我們重構(gòu)為以“項(xiàng)目群-環(huán)境-資源”為維度的授權(quán)模型用戶能看到的每一個(gè)環(huán)境、每一個(gè)制品、每一條流水線日志都通過(guò)底層接口做數(shù)據(jù)級(jí)校驗(yàn)前端按鈕隱藏只是交互優(yōu)化真正可靠的是服務(wù)端的數(shù)據(jù)過(guò)濾。重構(gòu)之后我們形成了一個(gè)規(guī)范任何涉及其他系統(tǒng)數(shù)據(jù)的請(qǐng)求都必須帶上用戶在數(shù)據(jù)域的授權(quán)上下文第三方工具自己的權(quán)限系統(tǒng)只作為第二道防線。這個(gè)設(shè)計(jì)最終幫我們?cè)诎踩弦?guī)評(píng)審上省了不少時(shí)間。5.2 同步鏈路的數(shù)據(jù)一致性消息重復(fù)與亂序因?yàn)槲覀儾捎檬录?qū)動(dòng)架構(gòu)各系統(tǒng)之間靠Webhook和消息隊(duì)列同步很快遇到了消息的重復(fù)消費(fèi)和亂序處理問(wèn)題。舉個(gè)具體例子GitLab的Merge Request更新事件在評(píng)論或者狀態(tài)變更頻繁時(shí)Webhook可能重復(fù)推送也可能先推updated再推opened導(dǎo)致中樞里的MR狀態(tài)和實(shí)際GitLab狀態(tài)不一致。第一版解決思路很粗暴在數(shù)據(jù)庫(kù)表加唯一索引重復(fù)消息直接丟棄。但這并沒(méi)有解決亂序問(wèn)題反而造成狀態(tài)倒掛比如一個(gè)MR已經(jīng)被合并后續(xù)一條兩秒前的“已關(guān)閉”事件才被處理系統(tǒng)就把狀態(tài)錯(cuò)誤地更新成關(guān)閉。后來(lái)我們引入了兩個(gè)機(jī)制。一是“事件冪等表”接受到事件后先在冪等表里比較事件ID和事件產(chǎn)生時(shí)間戳如果當(dāng)前處理的事件時(shí)間戳早于已處理事件的最后時(shí)間戳就直接跳過(guò)。二是“狀態(tài)機(jī)校驗(yàn)”每個(gè)聚合根在狀態(tài)流轉(zhuǎn)時(shí)只接受合法的前序狀態(tài)非法轉(zhuǎn)換一律拒絕并進(jìn)入告警隊(duì)列。這個(gè)組合方案把同步準(zhǔn)確率從99.2%提升到了99.98%剩下的萬(wàn)分之二則通過(guò)每小時(shí)的核對(duì)任務(wù)兜底。5.3 指標(biāo)口徑不統(tǒng)一引發(fā)的信任危機(jī)研發(fā)數(shù)字中樞上線后我們做了一個(gè)“研發(fā)效率看板”展示需求交付周期、部署頻率、變更失敗率等指標(biāo)。結(jié)果上線第一周就有兩個(gè)團(tuán)隊(duì)反饋數(shù)據(jù)完全對(duì)不上研發(fā)團(tuán)隊(duì)說(shuō)交付周期平均是14天而測(cè)試團(tuán)隊(duì)說(shuō)從提測(cè)到上線怎么算都要20天。排查后發(fā)現(xiàn)原因是兩個(gè)團(tuán)隊(duì)對(duì)“交付周期”的起止定義不一樣。研發(fā)團(tuán)隊(duì)認(rèn)為應(yīng)從創(chuàng)建需求到代碼合入主分支計(jì)算測(cè)試團(tuán)隊(duì)認(rèn)為應(yīng)從提測(cè)到生產(chǎn)環(huán)境部署成功計(jì)算。兩個(gè)口徑各有道理但放在同一個(gè)看板上就成了互相矛盾的數(shù)字。這個(gè)坑給了我們一個(gè)很重要的啟示研發(fā)數(shù)字中樞的度量模塊必須把每一個(gè)指標(biāo)的定義、計(jì)算邏輯、數(shù)據(jù)來(lái)源、刷新頻率固化為元數(shù)據(jù)可視化用戶在查看數(shù)據(jù)時(shí)可以一鍵展開(kāi)口徑解釋而不是只看到一個(gè)孤零零的百分比。指標(biāo)口徑是一個(gè)組織級(jí)的約束問(wèn)題不是技術(shù)問(wèn)題但沒(méi)有系統(tǒng)層面的“強(qiáng)制透明”這個(gè)問(wèn)題永遠(yuǎn)無(wú)法收斂。6. 落地三年后的經(jīng)驗(yàn)復(fù)盤與后續(xù)演進(jìn)方向項(xiàng)目走到今天我最大的體會(huì)是研發(fā)數(shù)字中樞的建設(shè)不是一次性的項(xiàng)目交付而是一個(gè)長(zhǎng)期演進(jìn)的“軟件工業(yè)化底座”。如果你剛開(kāi)始推動(dòng)類似建設(shè)下面這些判斷可能對(duì)你有用。6.1 什么情況下這個(gè)模式不適用我需要先說(shuō)清楚邊界。如果你的團(tuán)隊(duì)規(guī)模在十人以下需求變化極快產(chǎn)品處于探索期那么投入資源建設(shè)這樣一個(gè)中樞可能并不劃算。小團(tuán)隊(duì)的核心優(yōu)勢(shì)是溝通成本極低一個(gè)優(yōu)秀的工程師可以一個(gè)人完成需求、開(kāi)發(fā)、測(cè)試、部署的全部動(dòng)作硬塞一套標(biāo)準(zhǔn)流程反而會(huì)拖慢節(jié)奏。還有一類情況也不適用組織本身對(duì)數(shù)據(jù)共享和流程透明沒(méi)有強(qiáng)烈意愿各部門把工具和數(shù)據(jù)視作部門私有領(lǐng)地。在這種情況下中樞建設(shè)最大的障礙不在技術(shù)而在組織本位主義。我曾經(jīng)在一個(gè)內(nèi)部溝通會(huì)上提議統(tǒng)一各團(tuán)隊(duì)的CI/CD規(guī)范結(jié)果被三個(gè)不同團(tuán)隊(duì)以“我們的場(chǎng)景特殊”為由拒絕。如果高層沒(méi)有下決心推動(dòng)統(tǒng)一的流程標(biāo)準(zhǔn)中樞項(xiàng)目很容易變成一個(gè)無(wú)人使用的數(shù)據(jù)空殼。所以我的建議是先評(píng)估組織的“工業(yè)化意愿”再評(píng)估“工業(yè)化能力”。意愿不統(tǒng)一時(shí)先做局部標(biāo)桿讓率先使用中樞的團(tuán)隊(duì)跑出效果再逐步向外滲透這比自上而下地強(qiáng)推有效得多。6.2 后續(xù)演進(jìn)的方向從流程數(shù)字化到數(shù)據(jù)智能當(dāng)六類數(shù)據(jù)都能穩(wěn)定流轉(zhuǎn)后我們開(kāi)始把一部分精力從“流程”轉(zhuǎn)向“智能”。最直接的變化是很多以前需要人工判斷的事情系統(tǒng)開(kāi)始能做輔助決策了。比如故障定位。過(guò)去線上告警后運(yùn)維需要先查部署時(shí)間線再查代碼變更記錄再通過(guò)日志反推根因整個(gè)過(guò)程可能耗時(shí)半小時(shí)。現(xiàn)在中樞把發(fā)布事件和告警事件關(guān)聯(lián)起來(lái)一旦監(jiān)控指標(biāo)異常系統(tǒng)自動(dòng)展示最近一次發(fā)布變更的明細(xì)、對(duì)應(yīng)需求背景、相關(guān)代碼提交把這些信息聚合到同一個(gè)告警卡片上給值班工程師節(jié)省了很多跨系統(tǒng)切換的時(shí)間。下一步我們計(jì)劃把歷史變更數(shù)據(jù)、測(cè)試覆蓋數(shù)據(jù)和線上質(zhì)量數(shù)據(jù)匯總起來(lái)構(gòu)建一個(gè)“變更風(fēng)險(xiǎn)預(yù)測(cè)”的模型。簡(jiǎn)單來(lái)說(shuō)就是當(dāng)一個(gè)合并請(qǐng)求進(jìn)入準(zhǔn)備發(fā)布階段時(shí)系統(tǒng)根據(jù)歷史相似模塊的變更規(guī)律給出一個(gè)風(fēng)險(xiǎn)評(píng)分分?jǐn)?shù)過(guò)高的變更會(huì)被自動(dòng)標(biāo)記為需要人工重點(diǎn)復(fù)核。這個(gè)方向我很看好因?yàn)樗蜒邪l(fā)數(shù)字中樞從被動(dòng)記錄工具變成了主動(dòng)的風(fēng)險(xiǎn)防控體系這也是我認(rèn)為軟件工業(yè)化繼標(biāo)準(zhǔn)化、自動(dòng)化之后的第三層價(jià)值——智能化。回看整個(gè)項(xiàng)目過(guò)程我覺(jué)得最有成就感的一件事不是系統(tǒng)上線時(shí)有多少人在用而是某天深夜一個(gè)值班同事在群里說(shuō)了一句“現(xiàn)在處理線上問(wèn)題比以前快多了因?yàn)樗斜尘岸荚谝粋€(gè)屏幕上不用到處問(wèn)人了?!毖邪l(fā)數(shù)字中樞聽(tīng)起來(lái)是個(gè)很大的詞但它落到每個(gè)人每天的工作里其實(shí)就是讓團(tuán)隊(duì)少做點(diǎn)無(wú)意義的重復(fù)溝通多獲得一些高質(zhì)量的數(shù)據(jù)支持。所謂軟件工業(yè)化我現(xiàn)在的理解很簡(jiǎn)單把偶然的聰明變成必然的穩(wěn)定把個(gè)人的經(jīng)驗(yàn)變成組織的資產(chǎn)。這條路沒(méi)有終點(diǎn)每往前走一步團(tuán)隊(duì)就離低效的過(guò)去更遠(yuǎn)一點(diǎn)。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
97爱欧美| 中国探花熟女| 色路综合| 东京热精品97综合网| 岛国大片在线观看网站入口| 青青草好吊色| 欧美综合传媒| 婷婷色色网| 岛国在线免费视频| 91精品老女人| 中文字幕一区二区三区50路| 欧美激情精品久久久久久| 亚洲精品久| 国产黄片在线免费观看| 亚洲精品97| 97精品一区| 亚洲性猛交| 久久精品欧美一区蜜桃| 色嗨嗨在线| 91P0RNY大屁股人妻| 久久影视二区三区行押| 歐美性天天| 亚洲精品欧美专业| 99激情视频| 亚洲成人美女无吗| 无码一区免费在线不卡| 国产精品网址| 国产精品久久蜜乳av| 风月影院男女十八禁| 亚洲情色一区三区| 欧美男女午夜啪啪| 又大又黄国产| 玖玖视频在线资源一区二区三区| 五月丁香久久| 日日干日日| 久久精品国产亚洲AV片多多| 日韩性爱高清免费视频| · —级AA伦aa坐爱午夜极速ⅴA一区天天噪天天噪天天噪 | 久久香蕉国产线看观看猫咪av| 欧美色宗合| 欧美 色 亚洲| 97日韩欧美| 青青草在线视频美女| 大香蕉日韩欧美| 福利天堂| 999精品女人| 在线 欧美 亚洲| 手机久操欧美综合色码| 欧美亚洲国产日本在线,久久精品国产| 午夜男人天堂| 亚洲男人的天堂在线看| 夜夜青青无码影院| 夜夜夜爽www精品视频| 激情文学亚洲| 久操网址| 热久久91婷婷| 成人久久久精品| 青青草无码视频| 密臀视频一区二区三区| 大香蕉92| 一起草视频在线| 本道综合精品| 国产18精品亚洲精品| 不卡一区二区日本视频| 超碰人人超在线观看| 国产无码精品高清| 国产美女mm131爽爽爽爽| 日本五十路熟女一区二区| 亚洲欧美激情在线视频| 久久人妻办公室视频| 玖玖视频在线资源一区二区三区| 97干com| 操死我了嗯嗯嗯| 久湿久久 | av一区二区三区 中文| 1204金沙人妻懂旧版免费| 国产人伦精品一区二区三区| 裸体美女久久久| 天天综合网~91| 校园激情狠狠四射| 操逼天美3区| 日本日皮视频逼| 久久婷婷色综合一区二区三区| 国产欧美日韩臀| 日韩中文字幕2020| 日日97| 麻豆国产精品午夜视频| 亚洲国产一区二区三区四区国产| 91亚洲黑人| 中文字幕伊人| site:sinbotex.com| 岛国A V在线免费看| 欧美劲爆视频一区二区| 久久99精品九九久久久婷婷| 亚洲无码视频免费在线观看网址!| 97国产成人精品免费视频| 天美麻豆精品视频99| 熟女熟妇伦久久影院毛片一区二区 | 亚洲精品久久久久久久蜜桃臀| 日本在线观看网址| 女人高潮大叫一级毛片| 91操熟女视频| 性爱乱伦视频免费| 裸体女人草逼视频播放一区,二区,三区,四区,五区 | 亚洲色图欧美另类在线| 91色狼| 综合久| 久久久久无码一妻区| 九九碰九九爱97超碰| 国模少妇一区二区三区| 国产精品久久久久久久免牛肉蒲团| 人妻色偷色噜| 97精品国产97久久久| 亚洲老司机123专区| 色欧洲| 国产亚洲日本精品在线| 国产少妇高潮| 日韩一区二区精彩视频| 大香蕉 222| 色臀AV| 色小视频蜜乳| 欧美综合另类| 天天做天天爱天天爽AV| jizz啪啪| 亚洲的天堂网| 亚洲一区二区麻豆影院| 九热久| 久久激情视频| 亚洲久久久久| 亚码激情| 天堂俺去俺来也www久久婷婷| 日韩人妻大香蕉| 香蕉99秘 一区精品蜜桃臀| 日韩国产乱子伦App| 国产精品久久久久久夜夜夜夜| 亚洲小电影免费涩涩成人在线高清| av情色影音| 九九热九九| 久久久爆乳翘臀一线天伦理视频| 最新亚洲黄色免费电影| 亚洲人在线| 操逼无码操逼| 国产精品毛片| 五月天综合网| 蜜臀久久99精品久久久久久无删减| 射 色综合| 偷拍偷窥与盗摄视频专区| 色五月婷婷五月天| 欧美一级AAAAAAA| 神马午夜久久久| 欧美综合娱乐久久| 加勒比性爱成人在线| 6080yy午夜理论三级一区二区三区无码| 东北老熟女| 999日韩中文精品观看视频。| 1769成人国产精品视频| 97色97好| 色97| 日本五十路熟女一区二区| 久射吧| 超碰久久性爱| 粉嫩在线一区二区懂色| 97chaopengongkai| 精品制服美女中文一区二区三区| 99热66| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 欧美婷婷五月天| 熟女高潮精品一区二区| 色五月69夫妻| 五月天婷婷基地| 日韩免费簧片| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 久草成人影片| 狠狠操官网| 日韩欧美久久婷婷网站| 一区二区三区免费视频入口| 欧美国产日韩高清在线| 97硬碰| 亚洲精品国产拍免费91在线| 成人小说另类在线| 国产一区二区三区不卡手机在线| 男人天堂网手机版婷婷| 国产精品一区午夜福利| 日本精品88888888| 激情一区二区| 亚洲一区二区三区久久 亚洲一区二区| 久久九九精品一区二区| 黄色电影在线播放综合网站 | 欧美线天码中字| 亚洲免费成人在线高清无码视频| AV天天在线观看| 久久精品国产97欧美精品亚洲| 国产精品视频91久久| 国产在线强奸视频| 国产熟妇一区二区| 国产无码成人无码| 欧美亚洲玖玖玖| 免看60秒涩涩视频| 另类一区| 天天综合网合集91| 欧美在线播放aaaa| 色综合1991| 色在线亚洲视频www| 成人精品电影| 97视频网站| 老鸭窝亚洲毛片| 中文字幕乱亚洲美女精品一区| 18禁精品网站在线看| 妇女视频网站| a片偷拍视频| 久久综合日韩亚洲欧美| 日本成人A片网站| 青青草乱入乱欲视频在线观看| 欧美性xxxxx狂欢| 免费农村成人少妇人妻Aa一区二区视频 | 97人人草| 亚洲另类天堂| 加勒比AV网| 欧美人人曰人人操人人射射| 五月开心久久AV官网| 香伊人在线| 美女大乳久久久久久久女人18| 亚洲日韩av专区无码| 337p大胆噜噜噜噜噜91Av| 欧美91网| 国产天美欧美| 国产黄片在线免费观看| 日韩 女同 综合| 90后性网国产欧美| 久热伊人| 96国产污污污丝袜| 欧美三级中文字幕hd| 久久精品区| 超碰在线99| 人妻色偷色噜| 99re这里| 在线观看岛国有码| 亚洲熟女av中文字幕| 黑操B| 日韩精品资源专区二区| 中文字幕女同在线| 二色av| 欧美激情区| 日韩成人午夜精品久久高潮| 色噜噜精品一区二区三| 亚洲不雅视频1区二区| 吻戏激情性巴克| 久久国产乱子伦精品免费女人| 曰韩香蕉97| 国产成人精品日本视频| 黄色片A级一区二区三区| 欧美熟女逼久久久久久| 91亚洲黑人| 黄色人人| 超碰九7免费| 国产精品suv一区| 91超级碰碰碰| 黄片qw| 久热最新在线杭州| 老司机久久| 殴美性色a级欧美| 日韩综合无码色欲vv| 欧美亚洲丝袜人妻制服中文99| 一区久久久二区| 无遮挡h肉动漫在线观看| 久热网| 五月天久久婷婷亚洲| 久久婷婷精品| 日韩欧美大力操| 懂色av一区二区三区天美传媒| 啊啊啊快操我视频| 午夜呻吟欧美| 久久超碰爱| 成人福利视频网| 91美女在线观看| 伊人网一本| 日韩中字av一区| 六十路日本| 午夜成人爽爽爽爽A片李冰冰| 97操碰| 男女激情中文字幕| 嗯嗯啊操我| 婷婷综合五月天| 日韩丰满熟妇| 欧美极度丰满熟妇hd| 大香蕉乱级| 69麻豆天美| 亚洲色图欧美色18直播在线| 婷婷人妻激情| 久久久久久久久久久精| 97在线资源| 美女淫穴| 嗯嗯啊啊视频一区二区三区| 天堂av2019| 天美av在线观看| 91GD.COM| 丰满人妻一区二区三区在线| 91人妻爽爽人人做人人澡| 狠狠激情综合狠狠操中文字幕| 日韩精品在线观看观看| 日本性爱欧美性爱| 人人做,人人操,人人摸| 诱惑网综合| 97视频免费播放| 美女黄页网站| 999精品久久久久久久| AV中文字幕三四五| 亚洲欧美日韩不卡人妻| 91熟女在线| 91五十路| 84YTCOM性无码| 在线视频 亚洲精品| 少妇高潮九九九九| 99久久无码| 国产精品高潮久久久无码| 国产激情视频一区区三区| 欧美中文综合| 亚洲h片在线免费观看| 免费a级毛片av无码久久精品中文字幕| 日韩欧美性爱电影在线观看| a片在线播放| 高清国产性猛交xxxx乱大交| 久久久久亚洲?V片无码V| 亚洲女毛多水多21P| 90后性网国产欧美| 婷婷伊人綜合中文字幕| 麻豆久久久一区二区| 99久久久久| 中文高清一区二区的| 麻豆亚洲Av成人无码一区精品| 欧美色图片91| 久久久久9| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 91高跟美女在线播放| 中文字幕、久久精品国产2020、久久综合久久自在自线精品自、亚洲 | 一区二区激情国产熟女| 性色avv| 美女主播色欲91抠b在线播放| 91精品国久久久久久无码| 97超碰影音| 福利视频合集| 黄色毛片A片| 久久综合五月天| 97亚洲资源| 风月影院男女十八禁| 九九精品网| 中文?日韩?免费?精品| 欧美日韩精品一区二区三区高清| 色播综合| 国产女人9999| 97超碰欧美中文字幕| 日韩国产乱子伦App| 婷婷丁香成人| 久久亚洲熟妇在线视频| 蜜臀99精品国产高清在线观看| 91久久免费视频互動交流 | 99久久久er直播网址| 欧美色婷婷| 97伪v| 搡老女人老91二区| 国产一区二区视频在线播放| 夜夜高潮夜夜爽高清视频一 | 欧美日韩国产色五月综合在线| 麻豆久久一区二区三区| 久久欧美性爱视频| 天天天天天天天天综合| 精品天堂| 色色五月天激情| 国产白丝在线| 樱花蜜乳av| 碰碰在线视频| 欧洲精品二区| 婷婷AV一区二区三区| 密臀AV在线| 偷拍精品一区二区三区| 日韩精品99999| 91日日夜夜| 18禁精品网站在线看| 天堂蜜桃无码视频一区二区| chaopen97久久| 天天色黄色影院天天操| 婷婷五月av| 欧美色图91p| 老司机午夜精品视频| 99热在线观看| 女同性恋中文字幕| 美国一区二区三区视频| 亚洲人在线| 超碰诱惑| 婷婷五月天福利| 国产风韵犹存熟妇三区| 99热国产| 丝袜美腿射精91| 日本狂喷奶水在线播放212| 九九热精品| 一区二区三区一亚洲中文字幕、综合区灬 | 国产精品 视频| 操人妻少妇中文| 91n处女在线观看| 久久九九综合| 91免费看中出视频| 亚洲婷婷五月天| 淫淫综合网| 亚洲有码 欧美精品| 久久久青青草| 中文字幕日韩综合| 免费精品无码一级毛片牛牛影视 | 蜜臀久久99精品久久久老,,| 男人的天堂va在线| av午夜玫瑰| 超清福利精品视频在线| 亚洲污污网站| 精品-91人妻子系列| 国产91丝袜 在线播放| 欧美日韩性爱视屏免费看了| 91久久婷婷| 精品国产乱码久久久久久久久1 | 97超碰9| 欧美色图片91| 可能人人看人人摸| 91日韩网站| 伊人成人中文字幕久久网| 91美女网站| 婷婷激情一区二区三区俺也去| 中国少妇XXXX做受| 后入式999| 日本超碰在线国产一区| 亚洲熟女乱色一区二区三区| 大香交| 蜜桃臀av在线观看| 成人免费看吃奶视频网站| 都市激情人妻一区二区青青操视频 | 亚洲导航深夜福利| 亚洲高潮影院| 久久超碰98| 强奸a片网| 久久超碰国产一区二区三区| 久久精品电影| 麻豆av一区二区三区| αⅴ天堂| 91视频综合网| 久久9999 | 近亲乱伦一区二区| 亚洲在线欧美| 少妇专区一二三四五| 亚洲天堂电影精品一区| 69少妇一区二区| 97伊人| 中文字幕亚洲欧美在线不卡| 99久久网站| 性爱视频免费网址| 淫淫综合网| 啊啊啊啊啊啊啊啊啊啊在线观看| 五月丁香亭亭| 国产熟女免费观看久久| 色欲天天婬色婬香WWW夜色| 免费99精品国产自在在线| 男人下部插入女人下部| 久操婷婷| A片 AV一级在线播放观看免费| 91蜜桃传媒精品久久久一区二区| 精品v1区| 国产免费永久精品无码| 国产精品永久免费10000| 大香蕉78| 九九九成人| 极品一区二区三区免费| 日韩不卡码| 77777亚洲蜜臀精品久久综合蜜臀| 久久亚洲AV成人精品无码| 级做a爱无码性色永久免费| 大香蕉视频啪啪啪啪| 学生妹天天看| 久久神马影院| 97超碰逼| 99热在线不卡| 欧美少妇第一页| 人人乐大香蕉| 97超碰碰碰| 91呆哥人妻| 一个人免费HD91视频| 小日子操bb在线看| ji熟女.com| 农村少妇久久久久久久| 欧美视频一区二区三区| 四季av一区二区凹凸精品小说| 亚洲无限观看| 性感美女啊啊啊在线| 91爱做| 九九九九九九视频| 欧美色日本| 神马久久69| 麻豆天美制片厂网站视频| 第45页一区二区| 久久不卡一区二区| 国产亚卅97| 成人色女网| 亚洲激情天堂网| 97精品第3页| 熟妇人妻一区二区三在线| 精品无人区麻豆乱码久久久| 久久精品夜色国产亚洲AV| 97人人爱人人做人人乐| a人片中文字幕一区二区| 中出789在线视频| 91九九九逼| 精品人妻无码一区二区三区不卡-精品人妻无码一区二区...|精品少妇一区二区三 | 国产精品不卡少妇白| 中韩中文字幕在线观看| 人妻三级在线中文字幕| 国产亚洲日韩欧| 久久精品久久九九精品| 老司机深夜影院18未满| 国产亚洲色婷婷久久99精品91| 久久亚洲婷婷| 射丝袜高跟鞋99| 神马久久中文字幕| 伊人嫩草| 九热超碰| 欧美资源| 天堂中文日本在线观看| 99操碰| 欧美日日夜夜| 午夜精品久久久久久久| 国产精品一区二区三区免费视频| 私人尤物在线精品不卡| 国产操逼逼网| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 狠狠超| 久久av一级av少妇av高潮| 国产大学生口爆吞精合集| 国内外色色色色色成人视频| 69视频福利导航| 国产精品夜夜夜| 在线综合网| 强歼乱伦资源网| 亚洲中文字母在线播放| 91美女在线精品视频| 少妇丝袜在线观看AV| 久久粉色| 亚洲制服欧美另类内射| 91久久精品国产| 国产精品一区二区麻豆| 色综合av综合久久| 五月色网| 欧美亚洲厕所精品偷拍91| 超碰九7| 狠狠中文字幕| 超碰亚洲欧美日韩无| 国产精品一二三| 一二三区操逼国产91| A片三级无码| 久久免费看高潮毛片韩国| 色狠狠一区二区三区香蕉| 四虎国产精品永久在线囯在线| HEYZO高无码国产精品227| 国产蜜臀精品一区免费尤物| 亚洲色性| 国产亚洲欧美每日在线| 混色激情av| 东京热,男人的天堂| 色欲三区| 婷婷色香| 亚洲综合第一页| 亚洲AV成人在线| 久久熟女久| 飘花国产午夜精品不卡| 77777亚洲蜜臀精品久久综合蜜臀| 夜夜嗨一区二区三区三州加勒比| 亚洲第一精品在线视频 | 在线性黄高清免费视频| 麻豆 亚洲 97| 精品人妻中文字幕4399| 久久精品老司| 丁香五六月啪啪| 99热亚洲天堂| 91丝袜美女视频| 五月天婷婷久久| 在线电影亚洲色图| 日韩激情啪啪| 青草视频人妻在线观看| 日本成人电影资源网| 人人超碰在线观看黄| 国产在线观看一区二区三区| 91在线免费观看处女| 成人青青草原伊人| 天天综合精品| 亚州欧美在线| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 在线人人人人人人精品超| 1024午夜激情男人的天堂| 国产日韩欧美中文在线播放| 天天色怡春院| 欧美人妻久久精品二区三区| 麻豆天美AV传媒第一页| 国产精品成人无码av| 超碰吊日色| 欧美亚洲丝袜人妻制服99| 欧美性夜| 婷婷色香| 久久东京伊人一本到鬼色| 久久久久9999精品九九九| 久草免费福利在线播放| 日韩综合第八区国产精品| 一级A啪啪啪啪| 日韩欧美传媒一区国产| 德国一二三不卡| 香伊人在线| 久久久九精品| 精品国产精品一区二区| 免费成人自拍视频在线| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | 中国女人内射6XXXXX| 久久超碰天天| 国产农村妇女一区二区| 这里只有精品视频在线观看麻豆| 91激情综合| 色综合天天| 国产午夜在线观看| 色哟哟av网址| 欧美三级不卡| 风月影院男女十八禁| 韩日精品四区| 又大又黄国产| 亚洲一区二区中文字幕| 一级久久性爱视频| 黄色污污污污污污网站| 97久久久久久久久久| 精品中文字幕第一页| 久干网| 干超碰碰熟女| 亚洲激情综合另类| 激情网色| 精品国产自在在线99| 凹凸视频在线一区二区| 5278欧美一区二区三区| 麻豆av一区二区| 91精品国产日韩欧美综合| 超碰97综合网| 91美女中出| 色欧洲| 老汉网| 99热91| 尤物网址| 四方色播| 青木玲在线不卡| 日韩三级一区| 人人操人人插人人摸人人干| 欧美自拍网| 裸模AV女优| 岛国片在线观看视频亚洲| 亚州综合| 国产精品久久泡妞网站| 9久久美女首页| 欧美日韩第一页| 欧美一区二区福利在线| 日本不卡一二区| 亚洲性少妇| 中文字幕91综合| 国产精品亚洲一区二区三区四区| 麻豆久久精品亚洲精品88| 色鬼在线综合| 天天透伊人| 大香蕉综合在线| 最新岛国大片| 国产强奸乱伦无码视频| …亚洲黄色厕厕女女在线播…| k频道色撸撸| 韩国轻伦国内自拍一区| 日韩人妻无码专区| 久操网视频| 日韩av电影成人在线| 男人综合网| 尤物AV免费网站| 天天色怡春院| 91欧美丨精品丨入口| 蜜桃中文字日产乱幕4区| 国产AV毛片| 精品一区二区三区国产| 91性网| 清纯唯美综合亚洲| 天天看高清麻豆| 欧亚不卡| 色超碰综合| 美女裸体麻豆天美蜜桃91| 亚洲性爱高潮影院| 久久五月天婷婷| 99精品在线播放| 精品成人av一区二区三区在线| 色婷婷激一区二区三区| 亚洲囯产精品女人久久久| 国产91会所女技师在线观看| 久久精品一区二区一8| 美女诱惑久久| 久久系列| 超碰免费97| 天天日天天操天天射河南省| 超碰在线人人射| 超碰欧美| 中日韩一区二区三区欧美| 无遮挡又黄又刺激的视频| 日韩亚洲欧美中文字幕| 亚洲人久久久久日| 中文乱码字幕观看视频| 天堂av最新电影网| 91中文字幕制服丝袜免费视频| 久久老熟女| 欧美日韩久久精品爱爱| 亚洲天堂加勒比| 亚洲人妻久久久| 97久久精品不卡| 人妻少妇精品无码专区二区密桃| 久久精品噜噜噜成人看免欧美大片| 97se亚洲综合自| 久久久久久久久久9| 麻豆天美传媒毛片| 日韩免费中文字幕视频| 婷婷色综合欧美日韩| 黄片视频观看| 无码操逼网| 亚洲国产无码精品首页久久久| 色噜噜精品一区二区三| 亚洲激情网一二三四区| 91九九九馒头| 91总综合网| 亚洲天堂少妇| 富女玩鸭子一级毛片| 人人摸.人人色| 无码国产精品久久久久| 天天拍天天操| 91久久堂| 亚洲图片小说欧洲| 美女裸体无遮挡永久免费观看网站 | 麻豆性爱视频在线播放| 中文字幕诱惑制服人妻丝袜美丝袜美 | 夜色AV无码手机在线影院| 99亚亚热| 国产久久久久影院老熟女| 午夜操一视频一区| 国产偷人伦激情在线观看| 啪一啪免费视频| 人妻天堂综合网| 欧美大片一区二区三区| 欧美综合天堂| 99久久精品无码一区二区| 啊啊啊好爽快点啊啊啊嗯嗯| 成人熟女区| 久久嫩草| 粉嫩在线一区二区懂色| 肉丝网站91| 嫩草91| 久久超碰国产一区二区三区| 五月丁香综合激情| 欧美激情片一区二区| 我要色综合网站| 老司机午夜精品视频| 国产高清无码一区二区三区四区皇冠| 久久久精久久久| 国产精品白丝AV| 屁股久久久久久| 欧美精品日韩一区二区| 美骚妇av高清在线| 九九九九九精品| 综合影院永久入口国产| 美女刺激久久国产欧美| 欧美熟女逼久久久久久| 秋霞一级鲁丝片A片| 亚洲制服欧美另类内射| 超碰夫妻97| 亚洲国产美女久久久久| www.99视频| 国产又大又粗又长视频在线| 97香蕉网| 91黑丝在线播放| 人妻美腿丝袜日韩| av无码精品久久久久| 夜夜高潮夜夜爽| 色噜噜国产精品视频一区二区| 日韩精品中文字幕一| 中文幕97| 无遮挡一级毛片视频免费的| 九九热精品在线| 色九久| 色性综合| 最近二区三区视频大全| 婷婷五月av| 91欧美巨乳| 18禁免费视频| 上床不卡网站| 欧美一二三级精品在线| 少妇与黑人高潮在线| 97精品久久| 亚洲男人bt天堂| 激情婷婷丁香| 日韩欧美国产高清视频| 欧美天天在线| 91强奸乱轮| 亚洲双插| 99色在线视频| 欧美性爱一区二区三区| www.久久| 凹凸视频在线一区二区| 色999人与兽| 日日骚AV| 天天干天天日天天射黄色大片| 久久久久九九九九| 黄色二级片网站| 日韩在线地址一| B049AV在线播放| 综合操逼| 欧美狠狠狠| 精品一区二区在线针对华人免费观看这里只有精品免费观看 | 亚洲乱码精品一区二区| 久久色激情一区二区三区| 超碰97人人cao| 亚洲影院小综合| 激情国产乱伦Av| 亚洲男人天堂2016| 亚洲欧美日韩夜夜| 久久老熟女| 久无码| 性色av蜜臀av色欲aV| 亚洲综合色在线| 久草婷婷| 亚洲综合九九| 91麻豆天美传媒HD| 亚洲精美粉嫩嫩泬在线观看| 粉嫩小泬久久久一区二区| 大香蕉专区| 男人的天堂kva| 欧美性猛交美女自慰91| 大色综合| 中国黄色特级精品一区二区三区片| 手机在线看片免费人成视频| 免费在线视频97| 怡红院成人av| 爱我干综合| 日产操逼| 精品二区久久| 伊人成人情色综合| 一级久久性爱视频| 熟妇熟女一区二区三区| 欧美激情久久久久| 99无码视频| 91精品国产91久久福利| 欧美96交| 中文字日本乱码| 日本国产欧美高清在线| 揉揉揉夜夜| 热久日综合| www.yw尤物| 福利社区午夜一区二区| 男人的天堂va| 亚州欧美一区| 综合色图亚洲欧美| 欧美疯狂做爰xxxx| 东京热一区二区中文字幕| 亚洲偷91色| 激情丁香五月婷婷| 神马久久久久久伦理片| 日韩少妇无码| 久久久久久少妇| 四虎视频在线观看| 欧美男人一区| 国产精品无码AV网站| 国产精品99精品视频网站| 九九九久久久W精品| 久偷拍| 农村妇女一级二级三级视频| 18禁精品网站在线看| 亚洲欧美人妻| 91熟女视频网| 久久综合久色欧美综合狠狠| 射丝袜高跟鞋99| 99精品久久久久久久婷婷蜜桃| 黄色片,com| 亚洲 欧美 日韩 国产一区二区| 91综合天天看| 免费成人在线熟妇网| 久久伊人在线五区| 亚洲操人| 日本护士高潮| 人人插人人搞人人操| 69少妇一区二区| 国产精品精品系列在线观看| 大鸡巴久久| 97精品一区| 精品人妻无码一区二区三区不卡-精品人妻无码一区二区...|精品少妇一区二区三 | 内射小黄片| a'v在线资源| 亚洲色电影在线| 噜噜瑟| 久久精品一区二区三区蜜桃臀| 99999精品视频| 少妇国产不卡| 清清一区二区三区四区不卡视频| 久久久免费的精品| 久久久久久国产手机AV| 日本狂喷奶水在线播放212| 日韩av无码网站| 操逼A∨| 电家庭影院午夜69久久夜色精品国产69乱 | 日韩性爱1级片视频| 免费国产电影一区二区| 97超碰人人模人人拍人人| 亚洲人妻久久| 日语五十路和六十路亚洲国产精品| 国产精品乱码久久久久| 亚洲人妻精品一区二区| 好吊色综合| 激情小说亚洲色图| 超碰91在线| 国产精品久久| 在线日韩精品一区二区三区| 日韩成年人性爱视频| 蜜桃久久一区二区| 亚洲丝袜综合| 91综合在线| av激情亚洲五月天| 天天射天天操天天干天天吃2018| 国产操逼网站亚洲一级黄色| 欧美日韩亚洲天堂| 亚洲国产精品无码AV久久| 亚洲天堂精品日韩电影| 偷拍 亚洲 欧美| 肏逼视频日本| 东北丰满熟女国产一区| 尤物黄色在线观看网站| 51久久夜色精品国产麻豆| 交换娇妻呻吟声不停中文字幕| 亚洲蜜乳av| 免费观看国产小粉嫩喷水精品午| 国产一级黄色片在线观看| 99视频精品| 婷婷综合五月天| 国产60区。| 加勒比综合a∨| 97欧美在线| 人妻一区二区三区视频| 国产精品无码av嫩草| 99在线精品观看99| 蜜臀av中字字幕网站| 中文字幕人妻色偷偷久久皮 | 三级三级三级日本99| 99国产精品久久久久久久成人热 | 夂久色| 97香蕉人人乳| 99re6在线视频播放免费精品| 亚洲天堂精品日韩电影| 琪琪精品免费一区二区三区| 九九成人| 和协影院中文字幕三区| 欧美96交| 99久久久无码精品国产人| 熟女人妻一区二区三区| 精品国产乱码久久久久久久久1 | 丁香五月影院| 97精品国产精品免费观看| 啊啊啊啊免费视频| 国产亚洲精品A在线观看下载| 国产自偷自拍一区| 亚洲精品丝袜| m欧洲一级午老| 躁躁躁日日躁2020| 交换娇妻呻吟声不停中文字幕| 国产a级午夜毛片| 欧美熟妇乱码在线一区| 天天操天天日青青草超碰av| 麻豆国产97在线| 狠狠色综合网| 伊人991| 亚洲无码 国产无码| 热99这里只有精品| 亚洲AO在线| 亚洲男人天堂av| 精品人人插人人操| 91麻豆天美传媒HD| 日日夜夜精品视频| 最新国产精品久久精品| 吉川爱美98堂在线| 久久香蕉国产线看观看亚洲女人 | 超碰在线974| 91天堂| 久久AV无码网址| 国产精品久久久久久久久久久久久久久 | 久久97资源 网| 另类欧美色| 99精品成人免费看| 亚洲综合贴图91| 五月天久久综合网| 久久婷婷精品| 色原狠狠天天天| 操逼视频亚洲| 欧美大干日韩| 日韩乱伦AⅤ| 国产人伦精品一区二区三区| 欧美日韩在线小说| 五月天激情四射| 蜜桃臀一区二区三区久久| 韩国一级婬片A片无码天美| 99999久久久久9国产精品| 97久久超碰日韩精品| 婷婷天堂站| 国产丝袜一区二区三区| 日韩A优精品在线观看| 91天射| 午夜精品久久久久久久久久蜜桃| 屌妞视频久久久久久久久久久久| 蜜臀久久99精品久久久久久-DVD原版全| 欧美日韩99| 后入国产| 中文字幕人妻丝袜| 欧美精品庄| 97天天爽| 97超碰人人模人人拍人人| 欧美日韩国第一区| 免费成人自拍视频在线| 日韩欧美女优电影| 免费在线看黄片av| 国产原创精品| 偷拍综合网| 国产性刺激| 色在线综合| 夜夜爽爽夜夜精品视频| 日韩欧美国产一区二区三区四区| 亚洲综合113页| 99这里只有精品国产| 四虎免费看黄| 日韩精品视频在线观看一卡二卡| 国产99999久久精品| 秋霞影音一区二区三区| 亚州五月| 99re视频在线观看这里只有精品| 女性91网站| 78p欧美| 欧美日韩在线国产在线| 精品一区99999| 亚洲综合婷婷| 尤物av网站免费在线播放| 青苹果影院男人的天堂| 三男一女不戴套的A片| 四虎免费看黄| 精品久久久久av影院| 欧美草草高清日韩视频| 久久精品亚洲婷婷| 欧美一区二区一级岛国大片| 中文字幕AV片| 乱伦系列一区二区| 92大香蕉| 97日本超碰综合| 日本成人A片网站| 97视频新免费| 大香蕉一线视频| 国产熟女无套内射| 欧美在线大香蕉| 欧美亚洲日本激情在线| 欧美性天天| 东北操逼| 一区二区三区精品黑丝白丝酒店对鸡 | 欧美在线播放aaaa| 黄色免费网| 91九色丰满高潮| 欧美综合骚| 黄片在线免费在线观看| 国产精品熟女一区二区三区| 欧美韩日精品资源| 久久精品小视频| 亚洲成人久久一区二区| 密臀在线一区尤物| 日韩78m视频| 天天看天天综合成人网| 超碰在线香蕉| 日韩无码人妻| 视频在线97| 蜜臀久久久国产| 欧美拳交在线播放| 九色精品视频导航1| 91狠狠| 精品国产乱码久久久影院| 屌妞视频久久久久久久| 色色色热| 思思热免费视频观看| 青娱乐福利99| 97天天插| 91欧美丨精品丨入口| 欧美|91色综合| 婷婷伊人网| 中文字幕诱惑制服人妻丝袜美丝袜美 | 8050无码八戒| 欧美人与动性人交a| 欧美亚洲首页| 超碰在线第一页| 双插在线| 又大又黄国产| 性爱av在线免费观看| 日韩精品1区2区中文字幕| 久久精品国产Aⅴ| 91 丝袜在线播放| 国偷自 一区二区| 美女黄页| 五月天婷婷综合网| 国语精品内射在线观看| 在线国产福利网址导航| 中文字幕丰满人妻日本| 1区2区3区视频| 揉揉揉夜夜| 一二区在线观看视频| 天天插天天操天天摸天天射天天看| 天天碰操中国年青熟妇| 国产超碰国产97| 综合一区中亚洲国产成人综合精品 | 亚洲限制级| 91新在线欧美| 91啪9色| 亚洲国产欧美日韩精品一区二区三区,国产一区二区三区在线看片,欧美性猛交 XXX | 久久久久一本一区二区青青蜜月| 熟女人妻一区二区三区| 亚洲强奸乱伦影视网| 美国一区二区三区视频| 黄片免费看的| 午夜亚洲国产理论秋霞| 久热在线精品免费观看| 天天做天天爱夜夜爽毛片试看| 亚洲伊人久久综合97| 亚洲福利影院一区久久| 亚洲黑人在线| 欧美色宗合| 凹凸视频在线一区二区| 精品视频一区二区| 中文有码9| 成人青青草原伊人| 久久国产乱子伦精品免费女,网站| 欧美亚洲特P| 欧美后入| 小说区 图片区色 综合区| 在线观看亚洲成人精品| 国产午夜福利电影免费在线观看| 精品久久久高清无码| 操高情无码| 国产成人网| 欧美成人9797| 久久本道| 啊啊好多水| 午夜欧美J进J出白浆流出久久久| 精品久久大胆人体| 大屁股熟女一区二区三区| 国产农村妇女毛片精品久久| 欧美激情区| 欧美成人A√在线一区二区| 国产精品高清2021在线| 中文字幕交换人妻| 国产又大又硬又长又粗| 久草五月| 亚洲中文字幕乱码无码一区二区| 97超碰亚洲| 热久久无毒不卡| 中文字幕丰满子伦无码专区在线视频最新| 污色区网站| 成人福利视频网| 99色在线视频|