日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

嵌入式Linux驅(qū)動(dòng)開(kāi)發(fā)實(shí)戰(zhàn):并發(fā)、中斷與NFS調(diào)試經(jīng)驗(yàn)談

嵌入式Linux驅(qū)動(dòng)開(kāi)發(fā)實(shí)戰(zhàn):并發(fā)、中斷與NFS調(diào)試經(jīng)驗(yàn)談 1. 入行三年我理解的驅(qū)動(dòng)開(kāi)發(fā)到底在做什么很多剛接觸嵌入式的朋友問(wèn)我驅(qū)動(dòng)開(kāi)發(fā)是不是就是對(duì)著芯片手冊(cè)配置寄存器把外設(shè)“點(diǎn)亮”就完事了我入行頭兩年也這么以為。直到被現(xiàn)實(shí)狠狠教育過(guò)幾次——產(chǎn)品在實(shí)驗(yàn)室跑得好好的一到產(chǎn)線就偶發(fā)死機(jī)按鍵按下去偶爾沒(méi)反應(yīng)網(wǎng)絡(luò)偶爾掉包。這些問(wèn)題最后都指向同一個(gè)根源我對(duì)驅(qū)動(dòng)的理解太淺了。真正的驅(qū)動(dòng)開(kāi)發(fā)本質(zhì)上是在做兩件事一是把硬件的時(shí)序和協(xié)議翻譯成軟件能調(diào)用的接口二是在這層翻譯里扛住一切不確定性和并發(fā)沖突。前者是基礎(chǔ)功后者才是決定一個(gè)驅(qū)動(dòng)工程師能走多遠(yuǎn)的分水嶺。我見(jiàn)過(guò)太多把驅(qū)動(dòng)寫(xiě)成“一把梭”的代碼初始化函數(shù)里噼里啪啦配一堆寄存器然后read函數(shù)里直接讀數(shù)據(jù)就返回。單看功能好像沒(méi)問(wèn)題可是一旦接入中斷、DMA、多線程立馬出錯(cuò)。因?yàn)橛布遣⑿械摹⑼獠渴录遣淮_定的而你的代碼卻是串行的、順序的——這中間的矛盾就是驅(qū)動(dòng)開(kāi)發(fā)真正的戰(zhàn)場(chǎng)。這篇文章不講那種“照著寄存器手冊(cè)一步步點(diǎn)燈”的初級(jí)教程而是想聊聊我摸爬滾打幾年后對(duì)驅(qū)動(dòng)開(kāi)發(fā)核心能力的理解內(nèi)核機(jī)制怎么用、文件系統(tǒng)怎么搭、代碼怎么分層、面試和項(xiàng)目怎么匹配。內(nèi)容比較雜但都是我實(shí)際驗(yàn)證過(guò)的經(jīng)驗(yàn)希望能給正在往這個(gè)方向走的同行一些參考。2. 決定驅(qū)動(dòng)質(zhì)量的內(nèi)核機(jī)制并發(fā)、中斷與內(nèi)存屏障2.1 并發(fā)問(wèn)題不是只有多核才叫并發(fā)我在帶新人時(shí)最常說(shuō)的一句話是驅(qū)動(dòng)里有九成以上的bug都是并發(fā)引起的。很多新手不理解——我單核CPU單線程執(zhí)行哪來(lái)的并發(fā)舉個(gè)最典型的場(chǎng)景。你的驅(qū)動(dòng)注冊(cè)了一個(gè)中斷處理函數(shù)同時(shí)應(yīng)用程序通過(guò)read()系統(tǒng)調(diào)用來(lái)讀數(shù)據(jù)。中斷隨時(shí)可能到來(lái)它會(huì)打斷正在執(zhí)行的read()代碼。假設(shè)read()函數(shù)先讀了狀態(tài)寄存器判斷“數(shù)據(jù)就緒”然后準(zhǔn)備讀數(shù)據(jù)寄存器——就在這一瞬間中斷來(lái)了中斷處理函數(shù)把數(shù)據(jù)寄存器里的值讀走了并清除了就緒標(biāo)志。等read()恢復(fù)執(zhí)行時(shí)它讀到的就是空數(shù)據(jù)或者舊數(shù)據(jù)。這就是并發(fā)問(wèn)題的本質(zhì)單核上的搶占同樣能制造競(jìng)態(tài)。所以寫(xiě)驅(qū)動(dòng)時(shí)鎖不是可選項(xiàng)是必選項(xiàng)。我在實(shí)際項(xiàng)目里常用的并發(fā)保護(hù)手段按優(yōu)先級(jí)排序是這樣的用mutex保護(hù)那些可能睡眠的臨界區(qū)比如i2c傳輸、spi傳輸因?yàn)檫@類(lèi)操作本身就會(huì)睡眠等待硬件完成spinlock在這時(shí)候不能用。用spinlock保護(hù)中斷處理函數(shù)和進(jìn)程上下文共享的數(shù)據(jù)持鎖期間絕對(duì)不能睡眠否則就是內(nèi)核oops。用atomic_t或bitops處理簡(jiǎn)單的標(biāo)志位、引用計(jì)數(shù)能不用鎖就不用鎖。用完成量completion實(shí)現(xiàn)“等事件”的同步比信號(hào)量更輕量、語(yǔ)義更清晰。這里要特別提醒一個(gè)細(xì)節(jié)加鎖的粒度一定要小。我見(jiàn)過(guò)有人把一個(gè)幾十行的傳輸函數(shù)整體鎖住結(jié)果持鎖時(shí)間太長(zhǎng)實(shí)時(shí)性完全廢了。鎖的粒度應(yīng)該只覆蓋臨界區(qū)也就是“訪問(wèn)共享數(shù)據(jù)”的那幾行代碼不要順帶把耗時(shí)操作也包進(jìn)去。2.2 中斷上下文的約束一半的驅(qū)動(dòng)問(wèn)題都出在這中斷處理函數(shù)跑在原子上下文里這意味著你不能調(diào)用任何可能睡眠的函數(shù)。這個(gè)約束從書(shū)本到面試題都在講但真正踩過(guò)坑的人才知道邊界在哪。我踩過(guò)最深的一個(gè)坑是在中斷處理函數(shù)里調(diào)用了kmalloc(GFP_KERNEL)當(dāng)時(shí)覺(jué)得“分配內(nèi)存總沒(méi)問(wèn)題吧”。結(jié)果內(nèi)核直接報(bào)“BUG: sleeping function called from invalid context”。因?yàn)镚FP_KERNEL標(biāo)志允許睡眠等待內(nèi)存回收這在進(jìn)程上下文沒(méi)問(wèn)題但中斷上下文根本不允許睡眠。正確做法是用GFP_ATOMIC。另外一個(gè)高頻坑是中斷處理函數(shù)里的耗時(shí)操作。如果中斷處理函數(shù)執(zhí)行時(shí)間太長(zhǎng)會(huì)阻塞其他中斷的響應(yīng)。特別是共享中斷號(hào)的情況你一個(gè)人的延遲會(huì)影響所有共享這個(gè)中斷號(hào)的設(shè)備。我現(xiàn)在處理中斷的思路基本固定為兩步中斷處理函數(shù)只做最快的事讀硬件清中斷標(biāo)志、用workqueue或tasklet把重活挪出去、喚醒等待隊(duì)列。真正的數(shù)據(jù)搬運(yùn)、協(xié)議解析、內(nèi)存拷貝全部放到下半部bottom half去執(zhí)行。這里順便說(shuō)一句線程化中斷threaded IRQ的事。request_threaded_irq()把中斷處理變成一個(gè)內(nèi)核線程這樣你可以在中斷處理里放心使用mutex和阻塞API調(diào)度開(kāi)銷(xiāo)也更容易控制。我現(xiàn)在做新驅(qū)動(dòng)默認(rèn)優(yōu)先考慮線程化中斷除非實(shí)時(shí)性要求極高才會(huì)回退到傳統(tǒng)方式。2.3 內(nèi)存屏障編譯器和CPU都會(huì)“重排”你的代碼這個(gè)知識(shí)點(diǎn)屬于“八股文里的高頻、實(shí)際項(xiàng)目里的深坑”。我在做DMA驅(qū)動(dòng)的時(shí)候真切體會(huì)到了它的重要性。場(chǎng)景是這樣的CPU把數(shù)據(jù)寫(xiě)到DMA描述符的緩沖區(qū)地址字段然后寫(xiě)“啟動(dòng)”位告訴DMA控制器可以開(kāi)始搬運(yùn)了。從CPU的角度看這兩次寫(xiě)操作的順序是明確的。但到硬件層面寫(xiě)“地址”的操作可能還躺在CPU的寫(xiě)緩沖區(qū)里DMA控制器卻已經(jīng)看到“啟動(dòng)”位被置位于是它去讀了一個(gè)還沒(méi)生效的地址——數(shù)據(jù)全亂了。解決這個(gè)問(wèn)題就需要內(nèi)存屏障。在ARM架構(gòu)下我常用的屏障是dma_wmb()保證DMA描述符里的數(shù)據(jù)在“啟動(dòng)”位之前寫(xiě)入內(nèi)存。dma_rmb()保證DMA完成后CPU讀取的數(shù)據(jù)一定是硬件已經(jīng)寫(xiě)入內(nèi)存的。這里有個(gè)細(xì)節(jié)很多人容易忽略內(nèi)存屏障不是所有架構(gòu)都需要的。x86的存儲(chǔ)模型相對(duì)強(qiáng)一致很多場(chǎng)景下不需要顯式屏障但ARM是弱內(nèi)存模型編譯器優(yōu)化和CPU亂序執(zhí)行都可能重排訪問(wèn)順序。所以同一個(gè)驅(qū)動(dòng)代碼x86上跑得好好的搬到ARM上就出詭異問(wèn)題多半就是少了屏障。當(dāng)然大部分情況下你不需要手工去寫(xiě)屏障——內(nèi)核的DMA API已經(jīng)幫你處理好了。你要做的只是用對(duì)APIdma_alloc_coherent()分配一致性緩沖區(qū)或者用dma_map_single()配合dma_sync_single_for_device()做同步。最好的內(nèi)存屏障是根本不需要你寫(xiě)的那道屏障。3. 從零折騰根文件系統(tǒng)NFS掛載的實(shí)戰(zhàn)與避坑3.1 為什么開(kāi)發(fā)階段一定要用NFS啟動(dòng)在開(kāi)發(fā)Linux驅(qū)動(dòng)和應(yīng)用程序的階段最痛苦的事情莫過(guò)于每次改一行代碼都要重新燒寫(xiě)整個(gè)根文件系統(tǒng)到板子的flash里然后等它啟動(dòng)完再跑測(cè)試發(fā)現(xiàn)問(wèn)題回到宿主機(jī)改代碼。這個(gè)循環(huán)極其低效。NFSNetwork File System掛載根文件系統(tǒng)的意義在于開(kāi)發(fā)板的根文件系統(tǒng)不再放在本地存儲(chǔ)上而是通過(guò)網(wǎng)絡(luò)直接掛載宿主機(jī)上的一個(gè)目錄。你改代碼、編譯、把新文件放到宿主機(jī)的共享目錄里開(kāi)發(fā)板重啟后看到的就是最新的文件。整個(gè)過(guò)程零燒寫(xiě)、零等待。我在一個(gè)項(xiàng)目里驗(yàn)證過(guò)同樣一輪“改代碼-跑測(cè)試”的迭代用傳統(tǒng)燒寫(xiě)方式大約需要8到10分鐘換成NFS啟動(dòng)后壓縮到1分半以內(nèi)。一天下來(lái)能省下兩個(gè)多小時(shí)而且精神損耗小得多——因?yàn)榈却钊菀紫ツ托?。使用NFS有前提條件開(kāi)發(fā)板能穩(wěn)定聯(lián)網(wǎng)而且網(wǎng)絡(luò)環(huán)境相對(duì)可靠。如果現(xiàn)場(chǎng)環(huán)境惡劣網(wǎng)絡(luò)頻繁掉線那還是老老實(shí)實(shí)用本地存儲(chǔ)啟動(dòng)別和自己過(guò)不去。3.2 完整的NFS根文件系統(tǒng)掛載步驟下面是我反復(fù)驗(yàn)證過(guò)的完整流程以常見(jiàn)的嵌入式Linux開(kāi)發(fā)板 宿主機(jī)Ubuntu為例。宿主機(jī)側(cè)配置安裝NFS服務(wù)sudo apt install nfs-kernel-server編輯/etc/exports添加共享目錄配置/opt/nfs_rootfs 192.168.1.0/24(rw,sync,no_root_squash,no_subtree_check)這里解釋一下幾個(gè)關(guān)鍵選項(xiàng)都是踩坑換來(lái)的經(jīng)驗(yàn)rw允許讀寫(xiě)。如果漏了這個(gè)開(kāi)發(fā)板只能讀不能寫(xiě)很多程序跑起來(lái)會(huì)報(bào)段錯(cuò)誤很難排查。sync強(qiáng)制同步寫(xiě)入。開(kāi)發(fā)階段必須開(kāi)sync否則開(kāi)發(fā)板上的寫(xiě)入可能還在宿主機(jī)緩存里開(kāi)發(fā)板一斷電數(shù)據(jù)就丟了。no_root_squash允許root用戶保持root權(quán)限訪問(wèn)。如果不加這個(gè)在開(kāi)發(fā)板上以root身份寫(xiě)的文件到宿主機(jī)上會(huì)變成nobody用戶的權(quán)限非?;靵y。no_subtree_check減少NFS的子目錄檢查開(kāi)銷(xiāo)。性能有提升但在某些文件系統(tǒng)上有兼容性小坑如果遇到奇怪問(wèn)題可以去掉試試。重啟NFS服務(wù)并驗(yàn)證sudo exportfs -ra sudo systemctl restart nfs-kernel-server開(kāi)發(fā)板側(cè)配置在U-Boot里設(shè)置啟動(dòng)參數(shù)關(guān)鍵在bootargs環(huán)境變量setenv bootargs root/dev/nfs nfsroot192.168.1.100:/opt/nfs_rootfs,v3,tcp rw ip192.168.1.101:192.168.1.100:192.168.1.1:255.255.255.0::eth0:off saveenv這里有個(gè)容易翻車(chē)的點(diǎn)內(nèi)核需要開(kāi)啟NFS_V3和網(wǎng)絡(luò)文件系統(tǒng)相關(guān)選項(xiàng)。我在內(nèi)核配置里經(jīng)常漏了CONFIG_NFS_V4反而開(kāi)著然后開(kāi)發(fā)板的NFS客戶端默認(rèn)優(yōu)先用NFSv4去握手如果宿主機(jī)端的NFS服務(wù)器只支持v3或者兩邊版本不匹配就報(bào)mount: Operation not permitted或者直接mount超時(shí)。所以我的建議是掛載參數(shù)里顯式指定v3或v4別讓它自動(dòng)協(xié)商。版本協(xié)商在NFS這里很容易出事明明網(wǎng)絡(luò)通、目錄存在、權(quán)限也對(duì)就是掛不上多半是版本問(wèn)題。還遇到過(guò)兩次詭異的問(wèn)題最后都定位到同一個(gè)根因開(kāi)發(fā)板的/etc/nsswitch.conf或DNS解析配置有問(wèn)題導(dǎo)致mount時(shí)嘗試解析主機(jī)名卡了很久。如果你用的是IP而不是hostname還出現(xiàn)長(zhǎng)時(shí)間卡頓檢查一下是不是同時(shí)開(kāi)了IPv6。根文件系統(tǒng)本身的內(nèi)容要求NFS掛載成功后開(kāi)發(fā)板訪問(wèn)的是宿主機(jī)的目錄但這個(gè)目錄必須是一個(gè)“能用的根文件系統(tǒng)”。我一般從已有系統(tǒng)拷貝骨架目錄過(guò)來(lái)或者用Buildroot先構(gòu)建一份基礎(chǔ)根文件系統(tǒng)再放到NFS共享目錄里。最低限度得有的目錄/dev /proc /sys /tmp /etc /bin /sbin /usr。特別提醒/dev目錄不能空。至少要先用靜態(tài)方式創(chuàng)建console和null設(shè)備節(jié)點(diǎn)或者在根文件系統(tǒng)的init腳本里提前掛載devtmpfs、sysfs、procfs否則內(nèi)核啟動(dòng)到掛載根文件系統(tǒng)后會(huì)卡在找不到console設(shè)備上。3.3 掛了NFS之后還得處理這些“第一眼看不見(jiàn)”的問(wèn)題NFS啟動(dòng)成功后開(kāi)發(fā)板的系統(tǒng)會(huì)有幾個(gè)和本地啟動(dòng)完全不同的表現(xiàn)這些坑如果不提前知道會(huì)浪費(fèi)你半天時(shí)間。第一網(wǎng)絡(luò)啟動(dòng)依賴。根文件系統(tǒng)在網(wǎng)絡(luò)協(xié)議棧起來(lái)之后才能掛載所以網(wǎng)卡驅(qū)動(dòng)必須是內(nèi)核內(nèi)置的built-in不能是模塊。內(nèi)核配置里把對(duì)應(yīng)的網(wǎng)卡驅(qū)動(dòng)設(shè)成*y不然啟動(dòng)順序上根本輪不到它。這不是猜的我已經(jīng)見(jiàn)過(guò)不止一個(gè)新人把網(wǎng)卡驅(qū)動(dòng)編譯成模塊然后NFS死活起不來(lái)。第二寫(xiě)操作的損耗。開(kāi)發(fā)中經(jīng)常出現(xiàn)開(kāi)發(fā)板上創(chuàng)建了一個(gè)文件但宿主機(jī)上看不到或者內(nèi)容還是舊的。這通常是sync選項(xiàng)沒(méi)開(kāi)或者兩邊緩存不一致導(dǎo)致的。開(kāi)發(fā)階段還是老老實(shí)實(shí)把sync開(kāi)著別為了那點(diǎn)性能去踩這個(gè)坑。第三掉電壓測(cè)的假象。生產(chǎn)環(huán)境里開(kāi)發(fā)板都是焊接穩(wěn)定的但開(kāi)發(fā)階段大家常常直接拔電重來(lái)。NFS啟動(dòng)的板子拔電后宿主機(jī)NFS服務(wù)端可能會(huì)有殘留的鎖和連接重啟后偶爾出現(xiàn)文件無(wú)法訪問(wèn)。一個(gè)字等MySQL鎖超時(shí)不是是等幾秒鐘讓NFS服務(wù)自己清掉死鎖或者exportfs -ra一下就好。第四別忘了根文件系統(tǒng)里網(wǎng)絡(luò)配置的優(yōu)先級(jí)。開(kāi)發(fā)板如果同時(shí)開(kāi)了DHCP、又配了靜態(tài)IP啟動(dòng)階段可能先DHCP拿到一個(gè)別的網(wǎng)段的IP導(dǎo)致NFS掛載時(shí)用的IP不對(duì)。我一般啟動(dòng)參數(shù)里直接指定ip靜態(tài)地址不讓它走DHCP少一個(gè)變量就少一個(gè)故障點(diǎn)。4. 按鍵驅(qū)動(dòng)不只是“判斷電平”非阻塞掃描里的架構(gòu)思維4.1 為什么我不建議在驅(qū)動(dòng)里用阻塞輪詢講按鍵驅(qū)動(dòng)大部分教程會(huì)讓你在read函數(shù)里死等按鍵事件用阻塞式輪詢或直接讀GPIO電平。但我在實(shí)際項(xiàng)目里幾乎不用這種方式原因不復(fù)雜——嵌入式系統(tǒng)里沒(méi)有“只為一個(gè)按鍵服務(wù)”的CPU。按鍵本身是一個(gè)極低速的事件人的手指按下一次保持幾十毫秒然后松開(kāi)。如果你用while循環(huán)去死等這個(gè)事件CPU就在這一個(gè)按鍵上浪費(fèi)了海量的算力。而同一塊板子上可能還跑著LCD刷新、網(wǎng)絡(luò)協(xié)議棧、傳感器采集、控制算法。所以在我的體系里按鍵永遠(yuǎn)用非阻塞掃描實(shí)現(xiàn)。核心思路是把“掃描”放在一個(gè)周期性的時(shí)間片里而不是放在read函數(shù)的阻塞循環(huán)里。這樣CPU只是每隔幾毫秒查一次按鍵狀態(tài)其他時(shí)間該干嘛干嘛。4.2 非阻塞按鍵掃描的分層設(shè)計(jì)我常用的設(shè)計(jì)分三層這也是我寫(xiě)代碼一貫的分層習(xí)慣第一層硬件抽象層HAL這一層只管“某個(gè)IO口在某一時(shí)刻是高電平還是低電平”。做到函數(shù)級(jí)別就可以了/* 按鍵硬件抽象層 */ int btn_gpio_get_value(int btn_id);實(shí)際實(shí)現(xiàn)可能是讀GPIO寄存器、也可能是通過(guò)GPIO子系統(tǒng)接口但對(duì)上層完全透明。這就是驅(qū)動(dòng)分層的第一層隔離——硬件變了只改這一層。第二層掃描與消抖層按鍵最經(jīng)典的坑就是機(jī)械抖動(dòng)——你按一次電平會(huì)在高低之間來(lái)回彈跳好幾毫秒。必須在軟件上做消抖。我用的消抖策略是4毫秒掃描周期 連續(xù)8次采樣一致才認(rèn)為狀態(tài)穩(wěn)定。也就是按下后至少32毫秒的確認(rèn)窗口這個(gè)時(shí)間足夠覆蓋絕大部分機(jī)械按鍵的抖動(dòng)又不至于讓人感覺(jué)按鍵遲鈍。消抖層的輸出不是原始電平而是“穩(wěn)定的按鍵事件”按下、抬起、長(zhǎng)按。這些事件需要維持一個(gè)小的狀態(tài)機(jī)來(lái)處理不能是簡(jiǎn)單的電平讀取。第三層事件分發(fā)層這一層把按鍵事件翻譯成應(yīng)用層能用的回調(diào)或消息。比如短按、長(zhǎng)按、連續(xù)按多次——這些組合語(yǔ)義不在驅(qū)動(dòng)里做而是在這個(gè)分發(fā)層完成。這樣應(yīng)用層代碼完全不用關(guān)心底層是GPIO按鍵、矩陣鍵盤(pán)還是IO擴(kuò)展芯片。4.3 中斷式按鍵與狀態(tài)機(jī)思路的取舍說(shuō)到這有人會(huì)問(wèn)既然中斷可以做到“有事件才觸發(fā)”為什么還要用輪詢掃描我的回答是兩者不沖突看場(chǎng)合。系統(tǒng)處于休眠狀態(tài)時(shí)中斷式喚醒是必須的——深度睡眠期間不可能靠輪詢來(lái)低功耗掃描按鍵這時(shí)候按鍵必須接到可喚醒中斷源上。但系統(tǒng)正常運(yùn)行時(shí)一個(gè)已經(jīng)休眠不下來(lái)的系統(tǒng)里輪詢反而比中斷更可控因?yàn)樗烊粠r(shí)間基準(zhǔn)和消抖能力不依賴硬件觸發(fā)條件。這里有一個(gè)我在實(shí)際項(xiàng)目里踩過(guò)的坑說(shuō)出來(lái)供參考一開(kāi)始做中斷式按鍵每個(gè)按鍵申請(qǐng)獨(dú)立的中斷號(hào)配合debounce timer做消抖。結(jié)果板子上的按鍵一多中斷頻繁觸發(fā)導(dǎo)致主控頻繁在中斷和定時(shí)器之間切換系統(tǒng)的實(shí)時(shí)性反而變差了。后來(lái)改成了“一個(gè)定時(shí)器驅(qū)動(dòng)輪詢掃描所有按鍵”的方案CPU開(kāi)銷(xiāo)更小邏輯也更簡(jiǎn)單。所以我的建議很明確按鍵數(shù)量超過(guò)4個(gè)且平時(shí)沒(méi)有休眠需求優(yōu)先考慮輪詢掃描數(shù)量少、有休眠喚醒需求才上中斷式。還要補(bǔ)充一下?tīng)顟B(tài)機(jī)的價(jià)值。按鍵掃描層里設(shè)計(jì)一個(gè)按鍵狀態(tài)機(jī)松開(kāi)、按下確認(rèn)、長(zhǎng)按觸發(fā)、抬起確認(rèn)能幫你把復(fù)雜按鍵語(yǔ)義理得很清楚。狀態(tài)機(jī)的好處是它把時(shí)間維度的信息顯式建模了——“按下持續(xù)了多少毫秒”是一個(gè)屬于狀態(tài)機(jī)的概念不是屬于電平的概念。用過(guò)一次你就會(huì)發(fā)現(xiàn)把按鍵交互做得再?gòu)?fù)雜都不怕。5. 國(guó)產(chǎn)芯片、汽車(chē)嵌入式與GPU驅(qū)動(dòng)產(chǎn)業(yè)視角下的技能棧5.1 不同行業(yè)對(duì)嵌入式驅(qū)動(dòng)的需求差異我在嵌入式這行混了幾年一個(gè)最直接的感受是嵌入式是一個(gè)極其寬泛的領(lǐng)域不同行業(yè)對(duì)驅(qū)動(dòng)開(kāi)發(fā)的要求完全不同。如果你的目標(biāo)是就業(yè)一定要想清楚自己想切入的方向。消費(fèi)電子方向比如手機(jī)、平板、IoT設(shè)備驅(qū)動(dòng)開(kāi)發(fā)更多是在SoC原廠SDK上做裁剪適配重點(diǎn)是模塊化驅(qū)動(dòng)、低功耗、快速啟動(dòng)對(duì)Linux內(nèi)核機(jī)制的理解要求比較深面試常問(wèn)的八股文也主要來(lái)自這個(gè)方向。工業(yè)控制方向比如PLC、運(yùn)動(dòng)控制卡、數(shù)據(jù)采集模塊驅(qū)動(dòng)開(kāi)發(fā)的重點(diǎn)是確定性中斷延遲、任務(wù)調(diào)度、通信總線CAN、EtherCAT的實(shí)時(shí)性這塊對(duì)裸機(jī)驅(qū)動(dòng)和RTOS的經(jīng)驗(yàn)更看重。汽車(chē)嵌入式方向這幾年非?;?。它跟前面兩者都不一樣它有功能安全等級(jí)ISO 26262約束有AUTOSAR軟件架構(gòu)框架代碼規(guī)范和審查流程非常重。驅(qū)動(dòng)開(kāi)發(fā)的職責(zé)被極大地“體系化”了——你寫(xiě)的每一個(gè)驅(qū)動(dòng)都要對(duì)應(yīng)到軟件需求、架構(gòu)設(shè)計(jì)、單元測(cè)試、集成測(cè)試的文檔鏈路上。如果你擅長(zhǎng)寫(xiě)代碼但不擅長(zhǎng)寫(xiě)文檔進(jìn)汽車(chē)行業(yè)會(huì)很難受。GPU驅(qū)動(dòng)方向說(shuō)實(shí)話門(mén)檻比一般嵌入式高一個(gè)檔次。它要求你同時(shí)懂操作系統(tǒng)內(nèi)核、圖形學(xué)基礎(chǔ)、并行計(jì)算原理和具體GPU硬件架構(gòu)。而且這個(gè)崗位在國(guó)內(nèi)相對(duì)稀缺招聘量不大但薪資也明顯高于一般嵌入式驅(qū)動(dòng)。有機(jī)會(huì)接觸底層圖形棧的話積累的經(jīng)驗(yàn)價(jià)值很高。我的建議是剛?cè)胄械臅r(shí)候不要管哪個(gè)方向先把Linux內(nèi)核驅(qū)動(dòng)基礎(chǔ)打牢然后選擇一個(gè)行業(yè)方向深耕兩年。驅(qū)動(dòng)開(kāi)發(fā)的技術(shù)??缍群艽鬁\嘗輒止只會(huì)讓你永遠(yuǎn)在低水平項(xiàng)目里循環(huán)。5.2 嵌入式AI傳統(tǒng)驅(qū)動(dòng)開(kāi)發(fā)者的新機(jī)會(huì)熱搜詞里看到“嵌入式AI測(cè)試”和“AI嵌入式”我多說(shuō)幾句。很多人覺(jué)得AI和驅(qū)動(dòng)開(kāi)發(fā)是兩條技能樹(shù)其實(shí)完全不是。AI嵌入式設(shè)備跑神經(jīng)網(wǎng)絡(luò)的時(shí)候真正卡脖子的恰恰是驅(qū)動(dòng)層NPU驅(qū)動(dòng)要管理內(nèi)存、搬運(yùn)權(quán)重、處理中斷、做DMA調(diào)度——這些內(nèi)核機(jī)制和普通驅(qū)動(dòng)并沒(méi)有本質(zhì)區(qū)別只是換了一個(gè)性能要求更苛刻的硬件端點(diǎn)。如果你能寫(xiě)好普通的Linux驅(qū)動(dòng)上手NPU驅(qū)動(dòng)會(huì)非常順暢。反過(guò)來(lái)AI測(cè)試這個(gè)方向也值得驅(qū)動(dòng)工程師關(guān)注。因?yàn)轵?qū)動(dòng)是系統(tǒng)里最靠近硬件的一層出的問(wèn)題往往要在軟硬件交界處排查?,F(xiàn)在的嵌入式AI測(cè)試工具越來(lái)越強(qiáng)調(diào)在目標(biāo)板上直接跑模型評(píng)測(cè)而不是只在云端跑仿真。這里面涉及大量驅(qū)動(dòng)層適配和性能剖析工作傳統(tǒng)驅(qū)動(dòng)工程師反而是最合適的人選。5.3 別被“八股文”帶偏面試考的是原理還是應(yīng)用提到嵌入式面試八股文我有點(diǎn)又愛(ài)又恨。愛(ài)的是它確實(shí)系統(tǒng)地把內(nèi)核機(jī)制梳理成了便于復(fù)習(xí)的知識(shí)點(diǎn)——互斥鎖和自旋鎖的區(qū)別、中斷上半部和下半部、內(nèi)存屏障的作用、死鎖的四個(gè)條件。這些是驅(qū)動(dòng)開(kāi)發(fā)躲不開(kāi)的概念背一背沒(méi)壞處。恨的是很多人只背了結(jié)論不理解應(yīng)用場(chǎng)景。面試官一問(wèn)“你項(xiàng)目里哪里用到了自旋鎖”就啞火。八股文背書(shū)只能幫你過(guò)第一輪篩選真正讓面試官覺(jué)得你“靠譜”的永遠(yuǎn)是你對(duì)項(xiàng)目里坑的理解、對(duì)方案的取舍邏輯、對(duì)故障的排查思路。我建議的復(fù)習(xí)方式是這樣的挑一個(gè)自己最熟的驅(qū)動(dòng)模塊把相關(guān)的內(nèi)核機(jī)制、數(shù)據(jù)結(jié)構(gòu)、API調(diào)用鏈全部梳理一遍。比如你寫(xiě)過(guò)I2C驅(qū)動(dòng)就順著“i2c_adapter注冊(cè) → 傳輸函數(shù)封裝 → 從設(shè)備驅(qū)動(dòng)probe → 用戶空間訪問(wèn)接口”這條鏈路把涉及的知識(shí)點(diǎn)全部串起來(lái)。面試官問(wèn)任何知識(shí)點(diǎn)你都能從這條鏈路里找到一個(gè)具體的對(duì)應(yīng)點(diǎn)講給他聽(tīng)。這比背一百道八股文效果好得多。5.4 學(xué)習(xí)路線的現(xiàn)實(shí)建議最后給還在打基礎(chǔ)的朋友一些學(xué)習(xí)建議這些是我自己走彎路后總結(jié)出來(lái)的先攻硬件基礎(chǔ)看懂原理圖、了解I2C/SPI/UART時(shí)序、熟悉GPIO和中斷控制器這是驅(qū)動(dòng)開(kāi)發(fā)的前提。不懂硬件只看軟件寫(xiě)出來(lái)的驅(qū)動(dòng)經(jīng)常直接燒板子。再通關(guān)Linux內(nèi)核基礎(chǔ)設(shè)備樹(shù)、字符設(shè)備框架、platform驅(qū)動(dòng)模型、中斷子系統(tǒng)、內(nèi)核同步機(jī)制。完成這些后可以嘗試把一個(gè)小外設(shè)的驅(qū)動(dòng)從零寫(xiě)完包括設(shè)備樹(shù)節(jié)點(diǎn)、驅(qū)動(dòng)注冊(cè)、數(shù)據(jù)讀寫(xiě)接口。然后做一個(gè)小而完整的項(xiàng)目別追求大而全就做一個(gè)溫濕度傳感器驅(qū)動(dòng) 一個(gè)按鍵驅(qū)動(dòng) 應(yīng)用層讀取和展示完整跑通。這個(gè)項(xiàng)目會(huì)逼著你把文件系統(tǒng)、應(yīng)用層接口、調(diào)試手段全部串起來(lái)。持續(xù)迭代和閱讀源碼驅(qū)動(dòng)開(kāi)發(fā)的上限取決于你對(duì)內(nèi)核的理解深度。源碼是最好的老師不要只看注釋要順著調(diào)用鏈往下追讀的時(shí)候隨手畫(huà)調(diào)用流程再對(duì)比實(shí)際現(xiàn)象驗(yàn)證猜測(cè)。重視調(diào)試工具我在驅(qū)動(dòng)的調(diào)試上用的最多的三板斧內(nèi)核日志、devmem工具直讀寄存器、萬(wàn)用表和示波器。真正的驅(qū)動(dòng)調(diào)試是軟硬件聯(lián)合排查只會(huì)打日志的效率太低。6. 我的日常工作流與踩坑記錄寫(xiě)到最后分享一套我自己沉淀下來(lái)的驅(qū)動(dòng)開(kāi)發(fā)日常流程以及幾個(gè)經(jīng)常被抓來(lái)復(fù)盤(pán)的坑。如果你能把這套流程內(nèi)化成自己的工作習(xí)慣很多低級(jí)錯(cuò)誤根本不會(huì)出現(xiàn)在你身上。日常開(kāi)發(fā)流程大概是這樣的拿到新的芯片或板卡先做最小系統(tǒng)驗(yàn)證串口通、時(shí)鐘對(duì)、GPIO能翻轉(zhuǎn)。這一步不要跳過(guò)后面所有調(diào)試都依賴于一個(gè)穩(wěn)定的基礎(chǔ)平臺(tái)。設(shè)備樹(shù)和啟動(dòng)日志先行。先把板卡的內(nèi)核啟動(dòng)日志完整看一遍確認(rèn)設(shè)備樹(shù)解析成功、驅(qū)動(dòng)匹配上了再開(kāi)始寫(xiě)功能代碼。很多“驅(qū)動(dòng)不工作”的問(wèn)題其實(shí)是設(shè)備樹(shù)配錯(cuò)了。寫(xiě)驅(qū)動(dòng)時(shí)遵循“能靜態(tài)驗(yàn)證的先靜態(tài)驗(yàn)證”先檢查寄存器地址、位定義、中斷號(hào)、時(shí)鐘使能不要急著上電調(diào)代碼。每次改動(dòng)只改一個(gè)變量驗(yàn)證通過(guò)再改下一個(gè)。這條聽(tīng)起來(lái)像廢話但我在實(shí)際項(xiàng)目里見(jiàn)過(guò)太多同時(shí)改三四個(gè)地方然后不知道哪里錯(cuò)的人。驅(qū)動(dòng)代碼合入前必做代碼評(píng)審重點(diǎn)關(guān)注鎖的使用、中斷上下文、內(nèi)存釋放路徑這三個(gè)地方最容易埋雷。幾個(gè)復(fù)盤(pán)的深坑每一個(gè)都讓我多熬了兩天夜GPIO復(fù)用沒(méi)查清。芯片的同一個(gè)引腳可能同時(shí)承擔(dān)UART、I2C、PWM功能設(shè)備樹(shù)里配了I2C但沒(méi)改pinmux的復(fù)用關(guān)系結(jié)果I2C波形完全是亂的。排查這類(lèi)問(wèn)題用示波器看引腳電平比看代碼更高效。中斷申請(qǐng)失敗。中斷號(hào)在設(shè)備樹(shù)里配的是邏輯中斷號(hào)結(jié)果驅(qū)動(dòng)里用了物理中斷號(hào)去請(qǐng)求返回-EINVAL還百思不得其解。內(nèi)核里中斷號(hào)的轉(zhuǎn)換要經(jīng)過(guò)irq_of_parse_and_map這一步不是可選的。DMA緩沖區(qū)的cache一致性沒(méi)處理好。接收數(shù)據(jù)時(shí)偶爾出現(xiàn)半新半舊的數(shù)據(jù)排查了兩天才意識(shí)到是cache沒(méi)有無(wú)效化正確處理方式是用dma_sync_single_for_cpu()做同步別試圖靠“手動(dòng)加延遲”這種土辦法繞過(guò)。掉電重啟后設(shè)備狀態(tài)不干凈。一些外設(shè)芯片掉電后再上電內(nèi)部狀態(tài)還在上一次的殘留狀態(tài)驅(qū)動(dòng)初始化時(shí)就必須做完整復(fù)位流程寧可多等幾百毫秒不要直接開(kāi)始操作寄存器。這些坑在教科書(shū)上不會(huì)寫(xiě)每一個(gè)都是實(shí)際項(xiàng)目里真金白銀買(mǎi)回來(lái)的教訓(xùn)。我也沒(méi)打算把它們變成什么“標(biāo)準(zhǔn)答案”踩坑本身就是一個(gè)驅(qū)動(dòng)工程師成長(zhǎng)最快的過(guò)程。希望這篇文章里的一些思路能讓讀到這里的你少走幾個(gè)彎路把更多精力花在真正有價(jià)值的設(shè)計(jì)和優(yōu)化上。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
天堂精品在线| 国产老熟女| 久久嫩草| 欧美91网站| 影音先锋乱| 涩涩久久精品| 99在线视频播放| 激情av| 日本成熟少妇A∨网站| 亚洲综合小视频小说在线观看| 成人三一级一片aaa| 97久久久久| 96免费视频在线| 久久久久成人亚洲国产| 日B操| 2003天天干夜夜操| 青青草日本中文字幕 | 国产一区麻豆免费观看| 狠狠 91| 色狠狠 - 百度| 碰碰97| 人妻精品一区二区三区| 五月天精品| 亚洲吊色| 欧美性色综合网| 五月婷婷六月天| 欧美黄页| 国产二区三区免费视频| 免费成人自拍视频在线| 在线视频亚洲无码| 久久性爱视频免费看| 欧美 色 亚洲| 夜夜高潮夜夜爽夜夜爱爱一区| 亚洲色图加勒比| 啊啊啊啊一区| 午夜福利久久久噜久噜久久综合 | 俺去啦自拍| 精品国产99| 日本超碰在线国产一区| 色色激情五月天| 亚洲国产欧美中文永久| 超碰久热| 天天看特黄的免费网站 | 秋霞色色影院| 亚洲男人天堂网| 最新制服中文第一页| 蜜臀va69| 噜噜噜久久亚洲精品色情| 色色福利| 激情AV| 亚洲激情在线| 色五91| 观看免费区二区三区二| 一区黄二区黄| 久久久久一本一区二区青青蜜月| 亚洲棕合电彰| 青青青在线高清视频在线一二三四区 | 色狠狠综合噜一二三区| 天天综合网视频91| 人人操人人肉久久精品| 色欲天天综合久久久无码网中文| 亚洲AV无码乱码| 欧美性爱第一页久久| 91在线欧美| 美国日韩黄片| 无遮挡一级毛片视频免费的| 多毛小伙内射老太婆 | 中文字幕久久亚州无码| 无码人妻毛片丰满熟妇精品区| 超碰在97| 成人性交免费视屏| A片A5445444| 国产女人与拘做受视频免费| 欧美精品999| 男人亚洲91首页在线| 蜜臀AV一区二区三区激情综合| 青青草吊丝| 91激情网| 加勒比综合88| 久久av无码| 欧美视频一区二区在线| 伊人久久大香线蕉无码| 婷婷亚洲天堂| 久久精品视频28| 麻豆 亚洲 97| 欧美日韩人妻精品系列一区二区三区| 在线观看无码三级少妇| 口爆综合网| 狠狠躁天天躁日日躁| 青青操日韩| 色香天天| 伊人激情五月天一区二区| 两性综合网| 色老汉色| 屁股久久久久久久久久| 亚洲成?V人片在线观看福利| 青青草吊丝| av2014 日韩在线中文字幕| AAAA级日本片免费视频| 婷婷综合网| 翘臀vidoes| av 模特一区了| 蜜桃臀一区二区aV| 天天谢天天干| 色九月综合| 国产又长又大又粗的视频| 26uuu成人影片| 久久久网站| 超碰97欧美日韩| av影片在线观看不卡| 欧美熟女操屄| 久久同城AV| 99久久久无码国产精品性啊聊| 亚洲AV成人无码久久精品播放| julia在线观看久久| 新怡红院| 欧美日韩人人早| 天躁夜夜躁2021| 囯产乱伦一区二区三女| 欧美大色交| av亚欧| 啊…啊…操我用力操我| 美女91网| 啪啪视频亚洲第一| 欧美天堂第二区| 久久九九97| 亚洲国产高清福利视频| 白丝在线一区| 丁香五月天视频| 呻吟 欧美 日本 中出| 69国产对白刺激| 射 色综合| 日日摸日日碰夜夜爽视频| 久久九九视频九九视频| 另类 综合 日韩 欧美 亚洲| 超碰色男人操熟女| 亚洲资源一区| 六月丁香啪啪啪| 国产搭汕a级片| 欧美成人性爱视频大全| 久久国产乱子伦精品免费女,网站| 国内毛片免费h片在线| 亚洲欧洲第二视频在线观看色图| 26UUU欧美激情一区二区| 亚洲永久永久永久永久一级一级一级精品 | 日韩福利电影网| 久7色| 人妻激情视频| 99热这里只有精| 亚洲欧美色图片| 97超碰国产精品| 淫荡网址| 风月影院男女十八禁| 精品偷拍13p欧美dodk视频| 传媒免费一区二区三区| 无码精品人妻一区二区三区妖精 | 99色热国产视频精品| 亚洲色悠悠久久88| 亚州AV无码国产精品| 婷婷精品久久av影视| 亚洲无码99| 97av在线观看| 日韩欧美丝袜诱惑| 欧美狠狠| 中文字幕十五区| 岛国A V在线免费看| 91网亚洲| www黄片免费看com| 国产精品福利资源在线尤物| 麻豆精品三区视频| 狠狠干,狠狠操| 久热一区二区| 天天操天天日天天干| 成片免费观看视频大全| 亚洲丝袜综合| 亚洲清纯唯美| 97网址www| www.av在线视频| 欧美日韩欧美| 国产精品午夜福利视频| 97天天摸天天碰| 黄色av网站在线播放| 精品国产乱码久久久久久免费| 国产丝袜美女诱惑| 91人妻Pr| 成年人三级黄色片视频| 亚洲久9| 日韩精品大香蕉伊人在线| 久操综合在线| 五月婷婷丁香六月| 盗摄女人妻在线| 成人怡红院| 亚洲国产亚洲天堂| 亚洲天堂女优在线| 爱av免费| 日本Xx性爱| 人人干人人操人人爱| 欧美性爱一区二区三区| 偷拍在线观看视频| 亚洲男人天堂2016| 91 国产丝袜在线放观看| 丰满人妻av一区二区三区| 激情小说亚洲| 99精品人妻| 欧美性高潮在线| 欲女人妻性色av| 亚洲综合码| 成人精品在线观看| 色牛牛AV| 久久AV无码网址| 秋霞无码av鲁丝片一区| 久久久久久网址| 色综合 加勒比| AV在线资源| 中文字暮97| 91久久精品蜜臀| 国产精品老师| 五月丁香色综合| 无码日韩网站| a级理论午夜日本| 国产精品黄色三级av| 亚洲欧美国产中文视频| 999精品国产高清一区二区| 国产黄色剧情影片麻豆免费播放| 国产又粗又大硬免费色网视频| 亚洲丝袜少妇在线| 男人精品区| 亚州综合在线| 操操吧亚洲乱伦视频| 人人看人人插| 日韩欧美大力操| 天天草夜夜草高潮片| 国产日韩精品人妻久久久久色欲网站| 欧美黄色大片在线观看| 无码高清专| 综合自拍| 久久久久免费少妇| 精品久久99| 九九九网页| 91久久18禁| 97超碰超欧美。| 亚洲制服欧美另类内射| 国产白丝av| 91国产在线精品| 日本好吊色视频| 青青草在线视频播放器| 国产 日韩 欧美一区| 26uuu最新| 波多野结衣之双飞调教在线播放 | 亚洲日韩国产精品| 小日子操bb在线看| 综合久久中文字幕综合日韩精品 | 激情在线青青操| 狠狠爱综合网| 婷婷激情四射| 亚洲综合嫩| 国产二区三区粉嫩在线| 亚洲无码太久| 青草影院内射高潮| 中文乱码字幕观看| 久久青青草原免费视频| 日本色色色| 超碰在线974| 爱妻综合网| 蜜臀久久99精品久久久久久婷婷| 日韩一级性爱无码| 操逼日韩无码 | 打av高清| 日日骚一区二区三区| 女人天堂av在线播放| 一本精品日本在线视频精品| 成片免费播放| 97精品第3页| 亚洲最大的黄色电影网站。 | 天天摸夜夜操视频| 91天天综合| 欧美不卡二区| 天天干2区3区| 久区视频| 2021久久国产综合精品青草| 亚洲情色电影网| 超碰97在线色男人??| 亚洲男人天堂AV| 秋霞免费AV| 97亚洲资源| 亚洲黄色电影| 乳欲人妻办公室奶水| 免费夜夜爱黄色视频毛片| 夜夜操一区二区| 五月丁香激情四射| 人人喜人人妻| 91n欧美| 逼逼逼逼操操操操操操操操操午夜剧场 | 97天天摸天天碰| 另类专区加勒比| 国产精品亚洲一级av第二区| 日韩欧美成人大香蕉| 国产 日韩 欧美高清| 淮穴色AV| julia国产在线| 亚洲欧洲av影音| 亚洲精品男人的天堂| 超碰伊人在线| 黄片com.| 亚洲熟女一区| 日韩精品在线观看观看| 亚洲欧美综合区自拍另类| 大屁股国产在线视频| 国产一区二区二区按摩精品啪视频| 色色香蕉| 经典丝袜一区| 岛国在线一区二区三区| 女同性恋中文字幕| 一区三区啪啪| 97超碰中文| 男人天堂黄片| 在线观看午夜婷婷久久久久清性观看| 国产精品美女在线一区| 欧美韩国你懂得在线 | 亚洲双插| 91一起操| 91欧美网| 夜夜肏2021| 土豪酒店各种姿势玩弄极品幼稚| 日韩精品一区二区日韩| 成人久久精品| 欧美一区二区三区日韩| 东京热毛片177b2viP| 青青操综合网| 人人操人人操人妻人| 能看的av| 八戒午夜福利理论片| 亚洲AV无码久久精品蜜桃小说| 日本十八禁免费看污网站| 香港日本韩国人妇99www.wccm20| 国产操偷| 欧美亚洲91| 九九久久国产精品| www色婷婷| 九九九国产精品| 国产剧情一区在线观看| 亚洲人妻在线一区| 一区二区三区高清| 日韩精品99久久久久久中文字幕| 欧美经典一区二区三区 | 啊啊啊慢点| 五月丁香成人网| 亚洲啪啪综合?v一区综合精品区| 久日综合网| 91在线丝袜视频| 国产婷婷综合在线观看| 91精品婷婷国产综合久久竹菊| 天天精品| a片久久久久久久久久久久 | 国产一区二区免费福利片| 蜜屁Av| 凹凸视频特色日本特黄| 久妇网| 三级日韩一区二区三区| 青青草原av| 国产精品视频电影| 99无码视频| 日韩免费三级黄片电影| 一起草三级AV电影在线观看 | 欧日韩一二三f区| 熟女性视频| 在线一道啪| 熟妇乱伦一区二区| 91亚洲狠狠色| 天天色怡春院| 97视频观看| 人人操人人摸人| 亚洲国产丝袜熟女av| 男人天堂久久精品不卡| 午夜性| 天天操天天插| 人人操人人大香蕉| 噜噜噜在线视频| 亚洲色狠| 乱欲视频| 午夜舔阴达高潮视频免费看| 大粗鳼巴久久久久| 自拍啪啪视频| 96超碰网| 亚洲人妻色图| 日本一卡二区在线| 午夜噜噜噜| 99re在线精品78| 久久男人网| 九九九九九九九九九九九免费国产| 欧美色综合影院| 乱伦av麻豆| 人人操人人操人人人操| 亚洲国产精品99久久久| 强奸乱伦AV网址| 影音先锋每日最新资源在线观看| 麻豆一区二区AV天美| 99re热| 久久人妇| 97丝袜亚洲在线播放| 日韩午夜国产| 欧美精品久久| 久久久精品九| 综合网亚洲在线| 综合色区偷拍| 少妇久久久久久久| 国产 日韩,欧美 自拍| 国产精品白丝| 免费少妇一区二区| 人人看欧美性爱| 国产男人又猛又粗又爽| 狠狠综合| 97亚洲综合电影| 亚洲另类色图片| 韩国国产欧美情侣视频在线| 色九九九九九九| 日本久久久久久久久久| 久久综合97| 日本精品五区| 天天看天天在线精品| 东北丰满熟女国产一区 | 超踫中文字幕| 五月婷婷hd| 97精选久久| 999久久芭蕾| 中文字幕乱码在线| 日本1区2区不卡视频| 久久毛卡| 久久久久九九九| 婷婷中文字幕| 久久久∴| 老鸭窝成人免费毛片视频 | 欧美五区| 很很很很操| 中文字幕视频二区| ,成人免费啪啪视频| 国产综合网站在线播放| 九九成人| 欧美综合 站| 精品国产Av无码久久久伦古装| 黄色人人| 九九色热| 日韩中文字幕2020| 久久东京热久久| 男女无套 免费网站| 国产熟女免费观看久久| 综合色图区| 校园春色亚洲无码| 日韩性爱一级片| 欧美视频边做饭边橾| 99999久久久久9国产精品| 密臀国产在线| 蜜臀久久99精品久久久久久无删减| 在线色导航| 欧美激情总合网| 热热色综合网| 日韩av在线免费网站| 男人天堂站| 人妻精品一区二区三区| 日本三级R| AV99热18这里只有精品| 中文操逼字幕| 六月色婷婷| 四虎884a| 成人蜜乳小视频网站| 色99在线| 亚洲中文sv| 亚洲免费成人精品电影| 超碰精品| 欧美不卡在线一区二区| 欧美制服网站美腿丝袜| 无人区高清电影免费观看一区二区三 www.qmcai2.com | 久久无码成人| 99xav| www国产无码| 天天做天天爱天天高潮| 国产精品大屁股999| 成在线人在线观看视频| 嗯嗯,啊啊,国产精品| 人妻欧美| 欧美日韩性感| 韩国三级色呦呦| 午夜天堂精品久久久久91| 青青草在线视频美女| 永久免费发布性爱网| 超碰碰激情97+久| 伊人久久综合影院精品久久久| 亚洲日本韩国在线| 欧美BT 亚洲色图| 色情综合| 久久精品—区二区三区内射| 蜜臀在线免费观看在线免费观看| 日本操逼视频免费| 欧美色66| 中文操嬖片。| 中文区中文字幕免费看| 蜜桃视频精品一区二区| 久久久999国产| 色色婷婷五月| 天天综合官网| 9热9热综合网| 日韩一区二区高清在线观看的| 亚洲天堂美臀在线| 久久激情网| 九九九九热| 一区二区三区日韩欧美| 欧美日韩免费性爱| 99精品无码| 国产剧情一区在线观看| 免费久久一级毛片大黄| 欧美极品色| 久久综合婷婷| 老外又粗又长一晚做五次| 亚州熟妇精品| 伊人色综合网| 国产精品点击进入在线影院| 91老妇女| 午夜久久一区二区无码中出| 黄片aaaaa一区| 久久女人| 丝袜美女诱惑 91 视频| 亚洲少妇色| 久久无码成人| 色香综合| 日本黄色XXX| 九九视品黄色| 无码国产精品久久久久| 东北少妇高潮zzzz| 欧美啪啪天堂| 欧美天天综| 成人免费不卡在线视频| 欧洲在线性爱视频| 影音先锋一区二区在线资源| 亚洲天堂综合AV| 综合 欧美 亚洲 日本| 久久久精选| 97色涩| 欧美亚洲国内自拍| 中文字幕成人理论在线| 亚洲欧美国产中文视频| 亚洲日韩美女丝袜美腿人妻视频| 夜草欧美| 99re8超碰| 天天日夜夜| 欧亚乱色熟女一区二区| 国产日韩手机视频在线| 久久久四区| 天天干1区2区在线| 久久久111| 日本 欧美 亚中文字幕| 中文字幕亚韩| 欧美日韩国产黄色片| 91久久久亚洲| 少妇高潮九九九九九九九| 青青草字幕AV| oumeizonghese,www| 混色激情av| 99热这里是精品| 日本一级性爱| 激情小说成人日本无码一| 中文字幕第9页萱萱影音先锋| 风间由美日韩欧美久久| 一区二区三区在线日韩影院观看| 色天堂综合| 久久成年精品| 色五月69夫妻| 中文字暮97| 97香焦色区| 丁香六月激情综合| 五月丁香亭亭| 欧美亚性天堂| 超碰超碰欧美| 欧美天天综| 丁香激情五月| 免费看毛片操穴| 综合熟女| 99热亚洲天堂| 美腿丝袜高跟网免费视频免费视频| 久久亚洲骚逼综合| 久久精品一区| baiduhicn.com。| 欧美熟妇乱码在线一区| 亚洲一二三精品久久网| 久草视频制服诱惑| 国产丰满少妇久久久精品影院| 日本少妇va7777| 青春草A| 九七毛片九九毛片| 亚洲综合在线91| 欧美另类综合久久| 婷婷丁香五月天亚洲天堂网| 日本三级R| 婷婷五月天激情网| 一区二区三区日韩欧美 | 国产和美国毛片| 国产精品一区二区麻豆| 精品久9| 国产午夜福利专区综合| 夜夜草我| 亚洲欧美日韩精品久| 大香蕉九九| 91在线视频免费中出| 96免费视频在线| 人妻 欧美亚洲| 伦理第一页| 一区二区三区亚洲| 日本岛国黄色网址| 99精品免费| 久久婷婷在线观看视频| 日韩av情韩国爱禁区av一区二区| 日本天天干天天操一区| 最新日日夜夜天天干干| 曰韩成人免费视频| 嗯嗯嗯啊啊啊操的我好爽 | 日日摸日日碰| 啊啊啊啊啊啊好多水| 无码区蜜乳| 26uuu国产日韩综合在线观看| 中文字幕 码精品视频网站| 婷婷情色综合网| 俺也射| 欧美岛国精品在线观看| ?亚洲伊人伊成久久人综合网| 九九色色| 亚洲精品97中文字幕| 校园春色AV天堂| 国产精品爆乳懂色蜜乳| 婷婷五月天影院| 欧美久久久15P| 99热精品在线观看| 乱伦3P视频| 2025亚洲男人天堂| 啊啊啊久久| 99久久精品无码一区二区毛片免费| 爆操无码| 欧美91精彩| 亚洲图片欧洲图片aⅴ| 五月天色图影视| 亚洲第91页| 九九九九热| 亚洲中文字幕久久人妻| 久久e6只有精品| 久久精品超碰| 爱av免费| 亚洲欧美国产va在线| 欧美第一页| www.色婷婷| 久久高清无码夜夜操| www.久久制服糖| 99久久婷婷| 夜夜国自区| 亚洲五码一区二区三区| 亚洲色资源| 日日操免费视频| 欧美最婬乱婬爆婬性视频| 综合五月天| 乱伦AVxx| 伦理日韩国产久久| 日本免费专区| 中文字幕人乱码中文字的预防方法 | 1204av韩国| 家庭乱伦麻豆| 青草青草久热| 超碰99re| 久久男女激情视频网站| 国产熟女精品区| 亚洲精品久久一区二区三区蜜桃臀| 国产精品片| 人妻少妇精品一区二区三区| 风韵犹存大大大大香蕉 | 内射老妇BBWX0C0CK| 欧美熟妇视频| 国产乱伦视频污| 美女97超碰| 成人无码在线视频网站| 啊啊啊97视频| 丁香九月婷婷| 亚洲精品国产AV天美传媒| 国产成人91一区二区三区| 欧美亚洲国产自久久| 成人免费性爱视视| 国产精品人妻无码久久久老鸭窝 | 夜夜欧美| 国产精品成人在线| 精品蜜乳AV免费观看| 久久99国产综合精品女同| 超碰97人妻免费在线| 色噜噜人妻丝袜AV资源| 中文字幕国产在线天堂| 日本淫穴在线| 中文字幕黄色片| 天美传媒AV在线| 大香蕉啪啪啪| 婷婷色综合欧美日韩| 欧美色日本| 国产精点久久久成人| 人妻天天爽夜夜爽2| 五月天激情综合网| 怡红院成人视频| 国产久久视频| 日本一级二级三级网站| 97啪啪| 色妇91| 精品精品精品| 秋霞无码av鲁丝片一区| 91 丝袜在线播放| 日韩丝袜高跟制服在线观看| 色综合色欲色综合色综合色综合| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 国产AV超爽| 国产一级高清免费观看| 欧美大战久久久伊人| 久久久久久人妻| 午夜福利av电影在线| 激情久久日韩精品中文字幕麻豆| 精品国产乱码久久久久A| 免费超碰97在线观看| 97天天| 色踪合AV| 又摸又舔在线观看网站| 情色AV电影| 国模少妇一区二区三区| 中文字幕五月婷婷免费| 99国产精品| 老鸭窝成人| 欧美午夜精品久久久久久超碰| 国产精品婬乱一级毛片彝族| 无码精品久久久久久亚洲| 国产超碰97| 好舒服视频| 亚洲宅男天堂| 探花精品视频| 国产精品成人福利在线| 日日操免费视频| 久久久久夜夜夜夜| 天天色综合影视网| 九九人妻| 麻豆传媒一区二区在线观看| 欧美一区二区三区大综合| 欧美拳交在线播放| 开心五月婷婷激情| WWW黄片COM| 2019久久久久久久久福利| 国产女同在线观看视频| 蜜臀va69| 青娱乐手机日韩在线视频| 啊好爽受不了无码| 成人精品电影| 青青草密桃在线播放| 色婷婷基地| 久久精品性| 免费看A片毛毛片在线播| 99老司机精品视频在线观看| 无码一区免费在线不卡| 国产免费黄色一级大片| 日韩欧无码一区二区三区免费不卡| 久久久性少妇| 婷婷探花久久精品一区| 加勒比性爱成人在线| 超碰在线974| 啊啊啊啊啊在线视频| 91女神在线视频| 97国产精品国| 久久夜嗨| 一区二区三区日韩欧美| 大香蕉宅男伊人| 久久久久ab| 亚热日本熟女| 九九免费影片| 五十路二区在线| 乱久久久| 久久9免费视频| 999热这里只有精品| 五十路一区无码| 亚洲交性| 亚洲欧美日韩中文播放| 狠狠久久手机视频精品| 欧美精品日韩久久久九| 亚洲av淫乱| 久久久久久AV无码免费网站| www.色婷婷.com| 久久久久中出| 金典av| 亚洲国产97在线精品一区| 97 视频在线| 丝袜高跟澳门91视频| 色原狠狠天天天| 三上悠亚在线毛片91| 欧洲综合无码| 国产 丝袜 欧美中文 另类| 床上啊啊啊一区二区三区| 亚洲熟女国产综合另类| 欧美综合 站| 日韩天天本| 无码粉嫩白虎一线天b区| 2024年最新色情网站在线观看| A级毛片在线看免费| 久久久亚洲欧美综合| 男人的天堂啪啪啪啪啪蜜桃不卡| 日韩三级一区| 美日韩一二三区| 国产嫩草精品A88AV| 思思热在线视频免费| 亚洲AV无码成人精品久久| 国产丝袜美女诱惑| 91女优在线观看 | 日韩另类色图| 超碰1997| 一起草高清无码| 欧美亚洲日本激情在线| 裸体美女免费看网站青草| 懂色AV中文| 人妻激情视频| 日韩亚洲精品一区二区| 国产福利影视| 国产又大又粗又长视频在线| 久久伊人影院| 探花熟女,姿勢到位,體驗感也到位| 婷婷久久综合| 欧美洲精品一级| 久操免费观看| 国产精品免费视频人成| 熟妇高潮一区二区免费视频| 亚洲欧美内射| 国产精品麻豆视频网站| 精品熟女一区=区三区| 日韩欧美久久婷婷网站| 一二三四视频中文字幕在线看| 五月激情在线| 人妻美腿丝袜日韩| 天天操天天射天天日| 新版天堂中文资源8在线| 懂色AV中文| 日韩成人私密一级精品av| 丁香六月天| 情侣操 逼视频99| 欧美一级AAAAAAA| 亚洲欧洲小说图片视频 | 99国产女人| 在线性黄高清免费视频| 天堂资源站| 午夜精品久久久久久久久久蜜桃| 久久大香蕉手机高清| 久久精品超碰| 成人看片网站| 97欧美资源| 中文字幕一区电影在线观看| 久久久性爱视频| 国产兽交视频在线播放| 黄色大片一区二区密桃丝袜| 人妻一区二区三区熟女| 丁香五月av| 热热色中文无码| **一级毛片国产| 青青操日韩| 90后性网国产欧美| 欧美情色亚洲| 日韩九区| 男人天堂2030| 99re6久热只有精品6在线直播 | 91强在线播放| 曰韩中文人妻视频| 91neishe| 亚洲av噜噜噜噜噜噜| 后入内射蜜桃臀| 天天躁日日躁成人字幕aⅴ| 欧美另类自拍 | 九七毛片九九毛片| 秋霞成人做爱| 伊人久久亚洲色欲综合网站| 亚洲一本大道中文字幕无码在线| 亚洲情色 无码专区| 99久久精品国产高潮| 天天爽入口| 91蜜臀熟女| 精品无码一区二区三区| 色五月第四色| 插欧洲美女欧美精品| 成人开心网在线视频| 91久久久久久| 啊啊啊啊好爽好舒服一区二区易域| 国产高清成人传媒影视| 啊啊啊啊免费视频| 亚洲精品97在线| 欧 美 自 拍 偷 拍| 欧美丝袜美女电影一二三四区| 日本在线不卡v二区| 夜夜嗷嗷一区二区| 99热这里只有精品地址| 欧美天天射| 国产精品经典一卡久久久| 爽极品影院| 青青青草原| 9热9热综合网| 爽 好舒服 无码刺激久久| 久久久久久久精| 亚洲淫色网中文| 色色色综合网| 国产AV色黄看到爽| 日本韩国五十路六十路七十路老熟女作爱视频网站| 大香蕉97久久| 18禁的网站在线| 人人操人人摸人人骑| 97se综合| 久草精品热视| 精品伊人久久久大香线蕉小说| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 亚欧精品久久久久久久久久久| 人人操人人色人人摸| aV中文麻| 久久99精品国产| 天天91~综合入口| 中字幕人妻一区二区三区| 91精品91久久久久77777| 精品一区二区三区四区女| 欧美日韩性爱无码| 大JI巴好深好爽又大又粗视频| 啊啊啊啊啊舒服| 国产精品网站www| 长长久久免费视频| 51久久夜色精品国产麻豆| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 操比国产| 精品中文字幕第一页| 蜜臀视频网站| 亚洲丝袜二区在线| 亚洲综合校园春色| 欧美精品偷拍| 国产日韩精品一区二区三区| 亚洲av综合色区无码一| 精品无码久久久久久久久果冻糖心| 90后后入| 久久久久久裸体| 久久久专区| 伊人国产视频| 9热9热综合网| 丁香五月激情综合| 很很热性爱视频| av在线一区二区三区| 日韩有码 一区二区三区| 91啪啪| 传媒在线观看一区二区三区| 婷婷五月天色网| 欧美日韩人人早| 91在线免费观看处女| 99热超碰| 九九热免费国产视频婷婷伊人| 五月丁香激情综合| 大香蕉婷婷| 玖玖在线视频| 久久精彩免费视频| 亚洲天堂,男人| 天天日天天爽| 亚洲综合色男人网| 国产一区二区三区影片| 大香网站| 国内毛片婷婷六月色| av强奸乱轮| 2017天天插| 久久久四区| 日韩性爱长视频免费| 97在线视频免费观看| 亚洲熟女av中文字幕| 2017人人操,人人摸| 91久久九九精品国产综合| 午夜视频好爽啊| 亚洲最新a在线观看| 狠狠操狠狠| 宗合情欲网| 欧美亚洲国产日本在线,久久精品国产| 久久人体一区二区| 欧美综合传媒| 国际精品久久久| 手机看片91人妻| 日韩综合无码色欲vv| 国产91久久九九免费精品无码| 欧美成人都市人妻| 日韩二三区| 色九九九九九九| 在线视频免费观看午夜| 超碰无码加勒比| 久久99网站| 日日夜夜干| 九九九九九九九九九五码| 漂亮人妻被强中文字幕hd| 黄骗免费网站| 中文字幕精品日韩中文字幕| 亚洲中文字幕av| 91偷拍欧美亚洲| 91天天综合网,天天综合网| 99精品久久久久久| 91天堂| 自拍视频一区在线观看| 理论久久婷婷网 8| 久操在97| 亚洲国产成人精品女人久久久| 国产精品自拍xxxx| 婷婷丁香六月| 久久久久久裸体| 97色伦97色伦国产欧美| 人摸人人操人| wwe 天天干.com| 黑人综合网| 乱伦av麻豆| 天天日天天舔东京热| 中文字幕片| 玖玖久久久| 手机看片1024你懂的国产| 91在线视频免费中出| 97ai亚洲| 成人性爱美曰韩| 国产精品91一样| 国产sv美女内射| 破苞ⅩXXX性无码动漫无码| 快点操死我| 91亚洲人| 久久9视频| 2026国产精品视频| 日韩黄片影院| 一区二区三区网站日日骚| 精品少妇一区二区三区| 强歼乱伦资源网| 97超视频在线观看| 国产毛片片精品天天看视频| 日本在线一二| 四季AV一区二区凹凸精品小说| 欧美一区二区三区不卡高清视频| 久久思思热| 东京热AV男人的天堂| 爱av免费| 久久精品一区二区三区蜜桃臀| а√天堂资源官网在线资源| 国产精品久久久视频| 国产熟妇 码视频户外直播| 日韩免费性爱视频在线观看| 国产AB视频| 韩国一级做A片免费的| 伊人aaa| 国产欧美日韩精品中文| 日本免费一区二区不卡 | 色综合久| 青青草原香蕉日本Ap| 色色色欧美| 在线播放中文字幕| 欧美日韩国产高清在线一二三区| 超碰午夜| 人人操人人狠狠操| 久9久9久9久9久9久9| 久色网| 国产熟女精品一区二区| 久操综合在线| 人妻色偷色噜| 性色国产东北露脸精品视频| 亚洲精品免费中文字幕| 歐美性天天| 久久精品亚洲成a人天堂| 东北操逼| 超碰碰碰碰| 欧美一级A一级a爱片久久| 超碰超碰95| AA级电影三区| 超碰久在线天天做| 美国aaaaa一级黄片| 欧美综合色图片| 欧美在线官网| 日韩欧美大片免费高清啪啪| 色哟哟国产精品免费网址| 91色欧美| 熟女丰满人妻一区| 久草尤物| 激情文学欧美| 久久国产逼| 成人欧美日超碰| 在线观看日韩av不卡| 日韩内| 日本高清久久| 国产在线观看一区二区三区| 躁躁日曰躁2020| 变态乱伦伪娘灌肠一区二区| 97超碰巨乳| 天天操人人操狠狠插| 亚熟在线| 婷婷午夜成人色中色| 人人操人人肉久久精品| 久久国产对白激情浪潮| 国产专区第一页| 久久线上视频免费看| 伊人久久大香线综合无码| 国产高潮AA片免费看| 欧美色青| 啊啊啊啊在线播放| 福利风月五月天影院| 不卡一区二区日本视频| 少妇久久久久| 精品欧美日韩在线观看| 人人色人人操在线| 人妻无一区二区三区| 久久亚洲日韩熟女精品| 午夜福利在线视频1000| 色播综合| 日韩极品无码B| 色原狠狠天天天| 国产女人高潮视频| 性爱视频无打码在线观看| 五月天婷婷社区| 中文字幕加勒比海高清无码免费视频| 午夜男人av| 综合熟妇一区二区三区| 偷拍网站久久男女男| 亚欧成人中文字幕一区| av影片在线观看不卡| 呻吟 欧美 日本 中出| 人妻在线臀日韩| 五月天色图| 欧美日韩亚洲一区二区在线观看| 欧美 亚洲| 啊啊啊好疼| 97资源欧美| 婷婷三区| 欧美第一页性| 婷婷五月天成人网| 亚洲一区二区久久久久| 久久国产在线一区二区| 97综合国产| 加勒比久久av| a人片中文字幕一区二区| 嫩草 人人网精品| 久久天天性久久伊人| 国产亚洲禁久一区二区| 金莲网址| 亚洲一级性爱视频免费看| 啊啊啊啊操死我| 中文字幕一区二区无码成人| 99色在线| 日韩无码服务区| 亚洲天堂美臀在线| 1024手机看片欧美日韩| 欧美综合在线91| 91狠狠综合久久久久久| 九色婷婷| av中文在线| 人妻少妇色综合| 九九热九九| 伊人激情| 久久五月份| 美女露胸露尿口| 日本人体九九九九九九| 深夜啪啪啪视频免费| 亚州情色j区| 日本韩欧美在线播放a| 国产成人精品亚洲日本| 99热自拍| 国产在线76页| 国产11页| 国产夜夜艹| 久久久久亚洲一区女同性恋中文字幕| 亚州色图欧美| 欧美日动态视频| 99re在线视频这里只有精品| 久久r精品|