日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

RISC-V自定義擴(kuò)展工具鏈適配實(shí)戰(zhàn):從匯編器到模擬器全流程

RISC-V自定義擴(kuò)展工具鏈適配實(shí)戰(zhàn):從匯編器到模擬器全流程 做RISC-V自定義擴(kuò)展最難的不是寫那條指令的邏輯而是把工具鏈打通。我說的是這個(gè)場景你在FPGA上寫好了一個(gè)自定義加速指令邏輯仿真全都通過了結(jié)果回過來想在軟件側(cè)驗(yàn)證匯編器報(bào)不認(rèn)識、反匯編器顯示亂碼、GCC壓根不讓你從C代碼里調(diào)它。沒錯(cuò)新指令真正跑起來的完整流程RISC-V工具鏈適配是繞不過去的一關(guān)。這篇內(nèi)容就是我完整走通這條鏈路后的實(shí)戰(zhàn)記錄從指令編碼設(shè)計(jì)、binutils改造、GCC內(nèi)置函數(shù)接入到Spike和QEMU模擬器驗(yàn)證一條龍拆開講清楚附上可以直接復(fù)現(xiàn)的操作步驟適合正在搞RISC-V自定義擴(kuò)展但卡在工具鏈上的工程師也適合剛接觸RISC-V指令集、想搞懂工具鏈內(nèi)部是怎么工作的同學(xué)。1. 為什么要把一條新指令塞進(jìn)RISC-V工具鏈1.1 自定義指令到底能解決什么實(shí)際問題先別急著改代碼想清楚你要不要做這件事。RISC-V之所以在定制化場景里這么受歡迎就是因?yàn)樗o了你一個(gè)開口讓你能在指令集層面上為特定負(fù)載加速。最常見的幾個(gè)場景算法里的熱點(diǎn)計(jì)算比如矩陣乘加、卷積、FFT中的蝶形運(yùn)算用一條指令替代好幾條。AI推理中的量化運(yùn)算典型的如乘加飽和、移位取整組合硬件一條指令干完軟件少寫十幾條。加解密里的位變換操作比如國密算法中大量用到的循環(huán)移位、字節(jié)置換。網(wǎng)絡(luò)包處理里的位域提取、校驗(yàn)和計(jì)算。我這次拿來做例子的是一條自定義乘加指令運(yùn)算語義是rd rs1 * rs2 rd。選它是因?yàn)榻Y(jié)構(gòu)足夠簡單R型和乘加運(yùn)算大家都熟不至于把精力浪費(fèi)在理解算法上能集中精力看工具鏈適配本身。但這里有個(gè)必須提前說的判斷如果你的指令功能用兩三行普通指令就能表達(dá)或者編譯器優(yōu)化本身就能生成差不多的序列那自定義指令帶來的收益可能還不如它帶來的工程成本大。工具鏈適配、模擬器維護(hù)、軟件生態(tài)兼容這些事都是要還的。一般來說只有當(dāng)這個(gè)操作在一個(gè)算法里出現(xiàn)頻率極高、且普通指令序列加上數(shù)據(jù)搬移的開銷確實(shí)很大時(shí)自定義指令才劃算。1.2 先分清路線非標(biāo)準(zhǔn)擴(kuò)展與標(biāo)準(zhǔn)擴(kuò)展RISC-V的擴(kuò)展有兩條路。一條是走標(biāo)準(zhǔn)擴(kuò)展流程比如B擴(kuò)展位操作、P擴(kuò)展DSP你設(shè)計(jì)一套指令寫提案走社區(qū)評審進(jìn)規(guī)范和工具鏈這個(gè)過程以年為單位適合要大規(guī)模商用、要生態(tài)兼容的團(tuán)隊(duì)。另一條就是非標(biāo)準(zhǔn)擴(kuò)展也叫自定義擴(kuò)展直接使用指令集規(guī)范里預(yù)留的custom opcode空間自己定義編碼自己改工具鏈今天設(shè)計(jì)明天就能跑代價(jià)是代碼沒法直接跑到別的RISC-V核上除非對方也支持你這套擴(kuò)展。我走的是非標(biāo)準(zhǔn)擴(kuò)展這條路這也是絕大多數(shù)做定制芯片、加速器團(tuán)隊(duì)的實(shí)際選擇。RISC-V規(guī)范在opcode map里預(yù)留了四個(gè)custom空間對應(yīng)opcode字段的四個(gè)編碼值。這些編碼的標(biāo)準(zhǔn)指令集部分沒有分配任何官方指令就是專門留給用戶做擴(kuò)展的。我在例子里用的是CUSTOM-0這個(gè)空間opcode是7位二進(jìn)制0001011十六進(jìn)制0x0b。這個(gè)空間夠不夠用后面接著說。1.3 一條新指令跑起來要打通哪幾道關(guān)把這條路走通你會(huì)發(fā)現(xiàn)工具鏈不是一個(gè)軟件是一串環(huán)環(huán)相扣的組件。簡單列一下你寫的這條指令從匯編代碼到CPU執(zhí)行中間都要經(jīng)過誰binutils里的gas匯編器把cma這個(gè)助記符和寄存器操作數(shù)編碼成二進(jìn)制指令。binutils里的objdump反匯編器把二進(jìn)制指令反向翻譯回可讀的匯編文本沒有它你調(diào)試時(shí)會(huì)非常痛苦。GCC編譯器讓你能在C代碼層面直接寫__builtin_riscv_cma(...)生成這條指令或者起碼別在編譯到內(nèi)聯(lián)匯編時(shí)出岔子。鏈接器嚴(yán)格說鏈接器不太需要改但如果你要給新指令單獨(dú)安排一個(gè)擴(kuò)展名讓GCC識別鏈接時(shí)多多少少要確認(rèn)相關(guān)選項(xiàng)傳對了。模擬器Spike或QEMU。你要在指令集模擬器上執(zhí)行到這條指令的時(shí)候它得知道這條二進(jìn)制該干什么否則直接報(bào)非法指令。硬件或FPGA模擬器過了之后最后要落到RTL里去執(zhí)行這條指令。這里面每一環(huán)都有自己的一套登記機(jī)制。我的經(jīng)驗(yàn)是先在做任何修改之前把這條鏈路的順序理清楚因?yàn)楹笠画h(huán)節(jié)的報(bào)錯(cuò)原因經(jīng)常在前一環(huán)節(jié)改錯(cuò)地方是新手最容易踩的坑。2. 動(dòng)手前設(shè)計(jì)指令編碼與工具鏈環(huán)境準(zhǔn)備2.1 先設(shè)計(jì)指令編碼位域怎么分配工具鏈適配之前第一步一定是把指令編碼定死。編碼沒定后面所有地方的MATCH、MASK你都沒法填。RISC-V的R型指令格式固定是7位funct7、5位rs2、5位rs1、3位funct3、5位rd、7位opcode總共32位。我的自定義乘加指令cma rd, rs1, rs2用R型安排在CUSTOM-0空間里字段分配如下字段位數(shù)本例取值含義funct770000000功能碼高位rs25由匯編器填充源寄存器2rs15由匯編器填充源寄存器1funct33000功能碼低位rd5由匯編器填充目的寄存器同時(shí)也是累加器opcode70001011 (0x0b)CUSTOM-0在這個(gè)編碼里funct7和funct3都是0所以這條指令作為32位整數(shù)的匹配值MATCH_CMA就是0x0000000b。映射表里還有一個(gè)MASK_CMA表示哪些位是固定不變的。它的作用是一條32位指令跟MASK_CMA做按位與之后如果結(jié)果等于MATCH_CMA就說明這條指令屬于cma。rs1、rs2、rd是寄存器變量這些位要清零所以#define MATCH_CMA 0x0000000b #define MASK_CMA 0xfe00707fMASK怎么來的funct7這7位掩碼左移到25位是0xfe000000funct3這3位掩碼左移到12位是0x00007000opcode這7位掩碼是0x0000007f三者相或就是0xfe00707f。一個(gè)很容易忽略但特別重要的問題4個(gè)custom空間雖然大但你得規(guī)劃空間。CUSTOM-0這個(gè)opcode下面funct7有128種組合funct3有8種組合理論上還能塞進(jìn)去1024條R型指令。但實(shí)際使用時(shí)要記得給每條指令留出清晰的funct7/funct3分配表不然第幾十條擴(kuò)展指令往下加的時(shí)候編碼表會(huì)亂成一鍋粥。2.2 工具鏈組件與代碼倉庫選擇接下來說工具鏈。做RISC-V工具鏈適配主流有兩個(gè)起點(diǎn)一個(gè)是riscv-gnu-toolchain這個(gè)官方倉庫里面用子模塊方式把binutils、gcc、newlib和glibc組織在一起另一個(gè)是riscv-collab的riscv-binutils-gdb、riscv-gcc倉庫適合你只需要單獨(dú)改某一環(huán)的場景。我的建議是第一遍做適配用riscv-gnu-toolchain原因是它幫你把版本對齊了幾個(gè)子模塊的版本是互相測試過的不會(huì)出現(xiàn)你改了binutils但GCC版本不兼容這種問題。后面熟練了再拆開單獨(dú)維護(hù)。版本上的經(jīng)驗(yàn)binutils建議2.40以上GCC建議12以上。這兩個(gè)版本開始RISC-V后端對非標(biāo)準(zhǔn)擴(kuò)展的命名和子集管理機(jī)制相對穩(wěn)定網(wǎng)上能查到的資料也對得上。太老的版本riscv_multi_subset_supports這類接口的位置和實(shí)現(xiàn)都不一樣照著新代碼改到老版本上會(huì)踩坑。2.3 搭建編譯環(huán)境與最小驗(yàn)證工程環(huán)境上我最推薦的就是Linux x86_64機(jī)器裝好必要依賴后拉代碼編譯。編譯配置大概是這樣git clone --recursive https://github.com/riscv-collab/riscv-gnu-toolchain cd riscv-gnu-toolchain mkdir build cd build ../configure --prefix/opt/riscv --with-archrv64gc make -j$(nproc) linux這里--with-archrv64gc是默認(rèn)架構(gòu)參數(shù)我們用自己的擴(kuò)展名字之后GCC的-march參數(shù)可以覆蓋這個(gè)默認(rèn)值。同時(shí)我建議先建一個(gè)最小驗(yàn)證工程目錄里放一個(gè)測試匯編文件和一個(gè)Makefile。后面每改一個(gè)組件就跑一遍這個(gè)測試能第一時(shí)間定位問題在哪一環(huán)。我的測試文件和Makefile大概是這樣的# test.S .text .globl _start _start: li a0, 3 li a1, 4 li a2, 5 cma a0, a1, a2 # a0 3 4 * 5 23 li a7, 93 ecall # 退出Linux下CROSS ? riscv64-unknown-linux-gnu- all: test.bin test.o: test.S $(CROSS)gcc -c -o $ $ test.elf: test.o $(CROSS)gcc -static -o $ $ test.bin: test.elf $(CROSS)objcopy -O binary $ $ dump: test.elf $(CROSS)objdump -d $注意這一步先不要加cma因?yàn)榇藭r(shí)匯編器還不認(rèn)識它。編譯能過、objdump能出正常的反匯編說明環(huán)境本身沒問題接下來改工具鏈才有意義。3. binutils適配先讓匯編器和反匯編器認(rèn)指令3.1 指令表修改riscv-opc.h與riscv-opc.cbinutils對RISC-V指令的登記核心在兩個(gè)文件里。第一個(gè)是include/opcode/riscv-opc.h里面用DECLARE_INSN宏聲明指令第二個(gè)是opcodes/riscv-opc.c里面有一個(gè)riscv_opcodes[]數(shù)組數(shù)組里每一項(xiàng)描述一條指令的助記符、參數(shù)格式、匹配值、掩碼、所屬擴(kuò)展類別。我們先改riscv-opc.h在文件里加上一行聲明DECLARE_INSN(cma, MATCH_CMA, MASK_CMA)這行宏展開之后會(huì)聲明一個(gè)外部對象對應(yīng)這條指令的匹配信息。然后在riscv-opc.c的riscv_opcodes[]數(shù)組里加一條記錄。數(shù)組里每一條的字段結(jié)構(gòu)大致是助記符、所屬子集、操作數(shù)格式、match、mask、匹配函數(shù)、指令類別。加在我們的指令后面{cma, xcustom, d,s,t, MATCH_CMA, MASK_CMA, match_opcode, INSN_CLASS_XCUSTOM },這里重點(diǎn)解釋兩個(gè)東西。第一個(gè)是操作數(shù)格式d,s,t。在binutils的RISC-V后端里d表示rd目的寄存器s和t表示rs1、rs2源寄存器。助記符后面的字符串決定了匯編器怎么解析這條指令的操作數(shù)。有些指令是立即數(shù)操作數(shù)會(huì)用I表示12位立即數(shù)有些是u、j這種跳轉(zhuǎn)偏移。如果你自定義指令里有立即數(shù)要先搞清楚自己想用的格式有沒有現(xiàn)成的字母沒有的話還得在gas/config/tc-riscv.c里擴(kuò)展操作數(shù)解析邏輯。這一步很容易被低估實(shí)際改起來比R型指令麻煩得多。第二個(gè)是INSN_CLASS_XCUSTOM這個(gè)類別。binutils的RISC-V后端用riscv_insn_class枚舉來管理指令屬于哪一類I類、M類、A類這些都是預(yù)設(shè)的。xcustom這種非標(biāo)準(zhǔn)擴(kuò)展需要你在對應(yīng)的枚舉里自己加一個(gè)類別然后在gas的subset支持判斷里給它放行。3.2 匯編器gas側(cè)把新擴(kuò)展注冊進(jìn)子集在include/opcode/riscv.h里的riscv_insn_class枚舉中加上一個(gè)成員enum riscv_insn_class { INSN_CLASS_I, INSN_CLASS_M, INSN_CLASS_A, ... INSN_CLASS_XCUSTOM, ... };然后改gas/config/tc-riscv.c里的riscv_multi_subset_supports函數(shù)。這個(gè)函數(shù)的職責(zé)就是回答一個(gè)問題某條指令屬于某個(gè)指令類別當(dāng)前匯編時(shí)啟用的ISA擴(kuò)展是否包含該類別。不在這里放行匯編器看到cma會(huì)直接報(bào)錯(cuò)。switch (insn_class) { case INSN_CLASS_XCUSTOM: return riscv_subset_supports(xcustom); ... }還要在riscv_subset_supports相關(guān)的解析里讓xcustom這個(gè)字符串能被識別為合法擴(kuò)展名。RISC-V規(guī)范規(guī)定的擴(kuò)展名規(guī)則里以x開頭的是非標(biāo)準(zhǔn)擴(kuò)展binutils在這方面是支持解析的但不同版本對這個(gè)子集的字符串解析位置略有差異。新一點(diǎn)的版本還會(huì)檢查子集的依賴性有些后端會(huì)要求x擴(kuò)展必須掛在某個(gè)基礎(chǔ)ISA之上比如rv64gc_xcustom這種寫法。我建議在測試匯編文件里用-marchrv64gc_xcustom的方式來指定架構(gòu)。改了之后重編binutils再用交叉編譯工具試一下riscv64-unknown-linux-gnu-as -marchrv64gc_xcustom -o test.o test.S如果這條命令能過說明匯編器已經(jīng)認(rèn)了你的新指令。這一步走通了后面的東西就有了地基。3.3 反匯編器讓objdump看懂你的指令很多人在這一步會(huì)有個(gè)誤解以為反匯編器是另一套表。實(shí)際上binutils里反匯編和匯編用的是同一張riscv_opcodes[]表你給匯編器加的cma記錄objdump天然就能用了。它按match和mask去匹配指令的二進(jìn)制編碼匹配上之后把d,s,t格式翻譯回寄存器和助記符。所以這一步基本不用額外改代碼你要做的是編譯完整的binutils之后用objdump -d驗(yàn)證剛才編譯出來的目標(biāo)文件riscv64-unknown-linux-gnu-objdump -d test.o正常情況下應(yīng)該看到0000000000000000 _start: 0: 000b05b3 cma a0,a1,a2能看到cma a0,a1,a2這一行說明反匯編方向也通了。需要注意如果你看到的是.word 0x000b05b3而不是助記符先檢查MASK_CMA和MATCH_CMA這兩個(gè)宏對不對尤其是MASK。我見過有人把MASK當(dāng)成0xffffffff來寫這會(huì)導(dǎo)致rs1、rs2、rd字段也被當(dāng)作固定匹配位結(jié)果只有特定寄存器組合的指令才能被反匯編出來這是最常見的大坑。這個(gè)階段的經(jīng)驗(yàn)是匯編器和反匯編器是改起來最直觀的因?yàn)樗鼈冎恍枰次黄ヅ洳挥美斫庵噶畹恼Z義。你在這里花了工夫把表和掩碼搞對后面GCC接入時(shí)會(huì)輕松很多因?yàn)镚CC最終生成的匯編文本還是要經(jīng)過gas這一層。4. GCC適配讓C代碼能直接調(diào)新指令4.1 機(jī)器描述文件在riscv.md里描述指令語義匯編器能用只說明程序員可以在匯編層寫這條指令但對絕大多數(shù)使用者來說更希望直接在C代碼里調(diào)用。這時(shí)候就得改GCC RISC-V后端。GCC后端和binutils最大的區(qū)別是GCC要理解這條指令的語義才能參與優(yōu)化、寄存器分配、指令調(diào)度。你告訴它的方式就是機(jī)器描述文件gcc/config/riscv/riscv.md用RTL寄存器傳輸語言來描述指令做什么。我在這個(gè)文件里加的模式定義是這樣的用的是語義化描述乘法加加法而不是不可理解的unspec;; 自定義cma指令rd rs1 * rs2 rd (SI即32位) (define_insn cma_si3 [(set (match_operand:SI 0 register_operand r) (plus:SI (mult:SI (match_operand:SI 1 register_operand r) (match_operand:SI 2 register_operand r)) (match_operand:SI 3 register_operand 0)))] TARGET_XCUSTOM cma\t%0,%1,%2)這里有幾個(gè)點(diǎn)必須解釋。第一第3個(gè)操作數(shù)match_operand:SI 3對應(yīng)的約束是0意思是操作數(shù)0和操作數(shù)3必須分配到同一個(gè)寄存器這就是我們這條指令rd同時(shí)是累加器和目的寄存器的硬件約束。GCC在看到這個(gè)約束后會(huì)在寄存器分配時(shí)強(qiáng)制讓兩個(gè)操作數(shù)共用一個(gè)寄存器如果做不到它會(huì)自動(dòng)插入mov指令來滿足約束。第二我用了真正的語義mult plus而不是unspec。這兩條路各有取舍。用unspec對GCC來說是一條黑盒指令它不知道你在算什么不會(huì)瞎優(yōu)化但也沒法利用這條指令的代數(shù)性質(zhì)。用語義模式GCC就清楚這是乘加它可能會(huì)把別的乘加表達(dá)式也匹配到這個(gè)模式上優(yōu)化機(jī)會(huì)更多但風(fēng)險(xiǎn)是萬一你的硬件實(shí)現(xiàn)和標(biāo)準(zhǔn)乘法加法語義有細(xì)微差異比如溢出行為不同、飽和處理不同編譯器會(huì)認(rèn)為它和普通乘加等價(jià)從而在你不知情的地方做了不正確的變換。自定義指令如果語義和標(biāo)準(zhǔn)運(yùn)算不完全一致建議保守一點(diǎn)用unspec加UNSPEC常量如果語義就是標(biāo)準(zhǔn)乘加用語義模式更好。我這里的cma語義就是標(biāo)準(zhǔn)乘加所以用語義描述。第三TARGET_XCUSTOM是個(gè)宏在riscv.h里定義表示當(dāng)前編譯選項(xiàng)里啟用了xcustom擴(kuò)展。這塊要和下一條說GCC的-march解析掛上鉤。4.2 內(nèi)置函數(shù)從C代碼到新指令的橋梁機(jī)器描述文件定義了GCC內(nèi)部怎么看待這條指令但用戶沒法直接用。要提供C語言的可調(diào)用接口就得加內(nèi)置函數(shù)builtin function。GCC RISC-V后端的內(nèi)置函數(shù)注冊在gcc/config/riscv/riscv-builtins.cc里。新版本GCC定義內(nèi)置函數(shù)有兩種機(jī)制。一種是用__builtin_riscv_cma這種顯式內(nèi)置函數(shù)你在builtins文件里注冊函數(shù)原型和參數(shù)類型提供一個(gè)riscv_expand_builtin的擴(kuò)展邏輯讓它把函數(shù)調(diào)用展開成我們定義的cma_si3模式。簡化后的注冊邏輯大概是/* riscv-builtins.cc 中注冊cma內(nèi)置函數(shù) */ static void riscv_init_builtins_1 (void) { tree ftype build_function_type_list (void_type_node, intSI_type_node, intSI_type_node, intSI_type_node, NULL_TREE); add_builtin_function (__builtin_riscv_cma, ftype, RISCV_BUILTIN_CMA, BUILT_IN_MISC, NULL, NULL); }然后做函數(shù)展開把內(nèi)置函數(shù)的三個(gè)參數(shù)取出來轉(zhuǎn)成rtx再emit到cma_si3模式/* 展開邏輯 */ static rtx riscv_expand_cma_builtin (tree exp) { rtx dst gen_reg_rtx (SImode); rtx src1 expand_normal (CALL_EXPR_ARG (exp, 0)); rtx src2 expand_normal (CALL_EXPR_ARG (exp, 1)); rtx acc expand_normal (CALL_EXPR_ARG (exp, 2)); emit_insn (gen_cma_si3 (dst, src1, src2, acc)); return dst; }另一方面是直接讓GCC自動(dòng)猜算RISC-V后端在較新的版本里提供了一種叫自定義擴(kuò)展內(nèi)建函數(shù)的機(jī)制能根據(jù)一條匯編模板自動(dòng)生成對應(yīng)builtin。具體來說你不需要手寫展開邏輯只要在riscv-c.cc里把自定義指令的助記符聲明成可調(diào)用的內(nèi)建函數(shù)就行。但由于各個(gè)GCC版本的API差異比較大我這里不展開具體代碼更推薦的方式是先在匯編層把指令驗(yàn)證通過然后用內(nèi)聯(lián)匯編做C語言層封裝最后如果你確認(rèn)這條指令在項(xiàng)目里會(huì)被高頻使用再花時(shí)間去做正式的builtin接入。4.3 什么時(shí)候用內(nèi)聯(lián)匯編什么時(shí)候用內(nèi)置函數(shù)這一步的取舍是很多團(tuán)隊(duì)工具鏈適配早期特別糾結(jié)的問題。我直接說結(jié)論原型驗(yàn)證階段用內(nèi)聯(lián)匯編最劃算產(chǎn)品化階段內(nèi)置函數(shù)是正路。內(nèi)聯(lián)匯編的寫法非常簡單static inline int32_t cma_asm(int32_t a, int32_t b, int32_t acc) { asm volatile(cma %0, %1, %2 : r(acc) : r(a), r(b)); return acc; }你只要匯編器已經(jīng)支持這條指令這段代碼就能用。它的好處是零GCC后端改動(dòng)壞處是GCC把a(bǔ)sm volatile當(dāng)一堵墻它不知道你這段匯編做了乘加運(yùn)算沒法參與優(yōu)化而且不可避免會(huì)帶來寄存器壓力、指令調(diào)度變差這些損耗。內(nèi)置函數(shù)則讓編譯器完全理解語義可以進(jìn)行常量折疊、公共子表達(dá)式消除這些優(yōu)化。代價(jià)就是得維護(hù)GCC后端的修改后期還要跟隨GCC版本升級重新移植。對芯片公司來說這個(gè)是產(chǎn)品化的必經(jīng)之路但對一個(gè)剛開始研究RISC-V自定義擴(kuò)展的團(tuán)隊(duì)來說我建議分兩步走別一上來就啃GCC后端。另外提醒一個(gè)很多人不知道的點(diǎn)__builtin_riscv_*這類內(nèi)置函數(shù)是否能被識別還取決于GCC編譯時(shí)的-march參數(shù)。GCC里ISA開關(guān)的控制有兩層一層是riscv.opt里定義的各種-misa-spec、-march之類的選項(xiàng)解析另一層是riscv.cc里的riscv_parse_arch_string函數(shù)解析的擴(kuò)展名列表。如果你的xcustom擴(kuò)展沒有在這個(gè)解析列表里你傳-marchrv64gc_xcustom的時(shí)候GCC會(huì)直接報(bào)unknown extension。5. Spike與QEMU模擬器驗(yàn)證讓新指令真正跑起來5.1 Spike適配從編碼表到執(zhí)行函數(shù)軟件工具鏈這邊全部改完之后該跑真實(shí)執(zhí)行了。最合適的驗(yàn)證起點(diǎn)是Spike它是RISC-V官方的指令集模擬器結(jié)構(gòu)很簡單適合做ISA層面的驗(yàn)證。Spike適配需要改三個(gè)地方。第一步在riscv/encoding.h里加上指令的匹配宏和聲明#define MATCH_CMA 0x0b #define MASK_CMA 0xfe00707f DECLARE_INSN(cma, MATCH_CMA, MASK_CMA)第二步在riscv/insns/目錄下新建一個(gè)cma.h文件實(shí)現(xiàn)指令的具體模擬行為/* riscv/insns/cma.h */ { reg_t old_rd x(insn.rd()); WRITE_RD(RS1 * RS2 old_rd); }Spike的機(jī)制很直觀每個(gè)支持執(zhí)行的指令對應(yīng)一個(gè)insns/指令名.h文件文件里的代碼會(huì)被展開成一個(gè)接收當(dāng)前指令信息、讀寫寄存器堆的執(zhí)行函數(shù)。RS1、RS2分別代表rs1、rs2寄存器的當(dāng)前值WRITE_RD負(fù)責(zé)把結(jié)果寫回目標(biāo)寄存器。注意我們的指令rd既是源又是目的所以先x(insn.rd())把累加器的舊值讀出來再做乘加這個(gè)順序邏輯上要特別小心。如果你的自定義指令有訪存行為這一步還要考慮尾聲裝置tail處理不能只在寄存器里算完就完事。第三步在riscv/insn_list.h不同版本可能叫別的名字里聲明這條指令DECLARE_INSN(cma, MATCH_CMA, MASK_CMA)這個(gè)列表會(huì)被Spike的decode表生成邏輯掃一遍把每條指令的match/mask綁定到對應(yīng)的執(zhí)行函數(shù)上。改完重新編譯Spike用Spike跑我們之前的test.elfspike --isarv64gc_xcustom pk test.elf如果程序能正常跑完并退出碼正確那說明這一條指令從符號到執(zhí)行全部通了。在動(dòng)手之前可以用echo $?看看退出碼是不是和預(yù)期一致。5.2 QEMU適配decode文件與trans函數(shù)QEMU的RISC-V后端適配方式完全不同原因是它用TCG做動(dòng)態(tài)翻譯先把目標(biāo)指令翻譯成TCG中間指令再翻譯成宿主機(jī)代碼。QEMU的好處是性能比解釋型模擬器高很多跑完整軟件棧更現(xiàn)實(shí)。QEMU的RISC-V解碼機(jī)制在target/riscv/insn32.decode文件里。這是一個(gè)類Decodetree的格式描述文件我需要給cma指令加一行編碼模板# target/riscv/insn32.decode cma 0000000 ..... ..... 000 ..... 0001011 r這行格式的意思很直白前7位funct7固定0000000中間三個(gè)寄存器字段用.....表示任意5位funct3固定000最后一個(gè)7位opcode固定0001011整體是R型格式r。Decodetree生成工具會(huì)自動(dòng)生成這條指令的解碼函數(shù)把指令的rs1、rs2、rd字段提取出來放進(jìn)arg_cma結(jié)構(gòu)體里。然后實(shí)現(xiàn)翻譯函數(shù)。我新建了一個(gè)trans_cma函數(shù)放在target/riscv/insn_trans/trans_rvi.c.inc如果你有獨(dú)立的custom擴(kuò)展文件也可以單獨(dú)建一個(gè)inc文件static bool trans_cma(DisasContext *ctx, arg_cma *a) { TCGv t0 tcg_temp_new(); TCGv t1 tcg_temp_new(); tcg_gen_mul_tl(t0, cpu_gpr[a-rs1], cpu_gpr[a-rs2]); tcg_gen_add_tl(t1, cpu_gpr[a-rd], t0); tcg_gen_mov_tl(cpu_gpr[a-rd], t1); tcg_temp_free(t0); tcg_temp_free(t1); return true; }這段TCG代碼的邏輯就是t0 rs1 * rs2t1 rd t0再把結(jié)果寫回rd。TCG的臨時(shí)變量要記得釋放不然一個(gè)復(fù)雜的基本塊翻譯下來臨時(shí)變量會(huì)堆積。QEMU這邊比較容易踩坑的點(diǎn)是decodetree模板的位數(shù)和字段順序必須和編碼精確一致尤其是寄存器字段的下劃線數(shù)量。.....差一個(gè)點(diǎn)生成的解碼函數(shù)就完全不是你想要的樣子。另外QEMU對非標(biāo)準(zhǔn)擴(kuò)展的支持在不同版本里變動(dòng)很大新版QEMU8.0以上還引入了riscv,isa字符串解析、多擴(kuò)展配置這些機(jī)制如果你只在老的insn32.decode里加了一個(gè)模板有可能因?yàn)镮SA字符串里沒有激活這個(gè)擴(kuò)展而拒絕解碼。這塊要看你用的具體版本老版本直接加就行新版本需要同步在riscv_isa_ext相關(guān)的表里注冊擴(kuò)展。5.3 FPGA與真機(jī)驗(yàn)證簡述模擬器跑通之后最后一步是硬件驗(yàn)證。這部分工作量和RTL實(shí)現(xiàn)強(qiáng)相關(guān)我只從工具鏈配合角度說幾個(gè)要點(diǎn)。在FPGA上你的自定義指令一般以兩種方式存在一是直接改RTL的譯碼和執(zhí)行流水二是用一個(gè)協(xié)處理器接口掛接。無論是哪種驗(yàn)證時(shí)你都需要把軟件生成的二進(jìn)制喂給CPU核。這時(shí)候前面做的工具鏈工作就開始體現(xiàn)價(jià)值了你可以用GCC編出一段真實(shí)的業(yè)務(wù)代碼里面混著大量cma指令直接燒到FPGA上和模擬器的行為做對拍。硬件驗(yàn)證階段特別建議做一件事在RTL里加一個(gè)指令統(tǒng)計(jì)計(jì)數(shù)器對碰cma這條指令被執(zhí)行的次數(shù)和Spike或QEMU側(cè)用調(diào)試器或trace工具統(tǒng)計(jì)出來的執(zhí)行次數(shù)做比對。如果兩邊次數(shù)不一致說明有分支預(yù)測或者異常路徑上的指令執(zhí)行行為沒對齊這種問題在純軟件模擬階段根本發(fā)現(xiàn)不了。6. 常見問題與排錯(cuò)實(shí)錄6.1 匯編器報(bào)錯(cuò)unrecognized opcode這是最靠前的報(bào)錯(cuò)說明gas那條路還沒通。按順序排查第一riscv-opc.c里的數(shù)組記錄加了嗎格式對不對第二riscv-opc.h里的DECLARE_INSN有沒有第三匯編命令行里的-march有沒有帶上xcustom第四riscv_multi_subset_supports函數(shù)里有沒有對INSN_CLASS_XCUSTOM放行。我遇到過的真實(shí)情況是前三個(gè)都對但gas的ISA子集解析函數(shù)在解析xcustom時(shí)因?yàn)榇笮憜栴}沒匹配上導(dǎo)致放行失敗。RISC-V擴(kuò)展名規(guī)范里非標(biāo)準(zhǔn)擴(kuò)展必須小寫x開頭寫成XCUSTOM大概率會(huì)被拒。6.2 objdump反匯編顯示.word而不是助記符這個(gè)前面已經(jīng)提過優(yōu)先懷疑MASK寫得不對。把MASK_CMA誤設(shè)成0xffffffff是最經(jīng)典的問題這樣只有rs1、rs2、rd恰好全是0的指令才能匹配成功。你有幾條測試指令要么湊巧能反匯編出來要么就全部顯示成.word。另外注意objdump匹配指令的順序是按riscv_opcodes[]數(shù)組的先后來的數(shù)組里的記錄如果和已有的標(biāo)準(zhǔn)指令撞了match/mask標(biāo)準(zhǔn)指令會(huì)優(yōu)先匹配上。所以自定義指令的match一定要檢查是否和現(xiàn)有表重復(fù)尤其是你用funct7、funct3全0這種寬松編碼的時(shí)候。判斷依據(jù)很簡單match值相同且mask和已有指令有重疊就是沖突。6.3 GCC報(bào)unrecognizable insn這個(gè)報(bào)錯(cuò)發(fā)生在GCC后端意思是GCC生成了某個(gè)RTL模式但目標(biāo)機(jī)器描述文件里沒有能匹配的指令模板。多半是riscv.md里的模式約束寫錯(cuò)了。比如我在cma_si3模式里用了約束0讓第3個(gè)操作數(shù)和第0個(gè)操作數(shù)共用寄存器如果模式里的操作數(shù)下標(biāo)寫錯(cuò)GCC在寄存器分配階段生成不了合法的匯編就會(huì)在final階段報(bào)unrecognizable insn。排查方法是用-fdump-rtl-all把GCC的RTL中間結(jié)果打到文件里看最終那個(gè)無法識別的insn長什么樣再對照機(jī)器描述的模式和約束找差異。6.4 Spike報(bào)Illegal InstructionSpike在encoding.h和insn_list.h里都聲明了指令但運(yùn)行時(shí)報(bào)非法指令一般是decode表沒有生成。Spike的decode表在processor.cc的初始化流程里會(huì)根據(jù)insn_list構(gòu)建一個(gè)按match分組的跳轉(zhuǎn)表如果你的DECLARE_INSN宏位置不對或者指令的match值被別的指令的mask覆蓋就會(huì)匹配不到。有個(gè)快速驗(yàn)證辦法在Spike的decode函數(shù)里臨時(shí)打印當(dāng)前pc附近的原始指令編碼手動(dòng)跟MATCH_CMA比對排除編碼問題。6.5 問題排查速查表現(xiàn)象優(yōu)先排查常犯錯(cuò)誤gas報(bào)unrecognized opcodeopcode表、subset支持march忘記帶xcustom或大小寫錯(cuò)誤objdump顯示.wordMATCH/MASK宏MASK誤設(shè)為全1match與已有指令沖突GCC報(bào)unrecognizable insnriscv.md模式、約束操作數(shù)下標(biāo)寫錯(cuò)約束字符串不對Spike非法指令encoding.h、insn_listDECLARE_INSN位置不對match重復(fù)QEMU不能解碼insn32.decode模板點(diǎn)位數(shù)量不對ISA擴(kuò)展未注冊6.6 兩個(gè)值得提前做的防坑措施最后分享兩個(gè)我個(gè)人的習(xí)慣。一是每次改動(dòng)工具鏈某個(gè)組件后都用最小測試工程跑一遍匯編、反匯編、編譯、執(zhí)行四步四步全過再進(jìn)下一步。這樣做的好處是問題永遠(yuǎn)被限制在當(dāng)前改的組件里不至于改到后面還要回頭猜是哪一環(huán)壞了。二是給自己的每條自定義指令寫一張編碼定義表放在倉庫里和RTL代碼、工具鏈代碼一起追版本。包括指令助記符、功能語義、位域分配、MATCH/MASK、寄存器和立即數(shù)格式??雌饋碇皇且粡埍淼?dāng)年你加到第20條、第50條自定義指令的時(shí)候會(huì)發(fā)現(xiàn)這張表是救命稻草它能幫你防止編碼沖突、幫助新同事快速上手也能在工具鏈和RTL對不上時(shí)快速定位分歧。我個(gè)人跑完這趟流程最大的體會(huì)是RISC-V自定義擴(kuò)展的核心工作量其實(shí)不在RTL實(shí)現(xiàn)而在軟件工具鏈的方方面面。每條指令都要過匯編、反匯編、編譯、模擬器、硬件驗(yàn)證五關(guān)每一關(guān)的報(bào)錯(cuò)方式都不同排錯(cuò)思路也完全不同。但一旦你用上面的流程把第一個(gè)簡單指令跑通后面再加新指令就只是重復(fù)勞動(dòng)基本不會(huì)再卡殼了。如果你正準(zhǔn)備動(dòng)手我的建議是先挑一條最簡單的R型算術(shù)指令用今天這套流程完整走一遍模擬器和FPGA上都跑通再去做那些帶立即數(shù)、帶訪存、帶條件執(zhí)行的復(fù)雜指令會(huì)順暢得多。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲www91| 久久香蕉国产线看观看亚洲女人 | 啊啊啊好想要| 五月天人妻综合| 久久久久久久久久8888| 中文字幕在线观看网页| 大香蕉一线视频| 96久久久久| 做爱福利视频一区二区| 玖玖97综合| 日本视频一区二区三区| 91肉片| 情侣操 逼视频99| 成人三一级一片aaa| 清纯唯美亚洲另类| 亚洲色图欧美色图制服诱惑| 男女打扑克高清网站| 日日黄色三级网站| 免费一级视频特黄色大片| 91美女视频。| 99热婷婷| 九九无码视频| 久久久成人国产精品无码| 又大又大又大又粗爽高潮观看| 内射卯月麻衣| 操曰本熟女| 超碰夫妻97| 人妻夜夜爽天天爽麻豆三区网站 | 综合一区中亚洲国产成人综合精品| 老熟女综合| 色噜噜人妻av中文字幕| 日韩综合色网| 色偷偷2020免费视频播放| 久久色一区二区| 人人操人人搞人人草| 亚洲欧美色图小说| 久久性爱视频免费看| 亚洲无码日韩电影| 午夜爽爽爽| 加勒比aⅴ| 四虎精品亚洲| 精品久久久久久久| 亚洲天堂另类| 中文字幕亚洲热播人妻| 无码区蜜乳| 国产精品蜜臀久久久久无码AV| 78久久| 12一15性XXXX粉嫩国产| 亚洲av热热色| 国产精品内射婷婷一级二| 91福利网在线观看| 午夜激情成人在线观看| 国产精品无码av嫩草| 久久精视频美日韩在线视频| 欧美色五月| 一区二区三区网站日日骚| 亚洲,欧美,春色,另类| 亚洲日本韩国极品一区二区| 青青草国产亚洲精品久久| 看黑丝美女操逼青青网站| 91国产美女丝袜足交精品视频 | www.婷婷六月天| 久久免费中文字幕在线观看| 99久热精品99re6热| 天天日熟妇| 夜夜躁狠狠躁日日躁av| 日本熟女中文字幕一区| 日韩精品.久久精品.AV女优.天美传媒| 久久久久久久久久久久久9999| 日欧毛片久久| 99日视频在线免费| 欧美久久人人网| 亚洲日韩AV视色| 一二三卡欧美日韩人妻免费精品| 91丨国产丨白浆秘 洗澡动漫| 婷婷AV一区二区三区| 蜜桃久久久久久久| 久久久涩| 欧美内射少妇| 男人天堂黄片| 伊人青青一区成人视频在线观看区| 性爱av在线免费观看| 精品一区二区三区蜜桃臀赵总| 久久超碰、| 欧美综合天天| 国产精品国产自产拍高清AV| 青青草好吊色| 婷婷99狠狠躁天天躁| 九七人妻在线| 日韩av影片在线观看| 狠狠做深爱婷婷久久二区| 视频国产成人精品日本亚洲18| 91九色精品熟女内射| 亚洲日韩乱码中文无码蜜桃臀网站| 九九热AV| 求求你操操我| 亚洲成人一区二区精品| 美国三级日本三级久久99| 国产91乱伦| 中文字幕文字幕无码一区二区三区电影99 | 久草综合网| 久草视频分类在线| 免费网色网站| 九九精品热| 99re6在线视频播放免费精品| 久草福利在线资源站| 欧美性爱18观看| 亚洲综合在线高清| 国产精品久久久久av| 欧美老妇曰批的视频| 日韩大香蕉| 97亚洲中文| 97色操| 精品免费成人久久| 中文在线视频| 97超碰人操| 青青草无码视频| 夜夜夜夜爽| 91热色| 欧美96在线|欧| 黑白配性爱AV成| 91女神在线视频| 欧美综合网在线| 欧美一级专区免费大片| 夜夜爽妓女| www.色五月| 91国产美女丝袜足交精品视频 | 天天干天天操天天拍| 久久久999网站| 99在线观看视频在线高清| 婷婷天堂站| 亚洲黄色a级片| 欧美黄片视频在线观看免费 | 中文字幕综合人妻| 日本不卡三级网在线播放| 日韩综合成人免费视频| 亚洲色阁| 日韩有码免费视频| 肉丝无码中文高清| 欧美日韩第一页| 久久精品免费| 欧美.亚洲.另类.丝袜.制服.诱惑| 色哟哟国产精品免费网址| 大香蕉啪啪啪啪在线| 一本大道久| 亚洲日韩在线a不卡99精品| 日韩A优精品在线观看| 色色婷| 久久久久密臀一区二区| 亚洲熟女综合一区二区| 欧美午夜一区二区三区| 久偷拍| 欧美色图亚洲激情| 亚洲一本大道中文字幕无码在线| 欧美日韩淫加| 97亚洲国产| 亚洲 自拍偷拍 欧美| 夜夜嗨av午夜成人| 国内伊人久久久久久网站视频| 国产 日韩 欧美高清| 97超久碰| 日韩福利综合一区| 午夜精品99久久久久传媒| 中国91AV| 天天看,天天做| 女上位精品在线| 九月丁香综合网| 欧美色色人| 精品九九国产无码| 色网综合网| 免费1级a做爰片观看| AA特级绝黄| 花花AV导航| 乱伦3P视频| 激情小说亚洲| 天堂蜜桃无码视频一区二区| 五月天伊人| 香蕉黄色一级视频| 日韩97P| 97国产色图 | 欧美成人性爱视频在线播放| 亚洲色图欧美视频| 破处bbq| 最新日韩黄片| 色狠狠综合| 精品无码产区一区二| 97操| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 亚洲国内精品成人不卡| 女人被男人桶爽视频网站| 国产精品色哟哟| 久久国内| 青草综合| 超碰到97情色| 殴美性色a级欧美| 青娱乐欧美激情一区二区| 亚洲天堂久久| 97大色网| 干日本人少妇午夜寂寞影院| 97伊人超碰| 91骚妇| 丁香五月天激情| 精品毛片av一区二区| 成人情色综合网| 91偷拍欧美亚洲| 婷婷五月天久久久| 另类TS人妖一区二区三区| 伊人性在线视频| 久久水蜜臀亚洲AV无码精品| 蜜臀少妇一区二区| 国产高清26uuu| 亚洲黄片免费在线播放| 日本高清一本二本免费不卡| 偷拍超碰| 色综合中文字幕不卡| 国产精品久久久鸭无码的功能| 60秒免费小视频| 日韩一级二级三级免费看完整版国语版 | 色香蕉影院| 亚洲第一页综合在线| 福利社区午夜一区二区| 国产精品久久久吖| 男女激烈网站最新| 人人干人人操人人..com| 色五月婷婷中文字幕| 亚洲天堂中文字幕无码男同| 一级性爱啪啪视频| 亚洲精美粉嫩嫩泬在线观看| 亚洲综合 欧美| 国产高清免费不卡av| 日韩成人大片在线观看| 熟女91网| 欧美操人视频| 9997se| 大逼色网站| 麻豆av一区二区| 亚洲第一页综合在线| 日韩操啪| 亚洲精品一区二区三区新线路| 一本久道久久综合狠狠爱一密臀精| 午夜超爽| 超碰在线1234区| 久久99热这里只频精品6学生| 中文字幕一区二区三区人妻少妇在线| 8050午夜少妇无码| 97精| 91青青草| 国产高清自拍| 色欧美综合| 91美女国产在线| 亚洲欧洲小说图片视频| · —级AA伦aa坐爱午夜极速ⅴA一区天天噪天天噪天天噪 | 亚洲熟女乱色| 久久婷婷精品| 综合网色| 1024日韩| 亚洲有薄码区日本系列中文字幕| 中文字幕精品一区二区精品| 黄色av一区二区在线| 日韩 欧美 视频 在线 一区| 久久亚洲AV无码专区国产精品| 亚洲丰满很很操| 综合网色| 91老司机在线视频免费观看| 久久偷拍人| 欧美国产一区二区三区麻豆传媒| 色爽——AV| av天堂加勒比| 97视频免费在线观看| 好色综合| 中文字幕成人| 久久深夜无码| 岛国天天午夜影院传媒网| 欧亚三区动漫| 欧美日韩国产黄色片| 亚洲AV无码国产成人| 久久女人一区二区三区| 91欧美性| 亚洲综合九九| 爱媛媛久久国产福利| 99热在线播放| 久久超碰98| 亚洲 欧美 第一页| 人人摸人人添人人操| 欧美色三级片91| 黑人精品久久97| 亚州欧美总和| 国产曰批免费观看久久久| 国产成人自拍视频在线| 日韩99神马视频片| 97国产精品一区二区传媒公司| 亚洲色图欧美色图另类图片| 国产成人精品亚洲日本| 香蕉av一区二区三区| 欧美天天弄| 2018色综合天天操| 秋霞鲁丝午夜无码一区二区三| 色狠狠一区二区三区香蕉| 黄色在线网站| 欧美日韩亚洲天堂网| 国产 日韩,欧美 自拍| 激情九月婷婷| 成人无码专区精品视频| 9色国产精品一区粉嫩 | 亚洲精品国产无码高清| 人人透人人操| 97在线视频观看免费| 国产一区二区三区久久精品太古里| 久久这里只精品| 色情五月婷婷| 伊人麻豆传媒| 欧洲Au麻豆| 青娱乐休闲视频在线观看| 麻豆精品久久久久久久| 日躁天天爽爽| 国产一区二区三区不卡手机在线| 97se亚洲综合自| 丰满人妻一区二区三区| 欧美78P| 欧插网站| 亚洲二区精品在线观看| 果冻传媒A片一二三区 | 亚洲第一免费视频| 91 国产丝袜在线播放-百度| 成视频在线观看免费看| 国产色产精品在线观看| 久久只有精品一区二区三区| 国产精品呦一区二区三区| 日本男人插女人的逼黄色| 多乙久久久久久| 成人小说另类在线| 女优视频第10页| 免费A V在线播放| 91综合中文字幕| 一卡二卡三卡| 5278欧美一区二区三区| 男人天堂2030| 91欧美丝袜| 国产极品99热在线播放69| 国产成人精品亚洲日本| 天天天天天天天天天天干美女| 一级片视频啪啪| 欧洲精品二区| 精品日日人妻| 国产亚洲欧洲在线观看| 综合色99| 久久人妇| 日韩淫色网| 国产女人极品高潮毛片| 欧美综合网| 精品人妻中文字幕4399| 国产家庭乱伦性爱视频| 久久久精品91八戒| 综合久久欧美| 高跟丝袜AV专区国产| 电家庭影院午夜69久久夜色精品国产69乱 | 日韩欧美亚洲自拍偷拍| 尤物视频偷拍免费| 亚洲一二三| 色婷婷成人| 国产成人bd在线观看| 亚洲最大成人a毛毛片| 日产操逼| 中文字幕五月婷婷免费| 91精品国产91久久青草| 中文字幕丰满人妻日本| 日本成人在线不卡一区二区三区| 国产尤物在线三区| 综合另类| 久久综合日韩亚洲欧美| 偷拍综合亚洲| 啊啊啊想要| 日韩一性一交一A片俄罗斯| www.色综合| 青青草大香蕉在线视频| 97在线视频免费看| 欧美久久人人网| 男人夜色天堂ss| 亚洲中文字幕有码视频一区二区三区| 国产不卡中文字幕免费avi| 日本男人天堂| 亚热日本熟女| 午夜福利av电影在线| 日韩三级一区| 欧美色另类| 岛国网址国产| 97WW精品| 国产捆绑一区| 婷婷六月色开| 欧美图片色五月天| 激情综合网五月婷婷五月天| 夜夜操91744565| 成人夜夜| 欧美十八禁在线看| 亚洲网站一区二区在线| 333kkkk·亚洲com久久| 少妇天堂| 欧美色997| 色噜噜综合网| 乱操乱伦AV| 91黑丝少妇| 91久久久久久久久18| 女性91网站| 1024午夜激情男人的天堂| 婷婷五月天福利| 在线观看亚洲成人精品| 国产国产亚洲一二三久久| 久草新免费| 天天插天天射| 亚洲AV无码国产精品久久久久 | 99久久婷婷| 影音先锋日本一区二区| 国产精品不卡少妇白| 国产吹潮女在线观看| 嗯嗯嗯嗯啊啊啊好紧好大| 伊人黄色视频免费观看| 99视频这有这里有精品| 日日摸天天爽夜夜欢| 久久久久久久综合,国产| 神马久久久久久久久久| 熟女少妇一区二区三区| 98福利在线视频| 翘臀vidoes| 久久综合av| 巨乳特殊服务按摩| 亚洲精品国产无码高清| 好爽视频在线观看视频| 日韩99999| 婷婷操逼| 亚洲精品aa久久伊人| 国产探花日韩援交| 九九热精品视频六| 78精品在线| 蜜臀久久99精品久久久久久| 东京热双插| 天天综合,91入口| 中文字幕欧美精品亚洲日韩蜜臀| 国产天美欧美| 宅男午夜在线视频| 欧美日韩国产电影| 欧洲射精91| 330dv亚洲成年视频网| 精品小视频在线| 91男同| 亚洲色婷婷综合久久一区二区三区| 加勒比久久av| 九九九九亚洲| 欧美性爱综合,免费| 亚洲国产奇米影视久久| 天天干天天燥| 午夜天堂精品久久久久91| 激情婷婷丁香| 殴洲老熟女| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 亚洲第91页| 久久噜噜噜精品国产亚洲综合| 中文字幕丝袜| 无码直播久久久| 国产AV超爽| 91国产美女丝袜足交精品视频| 在线五区| 国内精品久久人妻性色av| 日韩黄片影院| 亚洲国产第一页综合视频| 97色色,97综合| 厕所偷拍在线| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 黄色污污污污污污网站| 青青草好吊色| 欧美论理片| 日本综合色图| blacked精品一区国产| 欧洲自拍第一页| 8050无码八戒| 一二三啪啪专区| 一区二区三区美女超清| 亚洲色图欧美一区二区不卡| 97色色,97综合| 天天操天天干一区二区| 日韩特一级久久| 精品高清牛人盗摄一区二区三区中文字幕A片免费在线观看 | 亚洲另类在线观看| 久99| 大香樵伊人网| 成人短视频在线观看| 麻豆人妻偷人精品无码视频| 亚洲97在线| 中文字幕在在线观看网站| 色眯眯av| 亚州AV无码国产精品| 国产成人自拍视频在线| 久久久久久久久久久久欧美日| 亚洲av青草久久一区二区| 五月婷在线| 超碰社区97| 全免费a敌肛交毛片免费| 国产亚洲精品美女| 色欲av一区二区三区蜜芽| 欧美第38页| 蜜乳视频网站| 超碰在97| 国产精品一区二区黄片| 97综合激情| 日本大片日本一区二区免费高清| 亚洲在线A| 91操碰| 久久久久久九九九九九| 精品国产网站| wwwxxx日本爽| 中文字幕国产| 欧美日韩黄色片一区二区三区四区人与兽做爱 | 人人操人人摸人人看人人干| 91处女在线视频| 日本www操操操| 中文字幕人妻色偷偷久久皮| 人人玩人人添人人澡免费| 欧美v日韩欧亚洲电影天堂色诱,国产传媒| 亚洲第一在线视频| 夜夜草我| 国产精品内射婷婷一级二| 亚洲日韩精品一区二区| 夜色五月天| 强奸抽插av| 中文字幕亚洲欧美在线不卡| 日B操| 美腿丝袜高跟网免费视频免费视频| 久久久不卡| 97天天综合网| 日本免费专区| 国产精品第一页国产大屁股视频免费区| 日本一本道A级黄色毛片试看60分钟| 超碰98综合网| 大香蕉五月天| 91日产桃蜜| 蜜臀亚洲综合一二三四区| 精品一区二区三区蜜桃臀赵总| 超碰99热中文字幕| 激情五月天中文字幕色| 91在线免费观看处女| 亚洲欧洲国产综合av| 日韩综合无码一区久久92| 中文字幕女同在线| 99久久com免费视频′| 探花一区二区三| 国产精品国产精品国产| 欧美熟女丝袜| 中文97国产| 青青草视频爽一爽| 日韩欧美女优电影| 无码国产精品午夜不卡(| 高清在线不卡一区二区 视频| 欧美 牲| 日韩欧美麻豆大片| 天天操天天舔| 日韩综合成人免费视频| 麻豆a'v电影| 九九九九九九九九九九九蜜桃| 综合少妇网| 国产亚洲一黄| 国产女人高潮嗷嗷嗷叫小说| 欧美97超碰| 97国产超碰| 偷拍导航视频网站| 九九九成人| 91黑人狂躁丰满熟妇| 亚洲少妇视频| 久久78| 无码不卡八戒| 少妇一区二区三区精选| 久久伊人最新网址视频| 亚洲色天| 国产一区在线观看无码AV| www亚洲免费| 嫩草一区二区在线观看| 欧美午夜一区二区三区| 欧美极品女人的天堂| 亚洲美女 晚间男人天堂 | 欧美丝袜激情| 亚洲最新中文字幕免费| 国产自制av蜜乳| 337p大胆噜噜噜噜噜91Av| 亚洲影院365| 日韩精品区二区三区不卡| 国产精品青草综合久久| 免费男人的天堂| 免费精品无码一级毛片牛牛影视| 国产精品国产自产高清AV| 中文字幕精品区先锋资源| 色妺妺在线视频| 大色网久久| 78精品在线| 综合色99| 国语精品对白| 91狼人| 十八禁一区二区无码观看| 你懂的在线观看区国产 | 欧美日韩第一页| 国产嫩草精品A88AV在线| 日本久久久久久久久久| 偷拍 欧美 日韩| 乱伦av国产| 一本久久精品中文字| 亚州操操穴网| 伊人久日| 精品人成视频在线观看| 强奸国产精品视频| 久热91| 久久免费中文字幕在线观看| 91丝袜在线视频| 国产视频97| A级国产欧美激情在线| 成人精品一区二区91毛片不卡| 日韩激情中文字幕有码| 亚洲少妇视频| av三级电影在线播放| 久久久∴| 国产乱码久久久| 欧美淫穴| 欧美 青青草| 久久精品国产96精品亚洲拳交| 亚洲国产精品成人无码久久久| 91色综合色| 婷婷五月天福利| 中国操逼无码| 99re6在线视频精品免费完整版安卓版| 每日更新AV| 日本成a人v网站在线观看| 国产又爽又黄| AV不卡在线| 青青在线视频日韩欧美| 中出在线视频| 97色论| 欧美亚州手机在线| 亚洲精品aa久久伊人| 久久AV无码AV| 91伊人| 中文字幕在线第二页| 色综合av男人天堂| 97久久国产精品女不卡| 青青草狠狠撸| 日夜干射色啊| 人人乐大香蕉| 久久久久久亚洲Av无码精| 蜜臀久久久久久999| 亚洲天堂男人网| 91在线欧色| 综合av社区| 美女AV一区二区| 久草国产在线视频| 亚洲熟女乱综合一区二区在线-...亚洲国产日韩欧美一区二区三区,久久久久久精 | 欧美翘臀视频网站一区二区三区| 嗯阿好爽好紧| 91黑丝少妇| 我想要 啊 啊 啊| 精品少妇高潮久久| 加勒比aⅴ| 亚洲小电影免费涩涩成人在线高清 | 国产9l 大屁股| 91色女| 在线欧美69V免费观看视频| 欧美日韩天堂| 激情综合五| 男女激烈网站最新| 色图四区| 欧洲精品人妻| 五月天综合| 超碰97人人乐| 亚洲男人天堂Av| 日韩无码三级影院| 日韩欧美传媒一区国产| 日本一天色道久久久精品视频| 激情小说成人日本无码一| 男人的天堂2018| 国产精品无码av在线 | 骚逼自拍99| 香蕉一区二区三区在线视频| 欧美成人精品一区二区男人蜜臀| 亚洲**2021在线观看| 91国产大片| 精品人妻1237| 色婷婷99| 国产在线视视频有精品| 爱欲AV| 农村妇女一级二级三级视频| 国产中文字幕在线点播| 97超碰人妻| 一本大道青青| 天天影视综合网欧美精品| www.人人摸在线视频| 99这里都是精品| 一区二区三区视频在线观看免费| 欧美色图片91| 九九九九九精品| 亚洲欧美另类图片| 另类天堂| 亚州操操穴网| 亚洲久9| 欧美亚洲日本视频久久久| 久久久男人的天堂| 四虎国产精品永久在线囯在线| 一区二区三区黄片免费观看| 嗯~啊~快点 死我视频| 亚洲精品一二牛牛| 欧美少妇第一页| 亚洲中文字幕av| 3571色综合一区二区二区| 成人情色综合网| 一本久久久精品| 日韩在线观看中文字幕视频| 精品二区久久| 99色婷婷| 亚州五月| 中文?日韩?免费?精品| 在线有码中文字幕| 91精品伊人久久久大香线蕉91| 91网18| 91网站18在线| 国产免费小视频| 99精品网| 天天色天天干天天射| 久久久久久大| 户外裸露刺激视频第一区| 99re这里只有精品2| 天天干天天操天天拍| 欧美v日韩欧亚洲电影天堂色诱,国产传媒| 67194无码不卡| 91精品导航| 操逼www.| 色91综合网| 日韩少妇无码| 91热| 97综合久第一页| 国产传媒美日韩av| 亚洲文学偷乱拍啪啪啪啪| 亚洲成人av色网| 69精品| 区自美91| 久久超碰日韩精品| 久久亚洲天天做| 久久久久国产一区二| 成人久久无码www| AV色五月| 黄色免费一级在线毛片| 婷婷激情五月综合| 9997se| 黄骗免费| 在线色资源| 俺去俺来也在线www| 99久久精品无码一区二区毛片免费 | 任你艹| 亚洲熟女综合| 色网亚洲人| 免费一级毛片在线视频观看| 天天躁狠狠躁av| 又大又白奶子| 亚洲18禁| 亚洲综合小视频小说在线观看| 亚洲91少妇| 蜜桃臀 后入 一区 二区 三区 在线| 一区在线观看中文字幕| 超碰成人国产| 色欧美天天| 性色高清在线| 大屁股熟女一区二区三区| 精品无码一区二区三区| 97鸡把在线视频| 欧洲在线性爱视频| 天天操天天干一区二区| 色色婷婷丁香| 五月天激情婷婷| 精品人人| 热G综合热G中文| 999久久芭蕾| 二区熟妇韩日| 一区二区三区精品视频| 干少妇视频| 日本免费一区二区不卡| 95精品在线| 亚洲综合中文字幕有码| 久久精品国产亚洲AV片多多 | 美女91AV| 亚洲日韩久久精品一区| 五月天激情网图片| 国产精品美女在线一区| 国产精品久久久久久久久久久久久久吹 | 人妻偷拍一区二区三区| 日韩亚洲97| 另类亚洲一区二区三区| 亚洲成人久久美女| 亚洲日韩乱码中文无码蜜桃臀网站| 麻豆色99999| 人摸人人操人| 九九久久综合| 人人透人人操| 91原创在线观看| AV女资源| 一级片视频啪啪| 亚洲人综合19| 国产精品久久久久久久电影渣男| 成人性交免费视屏| 国产操逼网站亚洲一级黄色| 国产原创剧情在线丝袜 | 亚洲色人| 少妇蜜汁| 秋霞 色色| 蜜桃精久三区| 丰满人妻无码一区二区三区| 伊人青青草久久| 欧美一区二区三区四区综合| 躁躁日曰躁2020| 亚洲成人在线高清| 1024香蕉视频| 性色avv| 老熟女网站| 人妻少妇蜜桃视频欧美一区| 免费在线看黄片av| 国产一区二区三区,在线观看观看| 日韩在线观看三级电影| 中文字幕高清精品一区| 成人乱人伦一区二区| 亚洲啪啪视频一区二区| 一级A啪啪啪啪| 91在线视频免费中出| 久久综合女优| 亚州色图欧美色图| 内射夫妻三片| 久久婷婷五月| 加勒比av中文| 熟女熟妇一区二区三四区| 国产绿奴视频在线观看| 日日AAvv| 夜夜骑天天燥| 粉嫩AV一区二区夜夜| 日韩高清黄片| www.99色| 青青草日韩免费观看高清在线| 欧美人妻一区二区| 午夜精品久久久久久久99蜜桃一| 九色婷婷| 精品中文日韩字幕视频| 国产精品亚洲一级av第二区| 伊人97超碰| 国产精品久久久久久久久久二区三区| 超碰在线日韩一区| 欧美日韩操操操| 久久久久久久久久久久黄色| 九七超碰人人乐| 亚洲欧美国产成人综合不卡| 天美av在线观看| 狠狠中文字幕| а√天堂资源官网在线资源| 亚洲一本大道中文字幕无码在线| 真实高潮91| 黄页av| 久久精品99| 伊人亚洲综合| 欧美伦乱爱| 日本曲间由美性生活片| 黑人中出21连凳花野真衣| 欧美亚洲综合色| 超碰在线成人电影| 97欧美性爱| 亚洲脚交| 再深点灬舒服灬太大了好硬好爽| 麻豆国产第一| 精品超碰中文在线| 欧美日不卡| 欧美中文字幕男人天堂久久精品 | 国产性刺激| 中国黑人三级片网站上区| 天天摸天天碰天天添青青| 欧美日韩精品国产91| 欧洲亚洲综合| 日韩一级欧美一级在线观看| 欧美在线 亚洲| 黑操B| 天堂麻豆天美| 啊啊啊轻点在线观看| 超碰在线一区二区| 精品人体无圣光凹凸| 亚洲色久| 97人人爱人人做人人乐| 日本免费一区二区不卡 | 330dv亚洲成年视频网| WWW.加勒比人妻一区不卡.com| 青青草玖玖爱| 最新日本中文字幕| 性影在线视频| 久都青青视频| 精品无人区麻豆乱码1区2区图片 | 超碰在线974| 91久热| 尤物视频视频官网| 国产91亚洲精品一区二区三区| 天天操天天舔| 亚洲AV无码国产精品久久久久 | 人妻少妇av在线观看| 丝袜av一区二区三区| 91人人| 天天日少妇逼AV| 91欧洲入口| www国产天美久久久| 蜜臀色乳| 八戒无码国产午夜福利| 粉嫩国产精品久久久| 美日韩一卡二卡三卡免费人妻精品| 少妇精品久久久八区九区| 91小视频| 中文字幕av一区二区三区人妻少妇| 欧美的性爱网站免费| 美腿丝袜偷拍亚洲欧美| 亚洲精品国产无码高清| 欧美综合色站| 先锋影音av先锋一区| 午夜精品久久久99| 天堂а√在线最新版在线| 91精品婷婷国产综合久久竹菊| 色综合V| 青娱乐 青青青操 日逼| 伊人宅男大香蕉 | 六月婷激情福利天堂69| 亚洲资源一区| 中文字幕丝袜美腿| 亚洲日本激情| 草B在线| 久久一二三四五六七八九区区区 | 舔足天天操天天射| 久艹伊人精品综合在线| 国产欧美岛国精品一区| 九九热精品视频六| 欧美白嫩女HD| 国产精品成人无码av| 夫妻天天操岛国视频| 美日韩一二三区| 久久久精品国产亚洲伊人| WWW操逼| 五十路熟女人妻一区二区在线观看| 亚洲中文人妻色| 日韩探花精品在线视频| 囯产精品久久久久久久久久梁医生| 九九九九精品一区| 麻豆 欧美 日韩| 免费一级a毛片久久久久久鸭绿欲| 中文字幕视频免费| 亚欧中文字幕在线视频| 人人操av| 在线国产一区二区av| 免费观看国产小粉嫩喷水精品午| 啊啊啊水好多| 色淫网站优优视频| com 首页 18岁 禁区 女优 免费 精选 同城 | 综合性视频99| 欧美性爱一区二区三区四区| 熟女在线视频| 后入美女国产| 麻豆视频test| 色蜜AV| 夫妻四区五区六区| 一区二区三区精品黑丝白丝酒店对鸡 | 乱精品一区字幕二区| 九九在线精品| 亚洲无套久久嗯嗯| 日韩乱码Av| 男人的天堂激情| 久久亚洲不卡一区二区三区| 久久99国产综合精品女同| 性吧在线视频| 天天看少妇| 人人澡综合涩| 欧美国产操逼| 99999国产| 乱伦1色页| 安徽熟妇视频| 96国产污污污丝袜| 97网址97| 天堂成人网| 成人精品一区二区91毛片不卡| 中国少妇XXXX做受| 女人高潮抽搐喷水视频网站| 天天爽爽爽爽| 操淫穴亚洲五月丁香| 五月天久久婷婷亚洲| 日本九九久久99| 欲香欲色综合天天伊人| 亚洲欧美国产中文视频| 黄色AAAAA欧美| 天美传媒一二三区永久网站| 人人污日韩一区二区| 久草线上视频免费看| site:sinbotex.com| 免费综合亚洲中文| 果冻传媒A片麻豆熟妇人妻| 国产乱伦亚洲| 久久av无码| 国产精品一区二区麻豆| 清纯唯美综合| 1级黄色夫妻对换性交免费看| www国产精品| 日本视频在线观看污污污| 人妻一区久久二区三区色播| 99精品无码| 日韩三级天堂在线观看| 久久水蜜臀亚洲AV无码精品| 久久精品久| 99热免费| 亚州综合在线| 丁香五月av| 亚洲欧美色图| 99re6久热只有精品6在线直播 | 亚欧美综合网。| 综合久久久久久久综合网| 欧美老妇女内射网址| 立川理惠被中出无码| 久久久A∨| A级片日韩欧美国产欧美视频精选观看 | 日本熟女免费視颖| 国产欧美在线观看免费观看| 中亚精品极乱| 国产亚洲福利第一页丝袜| 国内精品不卡无毒99999| 午夜福利国产欧美日韩夜夜| 久久久久久久久久久久久久9999| 一级性爱视频免费观看 | 亚洲做性| 99国产精品人妻人伦| 九九九精品成人免费视频小说| 日本精品88888888| 日韩精品一区二区日韩| 精品人妻久久久久一区二区三区| 久久性视频| 日本欧美韩国国产在线| 欧美色图99| 99re这里只有精品3| 探花一区二区三| 超碰99在线| 久草热制服丝袜在线观看 | 立川理惠无码一区二区| 又大又大又大又粗爽高潮观看| 亚洲限制级| 欧美精品第3页| 国产AV久久野战精品| 免费a v| 色色97爱| 另类老少妇| 91天美传媒在线观看| 日韩人妻精品久久久久| 97人人操人人摸人人爱| 熟女探花啪啪| 天堂亚洲欧美| 国产91丝袜在线播放蜜月| 欧美18禁91| 亚欧美天堂在线| renqi久久久久久久久久久久| 夜间福利片1000无码| 又大又大又大又粗爽高潮观看| 精品久操| 欧美瑟综合| 日韩中文9| 婷婷久草| 9997se| 久久久性爱| 久久女人| 日韩啊V| 人人弄人人摸| 欧美日韩大香蕉| 午夜国产乱伦视频| 亚洲 自拍偷拍 欧美| 亚洲最新中文字幕免费| 欧美性爱第一区| 日本色色的视频| 九九热AV| 一区二区三区四区五区高清无码永久视频 | 911av网站免费观看| 韩国女主播青草福利视频| 无码精品啪啪啪一区二区三区三州| 久久丁香五月天| 久久透逼视频| 国产精品一二三在线看| 人人操人人狠狠操| 亚洲午夜免费狠狠干| 涩爱AV在线| 九九九草| 91人妻在线视频| 探花熟女,姿勢到位,體驗感也到位| 日美免费黄片| 欧美日韩情色一区二区| 1204av韩国| 校园春色亚洲色图| 女同女同恋久久级三级| 久久久18| 乱子伦一区二区三区国产精品| 一本色道人妻久久| 26UUU欧美激情一区二区| 国内三级自拍小视频在线观看| 操美女人妻| 亚洲国产综合图区中文字幕 | 精品久久久久,69国产成人精| 大香蕉碰| 精久久久| 欧美伊人久久综合网| 九九热精品视频在线观看| 极品AV网站在线观看| 乱性AV| 亚洲 日韩 欧美 国产综合体| 国产日韩欧美| 精品日韩中文在线| 人人操天天爽| 亚洲性网| 日韩99999色| 欧美AB在线| 熟妇人妻精品一区二区视频色欲| 亚洲综合草草| 婷婷亚洲综合| 超碰久超碰久| 久久ww| 黄页av| 97久久超碰国产网站| 日本人妻伦在线中文字幕| 伊人青青一区成人视频在线观看区| 清纯唯美激情| 人妻少妇蜜桃视频欧美一区| 蜜臀99久| 美女大乳久久久久久久女人18| 国产自制av蜜乳| 丝袜性亚洲| 欧美性巨大╳╳╳╳╳高跟鞋| 大香蕉92| 五月香婷婷| A级片日韩欧美国产欧美视频精选观看 | 人人操人人爽人人操人人| 超碰 另类 欧美 | 综合 欧美 亚洲 日本| 二区熟妇韩日| 韩国一级做A片免费的| 四虎免费在线观看| 国产成自自拍在线观看| 九九黄色视频在线观看| 亚洲欧美综合| 肉丝无码中文高清| 成年男人的天堂| www色日本| 日韩中文字幕视频| 日本熟妇自慰性高潮一区二区三区| 久久久人妻| 亚洲一区二区精品福利| 欧美高清91| 九九热精品在线| 久久久久久99999国产精品| 久久激情亚洲精品无码?V| 热久久99999| 综合久久欧美| 骚日日av| 亚洲日韩东京热一区| 熟妇女人妻呻吟久久AV| 熟女突然公开看18禁影片 | 91久久精品中文字幕| 超碰在线1234区| 亚洲美女 晚间男人天堂 | 国产一区二区三区久久久精品| 青草精品视频日本久久久久网站在线|