用哪吒D1開發(fā)板體驗(yàn)riscv向量底層編程

1.前言

2.機(jī)器模式處理器狀態(tài)寄存器（MSTATUS）

3.編譯選項(xiàng)支持V擴(kuò)展

4.RISCV向量計(jì)算的原理

5.通過實(shí)例分析RISCV V擴(kuò)展的運(yùn)作機(jī)制

6.RVV使用體驗(yàn)

1.前言

RISCV V擴(kuò)展即向量指令擴(kuò)展（RVV），這部分作為研究AI加速計(jì)算領(lǐng)域有著非常關(guān)鍵的作用。既然的D1支持了rvv擴(kuò)展（0.7.1，最新的版本已經(jīng)0.10版本），那么就實(shí)際的從底層原理角度分析一下使用的流程。利用了多媒體加速指令集，可以讓計(jì)算變得更加的高效，同時(shí)并行計(jì)算的特性使得同時(shí)多次計(jì)算一組數(shù)字成為可能，類似于arm的NEON等等，那么RISCV又該如何去開啟和使用V擴(kuò)展指令，讓計(jì)算變得更加高效呢？

下面會(huì)通過一個(gè)裸機(jī)代碼入手，結(jié)合實(shí)戰(zhàn)去展示riscv rvv的使用。

https://github.com/bigmagic123/d1-nezha-baremeta/tree/main/src/2.vector_example

2.機(jī)器模式處理器狀態(tài)寄存器（MSTATUS）

機(jī)器模式狀態(tài)處理寄存器可以查看玄鐵C910的用戶手冊(cè)，開啟的V擴(kuò)展的位是［23:24］位，如果不設(shè)置這兩位，那么使用V擴(kuò)展指令的時(shí)候，會(huì)出現(xiàn)指令未定義的異常。

這里需要注意的是，RISCV的各家的VS標(biāo)志并不是一定是這兩位，比如sifive會(huì)定義在

但是無論怎么說，都需要設(shè)置機(jī)器狀態(tài)控制器去開啟v擴(kuò)展指令的支持。

/* Enable FPU and accelerator if present */

li t0， MSTATUS_FS | MSTATUS_XS | （0x01800000）

csrs mstatus， t0

在啟動(dòng)代碼中，通過0x01800000設(shè)置mstatus開啟V擴(kuò)展支持。

3.編譯選項(xiàng)支持V擴(kuò)展

默認(rèn)情況下，平頭哥提供的交叉編譯工具鏈已支持了V擴(kuò)展的編譯。只需要在編譯選項(xiàng)中開啟即可。

從傳遞給riscv 的gcc的選項(xiàng)來看，帶有v擴(kuò)展即可。

-march是指定了riscv的模塊化的指令集選項(xiàng)，可以通過選項(xiàng)指定目標(biāo)RISC-V支持的模塊化的指令集的組合。比如下面幾種組合。

rv32i［m］［a］［f［d］］［c］

rv32g［c］

rv64i［m］［a］［f［d］］［c］

rv64g［c］

往往也會(huì)結(jié)合-mabi進(jìn)行使用。-mabi決定了RISCV目標(biāo)支持的ABI函數(shù)調(diào)用的規(guī)程。

4.RISCV向量計(jì)算的原理

在riscv的V擴(kuò)展中，一共定義了32個(gè)寄存器，v0~v31，這32個(gè)寄存器，每個(gè)長(zhǎng)度都是VLEN長(zhǎng)度。在玄鐵C906定義長(zhǎng)度為128位。

而在V擴(kuò)展的操作中，需要擴(kuò)展下面的寄存器組。

下面來具體分析一些每個(gè)寄存器的作用。

vstart

矢量起始位置寄存器指定了執(zhí)行矢量指令時(shí)起始元素位置，每條矢量指令執(zhí)行后 VSTART 會(huì)被清零。

該寄存器只有在處理器進(jìn)入陷阱或者中斷狀態(tài)時(shí)，才會(huì)被硬件寫入。

所以的向量指令都會(huì)從vstart中給定的元素編號(hào)開始執(zhí)行，支持完成后，自動(dòng)變?yōu)?。

為什么會(huì)有這個(gè)寄存器，原因是在V擴(kuò)展指令中，每個(gè)寄存器是可以分割與合并的，并不是單獨(dú)操作。

vxsat

這個(gè)是向量定點(diǎn)的飽和標(biāo)志位，該位指示定點(diǎn)指令是否必須使輸出值飽和，以此適應(yīng)目標(biāo)格式。

vxrm

向量定點(diǎn)舍入模式寄存器，指定了定點(diǎn)指令采用的舍入模式。

vl

矢量長(zhǎng)度寄存器指定了矢量指令更新目的寄存器的范圍，矢量指令更新目的寄存器中元素序號(hào)小于 VL 的元素，清零目的寄存器中元素序號(hào)大于等于 VL 的元素。特別的，當(dāng) VSTART》=VL 或 VL 為 0 時(shí)，目的寄存器的所有元素不 被更新。該寄存器是任意模式下的只讀寄存器，但是 vsetvli、vsetvl 以及 fault-only-first 指令能夠更新該寄存器的值。

該寄存器的值是通過vsetvli/vsetvl指令自動(dòng)設(shè)置的。

vtype

VTYPE 寄存器指定了矢量寄存器組的數(shù)據(jù)類型以及矢量寄存器的元素組成。

通過C910的數(shù)據(jù)手冊(cè)，可看出

向量長(zhǎng)度寄存器VLENB

該寄存器用于表示矢量寄存器的數(shù)據(jù)位寬，以實(shí)際位寬除以 8 得到的字節(jié)數(shù)體現(xiàn)。C906 矢量寄存器為 128 位，因此 VLENB 值固定為 16。該寄存器位長(zhǎng)是 64 位，用戶模式只讀。

5.通過實(shí)例分析RISCV V擴(kuò)展的運(yùn)作機(jī)制

下面一個(gè)rvv實(shí)際的函數(shù)

void test_v（void）

{

float a［］={1.0，2.0，3.0，4.0};

float b［］={1.0，2.0，3.0，4.0};

float c［］={0.0，0.0，0.0，0.0};

int len=4;

int i=0;

//inline assembly for RVV 0.7.1

//for（i=0; i《len; i++）{c［i］=a［i］+b［i］;}

asm volatile（

“mv t4， %［LEN］

”

“mv t1， %［PA］

”

“mv t2， %［PB］

”

“mv t3， %［PC］

”

“LOOP1：

”

“vsetvli t0， t4， e32，m1

”

“sub t4， t4， t0

”

“slli t0， t0， 2

” //Multiply number done by 4 bytes

“vle.v v0， （t1）

”

“add t1， t1， t0

”

“vle.v v1， （t2）

”

“add t2， t2， t0

”

“vfadd.vv v2， v0， v1

”

“vse.v v2， （t3）

”

“add t3， t3， t0

”

“bnez t4， LOOP1

”

：

：［LEN］“r”（len）， ［PA］“r”（a），［PB］“r”（b），［PC］“r”（c）

：“cc”，“memory”， “t0”， “t1”， “t2”， “t3”， “t4”，

“v0”， “v1”， “v2”

）;

for（i=0; i《len; i++）{

printf（“

”）;

printf（“%f

”，c［i］）;

printf（“

”）;

}

}

這里采用的是內(nèi)聯(lián)匯編，可以更加深入的分析RVV的運(yùn)作機(jī)制和底層原理。

在riscv中，內(nèi)聯(lián)匯編的寫法

asm volatile（“nop”）;

這樣編譯器在編譯后會(huì)生成可以執(zhí)行的匯編代碼。

該函數(shù)的功能

for（i=0; i《len; i++）{c［i］=a［i］+b［i］;}

通過上述分析，通過向量計(jì)算，可以一次性計(jì)算出上面四次循環(huán)加法。

vsetvli t0， t4， e32，m1

vsetvli表示設(shè)置每個(gè)向量的長(zhǎng)度，t4的值表示的是len，也就是4。

e32表示每個(gè)元素為32位，m1表示使用1倍數(shù)量的向量寄存器。

該條指令相當(dāng)于把一個(gè)向量寄存器（128位）分成四等分，這是一條設(shè)置指令，設(shè)置vl寄存器。返回值為t0，這里由于是剛好裝下4條32位的數(shù)字，所以返回值為4。

sub t4， t4， t0

通過查看數(shù)組是否計(jì)算完成，來進(jìn)行循環(huán)計(jì)算，這里t4為0了。

slli t0， t0， 2

往左移動(dòng)兩位，也就是將t0乘以4。這里計(jì)算的目的是如果存在很長(zhǎng)的數(shù)組，可以偏移t0個(gè)字節(jié)從而指向數(shù)組的下個(gè)地址。

vle.v v0， （t1）

填充向量寄存器（t1）為a數(shù)組，一條指令將數(shù)據(jù)放到向量寄存器v0中。

add t1， t1， t0

將a數(shù)組的起始元素加上16字節(jié)（4個(gè)元素）的偏移。

vle.v v1， （t2）

填充b數(shù)組的數(shù)組到向量寄存器v1中。

add t2， t2， t0

將數(shù)組b的元素的起始地址偏移16字節(jié)，也就是4個(gè)元素。

vfadd.vv v2， v0， v1

執(zhí)行向量加法，將向量的結(jié)果保存到向量寄存器v2中。

vse.v v2， （t3）

將向量寄存器中值寫回到c數(shù)組中。

add t3， t3， t0

將數(shù)組c的元素指針偏移4個(gè)元素。

bnez t4， LOOP1

直到計(jì)算的len長(zhǎng)度為0，此時(shí)跳出循環(huán)計(jì)算。

由于此時(shí)計(jì)算只有4字節(jié)，所以一次循環(huán)就計(jì)算完成了，不用多次計(jì)算。

采用向量寄存器的計(jì)算，可以把四次循環(huán)計(jì)算用一次計(jì)算就完成。當(dāng)然這種如果大量計(jì)算時(shí)，才能體現(xiàn)出更大的優(yōu)勢(shì)。

最后的結(jié)果如下：

通過對(duì)數(shù)組的計(jì)算

float a［］={1.0，2.0，3.0，4.0};

float b［］={1.0，2.0，3.0，4.0};

float c［］={0.0，0.0，0.0，0.0};

最后c數(shù)組的結(jié)果

float c［］={2.0，4.0，6.0，8.0};

其理論數(shù)據(jù)和實(shí)際數(shù)據(jù)一樣。

6.RVV使用體驗(yàn)

剛接觸到riscv 的 V擴(kuò)展編程時(shí)，很多概念都理解的很模糊，感覺十分的困難，通過一段時(shí)間梳理之后，發(fā)現(xiàn)和以前mips上接觸的mxu或者arm的neno使用上大多數(shù)是一樣的，就需要去設(shè)置使用寄存器的長(zhǎng)度，當(dāng)然這些底層函數(shù)如果進(jìn)行一層封裝后，再給用戶使用，那才是比較方便的，但是本文只是介紹底層實(shí)現(xiàn)的原理，并不多介紹使用的細(xì)節(jié)。

RVV還有一個(gè)特性就是寄存器的擴(kuò)充，比如D1采用的玄鐵C906的核，支持的是32個(gè)128位的向量寄存器，也可以將兩個(gè)或多個(gè)向量寄存器拼成一個(gè)來使用。這樣寄存器的長(zhǎng)度更加長(zhǎng)，能夠同時(shí)做到并行計(jì)算也就更多。這取決于如何做向量的優(yōu)化設(shè)計(jì)。

原文標(biāo)題：用哪吒D1開發(fā)板體驗(yàn)riscv向量底層編程

文章出處：【微信公眾號(hào)：嵌入式IoT】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。

責(zé)任編輯：haq