國科會補助產學計畫成果
聚焦RISC-V系統 推動臺灣軟體產業發展

RISC-V是精簡指令集(Reduced Instruction Set Computing)的縮寫，擁有開放架構、模組化、及可擴充的特點，可應用於5G、AI、AIoT、車用輔助、AR/VR、區塊鏈、雲端運算、資料中心、指紋辨識、FPGA、高速運算、網路通訊設備、安防、儲存、無線裝置等，因其廣泛的應用與彈性的架構，有望成為處理器界的主流。國立清華大學資訊工程學系李政崑教授研究團隊與晶心科技股份有限公司執行國科會工程處產學合作研究計畫，探討如何在AI計算環境下有效使用RISC-V Packed SIMD Extension加速運算，並結合世界領先水準的編譯器架構LLVM之內建函數來提升轉換效率。

計畫團隊使用RISC-V ISA Simulator驗證模型運行的正確性與加速效果，就執行整個模型所需的指令數來看，經過優化後，於不同的模型中能夠加速約5~10倍，除此之外也使用Cycle Level Simulator-Gem5模擬執行時間，整體加速也達到3~10倍。

 
圖說：透過RISC-V SIMD加速後之成果圖

此計畫合作廠商晶心科技是臺灣唯一的RISC-V嵌入式處理器IP供應商，在RISC-V生態圈中有卓越的成果。該公司以持續賺取利潤並創造在全球市場領先地位為目標，2017年3月晶心科技於臺灣證交所掛牌上市，在計畫於2020年10月底執行完畢之後，2021年9月順利發行海外存託憑證，完成首次於盧森堡發行GDR募資，海外募得總金額約為1.27億美元(折合為新臺幣35.17億元)。之後，於2021年11月，採用晶心處理器的耐能智慧(Kneron)下世代AI智慧邊緣運算晶片KL530宣布正式量產。

李政崑教授指出，國內的廠商很難得在微處理器規格RISC-V International得到主導權，而這項計畫的成果提升了RISC-V P extension的國際知名度，拓展其效能。他表示，國內過去軟體發展比較未能像半導體產值這麼有規模，而隨著 RISC-V的發展，許多系統軟體都有需求，加上就在半導體產業環節中，也許國內軟體發展可以聚焦在RISC-V系統軟體上開展，讓國內軟體產業可以進一步的成長。

團隊了解到AI編譯器在未來勢必將成為各家企業必須使用的軟體，而在各家廠商不斷設計出自己的特殊硬體加速器的同時，勢必要有對應的軟體來結合。李教授說：「這其中我們相信AI編譯器就是解答，所以很早就開始參與了TVM這個開源的AI編譯器專案。」

在執行計畫的過程中，團隊逐步實現了當初訂定的各項目標。通過與晶心科技的攜手合作，讓學界團隊獲得了更好的資源和先備知識。李政崑教授的團隊積極加入TVM這個開源的AI 編譯器專案之中，並且在TVM提供了各項服務，包括支援RISC-V P延伸指令集的TVM程式碼、支援QNN版本的RISC-V P延伸指令集運算流程，以及設計了P指令的tensorization流程等，也在3年內累積了6次TVM 相關國際學術研討會的技術演講。李教授說：「這些顯示出我們對TVM的投入所獲得的成果都是值得被肯定的。最後，除了在軟體的貢獻之外，在未來的計畫中我們會持續秉持追求創新卓越的態度，持續為編譯器領域做出貢獻。」

李教授每週固定和學生開會，點出產業的趨勢和可以研究的方向。實驗室的研究風氣自由而開放，碩博士生會共同討論，很快就知道哪些問題值得被探討，並且可思考能透過何種方式來解決。畢業的學長姐樂意分享所學和知識，甚至會撥出個人的時間，教導學弟妹自己的研究課題與程式撰寫的原理等等，這些都讓李教授實驗室的碩士生能更有效率的完成研究，順利畢業。

袁銓嶽的碩士生涯就是這樣過來的，畢業後他進入晶心科技，擔任研發替代役工程師。他覺得編譯器這個研究領域非常具有挑戰性，時常需要接觸到開源的軟體專案，並且必須了解原始碼，才能開始有所貢獻並擴充軟體的功能。他說：「晶心科技的前瞻性非常吸引我，相信在這邊可以讓我有更多在編譯器領域的收穫，更加了解RISC-V，並且做出貢獻。」

袁銓嶽分享，接觸產學合作讓自己學習到如何和企業的工程師溝通，如何和實驗室同學一起開發專案，以及怎麼樣才算是提交一份可以使用的程式碼，這些都是自己在產學合作案中的重要收穫。他說：「老師良好的指導方針、以及學長學姐學弟妹的經驗傳承，都是推動我們持續進步的主要原因。」

從李教授的實驗室已培育出一組團隊在晶心科技持續進行研發，在這項計畫結束之後，李教授與聯發科、瑞昱和晶心科技持續合作，推展相關的優化、應用與模擬驗證研究。