奧推網

選單
文化

安謀科技“周易”NPU軟體開源專案上線,適配100多種AI演算法

萬物智聯時代,NPU成為AI 算力需求“剛需”。身為演算法攻城獅的你,是否還在為上層軟體應用、演算法開發的一系列難題“頭禿”不已?市面上針對AI晶片推理側的解決方案紛繁複雜,如何選擇最適合自身硬體的軟體工具?針對佔據大部分工作量的“演算法移植”,如何找到合適的工具以規避“重複造輪”。。。。。

針對上述開發者在NPU研發上所遇到的共性問題,

安謀科技近日發起“周易”NPU軟體開源計劃,透過開放原始碼,來滿足客戶更自主、更靈活的演算法移植需求,攜手更多開發者以及合作伙伴共建國內NPU產業生態。“周易”NPU是由安謀科技自研的一款面向人工智慧的專用處理器,在物聯網、智慧終端、汽車等市場均有實際落地,已經形成一套完整的工具鏈及技術服務,可適配100多種演算法。

在“周易”NPU軟體開源計劃下,安謀科技率先對外開放NPU中間表示層規範、模型解析器、模型最佳化器、驅動等,並提供免費的軟體工具鏈,包括軟體模擬器、偵錯程式、C編譯器。目前,安謀科技已開源其“周易”NPU軟體工具Compass的前端,並在開源計劃的第一階段開放以下資源:

Compass解析器——解析器原始碼和中間層表示規範;

NPU Linux驅動——更易在現有SoC上部署,並符合GPLv2協議;

Compass整合——提供“周易”NPU網路構造工具端到端驗證環境;

模型倉庫——已驗證的開源NN模型,便於測試和快速上手。

其中,Compass解析器的主要作用是將多種框架的模型轉換成“周易”NPU的中間表示,開發者可以基於原始碼進行修改以適配更多神經網路模型。除了除錯、驗證解析器本身功能之外,開發者還可以在極術社群上免費獲取軟體工具鏈,進行演算法模型端到端的除錯和驗證。如下圖所示,Compass解析器不僅支援基於軟體模擬器的除錯和結果驗證,還可以部署到內嵌“周易”NPU的晶片上進行測試和效能最佳化。

安謀科技已分別在程式碼託管平臺Gitee、GitHub上建立該專案的開源庫,開發者可以方便地在這些平臺上獲取資源。據悉,這只是“周易”NPU軟體開源計劃的第一步,安謀科技後續還將逐步開放更多資源,例如模型最佳化器、模型量化、運算元實現等原始碼。

截止目前,“周易”NPU軟體開源計劃已吸引第一批合作伙伴“入駐”,並收穫入駐夥伴的集體點贊,其中不乏來自AIoT、智慧汽車、智慧作業系統等領域的明星企業。這些合作伙伴均表示將基於該計劃與安謀科技繼續深化合作,加速構建中國智慧計算生態“朋友圈”。