奧推網

選單
歷史

存算一體是啥新趨勢?值得教授學者紛紛下海造芯 | 附報告下載

魚羊 豐色 發自 凹非寺

量子位 | 公眾號 QbitAI

晶片創業熱度正酣,值此之時,一股風潮已悄然席捲學術界。

其中關鍵,是一種可以說

剛走出實驗室不久、國內外均未實現大規模量產

的技術——

存算一體晶片

且看這一領域內國內創企背後的創始人們,便可窺見一二:

率先邁入B1輪的知存科技,創始人&CEO王紹迪出身北大微電子,2017年獲得UCLA電氣工程博士學位,同年提前結束博士後研究工作,回國創業。

蘋芯科技則由清華校友陳怡然、楊越組隊成立。陳怡然現為杜克大學教授,IEEE/ACM Fellow。楊越博士畢業於多倫多大學,還曾任美光科技首席系統架構師。

而專注於神經擬態感存算一體晶片的九天睿芯,創始人技術背景同樣深厚。

九天睿芯CEO劉洪傑博士畢業於ETH,師承IEEE Fellow托比亞斯·德爾布魯克。後者是類眼影象感測器發明人,在神經擬態計算領域有著突出貢獻,現在亦是九天睿芯科技顧問。

……

如此種種,實非個例。

所以,這背後究竟是什麼引得他們紛紛創業出山?

翻譯翻譯,什麼叫“存算一體”

這還得從AI行業增長迅猛的算力需求說起。

據統計,自2012年開始,AI訓練需要的算力每3。5個月就會翻倍,這個速度已遠超過摩爾定律的18個月。

目前,主流晶片主要依靠不斷迭代先進工藝製程,來提升晶片效能,應對AI算力需求。

但當製程越來越小,尤其是走到7nm之下後,出現的問題越來越多:

一是成本持續走高。根據IC Insights調研機構估算,如果想追趕上臺積電在先進製程上的製造能力,起碼需要

五年時間外加近萬億元

的投入。

二是由物理限制引發的晶片效能問題越發突顯。隨著積體電路的尺寸越來越小,柵極電壓夾斷溝道的難度變大,從而出現嚴重的電流洩露現象,導致晶片功耗失控,發熱嚴重。

此外,當製程走到1nm時,電子會產生“量子隧穿效應”而穿透絕緣層,導致電晶體出現漏電問題。

三是先進工藝下的晶片並非在所有應用場景中都有優勢。比如大算力、高能耗的特點在AIoT等領域就不適用;可靠性不如成熟製程工藝的問題導致其在工業和軍事領域同樣缺乏優勢。

而最根本的問題,還是晶片執行所依託的

馮·諾依曼架構

基於

存算分離

的設計,即使晶片製程能夠不斷突破,把處理器的算力做到非常大,但由於儲存器的訪問速度追不上處理器的處理速度,處理器效能仍會受到嚴重製約。

再加上資料在儲存單元和計算單元之間頻繁的搬運還帶來了過高的無用功耗

(佔比高達60%-90%)

,晶片的效能往前邁進困難重重。

因此,人們不得不轉變邏輯,希望透過改變底層架構來根本性地解決問題。

存算一體的概念由此再度被提及,並很快成為產學研各界破解AI算力困境的“希望之星”。

存算一體的概念誕生於1969年,最早由斯坦福研究所的Kautz等人提出。

顧名思義,存算一體就是指計算單元與儲存單元融合,在完成資料儲存功能的同時可以直接進行計算。

這一設計可以從根本上解決馮·諾伊曼瓶頸,在做到低成本、大算力的同時,保持低功耗。

△圖源:都靈理工大學

存算一體晶片的關鍵在於存算一體架構,其核心是電路設計革新。

主要有兩種計算方式:數字計算和模擬計算。

這兩種計算方式採取的儲存器不同,前者以SRAM等易失性儲存器為主,後者採用Flash和RRAM等優勢更大的非易失性儲存器。

而依照計算單元與儲存單元的關係

(距離)

劃分,目前存算一體的技術路線大致可分:

近存計算

存內計算

近存計算是透過將計算資源和儲存資源拉近,來實現能效和效能的提升,在廣義概念上也被歸入存算一體架構。

現階段,近存計算是行業中最容易實現的路線,主要考驗的就是先進封裝技術。

存內計算則包含兩種形式,其計算效率提升已經得到業內的充分認可:

一種計算操作由位於儲存器內部的獨立計算單元完成,儲存單元和計算單元相互獨立存在。

另一種是在內部儲存中新增計算邏輯直接執行資料計算,這種架構資料傳輸路徑最短, 能同時滿足大模型的計算精度要求。

△圖源:量子位智庫

在現在這個時間節點,給存算一體技術的發展梳理時間線,2010-2017年可說是這一新技術潮流的

探索期

2011年,存算一體晶片開始受到學界關注。

2016-2017年成為學界熱議話題。

隨之而來的,便是一大波學術大佬紛紛“出山”,親自開啟了它的商業化探索:

2017年,知存科技在北京成立。

2018年,九天睿芯在深圳拉起團隊。

2020年,蘋芯科技團隊和後摩智慧團隊先後組建完成。

為何引得學術大佬紛紛下場

落地前景明確的前沿技術領域,往往便是產學研互動最為頻繁之所在。

而以史為鑑,新技術的爆發期,也正是學術界人才湧入工業界的高峰期。

一方面,新技術的興起意味著機會與紅利,對工業界的玩家們而言,自然迫切需要高精尖人才入場,打造技術壁壘擠佔生態位。

另一方面,站在科學家們的角度來看,身至產業一線將實驗室中的理論轉化為實踐,亦是難得的施展抱負、甚至改變世界的機遇。

由此推之,基於存算一體晶片技術當下的發展特點,這股創業之風席捲學術界正是水到渠成之事。

正如前文所言,當前,存算一體技術已然成為後摩爾時代突破晶片效能瓶頸最具潛力的技術方向之一。

儘管剛從實驗室中走出不久,但其未來的應用潛力,已受到資本和產業界的一致看好。

然而,與愈發強烈的市場需求相矛盾的是,在現階段而言,做存算一體晶片無疑是一件入局技術門檻相當高的事。

一方面,存算一體技術考驗的是計算系統和儲存系統的整合能力,設計要求本身就比標準模IP和儲存器IP更復雜。

另一方面,由於缺乏EDA工具以及適配的工具鏈,該技術對技術領導者的要求也會比其他成熟的晶片領域更高。

要知道,存算一體當前面臨的最大挑戰之一,就是新興技術的未知性帶來的高風險。

並且其涉及的完整技術鏈條包括底層器件、電路設計、架構設計、工具鏈、軟體等等,並且各個環節之間的適配度也非常重要。

這就導致現階段的存算一體試錯成本很高,如果相關公司創始團隊缺乏足夠的儲存器量產經驗和技術路線認知,那麼很可能會一步踏錯,滿盤皆輸。

此時此刻,恰如AI行業的彼時彼刻。

舞臺已經搭好,各路英雄紛紛而至,便不足為奇了。

2030年規模將達1000億+

說了這麼多,存算一體晶片行業發展到什麼程度了?

總的來看,如果將之放在整個半導體產業的大背景下,該行業還處於

較為早期

的階段。

我國存算一體晶片研發公司集中誕生於2017-2020年,目前共有10家左右可以列為頭部初創,大部分處在A輪前後。

△ 國內部分代表玩家

具體業務方面,各公司基本都是基於傳統的Nor Flash或SRAM儲存器做存算一體晶片,但由於側重點各不相同,尚未形成競爭格局。

其中九天睿芯專注於神經擬態感存算一體晶片研發,後摩智慧做大算力AI晶片,千芯科技聚焦大算力可重構存算一體晶片的架構設計,蘋芯科技在基於SRAM做存內計算加速器……

在此之外,國內也出現了一家專門

基於新型儲存器技術

(RRAM)

進行存算一體晶片研發的公司:億鑄科技

(側重於大算力AI晶片)

RRAM新型儲存器技術在存算一體晶片上具有速度快、結構簡單、儲存密度大等優勢,有望成為未來的發展趨勢,目前距離工藝成熟還有2-5年的時間。

存算一體晶片的應用場景主要分為兩方面:一是面向端側,對低功耗需求強烈的場景;二是面向雲側推理,對大算力需求強烈的場景。

目前業內80%的公司優先佈局對能效比有高要求的端側小算力場景

(如智慧可穿戴裝置,智慧安防,移動終端,AR/VR)

,國內在這方面初步實現量產的有兩家:知存科技和九天睿芯。

相反,大算力場景

(如自動駕駛)

上的落地還不算特別明顯,還處於業內共同努力的階段。

其中,千芯科技主要融合存算一體與可重構計算,以支援AI晶片的更大算力和可程式設計靈活性。

後摩智慧的成品在算力方面已做到數十TOPS,可支援大規模視覺計算模型,已跑通智慧駕駛演算法模型。

國外方面,大多公司的融資已進入C/D輪,幾家頭部企業如STT、Syntiant和Mythic走在全球商業化前列,晶片出貨量最高達2000萬級別

(國內最高百萬級)

,並有約15家公司實現了超100億美元的營收

(我國僅1-2家)

△ 國外部分代表玩家

需要承認的是,目前,國記憶體算一體的商業化進展與國外存在一定差距。

究其原因,除了國內

起步時間稍晚3-5年

外,我們還存在著

產業/技術鏈還不夠完整

、配套工具

(如EDA軟體、編譯器)

不夠成熟、與晶片大廠的合作程度不夠高等問題。

由此還產生了一個

最核心的問題:IP授權

目前,在儲存技術上,國內大多數公司都採用

購買國外成熟的儲存技術IP來完成存內計算的研發

,這種模式存在一定的風險。

比如一旦在IP授權上發生問題

(如停止授權)

,將會影響到存算一體技術的持續演進,甚至會阻礙技術成熟的速度。

不過國內已經出現了專門做新型儲存器技術

(RRAM)

研發的公司。一旦該技術實現完全國產化,我國將不會受到儲存器技術IP授權的限制。

值得注意的是,目前,在存算一體晶片這個領域,國內外均未實現大規模量產。而事實上,存算一體技術在國內有更大的發展空間:

國內市場在從非智慧硬體向智慧硬體轉變的過程中,對端側智慧產品的興趣遠大於國外市場,因此在需求側會出現更多元的機會。

儘管現階段市場規模相對有限,初創企業們的增長來源主要為定製開發費用和SoC晶片銷售費用,近期量產可達千萬級別的公司預計僅有1-2家,未來幾年內能實現量產的也只是再增加3-5家。

但量子位分析師認為,存算一體晶片行業的市場價值可以類比為

一座巨大的冰山

,下面還隱藏著相當大的市場潛力。

就拿應用來說,存算一體晶片必將從端側小算力市場逐步擴充套件到整個AI晶片領域。總的來看,短期內,行業將會呈現持續走高的態勢。

量子位智庫預估,到2025年,國記憶體算一體晶片市場規模為125億元。

從這個時間開始,存算一體將迎來商業化轉折,應用場景從麥克風、智慧手錶和TWS耳機拓展到智慧安防、 移動終端和AR/VR等。

相關公司也將逐漸從定製化產品過度到標準化產品研發上,針對端側、邊緣側和雲側不同場景提供更具通用性的產品。

這個轉變需要5年左右的時間,完成轉變到了2030年,市場規模就將迎來大幅增長,達到1136億元。

其中,中小算力晶片市場規模約為1069億元,大算力晶片約為67億人民幣。

One More Thing

掃描二維碼,就能下載量子位智庫出品完整

《存算一體晶片深度產業報告》

在下一期專題中,將詳細解讀我們在存算一體晶片產業領域的

七大核心研判

關於

量子位智庫

量子位旗下科技創新產業鏈接平臺。致力於提供前沿科技和技術創新領域產學研體系化研究。面向前沿AI&計算機、生物計算、量子技術及健康醫療等領域最新技術創新進展,提供系統化報告和認知。透過媒體、社群和線下活動,幫助決策者更早掌握創新風向。

特別感謝:達摩院、後摩智慧、九天睿芯、蘋芯科技、千芯科技、燕博南、億鑄科技(按首字母排序)。

— 完 —

量子位 QbitAI · 頭條號簽約