整理 | 蘇宓
出品 | CSDN（ID：CSDNnews）
“一次程式設計，到處執行”的這個夢想，我們從程式語言 Java 講到了跨平臺工具 Flutter ，又探究到了作業系統 HarmonyOS 和 Fuchsia，如今放眼逐漸走上規模化的 AI 領域，又是否有一套這樣的方案，能夠將所有智慧網聯邊緣裝置串起來？
6 月 22 日，高通宣佈推出一套全新 AI 軟體棧（Qualcomm AI Stack），旨在幫助開發者和企業實現“一次開發，各端執行”的願景。該軟體棧是面向 OEM 廠商和開發者的一套完整的 AI 解決方案，這也是高通首次透過單一的 AI 軟體組合，實現跨高通技術廣泛產品組合和層級間的自由遷移。
覆蓋硬體、軟體和工具三大維度，高通 AI 軟體棧釋出！
如今數字化經濟時代的到來，開發者所使用的底層工具在潛移默化間發生了巨大的改變，傳統的一些跨平臺工具不足以支撐整個領域的迭代。
之所以開發這套軟體棧，高通技術公司產品管理副總裁 Ziad Asghar 在接受 CSDN 採訪時表示，原因很簡單。“從外部來看，很多合作伙伴的產品不僅會在雲端執行，也會在邊緣側執行。對於一些投入了大量工作來進行開發的模型，我們希望能確保將這些模型的作用發揮到極致，讓其適用於不同型別的產品，而這顯然可以帶來巨大優勢。對於高通內部而言，推出高通 AI 軟體棧的出發點其實很簡單，那就是讓我們的開發工作變得更加輕鬆、簡單。”
具體來看，圍繞 AI 技術，當市場不斷地從移動領域向其他領域拓展時，諸多企業也正面臨著諸多的挑戰。譬如，過去火爆的智慧手機應用開發相比當下物聯網、汽車業務領域存在諸多差異，在不同場景下，功耗需求分析、模型型別、模型部署方式不同，不同業務對於準確性、功耗以及時延等方面的平衡要求也各不相同。此外，不同業務領域所使用的 AI 模型和神經網路模型也不同。
在軟硬一體的趨勢下，今天，高通用 AI 軟體棧這款方案交上了一份答卷。根據官方介紹，高通 AI 軟體棧主要包括三大關鍵組成部分：硬體、軟體和工具。
在硬體上，我們很驚喜地看見，這套方案几乎能夠在所有高通技術支援的終端產品上執行，覆蓋了廣泛的智慧網聯邊緣產品，包括智慧手機、汽車、XR、計算、物聯網和雲平臺，以此實現在某一業務線的投入能夠輕鬆擴充套件到其他不同領域中。
從下圖中可以清晰地看出，由底層向前端開發的過程中，高通 AI 軟體棧還支援不同產品使用的不同作業系統，包括 Android、Windows、Linux 以及面向網聯汽車的 QNX 等。在系統軟體層面，該方案能夠完整支援系統介面、加速器驅動、模擬支援等。
在更上一層的開發者庫與服務層面，高通 AI 軟體棧還支援數學庫、編譯器和虛擬平臺，以及分析器和偵錯程式，它可以幫助開發者知曉開發過程中使用了哪部分神經網路處理，這部分神經網路處理使用的是哪種模型，以及在硬體端應該採用怎樣的權重進行分析。
此外，該方案還能夠支援程式語言和核心庫。前面提到的編譯器，它可以針對特定內容進行定製化處理，用 Python 只要幾行程式碼就可以完成更多工作，為開發者提供很多便利。
除了以上，這套 AI 軟體棧方案還集成了高通在 AI 領域十餘年來的研發成果，如支援高通 AI 模型增效工具包（AIMET），它提供模型量化和模型壓縮技術，能夠進行量化感知訓練（Quantization Aware Training）和無資料訓練，將浮點運算模型轉化為整數運算模型，比如將 32 位浮點模型轉換為 8 位整數模型，使模型能效提升達 4 倍之多；其也提供了開源的 AI 模型增效工具包模型庫，方便業界開發者可以自行評估模型的能效和準確性，找到最適合的方案；同時，高通 AI 軟體棧還提供神經網路架構搜尋（NAS）能力，保障低時延和高精度AI計算，同時確保低記憶體和高能效。
在基礎設施上，我們常用的 Prometheus、Kubernetes 和 Docker 均在支援的範圍內。
在使用上，OEM 廠商和開發者將獲得高通 AI 軟體棧訪問許可權，透過單個 AI 軟體包即可實現更高效能，解鎖智慧手機、物聯網、汽車、XR、雲和移動 PC 等智慧網聯邊緣產品的 AI 能力。基於此，無論是企業，還是個人開發者，都可以將自身的工作重點放在探索創新的 AI 用例上，而無須關注模型的重複開發。
如何實現一次開發，各端執行？
與此同時，高通也提供了諸多統一的 SDK，如面向汽車 ADAS 解決方案的 Snapdragon Ride SDK、面向物聯網的高通智慧多媒體 SDK，以及 Snapdragon Spaces XR 開發者平臺。
真正想要實現一次開發的願景，高通將所有的相關技術整合在一起，由此提供的統一模型可以在無論是音訊裝置、可穿戴裝置還是雲端，都能夠實現跨平臺和跨產品線的自由遷移。
現在，開發者只需要開發一次，開發成果就可以在其他產品線上加以使用。此外，基於高通 AI 軟體棧，諸多企業也能夠實現在不同產品、不同平臺之間的擴充套件，比如正如上文所述的把最初在移動端的相關開發經驗運用到汽車等其他平臺的軟體開發中，也能將如今汽車、XR 等平臺的複雜模型開發經驗帶回移動端。
對此，高通技術公司產品管理副總裁 Ziad Asghar 表示：“完整的高通 AI 軟體棧產品組合無疑是一項巨大突破，它將推動 OEM 廠商和開發者的 AI 開發，為高通技術公司的廣泛產品組合帶來高效能表現。我們很高興藉助這一全新產品組合進一步擴充套件公司的統一技術路線圖，並擴大在智慧網聯邊緣的領先優勢。”
—