統一路線+全棧優化,高通已成為消費級AI最大推手

統一路線+全棧優化,高通已成為消費級AI最大推手

自2022年秋季ChatGPT橫空出世以來,“AI”這個話題就再一次成為了網絡上、乃至許多消費者掛在嘴邊的常客。

不可否認,以ChatGPT為代表的在線大模型所能實現的用戶體驗,看起來確實很神奇、也很容易引發大家的好奇心,讓許多以往可能不那麼關注AI、不關注科技行業的人,都開始意識到這一新技術的魅力。

但平心而論,上述這種在線AI大模型其實存在著諸多難以迴避的短板。比如它們對算力和存儲的要求過高,不太可能為一般的個人或小型企業部署;比如它嚴重依賴網絡,一旦網絡連接不佳就幾乎不能使用。而且這種依賴網絡進行數據上傳,在服務器端分析、響應,最後再將結果下發的服務模式,本身也存在著可能會洩露用戶隱私、以及相關數據可能存在一定洩露的風險。

正因如此,對於以智能手機、平板電腦,甚至是PC為代表的個人終端計算設備來說,比起在線式的大型AI,能夠在“斷網”狀態下、僅靠本機算力就能運行,而且過程中完全可以不上傳任何個人信息的“終端側AI”技術,實際上對於業內的相關企業來說,才反而是最近這幾年大家真正投入最多、發展也最快的技術方向。

當然,既然終端側AI需要靠設備本身的性能來實現,那麼它自然也就與設備上的AI算力水平,以及相關的AI軟件堆棧優化程度息息相關。既然提到這一點,那麼繞不開的一個廠商便是大家耳熟能詳的高通了。

  • 高通的AI之路,比大家想象的起步還要更早

高通是從什麼時候開始做移動設備上的端側AI?關於這個問題,我們三易生活此前就曾進行過考據。


簡單來說,早在2013年、也就是距今10年前,高通方面就已經發布了一款型號為QRC52244563-QC、商品名為“Zeroth”的獨立芯片。它是業界第一款量產、可用於移動設備的獨立神經網絡計算單元(NPU)。在這個時候,甚至還沒有任何廠商宣稱他們在手機上搭載了“獨立NPU”,因此高通實際上也成為了NPU這個概念在移動端的發明者。

當時間來到2014年,高通方面便將“Zeroth”獨立NPU芯片的架構和技術引入了當時的驍龍820平臺。因此驍龍820實際上就成為了消費電子行業裡,第一款帶有NPU計算特性,能夠在一定程度上獨立執行端側AI計算的平臺。

更有意思的是,高通並沒有將NPU、端側AI的計算能力侷限於高端產品線。因為就在那之後不久,他們就將類似的硬件加速AI功能引入到了主流的驍龍660平臺。後續隨著驍龍移動平臺“家族”的擴大,對AI計算的軟硬件加速體系,更是很“自然”地成為了整個驍龍產品線的共通特徵。

2021年,高通提出了“統一技術路線圖”的概念,正式明確了旗下的智能手機移動平臺、汽車智能座艙方案、XR頭顯芯片、智能手錶和智能音頻產品在硬件架構路線上的統一路線。

到了2022年,高通還進一步發佈了高通AI軟件棧(Qualcomm AI Stack)工具。它以一套工具覆蓋了多種AI框架、支持了市面上幾乎全部主流的操作系統,使得開發者只需一次開發就能“搞定一切”,徹底免除了以往復雜的移植、適配過程。

  • 深耕端側AI,高通的成果遍佈業界

很顯然,比所有競爭對手更早的起步和發展歷程,促使高通在旗下端側AI技術的硬件和軟件設計上,都積累了更多的經驗與相關技術。

以結論而言,這也賦予了高通在端側AI生態方面,無與倫比的廣度和深度。

論“廣”,我們幾乎可以在當前高通旗下所有的驍龍相關平臺裡,都看到端側AI計算的身影。往小了說,這包括驍龍音頻平臺上、用於藍牙耳機的AI降噪算法,包括驍龍智能穿戴平臺裡的AI運動和健康監測技術,包括驍龍XR平臺裡基於AI驅動的端側語言和攝像頭物體識別。

而往大了說,除了大家耳熟能詳的手機和平板上的驍龍移動平臺外,用於PC的驍龍計算平臺也成為了業界最早在Windows系統裡支持端側AI,能夠原生啟用AI語言降噪、AI攝像頭虛化和自動居中等諸多功能的硬件方案。

更不要說如今在汽車上大紅大紫的驍龍智能座艙方案,更是將端側AI計算能力廣泛用於ADAS高級輔助駕駛、駕駛艙低延遲語音交互等領域。與基於網絡連接的方案相比,這些端側AI用例不僅大幅降低了延遲,也變相提高了使用中的安全性。

使用驍龍移動平臺在手機上端側生成的AI圖像

而論“深”度,2023年3月,高通AI研究院在智能手機上首次實現的Stable Diffusion部署,則可以作為一個很好的例證。在這些旗艦級的驍龍移動平臺手機上,Stable Diffusion可在15秒內,完全基於本地算力完成20步推理,生成一張512*512像素的圖像。這個時延表現基本上已經可以媲美雲端推理,同時還完全避免了傳統在線推理的信息洩露風險。

  • 全新驍龍平臺將至,拉開移動AI新紀元

值得注意的是,就在幾天後,高通方面就即將召開2023年驍龍峰會,宣告全新一批驍龍平臺的正式亮相。

從目前各種曝光的相關信息來看,全新一代的驍龍8系移動平臺和驍龍X平臺,大概率將會成為此次活動中的絕對主角。而它們將會帶來的改變也註定了不僅限於單純的架構、計算和圖形性能提升。

可以預見的是,如今在高通的統一技術路線以及全棧AI優化體系的加持下,新一代的驍龍平臺勢必會繼續增強端側AI能力,將更多低延遲、無需網絡連接的人工智能體驗帶到消費級移動設備上來。而它究竟會給我們的日常使用體驗、乃至移動生活帶來怎樣的改變,大家不妨拭目以待。

推薦閱讀:

OPPO Find N3首發評測:重塑“大摺疊”品質標杆

市場定位顯著提高,或將成為OPPO商務旗艦新開端。

王者歸來!AMD銳龍線程撕裂者7000系列解析

除了換用新架構,還迎來了主頻、功耗的同步提高。

Scroll to Top