自2022年秋季ChatGPT橫空出世以來,“AI”這個話題就再一次成為了網絡上、乃至許多消費者掛在嘴邊的常客。
不可否認,以ChatGPT為代表的在線大模型所能實現的用戶體驗,看起來確實很神奇、也很容易引發大家的好奇心,讓許多以往可能不那麼關注AI、不關注科技行業的人,都開始意識到這一新技術的魅力。
但平心而論,上述這種在線AI大模型其實存在著諸多難以迴避的短板。比如它們對算力和存儲的要求過高,不太可能為一般的個人或小型企業部署;比如它嚴重依賴網絡,一旦網絡連接不佳就幾乎不能使用。而且這種依賴網絡進行數據上傳,在服務器端分析、響應,最後再將結果下發的服務模式,本身也存在著可能會洩露用戶隱私、以及相關數據可能存在一定洩露的風險。
正因如此,對於以智能手機、平板電腦,甚至是PC為代表的個人終端計算設備來說,比起在線式的大型AI,能夠在“斷網”狀態下、僅靠本機算力就能運行,而且過程中完全可以不上傳任何個人信息的“終端側AI”技術,實際上對於業內的相關企業來說,才反而是最近這幾年大家真正投入最多、發展也最快的技術方向。
當然,既然終端側AI需要靠設備本身的性能來實現,那麼它自然也就與設備上的AI算力水平,以及相關的AI軟件堆棧優化程度息息相關。既然提到這一點,那麼繞不開的一個廠商便是大家耳熟能詳的高通了。
-
高通的AI之路,比大家想象的起步還要更早
高通是從什麼時候開始做移動設備上的端側AI?關於這個問題,我們三易生活此前就曾進行過考據。
更有意思的是,高通並沒有將NPU、端側AI的計算能力侷限於高端產品線。因為就在那之後不久,他們就將類似的硬件加速AI功能引入到了主流的驍龍660平臺。後續隨著驍龍移動平臺“家族”的擴大,對AI計算的軟硬件加速體系,更是很“自然”地成為了整個驍龍產品線的共通特徵。
2021年,高通提出了“統一技術路線圖”的概念,正式明確了旗下的智能手機移動平臺、汽車智能座艙方案、XR頭顯芯片、智能手錶和智能音頻產品在硬件架構路線上的統一路線。
到了2022年,高通還進一步發佈了高通AI軟件棧(Qualcomm AI Stack)工具。它以一套工具覆蓋了多種AI框架、支持了市面上幾乎全部主流的操作系統,使得開發者只需一次開發就能“搞定一切”,徹底免除了以往復雜的移植、適配過程。
-
深耕端側AI,高通的成果遍佈業界
很顯然,比所有競爭對手更早的起步和發展歷程,促使高通在旗下端側AI技術的硬件和軟件設計上,都積累了更多的經驗與相關技術。
以結論而言,這也賦予了高通在端側AI生態方面,無與倫比的廣度和深度。
論“廣”,我們幾乎可以在當前高通旗下所有的驍龍相關平臺裡,都看到端側AI計算的身影。往小了說,這包括驍龍音頻平臺上、用於藍牙耳機的AI降噪算法,包括驍龍智能穿戴平臺裡的AI運動和健康監測技術,包括驍龍XR平臺裡基於AI驅動的端側語言和攝像頭物體識別。
而往大了說,除了大家耳熟能詳的手機和平板上的驍龍移動平臺外,用於PC的驍龍計算平臺也成為了業界最早在Windows系統裡支持端側AI,能夠原生啟用AI語言降噪、AI攝像頭虛化和自動居中等諸多功能的硬件方案。
更不要說如今在汽車上大紅大紫的驍龍智能座艙方案,更是將端側AI計算能力廣泛用於ADAS高級輔助駕駛、駕駛艙低延遲語音交互等領域。與基於網絡連接的方案相比,這些端側AI用例不僅大幅降低了延遲,也變相提高了使用中的安全性。
使用驍龍移動平臺在手機上端側生成的AI圖像
而論“深”度,2023年3月,高通AI研究院在智能手機上首次實現的Stable Diffusion部署,則可以作為一個很好的例證。在這些旗艦級的驍龍移動平臺手機上,Stable Diffusion可在15秒內,完全基於本地算力完成20步推理,生成一張512*512像素的圖像。這個時延表現基本上已經可以媲美雲端推理,同時還完全避免了傳統在線推理的信息洩露風險。
-
全新驍龍平臺將至,拉開移動AI新紀元
值得注意的是,就在幾天後,高通方面就即將召開2023年驍龍峰會,宣告全新一批驍龍平臺的正式亮相。
從目前各種曝光的相關信息來看,全新一代的驍龍8系移動平臺和驍龍X平臺,大概率將會成為此次活動中的絕對主角。而它們將會帶來的改變也註定了不僅限於單純的架構、計算和圖形性能提升。
可以預見的是,如今在高通的統一技術路線以及全棧AI優化體系的加持下,新一代的驍龍平臺勢必會繼續增強端側AI能力,將更多低延遲、無需網絡連接的人工智能體驗帶到消費級移動設備上來。而它究竟會給我們的日常使用體驗、乃至移動生活帶來怎樣的改變,大家不妨拭目以待。
OPPO Find N3首發評測:重塑“大摺疊”品質標杆
市場定位顯著提高,或將成為OPPO商務旗艦新開端。