歡迎來(lái)到深圳市明佳達(dá)電子有限公司

當(dāng)前，AI的發(fā)展正無(wú)處不在，速度也不斷超越人們的預(yù)期。AI大模型以更加快速、小型、性能強(qiáng)大的方式在演進(jìn)，也讓端側(cè)AI真正實(shí)現(xiàn)落地發(fā)展。

作為一家計(jì)算平臺(tái)公司，Arm正處于這場(chǎng)AI變革的中心，通過(guò)系統(tǒng)層級(jí)的方式，幫助合作伙伴更快速地整合技術(shù)并擴(kuò)大規(guī)模，以抓住AI帶來(lái)的機(jī)遇。從云端到邊緣側(cè)等各個(gè)應(yīng)用，Arm正在計(jì)算能效與能源效率方面展現(xiàn)領(lǐng)導(dǎo)地位。

在結(jié)束臺(tái)北COMPUTEX行程后，Arm高級(jí)副總裁兼終端事業(yè)部總經(jīng)理Chris Bergey到訪北京并接受集微網(wǎng)采訪，分享了在AI方面的洞見(jiàn)和思考。Chris Bergey透露稱(chēng)最新Armv9旗艦CPU（代號(hào)Travis）將于今年晚些時(shí)候推出，帶來(lái)兩位數(shù)的IPC性能提升以及更加出色的AI性能。

端側(cè)AI加速落地 Arm的三大優(yōu)勢(shì)

當(dāng)前，伴隨著AI手機(jī)，AI PC的普及，越來(lái)越多的端側(cè)設(shè)備開(kāi)始具備AI能力。端側(cè)設(shè)備對(duì)于計(jì)算量需求的增長(zhǎng)，為推動(dòng)在各個(gè)場(chǎng)景中部署AI帶來(lái)巨大機(jī)遇。

今年也被稱(chēng)為AI智能體落地元年，以具身機(jī)器人為代表的實(shí)體AI集中出現(xiàn)，創(chuàng)造出更多應(yīng)用場(chǎng)景，一些成功的商業(yè)項(xiàng)目和初創(chuàng)公司在加速涌現(xiàn)。

在Chris Bergey看來(lái)，在AI智能體方面，有兩個(gè)領(lǐng)域頗受關(guān)注。一是利用AI進(jìn)行編程、代碼審查和修改。二是利用AI提升客戶支持與客戶服務(wù)。

“在上述兩個(gè)領(lǐng)域中，一些初創(chuàng)公司正迅速成長(zhǎng)，在員工人數(shù)不到100人的情況下快速實(shí)現(xiàn)一億美元的營(yíng)收?！盋hris Bergey說(shuō)。

在實(shí)體AI方面，機(jī)器人技術(shù)已經(jīng)開(kāi)始在多個(gè)領(lǐng)域得到應(yīng)用，比如機(jī)器狗、配送機(jī)器人、掃地機(jī)器人等。

“這些設(shè)備在某種程度上已經(jīng)實(shí)現(xiàn)了自主運(yùn)行，但很難說(shuō)它們已經(jīng)達(dá)到了與人類(lèi)操作相當(dāng)?shù)闹悄芩?。不過(guò)，在接下來(lái)的一到三年內(nèi)，我們很快就會(huì)迎來(lái)這樣的轉(zhuǎn)變：當(dāng)這些設(shè)備處于自主模式運(yùn)行時(shí)，其表現(xiàn)將能夠媲美人類(lèi)操作。這將帶來(lái)巨大的發(fā)展機(jī)遇?！盋hris Bergey告訴集微網(wǎng)。

從構(gòu)建AI系統(tǒng)的基礎(chǔ)要素看，Chris Bergey認(rèn)為有三個(gè)關(guān)鍵因素。

一是從云端到邊緣打造一個(gè)無(wú)處不在的平臺(tái)將具有極大的價(jià)值。因?yàn)榇蟛糠智闆r下AI在端側(cè)運(yùn)行，某些情況下，工作負(fù)載將轉(zhuǎn)移到云端。因此，擁有一個(gè)高度且可移植的平臺(tái)，對(duì)于推動(dòng)先進(jìn)技術(shù)及產(chǎn)品的實(shí)現(xiàn)，以及為現(xiàn)有產(chǎn)品增加新功能非常有價(jià)值。

二是電力和每瓦性能。AI催生了巨大的機(jī)遇，也造成耗電的增加。當(dāng)前，數(shù)據(jù)中心的能耗從兆瓦級(jí) (MW) 躍升至吉瓦 (GW) 級(jí)，其中超過(guò)50%來(lái)自于機(jī)架和半導(dǎo)體設(shè)備。因此，在AI賦能的世界里，雖然存在巨大的發(fā)展?jié)摿Γ残枰Ａ康挠?jì)算能力，這意味著“每瓦性能”將成為最關(guān)鍵的衡量指標(biāo)。

三是軟件的重要性。Arm目前擁有全球最大的開(kāi)發(fā)者生態(tài)，匯聚超過(guò) 2,200 萬(wàn)名軟件開(kāi)發(fā)者。與此同時(shí)，基于Arm架構(gòu)的芯片出貨量迄今已累計(jì)超過(guò)3,100億顆。這種規(guī)模帶來(lái)了一個(gè)良性循環(huán)：大量的基于Arm技術(shù)的設(shè)備推動(dòng)了豐富的Arm軟件生態(tài)，而強(qiáng)大的軟件生態(tài)又進(jìn)一步催生了更多硬件的發(fā)展機(jī)會(huì)。

“Arm去年推出了Arm Kleidi，旨在提供一個(gè)AI軟件庫(kù)，能夠讓AI工作負(fù)載在最新的Arm CPU——即Armv9架構(gòu)上加速運(yùn)行，同時(shí)也具備面向未來(lái)的可持續(xù)性。截至目前，Kleidi已累計(jì)超過(guò)80億次安裝，且仍在持續(xù)增長(zhǎng)中。Kleidi 也與許多全球主流的AI框架進(jìn)行集成，包括國(guó)內(nèi)的騰訊混元的Angel機(jī)器學(xué)習(xí)框架。”Chris Bergey說(shuō)。

從數(shù)據(jù)中心到終端AI 持續(xù)拓展市場(chǎng)份額

通過(guò)多年的發(fā)展，Arm在終端設(shè)備和邊緣側(cè)應(yīng)用已經(jīng)被廣泛熟悉。但實(shí)際上，在數(shù)據(jù)中心領(lǐng)域，Arm也布局十余年之久，近年來(lái)，由于AI技術(shù)的推動(dòng)，以及在能效方面的優(yōu)勢(shì)，Arm的數(shù)據(jù)中心產(chǎn)品受到更多的關(guān)注，也在持續(xù)提升市場(chǎng)份額。

譬如，全球最大的云服務(wù)提供商亞馬遜云科技 (AWS) 有相當(dāng)一部分自身的工作負(fù)載，是運(yùn)行在基于Arm架構(gòu)的AWS Graviton處理器上。AWS還曾表示，其超過(guò) 90% 的重要客戶（不包括 Amazon）也在使用 Arm 的先進(jìn)架構(gòu)，并受益于 Arm 技術(shù)的卓越能效，很多客戶都是業(yè)界的知名企業(yè)。在過(guò)去兩年，在AWS新部署的CPU算力中，有超過(guò)50%是基于Arm技術(shù)的Graviton。

“最初，云服務(wù)提供商自身的第一方工作負(fù)載遷移至Arm平臺(tái)，隨后，第三方工作負(fù)載也紛紛轉(zhuǎn)向Arm平臺(tái)，這為頭部云服務(wù)提供商帶來(lái)了超過(guò)40%的能效提升?；谶@樣的發(fā)展勢(shì)頭，我們預(yù)計(jì)Arm架構(gòu)將占據(jù)半數(shù)2025年出貨到頭部云服務(wù)提供商的算力?！盋hris Bergey表示。

在邊緣側(cè)，Arm CPU占據(jù)舉足輕重的地位，被廣泛應(yīng)用于各種主流操作系統(tǒng) (OS) 的邊緣計(jì)算設(shè)備中。近年來(lái)，Arm架構(gòu)在PC與平板市場(chǎng)的需求也大幅增長(zhǎng)，Arm預(yù)計(jì)2025年，Arm架構(gòu)將占據(jù)超過(guò)40%的PC與平板整體出貨量。

數(shù)據(jù)中心和PC此前是Arm架構(gòu)普及程度相對(duì)較低的領(lǐng)域，尤其是數(shù)據(jù)中心領(lǐng)域，一直被x86架構(gòu)主導(dǎo)。如果Arm的預(yù)測(cè)能夠?qū)崿F(xiàn)，毫無(wú)疑問(wèn)這將會(huì)是其一項(xiàng)巨大成就。

這首先得益于Arm近年來(lái)推出一系列平臺(tái)產(chǎn)品在性能上的顯著提升。Chris Bergey重點(diǎn)介紹了Arm與NVIDIA的合作。

DGX Spark是NVIDIA今年發(fā)布的桌面級(jí)AI PC，搭載了10個(gè)Arm Cortex-X925 核心和 10 個(gè) Cortex-A725 核心，并配備了可實(shí)現(xiàn)高達(dá) 1 PetaFLOPs（即每秒 10^15 次浮點(diǎn)運(yùn)算）AI性能的 GPU，將數(shù)據(jù)中心級(jí)別的計(jì)算能力帶到了桌面級(jí)產(chǎn)品。

NVIDIA不僅在邊緣側(cè)產(chǎn)品中采用Arm技術(shù)，在Grace Blackwell等數(shù)據(jù)中心產(chǎn)品平臺(tái)中，也基于Arm架構(gòu)的CPU與GPU緊密耦合，針對(duì)AI所需的帶寬和 I/O 密度進(jìn)行了深度優(yōu)化，從而實(shí)現(xiàn)了更高效的計(jì)算性能。

在手機(jī)市場(chǎng)，Chris Bergey也表示，Arm正在為眾多的生態(tài)合作伙伴（如 MediaTek）提供最前沿的CPU和GPU 技術(shù)，并且這些合作伙伴正與眾多一線手機(jī)廠商攜手，將搭載 Arm 技術(shù)的優(yōu)秀手機(jī)產(chǎn)品推向市場(chǎng)。

新一代旗艦CPU今年上市 兩位數(shù)IPC性能提升

去年Arm推出了包括Cortex-X925在內(nèi)的新一代旗艦計(jì)算平臺(tái)。Cortex-X925基于Armv9.2架構(gòu)，實(shí)現(xiàn)了IPC性能創(chuàng)紀(jì)錄的15%的增長(zhǎng)，極大提升了高性能手機(jī)SoC的能力表現(xiàn)。去年MediaTek發(fā)布的天璣9400系列，以及日前小米發(fā)布的玄戒O1都采用了Cortex-X925 CPU，為芯片性能提供了強(qiáng)大的支撐。

Chris Bergey指出，Cortex-X925具備業(yè)內(nèi)最高水平的IPC性能，這一點(diǎn)至關(guān)重要。因?yàn)?IPC（每時(shí)鐘周期指令數(shù)）與頻率的乘積決定了整個(gè)平臺(tái)的性能。相較于單純依賴(lài)提高頻率來(lái)提升性能，提升 IPC可以更高效地實(shí)現(xiàn)性能的增強(qiáng)，同時(shí)還能顯著改善能耗表現(xiàn)。對(duì)于移動(dòng)終端設(shè)備而言，控制功耗無(wú)疑是一個(gè)關(guān)鍵考量因素。

同時(shí)，Chris Bergey透露稱(chēng)，今年晚些時(shí)候，Arm將推出新一代Armv9旗艦CPU（代號(hào)Travis）。屆時(shí)，在目前業(yè)內(nèi)IPC性能最高的Arm處理器基礎(chǔ)上，再次實(shí)現(xiàn)兩位數(shù)的IPC性能提升。此外，這也將是第一代引入Armv9可伸縮矩陣擴(kuò)展 (Scalable Matrix Extension, SME) 的處理器，進(jìn)一步加速處理 AI 工作負(fù)載。

在GPU方面，新一代產(chǎn)品（代號(hào)Drage）將加入Arm精銳超級(jí)分辨率技術(shù) (Arm ASR)，使用戶能夠在移動(dòng)設(shè)備上實(shí)現(xiàn)游戲主機(jī)級(jí)畫(huà)質(zhì)和游戲體驗(yàn)。

這兩款產(chǎn)品的結(jié)合將引入面向移動(dòng)端市場(chǎng)的 Arm Lumex CSS 解決方案，為未來(lái)消費(fèi)電子設(shè)備上的邊緣 AI 性能奠定基礎(chǔ)。

“我們相信 AI 的未來(lái)前景廣闊，而這個(gè)未來(lái)將由 Arm 及其合作伙伴共同打造，包括我們?cè)谥袊?guó)市場(chǎng)的重要合作伙伴。”Chris Bergey說(shuō)。