Arm 控股有限公司（納斯達克股票代碼：ARM，以下簡稱 “Arm”）今日發布與阿裏巴巴淘天集團輕量級深度學習框架 MNN 的又一新合作。雙方經由 Arm KleidiAI 的集成，成功讓多模態人工智能 (AI) 工作負載通過阿裏巴巴經指令調整的通義千問 Qwen2-VL-2B-Instruct 模型運行在搭載 Arm CPU 的移動設備上。該版本的通義千問模型專為端側設備的圖像理解、文本到圖像的推理
，以及跨多種語言的多模態生成而設計。此次的合作顯著提升了端側多模態 AI 工作負載的性能，帶來全新的用戶體驗。

Arm 終端事業部產品管理高級總監 Stefan Rosinger 表示：“我們正身處 AI 革命的浪潮之中，親眼見證了多模態 AI 模型的興起。這些模型能夠處理並理解多種數據類型
，涵蓋文本、圖像、音頻

、視(shi)頻(pin)及(ji)傳(chuan)感(gan)器(qi)數(shu)據(ju)。然(ran)而(er)，由(you)於(yu)硬(ying)件(jian)本(ben)身(shen)的(de)電(dian)力(li)限(xian)製(zhi)和(he)內(nei)存(cun)約(yue)束(shu)
，加(jia)之(zhi)同(tong)時(shi)處(chu)理(li)多(duo)種(zhong)數(shu)據(ju)類(lei)型(xing)帶(dai)來(lai)的(de)複(fu)雜(za)性(xing)，在(zai)端(duan)側(ce)設(she)備(bei)上(shang)部(bu)署(shu)這(zhe)些(xie)先(xian)進(jin)的(de)多(duo)模(mo)態(tai)模(mo)型(xing)正(zheng)麵(mian)臨(lin)著(zhe)不(bu)小(xiao)的(de)挑(tiao)戰(zhan)。”

Arm Kleidi 成為解決這些挑戰的理想方案，它能夠為運行在 Arm CPU 上的所有 AI 推理工作負載提供無縫的性能優化。KleidiAI 是一套輕量級且高性能開源的 Arm 例程，專為 AI 加速而設計，目前已被集成到最新版本的主流端側 AI 框架中，包括 ExecuTorch、Llama.cpp、LiteRT （通過XNNPACK）和 MediaPipe，能讓數百萬名開發者無需進行額外操作，即可自動獲取 AI 性能的顯著提升。

加速端側多模態 AI 用例的響應時間

通過 KleidiAI 與 MNN 的集成，Arm 和 MNN 團隊測量了 Qwen2-VL-2B-Instruct 模型的加速性能


，結果顯示在端側的關鍵 AI duomotaiyingyongchangjingzhong
，qiyunxinghexiangyingsudujunyousuotisheng。zheyitishengkeweielibabaqixiazhongduoyikehuweizhongxindeyingyongchengxudailaigengjiachusedeyonghutiyan。

這些用例響應速度的提升，得益於模型預填充（指 AI 模型在生成響應之前先對提示詞輸入進行處理）性能提升了 57% ，以及解碼（指處理提示詞後從 AI 模型生成文本的過程）性能提升了 28%。此外，KleidiAI 集成還可以通過降低多模態工作負載的總體計算成本，進一步促進端側設備上 AI 工作負載的高效處理。數百萬使用包括 MNN 框架在內的熱門 AI 框架運行應用程序與工作負載的開發者，可以在針對邊緣側設備的應用和工作負載中享受到這些性能和效率的提升。

阿裏雲通義大模型業務總經理徐棟表示：“我們非常高興看到通義千問大模型與Arm KleidiAI 及 MNN 團隊展開深度技術合作，通過 MNN 端側推理框架和 Arm KleidiAI dejichengjiasuyouhua，chenggongshixianledamoxingtuiliyanchidexianzhujiangdiyunengxiaobidedafutisheng。cicikaichuangxingdehezuobujinchongfenyanzhengledamoxingzaiyidongzhongduandeshiyongqianli，gengshiyonghunenggouzaizhijiantiyandaoxiayidai AI 的普惠價值。我們期待三方能夠持續攜手，以技術創新突破算力邊界，共同開啟端側智能新篇章。”

阿裏巴巴淘天集團業務技術 MNN 負責人薑霄棠表示：“此次 MNN 推理框架與 Arm KleidiAI 做zuo深shen度du技ji術shu融rong合he
，在zai端duan側ce大da模mo型xing加jia速su方fang麵mian取qu得de了le全quan新xin突tu破po。通tong過guo我wo們men對dui底di層ceng架jia構gou的de聯lian合he優you化hua，通tong義yi大da模mo型xing的de端duan側ce推tui理li效xiao率lv實shi現xian大da幅fu提ti升sheng
，成cheng功gong跨kua越yue了le受shou限xian算suan力li與yu複fu雜za AI 能力的技術鴻溝。這一成果既是 MNN 團隊技術攻堅的結晶，更是跨界協作力量的生動詮釋。我們期待未來能持續攜手深耕端側計算生態
，讓每個移動終端都能承載更流暢、更高效、更自然的 AI 體驗。”

在 MWC 上進行 KleidiAI 集成演示

在今年的世界移動通信大會 (MWC) 上，Arm 在活動展位（2 號展廳 I60 展台）展示了此次合作的成果，該演示突出了模型如何理解視覺和文本輸入的多種組合，並對圖像中的內容進行提煉說明。這項演示在搭載 MediaTek 天璣 9400 移動係統芯片 (SoC) 的智能手機上完成
，包括 vivo X200係列。

實現多模態 AI 體驗的飛躍

KleidiAI 和為阿裏巴巴通義千問模型支持的 MNN 框架進行集成，成功地為運行在搭載 Arm CPU 端側的多模態 AI 工作負載帶來顯著的用戶體驗提升。這些卓越的體驗現已應用於移動設備，許多的麵向客戶的應用程序也已受惠於 KleidiAI 帶來的種種優勢。展望未來，KleidiAI 針對 AI 工作負載的無縫優化將繼續賦能開發者
，助力其在端側設備上提供更加複雜的多模態體驗。這將為下一波智能計算浪潮奠定基礎，並在 AI 的持續演進中邁出令人振奮的一大步。