你的位置:首頁 > 傳感技術(shù) > 正文

專為大模型而生:安謀科技發(fā)布"周易"X3 NPU,重塑端側(cè)AI計算格局

發(fā)布時間:2025-11-13 責(zé)任編輯:lina

【導(dǎo)讀】在人工智能向端側(cè)全面擴(kuò)展的產(chǎn)業(yè)背景下,安謀科技(中國)今日在上海正式發(fā)布全新一代神經(jīng)網(wǎng)絡(luò)處理器IP——"周易"X3。這款基于創(chuàng)新DSP+DSA混合架構(gòu)的NPU專為端側(cè)大模型計算而設(shè)計,在AI推理性能上實現(xiàn)突破性提升,為基礎(chǔ)設(shè)施、智能汽車、移動終端和智能物聯(lián)網(wǎng)四大核心領(lǐng)域提供強(qiáng)勁的AI算力支撐。


摘要:AIGC大模型能力提升10倍,8-80 FP8 TFLOPS,單Core帶寬256GB/s,Prefill算力利用率達(dá)72%,Decode有效帶寬利用率超100%。

 

2025 年 11 月 13 日,在人工智能向端側(cè)全面擴(kuò)展的產(chǎn)業(yè)背景下,安謀科技(中國)今日在上海正式發(fā)布全新一代神經(jīng)網(wǎng)絡(luò)處理器IP——"周易"X3。這款基于創(chuàng)新DSP+DSA混合架構(gòu)的NPU專為端側(cè)大模型計算而設(shè)計,在AI推理性能上實現(xiàn)突破性提升,為基礎(chǔ)設(shè)施、智能汽車、移動終端和智能物聯(lián)網(wǎng)四大核心領(lǐng)域提供強(qiáng)勁的AI算力支撐。

 

專為大模型而生:安謀科技發(fā)布"周易"X3 NPU,重塑端側(cè)AI計算格局

安謀科技Arm China產(chǎn)品研發(fā)副總裁劉浩


安謀科技Arm China產(chǎn)品研發(fā)副總裁劉浩表示:“在‘All in AI’產(chǎn)品戰(zhàn)略的指引下,我們將持續(xù)加大投入,以前瞻性視野整合頂尖研發(fā)資源,秉持開放合作理念,為生態(tài)伙伴提供業(yè)界領(lǐng)先的從硬件、軟件到服務(wù)的端到端解決方案,全力賦能伙伴的產(chǎn)品創(chuàng)新和商業(yè)化落地?!?/p>

 

專為大模型而生:安謀科技發(fā)布"周易"X3 NPU,重塑端側(cè)AI計算格局

“周易”X3 NPU IP新品發(fā)布會現(xiàn)場

 

性能躍遷

前瞻五年布局,讓端側(cè)大模型“跑得穩(wěn)、答得順”

 

在半導(dǎo)體IP領(lǐng)域,“面向未來5年的產(chǎn)品方向進(jìn)行前瞻布局”已成為行業(yè)共識——涵蓋IP研發(fā)、芯片及終端產(chǎn)品研發(fā)量產(chǎn)。安謀科技Arm China深諳這一規(guī)律,前瞻性地在“周易”X3中采用兼顧C(jī)NN與Transformer的通用架構(gòu)設(shè)計,支持全算力類型并增強(qiáng)浮點運(yùn)算FLOPS,助力實現(xiàn)從定點到浮點計算的關(guān)鍵轉(zhuǎn)變,并滿足大模型計算需求,為未來5年Gen AI、Agentic AI與Physical AI的端側(cè)落地奠定技術(shù)基石。

 

隨著AI大模型技術(shù)的飛速發(fā)展,智能手機(jī)、AI PC和智能汽車等端側(cè)設(shè)備正迎來AI能力的爆發(fā)性需求。從多模態(tài)語音助手到實時圖像生成,從智能座艙交互到輔助駕駛決策,端側(cè)設(shè)備需要承載越來越復(fù)雜的AI計算任務(wù)。然而,端側(cè)AI部署面臨算力受限、能效要求高、帶寬瓶頸、開發(fā)門檻高等多重挑戰(zhàn)——如何在有限的功耗和算力資源下實現(xiàn)大模型的高效運(yùn)行,成為行業(yè)亟需突破的關(guān)鍵難題。

 

“周易”X3基于專為大模型而生的最新DSP+DSA架構(gòu),從計算效率、帶寬、精度適配、任務(wù)處理四大維度實現(xiàn)升級,精準(zhǔn)解決端側(cè)AI大模型運(yùn)行難題,打造端側(cè)AI計算效率的新標(biāo)桿。

 

其單Cluster最高支持4個Core,擁有8~80 FP8 TFLOPS算力且可靈活配置,單Core帶寬高達(dá)256GB/s。相較于“周易”X2產(chǎn)品,“周易”X3的CNN模型性能提升30%~50%,多核算力線性度達(dá)到70%~80%。在同算力規(guī)格下,AIGC大模型能力較上一代產(chǎn)品實現(xiàn)10倍增長,這得益于16倍的FP16 TFLOPS、4倍的計算核心帶寬、超過10倍的Softmax和LayerNorm性能提升共同驅(qū)動。

 

借助這些優(yōu)化,端側(cè)大模型推理將更高效:在Llama2 7B大模型實測中,“周易”X3 NPU IP在Prefill階段算力利用率高達(dá)72%,并在安謀科技Arm China自研的解壓硬件WDC的加持下,實現(xiàn)Decode階段有效帶寬利用率超100%,遠(yuǎn)超行業(yè)平均水平,滿足大模型解碼階段的高吞吐需求。

 

專為大模型而生:安謀科技發(fā)布"周易"X3 NPU,重塑端側(cè)AI計算格局

“周易”X3 NPU IP新品亮點

 

此外,“周易”X3在架構(gòu)層面實現(xiàn)了多項創(chuàng)新,集成以下關(guān)鍵特性:

l 集成自研解壓硬件WDC:使大模型Weight軟件無損壓縮后通過硬件解壓能獲得額外15%~20%等效帶寬提升。

l 新增端側(cè)大模型運(yùn)行必備的W4A8/W4A16計算加速模式:對模型權(quán)重進(jìn)行低比特量化,大幅降低帶寬消耗,支持云端大模型向端側(cè)的高效遷移。

l 集成AI專屬硬件引擎AIFF(AI Fixed-Function)與專用硬化調(diào)度器:實現(xiàn)超低至0.5%的CPU負(fù)載與低調(diào)度延遲,靈活支持端側(cè)多任務(wù)場景和任意優(yōu)先級調(diào)度場景,確保高優(yōu)先級任務(wù)的即時響應(yīng)。

l 支持int4/int8/int16/int32/fp4/fp8/fp16/bf16/fp32多精度融合計算,強(qiáng)浮點計算:可靈活適配智能手機(jī)邊緣部署、AI PC推理、智能汽車等從傳統(tǒng)CNN到前沿大模型的數(shù)據(jù)類型需求,平衡性能與能效。

 

專為大模型而生:安謀科技發(fā)布"周易"X3 NPU,重塑端側(cè)AI計算格局 

安謀科技Arm China產(chǎn)品總監(jiān)鮑敏祺

 

安謀科技Arm China產(chǎn)品總監(jiān)鮑敏祺指出:“‘周易’X3遵循‘軟硬協(xié)同、全周期服務(wù)與成就客戶’的產(chǎn)品準(zhǔn)則,提供從硬件、軟件到售后服務(wù)的全鏈路支持,以前瞻性設(shè)計、專業(yè)團(tuán)隊交付與深度服務(wù)投入,全面助力客戶產(chǎn)品成功與商業(yè)化落地。”

 

軟硬協(xié)同

從“好用”到“用好 ”,Compass“金牌輔助”提升開發(fā)效率

 

“周易”X3 NPU IP不僅提供高性能硬件,還配套完善易用的“周易”Compass AI軟件平臺,通過“軟硬一體”的協(xié)同設(shè)計,讓開發(fā)者從“好用”到“用好”,顯著提升開發(fā)部署效率。

 

Compass AI軟件平臺通過覆蓋開發(fā)全流程的工具鏈、極致的易用性優(yōu)化與開放的生態(tài)布局,破解端側(cè)AI開發(fā)“適配難、周期長、門檻高”的痛點。作為核心工具,平臺中的NN Compiler(神經(jīng)網(wǎng)絡(luò)編譯器)集成Parser(模型解析)、Optimizer(優(yōu)化器)、GBuilder(生成器)及AIPULLM(大模型運(yùn)行工具),可實現(xiàn)主流模型的高效轉(zhuǎn)化、自動化優(yōu)化與部署配置生成,并具備以下核心能力:

l 廣泛的框架與模型支持:支持超160種算子與270種模型,兼容TensorFlow、ONNX、PyTorch、Hugging Face等主流AI框架,提供開箱即用的Model Zoo。

l 創(chuàng)新的Hugging Face模型“一鍵部署”:通過AIPULLM工具鏈,直接支持Hugging Face格式模型,實現(xiàn)“一站式”轉(zhuǎn)化與部署,極大降低開發(fā)門檻。

l 先進(jìn)的模型推理優(yōu)化:實現(xiàn)業(yè)界領(lǐng)先的大模型動態(tài)shape支持,高效處理任意長度輸入序列;同時提供包括Tensor/Channel/Token Level多樣量化方式,以及GPTQ等大模型主流量化方案,并增加對LLM/VLM/VLA及MoE等模型的高性能支持,保障推理精度并實現(xiàn)云到端快速遷移。

l 靈活的開發(fā)者賦能:提供多種開放接口,支持用戶模型與自定義算子的開發(fā)與調(diào)試;配備豐富的調(diào)試工具與Bit精度軟件仿真平臺,支持多層次白盒開發(fā)與性能調(diào)優(yōu),極大簡化算法移植與部署。

l 全面的系統(tǒng)與異構(gòu)兼容:支持Android、Linux、RTOS、QNX等多種操作系統(tǒng),并通過TVM/ONNX實現(xiàn)SoC異構(gòu)計算,高效調(diào)度CPU、GPU、NPU等計算資源。

 

安謀科技Arm China積極構(gòu)建開放生態(tài),Compass AI軟件平臺中的Parser、Optimizer、Linux Driver、TVM及內(nèi)部IR格式等核心組件已相繼開源,并擁有豐富的調(diào)試工具,可滿足開發(fā)者白盒部署需求,且支持更易用的DSL算子編程語言。在此基礎(chǔ)上,平臺賦予開發(fā)者更深度的定制能力:客戶不僅可以使用平臺中的Compiler、Debugger或DSL語言開發(fā)出自己的自定義算子,也可通過Parser、Optimizer等工具打造出屬于自己的模型編譯器,從而實現(xiàn)差異化設(shè)計與開發(fā)效率提升。

 

專為大模型而生:安謀科技發(fā)布"周易"X3 NPU,重塑端側(cè)AI計算格局 

“周易”NPU Compass AI軟件平臺

 

不僅如此,安謀科技Arm China技術(shù)團(tuán)隊還圍繞“周易”X3 NPU IP和Compass AI軟件平臺的軟硬件協(xié)同進(jìn)行精心設(shè)計和反復(fù)論證,目標(biāo)是提升客戶最終落地方案的效率和能效。例如,在“周易”X3 NPU IP的AIFF模塊軟硬件設(shè)計中,硬件端充分結(jié)合軟件使用場景,通過增大總線帶寬、增加DMA(直接內(nèi)存訪問)的outstanding(未處理的指令或數(shù)據(jù)請求)等方式提升數(shù)據(jù)搬運(yùn)、數(shù)據(jù)并行效率,軟件端則針對硬件特性設(shè)計專屬使用模式,如對模型進(jìn)行合理切分以充分發(fā)揮多核并行優(yōu)勢。

 

專為大模型而生:安謀科技發(fā)布"周易"X3 NPU,重塑端側(cè)AI計算格局

安謀科技Arm China NPU產(chǎn)品線負(fù)責(zé)人兼首席架構(gòu)師舒浩博士

 

安謀科技Arm China NPU產(chǎn)品線負(fù)責(zé)人兼首席架構(gòu)師舒浩博士認(rèn)為:“‘周易’X3的產(chǎn)品優(yōu)勢,源于通用、靈活、高效且軟硬協(xié)同的系統(tǒng)架構(gòu)設(shè)計,這一設(shè)計使其兼具廣泛的行業(yè)適用性與靈活的邊端側(cè)AI應(yīng)用場景匹配能力。”

 

多場景落地

從無形IP到AI萬象,端側(cè)智能觸手可及

 

新一代“周易”X3 NPU IP將端側(cè)智能的邊界拓展至更廣闊的應(yīng)用場景,面向基礎(chǔ)設(shè)施、智能汽車、移動終端、智能物聯(lián)網(wǎng)四大領(lǐng)域,精準(zhǔn)匹配當(dāng)前爆發(fā)的端側(cè)AI需求,可廣泛應(yīng)用于加速卡、智能座艙、ADAS、具身智能、AI PC、AI手機(jī)、智能網(wǎng)關(guān)、智能IPC等AI設(shè)備:

l 基礎(chǔ)設(shè)施領(lǐng)域:在加速卡場景中,“周易”X3 NPU IP支持CNN與大模型等多樣結(jié)構(gòu)的AI模型高效加速,為數(shù)據(jù)中心及邊緣計算節(jié)點提供核心算力。

l 智能汽車領(lǐng)域:“周易”X3 NPU IP同時賦能智能駕駛與智能座艙:在ADAS系統(tǒng)中,可為自動泊車等輔助駕駛功能提供高性能AI算力支持;在IVI(車載信息娛樂系統(tǒng))中,支持基于語音與車內(nèi)外視頻圖像輸入的智能互動。

l 移動終端領(lǐng)域:在AI PC、AI手機(jī)上,“周易”X3 NPU IP可實現(xiàn)超分渲染,提升顯示分辨率,并支持基于大模型的AI Agent應(yīng)用,為用戶帶來更智能、更流暢的交互體驗。

l 智能物聯(lián)網(wǎng)領(lǐng)域:在智能網(wǎng)關(guān)、智能IPC等設(shè)備中,“周易”X3 NPU IP支持本地AI推理,實現(xiàn)更快響應(yīng)與更智能的終端體驗,滿足邊緣設(shè)備對實時性與隱私保護(hù)的高要求。

 

 

“周易”NPU IP系列家族現(xiàn)場demo展示區(qū)

 

此次發(fā)布會現(xiàn)場系統(tǒng)展示了“周易”NPU產(chǎn)品家族的技術(shù)演進(jìn)與落地成果,生動詮釋其如何將無形的算力轉(zhuǎn)化為觸手可及的智能體驗。

l “周易”Z1:算力0.32~3.75 TOPS,賦能AIoT場景,廣泛支持人臉識別、人臉及人體關(guān)鍵點檢測和文字識別等,且已進(jìn)入AI智能音箱等多種產(chǎn)品。

l “周易”Z2/Z3:算力1.25~5 TOPS,面向AIoT、入門級座艙等市場,支持前視輔助駕駛方案、艙泊一體方案及安全儀表盤方案,以及圖像超分辨率優(yōu)化等。

l “周易”X1:算力10 TOPS,面向高端AIoT、汽車座艙等市場,支持駕駛員監(jiān)控、乘客監(jiān)控、自動泊車、AVM 360環(huán)視,以及AI圖像降噪等。

l “周易”X2:算力10-30 TOPS,面向高端AIoT、AI PC、AI Pad、手機(jī)等市場,現(xiàn)場展示了運(yùn)行Stable Diffusion v1.5的文生圖能力,運(yùn)行CLIP的文搜圖能力,可實現(xiàn)端側(cè)多模態(tài)AI流暢運(yùn)行。

l “周易”X3:算力8-80 FP8 TFLOPS,面向基礎(chǔ)設(shè)施、智能汽車、移動終端、AIoT等市場,現(xiàn)場展示了基于“周易”X3的主流大模型效果,包括運(yùn)行DeepSeek-R1-Distill-Qwen-1.5B模型的文生文AI流暢對話,運(yùn)行Stable Diffusion v1.5的文生圖效果,運(yùn)行MiniCPM v2.6模型的圖片識別及圖生文多模態(tài)應(yīng)用等,均展現(xiàn)出優(yōu)異的端側(cè)大模型推理性能。

 

從“周易”Z1的基礎(chǔ)感知到“周易”X3的復(fù)雜認(rèn)知,這一技術(shù)演進(jìn)路徑清晰地表明,端側(cè)AI正在從單一的功能實現(xiàn),邁向融合多種模型、適應(yīng)動態(tài)場景的“全民普及”新階段?!爸芤住盭3 NPU IP的設(shè)計充分預(yù)判端側(cè)AI的“場景深化”趨勢:以極致算力表現(xiàn)破解“多模型融合”的算力需求,以全算力類型并增強(qiáng)浮點運(yùn)算FLOPS適配“精度動態(tài)演變”的場景差異,借助軟硬協(xié)同的生態(tài)打造端側(cè)算力底座。

 

專為大模型而生:安謀科技發(fā)布"周易"X3 NPU,重塑端側(cè)AI計算格局 

“周易”X3 NPU IP新品發(fā)布會現(xiàn)場

 

“周易”X3 NPU IP的發(fā)布,標(biāo)志著安謀科技Arm China“All in AI”產(chǎn)品戰(zhàn)略的正式開啟。安謀科技Arm China以“AI Arm CHINA”為戰(zhàn)略發(fā)展方向,積極響應(yīng)“AI+”行動計劃,持續(xù)深耕技術(shù)領(lǐng)域創(chuàng)新,同時攜手伙伴共建開放生態(tài),加快構(gòu)建國內(nèi)“AI+”產(chǎn)業(yè)升級的智能計算基石,為千行百業(yè)智能化轉(zhuǎn)型提供更強(qiáng)IP“核芯”動力。

 

 

安謀科技Arm China

安謀科技Arm China是國內(nèi)領(lǐng)先的芯片IP設(shè)計與服務(wù)提供商。作為一家獨(dú)立運(yùn)營的合資企業(yè),公司立足本土創(chuàng)新,堅持以自研業(yè)務(wù)技術(shù)創(chuàng)新與Arm技術(shù)授權(quán)相配合,為中國集成電路產(chǎn)業(yè)提供豐富的產(chǎn)品組合和解決方案,賦能中國智能計算“芯”生態(tài)。


我愛方案網(wǎng)


推薦閱讀:

磁保持繼電器技術(shù)全景圖:從脈沖驅(qū)動到國產(chǎn)化突圍

告別EMC噩夢:集成隔離方案如何降低測試成本與風(fēng)險

電源工程師必備:深度解析MOSFET功耗計算方法論

射頻入門實戰(zhàn):ADALM2000實現(xiàn)Peltz振蕩器設(shè)計與調(diào)試

安全隔離保障:交流繼電器在控制系統(tǒng)中的關(guān)鍵作用


特別推薦
技術(shù)文章更多>>
技術(shù)白皮書下載更多>>
熱門搜索
?

關(guān)閉

?

關(guān)閉