(文/觀察者網(wǎng) 呂棟 編輯/張廣凱)
8月5日,在昇騰計(jì)算產(chǎn)業(yè)發(fā)展峰會(huì)上,華為輪值董事長(zhǎng)徐直軍宣布,華為昇騰硬件使能CANN全面開源開放,Mind系列應(yīng)用使能套件及工具鏈全面開源,支持用戶自主的深度挖潛和自定義開發(fā),加速?gòu)V大開發(fā)者的創(chuàng)新步伐,讓昇騰更好用、更易用。
“華為AI戰(zhàn)略的核心是算力,并堅(jiān)持昇騰硬件變現(xiàn)?!彼f道。
CANN的全稱是“神經(jīng)網(wǎng)絡(luò)異構(gòu)計(jì)算架構(gòu)”(Compute Architecture for Neural Networks),它的角色,是把上層AI訓(xùn)練框架(如PyTorch、TensorFlow、MindSpore等)和底層昇騰芯片連接起來的橋梁,讓開發(fā)者不用關(guān)心芯片細(xì)節(jié)就能調(diào)用底層算力。
與CANN作用類似的,還有英偉達(dá)的CUDA和AMD的ROCm,以及中國(guó)摩爾線程的MUSA,壁仞科技的BIRENSUPA、寒武紀(jì)的Neuware和海光信息的DTK等等。但最知名和影響力最大的還是英偉達(dá)的CUDA,它與英偉達(dá)GPU和NVlink構(gòu)成英偉達(dá)的核心護(hù)城河。
AI全棧軟硬件架構(gòu)
展開全文
CUDA并不是單點(diǎn)技術(shù),而是由多種技能棧和算子加速庫等組成的軟件生態(tài)系統(tǒng)。
“CUDA生態(tài)系統(tǒng)埋藏著巨大的遷移成本,它充當(dāng)PyTorch和英偉達(dá)GPU之間的橋梁。從CUDA遷移的開發(fā)者通常必須重寫大量代碼,被迫使用不太成熟的替代庫。此外,開發(fā)者還會(huì)失去圍繞CUDA發(fā)展起來的龐大故障排除社區(qū)的支持?!庇行袠I(yè)人士對(duì)觀察者網(wǎng)說道。
換言之,英偉達(dá)GPU之所以受歡迎,并不僅是因?yàn)橛布男阅芨?,同時(shí)也因?yàn)镃UDA軟件系統(tǒng)生態(tài)的完善,讓開發(fā)者可以更高效的發(fā)揮GPU本身的性能,降低使用成本。
華為在制裁前后發(fā)展了自己的昇騰芯片,雖然昇騰是NPU架構(gòu),但也需要CANN來發(fā)揮“CUDA”的角色。與CANN配套的是華為自研深度學(xué)習(xí)框架MindSpore,其作用類似于PyTorch,這些工具共同構(gòu)成了華為原生的AI軟硬件方案,以對(duì)標(biāo)以英偉達(dá)為中心的PyTorch+CUDA方案。
2024年財(cái)報(bào)披露,華為持續(xù)構(gòu)建昇騰產(chǎn)品解決方案在性能、易用性、開放生態(tài)等方面的競(jìng)爭(zhēng)力,CANN升級(jí)到8.0版本,新增200多個(gè)深度優(yōu)化的基礎(chǔ)算子、80多個(gè)融合算子、100多個(gè)Ascend C API,典型算子開發(fā)周期從2人月縮短至1.5人周......同時(shí)支持圖模式能力擴(kuò)展庫,提升PyTorch在昇騰上的大模型推理性能。
為了擴(kuò)大生態(tài)圈,CANN逐步兼容了更多AI框架。截至目前,CANN已支持包括PyTorch、MindSpore、TensorFlow、飛槳、ONNX、計(jì)圖、OpenCV和OpenMMLab等深度學(xué)習(xí)框架與第三方庫。
華為專家還對(duì)觀察者網(wǎng)表示,“我們堅(jiān)持CANN實(shí)現(xiàn)分層深度開放,從最底層的算子開發(fā)層,到模型開發(fā)層、推理層,進(jìn)一步兼容三方開源框架,讓運(yùn)行在三方框架、推理引擎上的模型/應(yīng)用遷移至?xí)N騰無需修改。面向應(yīng)用開發(fā)層,我們將面向應(yīng)用開發(fā)提供更多SDK,讓應(yīng)用部署更便捷,模型訓(xùn)練和推理更高效?!?/p>
CANN支持的深度學(xué)習(xí)框架與第三方庫
但不可否認(rèn),與發(fā)展了18年的CUDA生態(tài)相比,剛起步六七年的CANN,易用性和生態(tài)豐富度仍存在差距,并且任重道遠(yuǎn)。去年9月外媒報(bào)道,為了讓客戶適應(yīng)新生態(tài),華為效仿英偉達(dá)最初推廣CUDA的策略,向百度、科大訊飛和騰訊派遣了工程團(tuán)隊(duì),幫助他們?cè)贑ANN環(huán)境中重現(xiàn)和優(yōu)化現(xiàn)有的基于CUDA的訓(xùn)練代碼。
“開發(fā)者在社交媒體上表達(dá)不滿并不是壞事,相反將有助于華為改進(jìn)CANN。發(fā)展新的生態(tài)絕不是一日之功,要知道英偉達(dá)花了18年才打造出如今的CUDA生態(tài),即便華為在壓力之下,構(gòu)建一個(gè)有競(jìng)爭(zhēng)力的軟件生態(tài)系統(tǒng)也需要數(shù)年時(shí)間。起初可能出于無奈之舉,隨著時(shí)間的推移,開發(fā)者可能會(huì)逐漸形成習(xí)慣,最終讓CANN等軟件形成能與英偉達(dá)軟件棧相抗衡的基礎(chǔ)設(shè)施?!庇行袠I(yè)人士評(píng)論道。
相比CUDA閉源,此次CANN開源,無疑是華為希望盡快擴(kuò)大CANN生態(tài)圈的最新舉措。華為表示,來自AI領(lǐng)軍企業(yè)、伙伴、高校與科研機(jī)構(gòu)的代表共同探討了如何更好地構(gòu)建開源開放的昇騰生態(tài),共同發(fā)起了《CANN開源開放生態(tài)共建倡議》,以凝聚產(chǎn)業(yè)力量,共探AI邊界,共建昇騰生態(tài)。
之前,華為已在2020年開源了自研AI框架MindSpore,2024年已經(jīng)以30.26%的新增份額位列中國(guó)AI框架市場(chǎng)第一,再加上華為歷年開放的鴻蒙、歐拉、高斯、倉頡等基礎(chǔ)軟件,也算是用行動(dòng)回應(yīng)了某院士發(fā)表的“華為在技術(shù)發(fā)展上采取封閉式、壟斷性模式”的觀點(diǎn)。
評(píng)論