7月3-5日,2025第九屆集微半導(dǎo)體大會在上海張江科學(xué)會堂舉行。大會由半導(dǎo)體投資聯(lián)盟、ICT知識產(chǎn)權(quán)發(fā)展聯(lián)盟主辦,愛集微(上海)科技有限公司承辦,上海市集成電路行業(yè)協(xié)會協(xié)辦,浦東科創(chuàng)集團(tuán)、海望資本戰(zhàn)略協(xié)作,上海市張江科學(xué)城建設(shè)管理辦公室、浦東新區(qū)投資促進(jìn)服務(wù)中心支持。
作為本屆大會最具技術(shù)含量的核心板塊之一,集微EDA IP工業(yè)軟件論壇于7月4日盛大舉行。大會以“智啟芯程——AI驅(qū)動下的EDA與IP設(shè)計新紀(jì)元”為主題,匯聚國內(nèi)外EDA/IP領(lǐng)域頂尖學(xué)者、企業(yè)領(lǐng)袖及投資專家,共同探討AI時代芯片設(shè)計工具鏈的創(chuàng)新藍(lán)圖。
Ceva中國技術(shù)支持總監(jiān)徐明
會上,行業(yè)領(lǐng)先的硅和軟件知識產(chǎn)權(quán)許可商Ceva中國技術(shù)支持總監(jiān)徐明在發(fā)表題為《人工智能的下一次進(jìn)化:邊緣優(yōu)先》的主題演講中稱,隨著人工智能的深入發(fā)展和持續(xù)迭代,邊緣人工智能正在推動整個科技行業(yè)發(fā)生革命性變化,而其關(guān)鍵驅(qū)動力在于六大方面。
第一,實時處理:便于即時數(shù)據(jù)處理、推理模型和更快地完成首個標(biāo)記(token)。第二,數(shù)據(jù)隱私:本地數(shù)據(jù)處理增強(qiáng)了安全性和隱私性。第三,能量:邊緣推理可降低云計算的電力負(fù)荷,解決云的限制并推動邊緣計算的應(yīng)用。第四,成本:與每次查詢的云成本相比,在本地運行推理的成本接近于零。第五,帶寬效率:減少對云的依賴,節(jié)約互聯(lián)網(wǎng)帶寬。第六,個性化:定制化體驗,提升用戶參與度和滿意度。
徐明指出,“如今的人工智能發(fā)展趨勢是“邊緣優(yōu)先”(Edge-First),其中包括更優(yōu)化、更高效的模型正在加速邊緣部署,以及更小的尺寸和更低的內(nèi)存使用。目前,英偉達(dá)、谷歌、高通和Arm等行業(yè)領(lǐng)導(dǎo)者正在從以云計算為中心的人工智能轉(zhuǎn)向邊緣原生智能。”
例如英偉達(dá)邊緣人工智能平臺旨在直接在機(jī)器人和邊緣設(shè)備上訓(xùn)練、模擬和部署人工智能模型,為工業(yè)、物流和自治系統(tǒng)的實時決策提供支持。高通正在從定制解決方案轉(zhuǎn)向可擴(kuò)展的人工智能邊緣平臺,包括對Edge Impulse的收購和Dragonwing AI soc的開發(fā)使邊緣人工智能更容易被開發(fā)人員使用。Arm認(rèn)為隨著邊緣人工智能在智能家居、城市、工業(yè)物聯(lián)網(wǎng)、醫(yī)療保健和零售等領(lǐng)域?qū)崿F(xiàn)實時、端側(cè)智能和決策,整個行業(yè)轉(zhuǎn)型正在發(fā)生革命性變化。
在這背后,“邊緣優(yōu)先”人工智能應(yīng)用范式的主要驅(qū)動因素主要在于三方面,即高效、小型、專業(yè)化的人工智能模型的出現(xiàn),邊緣人工智能硬件的進(jìn)步,以及邊緣人工智能在不同行業(yè)的融合。徐明還稱,“NPU正在推動人工智能時代的計算周期(Computing Cycles)演進(jìn),同時其設(shè)備規(guī)??蛇_(dá)百億數(shù)量級別,遠(yuǎn)超移動互聯(lián)網(wǎng)、桌面互聯(lián)網(wǎng)和PC時代。”
但鑒于邊緣人工智能的部署面臨一些挑戰(zhàn),成功應(yīng)用AI芯片需要端到端人工智能解決方案,包括適用于各種應(yīng)用的可擴(kuò)展NPU,便于部署的人工智能SDK和工具,用于參考/優(yōu)化AI模型的Model zoo框架,可互補(bǔ)解決方案的生態(tài)系統(tǒng),以及面向未來的人工智能架構(gòu)。
對此,徐明強(qiáng)調(diào),Ceva針對性地提出了相關(guān)人工智能戰(zhàn)略,即通過可擴(kuò)展的NPU+SDK助力智能邊緣,而這一戰(zhàn)略的支柱是“連接”“感知”和“推理”?!拔覀冎铝τ跒楦餍懈鳂I(yè)提供軟件和芯片IP 解決方案,助力客戶更快、更可靠、更高效、更經(jīng)濟(jì)地將創(chuàng)新的尖端產(chǎn)品推向市場”。其中,在可擴(kuò)展的NPU系列方面,包括支持從數(shù)據(jù)中心到邊緣設(shè)備的AI推理,以及優(yōu)化超低功耗和實時性能。在全棧集成方面,硬件工具主要有NeuPro NPUs+ SensPro DSP,軟件工具主要包括NeuPro-Studio SDK、圖形編譯器。
進(jìn)一步來看,Ceva的NeuPro-M和NeuPro-Nano兩大產(chǎn)品解決方案,是適用于各種工作負(fù)載的全套NPU IP,同時統(tǒng)一的AI SDK易于采用,可廣泛應(yīng)用于預(yù)測與維護(hù)、健康及健身、物體識別、監(jiān)控、ADAS和Co-Pilot等應(yīng)用場景。整體上,根據(jù)10GOPS-1TOPS、1-10 TOPS、10-400 TOPS三個不同算力等級劃分,Ceva針對性布局了Edge AI – 32-512 MACs、1K-4K MACs和8K-128K產(chǎn)品,使得NeuPro NPU系列支持任何邊緣人工智能部署。
徐明還稱,在整個行業(yè)中,Ceva的NeuPro NPU具備重要的優(yōu)勢和差異化特征,即可擴(kuò)展性、極致能效比和高度集成性。CEVA針對transformer網(wǎng)絡(luò)做了原生的支持和優(yōu)化,特別適合生成式AI。可以實現(xiàn)高吞吐量的人工智能應(yīng)用,且只消耗最小的功耗——針對Llama 2 和3.2的一些網(wǎng)絡(luò)可達(dá)3500Tokens每秒/瓦的性能。其次,在NPU架構(gòu)可擴(kuò)展性方面,單核算力可橫跨MCU到高端SoC(10 GOPS - 400 TOPS),以支持音頻、視覺、故障檢測、智能手機(jī)、ADAS等應(yīng)用。另外,CEVA融合了DSP與NPU,具有傳感器數(shù)據(jù)前處理、AI推理、后處理的統(tǒng)一平臺。
在致力于推動邊緣人工智能芯片發(fā)展的同時,Ceva正利用可擴(kuò)展的低功耗IP平臺,助力客戶產(chǎn)品實現(xiàn)數(shù)據(jù)傳輸、數(shù)據(jù)交互等能力,乃至滿足各類終端市場關(guān)鍵的應(yīng)用需求,進(jìn)而在全球擁有廣泛、多元的客戶基礎(chǔ)并受到全球頂級品牌信賴,其中包括各大小型Fabless、OEM。
基于領(lǐng)先的IP 解決方案和龐大應(yīng)用基礎(chǔ),Ceva旨在引領(lǐng)芯片和軟件IP的未來。徐明表示,“Ceva圍繞連接、感知和推理布局的各大產(chǎn)品線已經(jīng)無處不在,廣泛應(yīng)用于消費物聯(lián)網(wǎng)、汽車、工業(yè)、基礎(chǔ)設(shè)施、個人電腦和移動終端等領(lǐng)域,并覆蓋眾多賽道、細(xì)分領(lǐng)域的主流品牌。目前,由Ceva提供支持的設(shè)備每秒都有超過60個產(chǎn)品在出貨,而且Ceva驅(qū)動的設(shè)備年出貨量已超過20億。迄今為止,采用Ceva的設(shè)備已經(jīng)達(dá)到了190億以上。”
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.