如果您正在尋找自己的個人AI超級計算機,英偉達(dá)Nvidia可以滿足您的需求。
這家芯片制造商剛剛在CES上宣布,將于5月推出一款名為Project Digits的個人人工智能超級計算機。Project Digit的核心是新的GB10 Grace Blackwell Superchip,它具有足夠的處理能力來運行復(fù)雜的人工智能模型,同時又足夠緊湊,可以放在桌子上并從標(biāo)準(zhǔn)電源插座運行(這種處理能力過去常常需要更大、更耗電的系統(tǒng))。這個系統(tǒng)可以處理多達(dá)2000億個參數(shù)的AI模型,起價為3000美元。該產(chǎn)品本身看起來很像Mac Mini。
英偉達(dá)首席執(zhí)行官黃仁勛在新聞稿中表示:“人工智能將成為每個行業(yè)每個應(yīng)用程序的主流。通過數(shù)字項目,Grace Blackwell超級芯片將惠及數(shù)百萬開發(fā)者。”。“將人工智能超級計算機放在每個數(shù)據(jù)科學(xué)家、人工智能研究人員和學(xué)生的桌子上,使他們能夠參與并塑造人工智能時代。”。
每個Project Digits系統(tǒng)都配備了128GB的統(tǒng)一連貫內(nèi)存(相比之下,一臺好的筆記本電腦可能有16GB或32GB的RAM)和高達(dá)4TB的NVMe存儲。對于要求更高的應(yīng)用程序,兩個Project Digits系統(tǒng)可以連接在一起,處理多達(dá)4050億個參數(shù)的模型(Meta的最佳模型Llama 3.1有4050億參數(shù))。
GB10芯片以FP4精度提供高達(dá)1 petaflop的AI性能(這意味著它每秒可以執(zhí)行1千萬億次AI計算),該系統(tǒng)采用Nvidia最新一代CUDA內(nèi)核和第五代Tensor內(nèi)核,通過NVLink-C2C連接到包含20個基于Arm的節(jié)能內(nèi)核的Grace CPU。以基于Arm的芯片設(shè)計而聞名的聯(lián)發(fā)科公司合作開發(fā)了GB10,以優(yōu)化其能效和性能。
用戶還可以訪問英偉達(dá)的人工智能軟件庫,包括通過英偉達(dá)NGC目錄提供的開發(fā)工具包、編排工具和預(yù)先訓(xùn)練的模型。該系統(tǒng)運行在基于Linux的Nvidia DGX操作系統(tǒng)上,支持PyTorch、Python和Jupyter筆記本等流行框架。開發(fā)人員可以使用英偉達(dá)NeMo框架對模型進行微調(diào),并使用英偉達(dá)RAPID庫加速數(shù)據(jù)科學(xué)工作流程。
用戶可以在Project Digits上本地開發(fā)和測試他們的AI模型,然后使用相同的Grace Blackwell架構(gòu)和英偉達(dá) AI 企業(yè)軟件平臺將其部署到云服務(wù)或數(shù)據(jù)中心基礎(chǔ)設(shè)施。
Nvidia以相同的可訪問性風(fēng)格提供了一系列類似的設(shè)備——去年12月,它宣布推出一款售價249美元的Jetson計算機,用于人工智能應(yīng)用程序,面向業(yè)余愛好者和初創(chuàng)公司,名為Jetson Orin Nano Super(它可處理多達(dá)80億個參數(shù)的模型)。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.