6月6日消息,近日,愛簿智能正式推出面向邊緣場(chǎng)景打造的E300 AI計(jì)算模組。
據(jù)介紹,E300搭載愛簿智能自研AI SoC芯片AB100,具備高達(dá)50TOPS的INT8算力和102GB/s LPDDR5內(nèi)存帶寬,支持FP16/FP32混合精度計(jì)算,專為邊緣側(cè)高性能AI任務(wù)設(shè)計(jì),旨在為各行業(yè)提供高算力、低延遲、強(qiáng)可靠的國(guó)產(chǎn)化AI解決方案。
依托全棧AI工具鏈與端云協(xié)同架構(gòu),E300深度融合邊緣生成式AI與計(jì)算機(jī)視覺能力,可在本地完成模型推理、動(dòng)態(tài)感知與數(shù)據(jù)處理,并通過云端進(jìn)行統(tǒng)一調(diào)度與策略更新,覆蓋工業(yè)、交通、安防等多類“云邊端”融合應(yīng)用場(chǎng)景。
同時(shí),愛簿智能提供E300模組的完整開發(fā)套件,包含模組、開發(fā)板、散熱、存儲(chǔ)和電源等組件,以及技術(shù)文檔和專項(xiàng)支持。依托愛簿智能完善的生態(tài)系統(tǒng),用戶可獲取全面的軟硬件設(shè)計(jì)參考方案,確保系統(tǒng)級(jí)的兼容性,實(shí)現(xiàn)從模組到整機(jī)的高效開發(fā),加速AI邊緣設(shè)備的商業(yè)化落地。
此外,E300兼容PyTorch、vLLM等主流AI框架,支持訓(xùn)練與推理全流程。在大模型優(yōu)化領(lǐng)域,能夠高效運(yùn)行DeepSeek、Qwen、Llama 等主流開源大語言模型,并通過量化與剪枝技術(shù),實(shí)現(xiàn)百億參數(shù)大模型的邊緣側(cè)輕量化部署。
愛簿智能成立于2021年,是一家專注于系統(tǒng)級(jí)芯片(SoC)及智能終端設(shè)備的科技企業(yè),致力于為業(yè)界提供領(lǐng)先的SoC、模組及智能終端解決方案。
“E300 AI計(jì)算模組的發(fā)布,是愛簿智能深耕智能計(jì)算領(lǐng)域的重要成果。”愛簿智能創(chuàng)始人兼CEO孫玉昆表示,“未來,愛簿智能將持續(xù)以技術(shù)創(chuàng)新為引擎,聯(lián)合產(chǎn)業(yè)鏈上下游生態(tài)伙伴,構(gòu)建開放協(xié)同的智能計(jì)算新生態(tài),推動(dòng)AI算力在更多垂直場(chǎng)景中深度落地。”(袁寧)
本文來自網(wǎng)易科技報(bào)道,更多資訊和深度內(nèi)容,關(guān)注我們。