4月11日，正在上海大學(xué)舉行的2024 ASC世界大學(xué)生超級(jí)計(jì)算機(jī)競(jìng)賽（ASC24）總決賽進(jìn)入首個(gè)正式比賽日。從全球300多支隊(duì)伍中晉級(jí)的25強(qiáng)戰(zhàn)隊(duì)，基于此前在決賽現(xiàn)場(chǎng)安裝設(shè)計(jì)的小型超算集群，展開了大模型推理優(yōu)化、超級(jí)團(tuán)隊(duì)賽、HPL&HPCG基準(zhǔn)測(cè)試三道賽題的比拼。

大模型推理優(yōu)化賽題，要求參賽隊(duì)伍基于開源大語(yǔ)言模型AquilaChat2-34B，構(gòu)建并優(yōu)化推理引擎，在組委會(huì)提供的樣本數(shù)據(jù)集上使用4bit及以下量化來(lái)進(jìn)行推理，在保證精度的前提下提升推理速度。各參賽隊(duì)伍需要充分了解并掌握大模型常見的量化策略與并行方法，并學(xué)習(xí)使用各種技術(shù)來(lái)優(yōu)化推理過(guò)程。

中國(guó)科技大學(xué)隊(duì)的五位隊(duì)員都是第一次參加ASC總決賽，賽前他們對(duì)大模型推理優(yōu)化賽題進(jìn)行了深入研究，尤其針對(duì)4bit量化參考了大量論文，前后嘗試了十幾種優(yōu)化處理方案，最后選擇了其中的兩種進(jìn)行對(duì)比測(cè)試。通過(guò)這道賽題，他們的大模型推理調(diào)優(yōu)的水平得到了很大的提高，在比賽過(guò)程中探索、掌握了新的優(yōu)化技巧。

ASC24超級(jí)團(tuán)隊(duì)賽重點(diǎn)考察參賽隊(duì)伍跨團(tuán)隊(duì)協(xié)作解決超算與應(yīng)用的難題挑戰(zhàn)，參加決賽的25支隊(duì)伍通過(guò)抽簽的方式隨機(jī)分成5個(gè)“超級(jí)團(tuán)隊(duì)”，以跨團(tuán)隊(duì)合作的形式共同完成“地震波模擬”賽題。

ParaSeis 地震模型能夠清晰地模擬地震波在地球內(nèi)部的傳播過(guò)程，進(jìn)而應(yīng)用于地震預(yù)測(cè)和地震危險(xiǎn)性分析等領(lǐng)域。旨在通過(guò)模擬一系列具有時(shí)間相依特征的地震事件集，幫助科研人員深入理解地震發(fā)生的動(dòng)力學(xué)機(jī)制，推動(dòng)地震預(yù)測(cè)技術(shù)的發(fā)展。

齊魯工業(yè)大學(xué)隊(duì)表示：“地震波模擬本身就是一個(gè)復(fù)雜的科學(xué)計(jì)算問(wèn)題，涉及到復(fù)雜的數(shù)學(xué)模型和算法。由于是第一次合作，不同團(tuán)隊(duì)使用了不同的計(jì)算集群，團(tuán)隊(duì)之間需要解決代碼兼容性問(wèn)題，確保在每個(gè)隊(duì)伍的機(jī)器上都可以正常運(yùn)行。”

南方科技大學(xué)隊(duì)表示：“超級(jí)團(tuán)隊(duì)賽的賽題有一部分代碼年代比較久遠(yuǎn)，代碼風(fēng)格、編程語(yǔ)言和實(shí)現(xiàn)方法等與現(xiàn)代編程代碼有很大差異。不同團(tuán)隊(duì)成員需要通過(guò)分工去共同解決這些問(wèn)題，需要投入時(shí)間和精力去理解代碼邏輯，并對(duì)其進(jìn)行必要的修改和優(yōu)化，以便可以在現(xiàn)代計(jì)算機(jī)上使用。”

西南石油大學(xué)隊(duì)表示：“前期已和同組隊(duì)伍通過(guò)線上有過(guò)不少交流，但在線下感受了更加濃厚的互助氛圍，在這個(gè)過(guò)程中學(xué)到了很多優(yōu)化思路和方法。”

ASC超算競(jìng)賽采用國(guó)際最通用的超級(jí)計(jì)算機(jī)浮點(diǎn)性能基準(zhǔn)測(cè)試程序HPL，這也是全球超算TOP500排行的主要依據(jù)。ASC競(jìng)賽規(guī)則要求各參賽隊(duì)伍自行設(shè)計(jì)超算系統(tǒng)，在總功耗3000W約束下正確完成包括HPL計(jì)算性能基準(zhǔn)測(cè)試在內(nèi)的各項(xiàng)計(jì)算任務(wù)。

在今天上午進(jìn)行的HPL計(jì)算基準(zhǔn)性能測(cè)試中，浙江大學(xué)隊(duì)以100.1 TFlops浮點(diǎn)運(yùn)算性能的佳績(jī)位列榜首，這已是浙大隊(duì)連續(xù)第二年取得這道賽題第一。隊(duì)員們采用了與去年相似的集群方案，將更多功耗分配給GPU進(jìn)行應(yīng)用運(yùn)算，并做了更精細(xì)的功耗控制，從而在3000W功耗限制下實(shí)現(xiàn)了整體系統(tǒng)100.1 TFlops的HPL持續(xù)浮點(diǎn)運(yùn)算性能。

明日，25支總決賽戰(zhàn)隊(duì)將迎來(lái)滲流數(shù)值模擬、火星大氣模擬以及神秘應(yīng)用等高難度賽題，進(jìn)一步向冠亞軍、e Prize計(jì)算挑戰(zhàn)獎(jiǎng)等獎(jiǎng)項(xiàng)發(fā)起沖擊。

ASC世界大學(xué)生超級(jí)計(jì)算機(jī)競(jìng)賽（ASC Student Supercomputer Challenge）由中國(guó)發(fā)起組織，并得到亞洲及歐美相關(guān)專家和機(jī)構(gòu)支持，旨在通過(guò)大賽平臺(tái)推動(dòng)各國(guó)及地區(qū)間超算青年人才交流和培養(yǎng)，提升超算應(yīng)用水平和研發(fā)能力，發(fā)揮超算的科技驅(qū)動(dòng)力，促進(jìn)科技與產(chǎn)業(yè)創(chuàng)新。ASC超算大賽迄今已舉行至第十一屆，吸引來(lái)自全球六大洲上萬(wàn)名大學(xué)生報(bào)名參賽，是全球最大規(guī)模的大學(xué)生超算競(jìng)賽。