45億參數(shù)科學(xué)大模型一天訓(xùn)完

中國(guó)教育報(bào)-中國(guó)教育新聞網(wǎng)訊（記者 任朝霞）6月27日，國(guó)內(nèi)高校最大的云上科研智算平臺(tái)CFFF（Computing for the Future at Fudan）在復(fù)旦大學(xué)正式上線。這臺(tái)為發(fā)現(xiàn)和解決復(fù)雜科學(xué)問(wèn)題而建的科研“超級(jí)計(jì)算機(jī)”由復(fù)旦大學(xué)與阿里云、中國(guó)電信共同打造，以先進(jìn)的公共云模式提供超千卡并行智能計(jì)算，支持千億參數(shù)的大模型訓(xùn)練——這在國(guó)內(nèi)高校中尚屬首例，也領(lǐng)先于斯坦福大學(xué)等國(guó)際知名高校。

目前，首個(gè)基于CFFF平臺(tái)訓(xùn)練的科學(xué)大模型成果已正式發(fā)布，45億參數(shù)大模型一天訓(xùn)完。

復(fù)旦大學(xué)校長(zhǎng)、中國(guó)科學(xué)院院士金力表示，在數(shù)據(jù)和智能技術(shù)驅(qū)動(dòng)的“大科學(xué)時(shí)代”，如何在日新月異的科技創(chuàng)新環(huán)境中贏得主動(dòng)，在關(guān)鍵領(lǐng)域取得創(chuàng)新突破，是時(shí)代給予高校的命題。以CFFF平臺(tái)為代表的智算平臺(tái)作為一種新興的科研超算架構(gòu)，將成為科研的重要支撐力量，極大提升科研效率、降低科研成本，加速科學(xué)原理發(fā)現(xiàn)和技術(shù)突破，并有力推動(dòng)科學(xué)大模型的落地。

延續(xù)復(fù)旦大學(xué)“博學(xué)而篤志，切問(wèn)而近思”的校訓(xùn)，CFFF平臺(tái)由面向多學(xué)科融合創(chuàng)新的AI for Science智能計(jì)算集群“切問(wèn)”一號(hào)和面向高精尖研究的專(zhuān)用高性能計(jì)算集群“近思”一號(hào)兩部分組成。

復(fù)旦大學(xué)浩清教授、人工智能創(chuàng)新與產(chǎn)業(yè)研究院院長(zhǎng)漆遠(yuǎn)介紹，基于百G高速數(shù)據(jù)傳輸網(wǎng)和阿里云全球領(lǐng)先的大規(guī)模異構(gòu)算力融合調(diào)度技術(shù)、分級(jí)存儲(chǔ)技術(shù)、AI與大數(shù)據(jù)一體化技術(shù)，部署在復(fù)旦校內(nèi)的“近思”一號(hào)和托管在1500公里外阿里云烏蘭察布數(shù)據(jù)中心的“切問(wèn)”一號(hào)連成了一臺(tái)真正意義上的“超級(jí)計(jì)算機(jī)”，復(fù)旦四校區(qū)的所有實(shí)驗(yàn)設(shè)備都能高速接入，做到異構(gòu)算力統(tǒng)一管理，計(jì)算任務(wù)統(tǒng)一調(diào)度，滿足不同應(yīng)用場(chǎng)景下的科學(xué)智能研究與應(yīng)用需求。

它還擁有國(guó)內(nèi)高校最大規(guī)模的多級(jí)數(shù)據(jù)冷熱分層存儲(chǔ)集群，解決了海量科研數(shù)據(jù)無(wú)法長(zhǎng)期備份的痛點(diǎn)，并支持云上高速傳輸。

位于“東數(shù)西算”節(jié)點(diǎn)上的阿里云烏蘭察布數(shù)據(jù)中心，以公共云模式為復(fù)旦校內(nèi)多學(xué)院的多個(gè)科研項(xiàng)目提供更高性能、更具彈性、更低成本和更綠色的智能計(jì)算服務(wù)。漆遠(yuǎn)表示，有賴(lài)于公共云模式，跑在CFFF平臺(tái)上的項(xiàng)目可享受到超千卡并行的智能算力，千卡并行的有效算力達(dá)到行業(yè)領(lǐng)先的92%，可拓展性達(dá)到萬(wàn)卡，萬(wàn)卡并行有效算力也可達(dá)90%。

同時(shí)，CFFF平臺(tái)更加低碳。阿里云綠色數(shù)據(jù)中心技術(shù)結(jié)合烏蘭察布當(dāng)?shù)靥烊坏臍夂騼?yōu)勢(shì)，CFFF平臺(tái)可實(shí)現(xiàn)年平均PUE小于1.2，每年節(jié)省總電力超過(guò)2000千瓦，節(jié)省電費(fèi)500萬(wàn)元，年均節(jié)碳量達(dá)15噸。

據(jù)悉，CFFF平臺(tái)從開(kāi)始建設(shè)的第一天起，就收到了來(lái)自復(fù)旦不同院系的多種研究需求，不僅涵蓋生命科學(xué)、大氣科學(xué)、材料科學(xué)領(lǐng)域，也包括金融系統(tǒng)分析等社會(huì)科學(xué)研究。平臺(tái)上的云原生與低代碼工程化AI開(kāi)發(fā)平臺(tái)，進(jìn)一步降低了AI與科研融合的門(mén)檻。

目前，CFFF平臺(tái)上的第一個(gè)科研成果已經(jīng)誕生。復(fù)旦大學(xué)人工智能創(chuàng)新與產(chǎn)業(yè)研究院李昊團(tuán)隊(duì)近期發(fā)布了45億參數(shù)量的中短期天氣預(yù)報(bào)大模型，預(yù)測(cè)效果在公開(kāi)數(shù)據(jù)集上首次達(dá)到業(yè)界公認(rèn)的ECMWF（歐洲中期天氣預(yù)報(bào)中心）集合平均水平，并將預(yù)測(cè)速度從原來(lái)的小時(shí)級(jí)縮短到了3秒內(nèi)。

這也是CFFF平臺(tái)上孕育出的第一個(gè)大模型。金力表示，復(fù)旦希望基于CFFF平臺(tái)建成一批具有世界級(jí)影響力的科學(xué)大模型，例如生命科學(xué)大模型、材料科學(xué)大模型、大氣科學(xué)大模型、集成電路大模型等。

復(fù)旦大學(xué)智能計(jì)算平臺(tái)CFFF"切問(wèn)“一號(hào)、”近思“一號(hào)”成功發(fā)布 學(xué)校供圖