45億參數(shù)科學大模型一天訓完

中國教育報-中國教育新聞網(wǎng)訊（記者 任朝霞）6月27日，國內(nèi)高校最大的云上科研智算平臺CFFF（Computing for the Future at Fudan）在復旦大學正式上線。這臺為發(fā)現(xiàn)和解決復雜科學問題而建的科研“超級計算機”由復旦大學與阿里云、中國電信共同打造，以先進的公共云模式提供超千卡并行智能計算，支持千億參數(shù)的大模型訓練——這在國內(nèi)高校中尚屬首例，也領(lǐng)先于斯坦福大學等國際知名高校。

目前，首個基于CFFF平臺訓練的科學大模型成果已正式發(fā)布，45億參數(shù)大模型一天訓完。

復旦大學校長、中國科學院院士金力表示，在數(shù)據(jù)和智能技術(shù)驅(qū)動的“大科學時代”，如何在日新月異的科技創(chuàng)新環(huán)境中贏得主動，在關(guān)鍵領(lǐng)域取得創(chuàng)新突破，是時代給予高校的命題。以CFFF平臺為代表的智算平臺作為一種新興的科研超算架構(gòu)，將成為科研的重要支撐力量，極大提升科研效率、降低科研成本，加速科學原理發(fā)現(xiàn)和技術(shù)突破，并有力推動科學大模型的落地。

延續(xù)復旦大學“博學而篤志，切問而近思”的校訓，CFFF平臺由面向多學科融合創(chuàng)新的AI for Science智能計算集群“切問”一號和面向高精尖研究的專用高性能計算集群“近思”一號兩部分組成。

復旦大學浩清教授、人工智能創(chuàng)新與產(chǎn)業(yè)研究院院長漆遠介紹，基于百G高速數(shù)據(jù)傳輸網(wǎng)和阿里云全球領(lǐng)先的大規(guī)模異構(gòu)算力融合調(diào)度技術(shù)、分級存儲技術(shù)、AI與大數(shù)據(jù)一體化技術(shù)，部署在復旦校內(nèi)的“近思”一號和托管在1500公里外阿里云烏蘭察布數(shù)據(jù)中心的“切問”一號連成了一臺真正意義上的“超級計算機”，復旦四校區(qū)的所有實驗設(shè)備都能高速接入，做到異構(gòu)算力統(tǒng)一管理，計算任務統(tǒng)一調(diào)度，滿足不同應用場景下的科學智能研究與應用需求。

它還擁有國內(nèi)高校最大規(guī)模的多級數(shù)據(jù)冷熱分層存儲集群，解決了海量科研數(shù)據(jù)無法長期備份的痛點，并支持云上高速傳輸。

位于“東數(shù)西算”節(jié)點上的阿里云烏蘭察布數(shù)據(jù)中心，以公共云模式為復旦校內(nèi)多學院的多個科研項目提供更高性能、更具彈性、更低成本和更綠色的智能計算服務。漆遠表示，有賴于公共云模式，跑在CFFF平臺上的項目可享受到超千卡并行的智能算力，千卡并行的有效算力達到行業(yè)領(lǐng)先的92%，可拓展性達到萬卡，萬卡并行有效算力也可達90%。

同時，CFFF平臺更加低碳。阿里云綠色數(shù)據(jù)中心技術(shù)結(jié)合烏蘭察布當?shù)靥烊坏臍夂騼?yōu)勢，CFFF平臺可實現(xiàn)年平均PUE小于1.2，每年節(jié)省總電力超過2000千瓦，節(jié)省電費500萬元，年均節(jié)碳量達15噸。

據(jù)悉，CFFF平臺從開始建設(shè)的第一天起，就收到了來自復旦不同院系的多種研究需求，不僅涵蓋生命科學、大氣科學、材料科學領(lǐng)域，也包括金融系統(tǒng)分析等社會科學研究。平臺上的云原生與低代碼工程化AI開發(fā)平臺，進一步降低了AI與科研融合的門檻。

目前，CFFF平臺上的第一個科研成果已經(jīng)誕生。復旦大學人工智能創(chuàng)新與產(chǎn)業(yè)研究院李昊團隊近期發(fā)布了45億參數(shù)量的中短期天氣預報大模型，預測效果在公開數(shù)據(jù)集上首次達到業(yè)界公認的ECMWF（歐洲中期天氣預報中心）集合平均水平，并將預測速度從原來的小時級縮短到了3秒內(nèi)。

這也是CFFF平臺上孕育出的第一個大模型。金力表示，復旦希望基于CFFF平臺建成一批具有世界級影響力的科學大模型，例如生命科學大模型、材料科學大模型、大氣科學大模型、集成電路大模型等。

復旦大學智能計算平臺CFFF"切問“一號、”近思“一號”成功發(fā)布 學校供圖