AI引領(lǐng)時(shí)代，算力驅(qū)動(dòng)未來。臨港新片區(qū)智算大會(huì)6月2日在上海自貿(mào)試驗(yàn)區(qū)臨港新片區(qū)啟幕。大會(huì)前夕，上海證券報(bào)獨(dú)家專訪商湯AI大裝置產(chǎn)業(yè)賦能中心主任蔣欽，對(duì)算力市場(chǎng)供需進(jìn)行了最新研判。

蔣欽說，以GPU為主的人工智能算力近年來呈現(xiàn)快速增長態(tài)勢(shì)，大模型的熱潮下，算力服務(wù)器目前呈現(xiàn)緊缺狀態(tài)，這種狀態(tài)預(yù)計(jì)將持續(xù)到明年。他還認(rèn)為，大模型的發(fā)展還和智能算力底座有著深刻聯(lián)系，需要在大規(guī)模資源匯聚的基礎(chǔ)上做好算力、算法、數(shù)據(jù)三要素的協(xié)同實(shí)踐和聯(lián)合優(yōu)化，才能訓(xùn)練出更好的大模型，助力實(shí)體經(jīng)濟(jì)高質(zhì)量發(fā)展。

上海證券報(bào)：ChatGPT出來以后，不少人覺得算力不夠了。您對(duì)現(xiàn)在市場(chǎng)上的算力需求，有怎樣的預(yù)判？

(相關(guān)資料圖)

蔣欽：非常直觀的感受是，由大模型為代表引發(fā)的AI新技術(shù)熱潮，帶動(dòng)整個(gè)算力需求呈現(xiàn)出非常旺盛的態(tài)勢(shì)。可以預(yù)見，未來一段時(shí)間內(nèi)，對(duì)于AI算力的整體需求將會(huì)持續(xù)增長。當(dāng)前市場(chǎng)上，算力服務(wù)器是持續(xù)緊缺的狀態(tài)，或者說整個(gè)配貨的周期會(huì)非常長。

根據(jù)目前我們?cè)谛袠I(yè)了解的情況來看，服務(wù)器廠商估計(jì)要等待3至6個(gè)月以上才能大批量拿到最新型號(hào)的AI芯片，所以行業(yè)整體判斷下來，AI芯片短缺的情況至少會(huì)持續(xù)到明年。

大模型的特點(diǎn)是，除了需要高性能的服務(wù)器，還需要通過打造高速訓(xùn)練集群來做支撐。這和以往或上一代人工智能研究的技術(shù)有很大區(qū)別。之前我們做小模型時(shí)，可能只需要單機(jī)，或少量幾臺(tái)服務(wù)器，就能滿足研究要求，就可以做相應(yīng)開發(fā)。

但是，當(dāng)下，如果我們要做大模型，要打造基模型，整個(gè)模型的參數(shù)量、訓(xùn)練的數(shù)據(jù)量會(huì)非常龐大，需要堆疊的算力資源也會(huì)相應(yīng)地大得多，研究團(tuán)隊(duì)往往需要500甚至1000張以上AI芯片連成的大規(guī)模算力集群才能有效開展訓(xùn)練任務(wù)。它除了對(duì)AI算力服務(wù)器的數(shù)量需求增加之外，對(duì)于AI服務(wù)器之間的高速互聯(lián)也有很高的要求。要想在大集群上穩(wěn)定的跑大模型訓(xùn)練任務(wù)，需要有穩(wěn)定、高速的網(wǎng)絡(luò)帶寬，它對(duì)于集群內(nèi)部包括服務(wù)器與服務(wù)器之間、卡與卡之間的通信都有非常高的要求。所以它除了對(duì)AI算力服務(wù)器的需求很旺盛之外，對(duì)于高速的網(wǎng)卡、網(wǎng)絡(luò)交換機(jī)，以及網(wǎng)線等集群配套資源都會(huì)產(chǎn)生強(qiáng)需求，這些也是當(dāng)前市場(chǎng)上比較稀缺的資源。

上海證券報(bào)：北上廣深等城市近年來紛紛發(fā)布支持人工智能發(fā)展的新政策。比如近日上海推出的加大民間投資“20條”新政策中就提到，要充分發(fā)揮人工智能創(chuàng)新發(fā)展專項(xiàng)等引導(dǎo)作用，支持民營企業(yè)廣泛參與數(shù)據(jù)、算力等人工智能基礎(chǔ)設(shè)施建設(shè)。您怎么看這個(gè)趨勢(shì)？

蔣欽：一方面，整個(gè)算力結(jié)構(gòu)正在發(fā)生明顯變化。

我們所謂的算力，其實(shí)并不是單一概念，它包括通用算力，就是以CPU芯片為主的算力；還包括超算，就是各種超算中心提供的高性能算力，主要服務(wù)于科學(xué)計(jì)算；還有目前非常熱門的智能算力，即以GPU為典型代表的，以AI芯片為主的服務(wù)于人工智能訓(xùn)練和推理相關(guān)需求的計(jì)算能力。

其中，以AI芯片為主的人工智能算力近年來呈現(xiàn)快速增長態(tài)勢(shì)。中國信通院統(tǒng)計(jì)顯示，2016年，整個(gè)算力結(jié)構(gòu)中，國內(nèi)人工智能算力比例只占3%左右。到2022年，整個(gè)人工智能算力比重已超過50%。

我認(rèn)為，人工智能算力作為當(dāng)前最具活力和創(chuàng)新力的一種新型生產(chǎn)力，它已經(jīng)成為整個(gè)算力產(chǎn)業(yè)發(fā)展的重要方向。人工智能發(fā)展和多元化應(yīng)用需求催生了算力的迭代升級(jí)，從算力結(jié)構(gòu)來看，人工智能算力正處于風(fēng)口。

雖然純CPU算力也能用來進(jìn)行部分人工智能計(jì)算，但效率非常低、能耗非常高，我們不可能用這樣的算力形式去支撐人工智能產(chǎn)業(yè)的發(fā)展。所以，搭載以AI芯片為主的新型算力基礎(chǔ)設(shè)施是未來發(fā)展的重要趨勢(shì)和熱潮，政策上也會(huì)對(duì)這塊有重點(diǎn)傾斜和支持。

所以，我們看到，北上廣深在發(fā)布新的關(guān)于人工智能產(chǎn)業(yè)支持政策時(shí)，一大重點(diǎn)內(nèi)容就是支持新型算力基礎(chǔ)設(shè)施建設(shè)，支持智能化算力的發(fā)展。因?yàn)?，在人工智能的產(chǎn)業(yè)浪潮下，在大模型的時(shí)代趨勢(shì)下，人工智能算力會(huì)成為一種核心資源。只有大規(guī)模發(fā)展智能算力，才能支撐好、服務(wù)好我們未來整個(gè)的智能時(shí)代。

另一方面，頭部企業(yè)在其中發(fā)揮了重要作用。

我們看到大模型出來之后對(duì)智能算力的需求達(dá)到了一個(gè)井噴狀態(tài)，但實(shí)際上，早在2020年開始，包括阿里、騰訊等互聯(lián)網(wǎng)大廠，華為、曙光等硬件服務(wù)器廠商，以及以商湯為代表的人工智能企業(yè)，隨著人工智能應(yīng)用需求的持續(xù)增長，都已經(jīng)開始在重點(diǎn)布局人工智能基礎(chǔ)設(shè)施。

目前，全國各地一線城市、省會(huì)城市等，都依托頭部企業(yè)在自主創(chuàng)新、技術(shù)迭代、產(chǎn)業(yè)生態(tài)等方面的優(yōu)勢(shì)，重點(diǎn)布局建設(shè)人工智能算力中心。

其中，位于臨港新片區(qū)的商湯人工智能計(jì)算中心，就是目前全亞洲規(guī)模最大的人工智能計(jì)算中心之一，可以說是一個(gè)典型的代表。

上海證券報(bào)：您認(rèn)為商湯在臨港新片區(qū)的人工智能基礎(chǔ)設(shè)施現(xiàn)在處于什么樣的水平？接下來商湯會(huì)如何依托臨港的政策和產(chǎn)業(yè)優(yōu)勢(shì)，實(shí)現(xiàn)更高質(zhì)量發(fā)展？

蔣欽：第一，臨港這個(gè)項(xiàng)目是商湯從2020年開始投資建設(shè)的，然后在去年年初正式點(diǎn)亮試運(yùn)營。截至今天，整個(gè)算力規(guī)模已經(jīng)達(dá)到了5000P flops的算力體量，超過了當(dāng)時(shí)設(shè)計(jì)的算力規(guī)模水平。作為亞洲已投入使用的、最大規(guī)模的單節(jié)點(diǎn)智能計(jì)算中心，這里邊除了算力規(guī)模體量很大之外，與之相配套的人工智能模型開發(fā)工具，針對(duì)大模型的訓(xùn)練、推理、數(shù)據(jù)優(yōu)化服務(wù)等等，都具備一整套全鏈路的產(chǎn)品與服務(wù)能力支撐，可以高效率、低成本、規(guī)?；闹魏头?wù)好目前以大模型為代表的整個(gè)人工智能產(chǎn)業(yè)的高速發(fā)展，這是我們項(xiàng)目的特點(diǎn)和優(yōu)勢(shì)。

第二，圍繞臨港來說的話，一方面我們要進(jìn)一步去夯實(shí)算力底座本身，在進(jìn)一步擴(kuò)大算力規(guī)模的基礎(chǔ)上，在算力軟件平臺(tái)相關(guān)技術(shù)領(lǐng)域，持續(xù)進(jìn)行技術(shù)攻關(guān)，包括對(duì)于集群架構(gòu)、集群網(wǎng)絡(luò)、存儲(chǔ)性能、能源管理等多方面的優(yōu)化，對(duì)于大模型訓(xùn)練與推理的定向支持等等，在各個(gè)方面去做相應(yīng)的技術(shù)迭代更新，去支撐更大規(guī)模的算力集群的落地，助力臨港打造智能算力的新高地。

另一方面，臨港本身具有非常強(qiáng)大的區(qū)域產(chǎn)業(yè)優(yōu)勢(shì)，集聚了集成電路、人工智能、生物醫(yī)藥、高端裝備制造、新能源汽車等核心優(yōu)勢(shì)產(chǎn)業(yè)，產(chǎn)業(yè)密集度非常高。這些優(yōu)勢(shì)產(chǎn)業(yè)與智能算力都有著高度關(guān)聯(lián)性。圍繞臨港區(qū)域的優(yōu)勢(shì)產(chǎn)業(yè)去打造人工智能基礎(chǔ)設(shè)施行業(yè)解決方案與豐富的產(chǎn)業(yè)上下游生態(tài)，做好產(chǎn)業(yè)智能化升級(jí)的算力底座，持續(xù)參與上海及臨港的人工智能產(chǎn)業(yè)生態(tài)的建設(shè)與發(fā)展，這也是我們整個(gè)項(xiàng)目的一個(gè)總體發(fā)展規(guī)劃。

上海證券報(bào)：除了商湯“日日新”大模型外，商湯智算中心在大模型領(lǐng)域的用戶主要以哪些類型的企業(yè)為主，為哪些類型的企業(yè)賦能比較多？您對(duì)智算產(chǎn)業(yè)的發(fā)展有何預(yù)判？

蔣欽：商湯智算中心除了賦能我們自身的大模型，為“日日新Sense Nova大模型”提供底層算力基座，提供AI工具的支撐之外，也為其他客戶提供AI相關(guān)的基礎(chǔ)能力。目前，臨港商湯智算中心通過云服務(wù)的方式，已在泛互聯(lián)網(wǎng)、泛娛樂、自動(dòng)駕駛、科研院所等多個(gè)領(lǐng)域里支持了十余家大模型客戶的開發(fā)工作，我們?yōu)榭蛻籼峁┖Ａ克懔Y源以及相關(guān)AI服務(wù)。

面向大模型訓(xùn)練，大規(guī)模算力是必要支撐，同時(shí)大模型在訓(xùn)練完成后，在推理過程中也需要消耗大量算力來保證大模型所加持應(yīng)用的高質(zhì)量服務(wù)體驗(yàn)。隨著大模型訓(xùn)練和推理需求的疊加，可以預(yù)見對(duì)于智能算力的需求在未來幾年將持續(xù)增長。

上海證券報(bào)：如何看待當(dāng)前的大模型浪潮？

蔣欽：我認(rèn)為，本輪大模型浪潮帶來的技術(shù)發(fā)展、技術(shù)演進(jìn)，是整個(gè)人工智能三要素算力、算法、數(shù)據(jù)進(jìn)行大規(guī)模資源堆疊的結(jié)果，可以說是暴力美學(xué)的勝利。其實(shí)這背后更深刻的原因是基于算力、算法及數(shù)據(jù)三要素進(jìn)行協(xié)同優(yōu)化，獲得最佳工程實(shí)踐的結(jié)果。大模型的發(fā)展是AI基礎(chǔ)研發(fā)能力與系統(tǒng)工程能力的綜合體現(xiàn)。

所以，我們需要處理好人工智能三要素之間的關(guān)系，做好聯(lián)合調(diào)優(yōu)。我們已經(jīng)發(fā)現(xiàn)，并不是簡單的算力越大，算法模型結(jié)構(gòu)越復(fù)雜，訓(xùn)練數(shù)據(jù)量越多，大模型訓(xùn)練效果就一定越好。這里面有著非常復(fù)雜的系統(tǒng)性難題，需要有相應(yīng)的行業(yè)積累、專家知識(shí)沉淀、工程實(shí)踐經(jīng)驗(yàn)才能把這個(gè)事情做好。

因此，在大模型時(shí)代，也需要有能與之相匹配的面向未來的人工智能新型基礎(chǔ)設(shè)施。這其中，以商湯人工智能計(jì)算中心為代表，我們以多年經(jīng)驗(yàn)積累的AI原生計(jì)算平臺(tái)對(duì)外提供平臺(tái)能力。除了提供大規(guī)模算力資源之外，更重要的是，將商湯過往在大模型領(lǐng)域的專家知識(shí)沉淀與系統(tǒng)化工程能力進(jìn)行了很好的整合，其中標(biāo)準(zhǔn)化的部分我們通過軟件工具的方式對(duì)外提供產(chǎn)品，非標(biāo)準(zhǔn)化的部分我們通過訓(xùn)練、推理優(yōu)化服務(wù)、數(shù)據(jù)管理服務(wù)的方式對(duì)外提供服務(wù)，從而全棧加速大模型的生產(chǎn)部署，更好地幫助各行各業(yè)開發(fā)人員快速掌握AI生產(chǎn)能力。這也是我認(rèn)為，在大模型浪潮下，未來新型算力基礎(chǔ)設(shè)施一個(gè)大的發(fā)展方向與趨勢(shì)。

（文章來源：上海證券報(bào)·中國證券網(wǎng)）

關(guān)鍵詞：