1.21
知識(shí)分子
The Intellectual
導(dǎo) 讀
《科學(xué)四十人》系列座談（左起，楊富強(qiáng)、李勇、陳云霽、丁肇豪、張永平）
無(wú)論是否支持人工智能 （AI） 的發(fā)展，我們都難以忽視一個(gè)重要的問(wèn)題，那就是AI的能耗。
關(guān)于AI的能耗，一篇廣為流傳的報(bào)道稱，ChatGPT 每日耗電量或超 50 萬(wàn)千瓦時(shí)，相當(dāng)于1.7萬(wàn)個(gè)美國(guó)家庭的能耗。還有研究估算，在最糟糕的場(chǎng)景下，未來(lái)谷歌AI的能耗將與像愛(ài)爾蘭這樣的國(guó)家相當(dāng)。然而另一方面，也有觀點(diǎn)認(rèn)為媒體和大眾選擇性關(guān)注估算結(jié)論較為夸張的研究，并將對(duì)AI能耗的擔(dān)憂視為社會(huì)對(duì)新技術(shù)慣有的反應(yīng)。
人工智能日新月異、能源領(lǐng)域錯(cuò)綜復(fù)雜，二者關(guān)系的都是人類未來(lái)。大模型的高速發(fā)展對(duì)電力系統(tǒng)的沖擊究竟有多大？大模型時(shí)代，如何提升AI系統(tǒng)的能效？AI基礎(chǔ)設(shè)施和電力基礎(chǔ)設(shè)施有哪些需要協(xié)調(diào)的地方？具體面臨哪些挑戰(zhàn)？
圍繞這些問(wèn)題，《知識(shí)分子·科學(xué)四十人》系列座談邀請(qǐng)到清華大學(xué)電子工程系教授、城市科學(xué)與計(jì)算研究中心負(fù)責(zé)人李勇，中國(guó)科學(xué)院計(jì)算技術(shù)研究所副所長(zhǎng)、處理器芯片全國(guó)重點(diǎn)實(shí)驗(yàn)室主任陳云霽，華北電力大學(xué)電氣與電子工程學(xué)院教授丁肇豪，能源基金會(huì)清潔電力項(xiàng)目主任張永平參與討論，主持人為北京大學(xué)氣候變化與能源轉(zhuǎn)型項(xiàng)目高級(jí)顧問(wèn)楊富強(qiáng)。威廉與佛洛拉·休利特基金會(huì)Edit Ruano致辭。
以下為論壇實(shí)錄。
● ● ●
楊富強(qiáng)： （AI） 與能源之間的關(guān)系。AI這個(gè)概念對(duì)大家來(lái)說(shuō)已經(jīng)耳熟能詳，我們幾乎每天都在討論。然而，要深入全面理解AI，可能許多人還難以做到。我們有幸邀請(qǐng)到了四位專家，他們將為我們闡釋AI與能源之間的聯(lián)系。我們相信，AI不僅會(huì)推動(dòng)工業(yè)革命，還會(huì)對(duì)能源革命、經(jīng)濟(jì)發(fā)展、政治和文化等多個(gè)領(lǐng)域產(chǎn)生深遠(yuǎn)的影響。這既是一個(gè)巨大的挑戰(zhàn)，也是一個(gè)巨大的機(jī)遇。
今天我們將討論的焦點(diǎn)放在能源與AI的結(jié)合上，探討AI能為能源行業(yè)帶來(lái)什么，以及能源如何反過(guò)來(lái)促進(jìn)AI的發(fā)展。先請(qǐng)各位嘉賓介紹一下各自研究應(yīng)用。
北京大學(xué)氣候變化與能源轉(zhuǎn)型項(xiàng)目高級(jí)顧問(wèn)楊富強(qiáng)
李勇：
雖然我在電子工程系工作，但我的研究并不涉及芯片硬件，而是聚焦于如何有效利用芯片算力。過(guò)去十多年的研究，我逐漸將研究重點(diǎn)放在了城市領(lǐng)域，因?yàn)槌鞘惺且粋€(gè)數(shù)據(jù)的寶庫(kù)，擁有大量的視頻和其他模態(tài)數(shù)據(jù)。王堅(jiān)院士曾提出，城市可能是世界上最“吃”算力的地方。因此，我選擇城市科學(xué)與計(jì)算作為我的研究方向。為此，我們系成立了城市科學(xué)計(jì)算研究中心，專注于處理和分析城市數(shù)據(jù)，以期實(shí)現(xiàn)城市智能化。
目前，城市發(fā)展正面臨兩個(gè)重要機(jī)遇：智能化和能源轉(zhuǎn)型。智能化是我所在的研究所的主要研究領(lǐng)域，而能源領(lǐng)域則對(duì)城市變革產(chǎn)生深遠(yuǎn)影響。隨著清潔能源在能源結(jié)構(gòu)中所占比例的增加，它已成為全球?qū)崿F(xiàn)碳中和目標(biāo)的關(guān)鍵路徑。
從信息的角度來(lái)看，物理世界的構(gòu)成包括時(shí)間、空間、物質(zhì)、能量和信息。能量與信息之間的轉(zhuǎn)換關(guān)系與我們今天討論的能源和智能緊密相關(guān)。因此，在進(jìn)行產(chǎn)業(yè)轉(zhuǎn)換時(shí)，我們考慮的是如何利用智能技術(shù)幫助能源行業(yè)更有效地利用能源?；谶@一理念，我們也孵化了一家名為清鵬智能的產(chǎn)業(yè)公司，主要關(guān)注如何運(yùn)用人工智能技術(shù)，將清潔能源與現(xiàn)有的電能、水能等主流能源形式整合，形成一個(gè)統(tǒng)一的能源系統(tǒng)。
清華大學(xué)電子工程系教授、城市科學(xué)與計(jì)算研究中心負(fù)責(zé)人李勇
陳云霽：
小時(shí)候，我爸常帶我去電廠，有時(shí)我們會(huì)在那里住上兩周。我一直認(rèn)為電廠是人類歷史上最偉大的創(chuàng)造之一。作為能源的中心，電廠也可以被看成是世界的中心。就像心臟通過(guò)血管將能量送往人的全身，電廠通過(guò)鐵塔將能源輸送到世界各地四面八方。
雖然沒(méi)有機(jī)會(huì)從事電力行業(yè)，但我從2002年開(kāi)始涉足了一個(gè)與電力有一點(diǎn)點(diǎn)關(guān)聯(lián)的研究領(lǐng)域：如何減少芯片耗電量。包括后來(lái)我們開(kāi)發(fā)了國(guó)際上首個(gè)專門用于深度學(xué)習(xí)的處理器芯片，初衷就是尋找更節(jié)能的方式來(lái)執(zhí)行深度學(xué)習(xí)任務(wù)。從那時(shí)起過(guò)去了二十多年，包括芯片設(shè)計(jì)、計(jì)算機(jī)科學(xué)、電子工程和算法研究等多個(gè)領(lǐng)域的專家共同努力，今天的芯片在處理神經(jīng)網(wǎng)絡(luò)操作時(shí)所需的能耗已經(jīng)降低了100倍甚至更多。然而，隨著大型模型的出現(xiàn)，對(duì)算力的需求增長(zhǎng)速度遠(yuǎn)遠(yuǎn)超過(guò)了我們降低能耗的速度。
中國(guó)科學(xué)院計(jì)算技術(shù)研究所副所長(zhǎng)、處理器芯片全國(guó)重點(diǎn)實(shí)驗(yàn)室主任陳云霽
丁肇豪：
我的工作分為兩個(gè)方面。從算力角度來(lái)看，我們研究如何讓算力基礎(chǔ)設(shè)施，也就是AI的基礎(chǔ)，更多地利用新能源，尤其是那些波動(dòng)性的可再生能源。簡(jiǎn)單來(lái)說(shuō)，我們探討的是如何讓一些可以中斷或者可以改變地理位置的算力任務(wù)，根據(jù)新能源的時(shí)間和空間分布調(diào)整，從而更多地使用新能源。這相當(dāng)于重新塑造算力負(fù)載的時(shí)空布局，使其能夠更好地利用新能源。
從電力系統(tǒng)的角度來(lái)看，隨著AI技術(shù)的發(fā)展，其電力負(fù)荷可能會(huì)占據(jù)全社會(huì)負(fù)荷中的很大比例。那么，電力系統(tǒng)需要靈活性和調(diào)節(jié)能力，讓這些AI基礎(chǔ)設(shè)施的電力負(fù)荷跟隨電力系統(tǒng)的需要而調(diào)整。比如一天之中，電力系統(tǒng)需要調(diào)峰、調(diào)頻。我們的工作是讓算力基礎(chǔ)設(shè)施通過(guò)調(diào)整計(jì)算任務(wù)來(lái)改變它們的電力負(fù)荷特性，將這些原本可能給電力系統(tǒng)平衡帶來(lái)挑戰(zhàn)的AI負(fù)荷，轉(zhuǎn)變?yōu)閷?duì)電力系統(tǒng)平衡產(chǎn)生積極支撐作用的靈活負(fù)荷。
華北電力大學(xué)電氣與電子工程學(xué)院教授丁肇豪
張永平：
我在能源基金會(huì)工作負(fù)責(zé)清潔電力項(xiàng)目。我們的使命是推動(dòng)可再生能源的發(fā)展，以取代化石能源，以應(yīng)對(duì)氣候危機(jī)。這是一個(gè)復(fù)雜的挑戰(zhàn)，不僅僅是建造風(fēng)電場(chǎng)和光伏電站，然后關(guān)閉煤電廠那么簡(jiǎn)單。首先，我們需要關(guān)注中國(guó)電力系統(tǒng)需求的變化，尤其是電力負(fù)荷的增長(zhǎng)，每年以5-10%的速度快速增長(zhǎng)。數(shù)據(jù)中心目前已經(jīng)占到2-3%的用電量，而AI智算中心用電增長(zhǎng)可能更快。
這不僅是用電量的問(wèn)題，更重要的是用電的負(fù)荷特性。數(shù)據(jù)中心的用電曲線相對(duì)平穩(wěn)，這對(duì)電力系統(tǒng)來(lái)說(shuō)是理想的，而且傳統(tǒng)的火電等電源相對(duì)容易調(diào)節(jié)，去滿足數(shù)據(jù)中心的用電需求。但我們希望使用波動(dòng)性的可再生能源，如風(fēng)能和太陽(yáng)能，來(lái)滿足未來(lái)數(shù)據(jù)中心的能源需求，這就帶來(lái)了挑戰(zhàn)：如果用電需求不能調(diào)節(jié)，而供給又是波動(dòng)的，我們?cè)撛趺崔k？我們正在研究如何利用波動(dòng)性的可再生能源滿足不同類型的用電需求，特別是數(shù)據(jù)中心的需求；探討是否能夠讓數(shù)據(jù)中心的用電也變得可調(diào)，這是個(gè)有趣的話題。
能源基金會(huì)清潔電力項(xiàng)目主任張永平
AI能耗是一種真實(shí)的“威脅”嗎？
楊富強(qiáng)：
陳云霽：
盡管AI很熱，已經(jīng)能幫我們改個(gè)稿子，但在實(shí)體空間中，尤其是在工業(yè)、生產(chǎn)和生活服務(wù)等領(lǐng)域，我們對(duì)于真正殺手級(jí)的應(yīng)用還是非常非常迫切需要的。所以應(yīng)用的重要性最高，同時(shí)也是最缺乏的。接下來(lái)是大模型。然后是芯片。最后是電力。今天我們還沒(méi)有聽(tīng)說(shuō)過(guò)有哪個(gè)很好的大模型應(yīng)用因?yàn)殡娏Σ蛔愣P(guān)門不干的。
再過(guò)十年，這種重要性可能會(huì)發(fā)生逆轉(zhuǎn)。我們可以預(yù)見(jiàn)，十年后，人工智能深入到實(shí)體經(jīng)濟(jì)和我們生活的各個(gè)角落，殺手級(jí)應(yīng)用非常普遍。隨著應(yīng)用數(shù)量的增長(zhǎng)，對(duì)電力的需求將遠(yuǎn)遠(yuǎn)超過(guò)現(xiàn)在。人工智能應(yīng)用目前主要局限于數(shù)字空間，但如果它們進(jìn)一步滲透到工廠、家庭、醫(yī)療和農(nóng)業(yè)等社會(huì)各個(gè)方面，電力消耗的占比可能不再是1.6%，而是16%甚至更多。到那時(shí)，重要性的順序可能會(huì)顛倒過(guò)來(lái)：電力將成為最關(guān)鍵的因素，其次是算力，然后是模型，最后才是應(yīng)用本身。
楊富強(qiáng)：
陳云霽：
此外，大模型的使用實(shí)際上分為兩個(gè)階段：訓(xùn)練和推理。訓(xùn)練是將大量數(shù)據(jù)輸入模型，使其變得更加聰明；推理則是我們真正向大模型提問(wèn)，得到答案。
楊富強(qiáng)：
陳云霽：
楊富強(qiáng)：
李勇：
我們剛才提到了一個(gè)關(guān)鍵問(wèn)題，即人工智能中的“能”與能源中的“能”之間的關(guān)系。這種關(guān)系涉及到我們?nèi)绾卧谛酒湍茉唇嵌葘?shí)現(xiàn)節(jié)能。能源角度的“能”是指能量，而人工智能的“智能”實(shí)際上是關(guān)于能力。這對(duì)應(yīng)于物質(zhì)世界構(gòu)成中的兩個(gè)重要概念：能量和信息。人工智能的能力本質(zhì)上是提供信息。為了更好地節(jié)能，我們需要將能量更好地服務(wù)于能力的產(chǎn)生，這就需要打通能量和信息之間的聯(lián)系。
從物理學(xué)的角度來(lái)看，物質(zhì)可以轉(zhuǎn)化為能量，再轉(zhuǎn)化為信息。我們已經(jīng)有一個(gè)完整的體系來(lái)描述時(shí)空、物質(zhì)和能量，但與信息，即與我們今天討論的人工智能能力之間，還存在很大的差距。我們今天討論的話題就是探索信息和能量之間是否可能產(chǎn)生更大的聯(lián)系，形成一個(gè)整體。從物理學(xué)的基本概念來(lái)看，能耗問(wèn)題涉及的是瓦特（功率單位），而人工智能的涉及的是比特（信息單位）。為了實(shí)現(xiàn)節(jié)能，我們需要在這兩個(gè)方向上努力。
“追漲殺跌”？
在電網(wǎng)最脆弱的時(shí)候，萬(wàn)卡集群不僅救不了它，
反而雪上加霜
丁肇豪：
大量的數(shù)據(jù)中心，或者說(shuō)智算中心，開(kāi)始涌現(xiàn)。這對(duì)電力行業(yè)帶來(lái)了顯著的變化。從電力供應(yīng)總量的角度來(lái)看，電力行業(yè)需要調(diào)整電力電量平衡模型。今年夏天，在IEEE電力與能源協(xié)會(huì)年會(huì)（PES GM：IEEE Power & Energy Society General Meeting）上，PJM電力規(guī)劃負(fù)責(zé)人分享了他們的經(jīng)歷。由于PJM涵蓋了美國(guó)主要數(shù)據(jù)中心的富集區(qū)，他們突然發(fā)現(xiàn)需要對(duì)電力規(guī)劃做出重大調(diào)整，因?yàn)樵S多新的數(shù)據(jù)中心需要接入電網(wǎng)，而現(xiàn)有的輸電能力和電能供應(yīng)能力無(wú)法滿足這些新的需求。同樣的問(wèn)題也出現(xiàn)在美國(guó)德州，許多大型數(shù)據(jù)中心希望接入電網(wǎng)，卻發(fā)現(xiàn)電網(wǎng)沒(méi)有預(yù)留足夠的輸電通道能力，也沒(méi)有足夠或穩(wěn)定的電源供應(yīng)。
然而，我想進(jìn)一步討論的是，人工智能的發(fā)展對(duì)電力系統(tǒng)的影響遠(yuǎn)不止于此。在實(shí)時(shí)電力平衡方面，數(shù)據(jù)中心的發(fā)展也產(chǎn)生了重大影響。我舉一個(gè)例子，許多新的數(shù)據(jù)中心規(guī)劃已經(jīng)達(dá)到單個(gè)數(shù)據(jù)中心百兆瓦，甚至超過(guò)百兆瓦的規(guī)模。這些萬(wàn)卡、十萬(wàn)卡集群預(yù)訓(xùn)練時(shí)的功耗非常大。
楊富強(qiáng)：
丁肇豪：
陳云霽：
丁肇豪：
陳云霽：
丁肇豪：
吃兩三碗飯的人腦
和“吃”很多很多電的AI
楊富強(qiáng)：
陳云霽：
我想引用杰弗里·辛頓（Geoffrey Hinton）的觀點(diǎn)，他是一位獲得過(guò)圖靈獎(jiǎng)的科學(xué)家，最近也拿到諾貝爾獎(jiǎng)。辛頓提出了一個(gè)有趣的觀點(diǎn)，即“凡人計(jì)算”（mortal computation），涉及到物質(zhì)與信息之間的關(guān)系。人腦中的物質(zhì)與信息是強(qiáng)耦合的，軟件和硬件是綁定在一起的。人腦中的思想和信息都附著在物質(zhì)上，如果一個(gè)人去世，這些信息就會(huì)隨之消散。而計(jì)算機(jī)則不同，軟件和硬件是分離的，信息可以從一個(gè)硬件拷貝到另一個(gè)硬件，但我們不能把一個(gè)人大腦里的東西拷貝到另一個(gè)人的大腦里。
辛頓認(rèn)為，軟硬件的分離是導(dǎo)致計(jì)算機(jī)在處理神經(jīng)網(wǎng)絡(luò)時(shí)能耗特別高的一個(gè)重要原因。順著他的思路我再往下想，如果未來(lái)我們能夠開(kāi)發(fā)出一種計(jì)算機(jī)，其軟件和硬件完全一體化，可能只能處理特定的模型，不具備通用性，類似于人腦中物質(zhì)與信息的緊密結(jié)合，那么能耗可能會(huì)大幅降低?？傊蚁霃娜四X中汲取靈感，可能會(huì)幫助我們進(jìn)一步提高計(jì)算效率。
李勇：
兩者之間有一個(gè)重要區(qū)別：訓(xùn)練的時(shí)效性是可控制的，可以今天進(jìn)行，也可以推遲到明天，甚至一個(gè)月后完成，時(shí)間上的靈活性較大。相比之下，推理階段與業(yè)務(wù)實(shí)時(shí)綁定，對(duì)響應(yīng)時(shí)間有嚴(yán)格要求。因此，推理對(duì)底層硬件的要求更高。這也意味著在訓(xùn)練階段，算力和能耗的協(xié)同優(yōu)化有更大的空間，東數(shù)西算的策略在這里可以發(fā)揮作用。例如，在西北地區(qū)有豐富的風(fēng)能和太陽(yáng)能，可以在能源充足時(shí)計(jì)算，能源不足時(shí)則減少計(jì)算。
對(duì)于訓(xùn)練階段，根據(jù)能源供應(yīng)情況調(diào)整計(jì)算量的做法是可行的。但對(duì)于推理階段，這種場(chǎng)景可能并不適用，實(shí)現(xiàn)算電協(xié)同的挑戰(zhàn)更大。我的初步想法是，風(fēng)、太有不確定性，是否可以利用核能來(lái)彌補(bǔ)，長(zhǎng)遠(yuǎn)解決這個(gè)問(wèn)題。
陳云霽：
未來(lái)，我們可能會(huì)進(jìn)一步專用化。為大模型設(shè)計(jì)專門的芯片，甚至為某個(gè)特定大模型定制芯片，如果能夠?qū)崿F(xiàn)，越是專用芯片，能效一定越高。舉一個(gè)極端的例子，假設(shè)我們未來(lái)訓(xùn)練出了一個(gè)非常好的大模型，這個(gè)模型本身就具有足夠的通用性，能夠處理各種任務(wù)。那么，我們是否可以為這個(gè)特定的大模型定制一個(gè)芯片，讓它只能跑這一個(gè)大模型。如果是這樣，它的能效可能比現(xiàn)在的GPU還要高出100倍甚至1000倍，從而可能解決我們未來(lái)長(zhǎng)遠(yuǎn)的問(wèn)題。
但是現(xiàn)在我們還不能這么干，因?yàn)榇竽Ｐ偷难葸M(jìn)速度太快了。今天是GPT-4，明天是GPT-4o，后天是Sora……大模型的發(fā)展仍然處于一個(gè)快速變化的階段。如果未來(lái)大模型的發(fā)展逐漸穩(wěn)定，出現(xiàn)了一個(gè)主導(dǎo)性的、基本收斂的大模型，那么我們芯片設(shè)計(jì)者就可以為它專門定制芯片了。
從源隨荷動(dòng)到源荷互動(dòng)
張永平：
首先，從需求層面來(lái)看，數(shù)據(jù)中心，尤其是提供AI算力的智算中心，已經(jīng)成為了高耗能產(chǎn)業(yè)，其能耗問(wèn)題也備受關(guān)注。數(shù)據(jù)中心的能耗涵蓋了芯片、IT設(shè)備、空調(diào)制冷、備用柴油發(fā)電機(jī)、不間斷電源等多個(gè)方面。目前，數(shù)據(jù)中心的能效已經(jīng)相對(duì)較高，領(lǐng)先的數(shù)據(jù)中心的PUE指標(biāo)已經(jīng)接近1.1，這意味著進(jìn)一步提高能效的難度很大。但我們不能因?yàn)楦吆哪芫鸵种茢?shù)據(jù)中心的發(fā)展，就像不能因?yàn)殡妱?dòng)汽車充電多就不讓它充電，不是這個(gè)邏輯。
其次，從供給層面來(lái)看，我們?nèi)绾螐哪茉矗貏e是電力的角度來(lái)滿足數(shù)據(jù)中心的用電需求，特別是綠色需求。數(shù)據(jù)中心的用電需求量大，且在某些時(shí)段用電量非常高，這與核電，尤其是中小型、模塊化核電的供電特性非常匹配。在美國(guó)，OpenAI、Google、Meta等公司已經(jīng)在投資核電，以滿足未來(lái)的AI數(shù)據(jù)中心的用電需求。在中國(guó)，我們也在探索如何利用可再生能源來(lái)滿足數(shù)據(jù)中心的綠色用電需求。例如，許多數(shù)據(jù)中心的屋頂上都裝有光伏板，但這只能滿足一小部分電力需求，杯水車薪。為了使用更多的綠色能源，可以考慮建立大型園區(qū)，或者利用附近的風(fēng)電和太陽(yáng)能，這就需要配置儲(chǔ)能系統(tǒng)來(lái)平衡可再生能源的波動(dòng)性。同時(shí)大電網(wǎng)的兜底保障也還是必需的。
此外，如果數(shù)據(jù)中心附近沒(méi)有可再生能源，可以通過(guò)購(gòu)買綠色電力憑證或者通過(guò)金融手段來(lái)滿足需求。還有一個(gè)趨勢(shì)是，國(guó)家鼓勵(lì)將數(shù)據(jù)中心遷移到可再生能源豐富的地區(qū)，如西北地區(qū)，這樣可以減少電網(wǎng)傳輸?shù)男枨?，使得用電需求與清潔電力供給更加接近，用電成本更低，也助力可再生能源就地利用。
第三，數(shù)據(jù)中心與電網(wǎng)之間的互動(dòng)。AI大模型的訓(xùn)練階段和推理階段，用電特性是不同的。包括數(shù)據(jù)處理方面，冷數(shù)據(jù)和熱數(shù)據(jù)的處理需求也有所區(qū)別。通過(guò)智能調(diào)度算力，我們可以決定何時(shí)進(jìn)行計(jì)算，這樣就能在一定程度上減輕電網(wǎng)的負(fù)擔(dān)，甚至在某些時(shí)候還能幫上電網(wǎng)的忙，產(chǎn)生互動(dòng)效應(yīng)。這種互動(dòng)不僅能提高電網(wǎng)的安全性，而且可能更加經(jīng)濟(jì)。
數(shù)據(jù)中心的電價(jià)屬于工商業(yè)電價(jià)。目前，工商業(yè)電價(jià)的激勵(lì)機(jī)制還不夠完善，但未來(lái)可能會(huì)有更多的電價(jià)激勵(lì)措施。通過(guò)與電網(wǎng)的互動(dòng)，數(shù)據(jù)中心不僅能出售余熱，還可能通過(guò)響應(yīng)電網(wǎng)需求再賺點(diǎn)錢，對(duì)運(yùn)營(yíng)效率提升也有好處。
丁肇豪：
新的解決方案是實(shí)現(xiàn)源荷互動(dòng)，即不再是單向的源隨荷動(dòng)，而是負(fù)荷也能根據(jù)電源變化而變化。數(shù)據(jù)中心作為未來(lái)電力負(fù)荷的主要部分，我們希望它能跟隨可再生能源的變化而動(dòng)。怎么做？
對(duì)于大模型訓(xùn)練這樣的離線負(fù)載，就像我們給學(xué)生布置任務(wù)，要求他們?cè)诘诙煸绯?點(diǎn)前提交，具體是在凌晨2點(diǎn)還是6點(diǎn)完成計(jì)算，并不重要。這些計(jì)算任務(wù)可以由阿里云等云服務(wù)提供商來(lái)處理，根據(jù)風(fēng)力發(fā)電的時(shí)段以及碳排放強(qiáng)度來(lái)靈活調(diào)整和調(diào)度算力資源。這類任務(wù)通常規(guī)模較大，對(duì)截止時(shí)間不敏感。但許多任務(wù)需要大量數(shù)據(jù)，通常在特定數(shù)據(jù)中心完成。我們希望將這些任務(wù)放在新能源基地附近的數(shù)據(jù)中心來(lái)算，比如沙戈荒基地。
對(duì)于在線輕量級(jí)任務(wù)，如大模型推理，只要滿足時(shí)延要求，我們可以在空間上調(diào)度這些任務(wù)。我們與阿里巴巴以及國(guó)家電網(wǎng)華北分部合作過(guò)一個(gè)算力-電力協(xié)同調(diào)度實(shí)驗(yàn)。當(dāng)電網(wǎng)出現(xiàn)新能源消納困難，棄風(fēng)棄光現(xiàn)象時(shí)，我們能否將其他地區(qū)的負(fù)載調(diào)度過(guò)去？實(shí)驗(yàn)中，我們將阿里南通數(shù)據(jù)中心的一些計(jì)算任務(wù)轉(zhuǎn)移到張北數(shù)據(jù)中心，通過(guò)算力任務(wù)的轉(zhuǎn)移，南通的負(fù)荷降低，而張北的負(fù)荷增加，正好消納了當(dāng)?shù)氐男履茉础?/span>
我們希望這種做法能成為常態(tài)，電網(wǎng)能夠向云服務(wù)和數(shù)據(jù)中心企業(yè)提供信號(hào)，數(shù)據(jù)中心企業(yè)在算力調(diào)度時(shí)能及時(shí)響應(yīng)，將能源和碳排放作為調(diào)度系統(tǒng)的一部分。
楊富強(qiáng)：
工藝節(jié)點(diǎn)短期無(wú)法突破
楊富強(qiáng)：
陳云霽：
之所以大家追求更先進(jìn)的工藝，7納米不夠，還要3納米、1納米的，一方面是因?yàn)檫@樣可以在芯片上集成更多的晶體管，從而提高速度。但更重要的是，使用更先進(jìn)的工藝可以顯著降低每次計(jì)算的能量消耗。例如，5納米工藝相比于7納米工藝，每次計(jì)算消耗的能量可以減少幾十個(gè)百分點(diǎn)。這也正是為什么半導(dǎo)體技術(shù)不斷向更小的納米尺度發(fā)展的原因。
李勇：
楊富強(qiáng)：
陳云霽：
中國(guó)科學(xué)家和美國(guó)科學(xué)家面臨的挑戰(zhàn)本質(zhì)上是相似的。我們可能在7納米暫時(shí)停一段時(shí)間，而美國(guó)可能在1.8納米或1納米節(jié)點(diǎn)上停留。因此，全球的芯片設(shè)計(jì)者都在探索同一個(gè)問(wèn)題：在工藝節(jié)點(diǎn)無(wú)法進(jìn)一步縮小的情況下，如何通過(guò)體系結(jié)構(gòu)的創(chuàng)新來(lái)提升性能，尤其是降低能耗。
在這種情況下，一個(gè)有前景的技術(shù)趨勢(shì)是為特定任務(wù)定制專用芯片，即走向?qū)Ｓ没?。依靠通用CPU，這種像瑞士軍刀一樣的多功能但非最優(yōu)設(shè)計(jì)，已經(jīng)越來(lái)越難以滿足需求。相反，為特定的大模型、手機(jī)或AR/VR設(shè)備等定制專用芯片，可能成為在工藝節(jié)點(diǎn)不變的情況下降低能耗的重要手段。
楊富強(qiáng)：
陳云霽：
這個(gè)數(shù)字其實(shí)變化非常大，十多年前，我們大陸每年在ISSCC上只能發(fā)表一篇文章，我記得十多年前我發(fā)表了兩篇，在國(guó)內(nèi)已經(jīng)算是最多的之一了。現(xiàn)在，僅僅是清華大學(xué)的一個(gè)課題組，一年就能在ISSCC上發(fā)表三到五篇論文。從設(shè)計(jì)角度來(lái)看，中國(guó)無(wú)疑已經(jīng)進(jìn)入了國(guó)際第一方陣。在成熟工藝節(jié)點(diǎn)上，中國(guó)的芯片設(shè)計(jì)工作非常不錯(cuò)，也有大量出口。
楊富強(qiáng)：
更快還是更??？非技術(shù)層面的矛盾
楊富強(qiáng)：
張永平：
其次，能源的使用特性也非常重要。傳統(tǒng)上，我們喜歡穩(wěn)定的能源供應(yīng)，但隨著風(fēng)能和太陽(yáng)能的波動(dòng)性，這種偏好受到了挑戰(zhàn)。我們希望數(shù)據(jù)中心和其他能源負(fù)荷能夠與可再生能源的波動(dòng)相協(xié)同，這樣就能最大限度地利用可再生能源。目前，許多工作都在朝著這個(gè)方向努力。
核心問(wèn)題在于需要有一個(gè)激勵(lì)機(jī)制來(lái)鼓勵(lì)。例如，對(duì)于數(shù)據(jù)中心，目前它們可能不考慮響應(yīng)電網(wǎng)的需求，但如果我們能提供足夠的經(jīng)濟(jì)激勵(lì)，讓它們通過(guò)調(diào)整算力調(diào)度來(lái)節(jié)省成本或賺取利潤(rùn)，那么它們可能會(huì)更愿意采取行動(dòng)。
陳云霽：
張永平：
如果有設(shè)計(jì)良好的市場(chǎng)機(jī)制和足夠的激勵(lì)，就能引導(dǎo)數(shù)據(jù)中心調(diào)整其用電行為。當(dāng)然，這種激勵(lì)需要足夠大，就像電動(dòng)汽車的V2G（Vehicle to Grid），電動(dòng)汽車可以充電，還能將電能反饋給電網(wǎng)賺錢。但如果放電一次只能賺8塊、10塊，又給自己帶來(lái)很大不便，人們可能就不會(huì)去做。我相信，未來(lái)如果數(shù)據(jù)中心的用電量巨大，且其用電特性對(duì)電網(wǎng)產(chǎn)生顯著影響，這種矛盾可能會(huì)倒逼市場(chǎng)改革，給出更多激勵(lì)信號(hào)。
丁肇豪：
這其中一個(gè)很大的問(wèn)題，是需要電力現(xiàn)貨市場(chǎng)的價(jià)格信號(hào)來(lái)激勵(lì)數(shù)據(jù)中心調(diào)整用電行為。但我認(rèn)為這只是一個(gè)方面，因?yàn)樵谒懔︻I(lǐng)域，相關(guān)團(tuán)隊(duì)可能更關(guān)心產(chǎn)品的交付和服務(wù)的可靠性，而不是帶來(lái)電費(fèi)和排放的降低。
陳云霽：
目前，無(wú)論是互聯(lián)網(wǎng)公司還是大模型創(chuàng)業(yè)公司，還沒(méi)有真正考慮如何盈利。他們現(xiàn)在的重點(diǎn)不在于考慮成本問(wèn)題，包括電力成本。但當(dāng)他們開(kāi)始真正思考如何掙錢，AI的算力消耗和電力成本就是他們必須面對(duì)和解決的問(wèn)題。
李勇：
張永平：
楊富強(qiáng)：
李勇：
楊富強(qiáng)：
丁肇豪：
然而，使用人工智能也帶來(lái)了不可靠性和安全隱患。例如，數(shù)據(jù)投毒、代碼后門等攻擊手段，或者即使沒(méi)有惡意攻擊，AI計(jì)算出的結(jié)果也可能出錯(cuò)，因?yàn)榇笮湍Ｐ捅举|(zhì)上是概率模型。如果出現(xiàn)問(wèn)題，誰(shuí)來(lái)負(fù)責(zé)？在電力調(diào)度中的決策都是有人負(fù)責(zé)。但如果決策是由AI做出的，責(zé)任歸屬就變得模糊。這是在使用AI時(shí)，尤其是電力行業(yè)這樣相對(duì)保守的領(lǐng)域，需要特別考慮的問(wèn)題。我們希望在AI的可解釋性、安全性和效率提升之間找到平衡點(diǎn)。
張永平：
現(xiàn)在，人工智能的應(yīng)用正越來(lái)越多地探索電力系統(tǒng)最核心的領(lǐng)域。例如，因?yàn)殡娋W(wǎng)變得越來(lái)越復(fù)雜，支持電網(wǎng)運(yùn)行方式的制定；還有實(shí)時(shí)監(jiān)控電網(wǎng)運(yùn)行情況，調(diào)度員需要關(guān)注大屏幕上的電網(wǎng)狀態(tài)，并在出現(xiàn)問(wèn)題時(shí)迅速采取應(yīng)對(duì)措施，以往這些工作依賴于計(jì)算機(jī)輔助和人的經(jīng)驗(yàn)，而人工智能的輔助可以使決策更加精準(zhǔn)。
但核心問(wèn)題在于，人工智能存在不可解釋性。雖然智能涌現(xiàn)帶來(lái)了一些好處，但在傳統(tǒng)領(lǐng)域，不可解釋性可能導(dǎo)致安全責(zé)任難以界定。以往人做決策時(shí)責(zé)任明確，而AI做決策時(shí)責(zé)任歸屬變得模糊。這類似于自動(dòng)駕駛面臨的社會(huì)倫理問(wèn)題，不僅僅是技術(shù)問(wèn)題，而是涉及到如何在不同情況下做出倫理判斷。隨著技術(shù)的進(jìn)步，我們不僅需要改變技術(shù)層面的東西，還需要改變安全文化、社會(huì)責(zé)任、倫理和法律法規(guī)等方面。這些問(wèn)題可能需要長(zhǎng)期解決。
觀眾提問(wèn)
觀眾1：
李勇：
總體來(lái)看，大模型是目前人類探索通用智能的一個(gè)可能方向，盡管它可能不是唯一的方向。對(duì)于未來(lái)，我認(rèn)為一方面，既然我們已經(jīng)看到了大模型的潛力，就應(yīng)該繼續(xù)努力探索。但從國(guó)內(nèi)外的發(fā)展形勢(shì)來(lái)看，美國(guó)在這一領(lǐng)域的引領(lǐng)作用仍然很明顯，我們還需要認(rèn)識(shí)到跟隨的現(xiàn)狀。另一方面，隨著智能水平的進(jìn)一步提升，我們也需要探索一些目前尚未被充分開(kāi)發(fā)的、有潛力的新路徑。這樣，我們就能為未來(lái)人工智能的安全性和可持續(xù)性做出貢獻(xiàn)。
RFID技術(shù)應(yīng)用在電動(dòng)車防盜系統(tǒng)中，一方面可以實(shí)現(xiàn)電動(dòng)自行車身份信息的自動(dòng)
19款電子扎帶
電路板識(shí)別電子標(biāo)簽