當(dāng)AI開始“發(fā)Nature”，人類科學(xué)家靠什么絕地反擊？

2025-2-27 13:19| 發(fā)布者: admin| 查看: 108| 評論: 0

摘要: 文 | 追問nextquestion在人類探索自然奧秘的征途中，科學(xué)工具的革新始終是突破認(rèn)知邊界的核心驅(qū)動力。2024年諾貝爾化學(xué)獎的頒發(fā)，標(biāo)志著人工智能（AI）正式登上科學(xué)研究的核心舞臺——三位獲獎?wù)咄ㄟ^AI驅(qū)動的蛋白質(zhì) ...

文 | 追問nextquestion

在人類探索自然奧秘的征途中，科學(xué)工具的革新始終是突破認(rèn)知邊界的核心驅(qū)動力。2024年諾貝爾化學(xué)獎的頒發(fā)，標(biāo)志著人工智能（AI）正式登上科學(xué)研究的核心舞臺——三位獲獎?wù)咄ㄟ^AI驅(qū)動的蛋白質(zhì)結(jié)構(gòu)預(yù)測與設(shè)計(jì)，破解了困擾生物學(xué)半個世紀(jì)的難題，并實(shí)現(xiàn)了“從無到有”的蛋白質(zhì)創(chuàng)新設(shè)計(jì)。這些發(fā)現(xiàn)不僅深化了我們對生命的理解，還為開發(fā)新藥物、疫苗和環(huán)保技術(shù)，甚至解決抗生素耐藥性和塑料降解等全球性挑戰(zhàn)提供了實(shí)際解決方案。

這一里程碑事件尚未散去余溫，2025年初微軟發(fā)布的生成式AI模型MatterGen又在材料領(lǐng)域掀起驚濤駭浪：它逆向設(shè)計(jì)生成的新材料TaCr?O?，其體積模量實(shí)驗(yàn)值與設(shè)計(jì)目標(biāo)誤差不足20%，將傳統(tǒng)材料研發(fā)周期從數(shù)年縮短至數(shù)周。這些突破揭示了一個不可逆的趨勢：AI已從科學(xué)家的輔助工具蛻變?yōu)榭茖W(xué)發(fā)現(xiàn)的“共謀者”，正在重構(gòu)科學(xué)研究的底層邏輯。

? MatterGen設(shè)計(jì)的無機(jī)材料。圖源：@satyanadella

面對這場科學(xué)革命，科研工作者正面臨著前所未有的機(jī)遇與挑戰(zhàn)。

一方面，許多科研人員雖然擁有扎實(shí)的專業(yè)知識背景，卻缺乏足夠的人工智能知識和技能，他們對AI的應(yīng)用可能感到困惑和局限，更不知道從何處著手，以讓AI在具體的科研任務(wù)中發(fā)揮最大效能。另一方面，許多科研領(lǐng)域依賴的濕實(shí)驗(yàn)方法，需要高昂的試錯成本和大量重復(fù)性實(shí)驗(yàn)，加上人力、物力的巨額消耗，也為科研進(jìn)程增添了很大的不確定性。

在此過程中，許多看似無用的數(shù)據(jù)被遺棄，導(dǎo)致一些潛在有價值的信息未能被充分發(fā)掘，造成了巨大的資源浪費(fèi)。在AI領(lǐng)域，自然科學(xué)和社會科學(xué)領(lǐng)域中的數(shù)據(jù)往往存在長期匱乏的情況，即便勉強(qiáng)搜集到數(shù)據(jù)，也難免存在置信度不足或可解釋性欠缺的問題（研究人員在評估模型性能時會有選擇性地挑選評估指標(biāo)）。尤其在大語言模型（LLMs）的應(yīng)用中，“胡編亂造”或錯誤引用時有發(fā)生，進(jìn)一步加深了對AI 結(jié)果可信度的疑慮。

AI技術(shù)的“黑箱”特性，也使得許多生成的結(jié)果缺乏透明度，無法明確解釋背后的機(jī)制和邏輯，從而影響了其在科研中的信任度和應(yīng)用深度。更為嚴(yán)峻的是，隨著AI技術(shù)逐漸發(fā)展和普及，一些本來由人類科學(xué)家完成的工作逐步被自動化，部分崗位甚至面臨被取代的風(fēng)險。越來越多科研工作者擔(dān)心，AI技術(shù)的普及可能導(dǎo)致人類的創(chuàng)造性工作被削弱。最終，若不謹(jǐn)慎把握AI的發(fā)展方向，這場技術(shù)革命可能帶來社會結(jié)構(gòu)、職業(yè)市場和科學(xué)倫理的深刻變化。

本文針對科研工作者如何應(yīng)對挑戰(zhàn)、擁抱人工智能助力科學(xué)研究，提供了一些可供參考的實(shí)踐指導(dǎo)和策略建議。本文會首先闡明人工智能助力科學(xué)研究的關(guān)鍵領(lǐng)域，并探討在這些方向取得突破所需的核心要素。隨后將深入分析在科學(xué)研究中使用人工智能時常見的風(fēng)險，特別是對科學(xué)創(chuàng)造力和研究可靠性的潛在影響，并提供如何通過合理的管理與創(chuàng)新，利用人工智能帶來最終整體的凈效益。最后，本文將提出三項(xiàng)行動指南，旨在幫助科研工作者在這場變革中以主動姿態(tài)擁抱AI，開啟科學(xué)探索的黃金時代。

01 AI助力科學(xué)研究的關(guān)鍵領(lǐng)域

獲取、創(chuàng)造和傳播知識的方式變革

為了取得新的突破性發(fā)現(xiàn)，科學(xué)家們往往得面對一座又一座日益龐大的知識高峰。又因?yàn)樾轮R層出不窮、專業(yè)分工不斷深化，“知識負(fù)擔(dān)”愈發(fā)沉重，導(dǎo)致具備重大創(chuàng)新力的科學(xué)家平均年齡越來越大，也更傾向于跨學(xué)科研究，且多在頂尖學(xué)術(shù)機(jī)構(gòu)扎根。即便小團(tuán)隊(duì)通常更具推動顛覆性科學(xué)理念的能力，但由個人或小團(tuán)隊(duì)撰寫的論文比例卻逐年下降。在科研成果分享方面，多數(shù)科學(xué)論文行文晦澀、術(shù)語繁多，不僅阻隔了科研工作者之間的交流，更難以激發(fā)其他科研工作者、公眾、企業(yè)或者政策制定者對相關(guān)科研工作的興趣。

然而，隨著人工智能，尤其是大語言模型的發(fā)展，我們正在發(fā)現(xiàn)新的方法來應(yīng)對當(dāng)前科研中的種種挑戰(zhàn)。借助基于LLM的科學(xué)助手，我們能夠更加高效地從海量文獻(xiàn)中提煉出最相關(guān)的見解，還可以直接對科研數(shù)據(jù)提出問題，例如探索研究中行為變量之間的關(guān)聯(lián)。如此一來，繁瑣的分析、寫作和審稿過程不再是獲取新發(fā)現(xiàn)的“必經(jīng)之路”，“從數(shù)據(jù)中提取”科學(xué)發(fā)現(xiàn)，也有望顯著加快科學(xué)進(jìn)程。

隨著技術(shù)進(jìn)步，尤其是通過在科學(xué)領(lǐng)域特定數(shù)據(jù)上微調(diào)LLM，以及在長上下文窗口處理能力和跨文獻(xiàn)引用分析方面的突破，科學(xué)家們將能夠更高效地提取關(guān)鍵信息，從而顯著提升研究效率。更進(jìn)一步，若能開發(fā)出“元機(jī)器人”式的助手，跨越不同的研究領(lǐng)域整合數(shù)據(jù)，就有望解答更復(fù)雜的問題，為人類勾勒出學(xué)科知識的全景?？梢灶A(yù)見，未來可能會出現(xiàn)專門為這些“論文機(jī)器人”設(shè)計(jì)高級查詢的科研工作者，借由智能拼接多個領(lǐng)域的知識“碎片”，推動科學(xué)探索的邊界。

盡管這些技術(shù)提供了前所未有的機(jī)會，它們也伴隨著一定的風(fēng)險。我們需要重新思考一些科學(xué)任務(wù)的本質(zhì)，特別是在科學(xué)家可以依賴LLM幫助批判性分析、調(diào)整影響力或?qū)⒀芯哭D(zhuǎn)化為互動式論文、音頻指南等形式時，“閱讀”或“撰寫”科學(xué)論文的定義可能會發(fā)生變化。

生成、提取、標(biāo)注和創(chuàng)造大型科學(xué)數(shù)據(jù)集

隨著科研數(shù)據(jù)的不斷增加，人工智能正在為我們提供越來越多的幫助。例如，它能夠提高數(shù)據(jù)收集的準(zhǔn)確性，減少在DNA測序、細(xì)胞類型識別或動物聲音采集等過程中可能出現(xiàn)的錯誤和干擾。除此之外，科學(xué)家們還可以利用LLM增強(qiáng)的跨圖像、視頻和音頻分析能力，從科學(xué)出版物、檔案資料和教學(xué)視頻等較為隱蔽的資源中提取隱藏的科學(xué)數(shù)據(jù)，并將其轉(zhuǎn)化為結(jié)構(gòu)化的數(shù)據(jù)庫，便于進(jìn)一步分析和使用。人工智能還能夠?yàn)榭茖W(xué)數(shù)據(jù)添加輔助信息，幫助科學(xué)家更好地使用這些數(shù)據(jù)。例如，至少三分之一的微生物蛋白質(zhì)功能細(xì)節(jié)尚無法可靠注釋。2022年，DeepMind的研究人員通過人工智能預(yù)測蛋白質(zhì)的功能，為UniProt、Pfam和InterPro等數(shù)據(jù)庫增添了新的條目。

當(dāng)真實(shí)數(shù)據(jù)不夠時，經(jīng)過驗(yàn)證的人工智能模型還能成為合成科學(xué)數(shù)據(jù)的重要來源。AlphaProteo蛋白質(zhì)設(shè)計(jì)模型便是基于超過1億個由AlphaFold 2生成的人工智能蛋白質(zhì)結(jié)構(gòu)，以及來自蛋白質(zhì)數(shù)據(jù)庫的實(shí)驗(yàn)結(jié)構(gòu)進(jìn)行訓(xùn)練。這些人工智能技術(shù)不僅能夠補(bǔ)充現(xiàn)有的科學(xué)數(shù)據(jù)生成過程，還能顯著提升其他科研努力的回報，例如檔案數(shù)字化，或資助新的數(shù)據(jù)采集技術(shù)和方法。以單細(xì)胞基因組學(xué)領(lǐng)域?yàn)槔?，正以前所未有的精?xì)度構(gòu)建龐大的單細(xì)胞數(shù)據(jù)集，推動這一領(lǐng)域的突破與進(jìn)展。

當(dāng)AI開始“發(fā)Nature”，人類科學(xué)家靠什么絕地反擊？

? alphafold預(yù)測的某蛋白結(jié)構(gòu)圖，顏色越藍(lán)可信度越高，越紅可信度越低。圖源：AFDB

模擬、加速并為復(fù)雜實(shí)驗(yàn)提供信息

許多科學(xué)實(shí)驗(yàn)成本高昂、復(fù)雜且耗時漫長，也有些實(shí)驗(yàn)因?yàn)檠芯咳藛T無法獲取所需的設(shè)施、參與者或投入根本無法開展。核聚變就是一個典型的例子。核聚變有望成為一種幾乎取之不盡、零排放的能源，并能推動海水淡化等高能耗創(chuàng)新技術(shù)的規(guī)?；瘧?yīng)用。要實(shí)現(xiàn)核聚變，科學(xué)家們需要創(chuàng)造并控制等離子體。然而，所需的設(shè)施建造起來卻極其復(fù)雜。國際熱核聚變實(shí)驗(yàn)堆的原型托卡馬克反應(yīng)堆于2013年開始建造，但最早也要到2030年代中期才能開始進(jìn)行等離子體實(shí)驗(yàn)。人工智能能夠幫助模擬核聚變實(shí)驗(yàn)，并使后續(xù)實(shí)驗(yàn)時間得到更高效的利用。研究者們可以在物理系統(tǒng)的模擬中運(yùn)行強(qiáng)化學(xué)習(xí)代理來控制等離子體的形狀。類似的思路也可以推廣到粒子加速器、天文望遠(yuǎn)鏡陣列或引力波探測器等大型設(shè)施上。

利用人工智能模擬實(shí)驗(yàn)在不同學(xué)科中的表現(xiàn)形式會大相徑庭，但一個共同點(diǎn)是，這些模擬通常會為物理實(shí)驗(yàn)提供信息和指導(dǎo)，而非取而代之。例如，AlphaMissense模型能夠?qū)?100萬種潛在人類錯義變異的89%進(jìn)行分類，幫助科學(xué)家聚焦于那些可能導(dǎo)致疾病的變異，從而優(yōu)化實(shí)驗(yàn)資源的配置，提升研究效率。

當(dāng)AI開始“發(fā)Nature”，人類科學(xué)家靠什么絕地反擊？

? DIII-D的反應(yīng)室，這是一個由通用原子公司在圣地亞哥運(yùn)營的實(shí)驗(yàn)性托卡馬克聚變反應(yīng)堆，自20世紀(jì)80年代末完工以來一直用于研究。典型的環(huán)形腔室覆蓋有石墨，有助于承受極端高溫。圖源：Wikipedia

對復(fù)雜系統(tǒng)及其組件間的相互作用進(jìn)行建模

在 1960 年的一篇論文中，諾貝爾物理學(xué)獎得主尤金·維格納（Eugene Wigner）對數(shù)學(xué)方程在模擬諸如行星運(yùn)動等自然現(xiàn)象時展現(xiàn)的“不可思議的有效性”感到驚嘆。然而，在過去的半個世紀(jì)里，依賴方程組或其他確定性假設(shè)的模型，始終難以全面捕捉生物學(xué)、經(jīng)濟(jì)學(xué)、天氣和其他復(fù)雜領(lǐng)域系統(tǒng)中瞬息萬變的動態(tài)與混沌。這些系統(tǒng)的構(gòu)成部分?jǐn)?shù)量龐大、相互作用密切，且可能發(fā)生隨機(jī)或混沌行為，使科學(xué)家們難以預(yù)判或掌控其在復(fù)雜情景下的反應(yīng)。

人工智能則可以通過獲取更多關(guān)于這些復(fù)雜系統(tǒng)的數(shù)據(jù)，并從中學(xué)習(xí)更強(qiáng)大的模式和規(guī)律，來改進(jìn)對其的建模。例如，傳統(tǒng)的數(shù)值預(yù)測主要基于精心定義的物理方程，對大氣復(fù)雜性有一定解釋力，但精度始終不足，且計(jì)算成本高昂。而基于深度學(xué)習(xí)的預(yù)測系統(tǒng)，能夠提前10天預(yù)測天氣狀況，在準(zhǔn)確性和預(yù)測速度方面均勝過傳統(tǒng)模型。

在許多情況下，AI 并非取代傳統(tǒng)復(fù)雜系統(tǒng)的建模方法，而是賦予其更豐富的工具。例如，基于智能體的建模方法通過模擬個體（比如公司和消費(fèi)者）之間的互動，來研究這些互動如何影響像經(jīng)濟(jì)這樣的更大、更復(fù)雜的系統(tǒng)。傳統(tǒng)的方法要求科學(xué)家預(yù)先設(shè)定智能體的行為方式，如"看到商品漲價就少買10%""每個月存工資的5%"。但現(xiàn)實(shí)的復(fù)雜度常讓這些模型“捉襟見肘”，對新興現(xiàn)象（如直播帶貨對零售業(yè)的沖擊）難以給出準(zhǔn)確預(yù)測。

在人工智能的幫助下，科學(xué)家現(xiàn)在可以創(chuàng)建更加靈活的智能體。這些智能體能夠進(jìn)行交流、采取行動（如搜索信息或購買商品），并能對這些行動進(jìn)行推理和記憶。利用強(qiáng)化學(xué)習(xí)還可以讓這些智能體在動態(tài)環(huán)境中進(jìn)行學(xué)習(xí)和適應(yīng)，甚至在面對能源價格變動或應(yīng)對疫情政策變化時，智能體能夠自行調(diào)整自己的行為。這些新方法不僅提高了模擬的靈活性和效率，還為科學(xué)家們提供了更多創(chuàng)新的工具，幫助他們應(yīng)對日益復(fù)雜的研究問題。

找出具有廣闊搜索空間問題的創(chuàng)新解決方案

許多重要的科學(xué)問題嘗嘗伴隨著近乎天文數(shù)字級的難以理解的潛在解決方案。設(shè)計(jì)小分子藥物時，科學(xué)家要在 10⁶⁰之多的可能性中篩選；而若設(shè)計(jì)含 400 個標(biāo)準(zhǔn)氨基酸的蛋白質(zhì)，選擇空間甚至高達(dá) 10²⁰⁴⁰⁰。傳統(tǒng)上，科學(xué)家依靠直覺、試錯、迭代或強(qiáng)力計(jì)算的組合來尋找最佳的分子、證明或算法。但這些方法難以窮盡搜索空間，因而往往與最佳方案失之交臂。人工智能則能夠開辟這些搜索空間的新領(lǐng)域，同時更快地聚焦于最有可能是可行和有用的解決方案——這是一個微妙的平衡。

2016 年 AlphaGo 對弈李世石為例。AI 的落子位置看似不合常規(guī)，甚至超出了人類傳統(tǒng)的棋路與經(jīng)驗(yàn)，但卻成功擾亂李世石的思路，反而讓 AlphaGo 更易掌控局勢。李世石后來表示，自己被這一著棋震驚到了。這意味著AlphaGo的這一著棋完全超出了人類傳統(tǒng)棋手的思維方式和經(jīng)驗(yàn)。也證明了AI可以在巨大的可能性空間中發(fā)現(xiàn)人類未曾想到的解決方案，從而推動策略革新。

當(dāng)AI開始“發(fā)Nature”，人類科學(xué)家靠什么絕地反擊？

? AlphaGo（執(zhí)黑）與李世石（執(zhí)白）對戰(zhàn)第二局的落子情況，最終AlphaGo贏下本局。AlphaGo 的第37手落在了第五線，超出了絕大多數(shù)棋手和專家的預(yù)料。賽后，很多人對這步棋評價甚高，認(rèn)為這展現(xiàn)了AlphaGo的全局判斷力。圖源：芥子觀須彌

02 AI驅(qū)動科學(xué)突破的核心要素

問題的選擇

正如量子力學(xué)奠基人海森堡所言，“提出正確的問題，往往等于解決了問題的大半”。那么，怎樣評估問題的好壞呢？DeepMind首席執(zhí)行官Demis Hassabis提出了一個思維模型：如果將整個科學(xué)看作一棵知識樹，我們應(yīng)該特別關(guān)注的是樹根——那些基本的“根節(jié)點(diǎn)問題”，解決這些問題可以解鎖全新的研究領(lǐng)域和應(yīng)用。其次，需要評估人工智能是否適用且能夠帶來增益，我們需要尋找具有特定特征的問題，例如巨大的組合搜索空間、大量數(shù)據(jù)和明確的目標(biāo)函數(shù)，以進(jìn)行性能基準(zhǔn)評估。

通常，一個問題在理論上適合人工智能，但由于輸入數(shù)據(jù)尚未到位，可能需要暫時擱置，等待時機(jī)。除了選擇合適的問題外，指定問題的難度級別和可行性也至關(guān)重要。人工智能的強(qiáng)大問題陳述能力往往體現(xiàn)在那些能夠產(chǎn)生中間結(jié)果的問題上。如果選擇一個過于困難的問題，就無法生成足夠的信號來取得進(jìn)展。這需要依賴直覺和實(shí)驗(yàn)來實(shí)現(xiàn)。

評估方法的選擇

科學(xué)家們使用多種評估方法，如基準(zhǔn)測試、度量標(biāo)準(zhǔn)和競賽，來評估人工智能模型的科學(xué)能力。通常，多個評估方法是必要的。例如，天氣預(yù)報模型從一個初步的“進(jìn)展度量”開始，基于一些關(guān)鍵變量（如地表溫度），來“爬升”模型的性能。當(dāng)模型達(dá)到一定的性能水平時，他們使用超過1300個度量（靈感來源于歐洲中期天氣預(yù)報中心的評估評分卡）來進(jìn)行更全面的評估。

對科學(xué)最具影響力的人工智能評估方法通常是由社區(qū)推動或得到認(rèn)可的。社區(qū)的支持也為發(fā)布基準(zhǔn)測試提供了依據(jù)，使研究人員可以使用、批評并改進(jìn)這些基準(zhǔn)。但此過程中需警惕一個隱憂：基準(zhǔn)數(shù)據(jù)若被模型的訓(xùn)練過程意外“吸收”，評估準(zhǔn)確度便會打折扣。目前尚無完美方案來應(yīng)對這一矛盾，但定期推出新公共基準(zhǔn)、建立新的第三方評估機(jī)構(gòu)并舉辦各類競賽，都是持續(xù)檢驗(yàn)與完善 AI 科研能力的可行之道。

跨學(xué)科合作

人工智能在科學(xué)領(lǐng)域的應(yīng)用往往默認(rèn)是多學(xué)科的，但要取得成功，它們需要真正轉(zhuǎn)變?yōu)?strong>跨學(xué)科的合作。一個有效的開端是選擇一個需要各種專業(yè)知識的科學(xué)問題，然后為其提供足夠的時間和精力，以便圍繞問題培養(yǎng)團(tuán)隊(duì)的協(xié)作精神。例如，DeepMind的伊薩卡項(xiàng)目（Ithaca project）利用人工智能修復(fù)和歸類受損的古希臘銘文，幫助學(xué)者研究過去文明的思想、語言和歷史。為了取得成功，項(xiàng)目的聯(lián)合負(fù)責(zé)人Yannis Assael必須理解碑銘學(xué)——研究古代刻寫文字的學(xué)科。而項(xiàng)目中的碑銘學(xué)家們則必須學(xué)習(xí)AI模型的工作原理，以便將自己的專業(yè)直覺與模型輸出相結(jié)合。

這種團(tuán)隊(duì)精神的養(yǎng)成，離不開恰當(dāng)?shù)募顧C(jī)制。賦予一個小而緊密的團(tuán)隊(duì)專注于解決問題的權(quán)力，而非專注于論文的作者署名，是AlphaFold 2取得成功的關(guān)鍵。這樣的專注在工業(yè)實(shí)驗(yàn)室中可能更容易實(shí)現(xiàn)，但也再次強(qiáng)調(diào)了長周期公共科研資助的重要性，尤其是這種資助不應(yīng)過于依賴于出版壓力。

同樣，組織還需要為能夠融合不同學(xué)科的人才創(chuàng)造職位和職業(yè)發(fā)展路徑。例如在谷歌，DeepMind的研究工程師在推動研究與工程之間的良性互動中發(fā)揮了關(guān)鍵作用，項(xiàng)目經(jīng)理則有助于培養(yǎng)團(tuán)隊(duì)合作氛圍，并促進(jìn)團(tuán)隊(duì)之間的溝通與協(xié)作。那些能夠識別和連接不同學(xué)科之間聯(lián)系，并迅速提升新領(lǐng)域技能的人才應(yīng)該給予更多的重視。此外，為了激發(fā)思想交流，組織應(yīng)鼓勵科學(xué)家和工程師定期調(diào)整項(xiàng)目，建立一種促進(jìn)好奇心、謙遜態(tài)度和批判性思維的文化，使不同領(lǐng)域的從業(yè)者能夠在公開討論中提出建設(shè)性的意見和反饋。

當(dāng)然，建立合作伙伴關(guān)系絕非易事。在開始討論時，必須盡早達(dá)成共識，明確整體目標(biāo)，并解決一些棘手的潛在問題，比如各方對成果的權(quán)利分配、是否發(fā)表研究、是否開源模型或數(shù)據(jù)集、以及應(yīng)采用什么類型的許可。分歧在所難免，但如果能讓不同激勵機(jī)制下的公共與私營組織找到清晰、對等的價值交換點(diǎn)，那么就有可能在充分發(fā)揮各自優(yōu)勢的同時，共同走向成功。

當(dāng)AI開始“發(fā)Nature”，人類科學(xué)家靠什么絕地反擊？

?伊薩卡（Ithaca）的架構(gòu)。文本中受損部分用短橫線“-”表示。在此例中，項(xiàng)目組人為損壞了字符“δημ”。基于這些輸入，伊薩卡能夠恢復(fù)文本，并識別出文本撰寫的時間和地點(diǎn)。圖源：deepmind

03 管理AI風(fēng)險，提升科學(xué)創(chuàng)造力與研究可靠性

2023年Nature刊發(fā)的深度調(diào)查報告顯示，全球62%的科研團(tuán)隊(duì)已在數(shù)據(jù)分析中使用機(jī)器學(xué)習(xí)工具，但其中38%的研究欠缺對算法選擇的充分論證。這種普遍性警示我們：AI正在重塑科研范式的同時，也在制造新的認(rèn)知陷阱。

雖然AI可以幫助我們從海量信息中提取有用的規(guī)律，但它往往基于已有數(shù)據(jù)和知識進(jìn)行推演，而不是從全新的視角出發(fā)進(jìn)行創(chuàng)造性思考。這種“模仿”式的創(chuàng)新，可能使得科學(xué)研究變得越來越依賴于已有的數(shù)據(jù)和模型，從而限制了科研人員的思維廣度。在過度依賴AI的情況下，我們有可能忽視一些原創(chuàng)的、非傳統(tǒng)的研究方法，這些方法或許能打開新的科學(xué)領(lǐng)域。尤其在探索未知和前沿領(lǐng)域時，人的直覺和獨(dú)立思考能力依然至關(guān)重要。

除了對科學(xué)創(chuàng)造力的影響，AI的普及還可能對研究的可靠性和理解力帶來隱患。AI在提供預(yù)測和分析時，往往基于概率和模式識別，而不是直接的因果推理。因此，AI給出的結(jié)論可能只是一種統(tǒng)計(jì)上的相關(guān)性，而不一定代表真實(shí)的因果關(guān)系。此外，AI算法的“黑箱”特性也使得它們的決策過程變得不透明。因此對于科研人員而言，理解AI得出的結(jié)論背后的邏輯至關(guān)重要，尤其是在需要對結(jié)果進(jìn)行解釋或應(yīng)用到實(shí)際問題時。若我們盲目接受AI的結(jié)果而不加以審視，可能會導(dǎo)致誤導(dǎo)性結(jié)論的產(chǎn)生，進(jìn)而影響研究的可信度。

另一方面，我們認(rèn)為，若能合理管理AI的風(fēng)險，便有機(jī)遇將這項(xiàng)技術(shù)深度融入科學(xué)探索，幫助應(yīng)對更多層面的挑戰(zhàn)，甚至帶來深遠(yuǎn)影響。

創(chuàng)造力

科學(xué)創(chuàng)造力指的是在科學(xué)研究中，個體或團(tuán)隊(duì)通過獨(dú)特的思維方式、方法論或視角，提出新穎的假設(shè)、理論、方法或解決方案，推動科學(xué)進(jìn)展的能力。在實(shí)際操作中，科學(xué)家通?；谝恍┲饔^因素來判斷一個新想法、方法或成果是否具備創(chuàng)造性，比如它的簡潔性、反直覺性或美感。一些科學(xué)家擔(dān)心，大規(guī)模使用AI可能削弱科學(xué)中更具直覺性、偶然發(fā)現(xiàn)式或不拘一格的研究方式。這個問題可能通過不同方式表現(xiàn)出來。

一個擔(dān)憂是，AI模型經(jīng)過訓(xùn)練后會盡量減少訓(xùn)練數(shù)據(jù)中的異常值，而科學(xué)家往往通過跟隨直覺放大異常值，來應(yīng)對一些令人困惑的數(shù)據(jù)點(diǎn)。另一個擔(dān)憂是，AI系統(tǒng)通常被訓(xùn)練來完成特定任務(wù)，依賴AI可能會錯過更多偶然的突破，比如那些未曾研究的問題的解決辦法。在社區(qū)層面，一些人擔(dān)心，如果科學(xué)家大規(guī)模擁抱AI，可能會導(dǎo)致研究成果的逐漸同質(zhì)化，畢竟，大型語言模型在回應(yīng)不同科學(xué)家的提問時可能會產(chǎn)生相似的建議，或是科學(xué)家會過度關(guān)注那些最適合AI解決的學(xué)科和問題。

為緩解此類風(fēng)險，科研人員可在保證探索性研究深度的前提下，靈活調(diào)整AI使用策略。例如，通過對大型語言模型進(jìn)行微調(diào)，使其能夠提供更個性化的研究創(chuàng)意，或幫助科學(xué)家更好地引發(fā)自己的想法。

AI還能夠促進(jìn)一些可能原本不會出現(xiàn)的科學(xué)創(chuàng)造性。其中一種AI創(chuàng)造性是插值(Interpolation)，即AI系統(tǒng)在其訓(xùn)練數(shù)據(jù)中識別出新的想法，尤其是在人的能力受到限制的情況下。例如，使用AI檢測來自大型強(qiáng)子對撞機(jī)實(shí)驗(yàn)的大規(guī)模數(shù)據(jù)集中的異常值。

第二種是外推(Extrapolation)，在這種情況下，AI模型能夠?qū)⒅R推廣到訓(xùn)練數(shù)據(jù)之外，提出更具創(chuàng)新性的解決方案。

第三種是發(fā)明(Invention)，AI系統(tǒng)提出完全脫離其訓(xùn)練數(shù)據(jù)的全新理論或科學(xué)體系，類似于廣義相對論的最初發(fā)展或復(fù)數(shù)的創(chuàng)造。雖然目前AI系統(tǒng)尚未展示出這樣的創(chuàng)造性，但新的方法有望解鎖這種能力，例如多智能體系統(tǒng)，這些系統(tǒng)會針對不同的目標(biāo)（如新穎性和反直覺性）進(jìn)行優(yōu)化，或者是科學(xué)問題生成模型，專門訓(xùn)練用于生成新的科學(xué)問題，進(jìn)而激發(fā)創(chuàng)新的解決方案。

可靠性

可靠性指的是科學(xué)家們在相互依賴他人研究成果時的信任程度，他們需要確保這些結(jié)果并非偶然或錯誤。目前人工智能研究中存在不良做法，科研工作者在進(jìn)行科學(xué)研究時應(yīng)高度警惕。例如研究人員根據(jù)自己的偏好挑選用來評估模型表現(xiàn)的標(biāo)準(zhǔn)，而AI模型，尤其是LLMs，也容易“幻覺”產(chǎn)生“幻覺”，即虛假或誤導(dǎo)性的輸出，包括科學(xué)引用。LLMs還可能會導(dǎo)致大量低質(zhì)量論文的泛濫，這些論文類似于“論文工廠”產(chǎn)生的作品。

為了應(yīng)對這些問題，目前已經(jīng)存在一些解決方案，包括制定供研究人員遵循的良好實(shí)踐清單，以及不同類型的AI事實(shí)性研究，例如訓(xùn)練AI模型將其輸出與可信來源對接，或幫助驗(yàn)證其他AI模型的輸出。

另一方面，科研人員還可以利用AI提升更廣泛研究基礎(chǔ)的可靠性。例如，如果AI能夠幫助自動化數(shù)據(jù)注釋或?qū)嶒?yàn)設(shè)計(jì)的部分過程，這將為這些領(lǐng)域提供迫切需要的標(biāo)準(zhǔn)化。隨著AI模型在將其輸出與引用文獻(xiàn)對接方面的能力不斷提升，它們也可以幫助科學(xué)家和政策制定者更系統(tǒng)地回顧證據(jù)基礎(chǔ)。科研人員還可以使用AI幫助檢測錯誤或偽造的圖像或識別誤導(dǎo)性的科學(xué)聲明，比如Science期刊最近對一款A(yù)I圖像分析工具的試驗(yàn)。AI甚至可能在同行評審中發(fā)揮作用，尤其考慮到一些科學(xué)家已經(jīng)使用LLMs來幫助審閱自己的論文以及驗(yàn)證AI模型的輸出。

可解釋性

在Nature雜志最近的一項(xiàng)調(diào)查中，科學(xué)家們認(rèn)為，使用AI進(jìn)行科學(xué)研究最大的風(fēng)險是依賴模式匹配，而忽視了深入的理解。對于AI可能破壞科學(xué)理解的擔(dān)憂，其中之一是對現(xiàn)代深度學(xué)習(xí)方法 “無理論”的質(zhì)疑。它們并不包含，也沒有為所預(yù)測現(xiàn)象提供理論解釋?？茖W(xué)家們還擔(dān)心AI模型的“不可解釋性”，即它們不基于明確的方程式和參數(shù)集。還有人擔(dān)心任何解釋AI模型輸出的方式都不會對科學(xué)家有用或易于理解。畢竟，AI模型或許能提供蛋白質(zhì)結(jié)構(gòu)或天氣預(yù)測，卻未必能告訴我們?yōu)楹蔚鞍踪|(zhì)以特定方式折疊，或大氣動力學(xué)又是如何導(dǎo)致氣候變化。

其實(shí)，人們對“用低級的計(jì)算替代‘真正的理論科學(xué)’”的擔(dān)憂并不新鮮，過去的技術(shù)，如蒙特卡羅方法，也曾遭到過類似的批評。將工程學(xué)與科學(xué)相結(jié)合的領(lǐng)域，如合成生物學(xué)，也曾被指責(zé)優(yōu)先考慮有用的應(yīng)用而忽視深入的科學(xué)理解。但歷史證明，這些方法和技術(shù)最終推動了科學(xué)理解的發(fā)展。更何況，大多數(shù)AI模型并非真正的“無理論”。它們通常基于先前知識構(gòu)建數(shù)據(jù)集與評估標(biāo)準(zhǔn)，有些還具備一定程度的可解釋性。

如今的可解釋性技術(shù)正不斷發(fā)展，研究者嘗試通過識別模型中學(xué)到的“概念”或內(nèi)在結(jié)構(gòu)，來理解AI的推斷邏輯。盡管這些可解釋性技術(shù)有很多局限性，但它們已經(jīng)使科學(xué)家能夠從AI模型中得到新的科學(xué)假設(shè)。例如，有研究能夠預(yù)測DNA序列中每個堿基對不同轉(zhuǎn)錄因子結(jié)合的相對貢獻(xiàn)，并用生物學(xué)家熟悉的概念解釋這一結(jié)果。此外，AlphaZero在下棋時學(xué)到的“超人類”策略，經(jīng)由另一個AI系統(tǒng)解析后，還能傳授給人類棋手。這意味著，AI學(xué)習(xí)的“新概念”或許能反哺人類認(rèn)知。

即使沒有可解釋性技術(shù)，AI也能通過開啟新的研究方向來改善科學(xué)理解，這些方向本來是無法實(shí)現(xiàn)的。例如，通過解鎖生成大量合成蛋白質(zhì)結(jié)構(gòu)的能力，AlphaFold使科學(xué)家能夠跨越蛋白質(zhì)結(jié)構(gòu)進(jìn)行搜索，而不僅僅是蛋白質(zhì)序列。這一方法被用來發(fā)現(xiàn)Cas13蛋白家族的一個古老成員，該成員在RNA編輯方面有潛力，尤其是在幫助診斷和治療疾病方面。這個發(fā)現(xiàn)還挑戰(zhàn)了關(guān)于Cas13進(jìn)化的先前假設(shè)。相反，嘗試修改AlphaFold模型架構(gòu)以融入更多的先驗(yàn)知識，卻導(dǎo)致了性能下降。這凸顯了準(zhǔn)確性與可解釋性之間的權(quán)衡。AI“模糊性”源于自它們能夠在高維空間中操作，而這些空間對人類來說可能是不可理解的，但卻是科學(xué)突破所必需的。

04 結(jié)語：把握機(jī)遇，人工智能賦能科研的行動方案

顯然，科學(xué)及人工智能在加速科學(xué)進(jìn)程中的潛力應(yīng)當(dāng)引起科研工作者的高度重視。那么，科研工作者應(yīng)該從哪里開始呢？為了充分利用AI驅(qū)動的科學(xué)機(jī)遇，以主動的姿態(tài)擁抱變革是必要的?；蛟S有這樣一些建議可以采用。

首先，掌握AI工具的語言，如理解生成模型、強(qiáng)化學(xué)習(xí)等技術(shù)原理，并熟練運(yùn)用開源的代碼庫進(jìn)行定制化探索；其次要構(gòu)建數(shù)據(jù)與實(shí)驗(yàn)的閉環(huán)，將AI生成結(jié)果通過自動化實(shí)驗(yàn)室（如加州大學(xué)伯克利分校A-Lab）快速驗(yàn)證，形成“假設(shè)-生成-驗(yàn)證”的迭代鏈路；更重要的是重塑科研想象力——當(dāng)AI能設(shè)計(jì)出超越人類經(jīng)驗(yàn)范疇的蛋白質(zhì)或超導(dǎo)體時，科學(xué)家應(yīng)轉(zhuǎn)向更本質(zhì)的科學(xué)問題，例如通過AI揭示材料性能與微觀結(jié)構(gòu)的隱變量關(guān)系，或探索多尺度跨物理場的耦合機(jī)制。正如諾貝爾獎得主David Baker所言：“AI不是替代科學(xué)家，而是賦予我們觸碰未知的階梯。”在這場人機(jī)協(xié)同的探索中，唯有將人類的創(chuàng)造性思維與AI的計(jì)算暴力深度融合，方能真正釋放科學(xué)發(fā)現(xiàn)的無限可能。

參考文獻(xiàn)

https://www.aipolicyperspectives.com/p/a-new-golden-age-of-discovery

https://mp.weixin.qq.com/s/_LOoN785XhnXao9s9jTSVQ243145.