D-Think | 東遠(yuǎn)科技-廣州東遠(yuǎn)智能科技有限公司- › 首頁 ›資訊› 科技頭條 › 查看內(nèi)容

聚焦“AI焦慮”“AI幻覺”，代表委員共話人工智能

2025-3-9 12:28| 發(fā)布者: admin| 查看: 135| 評(píng)論: 0

摘要: 人工智能（AI）技術(shù)近年來發(fā)展迅猛，已迅速蔓延至各個(gè)領(lǐng)域，尤其是今年初，國產(chǎn)DeepSeek大模型的發(fā)布引發(fā)了廣泛關(guān)注，最近不少領(lǐng)域的企業(yè)，包括政府部門都迎來了“數(shù)智員工”。越來越多的人開始接觸、認(rèn)識(shí)、使用AI， ...

人工智能（AI）技術(shù)近年來發(fā)展迅猛，已迅速蔓延至各個(gè)領(lǐng)域，尤其是今年初，國產(chǎn)DeepSeek大模型的發(fā)布引發(fā)了廣泛關(guān)注，最近不少領(lǐng)域的企業(yè)，包括政府部門都迎來了“數(shù)智員工”。

越來越多的人開始接觸、認(rèn)識(shí)、使用AI，但同時(shí)“AI焦慮”也在互聯(lián)網(wǎng)上蔓延，不少網(wǎng)友擔(dān)心AI發(fā)展之后，將“搶”走更多的崗位。AI賦能千行百業(yè)的時(shí)代到來，但也有人指責(zé)“AI經(jīng)常一本正經(jīng)地胡說八道”，如何應(yīng)對(duì)AI幻覺，如何辨別真假，已成為公共話題。在今年全國兩會(huì)上，多位人大代表和政協(xié)委員就AI延伸出的問題提出了自己的看法和建議。

AI的發(fā)展會(huì)搶走我們的“飯碗”嗎？

全國政協(xié)委員、天娛數(shù)科CEO賀晗接受記者采訪時(shí)表示，DeepSeek帶動(dòng)中國人工智能產(chǎn)業(yè)進(jìn)入了“高鐵時(shí)代”，有望在全球競爭中實(shí)現(xiàn)從“追趕”到“引領(lǐng)”的跨越。

針對(duì)網(wǎng)友“AI搶飯碗”的焦慮，他表示，AI不是替代工作崗位，而是重塑協(xié)作范式。AI精準(zhǔn)執(zhí)行基礎(chǔ)任務(wù)，人類注入創(chuàng)新、情感，最搶手的不是“會(huì)用AI的人”，而是“能用AI創(chuàng)造不可替代性價(jià)值的人”。

“因此，AI不會(huì)簡單地卷走工作崗位，而是在重塑整個(gè)就業(yè)生態(tài)?！辟R晗說，客服、文案崗位減少的同時(shí)，AI訓(xùn)練師、AI倫理審核、AI設(shè)計(jì)師、AI產(chǎn)品經(jīng)理等職業(yè)正在興起，形成更復(fù)雜的生態(tài)系統(tǒng)。

全國政協(xié)委員、天娛數(shù)科CEO賀晗。受訪者供圖

哪些“AI+”產(chǎn)業(yè)比較有前景？賀晗認(rèn)為是“AI+工業(yè)”。目前AI集中在內(nèi)容創(chuàng)作、客服、編程等桌面應(yīng)用，滲透率高，在工業(yè)領(lǐng)域應(yīng)用鳳毛麟角，本質(zhì)原因在于工業(yè)場景是3D空間，而目前絕大部分大模型為語言、圖形、視頻等2D模型，在工業(yè)場景應(yīng)用時(shí)存在空間計(jì)算鴻溝。他表示，由3D大模型驅(qū)動(dòng)的3D智能將為工業(yè)帶來顛覆式的變革。在理解真實(shí)世界方面具備更全面的感知、理解、交互與決策能力，重新定義人、機(jī)器與真實(shí)世界、虛擬世界之間的關(guān)系，能讓虛擬世界更真實(shí)，能讓真實(shí)世界更智能。

全國人大代表、長虹控股集團(tuán)董事長柳江表示，新技術(shù)的發(fā)展是推動(dòng)人類社會(huì)不斷進(jìn)步的重要標(biāo)志。從歷史的進(jìn)程可以看出，從農(nóng)業(yè)社會(huì)到信息化社會(huì)，人類的技術(shù)一直在不停發(fā)展，全球人口也在不斷增長，但基本沒有出現(xiàn)因“技術(shù)爆炸”“生產(chǎn)力解放”等原因造成大批失業(yè)的情況。恰恰相反，技術(shù)的進(jìn)步還會(huì)帶來新的就業(yè)崗位?！拔磥?，可能簡單的重復(fù)勞動(dòng)會(huì)被機(jī)器替代，但對(duì)應(yīng)的新崗位也會(huì)有增長，比如數(shù)據(jù)標(biāo)注師、人工智能算法崗等。”

他介紹，實(shí)際上長虹也在積極推進(jìn)“AI+”行動(dòng)，加速AI技術(shù)應(yīng)用落地。“AI質(zhì)檢員”——長虹自研的“5G+AI”視覺檢測設(shè)備在華豐科技生產(chǎn)車間已經(jīng)“上崗”，其檢測精準(zhǔn)率可達(dá)99.98%?！癆I+制造”也隨處可見，長虹智慧顯示工廠單線可同時(shí)生產(chǎn)6個(gè)種類、1100臺(tái)產(chǎn)品。此外，長虹還積極探索“AI+運(yùn)營”，以工業(yè)互聯(lián)網(wǎng)平臺(tái)為牽引，體現(xiàn)數(shù)據(jù)運(yùn)用、數(shù)據(jù)管理和數(shù)據(jù)安全。

聚焦“AI焦慮”“AI幻覺”，代表委員共話人工智能

全國人大代表、長虹控股集團(tuán)董事長柳江。受訪者供圖

在今年全國兩會(huì)上，柳江帶來加快可信數(shù)據(jù)空間應(yīng)用落地的建議。“當(dāng)前，數(shù)據(jù)要素已融入企業(yè)生產(chǎn)、科技創(chuàng)新的過程，正在不斷重塑著產(chǎn)業(yè)形態(tài)，數(shù)據(jù)要素產(chǎn)業(yè)發(fā)展?jié)摿薮?。”柳江說，人工智能通用大模型取得的突破性進(jìn)展引起廣泛關(guān)注，智能化技術(shù)迭代演進(jìn)的背后，正是數(shù)據(jù)的海量“投喂”。但同時(shí)產(chǎn)業(yè)鏈數(shù)據(jù)孤島現(xiàn)象突出，數(shù)據(jù)價(jià)值評(píng)估體系缺失，使得數(shù)據(jù)難以實(shí)現(xiàn)高效整合與共享，極大地限制了數(shù)據(jù)價(jià)值的充分釋放。他表示，“希望在更高層面，加快推動(dòng)可信數(shù)據(jù)空間建設(shè)與應(yīng)用落地，推動(dòng)數(shù)字經(jīng)濟(jì)賦能實(shí)體經(jīng)濟(jì)。”

“AI幻覺”是一把雙刃劍，不可消除，但可以矯正

隨著國產(chǎn)DeepSeek大模型的發(fā)布，引發(fā)“全民AI”的現(xiàn)象，同時(shí)，也有網(wǎng)友關(guān)注到，生成式AI正以驚人的速度進(jìn)化出“一本正經(jīng)胡說八道”的能力。不少網(wǎng)友曬出了自己的親身經(jīng)歷，AI面不改色造謠的問題頻現(xiàn)，這種大語言模型編造它認(rèn)為是真實(shí)存在的甚至看起來合理或可信的信息被稱為“AI幻覺”。

此外，甚至還有人“喂假料”捏造虛假數(shù)據(jù)庫。這種情況多出現(xiàn)在股市“黑嘴”們及幕后的不法之徒，用虛假語料誤導(dǎo)大模型作出錯(cuò)誤回答，再將這些“AI答案”傳播擴(kuò)散坑騙散戶，以干擾甚至操縱個(gè)股市場交易的場景中。

今年兩會(huì)期間，全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎聚焦關(guān)注大模型安全和幻覺。他認(rèn)為，以DeepSeek為代表的大模型取得了“國運(yùn)級(jí)科技成果”，不僅促進(jìn)了大模型技術(shù)自主創(chuàng)新，也帶動(dòng)了上下游產(chǎn)業(yè)協(xié)同發(fā)展，讓大模型加速走進(jìn)百行千業(yè)，成為推動(dòng)中國科技進(jìn)步、經(jīng)濟(jì)增長和國家強(qiáng)盛的關(guān)鍵力量。但包括DeepSeek在內(nèi)的大模型都存在“幻覺”，偶爾會(huì)生成看似不合理、與事實(shí)不符的情況。

他表示，“幻覺”是一把雙刃劍，是大模型與生俱來的特點(diǎn)，不可消除，也決定其創(chuàng)造力和想象力，對(duì)于實(shí)現(xiàn)AGI（通用人工智能）極其重要。如果大模型沒有“幻覺”，就失去了想象力和創(chuàng)造力。并且越是能力強(qiáng)的模型，一般“幻覺”也越多。

聚焦“AI焦慮”“AI幻覺”，代表委員共話人工智能

全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎。受訪者供圖

周鴻祎認(rèn)為，在科研領(lǐng)域，大模型的“幻覺”能“想象”新藥分子結(jié)構(gòu)、蛋白質(zhì)的結(jié)構(gòu)等，為新研究指引方向。在醫(yī)療、法律、金融等對(duì)準(zhǔn)確性要求高的領(lǐng)域，“‘幻覺’雖然可能出錯(cuò)，但可以利用技術(shù)手段，如RAG（檢索增強(qiáng)生成）技術(shù)，通過比對(duì)專業(yè)知識(shí)庫、網(wǎng)絡(luò)實(shí)時(shí)信息等方式予以矯正?！?br>
他建議，借鑒“避風(fēng)港原則”成功經(jīng)驗(yàn)，對(duì)大模型以及相關(guān)的產(chǎn)品和服務(wù)實(shí)施柔性監(jiān)管，適度包容大模型的“幻覺”，對(duì)于“幻覺”導(dǎo)致的一般性失誤，避免直接關(guān)停下架，給予企業(yè)自我糾正的機(jī)會(huì)，促進(jìn)企業(yè)大膽創(chuàng)新、放手競爭，爭取讓更多企業(yè)“復(fù)制”DeepSeek的成功。

他同時(shí)呼吁各界共同努力，構(gòu)建更加完善的大模型應(yīng)用安全治理體系，在保障安全的前提下最大化地釋放大模型技術(shù)的潛力。建議相關(guān)部門及時(shí)出臺(tái)配套政策措施，鼓勵(lì)兼具安全、AI雙重能力的企業(yè)提供完整解決方案。

針對(duì)“AI亂象”構(gòu)建多方治理體系刻不容緩

賀晗表示，針對(duì)當(dāng)前包括“AI幻覺”在內(nèi)的AI亂象問題，構(gòu)建一個(gè)全面且行之有效的多方治理體系刻不容緩。首先，在法律層面，法律應(yīng)迅速響應(yīng)，針對(duì)AI應(yīng)用中出現(xiàn)的犯規(guī)、越界，乃至涉及違法犯罪的行為，制定明確且細(xì)致的條款。明確界定AI技術(shù)在不同場景下的使用邊界，對(duì)惡意利用AI進(jìn)行詐騙、侵犯隱私等行為，從法律量刑、懲處細(xì)則等方面給予強(qiáng)有力的約束，讓法律成為AI規(guī)范發(fā)展的堅(jiān)實(shí)底線。

其次，在監(jiān)管層面，對(duì)AI亂象進(jìn)行科學(xué)合理的分類與分級(jí)，借助先進(jìn)的技術(shù)手段，打造全方位的立體監(jiān)管措施。利用大數(shù)據(jù)分析、智能監(jiān)測系統(tǒng)，對(duì)AI的研發(fā)、應(yīng)用全流程進(jìn)行實(shí)時(shí)監(jiān)控。針對(duì)高風(fēng)險(xiǎn)領(lǐng)域，如金融、醫(yī)療等，實(shí)施重點(diǎn)監(jiān)管，對(duì)違規(guī)行為及時(shí)預(yù)警、干預(yù)，將風(fēng)險(xiǎn)遏制在萌芽狀態(tài)。

在社會(huì)治理層面，積極開展社會(huì)教育工作，通過多種渠道給老百姓、青少年加強(qiáng)教育培訓(xùn)宣傳，普及AI知識(shí)與風(fēng)險(xiǎn)防范要點(diǎn)，提升公眾對(duì)AI的認(rèn)知水平。

全國人大代表、中國工程院院士、安徽理工大學(xué)校長袁亮表示，人工智能技術(shù)迅猛發(fā)展，其廣泛的應(yīng)用場景已使其成為社會(huì)關(guān)注的熱點(diǎn)。但與此同時(shí)，人工智能也帶來了一系列影響和挑戰(zhàn)，需要在法律法規(guī)、安全評(píng)估、倫理治理等方面加強(qiáng)規(guī)范。當(dāng)前，應(yīng)加快制定和完善AI相關(guān)的法律體系，明確AI研發(fā)、使用、監(jiān)管等方面的法律責(zé)任和權(quán)力邊界。加強(qiáng)AI技術(shù)的安全評(píng)估和管控。在AI系統(tǒng)的設(shè)計(jì)和使用過程中，應(yīng)加強(qiáng)對(duì)數(shù)據(jù)安全和隱私保護(hù)的意識(shí)，提高技術(shù)手段。采用先進(jìn)的數(shù)據(jù)加密技術(shù)，建立嚴(yán)格的數(shù)據(jù)訪問和使用權(quán)限管理制度，防止數(shù)據(jù)泄露和濫用。

聚焦“AI焦慮”“AI幻覺”，代表委員共話人工智能

全國人大代表、中國工程院院士、安徽理工大學(xué)校長袁亮。受訪者供圖

同時(shí)，推動(dòng)AI技術(shù)的倫理治理和規(guī)范。在AI技術(shù)的推廣和應(yīng)用過程中，應(yīng)加強(qiáng)對(duì)相關(guān)人員的倫理教育和規(guī)范培訓(xùn)。這包括對(duì)AI系統(tǒng)開發(fā)者、使用者、管理者等相關(guān)人員進(jìn)行倫理教育，增強(qiáng)他們的倫理意識(shí)和責(zé)任感。

新京報(bào)記者陳琳

編輯張磊校對(duì) 劉軍