D-Think | 東遠(yuǎn)科技-廣州東遠(yuǎn)智能科技有限公司- › 首頁 ›資訊› 科技頭條 › 查看內(nèi)容

AI造假逼真，“真”得趕緊還手

2025-2-27 10:10| 發(fā)布者: admin| 查看: 134| 評(píng)論: 0

摘要: 人類醫(yī)生漏診的怪病，人工智能篩出來了，救人一命——上周網(wǎng)傳的一則故事，有上海某知名三甲醫(yī)院的名稱，有醫(yī)患的基本信息，有病情進(jìn)展的細(xì)節(jié)，看上去很真實(shí)，一鍵轉(zhuǎn)發(fā)很熱鬧。我看完第一反應(yīng)是驚喜。過去幾年，醫(yī)療 ...

人類醫(yī)生漏診的怪病，人工智能篩出來了，救人一命——上周網(wǎng)傳的一則故事，有上海某知名三甲醫(yī)院的名稱，有醫(yī)患的基本信息，有病情進(jìn)展的細(xì)節(jié)，看上去很真實(shí)，一鍵轉(zhuǎn)發(fā)很熱鬧。

我看完第一反應(yīng)是驚喜。過去幾年，醫(yī)療一直是AI技術(shù)應(yīng)用最廣、成效最多的領(lǐng)域之一，如消息屬實(shí)，值得報(bào)道。結(jié)果我找醫(yī)院相關(guān)部門一核實(shí)，發(fā)現(xiàn)故事是假的。

我一時(shí)恍惚，看不清這嘈雜的輿論場(chǎng)，我們與真實(shí)的距離。

社交媒體網(wǎng)絡(luò)讓信息變得混沌難辨，這不是什么新鮮話題。早在2016年，《牛津詞典》便將“后真相”列為年度詞匯，意即在假新聞與陰謀論當(dāng)?shù)赖木W(wǎng)絡(luò)時(shí)代，事實(shí)讓位于情緒，理性讓位于偏見，真相已經(jīng)不再重要，重要的是人們選擇相信什么。

作為一名新聞從業(yè)者，我自認(rèn)為擁有對(duì)信息真?zhèn)位镜谋鎰e力。但隨著AI技術(shù)的廣泛應(yīng)用，我也時(shí)常為真假難辨的信息所惑。

重新審視那條AI救人的謠言，我覺得它很像我曾經(jīng)看過的一些由AI編造的消息。如果某一次我不經(jīng)核實(shí)就把AI提供的資料寫進(jìn)報(bào)道，可能也會(huì)炮制出那樣的故事。

今年春節(jié)期間，曾有一篇DeepSeek創(chuàng)始人梁文鋒回應(yīng)《黑神話：悟空》制作人馮驥的帖子在互聯(lián)網(wǎng)流傳，文風(fēng)細(xì)膩、金句頻出，一時(shí)引發(fā)轉(zhuǎn)載無數(shù)。最終證實(shí)是假新聞，有人用AI生成了一篇一模一樣的文章。

過去一段時(shí)間，這樣的事情并不罕見。譬如美國加利福尼亞州發(fā)生山火，網(wǎng)傳“烈火吞沒好萊塢標(biāo)志牌”的照片；西藏日喀則地震，“埋在廢墟中的小男孩”引發(fā)熱議。這些由AI生成的圖片甚至引發(fā)公共媒體將之作為事實(shí)報(bào)道，誤導(dǎo)公眾對(duì)災(zāi)情產(chǎn)生錯(cuò)誤判斷。

假新聞并不新鮮，只是AI讓“造假”愈發(fā)“逼真”，也更加“易得”。2023年，浙江紹興警方曾抓獲一個(gè)利用ChatGPT制作虛假新聞的團(tuán)伙。其中有一名從未接觸過電腦技術(shù)、僅有初中學(xué)歷的成員，利用AI自動(dòng)生成視頻素材，便能像流水線一樣批量生成假新聞，用時(shí)最短僅需1分鐘。2024年4月披露的另一則案件中，涉案人員使用AI寫稿軟件抓取熱點(diǎn)自動(dòng)生成文稿，每日產(chǎn)出的文章數(shù)量可達(dá)19萬篇，流向6000多個(gè)自媒體賬號(hào)。

2025年年初，達(dá)沃斯世界經(jīng)濟(jì)論壇發(fā)布《2025年全球風(fēng)險(xiǎn)報(bào)告》，將“錯(cuò)誤和虛假信息”與武裝沖突、極端天氣、經(jīng)濟(jì)對(duì)抗和社會(huì)極化列為2025年全球面臨的五大風(fēng)險(xiǎn)。

我認(rèn)為，虛假信息帶來的一種系統(tǒng)性風(fēng)險(xiǎn)就像“狼來了”，當(dāng)我們的情感被頻繁欺騙，當(dāng)我們面對(duì)每條信息都要懷疑其真?zhèn)螘r(shí)，我們社會(huì)的信任系統(tǒng)會(huì)被快速消耗，個(gè)體感受力也會(huì)趨于麻木。公眾無力再辨別更多真假，剩下的便只有各自的立場(chǎng)。

與之相對(duì)，虛假信息的傳播又大多都具有引導(dǎo)性。譬如，“后真相”成為年度詞匯的背景是，在當(dāng)時(shí)的英國脫歐和美國大選中，互聯(lián)網(wǎng)上充斥著各利益方所制造的虛假信息，對(duì)公眾的立場(chǎng)和注意力進(jìn)行誘導(dǎo)。俄烏沖突事件中也充斥著大量由AI制成的虛假視頻，服務(wù)不同的輿論目的。

更普遍的情況是，為了吸引流量，虛假信息的制作方通常會(huì)制作獵奇、極端或煽動(dòng)情緒的新聞，這一切都會(huì)在AI技術(shù)深度偽造的加持下進(jìn)一步放大，令普通人更加難以抵抗。

也因此，我們或許比過往的任何時(shí)候都更應(yīng)強(qiáng)調(diào)“真實(shí)”的力量。

對(duì)抗虛假信息最簡單的方法便是及時(shí)公開真實(shí)的立場(chǎng)。在過去20余年里，在全世界范圍內(nèi)，優(yōu)質(zhì)的深度信息逐漸衰落。以美國的蓋洛普民意調(diào)查數(shù)據(jù)為例，過去20多年間，美國民眾對(duì)媒體的信任度一直在持續(xù)下降，直至2024年，僅有不到三分之一的美國人依然信任新聞媒體。

在混沌的信息流中，為公眾提供準(zhǔn)確、高質(zhì)量的信息，空前重要?！笆聦?shí)核查”和開設(shè)辟謠欄目不光是機(jī)構(gòu)媒體的責(zé)任，很多熱點(diǎn)事件、虛假信息的涉事主體，都有義務(wù)為公眾提供及時(shí)、準(zhǔn)確的一手信息。

個(gè)體也并非局外人。在一個(gè)深度媒介化的時(shí)代，“媒介素養(yǎng)”早已不是少數(shù)從業(yè)者的要求，而應(yīng)該是一種公民素養(yǎng)。因此，許多教育從業(yè)者都在倡導(dǎo)將媒介素養(yǎng)教育納入基礎(chǔ)教育，尤其要針對(duì)偏遠(yuǎn)鄉(xiāng)村的青少年開展。

我曾經(jīng)采訪過一位鄉(xiāng)鎮(zhèn)中學(xué)教授職業(yè)生涯規(guī)劃的教師，她告訴我班內(nèi)幾乎一大半的學(xué)生都想做“網(wǎng)紅”。社交媒體如此深入孩子們的生活，卻少有人能為他們提前注射防護(hù)“疫苗”。

媒介素養(yǎng)聽起來有點(diǎn)空洞，它的底層實(shí)際上就是獲取信息、獨(dú)立思考的能力。

譬如，我們是否還能留有“慢信息”的消費(fèi)習(xí)慣。當(dāng)我們看到一則消息時(shí)，不要急于判定，而是花一些時(shí)間去思考，內(nèi)容是否符合基本事實(shí)邏輯？是否有可靠的信源？是否可被多個(gè)獨(dú)立信源交叉印證？或者僅僅只是暫緩分享速度，給事實(shí)以逐漸顯露的機(jī)會(huì)。

我們是否能夠抱有一種更加理性、開放的態(tài)度，去接納和我們?cè)杏^點(diǎn)不同的事實(shí)，而非讓立場(chǎng)和情緒先行，綁架我們對(duì)事實(shí)的判斷。又或者，我們也可以不必非要判斷，如果無法判定一則消息的細(xì)節(jié)真?zhèn)?，那么保持沉默，不去為極化的輿論場(chǎng)助燃，或許也是一種選擇。

查閱資料時(shí)，我發(fā)現(xiàn)其實(shí)許多廣為流傳的AI假消息并不難辨別。譬如，網(wǎng)傳西藏日喀則地震“被埋兒童”的照片，孩子有6根手指；網(wǎng)傳好萊塢燃燒的標(biāo)志牌，多了一個(gè)字母“O”；有的照片甚至還掛著AI生成的水印。有時(shí)，我們的常識(shí)和直覺，就是識(shí)別造假信息的有力武器。問題在于，我們是否仍有能力保有這種知覺，而非不加審慎地接納網(wǎng)絡(luò)提供給我們的所有信息。

網(wǎng)絡(luò)讓信息極度易得的同時(shí)，我們也在逐漸習(xí)慣于感受媒介經(jīng)手的現(xiàn)實(shí)，而非實(shí)感的現(xiàn)實(shí)；我們似乎也更習(xí)慣依賴外部的信息決策，而非回歸自身獨(dú)立思考。讓AI進(jìn)一步深入生活、輔助思維決策時(shí)，我們需要警醒，這是否會(huì)進(jìn)一步加劇我們對(duì)技術(shù)的依賴，減弱自身的思維能力。

不過，不可要求每一個(gè)人都具備信息的甄別能力。

因此，許多行業(yè)專家都在致力于研發(fā)AI鑒偽技術(shù)，即通過標(biāo)記、追蹤、分析內(nèi)容生成痕跡，來識(shí)別虛假信息。用戶將難以辨別的影像文本上傳至檢測(cè)工具，有機(jī)會(huì)快速得知它是否由AI生成。還有手機(jī)廠商直接在系統(tǒng)中內(nèi)置了AI換臉檢測(cè)工具，可以在視頻通話中完成識(shí)別，提示用戶對(duì)方使用AI換臉的概率。

2024年3月通過的歐盟首個(gè)《人工智能法案》，提到所有由AI生成的內(nèi)容（圖像、音頻或視頻等）都要有明晰的標(biāo)簽，以避免出現(xiàn)虛假信息。目前，國內(nèi)的部分社交媒體平臺(tái)，都在著手啟動(dòng)治理體系建設(shè)，對(duì)識(shí)別為疑似AI生成的內(nèi)容進(jìn)行顯著標(biāo)識(shí)，通過機(jī)制性的方法幫助用戶識(shí)別虛假信息。

《后真相：關(guān)于真相的新戰(zhàn)爭及如何反擊》的作者馬修·德安科納曾說，后真相不是關(guān)于謊言的，而是關(guān)于人們?nèi)绾握J(rèn)識(shí)、看待這些謊言的方式，是人們對(duì)謊言的回應(yīng)，是人們的態(tài)度。

討論到最后，其實(shí)真相究竟如何，已經(jīng)不是最要緊的事，更重要的是我們每個(gè)人愿意去為此做些什么。

來源：中國青年報(bào)