D-Think | 東遠(yuǎn)科技-廣州東遠(yuǎn)智能科技有限公司- › 首頁(yè) ›資訊› 科技頭條 › 查看內(nèi)容

雷軍不堪其擾，張文宏多次向平臺(tái)投訴！AI合成音視頻，合理使用邊界在哪兒？

2025-2-25 08:20| 發(fā)布者: admin| 查看: 110| 評(píng)論: 0

摘要: 來(lái)源：法治網(wǎng) “從現(xiàn)在開(kāi)始，你可以讓任何人成為你的配音師！”“如何讓你喜歡的角色說(shuō)你指定的臺(tái)詞？”在一聲聲頗具感染力的宣傳語(yǔ)下你有沒(méi)有嘗試過(guò)利用AI合成聲音？隨著人工智能的快速發(fā)展AI能幫助人類(lèi)做的事情越 ...

來(lái)源：法治網(wǎng)

“從現(xiàn)在開(kāi)始，你可以讓任何人成為你的配音師！”

“如何讓你喜歡的角色說(shuō)你指定的臺(tái)詞？”

在一聲聲頗具感染力的宣傳語(yǔ)下

你有沒(méi)有嘗試過(guò)利用AI合成聲音？

隨著人工智能的快速發(fā)展

AI能幫助人類(lèi)做的事情越來(lái)越多

整理文字、生成視頻、校對(duì)文件……

AI合成聲音成為網(wǎng)絡(luò)新寵

然而其濫用的危害性也在日益凸顯

多位專(zhuān)家強(qiáng)調(diào)——

AI合成音視頻本質(zhì)上是一種技術(shù)使用行為

必須在法律框架內(nèi)規(guī)范進(jìn)行

網(wǎng)上有商家公開(kāi)售賣(mài)AI合成聲音技術(shù)，只需幾十元！

近些年，AI合成聲音濫用的現(xiàn)象屢見(jiàn)不鮮：利用軟件修改的明星靳東聲音與“粉絲”互動(dòng)，詐騙老年人近百萬(wàn)元；利用AI模仿雷軍聲音，吐槽熱門(mén)話題博取流量；利用AI模仿張文宏醫(yī)生聲音，進(jìn)行推銷(xiāo)帶貨；甚至有不法分子通過(guò)“AI換聲”仿冒一位老人的孫子，以“打人須賠償，否則要坐牢”為由詐騙老人數(shù)萬(wàn)元……

即便是網(wǎng)友惡搞，AI合成聲音的濫用，也已經(jīng)讓人們不勝其擾。雷軍曾專(zhuān)門(mén)發(fā)視頻回應(yīng)關(guān)于他自己的AI聲音制品“雷軍語(yǔ)音包”，并表示這給他帶來(lái)了一些困擾，稱(chēng)“希望大家都不要玩了。”

張文宏接受媒體采訪時(shí)也表示，這樣的賬號(hào)“不止一個(gè)，且一直在變”，他多次向平臺(tái)投訴但屢禁不絕，“這些假的AI合成信息就像蝗災(zāi)一樣，一次又一次發(fā)生，像漫天飛過(guò)來(lái)的蝗蟲(chóng)一樣害人。事實(shí)上，從平臺(tái)投訴結(jié)果來(lái)看，我覺(jué)得最終也難以解決問(wèn)題。”

法治網(wǎng)記者調(diào)查發(fā)現(xiàn)，當(dāng)前AI合成聲音的濫用已經(jīng)相當(dāng)嚴(yán)重，但其制作成本卻很低廉。在某網(wǎng)購(gòu)平臺(tái)有商家公開(kāi)售賣(mài)AI合成聲音技術(shù)，只需幾十元，通過(guò)一句話就可以克隆任何聲音。

雷軍不堪其擾，張文宏多次向平臺(tái)投訴！AI合成音視頻，合理使用邊界在哪兒？

在一些短視頻平臺(tái)上，也有不少博主推薦各種AI合成工具，還有博主發(fā)布“保姆級(jí)”聲音克隆教程，說(shuō)是可以通過(guò)一小段聲音音頻就可以制作出新聞稿件、短劇配音等AI制品，獲得上千點(diǎn)贊。

雷軍不堪其擾，張文宏多次向平臺(tái)投訴！AI合成音視頻，合理使用邊界在哪兒？

（相關(guān)教學(xué)視頻截圖）

亂象橫生，AI合成音視頻的合理使用邊界在哪兒？

用AI生成他人聲音的現(xiàn)象頻發(fā)，AI合成音視頻的限度和邊界在哪兒？中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授、中國(guó)法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)副會(huì)長(zhǎng)王立梅教授認(rèn)為，AI合成音視頻本質(zhì)上是一種技術(shù)使用行為，必須在法律的框架內(nèi)規(guī)范進(jìn)行。一般而言，AI合成技術(shù)的合理使用邊界在于是否獲得權(quán)利人的明確授權(quán)以及是否對(duì)社會(huì)造成負(fù)面影響。

“一方面，法律保護(hù)自然人的聲音、肖像等權(quán)益，禁止未經(jīng)授權(quán)的商業(yè)使用和可能造成混淆或誤導(dǎo)的行為；另一方面，根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等要求，平臺(tái)也應(yīng)加強(qiáng)對(duì)AI合成內(nèi)容的審核與標(biāo)識(shí)，使用更加先進(jìn)經(jīng)濟(jì)的技術(shù)手段加強(qiáng)檢測(cè)和侵權(quán)治理，及時(shí)干預(yù)阻斷侵權(quán)行為及其不良影響的擴(kuò)散，有效平衡技術(shù)創(chuàng)新與個(gè)人權(quán)益保護(hù)之間的關(guān)系，切實(shí)擔(dān)負(fù)起推動(dòng)形成良好網(wǎng)絡(luò)生態(tài)的主體責(zé)任。”王立梅說(shuō)。

北京互聯(lián)網(wǎng)法院綜合審判三庭庭長(zhǎng)顏君認(rèn)為，在深度合成技術(shù)快速發(fā)展背景下，作為信息網(wǎng)絡(luò)服務(wù)提供者，平臺(tái)應(yīng)嚴(yán)格履行《中華人民共和國(guó)民法典》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī)規(guī)定的義務(wù)，落實(shí)信息安全主體責(zé)任，建立健全用戶注冊(cè)、算法機(jī)制機(jī)理審核、科技倫理審查、信息發(fā)布審核、數(shù)據(jù)安全、個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙、應(yīng)急處置等管理制度。

中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春分析指出，當(dāng)前AI合成聲音的問(wèn)題主要分為兩種情況：一種是深度偽造，即用AI來(lái)生成合成假的聲音，即此前雷軍和張文宏的聲音被偽造的情況；另一種是拿他人的聲音來(lái)訓(xùn)練，比如多位配音演員稱(chēng)聲音被AI“偷走”，就是用他人的聲音來(lái)訓(xùn)練成AI配音，用于配音朗誦等情況。

“這兩種情況引起的問(wèn)題有不太一樣的地方，前者可能會(huì)導(dǎo)致虛假信息傳播，既有可能侵害人格的權(quán)益，也可能會(huì)造成謠言的流傳，會(huì)對(duì)公共秩序造成損害，比如誤導(dǎo)公眾。有時(shí)還可能涉及欺詐，甚至有電信欺詐的問(wèn)題；后者主要是對(duì)于人格利益的人和權(quán)益的侵害，主要是民事責(zé)任的問(wèn)題。”劉曉春說(shuō)。

王立梅表示，這些行為不僅侵犯?jìng)€(gè)人的聲音信息、肖像權(quán)和名譽(yù)權(quán)等合法權(quán)益，還可能誤導(dǎo)消費(fèi)者，擾亂社會(huì)秩序，損害公眾對(duì)新技術(shù)新應(yīng)用的信任感和對(duì)數(shù)字空間的安全感。

律師：平臺(tái)若未履行審核義務(wù)，或被追究連帶責(zé)任

《法治日?qǐng)?bào)》律師專(zhuān)家?guī)斐蓡T、福建省律協(xié)副會(huì)長(zhǎng)、福建重宇合眾律師事務(wù)所首席合伙人涂崇禹律師表示，AI合成聲音技術(shù)的濫用可能涉及對(duì)個(gè)人權(quán)益、社會(huì)秩序及市場(chǎng)公平的侵害。《中華人民共和國(guó)民法典》第一千零二十三條規(guī)定，自然人聲音的保護(hù)參照適用肖像權(quán)保護(hù)的相關(guān)規(guī)定。未經(jīng)允許使用他人聲音，尤其是通過(guò)AI技術(shù)進(jìn)行深度合成并傳播，構(gòu)成對(duì)聲音權(quán)的侵害。

對(duì)于平臺(tái)應(yīng)負(fù)的責(zé)任，涂崇禹律師分析，《生成式人工智能服務(wù)管理暫行辦法》等專(zhuān)項(xiàng)規(guī)定要求AI生成內(nèi)容必須顯著標(biāo)識(shí)，平臺(tái)需對(duì)合成內(nèi)容進(jìn)行審核，并建立用戶實(shí)名認(rèn)證機(jī)制。平臺(tái)若未履行內(nèi)容審核義務(wù)，可能被追究連帶責(zé)任。另外，若商家利用AI模仿明星或?qū)＜衣曇暨M(jìn)行直播帶貨，誤導(dǎo)消費(fèi)者購(gòu)買(mǎi)商品，可能違反《中華人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》，構(gòu)成虛假宣傳或不正當(dāng)競(jìng)爭(zhēng)。

作為平臺(tái)方來(lái)說(shuō)，應(yīng)加強(qiáng)哪些方面管理和制度建設(shè)？顏君建議，首先，平臺(tái)應(yīng)當(dāng)加強(qiáng)深度合成內(nèi)容管理，采取技術(shù)或者人工方式對(duì)深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，并對(duì)使用深度合成技術(shù)生成的信息內(nèi)容進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆。其次，平臺(tái)應(yīng)建立健全辟謠機(jī)制，發(fā)現(xiàn)利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假信息的，應(yīng)當(dāng)及時(shí)采取辟謠措施，保存有關(guān)記錄，并向網(wǎng)信部門(mén)和有關(guān)主管部門(mén)報(bào)告。此外，平臺(tái)應(yīng)健全投訴處理機(jī)制，及時(shí)響應(yīng)權(quán)利人的維權(quán)請(qǐng)求，及時(shí)履行網(wǎng)絡(luò)服務(wù)提供者采取刪除、屏蔽、斷開(kāi)鏈接等必要措施的合理注意義務(wù)。

“未來(lái)，針對(duì)AI聲音侵權(quán)等新型侵權(quán)行為，需要進(jìn)一步明確平臺(tái)在內(nèi)容審核、數(shù)據(jù)使用、算法推薦等方面的責(zé)任。相關(guān)平臺(tái)也應(yīng)當(dāng)尊重社會(huì)公德和倫理道德，主動(dòng)履行社會(huì)責(zé)任，加強(qiáng)行業(yè)自律，推動(dòng)人工智能與深度合成技術(shù)向上向善發(fā)展，保護(hù)公民的合法權(quán)益，共同維護(hù)良好的網(wǎng)絡(luò)生態(tài)?！鳖伨f(shuō)。

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)調(diào)解工作委員會(huì)首席調(diào)解員郭玉忠表示，在即將到來(lái)的AI時(shí)代，不僅個(gè)體的聲音可能“被偷”，即便是多場(chǎng)景、多主體的互動(dòng)式語(yǔ)音也存在被“高仿”的可能。當(dāng)個(gè)人權(quán)益受到侵害，啟動(dòng)維權(quán)行動(dòng)時(shí)，除了常規(guī)的對(duì)侵權(quán)行為收集證據(jù)以外，還要盡量提供侵權(quán)行為給己方造成的實(shí)際經(jīng)濟(jì)損失。如侵權(quán)方無(wú)惡意企圖，建議先行與之溝通、投訴，要求下架相關(guān)產(chǎn)品從而減少己方損失，并根據(jù)配合態(tài)度決定后續(xù)索賠路徑及策略，如調(diào)解磋商、提起訴訟等。

“當(dāng)前AI聲音濫用的法律規(guī)制需多維度協(xié)同，增強(qiáng)個(gè)人聲紋信息保護(hù)意識(shí)，警惕AI聲音詐騙，在技術(shù)發(fā)展與權(quán)益保護(hù)之間實(shí)現(xiàn)平衡。”涂崇禹律師說(shuō)。

選題策劃｜法治網(wǎng)研究院

文｜余瀛波時(shí)海媛