揚(yáng)子晚報(bào)|紫牛新聞?dòng)浾?沈昭
這兩天劉德華被討論的深度頻率有點(diǎn)高，不同的合成是一個(gè)是他在《流浪地球》中飾演的“圖恒宇”一角，一個(gè)則是技術(shù)ky官方(開云)網(wǎng)站他本人，相同的該詐是，不論是深度對(duì)“圖恒宇”的討論還是對(duì)劉德華本人的討論，都繞不開一個(gè)話題，合成那就是技術(shù)人工智能深度合成技術(shù)。
2月底，該詐音樂人包小柏用AI深度合成技術(shù)復(fù)原了自己已去世的深度女兒一事引起了廣泛的關(guān)注，AI合成的合成女兒可以唱歌，可以對(duì)話，技術(shù)ky官方(開云)網(wǎng)站還為妻子唱起了生日歌。該詐這一場(chǎng)景讓很多人都想到了電影《流浪地球2》中“數(shù)字生命”這一概念，深度在電影里，合成劉德華飾演的技術(shù)圖恒宇是數(shù)字世界架構(gòu)師，他的女兒圖丫丫車禍去世后，圖恒宇開始想要把女兒在數(shù)字世界復(fù)活，讓圖丫丫在數(shù)字世界中度過完整的一生。
電影中圖恒宇的故事感動(dòng)了不少觀眾，包小柏用AI“復(fù)活”女兒的嘗試也讓不少網(wǎng)友落淚。而同樣是使用AI深度合成技術(shù)，發(fā)生在劉德華身上的事就不是那么愉快了。3月1日晚，劉德華電影公司映藝娛樂發(fā)布了《關(guān)于AI合成聲音侵權(quán)事件的嚴(yán)正聲明》，聲明中稱近期有微信用戶“華仔共享團(tuán)”(微信號(hào):KOH173)及其關(guān)聯(lián)視頻號(hào)“華仔集結(jié)號(hào)”通過信息技術(shù)手段偽造劉德華先生的聲音，并在未經(jīng)授權(quán)許可的情況下，于微信平臺(tái)連續(xù)發(fā)布其剪輯拼湊視頻，導(dǎo)致公眾發(fā)生誤認(rèn)，從而達(dá)到利用劉先生的知名度吸引流量、售賣商品、從中營(yíng)利的目的。該行為已嚴(yán)重侵害劉德華先生的肖像權(quán)、姓名權(quán)及聲音權(quán)益，并涉嫌構(gòu)成詐騙。
同樣都是使用了AI深度合成技術(shù)，但大眾對(duì)于這兩件事情的評(píng)價(jià)和態(tài)度截然相反，音樂人包小柏因?yàn)閷?duì)女兒強(qiáng)烈的思念，自己從零開始學(xué)習(xí)人工智能技術(shù)，一點(diǎn)點(diǎn)的訓(xùn)練模型，不斷的調(diào)試數(shù)據(jù)，他花了兩年時(shí)間，通過女兒生前留下的三句語(yǔ)音重現(xiàn)了女兒的聲音，實(shí)現(xiàn)了即時(shí)對(duì)話，“這就是AI存在的意義啊。”“質(zhì)疑圖恒宇，理解圖恒宇，成為圖恒宇?！薄癆I或許就是最好的寄托思念的工具吧?！钡珜?duì)于劉德華被有心人AI合成用于詐騙、營(yíng)銷和引流，不僅是華仔的粉絲表示了憤怒，眾多網(wǎng)友也表示了不滿和擔(dān)憂，“正經(jīng)事不干，有點(diǎn)技術(shù)就想著搞詐騙，無語(yǔ)了?！薄懊餍潜籄I深度偽造能有關(guān)注度，有專業(yè)團(tuán)隊(duì)處理，我們普通人要是也被AI深度偽造了咋辦??？”
基于AI深度偽造技術(shù)的易得性、低廉性、高仿真性，AI深度偽造技術(shù)給藝術(shù)設(shè)計(jì)、社交娛樂等領(lǐng)域帶來了新的更能，但這一技術(shù)也帶來了巨大的隱患，幾張照片，幾條語(yǔ)音就能合成出以假亂真的偽造視頻或者虛假的面孔、聲音信息，被不法分子用于詐騙、引流、營(yíng)銷等，不久前出現(xiàn)的烏克蘭女網(wǎng)紅的面孔、聲音信息遭到AI 盜取后變成了國(guó)內(nèi)的俄羅斯帶貨網(wǎng)紅一事也是同樣的情況。在各種反詐小貼士中，警惕AI深度合成詐騙的提示出現(xiàn)的也越來越頻繁，AI客服打詐騙電話的、冒充熟人詐騙的、假冒公眾人物誤導(dǎo)公眾的、假冒官方發(fā)布虛假信息的、冒用或者虛擬合成身份騙保的……許多人多年來累積的反詐常識(shí)在AI深度合成技術(shù)面前不堪一擊，這也確實(shí)給反詐工作帶來了新的挑戰(zhàn)。
AI深度合成是工具，本身沒有黑白之分，是錦上添花還是助紂為虐，全在使用者的一念之間。AI技術(shù)發(fā)展的越來越快，幾乎每隔個(gè)幾天就能看到一項(xiàng)新的技術(shù)或者新的AI平臺(tái)出現(xiàn)在網(wǎng)上，在反制AI被濫用、被惡意使用上，傳統(tǒng)的個(gè)人經(jīng)驗(yàn)恐怕能起到的作用越來越小，用魔法打敗魔法或許會(huì)更加靠譜，讓AI來識(shí)別AI，用技術(shù)來約束技術(shù)，AI深度合成應(yīng)當(dāng)被用在正途，至少它的盡頭不應(yīng)該是詐騙。
【責(zé)任編輯：李丹萍】