(網(wǎng)經(jīng)社訊)從智能家居的語(yǔ)音助手到自動(dòng)駕駛汽車，AI正以前所未有的方式改變著世界，但隨著AI技術(shù)的不斷發(fā)展和應(yīng)用其雙刃劍的特性也逐漸顯現(xiàn)，深度偽造技術(shù)就帶來(lái)了不小的隱患。
AI能夠輕松換臉、模仿聲音，能夠做到讓張文宏深夜帶貨，讓雷軍大罵網(wǎng)友，就連明星靳東都被AI硬塞代言。
張文宏深夜帶貨?
近日，有網(wǎng)友向媒體反映：家中老人在網(wǎng)絡(luò)賣(mài)貨視頻中看到知名傳染病學(xué)專家張文宏醫(yī)生在賣(mài)一種蛋白類的產(chǎn)品，老人信以為真，不僅下了單還轉(zhuǎn)發(fā)了很多群。
事實(shí)上，該視頻并非張文宏醫(yī)生本人發(fā)布的，而是有人利用AI技術(shù)合成的。在這段視頻中，被合成的人像反復(fù)介紹一種產(chǎn)品，聲音聽(tīng)起來(lái)也很像張文宏本人，商品櫥窗內(nèi)的某蛋白棒售賣(mài)鏈接顯示已出售1200多件。目前，該賬號(hào)已搜索不到。
對(duì)此，張文宏醫(yī)生在回應(yīng)媒體時(shí)表示，“我在發(fā)現(xiàn)這個(gè)事情后立即投訴過(guò)那個(gè)AI合成的視頻，但他的賬號(hào)一直在換，我最后也沒(méi)有精力了。這些假的AI合成信息就像蝗災(zāi)一樣，一次又一次發(fā)生，像漫天飛過(guò)來(lái)的蝗蟲(chóng)一樣害人。事實(shí)上，從平臺(tái)投訴結(jié)果來(lái)看，我覺(jué)得最終也難以解決問(wèn)題?！?/p>
除了向平臺(tái)方投訴，張文宏稱自己也曾考慮過(guò)報(bào)警，但對(duì)方看不見(jiàn)摸不到，就像幽靈一般難以描述，只能寄希望于相關(guān)部門(mén)加強(qiáng)監(jiān)管?！皥?bào)警總要有個(gè)對(duì)象對(duì)吧，現(xiàn)在報(bào)警報(bào)誰(shuí)呢?他一天換一個(gè)賬號(hào)，而且全是虛擬的，我向誰(shuí)報(bào)警?所以我認(rèn)為，他侵犯的是消費(fèi)者的利益，我覺(jué)得相關(guān)部門(mén)應(yīng)該處理?！睆埼暮暾f(shuō)。
科技旋渦認(rèn)為，當(dāng)前AI技術(shù)飛速發(fā)展，特別是深度學(xué)習(xí)算法的不斷成熟，使得換臉技術(shù)的門(mén)檻大大降低。在前面提到的假?gòu)埼暮曛?，已?jīng)出現(xiàn)過(guò)假靳東、假雷軍、假于東來(lái)等。
AI雷軍罵翻全網(wǎng)，AI靳東詐騙老人
國(guó)慶假期，短視頻平臺(tái)上出現(xiàn)了大量“雷軍”的發(fā)言視頻，涉及堵車、調(diào)休、游戲等熱門(mén)話題，不僅言辭犀利，還常爆粗口。
對(duì)于很多熟悉網(wǎng)絡(luò)環(huán)境的人來(lái)說(shuō)，這些“雷軍 AI 配音”視頻可能是“一眼假”，但雷軍的名氣太大，影響力也很大，難免會(huì)有人當(dāng)真。畢竟，在短視頻平臺(tái)上，那些甚至都沒(méi)有用AI配音，只是用剪輯的影像配文字字幕的“假靳東”視頻，都有不少人上當(dāng)。
據(jù)報(bào)道，今年11月，江西一位65歲老人到銀行辦理業(yè)務(wù)，聲稱要貸款200萬(wàn)元給男朋友“靳東”拍戲。經(jīng)調(diào)查發(fā)現(xiàn)，老人手機(jī)里的“靳東”出自AI合成的視頻。
今年10月，老牌港星黃百鳴通過(guò)社交媒體鄭重聲明，有人盜用其過(guò)去影片，利用AI替換聲音，代言一個(gè)不知名的藥膏品牌。
科技旋渦認(rèn)為，技術(shù)進(jìn)步帶來(lái)了信息的洪流，我們對(duì)于所謂的“名人信息”及吸睛信息，不可“聽(tīng)風(fēng)就是雨”，盲目相信、輕易下單購(gòu)買(mǎi)。AI換臉等新型侵權(quán)案件不斷涌現(xiàn)，除了用戶自身提高網(wǎng)絡(luò)安全意識(shí)，對(duì)于AI換臉相關(guān)風(fēng)險(xiǎn)的預(yù)防與整治，需要從源頭進(jìn)行監(jiān)管、司法形成多主體、全鏈條的治理。
科技進(jìn)步，監(jiān)管趨嚴(yán)
今年9月，國(guó)家網(wǎng)信辦已經(jīng)發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見(jiàn)稿)》，要求從視頻制作和發(fā)布的源頭做好信息管理。其中明確提出兩種人工智能生成合成內(nèi)容標(biāo)識(shí)的種類，即“顯式標(biāo)識(shí)”與“隱式標(biāo)識(shí)”，還明確了兩類標(biāo)識(shí)所應(yīng)當(dāng)適用的場(chǎng)景，將《深度合成規(guī)定》第十七條所提出的“顯著標(biāo)識(shí)”與“顯式標(biāo)識(shí)”建立了直接的對(duì)應(yīng)關(guān)系。
12月15日，“微信珊瑚安全”微信公眾號(hào)發(fā)布關(guān)于打擊利用AI仿冒知名人士進(jìn)行營(yíng)銷宣傳的公告，已處理532條內(nèi)容，關(guān)閉賬號(hào)209個(gè)。
今年3月份，抖音安全中心發(fā)布不當(dāng)利用AI生成虛擬人物的治理公告，指出將嚴(yán)格處罰違規(guī)使用AI生成虛擬人物發(fā)布違背科學(xué)常識(shí)、弄虛作假、造謠傳謠的內(nèi)容。
除去監(jiān)管部門(mén)和平臺(tái)出臺(tái)相關(guān)規(guī)定，AI工具的制作者也需遵守相關(guān)法律法規(guī)。今年5月，OpenAI在未經(jīng)美國(guó)演員“寡姐”斯嘉麗·約翰遜的同意模仿其聲音，已經(jīng)收到律師函。
而在我國(guó)，也已經(jīng)出現(xiàn)了第一例AI生成聲音人格權(quán)侵權(quán)案，北京互聯(lián)網(wǎng)法院在4月份對(duì)全國(guó)首例“AI聲音侵權(quán)案”進(jìn)行一審宣判。就此事，我們?cè)稍儽本┒κ缆蓭熓聞?wù)所執(zhí)行主任孫亮律師，他表示：“《民法典》第四編為人格權(quán)編，在該編中就涉及自然人的肖像權(quán)、名譽(yù)權(quán)、隱私權(quán)、聲音權(quán)益等民事權(quán)利進(jìn)行了專門(mén)的規(guī)定。相關(guān)主體在利用AI技術(shù)進(jìn)行創(chuàng)作的過(guò)程中，要對(duì)此予以重視，避免侵犯自然人的民事權(quán)益。”
科技旋渦認(rèn)為，人工智能技術(shù)是一把雙刃劍，張文宏、雷軍、靳東等案例不斷提醒著我們正在直面AI帶來(lái)的種種挑戰(zhàn)。只有全社會(huì)共同努力，需要企業(yè)、學(xué)界、立法機(jī)構(gòu)等各方攜手，才能遏制技術(shù)飛速發(fā)展所帶來(lái)的各種問(wèn)題。
寫(xiě)在最后
迅猛發(fā)展的AI技術(shù)需要通過(guò)多方努力為其劃定“底線”和“紅線”才能大力降低AI生成的內(nèi)容所隱藏的種種風(fēng)險(xiǎn)，從而真正享受新興技術(shù)帶來(lái)的便利，推動(dòng)人工智能產(chǎn)業(yè)的良性健康發(fā)展。
