(網(wǎng)經(jīng)社訊)騰訊研究院、騰訊優(yōu)圖實驗室共同完成報告《AI生成內(nèi)容發(fā)展報告2020——“深度合成”(deep synthesis)商業(yè)化元年》,并基于該報告總結(jié)出了人們對該技術(shù)的十個誤解,希望通過澄清這些誤解,幫助人們更全面地了解深度合成技術(shù)的發(fā)展和應(yīng)用情況。
誤解1:深度合成技術(shù)僅包括AI換臉一種形式。
實際上,現(xiàn)階段的深度合成技術(shù),除了廣為人知的“AI換臉”以外,還包括人臉再現(xiàn)、人臉生成、語音合成等技術(shù),并朝著全身合成、數(shù)字虛擬人等方向發(fā)展。
誤解2:任何人都可以制作高質(zhì)量、高仿真的深度合成內(nèi)容。
深度合成內(nèi)容的制作門檻已大為降低,但是高質(zhì)量、高仿真的深度合成內(nèi)容的制作還未普遍實現(xiàn),仍需專業(yè)技能和專業(yè)工具。
誤解3:深度合成技術(shù)已被大量濫用,用于在社交媒體平臺上制作、傳播虛假信息。
實際上,無論是在國內(nèi)還是在國外,社交媒體平臺上涉及政治和政治人物的深度合成視頻都是很少見的,深度合成性質(zhì)的虛假信息也很少。
誤解4:快速立法是應(yīng)對深度合成技術(shù)濫用風(fēng)險的唯一有效方式。
在新技術(shù)的治理與風(fēng)險防范方面,法律規(guī)制一直是必不可少的手段,但由于很難識別深度合成內(nèi)容的來源,立法可能起不到應(yīng)有的效果,還可能阻礙技術(shù)的有益應(yīng)用與正向發(fā)展。
誤解5:深度合成內(nèi)容無法通過技術(shù)工具鑒別,只能通過生物特征測試(例如“眨眼測試”)。
實際上,眨眼測試等根據(jù)生物特征進(jìn)行鑒別的方式,是非常低效、不可靠的,只能階段性地起作用,而且隨著深度合成技術(shù)的發(fā)展進(jìn)化,生物特征測試越來越難以發(fā)揮作用。
誤解6:深度合成就是“深度偽造”(deepfake)。
國內(nèi)媒體一般根據(jù)“deepfake”這一合成詞,將其背后的技術(shù)翻譯為“深度偽造”,但“深度偽造”是以偏概全,不足以涵蓋所有的深度合成技術(shù)和相應(yīng)的合成內(nèi)容。
誤解7:深度合成是人工智能技術(shù)作惡,只會給社會的帶來負(fù)面影響,沒有正向價值。
具備高度仿真能力的深度合成技術(shù),雖然也存在被濫用的風(fēng)險,但其巨大的正向應(yīng)用價值將持續(xù)帶來社會福利,正被廣泛應(yīng)用于影視、娛樂、教育、醫(yī)療、社交、電商、內(nèi)容營銷、藝術(shù)創(chuàng)作、科研等諸多領(lǐng)域。
誤解8:互聯(lián)網(wǎng)行業(yè)對深度合成內(nèi)容呈放任狀態(tài)。
實際上,互聯(lián)網(wǎng)行業(yè)內(nèi)的主流網(wǎng)絡(luò)平臺已經(jīng)著手采取自律措施應(yīng)對深度合成技術(shù)的潛在濫用。
誤解9: 深度合成已經(jīng)被國外立法禁止。
實際上,被禁止的不是深度合成技術(shù)本身,而是利用此項技術(shù)從事色情視頻合成、虛假新聞、干擾選舉等非法行為。
誤解10:深度合成會徹底沖擊媒體信任。
深度合成技術(shù)將如何影響大眾的行為和認(rèn)知,目前還沒有足夠的研究支持,但是它提示我們,進(jìn)入人工智能大眾化時期,對大眾信息分辨能力的培養(yǎng)也是治理的重要一環(huán)。