(網(wǎng)經(jīng)社訊)三只羊公司是直播帶貨領(lǐng)域的頭部企業(yè)之一，最近這段時(shí)間可謂是處于輿論的風(fēng)口浪尖，月餅的虛假宣傳事件還未過去，錄音事件風(fēng)波又起。一段聲稱是三只羊集團(tuán)創(chuàng)始人盧文慶的錄音在網(wǎng)絡(luò)上廣泛傳播，引來一眾吃瓜群眾。在這段音視頻中，“盧文慶”就三只羊集團(tuán)處理客戶投訴問題、競爭對手等方面發(fā)表了一系列言論，并涉及所謂的“職場潛規(guī)則與女主播之間存在不正當(dāng)關(guān)系”。對此，合肥市公安局高新分局于昨日發(fā)布通報(bào)，確認(rèn)該網(wǎng)傳音視頻系通過人工智能工具訓(xùn)練生成的虛假內(nèi)容。目前，涉嫌偽造音視頻的犯罪嫌疑人王某某已被依法采取刑事強(qiáng)制措施，案件正在進(jìn)一步偵辦中。
利用AI的違法行為有哪些？
隨著AI功能的日益普及以及AI工具的逐步完善，使用AI進(jìn)行文字、圖片和音視頻合成變得更為便捷，使得利用AI偽造、造謠的成本以及門檻大大降低了。現(xiàn)在就“AI內(nèi)容造假”作為關(guān)鍵詞在搜索引擎簡單一搜，就能檢索到大量關(guān)于AI造假的新聞。
1.虛假信息傳播
四川網(wǎng)警就在2024年7月27日發(fā)布了10起利用AI造謠典型案例，其中包括虛構(gòu)自然災(zāi)害事件、人物經(jīng)歷、虛假橫幅口號等，顛覆了“有圖就有真相”的常規(guī)認(rèn)知，以達(dá)到誤導(dǎo)網(wǎng)民引發(fā)廣泛討論，吸引流量博取眼球。
2.網(wǎng)絡(luò)詐騙
詐騙分子通過收集受害者的相關(guān)信息，使用AI技術(shù)偽造的視頻和聲音幾乎可以以假亂真。受害者在沒有進(jìn)一步核實(shí)的情況下，按照“朋友”或者“親人”的指示進(jìn)行了轉(zhuǎn)賬操作的案子比比皆是。
3.制作淫穢物品
還有在北京警方偵破的一起案件中，不法分子利用AI換臉技術(shù)、一鍵去衣等技術(shù)實(shí)施，只要用戶提供一張被害人的生活照，就可以生產(chǎn)淫穢物品等違法行為，該案深度偽造近7000張淫穢圖片，并成為敲詐勒索等違法犯罪工具。
北京互聯(lián)網(wǎng)法院近期還審理了一起AI生成聲音人格權(quán)侵權(quán)案，明確認(rèn)定在具備可識別性的前提下，自然人聲音權(quán)益的保護(hù)范圍可及于AI生成聲音。
當(dāng)然，利用AI產(chǎn)生的新型違法犯罪行為遠(yuǎn)不止以上這些類型，包括利用AI分析個(gè)人信息，侵犯個(gè)人隱私，還包括利用AI技術(shù)開發(fā)惡意軟件，進(jìn)行網(wǎng)絡(luò)攻擊或黑客活動(dòng)，這些行為不僅嚴(yán)重威脅到個(gè)人和組織的信息安全，還可能導(dǎo)致關(guān)鍵基礎(chǔ)設(shè)施受損，擾亂經(jīng)濟(jì)秩序，甚至影響社會穩(wěn)定。此外，AI還可被用于自動(dòng)化批量實(shí)施網(wǎng)絡(luò)犯罪，進(jìn)一步加劇了網(wǎng)絡(luò)安全的復(fù)雜性和防控難度。
法規(guī)對于AI內(nèi)容的審核要求有哪些？
為規(guī)范生成式人工智能服務(wù)，我國相繼出臺了多項(xiàng)法律法規(guī)，如《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等，旨在確保AI生成內(nèi)容的合法性、可靠性和透明度，以維護(hù)網(wǎng)絡(luò)信息生態(tài)的健康與安全。
1.《生成式人工智能服務(wù)管理暫行辦法》第四條 提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會公德和倫理道德，遵守以下規(guī)定：
（一）堅(jiān)持社會主義核心價(jià)值觀，不得生成煽動(dòng)顛覆國家政權(quán)、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動(dòng)分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定，宣揚(yáng)恐怖主義、極端主義，宣揚(yáng)民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容；
（二）在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視；
（三）尊重知識產(chǎn)權(quán)、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢，實(shí)施壟斷和不正當(dāng)競爭行為；
（四）尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益；
（五）基于服務(wù)類型特點(diǎn)，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。
2.《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十條 深度合成服務(wù)提供者應(yīng)當(dāng)加強(qiáng)深度合成內(nèi)容管理，采取技術(shù)或者人工方式對深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核。
深度合成服務(wù)提供者應(yīng)當(dāng)建立健全用于識別違法和不良信息的特征庫，完善入庫標(biāo)準(zhǔn)、規(guī)則和程序，記錄并留存相關(guān)網(wǎng)絡(luò)日志。
深度合成服務(wù)提供者發(fā)現(xiàn)違法和不良信息的，應(yīng)當(dāng)依法采取處置措施，保存有關(guān)記錄，及時(shí)向網(wǎng)信部門和有關(guān)主管部門報(bào)告；對相關(guān)深度合成服務(wù)使用者依法依約采取警示、限制功能、暫停服務(wù)、關(guān)閉賬號等處置措施。
3.《互聯(lián)網(wǎng)信息服務(wù)管理辦法》第十三條 互聯(lián)網(wǎng)信息服務(wù)提供者應(yīng)當(dāng)向上網(wǎng)用戶提供良好的服務(wù)，并保證所提供的信息內(nèi)容合法。
4.《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第九條 網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺應(yīng)當(dāng)建立網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理機(jī)制，制定本平臺網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理細(xì)則，健全用戶注冊、賬號管理、信息發(fā)布審核、跟帖評論審核、版面頁面生態(tài)管理、實(shí)時(shí)巡查、應(yīng)急處置和網(wǎng)絡(luò)謠言、黑色產(chǎn)業(yè)鏈信息處置等制度。
網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺應(yīng)當(dāng)設(shè)立網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理負(fù)責(zé)人，配備與業(yè)務(wù)范圍和服務(wù)規(guī)模相適應(yīng)的專業(yè)人員，加強(qiáng)培訓(xùn)考核，提升從業(yè)人員素質(zhì)。
5.《最高人民法院、最高人民檢察院關(guān)于辦理利用信息網(wǎng)絡(luò)實(shí)施誹謗等刑事案件適用法律若干問題的解釋》第八條 明知他人利用信息網(wǎng)絡(luò)實(shí)施誹謗、尋釁滋事、敲詐勒索、非法經(jīng)營等犯罪，為其提供資金、場所、技術(shù)支持等幫助的，以共同犯罪論處。同樣適用于利用AI技術(shù)生成的虛假信息。
除了以上法規(guī)外，還有標(biāo)準(zhǔn)委員會出具的《生成式人工智能服務(wù)安全基本要求》生成式人工智能服務(wù)在安全方面的基本要求，包括語料安全、模型安全、安全措施等，并給出了安全評估要求。《人工智能生成合成內(nèi)容標(biāo)識方法（征求意見稿）》等標(biāo)準(zhǔn)也對于人工智能生成合成內(nèi)容顯式標(biāo)識和隱式標(biāo)識的方法進(jìn)行了明確。
AI平臺對于這類AI造假可以做什么？
合規(guī)治理關(guān)鍵點(diǎn)一：AI生成的顯性標(biāo)識和隱形標(biāo)識
AI平臺應(yīng)當(dāng)確保所有由AI生成的內(nèi)容都有明顯的標(biāo)識，告知用戶這些內(nèi)容并非真實(shí)拍攝或撰寫。例如，在視頻中添加水印或角標(biāo)，明確標(biāo)注“AI生成”字樣；在文本中，使用特殊字體或顏色標(biāo)記，或在開頭和結(jié)尾處加入提示語，告知讀者該內(nèi)容為AI生成。這樣做不僅有助于提高用戶的識別能力，也能降低因誤解而導(dǎo)致的社會負(fù)面影響。
除了顯性標(biāo)識之外，平臺還應(yīng)使用隱形標(biāo)識技術(shù)，如數(shù)字指紋、水印或元數(shù)據(jù)嵌入，這些標(biāo)識不會直接影響用戶體驗(yàn)，但在需要驗(yàn)證時(shí)可以快速識別內(nèi)容的真實(shí)性。這些技術(shù)手段可以有效防止偽造內(nèi)容的傳播，確認(rèn)內(nèi)容的來源和完整性，保護(hù)平臺和用戶的權(quán)益。
合規(guī)治理關(guān)鍵點(diǎn)二：AI輸入端和輸出端的內(nèi)容審核
輸入端審核：在AI生成內(nèi)容的過程中，輸入數(shù)據(jù)的質(zhì)量直接決定了輸出結(jié)果的可靠性。因此，平臺需要在輸入端設(shè)置嚴(yán)格的數(shù)據(jù)篩選機(jī)制，比如使用過濾器排除含有敏感詞匯、違法信息的數(shù)據(jù)，確保輸入數(shù)據(jù)的合法性。此外，還可以采用機(jī)器學(xué)習(xí)模型對輸入數(shù)據(jù)進(jìn)行初步分類，識別出潛在的風(fēng)險(xiǎn)點(diǎn)，并進(jìn)行人工復(fù)審，確保數(shù)據(jù)源的可靠性和真實(shí)性。
輸出端審核：AI生成的內(nèi)容在發(fā)布前必須經(jīng)過嚴(yán)格的審核流程。一方面，可以利用自動(dòng)化工具進(jìn)行初步篩查，比如使用自然語言處理技術(shù)識別文本中的違規(guī)內(nèi)容，或通過圖像識別技術(shù)檢測視頻中的異常畫面。另一方面，對于自動(dòng)化工具無法確定的內(nèi)容，應(yīng)輔以人工審核，確保內(nèi)容的真實(shí)性和合規(guī)性。通過多層次的審核機(jī)制，可以有效防止虛假信息的傳播。若自己沒有相應(yīng)人員以及能力進(jìn)行審核的，也可以接入第三方內(nèi)容審核服務(wù)商。
合規(guī)治理關(guān)鍵點(diǎn)三：建立自己的關(guān)鍵詞庫、拒答題庫等內(nèi)部數(shù)據(jù)庫
為了有效識別和過濾敏感信息，AI平臺需要建立自己的關(guān)鍵詞庫。關(guān)鍵詞庫應(yīng)涵蓋各類敏感詞匯，包括但不限于政治、宗教、色情、暴力等類別。關(guān)鍵詞庫應(yīng)定期更新，確保其時(shí)效性和有效性。此外，還可以通過用戶反饋和數(shù)據(jù)分析不斷完善關(guān)鍵詞庫，使其更加精準(zhǔn)地捕捉潛在風(fēng)險(xiǎn)。拒答題庫是指平臺明確禁止回答或生成的內(nèi)容列表。例如，涉及個(gè)人隱私、商業(yè)秘密、國家安全、違法犯罪等問題不應(yīng)由AI生成內(nèi)容。對于一些有出海需求的AI平臺，還應(yīng)當(dāng)了解當(dāng)?shù)氐奈幕?、宗教?xí)俗的禁忌，那么平臺可以更好地控制生成內(nèi)容的范圍，避免觸及法律紅線或引發(fā)道德爭議。
合規(guī)治理關(guān)鍵點(diǎn)四：用戶實(shí)名認(rèn)證、保留審核記錄以及及時(shí)報(bào)告
為了確保用戶行為的可追溯性，AI平臺應(yīng)實(shí)行實(shí)名認(rèn)證制度。用戶在注冊賬號時(shí)需提供真實(shí)有效的身份信息，并通過多種方式驗(yàn)證其身份，如短信驗(yàn)證碼、人臉識別等。實(shí)名認(rèn)證不僅可以提高用戶的可信度，也能在發(fā)生糾紛時(shí)便于責(zé)任追究。
同時(shí)應(yīng)當(dāng)按照法律規(guī)定的時(shí)限保留AI內(nèi)容審核記錄至少6個(gè)月，一旦發(fā)現(xiàn)可疑或違規(guī)內(nèi)容，平臺應(yīng)立即采取措施，并及時(shí)向有關(guān)部門報(bào)告。報(bào)告內(nèi)容建議包括違規(guī)人員、違規(guī)行為的具體描述、處理措施及后續(xù)跟進(jìn)計(jì)劃等。
合規(guī)治理關(guān)鍵點(diǎn)五：積極踐行算法備案
為確保算法使用的透明度和可追溯性，AI平臺應(yīng)積極踐行算法備案制度。備案內(nèi)容應(yīng)包括主體備案，提供主體信息、公司內(nèi)部對于算法合規(guī)的相關(guān)制度建設(shè)，還包括算法備案，涵蓋算法的基本原理、應(yīng)用場景、預(yù)期效果、產(chǎn)品信息、產(chǎn)品預(yù)計(jì)使用人數(shù)等信息，以便監(jiān)管部門了解和評估算法的實(shí)際運(yùn)行情況和可能產(chǎn)生的影響。
合規(guī)治理關(guān)鍵點(diǎn)六：公示算法原理公示
公示算法原理是提高AI平臺透明度和用戶信任的關(guān)鍵措施之一。平臺應(yīng)當(dāng)在其官方網(wǎng)站或應(yīng)用內(nèi)明確展示所使用算法的基本原理、工作流程和應(yīng)用場景，讓公眾認(rèn)識到我們算法如何運(yùn)作。這不僅有助于用戶理解AI生成內(nèi)容的邏輯，增強(qiáng)其對平臺的信任，還能促進(jìn)用戶對AI內(nèi)容的合理使用
對于生成式人工智能的內(nèi)容治理道阻且長，各方仍需努力。
