□ 慧眼觀察

ChatGPT等生成式人工智能服務打破了社會公眾對人工智能技術應用的傳統認知，其生成內容具有高度的智能化、仿真性特征，在特定情況下，甚至能夠替代人工生成相關營銷文案等信息內容。倘若不事前標注網絡信息內容是通過人工智能技術所生成，一般人甚至無法直接區分是不是人工撰寫內容。在新聞出版行業，部分新聞媒體已經在嘗試開設專版，該版面主要呈現人工智能技術生成的新聞內容。可以說，一旦生成式人工智能技術得到廣泛普及，社會生產方式和分工架構必然會發生顛覆性變化。

然而，技術雙刃劍的魔咒同樣存在于人工智能領域。生成式人工智能技術應用的最大優勢在于能夠在短時間內批量生成同質性的網絡信息內容，一旦這種技術優勢被應用于電信詐騙、網絡造謠等違法犯罪活動，既會對網絡輿論生態造成毀滅性破壞，也會對國家安全和社會穩定產生重大威脅。事實上，在我國已經出現了非法濫用生成式人工智能技術的案例：湖南省耒陽市公安局網安大隊發現犯罪嫌疑人利用AI智能工具制作、傳播虛假新聞；河南省鄭州市公安局航空港分局發現犯罪嫌疑人利用AI軟件渲染修改新聞報道；內蒙古自治區包頭市公安局破獲一起利用“AI換臉”進行電信詐騙的案件，等等。

(資料圖)

面對日趨嚴峻的人工智能技術濫用風險，國家互聯網信息辦公室聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公布了《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》），自2023年8月15日起施行。

《辦法》囊括了監管機構、信息服務提供者、用戶等主體的法律義務。尤其在第三章“服務規范”中，更是明確信息服務提供者應當采取顯著標識、違法內容應急處置等措施，控制違法不良信息惡意生成的風險水平。《辦法》與《網絡信息內容生態治理規定》《互聯網信息服務深度合成管理規定》等法律法規共同構成了網絡信息內容生態治理體系，在傳播網絡謠言、網絡暴力、虛假信息等傳統網絡信息內容治理路徑之外，補全了機器批量生成違法不良信息的治理模式。更重要的是，《辦法》不僅對用戶終端層面所生成的信息內容類型作出了明確限定，更對相關產品或服務的研發設計階段提出具體的監管要求。例如，《辦法》要求相關服務提供者在進行預訓練、優化訓練等訓練數據處理活動時，應當采取有效措施提高訓練數據質量，以此提升生成內容的合法性與合理性。

具體而言，《辦法》在規范信息內容生成層面提出了四個方面的監管要求：第一，繼續延續《互聯網信息服務深度合成管理規定》的既有規定，信息服務提供者應當對圖片、視頻等生成內容進行諸如“該圖片由人工智能自動生成”等顯著標識。之所以特別強調圖片、視頻等信息類型，是因為圖片、視頻無法輕易修改以及“有圖有真相”的認知邏輯使得傳統的辟謠難度和辟謠成本大大增加，社會公眾也無法在足以以假亂真的圖片、視頻等信息內容中辨別真偽。

第二，信息服務提供者應當設置違法內容應急處置機制。一旦發現用戶有意生成違法不良信息或者相關人工智能服務可能會自動生成違法不良信息時，提供者應當立即采取停止生成、停止傳輸、消除等處置措施，同時，也應當對算法模型進行優化訓練。這些處置措施主要根據實際情況、整改成本以及技術可行性等要素予以確定，并不局限于前述措施。此外，提供者還需要及時就生成式人工智能服務可能生成違法不良信息以及準確采取的處置措施向主管部門報告。

第三，信息服務提供者應當對使用者的違法行為進行及時處置。從網絡信息傳播方式來看，從用戶端限制違法不良信息傳播的實際效果遠遠不如從服務端控制用戶使用行為的效果。因此，《辦法》明確要求信息服務提供者在發現用戶利用生成式人工智能服務從事違法活動時，理應對其賬號及其權限采取處置措施，包括但不限于警示、限制功能、暫停或者終止向其提供服務等。同時，信息服務提供者還應當對違法行為以及采取的措施如實記錄并留存，向主管部門報告相關違法事實。

第四，信息服務提供者還應當設置運行有效的投訴、舉報機制。投訴、舉報的事項除了用戶個體權益受損的侵權事實之外，還應當包括用戶所發現的生成式人工智能服務被濫用的事實。并且，《辦法》還強調信息服務提供者所設置的投訴、舉報入口應當便于公眾訪問，且在合理期限內及時向公眾反饋處理結果。

預防技術濫用風險不能簡單等同于限制技術發展，規范網絡信息內容生成的關鍵應當回歸至多方治理主體共同參與的話語體系之中。在《辦法》中，明確提及了立法目的是促進生成式人工智能健康發展和規范應用，而非以安全保障限制技術創新發展。《辦法》體現了協同治理和系統治理的創新性治理理念，一方面，明確信息服務提供者在研發設計、技術應用和服務反饋等各個階段的風險預防義務之外，形成全流程、全環節的治理機制；另一方面，明確監管機構、信息服務提供者、信息服務使用者各自的法律義務，形成協同式、系統性的治理架構。

（作者系北京航空航天大學法學院副教授）