靴子落地:ChatGPT 國內發展或被「拉手剎」

語言: CN / TW / HK

內容一覽: 深度合成服務在滿足使用者需求、改進使用者體驗的同時,也被一些不法人員用於製作、複製、釋出、傳播違法資訊,詆譭、貶損他人名譽、榮譽,仿冒他人身份實施詐騙等違法行為,如今針對這一技術的管理規定終於釋出了。

關鍵詞: Deepfake 深度合成 監管條例

近期,網信中國發布《網際網路資訊服務深度合成管理規定》,稱該規定已經國家網際網路資訊辦公室審議通過,並經工業和資訊化部、公安部同意,將自 2023 年 1 月 10 日起施行。

靴子落地,深度合成技術開啟查漏補缺

實際上,早在今年 1 月,國家網信辦就釋出了《網際網路資訊服務深度合成管理規定(徵求意見稿)》,公開徵求群眾意見,時隔 11 個月,如今靴子終於落地,近期一路高歌猛進的 ChatGPT,在國內發展或被按下暫停鍵。

本次正式釋出的管理規定,進一步明確了深度合成技術的範圍及使用規範,涵蓋文字、影象、音訊、視訊等多種模態的相關技術。

附則部分給出了「深度合成技術」的明確定義

除一般規定外,該管理規定還對資料和技術管理規範以及監督檢查與法律責任,都做出了更詳細的規範和說明,本文將列舉部分重點規定。

禁止製作傳播虛假新聞訊息

深度合成服務提供者和使用者不得利用深度合成服務製作、複製、釋出、傳播虛假新聞資訊。轉載基於深度合成服務製作釋出的新聞資訊的,應當依法轉載網際網路新聞資訊稿源單位釋出的新聞資訊。

使用深度合成技術,必須進行實名認證

深度合成服務提供者應當基於行動電話號碼、身份證件號碼、統一社會信用程式碼或者國家網路身份認證公共服務等方式,依法對深度合成服務使用者進行真實身份資訊認證,不得向未進行真實身份資訊認證的深度合成服務使用者提供資訊釋出服務。

涉及多項個人資訊,需取得單獨同意

深度合成服務提供者和技術支持者應當加強訓練資料管理,採取必要措施保障訓練資料安全;訓練資料包含個人資訊的,應當遵守個人資訊保護的有關規定。  

深度合成服務提供者和技術支持者提供人臉、人聲等生物識別資訊編輯功能的,應當提示深度合成服務使用者依法告知被編輯的個人,並取得其單獨同意。

使用深度合成服務生成或編輯的內容,需新增顯著標識

對於使用深度合成服務生成或者編輯的資訊內容,規定應當採取技術措施新增不影響使用者使用的標識,並依照法律、行政法規和國家有關規定儲存日誌資訊。

深度合成服務提供者提供以下深度合成服務,可能導致公眾混淆或者誤認的,應當在生成或者編輯的資訊內容的合理位置、區域進行顯著標識, 向公眾提示深度合成情況:

(一)智慧對話、智慧寫作等模擬自然人進行文字的生成或者編輯服務;  

(二)合成人聲、仿聲等語音生成或者顯著改變個人身份特徵的編輯服務;  

(三)人臉生成、人臉替換、人臉操控、姿態操控等人物影象、視訊生成或者顯著改變個人身份特徵的編輯服務;  

(四)沉浸式擬真場景等生成或者編輯服務;  

(五)其他具有生成或者顯著改變資訊內容功能的服務。  

深度合成服務提供者提供前款規定之外的深度合成服務的,應當提供顯著標識功能,並提示深度合成服務使用者可以進行顯著標識。

健全申訴及舉報入口,規範流程及反饋時限

深度合成服務提供者應當設定便捷的使用者申訴和公眾投訴、舉報入口,公佈處理流程和反饋時限,及時受理、處理和反饋處理結果。

完整「網際網路資訊服務深度合成管理規定」。

深度合成技術治理道阻且長

近年來,深度合成內容的數量呈現爆發式增長,清華大學人工智慧研究院曾聯合多家機構,釋出了《深度合成十大趨勢報告(2022)》。

報告中指出,2021 年新發布的深度合成視訊的數量,與 2017 年相比,增長達 10 倍以上,涉及影視音樂、科技教育、生活、娛樂、資訊等多個領域。

深度合成內容製作與傳播數量高速增長

深度合成內容數量龐大、鑑別難度高, 國內外關於建立健全監督管理機制,曾做出多次嘗試。

2019 年 11 月, 國家網際網路資訊辦公室、文化和旅遊部、國家廣播電視總局聯合釋出《網路音視訊資訊服務管理規定》,明確規定「不得利用基於深度學習、虛擬現實等的新技術新應用製作、釋出、傳播虛假新聞資訊」。

2019 年 12 月, 國家網信辦通過並公佈了《網路資訊內容生態治理規定》,禁止使用深度學習和虛擬現實技術從事任何非法活動。

2020 年 12 月, 中共中央印發了《法治社會建設實施綱要(2020-2025 年)》,要求對深度偽造等新技術制定和完善規範管理辦法。

此外,美國、歐盟也針對深度合成技術,出臺了多部相關法律法規。

2019 年 12 月, 美國國會眾議院通過「2020 財年國防批准法」,要求政府向立法機構通報涉及跨國、有組織、帶有政治目的的 Deepfake 虛假資訊行為。

歐盟則公開要求科技巨頭們採取措施,加強對 Deepfake 的打擊,否則將處以鉅額罰款,最高可被罰全球營業額的 6%。

從上線不到一週就被迫下架的 ZAO APP,到真假奧巴馬,再到螞蟻呀嘿,深度合成技術在不斷髮展,政策法規也需要與時俱進。

以上 4 張奧巴馬影象均通過 Deepfake 生成

只有推動深度合成技術的依法、合理、有效使用, 積極防範化解深度合成技術帶來的風險,才能促進網際網路資訊服務健康發展,維護網路空間良好生態。