讓深度合成技術在法治軌道上健康運行

【資政場】

當人的面容可以被復制、聲音可以被克隆、數字身份可以被模擬時，什麼樣的行為屬於合法創新？什麼樣的行為構成違法侵權？近年來，隨著人工智能技術的迅猛發展，AI換臉、AI擬聲等深度合成技術因其逼真性和趣味性不斷拓展公眾的認知空間，深度合成技術在不同應用場景之下展現出越來越廣泛的社會價值。然而，有人發現自己的照片被制作成換臉視頻在網絡傳播，有人未經授權被“變成”各種數字形象，還有人遭遇利用AI克隆親友聲音實施的詐騙。技術創新帶來便利的同時，也不斷引發公眾對於深度合成技術應用行為邊界的思考。

合法應用的“雙重通行証”

以AI換臉、AI擬聲為代表的深度合成技術，是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。面對這類技術，不少人存在一種認識誤區：只要技術先進、用途新穎，似乎就天然具有正當性。事實並非如此。

在我國現行法律框架下，AI換臉、AI擬聲等深度合成技術的合法應用，至少需要同時具備兩個“通行証”：

一是權利人的明確同意。根據個人信息保護法第二十八條、第二十九條的規定，人臉、聲紋作為生物識別信息，屬於敏感個人信息。處理敏感個人信息應當取得權利人的同意，還必須是單獨同意，藏在某些App或者平台冗長用戶協議裡的概括授權就不符合此項要求。因此，無論是影視劇制作中的特效換臉，還是數字音頻出版中的擬聲朗讀，都必須獲得權利人的書面或電子化單獨同意。

二是全鏈條的標簽標識。按照《互聯網信息服務深度合成管理規定》和《人工智能生成合成內容標識辦法》的明確要求，深度合成服務提供者在提供人臉代換、人聲仿生等服務時，可能導致公眾混淆或者誤認的，必須在合理位置添加文字、圖形或語音等顯著提示標識，並在文件元數據中嵌入隱式標識，向公眾明確提示此內容由AI合成，盡量減少誤導公眾的潛在風險。

技術濫用的三層法律風險

當不具備同意加標識的“雙重通行証”時，AI換臉、AI擬聲等深度合成技術的濫用可能觸發民事侵權、行政違法和刑事犯罪三個層面的法律風險。

臉和聲音是每個人獨一無二的“人格名片”。民法典規定，不得以利用信息技術手段偽造等方式侵害他人的肖像權。對自然人聲音的保護，參照適用肖像權保護的有關規定。自然人聲音權益及於經AI技術處理后仍可識別出特定主體的合成聲音，未經許可將他人錄音制品AI化並對外出售也構成侵權。此外，若擅自將普通公民的面容通過算法拼接到低俗、帶有侮辱性的場景中，導致其社會評價降低，則可能造成侵害公民名譽權。值得注意的是，明知是偽造的換臉視頻仍然添油加醋地擴散，傳播者同樣可能構成侵權。

技術濫用行政違法的追責沿兩條路徑展開：對個人而言，根據修訂后的治安管理處罰法規定，AI換臉擬聲的上游行為——非法獲取、倒賣人臉照片、聲紋樣本，與用AI換臉、擬聲冒充他人身份行騙，在不構成犯罪的情況下，可處行政拘留。這讓違法者即使“不夠刑”，也跑不掉。對深度合成服務提供者而言，如若違反《互聯網信息服務深度合成管理規定》第九條、第十條規定，未落實真實身份信息認証，或者未對使用者的輸入數據和合成結果進行審核，監管部門可以針對具體違法行為採取相應監管和處罰措施。監管部門發現深度合成服務存在較大信息安全風險的，可以依法要求深度合成服務提供者和技術支持者暫停信息更新、用戶賬號注冊或者其他相關服務並限期整改。

我國刑法對深度合成技術的濫用尚未規定專門罪名，對於濫用技術嚴重侵害法益的行為，司法實踐主要依托既有罪名體系進行涵攝，其刑事風險可循“行為鏈條”作系統觀察。

在上游數據獲取環節，非法爬取、買賣用於訓練換臉擬聲模型的人臉照片、聲紋樣本等生物識別信息，可能構成侵犯公民個人信息罪，破解人臉識別認証系統獲取數據的還可能觸犯非法獲取計算機信息系統數據罪。

在中游技術供給環節，明知他人利用深度合成實施犯罪仍提供換臉軟件、克隆工具或技術支持的，可能構成幫助信息網絡犯罪活動罪或非法利用信息網絡罪。

在下游內容濫用環節，則依侵害法益的不同分別評價——侵害財產法益的，如換臉擬聲冒充親友、領導實施電信網絡詐騙構成詐騙罪，以合成不雅影像相要挾索取財物構成敲詐勒索罪﹔侵害人格法益的，偽造他人不雅影像散布或捏造事實貶損他人名譽，構成侮辱罪、誹謗罪，合成淫穢視頻並傳播、牟利的，構成傳播淫穢物品罪或制作、復制、出版、販賣、傳播淫穢物品牟利罪。當技術演變為犯罪工具，任何妄圖隱匿在“算法面具”后挑戰法律底線的行為，都必將受到刑法的重擊。

以良法善治引導科技向善

如何規范AI換臉、AI擬聲等深度合成技術的應用，守住“眼見不為實”時代的安全底線？唯有通過全方位、系統化的法治建設，方能真正引導科技向善。

首先，應積極推動綜合性人工智能法的立法進程，提升黑灰產的違法成本。我國目前已形成多層次規范體系，但綜合性立法仍有待完善。面對大量開源技術“離線化”在本地運行、不帶水印的治理盲區，亟須在專門立法中將算法安全、數據權益、生成內容權屬提升至更高的法律位階，明確開源社區的源頭守門人責任，並引入高額的民事懲罰性賠償機制，徹底斬斷黑灰產的獲利空間。

其次，全面壓實傳播平台的篩查責任，推行“以技術制約技術”。社交與內容分發平台作為信息傳播的閘門，必須建立起包含“核驗元數據、用戶聲明、跡象識別、人工審核”在內的全流程篩查體系。監管部門應當引導科研機構與頭部企業加大對“深度偽造檢測技術”的研發投入，鼓勵平台部署高精度的反AIGC偽造檢測算法。凡是未能提供合規數字水印、疑似惡意偽造且未加打標的音視頻，建議實施精細化限流或直接阻斷，從源頭上壓縮虛假合成內容的生存空間。

最后，優化司法救濟路徑，降低群眾的維權門檻。針對AI侵權“取証難、溯源難、維權貴”的民生痛點，司法機關應當在民事訴訟中，針對此類高科技侵權案件探索過錯推定與舉証責任適度緩和機制。在原告能夠提供初步証據証明其肖像、聲音或者其他人格權益受到深度合成技術侵害的情況下，應當由深度合成服務的提供者或傳播平台承擔更多的技術合規性証明責任，並協助司法機關進行日志追溯。

法治的終極價值，在於為技術安上方向盤，為社會劃定安全線。隻有引導深度合成技術在法治軌道上健康運行，我們才能在享受科技便利的同時，安心守住全社會的信任基石。

（作者：勞佳琦，系北京師范大學法學院副教授）