25 5 月
首例AI生成抹黑圖片遭法院認定侵權：生成式內容法律責任的深度解析與風險防控
作者：陳思遠｜科技法律與數位治理研究者，長期關注人工智慧、網路侵權與人格權保護議題
目錄
引言：當演算法成為毀謗的工具
2024年初，北京互聯網法院審結了一起看似不大、卻在司法實務界投下震撼彈的案件。被告孫某利用生成式AI軟體，將原告程某的微信頭像照片進行「改造」——原本穿著得體的肖像，被生成了胸部暴露、體態扭曲甚至出現三隻手臂的變異圖像。這些圖片被發布在微信群組內，迅速引發針對原告的低俗化討論。法院最終認定，孫某的行為不僅侵害了程某的肖像權，更因其導致他人對原告產生低俗化評價，構成名譽權侵害，同時還侵犯了人格尊嚴，構成一般人格權侵害。
這起案件的特殊性在於：它並非傳統的「偷拍」或「修圖」，而是完全由生成式AI從零「創造」出的虛擬圖像。圖片中的人物雖然有著原告的臉部特徵，但身體卻是演算法憑空生成的。這種「AI抹黑」行為，挑戰了我們對於「真實」與「虛構」的傳統認知，也讓法律界不得不正視一個核心問題：當侵權內容並非直接複製自現實，而是由機器「想像」出來時，法律該如何定性？責任該如何歸屬？
本文將從這起標誌性案例出發，深入探討生成式AI生成內容的法律責任體系，涵蓋民事侵權、平台責任、刑事風險與合規應對，並透過比較法視角檢視全球治理趨勢，最後提供實務上的風險防範建議。
第一章：從微信群組到法庭——AI抹黑圖片案件的司法認定脈絡
1.1 案情還原：一張AI生成的「變異」圖片
在這起北京互聯網法院審理的案件中，原告程某與被告孫某同處一個微信群組。孫某未經許可，擅自利用程某作為微信頭像的肖像照片，透過AI軟體生成多張圖片。這些圖片呈現幾個明顯特徵：第一，人物臉部與程某的微信頭像具有高度對應關係，無論是臉型、姿勢或造型，都足以讓群組成員識別出圖片主體就是程某；第二，圖片內容將原本穿著得體的肖像改造為胸部暴露的狀態；第三，部分圖片甚至出現不符合人類基本身體結構的變異，例如人物腿部呈現木頭狀，或是出現三隻手臂。
孫某將這些圖片發布於微信群組內，並私信給程某本人。群組內隨即出現針對程某的不當討論，而私信行為也對程某造成明顯的心理屈辱。
1.2 法院的「三層侵害」認定架構
法院在判決中並未將此行為簡單歸類為單一侵權類型，而是建構了「三層侵害」的認定架構，這在人格權保護實務上具有開創性：
第一層：肖像權侵害。 法院認為，雖然被訴圖片係AI生成，並非傳統意義上的攝影作品，但圖片所呈現的自然人外部形象與原告微信頭像在臉型、姿勢、造型等方面具有高度對應關係。微信群組成員能夠透過人物體貌及群聊的前後語境，識別出圖片對應的主體為原告程某。因此，即便圖片經過了AI的「改造」，其仍具備「可識別性」，符合《民法典》對肖像的界定，被告未經許可利用原告肖像進行生成並傳播，構成肖像權侵害。
第二層：名譽權侵害。 法院進一步指出，被告利用AI軟體將原告穿著得體的微信頭像生成为胸部暴露的圖片，引發了微信群內針對原告的不當討論，客觀上導致了他人對原告的低俗化評價。這種因AI生成內容導致的社會評價降低，符合名譽權侵害的構成要件。
第三層：一般人格權侵害（人格尊嚴）。 針對被告私信給原告的圖片——包括將人物腿部生成為木頭狀、出現三隻手臂等明顯不符合人類基本身體結構的圖像——法院認為，這些圖片將原告身體進行醜化與異化展示，勢必造成原告心理屈辱，侵害了原告的人格尊嚴，構成對一般人格權的侵害。
1.3 判決的指標意義：超越「技術中立」的迷思
這起判決的指標意義，在於法院明確傳達了一項訊息：生成式AI技術的使用者不能躲在「技術中立」的盾牌後面。判決強調，生成式人工智能技術的使用者應當遵守法律、行政法規，尊重社會公德和倫理道德，尊重他人合法權益，不得危害他人身心健康。這為普通網路用戶使用生成式AI技術劃定了清晰的行為邊界。
值得注意的是，法院在此並未糾結於「AI生成的圖片是否構成作品」這類著作權議題，而是直接從人格權保護角度切入。這顯示出司法實務對於AI侵權的認定，已經從早期的「財產權爭議」（如AI文生圖的著作權歸屬）擴展到「人格權保護」的更深層次。
1.4 類案比較：從著作權到人格權的司法演進
如果將這起案件放在更宏觀的時間軸上觀察，可以發現中國大陸法院對AI生成內容的司法態度經歷了明顯的演進：
表格
| 時間 | 案件類型 | 法院 | 核心爭點 | 判決要旨 |
|---|---|---|---|---|
| 2023年11月 | AI文生圖著作權案 | 北京互聯網法院 | AI生成圖片是否構成作品 | 認定使用者透過提示詞、參數調整展現個性化表達，圖片具獨創性，受著作權法保護 |
| 2024年9月 | 奧特曼AI生成圖片案 | 杭州互聯網法院 | 平台對用戶生成侵權內容的責任 | 平台未採取必要措施，構成幫助侵權 |
| 2024年底 | 程某訴孫某案 | 北京互聯網法院 | AI生成醜化圖片的人格權侵害 | 認定構成肖像權、名譽權及一般人格權侵害 |
| 2025年3月 | 武漢AI圖片維權案 | 武漢東湖新技術開發區法院 | AI生成圖片的可版權性 | 肯定AIGC生成內容在具備獨創性時可受著作權保護 |
從這個表格可以看出，司法實務對AI生成內容的關注，正從「創作端」的權利歸屬，逐步轉向「應用端」的侵權責任。而程某訴孫某案，正是這個轉向過程中人格權保護領域的里程碑。
第二章：AI抹黑圖片的技術原理與法律定性難題
2.1 深度偽造與生成式醜化：技術如何運作
要理解AI抹黑圖片的法律責任，必須先理解其背後的技術邏輯。目前常見的AI抹黑或醜化圖片，主要涉及以下幾種技術路徑：
第一種是基於擴散模型（Diffusion Model）的圖像編輯。 以Stable Diffusion為代表的開源模型，允許使用者透過「圖生圖」（img2img）功能，將現有照片作為參考圖，配合提示詞（prompt）進行重繪。使用者可以輸入「暴露」、「性感」等提示詞，並調整「參考圖權重」來控制生成結果與原圖的相似度。這種技術路徑下，生成的圖片既保留了原圖人物的面部特徵，又按照使用者的指令改變了服裝、姿態甚至身體結構。
第二種是基於生成對抗網路（GAN）的臉部替換。 雖然近年來擴散模型逐漸成為主流，但早期的DeepFake技術多採用GAN架構。這種技術將目標人物的臉部特徵嵌入到另一個身體影像上，常用於製作虛假的色情內容（non-consensual intimate imagery）。
第三種是ControlNet等條件控制技術的濫用。 ControlNet允許使用者透過姿態圖、深度圖等條件，精確控制生成人物的姿勢。這意味著攻擊者可以讓目標人物「擺出」任何想要的姿勢，進一步增強了虛假圖片的說服力與傷害性。
2.2 「可識別性」標準的再詮釋
在傳統肖像權侵權認定中，核心標準是「可識別性」——即相關公眾能否透過該圖像識別出特定自然人。程某訴孫某案中，法院面臨的難題是：AI生成的圖片並非原告的真實照片，其中身體部分是演算法虛構的，僅有臉部來自真實肖像。這種「半真半假」的圖像，是否仍受肖像權保護？
法院的答案是肯定的。判決指出，雖然被訴圖片係AI生成，但與原告微信頭像肖像照片所呈現的自然人外部形象在臉型、姿勢、造型等方面均具有高度的對應關係，微信群成員能夠透過上述人物體貌及群聊的前後語境識別出被訴圖片的人物外部形象所對應的主體為原告。
這個認定其實延續了《民法典》第1018條對肖像的界定——「通過影像、雕塑、繪畫等方式在一定載體上所反映的特定自然人可以被識別的外部形象」。關鍵不在於「真實性」，而在於「可識別性」。只要觀眾能夠辨識出圖像指向特定個人，即便該圖像是油畫、漫畫或AI生成的虛擬圖像，都可能構成對肖像權的侵害。
2.3 「虛構事實」與「名譽侵害」的因果關係
名譽權侵害的傳統構成要件包括：行為人實施了侮辱或誹謗行為、行為具有特定指向性、行為為第三人所知悉、導致受害人社會評價降低。在AI抹黑圖片的場景中，最難認定的往往是「虛構事實」這一環節。
傳統誹謗強調「捏造事實」，例如散布某人犯罪、不倫等虛假訊息。但AI生成的暴露圖片，嚴格來說並非「事實陳述」，而是一種「虛構呈現」。法院在程某案中的處理方式頗具啟發：它並未糾結於這是否屬於「事實」，而是從「社會評價降低」的結果面切入。法院認為，將穿著得體的肖像生成为胸部暴露的圖片，引發了群組內針對原告的不當討論，客觀上導致了他人對原告的低俗化評價。
這種認定邏輯，其實更接近於「侮辱」而非「誹謗」。侮辱行為不要求陳述具體事實，只要以言行貶損他人人格、破壞他人名譽即可。AI生成醜化圖片的行為，本質上是一種「視覺侮辱」，透過技術手段將他人形象低俗化、畸形化展示，從而達到貶損人格的效果。
2.4 一般人格權的「兜底保護」功能
《民法典》第990條確立了一般人格權制度，作為具體人格權（如生命權、身體權、姓名權、肖像權、名譽權等）的補充與兜底。在程某案中，法院認定那些將原告身體生成為木頭狀、出現三隻手臂的圖片，雖然可能難以完全納入肖像權或名譽權的傳統定義，但因其「勢必會造成原告心理屈辱，侵害了原告的人格尊嚴」，故構成對一般人格權的侵害。
這個認定具有重要的擴張意義。它意味著，即便AI生成的內容沒有直接暴露隱私、沒有明顯降低社會評價，但只要其對特定自然人造成了嚴重的心理屈辱，損害了人格尊嚴，就可能觸發一般人格權的保護。這為未來更多新型態的AI侵權行為預留了法律空間。
第三章：生成式內容侵權的民事責任體系
3.1 責任主體的三層結構
在AI生成內容的侵權責任體系中，理論上存在三個層次的責任主體：
第一層：直接使用者（終端用戶）。 這是實際輸入提示詞、上傳參考圖、生成並發布侵權內容的自然人或法人。在程某訴孫某案中，孫某即屬於此類主體。這類主體的責任最為明確，通常構成直接侵權。
第二層：AI服務提供者（平台）。 這是運營生成式AI模型或應用的企業，例如提供AI繪圖功能的網站或App。平台是否承擔責任，取決於其對生成過程的介入程度、是否採取必要措施、是否從侵權行為中獲利等因素。
第三層：基礎模型開發者。 這是開發底層大模型（如Stable Diffusion、Midjourney背後的公司）的主體。這類主體的責任最為間接，通常只有在模型被明確設計用於侵權用途，或開發者明知模型被廣泛濫用卻不採取措施時，才可能承擔責任。
3.2 終端用戶的直接侵權責任
終端用戶使用AI生成抹黑圖片並傳播，通常涉及以下民事責任：
3.2.1 人格權侵害責任
如前所述，這包括肖像權、名譽權、一般人格權的侵害。根據《民法典》第995條，人格權受到侵害的，受害人有權依照本法和其他法律的規定請求行為人承擔民事責任。具體的救濟方式包括：停止侵害、排除妨礙、消除危險、消除影響、恢復名譽、賠禮道歉，以及賠償損失（包括財產損失和精神損害賠償）。
在程某案中，法院判決孫某向程某公開賠禮道歉，並賠償精神損失。這顯示出，即便沒有造成直接的財產損失，精神損害賠償在AI人格權侵害案件中也是可期待的救濟方式。
3.2.2 著作權侵害責任（平行風險）
雖然本文聚焦於人格權侵害，但終端用戶在使用AI生成圖片時，還可能面臨著作權侵權風險。例如，如果用戶上傳的參考圖本身是他人享有著作權的作品，或生成的圖片與他人作品構成實質性相似，都可能觸發著作權法。2024年廣州互聯網法院審理的「奧特曼AI生成圖片案」即屬此類——用戶透過平台生成與奧特曼高度相似的圖片，平台被認定構成幫助侵權。
3.3 AI服務提供者的責任邊界
AI服務提供者的責任認定，是當前司法實務中最複雜也最具有爭議的領域。從現有判決來看，法院傾向於根據平台的「技術介入程度」與「注意義務履行程度」來劃定責任邊界。
3.3.1 直接侵責任的認定：從「技術中立」到「實質參與」
廣州互聯網法院在2024年審理的一起案件中，認定某AI公司作為內容生成工具的直接提供者，其AI功能直接輸出侵權內容，構成對複製權、改編權的侵害。法院指出，平台對模型訓練數據來源及生成結果具有實際控制力，且未建立投訴機制或風險提示，主觀存在過錯，需承擔直接侵權責任。
這個判決的突破性在於：它否定了平台可以單純主張「技術中立」或「工具中立」而免責。當平台對生成過程具有實際控制力時——例如提供特定的訓練素材庫、設計了引導生成特定風格的提示詞模板、對生成結果進行了算法篩選——平台就不再是單純的「工具提供者」，而成為了「內容的共同提供者」。
3.3.2 幫助侵權責任的認定：注意義務的動態調整
杭州互聯網法院在「奧特曼AI生成圖片案」中，提出了更為細緻的責任劃分邏輯。法院認為，生成式AI平台兼具內容生產者與平台管理者的雙重身份，需根據技術特點分階段界定責任：
- 在數據輸入端： 用戶上傳侵權素材訓練LoRA模型，平台未直接參與訓練，不構成直接侵權。
- 在內容輸出端： 平台對用戶生成的侵權模型及圖片未採取必要措施，構成幫助侵權。
法院特別指出，平台通過會員充值等營利模式獲益，且LoRA模型可穩定輸出侵權內容，平台應預見侵權風險卻未採取過濾、屏蔽等措施，主觀存在過錯。
這個判決確立了一項重要原則：生成式AI平台對用戶輸入內容無事先審查義務，但對輸出內容需承擔合理注意義務。技術中立原則不再成為當然的免責藉口，平台需匹配其技術能力與注意義務強度。
3.3.3 過錯認定的動態標準
杭州互聯網法院在判決中進一步闡明，對於過錯的認定，應綜合考量以下因素：
- 生成式人工智能服務的性質
- 當前人工智能技術的發展水平
- 避免損害的替代設計的可行性與成本
- 可以採取的必要措施及其效果
- 侵權責任的承擔對行業的影響
法院認為，應以「同質行業理性人標準」予以考量。當平台可以證明施以同業一般服務提供者注意力難以發現該生成內容可能構成侵權，或者能夠證明自身已經採取了符合損害發生時技術水平的必要措施來預防損害，但仍無法防止損害的發生，應認定其已盡到合理的注意義務，不具有過錯。反之，則應認定其具有過錯。
這種「動態標準」的設定，既避免了對平台課以過重的責任而抑制技術創新，也防止了平台以「技術能力不足」為藉口逃避應盡義務。
3.4 基礎模型開發者的責任
相較於終端用戶和平台，基礎模型開發者（如Stability AI、Midjourney、OpenAI等）的責任更為間接。目前中國大陸司法實務中，尚未出現直接追究基礎模型開發者人格權侵權責任的案例。但從理論上分析，如果開發者明知其模型被廣泛用於生成非自願親密影像（NCII）或誹謗性內容，卻未在模型設計層面採取任何防範措施（例如拒絕處理特定類型的提示詞或參考圖），則可能面臨產品責任或幫助侵權的風險。
在美國，這類訴訟已經出現。例如， Stability AI 面臨多起訴訟，指控其模型被用於生成侵權內容。不過，美國法院目前傾向於適用「避風港原則」或「技術中立原則」，對基礎模型開發者的責任認定持謹慎態度。
第四章：平台責任與「避風港」規則的再審視
4.1 傳統「避風港」規則在AI時代的適用困境
《民法典》第1195條至第1197條確立了網路服務提供者的「通知-刪除」規則（即避風港規則）。傳統上，這一規則適用於網路存儲空間服務、搜索鏈接服務等場景，其核心邏輯是：平台不主動審查用戶上傳內容，但在收到權利人通知後，應及時刪除侵權內容，否則承擔間接責任。
然而，這一規則在生成式AI場景下面臨根本性挑戰：
挑戰一：內容的「即時生成性」。 傳統避風港規則針對的是「已經存在並被存儲」的內容。但AI生成內容往往是即用即生的——用戶輸入提示詞，模型即時運算輸出，內容可能從未被平台「存儲」過，或僅短暫緩存。這使得「通知-刪除」機制在技術上難以操作：權利人很難「通知」一個尚未存在、或僅存在於用戶本地端的內容。
挑戰二：內容的「不可窮盡性」。 即使平台刪除了某個用戶生成的特定圖片，其他用戶仍可以透過相同的提示詞或參考圖生成幾乎相同的內容。侵權內容的「源頭」不是某個具體文件，而是模型的生成能力本身。這使得傳統的「刪除」措施治標不治本。
挑戰三：平台的「雙重身份」。 如前所述，生成式AI平台兼具內容生產者與平台管理者的雙重身份。在模型訓練、參數調整、微調等環節，平台主動處理數據，這與傳統平台單純提供存儲空間有本質區別。若平台在這些環節主動介入侵權內容的形成，則難以主張避風港保護。
4.2 司法實務對避風港規則的突破
現有判決顯示，中國大陸法院已經意識到傳統避風港規則在AI場景下的不足，並開始探索新的責任框架：
廣州互聯網法院的立場： 在奧特曼AI生成圖片案中，法院判令被告「立即停止侵权，立即采取技术措施防止用户正常使用该AI功能时生成侵权图片」。這意味著平台的義務不僅是「刪除已有內容」，還包括「防止未來生成」。法院要求平台採取技術措施，從源頭上阻斷侵權內容的產生，這遠超傳統避風港規則的範疇。
杭州互聯網法院的立場： 在類似的奧特曼案中，法院雖未要求平台承擔直接責任，但明確指出平台應採取「必要措施有效制止侵權行為」，包括刪除已生成的侵權圖片、LoRA模型，並停止提供相關服務。
北京互聯網法院的立場： 在程某訴孫某案中，法院雖未直接追究平台責任（被告為終端用戶），但判決明確強調「網路服務提供者通過算法設計實質參與了侵權內容的生成和提供，應按照內容服務提供者承擔侵權責任」。這為未來追究平台責任預留了空間。
4.3 「必要措施」的擴張解釋
在傳統網路侵權語境下，「必要措施」通常指刪除、屏蔽、斷開鏈接等。但在AI場景下，法院開始將「必要措施」擴張至技術預防層面：
表格
| 傳統必要措施 | AI場景下的擴張措施 |
|---|---|
| 刪除侵權內容 | 建立關鍵詞過濾機制，阻止特定提示詞觸發侵權生成 |
| 屏蔽侵權鏈接 | 建立圖像識別系統，檢測用戶上傳的參考圖是否涉及他人肖像 |
| 斷開侵權帳號 | 對高風險功能（如「換臉」、「脫衣」）進行實名認證或使用限制 |
| 轉通知 | 建立投訴舉報機制，並對熱門人物相關內容履行更高審核義務 |
這種擴張解釋，反映了司法實務對AI技術特性的回應。平台不能僅僅滿足於「事後刪除」，而必須在技術可行的範圍內，建立「事前預防」與「事中攔截」的機制。
4.4 注意義務的「分層化」趨勢
學界與實務界逐漸形成一種共識：生成式AI平台的注意義務應當「分層化」，根據不同場景設定不同程度的義務：
第一層：一般生成場景。 對於普通的文生圖、圖生圖功能，平台負有一般性的风险提示義務和事後投訴處理義務。
第二層：高風險生成場景。 對於涉及真人肖像、親密影像、政治人物、熱門公眾人物的生成，平台應履行更高的審核義務。例如，2024年某明星訴AI創作平台案中，法院特別指出：「AI服務提供者對熱點人物相關內容的生成應履行更高審核義務」。
第三層：定向訓練場景。 當平台允許用戶上傳特定人物照片進行LoRA模型訓練時，平台對訓練素材的合法性負有審查義務。如果平台明知或應知用戶上傳的是他人肖像，卻未採取措施，可能構成幫助侵權。
第五章：刑事風險與誹謗罪的適用邊界
5.1 AI抹黑圖片的刑事化風險
雖然程某訴孫某案以民事判決告終，但AI生成抹黑圖片的行為，在情節嚴重時完全可能觸犯刑法。根據《刑法》第246條，誹謗罪是指「捏造事實誹謗他人，情節嚴重」的行為。此外，相關行為還可能涉及侮辱罪、尋釁滋事罪、侵犯公民個人信息罪等。
5.2 誹謗罪的構成要件檢視
5.2.1 「捏造事實」的解釋空間
傳統誹謗罪要求「捏造事實」，即虛構足以損害他人名譽的具體事件。AI生成的暴露圖片，是否屬於「捏造事實」？這在刑法解釋上存在爭議。
一種觀點認為，「事實」應限於「事件」或「資訊」，圖片屬於「觀點」或「表達」，不構成「事實」。另一種觀點則認為，圖片可以承載事實資訊——例如，一張某人與他人親密的合照，即使係AI生成，也傳達了「某人與他人有不當關係」的事實資訊。
司法實務中，已有將虛假圖片納入誹謗罪「捏造事實」範疇的先例。例如，利用PS技術合成他人與第三者的親密照片並散布，被認定構成誹謗罪。AI生成圖片在本質上與PS合成並無區別，甚至更難辨識真假，其傳播的誤導性更強，因此更有理由納入「捏造事實」的解釋範圍。
5.2.2 「情節嚴重」的認定標準
根據《最高人民法院、最高人民檢察院關於辦理利用信息網絡實施誹謗等刑事案件適用法律若干問題的解釋》，利用信息網絡誹謗他人，具有下列情形之一的，應當認定為「情節嚴重」：
- 同一誹謗信息實際被點擊、瀏覽次數達到五千次以上，或者被轉發次數達到五百次以上的；
- 造成被害人或者其近親屬精神失常、自殘、自殺等嚴重後果的；
- 二年內曾因誹謗受過行政處罰，又誹謗他人的；
- 其他情節嚴重的情形。
在AI生成抹黑圖片的場景中，由於內容的視覺衝擊力強、傳播速度快，很容易達到「五千次點擊」的門檻。如果圖片導致被害人精神失常或自殺，則無需考慮點擊量，直接構成「情節嚴重」。
5.2.3 深度偽造與「其他情節嚴重」的擴張適用
有學者指出，對於深度偽造（Deepfake）類型的誹謗行為，可以透過擴張解釋《解釋》第2條第（四）項的「其他情節嚴重的情形」來入罪。理由是：深度偽造技術生成的內容具有極高的迷惑性，對被害人名譽的損害程度遠超傳統的文字誹謗，且技術門檻低、傳播範圍廣，社會危害性更大。
5.3 侮辱罪的適用可能
如果AI生成的圖片難以被評價為「捏造事實」（例如，僅是將他人肖像醜化為怪物形象，並未傳達具體的虛假事件），則可能構成侮辱罪而非誹謗罪。侮辱罪不要求「捏造事實」，只要以暴力或者其他方法公然侮辱他人，情節嚴重即可。
在程某案中，法院認定那些將原告身體生成為木頭狀、出現三隻手臂的圖片，「勢必會造成原告心理屈辱，侵害了原告的人格尊嚴」。如果這類行為達到「情節嚴重」的程度（例如，在大型公開平台傳播、造成廣泛惡劣影響），就可能從民事侵權升格為刑事犯罪。
5.4 尋釁滋事罪的補充適用
在公共場所（包括網路公共空間）起哄鬧事，造成公共秩序嚴重混亂的，可能觸犯尋釁滋事罪。如果AI生成的抹黑圖片針對的是不特定多數人，或者引發了大規模的網路暴力、群體性事件，擾亂了社會公共秩序，行為人可能面臨尋釁滋事罪的追訴。
5.5 平台運營者的刑事風險
平台運營者是否可能因用戶生成抹黑圖片而承擔刑事責任？理論上存在以下路徑：
幫助信息網絡犯罪活動罪： 如果平台明知他人利用其服務實施誹謗、侮辱等犯罪，仍為其提供技術支持，情節嚴重的，可能構成幫助信息網絡犯罪活動罪。
拒不履行信息網絡安全管理義務罪： 如果平台經監管部門責令採取改正措施而拒不改正，導致違法信息大量傳播，可能觸犯此罪。
不過，目前司法實務中尚未出現直接追究AI平台刑事責任的案例。這主要是因為平台的主觀故意難以認定，且技術監管本身存在複雜性。
第六章：跨境比較與全球治理趨勢
6.1 美國的立法與司法動態
美國作為生成式AI技術的主要發源地，其法律體系對AI生成內容的規制呈現「聯邦分散、州法先行」的特徵。
聯邦層面： 目前尚無專門針對AI生成誹謗內容的聯邦立法。但現有的《通訊規範法》第230條（Section 230）為網路平台提供了廣泛的免責保護，規定平台不對第三方內容承擔責任。這一條款是否適用於AI生成內容，存在巨大爭議。有觀點認為，如果平台的AI「實質參與」了內容生成，則不應再受Section 230保護。
州法層面： 多個州已經針對深度偽造（Deepfake）立法。例如，加州AB 602號法案禁止未經同意製造非自願的親密影像（non-consensual intimate imagery）；德州SB 751號法案將製造深度偽造影片以影響選舉定為刑事犯罪；紐約州則在《民權法》中增加了對「數字化複製品」（digital replica）的保護。
司法訴訟： 在Anderson等視覺藝術家訴Stability AI等案中，美國地區法官威廉·奧里克（William Orrick）駁回了針對Midjourney和DeviantArt的訴請，認為其僅提供使用接口，並未直接實施侵權行為。但針對Stability AI的侵權索賠被允許繼續進行。這顯示出美國法院對基礎模型開發者與平台責任的區分態度。
6.2 歐盟的監管框架：《AI法》與《數位服務法》
歐盟在AI監管方面走在全球前列，其法律框架對生成式AI的責任歸屬提供了更為清晰的指引。
《人工智能法》（AI Act）： 2024年通過的《AI法》將AI系統按風險等級分類。生成式AI被歸類為「通用人工智能模型」（GPAI），若具有系統性風險，需遵守更嚴格的透明度、安全評估與風險管理義務。雖然《AI法》主要針對產品安全與基本權利保護，但其確立的「風險分級」理念，對侵權責任認定具有間接影響。
《數位服務法》（DSA）： DSA對「超大型線上平台」（VLOPs）課以特別義務，包括風險評估、內容審核、算法透明度等。雖然DSA主要針對非法內容的傳播，但其建立的「盡職調查」（due diligence）義務，可作為判斷平台過錯的重要參考。
《數位千禧年著作權法》（DMCA）的啟示： 雖然DMCA主要處理著作權問題，但其「通知-刪除」機制與「避風港」規則，與人格權保護存在制度上的相似性。歐盟法院在相關判例中強調，平台不能僅僅依賴自動化工具，而必須建立有效的人工審核機制。
6.3 英國的實務困境：碎片化保護
英國目前尚無針對深度偽造的單一專法，而是透過多個法律提供碎片化保護：
- 誹謗法（Defamation Act）： 適用於損害名譽的虛假陳述。
- 騷擾防治法（Protection from Harassment Act）： 適用於持續性的騷擾行為。
- 資料保護法（Data Protection Act）： 適用於未經同意處理個人數據。
- 智慧財產權法： 適用於侵害著作權或商標權的情形。
值得注意的是，英國廣告標準局（ASA）在2019年的一則裁決中認定，即使廣告中使用的是與運動員相似的真人模特（非AI生成），只要給人留下「該運動員代言產品」的誤導印象，即構成違規。這為AI生成圖像的責任認定提供了類比參考——如果AI生成的圖像具有足夠的誤導性，足以使公眾產生混淆，使用者就可能承擔法律責任。
6.4 中國大陸的綜合治理模式
相較於歐美的「立法-司法」雙軌制，中國大陸對生成式AI的治理呈現「行政監管先行、司法裁判跟進」的特徵：
行政法規層面： 《生成式人工智能服務管理暫行辦法》（2023年8月施行）是首部專門針對生成式AI的部門規章。該辦法第4條明確要求，提供和使用生成式人工智能服務，應當尊重他人合法權益，不得危害他人身心健康。第14條進一步要求服務提供者建立健全投訴、舉報機制，及時處理個人關於更正、刪除、屏蔽其個人信息的請求。
司法解釋層面： 最高人民法院在2024年工作報告中特別提及「一起人工智能侵权案，彰显对新兴事物的向善司法引领」，顯示出最高司法機關對AI侵權議題的高度重視。
行業自律層面： 中國互聯網協會等機構發布了多項關於AI倫理的自律公約，雖然不具有法律強制力，但可作為判斷平台是否盡到「合理注意義務」的參考依據。
6.5 全球治理的共同趨勢
綜觀各國實踐，可以歸納出以下幾個共同趨勢：
- 從「事後救濟」轉向「事前預防」： 越來越多國家要求平台在技術設計階段就嵌入安全機制，而非僅在侵權發生後刪除內容。
- 「可識別性」標準的擴張： 無論是肖像權還是誹謗責任，各國都傾向於保護那些「足以讓公眾識別出特定個人」的虛擬形象。
- 平台責任的強化： 傳統的避風港規則在AI場景下被普遍認為需要修正，平台需承擔與其技術能力相匹配的更高注意義務。
- 刑事化的擴張： 針對非自願親密影像、選舉干擾等特定高風險場景，各國紛紛出台專門立法，提高刑罰力度。
第七章：實務合規建議與風險防範
7.1 給終端用戶的合規指引
對於普通用戶而言，使用生成式AI工具時應當建立以下風險意識：
第一，「換臉」即侵權的高風險性。 未經他人同意，使用其照片作為AI生成的參考圖，無論生成結果是否暴露、醜化，都已經觸及肖像權的紅線。即使生成的是「美化」版本（例如將朋友照片生成為婚紗照），只要未經同意，同樣構成侵權。
第二，「群組傳播」的公開性認定。 許多用戶誤以為將圖片發到微信群、LINE群等「封閉群組」不構成「公開傳播」。但司法實務中，只要群組成員具有不特定性（例如百人以上的微信群），或群組內容可被轉發擴散，通常會被認定為「向公眾傳播」。
第三，「惡搞」與「侮辱」的界限。 朋友間的惡搞玩笑，如果涉及將他人肖像醜化、暴露化，即使主觀上無惡意，也可能構成侵權。民法上的名譽權侵害採「客觀標準」——即不問行為人主觀意圖，只看客觀上是否導致他人社會評價降低。
第四，保存證據的重要性。 如果用戶認為自己使用AI生成的內容屬於合法創作（例如，使用的是自己的肖像，或已獲得授權），應當保存完整的創作過程記錄，包括提示詞、參數設置、參考圖來源等。在武漢AI圖片維權案中，法院正是基於原告對生成過程的「控制和預見」來認定其享有著作權。反之，如果用戶無法證明其創作過程的合法性，在侵權糾紛中將處於不利地位。
7.2 給AI平台運營者的合規建議
對於提供生成式AI服務的平台，建議建立以下合規體系：
7.2.1 建立分級風險管理機制
平台應當根據功能風險等級，建立差異化的管理措施：
表格
| 風險等級 | 功能類型 | 建議措施 |
|---|---|---|
| 極高風險 | 一鍵脫衣、換臉親密影像、裸體生成 | 直接禁止提供，或在技術上完全封鎖相關提示詞 |
| 高風險 | 真人肖像生成、名人形象生成、醫療/法律建議生成 | 強制實名認證、人工審核、添加顯著水印標註「AI生成」 |
| 中風險 | 一般圖生圖、風格遷移、藝術創作 | 關鍵詞過濾、用戶協議明確禁止侵權用途、建立投訴機制 |
| 低風險 | 抽象藝術生成、風景生成、非人物主題生成 | 自動化內容審核、定期風險評估 |
7.2.2 強化「事前預防」技術措施
- 提示詞過濾： 建立敏感詞庫，阻止用戶輸入涉及特定人物姓名+負面描述（如「裸體」、「醜化」、「色情」）的組合提示詞。
- 參考圖檢測： 對用戶上傳的參考圖進行人臉識別，若檢測到與公眾人物或熱門人物高度相似，觸發二次確認（「您是否擁有該人物的使用授權？」）。
- 生成內容審核： 對生成結果進行自動化內容審核（AIGC），檢測是否包含裸露、暴力或特定人物肖像。
- 數字水印： 對所有生成圖片嵌入不可見的數字水印，記錄生成時間、用戶ID、模型版本等信息，便於事後追溯。
7.2.3 完善用戶協議與告知機制
- 在用戶協議中明確禁止利用服務生成侵害他人人格權、著作權的內容，並設定違約後果（如帳號封禁、移送司法機關）。
- 在涉及高風險功能時，彈出顯著提示：「您即將使用涉及真人肖像的生成功能，請確保您擁有合法授權，未經同意使用他人肖像可能構成侵權。」
- 定期發布透明度報告，披露違規內容處理情況。
7.2.4 建立有效的投訴處理機制
根據《生成式人工智能服務管理暫行辦法》第14條，平台必須建立健全投訴、舉報機制。建議包括：
- 快速下架通道： 對於涉及非自願親密影像、誹謗性內容的投訴，建立24小時內響應、48小時內處理的快速通道。
- 反向通知程序： 在刪除內容前通知上傳者，給予其申辯機會，避免誤傷合法創作。
- 預防性封鎖： 對於已被投訴的特定人物肖像，建立模型層面的封鎖機制，防止其他用戶再次生成類似內容。
7.3 給網紅與公眾人物的自保策略
對於網紅、明星等公眾人物，因其肖像具有更高的商業價值和公眾識別度，往往成為AI抹黑的目標。建議採取以下自保措施：
第一，建立「數位分身」監測機制。 委託專業機構或利用技術工具，定期在網路平台掃描是否出現未經授權的AI生成形象。目前市面上已有針對深度偽造內容的檢測工具。
第二，及時固定證據。 發現AI抹黑內容後，應立即進行證據保全，包括截圖、錄屏、區塊鏈存證等。特注意保存侵權內容的傳播路徑、點擊量、評論內容等，這些都是後續索賠或刑事控告的重要依據。
第三，善用「通知-刪除」機制。 雖然傳統避風港規則在AI場景下有局限，但大多數平台仍設有投訴渠道。及時向平台發出侵權通知，要求刪除內容並提供侵權者信息，可以及時止損，也為後續訴訟保留證據。
第四，考慮「預防性訴訟」。 對於反覆出現的AI抹黑行為，可以考慮提起訴訟並申請行為保全（禁令），要求平台或特定用戶停止生成、傳播相關內容。在廣州互聯網法院的判決中，法院即判令平台「立即停止侵權，立即采取技術措施防止用户正常使用該AI功能時生成侵權圖片」。
第五，提高公眾認知。 主動在社交媒體上聲明「未授權任何AI生成內容」，並教育粉絲識別AI生成圖片的特徵（如不自然的手指、光影錯誤等），降低虛假內容的傳播影響力。
7.4 給法律實務工作者的辦案指引
對於處理此類案件的律師或法官，建議注意以下技術與法律要點：
技術事實查明：
- 要求原告或被告演示AI生成過程，包括使用的模型、提示詞、參數設置、參考圖等。
- 必要時委託技術調查官或鑑定機構，對生成圖片的技術特徵進行分析（例如，是否含有特定模型的數字水印特徵）。
- 查明圖片的傳播路徑：是僅在私人群組傳播，還是發布在公開平台？是否經過多次轉發？
法律適用選擇：
- 若圖片保留了原告可識別的面部特徵，優先主張肖像權侵害。
- 若圖片導致原告社會評價降低（如生成暴露圖片、犯罪場景），同時主張名譽權侵害。
- 若圖片對原告身體進行畸形化、非人化展示，可主張一般人格權（人格尊嚴）侵害。
- 若平台未採取必要措施，可同時追究平台的幫助侵權責任。
損害賠償計算：
- 精神損害賠償：參考侵權情節、傳播範圍、受害人精神痛苦程度。在程某案中，法院判決了精神損失賠償（具體金額未公開，但通常根據案情在數千元至數萬元人民幣之間）。
- 財產損害賠償：若原告為網紅或公眾人物，可主張商業代言機會損失、品牌價值貶損等。
- 合理開支：包括律師費、公證費、鑑定費、調查費等。
第八章：未來展望與立法建議
8.1 現行法律體系的不足
雖然現行《民法典》《刑法》及相關司法解釋，已經能夠為AI生成抹黑圖片提供基本的法律規制，但仍存在明顯不足：
第一，缺乏專門的「數位人格權」規定。 現行肖像權、名譽權的規定，主要針對傳統的「真實形象」或「事實陳述」。對於AI生成的「虛擬但可識別」的形象，以及AI生成的「虛構但誤導」的敘事，法律適用上仍存在解釋成本。
第二，平台責任的邊界模糊。 「必要措施」的具體標準、「合理注意義務」的判斷依據，在不同法院、不同案件中存在差異，導致平台難以建立穩定的合規預期。
第三，跨境執法困難。 許多AI生成工具由境外主體開發或運營，當侵權內容在境內傳播時，如何追究境外平台責任、如何執行判決，仍是實務難題。
第四，技術發展速度超越立法。 從靜態圖片到動態視頻，從單一模型到多模態模型，技術迭代速度遠超立法週期。法律往往只能在問題爆發後被動回應。
8.2 立法建議
基於上述不足，提出以下立法建議：
8.2.1 確立「數位形象權」
建議在《民法典》人格權編中，或透過單行立法，確立「數位形象權」（Digital Persona Right）。這項權利保護的對象，不僅包括自然人的真實肖像，還包括「任何足以使公眾識別出特定自然人的虛擬形象」。這將為AI生成醜化圖片、虛擬代言人、數位分身等場景提供明確的權利基礎。
8.2.2 建立「生成式AI平台特別義務」
建議在《生成式人工智能服務管理暫行辦法》基礎上，進一步細化平台的特別義務，包括：
- 來源標註義務： 所有AI生成內容必須附帶不可去除的「AI生成」標識。
- 人臉識別鎖定義務： 對於涉及真人臉部特徵的生成，平台必須驗證用戶是否獲得授權。
- 侵權內容溯源義務： 平台必須保存生成記錄至少六個月，以便權利人追索。
- 強制保險義務： 要求平台投保責任保險，以確保受害人能夠獲得賠償。
8.2.3 完善刑事立法
建議在《刑法》第246條誹謗罪之外，增設「濫用人工智能侵害人格權罪」或類似罪名，將「未經同意，利用人工智能技術生成、傳播足以識別特定自然人的虛假暴露、醜化、誹謗性內容，情節嚴重的」行為入罪。這將提高法律威懾力，並明確此類行為的刑事違法性。
8.2.4 建立「快速救濟」程序
建議在知識產權法院或互聯網法院設立「AI侵權快速審理通道」，允許權利人在證據確鑿的情況下，於48小時內獲得臨時禁令，要求平台刪除內容並封鎖生成路徑。這將有效解決「訴訟週期長、侵權擴散快」的矛盾。
8.3 技術倫理與行業自律
法律並非萬能。在技術快速迭代的領域，行業自律與技術倫理同樣重要：
倫理準則的制定： AI產業應當共同制定「人臉生成倫理準則」，承諾不開發專門用於生成非自願親密影像、誹謗性內容的模型或功能。
技術對抗技術： 開發「AI對抗AI」的解決方案，例如：
- 深度偽造檢測工具： 幫助平台與用戶識別AI生成內容。
- 數字水印標準： 建立統一的AI生成內容水印標準，便於溯源與識別。
- 肖像保護技術： 開發「反AI訓練」工具，允許用戶在發布照片時嵌入不可見的噪點，防止被用於AI模型訓練。
公眾教育： 提高社會大眾對AI生成內容的辨識能力與批判意識，減少虛假信息的傳播土壤。
8.4 結語：在創新與保護之間尋找平衡
生成式AI技術無疑是人類文明的重要進步。它賦予了每個人前所未有的創作能力，讓藝術表達的門檻大幅降低。但技術的中立性並不意味著使用的中立性——當演算法被用於毀謗、羞辱與傷害時，法律必須挺身而出，為受害者築起保護的屏障。
程某訴孫某案的判決，以及一系列相關司法實踐，傳達了一個清晰的訊息：在AI時代，人格權的保護不會因為技術的複雜性而減損，反而應當因為技術的破壞力而強化。無論是終端用戶、平台運營者還是基礎模型開發者，都必須在創新的熱情中保持對法律的敬畏，在技術的能力中堅守倫理的底線。
未來，我們需要一個更加精細、更具前瞻性的法律框架，既能容納技術創新的可能性，又能有效防範技術濫用的風險。這需要立法者、司法者、技術開發者與社會公眾的共同努力。唯有如此，我們才能在這個真實與虛構界限日益模糊的時代，守護每個人作為「人」的尊嚴。
常見問題（FAQ）
Q1：用AI把朋友的照片做成搞笑醜圖，只是開玩笑，也算侵權嗎？ A：很可能構成侵權。民法上的肖像權、名譽權侵害採客觀標準，不問主觀上是否為「開玩笑」。只要未經同意使用他人肖像，且客觀上導致他人社會評價降低或造成精神痛苦，就可能承擔民事責任。情節嚴重的，甚至可能觸犯刑法。
Q2：AI生成的圖片裡，只有臉是某人的，身體是AI自己畫的，這樣也侵害肖像權嗎？ A：是的。根據北京互聯網法院的判決，只要圖片中的人物外部形象與特定自然人具有高度對應關係，足以使觀眾識別出該自然人，就構成肖像。身體部分是否為AI生成，不影響肖像權的認定。
Q3：如果我把AI生成的抹黑圖片只發在私人群組，沒有公開發布，會不會沒事？ A：不一定。司法實務中，「公開性」的認定不僅看平台是否公開，還看傳播對象是否具有不特定性。即使是微信群，如果成員眾多、內容可被轉發，或被法院認定為「向第三人傳播」，仍可能構成侵權。
Q4：平台說「內容是用戶生成的，跟我們無關」，這種說法成立嗎？ A：不一定成立。如果平台對生成過程具有實際控制力（例如提供特定訓練素材、設計引導性提示詞模板），法院可能認定平台構成直接侵權。即使平台僅提供通用工具，如果未採取必要措施防止侵權內容生成，也可能構成幫助侵權。
Q5：被AI抹黑了，我該怎麼辦？第一步要做什麼？ A：第一時間固定證據（截圖、錄屏、區塊鏈存證）；第二，向平台發出侵權通知，要求刪除內容；第三，若損害嚴重，可委託律師提起民事訴訟，主張肖像權、名譽權或一般人格權侵害；第四，若情節嚴重（如傳播量巨大、造成嚴重精神傷害），可向公安機關報案，追究對方刑事責任。
Q6：AI生成內容上打了「AI生成」的水印，是不是就可以免責？ A：不能。標註「AI生成」僅能提醒觀眾內容非真實，但不能免除生成者與傳播者的法律責任。如果內容侵害他人人格權，無論是否標註，行為人都需承擔責任。
Q7：我用的是國外的AI工具（如Midjourney、Stable Diffusion），如果生成內容侵權，中國法院能管嗎？ A：如果侵權行為發生在中國境內（例如你在中國使用、向中國境內群組傳播），中國法院有管轄權。但追究境外平台責任存在執行難題。通常建議優先追究終端用戶（實際生成並傳播者）的責任。
Q8：網紅的AI「數位分身」被未經授權用於商業廣告，這算什麼侵權？ A：這同時涉及多項侵權：肖像權（未經同意使用可識別形象）、姓名權（若使用網紅姓名）、不正當競爭（虛假代言、混淆市場）。網紅可主張停止侵害、賠償損失，並要求平台封鎖相關生成路徑。
Q9：AI生成的內容與真人「實質性相似」但沒有明確識別特徵，也算侵權嗎？ A：若無法使公眾識別出特定自然人，通常不構成肖像權侵害。但如果內容暗示該人物為某特定名人（例如透過標註姓名、配文字說明），仍可能構成名譽權侵害或不正當競爭。
Q10：目前中國大陸有沒有專門針對AI誹謗的刑事判例？ A：目前公開的判例中，程某訴孫某案為民事判決。專門針對AI生成內容的刑事判例較少，但傳統的誹謗罪、侮辱罪完全可以涵蓋此類行為。隨著AI侵權案件增多，預計未來會出現更多刑事判例。
Q11：平台應該怎麼做，才能避免為用戶的AI抹黑行為負責？ A：平台應建立：①提示詞與參考圖過濾機制；②高風險功能實名認證；③顯著的AI生成標識；④便捷的投訴舉報通道；⑤快速下架與溯源機制；⑥定期的透明度報告。法院在判斷平台過錯時，會綜合考量這些措施的完備性。
Q12：AI生成圖片的著作權歸誰？如果我用AI生成自己的美圖，別人盜用，我能維權嗎？ A：根據北京互聯網法院「春風送來了溫柔」案及武漢AI圖片維權案，如果用戶在生成過程中進行了充分的個性化投入（設計提示詞、調整參數、挑選結果），法院可能認定該圖片具有獨創性，用戶享有著作權。但這需要具體案情具體分析，並非所有AI生成圖片都自動享有著作權。
Q13：「AI幻覺」（AI生成不實資訊）導致我名譽受損，平台要負責嗎？ A：2025年杭州互聯網法院審理的一起案件中，用戶詢問AI某高校資訊，AI生成不準確內容並承諾賠償。法院認為，人工智能不具有民事主體資格，AI自行生成的「賠償承諾」不能視為服務提供者的意思表示，且案涉生成式人工智能屬於服務而非產品，不適用無過錯責任原則。這意味著，單純的「AI幻覺」導致資訊錯誤，平台責任認定較為複雜，需證明平台存在過錯。
Q14：如果我發現有人在國外網站用我的臉生成色情圖片，該怎麼辦？ A：這屬於「非自願親密影像」（NCII），在多國均屬違法。你可以：①向該國網站發出DMCA通知或當地法域的侵權通知；②聯繫該國執法機關；③在中國境內起訴實際傳播者（如果能確定身份）；④尋求專業的跨境維權律師協助。
Q15：未來法律會完全禁止AI生成真人圖像嗎？ A：不太可能完全禁止。法律監管的目標是「防止濫用」而非「禁止技術」。未來的趨勢是建立「授權機制」——例如，生成涉及特定人物的AI內容，需獲得該人物的事前同意，或平台需驗證用戶授權。這類似於音樂使用的版權授權模式。
