話題“被AI造黃謠女運動員發(fā)聲”近日沖上熱搜榜，引發(fā)廣泛關注。

8月30日，臺球運動員王思諾公開發(fā)布視頻，表示自己正深陷惡意AI造“黃謠”風波，有人利用人工智能偽造她的淫穢視頻并肆意傳播。

目前，王思諾已委托律師開展證據保全工作，并正式啟動法律程序維權。同時，警方也已立案，進入取證調查與偵破階段。

《法治日報》記者梳理公開資料發(fā)現，通過“AI換臉”“AI脫衣”等方式造“黃謠”的情況已不是個例。

在王思諾發(fā)聲后，臺球女裁判王鐘瑤發(fā)布視頻力挺王思諾。王鐘瑤透露，自己也遭遇過類似的糟心事，境外網站上曾非法傳播涉及她的偽造的淫穢視頻。

今年3月，模特葉某發(fā)視頻稱，自己被人利用“AI換臉”制作淫穢視頻并大量傳播，造成嚴重困擾，已經收集證據并報警。經鑒定，該視頻確系拼湊偽造。

記者近日調查發(fā)現，網絡上有專門的AI軟件，為生成“黃圖”“造黃謠”提供技術便利。例如，在商家“××AI脫”給記者的報價單中，12元可充值20積分，28元可充值70積分，58元可充值118元積分……積分可用來生成“AI換臉”圖片或視頻，一張圖片一般需要10積分，視頻則是1秒需要1積分。如果花268元，可以開通永久卡，免費使用上述商家提供的AI技術。該軟件提供的服務主要包括兩種：一種是上傳正常人物照片后，可以“AI脫衣”；另一種則是“AI換頭”，將別人的肖像換到他人的身體上。

除“××AI脫”外，網上還有不少商家提供用于“AI換頭”的素材庫，其中多是些黃色圖片和視頻。

傳播AI“黃謠”的鏈條中，各方主體該負哪些責任？

北京航空航天大學法學院副教授吉冠浩介紹，用AI造“黃謠”并傳播的自媒體和個人，可能對他人構成民事侵權；符合一定條件的還可能違反治安管理處罰法，對其可處行政拘留及罰款；情節(jié)嚴重的還可能觸犯刑法，構成傳播淫穢物品罪、侮辱罪或誹謗罪。

他還提到，作為傳播載體的平臺，如果未及時刪除已知侵權內容，需與傳播者承擔連帶責任；縱容傳播可能因“未履行信息內容管理義務”被主管部門處罰；算法主動推薦淫穢內容，可能構成幫助信息網絡犯罪活動罪。

在北京瀛和律師事務所合伙人王利華看來，目前對制作、傳播AI“黃謠”的當事人、自媒體及平臺的處罰力度存在不足。部分案件僅以警告、小額罰款、封禁賬號為主，未形成足夠震懾；對平臺的處罰多針對具體事件，缺乏常態(tài)化監(jiān)管和高額罰款，難以倒逼平臺落實主體責任。

值得注意的是，現在很多AI“黃謠”不僅在國內平臺，在境外平臺也大量傳播，比如某境外社交平臺上設有專門的“換臉視頻/圖片”專區(qū)，一些網站的服務器也在國外。受害者維權時常見證據易滅失（如加密聊天群內容）、境外服務器取證難、無法刪除視頻等難題。

吉冠浩說，針對證據易滅失、境外服務器取證難的問題，辦案機關應與時俱進，運用即時存證技術，構建“區(qū)塊鏈+AI”的跨境證據固定系統(tǒng)；根據國際刑事司法協(xié)助法等，通過外交等渠道向境外司法機關提交證據調取請求，要求境外網絡平臺提供服務器日志等電子數據。針對無法刪除境外視頻的難題，相關監(jiān)管機關對長期縱容AI違法內容的境外平臺，可采取“長臂管轄”措施，如限制其在中國市場的業(yè)務合作，或通過反壟斷法、數據安全法加以制裁。

王利華建議，出臺專門針對AI生成虛假信息的司法解釋，盡快明確AI“黃謠”的定義、制作、傳播、平臺的責任劃分，提高罰款金額、刑期等處罰標準。強化技術監(jiān)管能力，由政府牽頭建立“AI黃謠監(jiān)測預警平臺”，整合各平臺數據，對全網AI“黃謠”內容進行實時監(jiān)測、溯源和攔截；同時，鼓勵企業(yè)研發(fā)AI內容識別技術，提升“黃謠”檢測準確率。要求互聯(lián)網平臺、AI技術企業(yè)簽訂《AI內容治理承諾書》，建立“黑名單”制度，對多次制作、傳播AI“黃謠”的賬號、企業(yè)進行跨平臺聯(lián)合懲戒。

吉冠浩提出，針對工具源頭可設置下列防控方法：首先在硬件上，顯卡廠商應植入“倫理協(xié)議芯片”，進行二手顯卡交易時需驗證其用戶的真實身份，并承諾禁止用于生成違法內容。其次在軟件上，向開源模型注入“倫理污染數據”，針對“脫衣”“換臉”等關鍵詞，植入干擾標簽，使模型輸出失真。最后在平臺上，建立“AI生成內容防火墻”，網絡平臺應部署多模態(tài)檢測引擎，結合生成痕跡與語義分析，實現精準攔截。

“可以設立‘AI黃謠維權援助中心’，為受害者提供免費的法律咨詢、證據存證、司法協(xié)助等服務。同時通過媒體宣傳普及維權流程，鼓勵受害者主動報案、發(fā)聲，減少‘沉默效應’?！蓖趵A說。