（原标题：韩国“AI换脸”色情成品入刑ai换脸 av，制作、保存、传播全见识定罪）

21世纪经济报说念记者 肖潇 北京报说念

近日，韩国国和会过了一项性罪犯的修处死案——任何制作、抓有、保存深度伪造色情视频的行为，都可被定为刑事罪犯，并面对最高七年扣留大约5000万韩元的罚金（约26万元东说念主民币），现时在恭候总统最终签署。

制作深度伪造的色情成品并主动传播，此前在韩国照旧是一项罪犯行为。凭证韩国的《性暴力看重和受害者保护法》，此类行为面对最高五年的刑期。 

最新修改的法案将上限升迁到七年，况且抓有、购买、保存罪犯影像者也纳入了刑事处罚边界，面对最高三年刑期或3000万韩元罚金（约15.7万元东说念主民币）。

修正案推出的前情，是多起韩国“AI换脸”恶性罪犯事件曝光。

本年5月，韩联社的一王人打听报说念发现，加密通讯诈欺法子 Telegram 上罕有十个“羞耻房”，韩国男性用户在聊天群等共享凡俗女性像片，并用深度伪造软件“换头”成色情制片。8月，数百个近似的Telegram色情聊天室链接曝光，涉及边界扩大到女学生、女磨真金不怕火、女兵等，其中已知最大的一个聊天室成员跨越22万东说念主。

韩国警方默示，2024年前七个月共处理了297起关系案件，的确是2021年头次收罗关总计据时的两倍。尤其值得警惕的是，低龄化罪犯的特征彰着，2023年罪犯嫌疑东说念主中的未成年东说念主占比高达75.8%。

不仅仅韩国，挥霍深度伪造技艺进行性罪犯的行为在天下边界内流行。诓骗安全网站Home Security Heroes昨年的解析清晰，互联网上98%的深度伪造视频为色情本色。解析还指出，现时只需不到 25 分钟的时候，而且无需任何本钱，就不错使用一张了了面部图像，为任何东说念主制作长达一分钟的色情视频。

该解析分析的蚁集深度伪造色情视频中，大无边都是韩国女性。除韩海外，深度伪造色情受害者最多的国度是好意思国、日本、英国和中国大陆。

面对大幅缩短了使用门槛的深度伪造技艺，不少月旦声以为，韩国修正案的作用仍然有限。韩国民主党议员金南熙（Kim Nam-hee）说合了韩国场所式院2021年以来受理的深度伪造罪犯，在87名罪犯嫌疑东说念主里，唯有不到三分之一的东说念主最终被判有期徒刑，缓刑、罚金或无罪的东说念主占据六成。换言之，性罪犯问题莫得获得满盈宠爱，量刑过轻，可能对罪犯嫌疑东说念主难以起到震慑作用。

另一方面，需要多猛进度审查平台本色的争辩再次摆于台面上。 

金南熙在九月初的一场议会听证会上坦言，韩国的“数字性罪犯受害者复古中心”不错帮受害者删除色情影片，但相关部门莫得删除本色的正当性基础，因此解析并不算凯旋。不外，最新修正案的附加法案明确了韩国政府部门有删除罪犯影像的职权，以及为受害者复原泛泛生计积极提供扶助的义务。

“韩国通讯委员会也不错向谷歌等平台传播罪犯视频采纳门径，但我据了解，还莫得公司因此收到罚金的例子。”金南熙补充说念。

天下的监管机构、技艺平台和酬酢媒体，正在深度伪造色情事件上寻找共鸣。比如，最近进程州长签署的一系列好意思国加州东说念主工智能法案，其中两项划定，深度伪造色情图像属于刑事罪犯，并条目酬酢媒体平台为用户栽植举报渠说念：在平台打听时期，关系本色必须被屏蔽，若是打听证实属实，平台需要持久删除。

与此同期，酬酢媒体和技艺平台也在主动设备技艺，从泉源戒指深度伪造技艺的挥霍。OpenAI曾默示，文生图大模子DALL-E的查考数据中照旧删除了露骨本色，从而戒指用户创建这类图像。此外公司会过滤用户的指示词，弗成放纵生成名东说念主图像。 

本年早些时候，泰勒·斯威夫特的“换脸”色情图片在酬酢媒体X上泛滥，X一度不容了用户搜索泰勒·斯威夫特的关节词。

值得属目的是，尽管多家酬酢媒体在打击性罪犯、极端本色上付出越来越多费力，但为本次性罪犯事件提供“泥土”的Telegram很少出现时关系报说念中。由好意思国国度失散与受虐儿童中心 （NCMEC） 设备的平台 Take It Down旨在打击蚁集结的色情复仇风光，亦然业内较常拿起的不休见识——使用哈希列表（一种数字指纹），巡检平台中的图像和视频，实时监测和删除罪犯影像。TikTok、Instagram、PornHub等天下性平台都已加入该计划，而Telegram不在其中。

韩国警方以为Telegram做事器位于境外，而且对话本色采纳端到端加密，心事性强，是此类案件侦探毒手的顺利原因。

8月末，Telegram的独创东说念主帕维尔·杜罗夫在巴黎机场遭到法国警方短暂拘留，法国检方的指控包括拒却互助王法部门，共谋抓有色情材料等。Telegram官方默示，“宣称平台或其通盘者对平台挥霍行为厚爱的说法是极端的”，天下近十亿用户使用Telegram四肢通讯技巧和报复信息起首ai换脸 av，“咱们期待此事尽快获得不休”。