新闻资讯

频年来,跟着东说念主工智能时期的发展,使用“深度伪造”时期制作的色情影像在韩国外交媒体上大力传播,韩国青少年颠倒是年青女性深受其害。为从压根上拔除这一社会毒瘤开yun体育网,韩国正胁制加大打击“深度伪造”违警的力度。旧年10月,韩国政府表决通过了三部联系法律,保存、收看“深度伪造”淫秽影像将受到处罚。

▲“深度伪造”时期制作的色情影像在韩国外交媒体传播。辛勤图
但是,韩国波及深度伪造的“数字性违警”依旧存在,AI版“N号房”近日被曝出探问量急剧加多。
韩国一个网站被曝出愚弄东说念主工智能时期,可将女友、妻子等女性熟东说念主的形象合成赤武艺办并在网上展示,逐日眩惑超过10万名男性用户。跟着生成式AI的扩散,该平台不仅公然运作,还无数出现愚弄女性像片制作的“赤武艺办”图像,致使使用特定领导语生成“深度伪造”色情执行。
数据闪现,旧年韩国“深度伪造(deepfake)处罚法”履行前,该网站日探问量约为6万东说念主,而在法律奏效一年后,探问量不仅未下落,反而增长约60%。
所谓“深度伪造”,是指愚弄东说念主工智能,将他东说念主的声息、面部色融合身段手脚合成装假影像的时期。
据统计,旧年4月至5月,该网站月探问用户超过52万东说念主。自上月以来,“深度伪造”色情执行急剧加多,用户以“最近试着跟潮水作念一个”“我也来玩一卑鄙行的前女友手办制作”为名,胁制制作并展示手办,并附上受害女性个东说念主信息。网站用户广泛合计,通过“赤武艺办”对女性熟东说念主进行深度伪造合成并公开信息并不违警。
▲当地时候2024年8月30日,韩国首尔中央政府办公楼前,“降低深度伪造性违警的女性和母亲记者会”举行。图据视觉中国
报说念称,针对该网站愚弄东说念主工智能进行大鸿沟色情执行生成的行动,由72个韩国市民团体、大学组织及约200名个东说念主构成的“深度伪造性违警OUT邻接行动”,旧年曾在首尔举行抗议行动,公开降低该网站的性克扣行动。而这么的抗议行动已举行屡次。
尽管如斯,该平台愚弄AI时期分娩色情执行的情况仍在合手续。巨匠指出,应尽快修法,退缩“赤武艺办”等历程AI加工生成并传播的色情执行脱逃处罚。
韩国国会立法侦探处侦探官许敏淑暗意,现行“深度伪造”处罚法仅适用于“对信得过东说念主物的面部、身段或声息影像进行裁剪、合成或料理”的情形,而手办属于“物体”而非“东说念主”,因此可能被认定不在处罚范围内。她强调,若要灵验规制此类行动,应将法律适用对象扩大至“可被识别为信得过东说念主物的假造状貌”,以确保联系执行能受到追责。
韩国网罗性暴力应酬中心主任金汝真暗意:“如若不更正将女性赔本的文化,即便法律纠正,也会出现回避刑事连累的技能,使数字性暴力胁制轮回。”她强调,除了完善联系法律外,还需要系统性的训导。
韩国9月15日公布的数据闪现,频年来,韩国波及深度伪造、愚弄智妙手机等电子诞生偷拍等“数字性违警”的青少年东说念主数合手续攀升,2020年至2024年时期,这一数字险些翻倍。
红星新闻记者 王雅林 实习记者 杨诗柔

