男同 影片 困在AI色情视频里的K-Pop女明星

韩娱公司男同 影片，正在反击 AI 作恶。

上周，韩国文娱公司 HYBE 布告，将与京畿北谈巡警局合作，共同打击以 HYBE 艺东谈主为对象的深度伪造内容。

HYBE 与 NGPPA 签署了一份条约，明确了合作细节，包括加速相干案件的窥探程度，并在韩国建造举报热线，约略公众确认相干犯罪戾动。同期，HYBE 也布告加强对深度伪造内容的监控和处理，尤其是在色情内容方面，将特意建抵御馈机制，尽快选择行动。

昨年 9 月，韩国文娱公司 JYP、YG 和 Cube 也向使用其 K-pop 艺东谈主图像创建的深度伪造视觉内容打仗。YG 指出，包括 ( G ) I-dle、NewJeans、Twice、Kwon Eun-bi 和 BlackPink 等著名 K-Pop 女子组合皆是深度伪造内容的受害者中的冰山一角。

连年来，深度伪造内容泛滥已成为全球关切的焦点，尤其是针对文娱行业的坏心挫折。那么，为什么深度伪造本相识荟萃盯上 K-Pop 圈？背后荫藏着若何的恶道理？

困在 AI 色情视频里的女明星

深度伪造是一种东谈主工智能本领，依赖深度学习本领，尤其是生成对抗汇注，来生成或调动图像和视频。其中，GAN 由生成器和判别器构成，通过两者不断地对抗和博弈，生成器逐渐学会生成愈加传神的不实内容，直到能够以伪乱真。

借助深度伪造，不错把一个东谈主的脸、声息、四肢换到另一个视频或图片上，让它看起来像是简直发生的事情，比如让某东谈主"说"他从未说过的话，或者"作念"他从未作念过的事情。

而在韩国文娱行业，好多女明星的形象被作恶分子用来制作恶搞、色情等无益内容，严重侵害了艺东谈主的阴私和名誉。

好意思国汇注安全公司 Home Security Heroes 的一份确认自满，在互联网扫数深度伪造视频中，简直 98% 是深度伪造色情视频，前 10 个特意用于深度伪造色情内容的网站上，视频总走访量逾越 3 亿次，总瞻念看次数逾越 3000 万。

确认还指出，94% 的深度伪造色情内容皆发生在文娱业，其中歌手、演员分辨以 58%、33% 占据大头。在深度伪造的色情内容中，99% 的受害者是女性，仅 1% 为男性。

而在 10 个深度伪造色情网站和 85 个视频分享平台上的近 9.6 万个视频中，53% 的东谈主是韩国歌手和演员。

在外洋外交媒体 Reddit 上，有网友指出，当搜索" K-Pop "相干的关键词时，跳出的热点 subreddit 简直皆是 18 禁的话题，挑剔简直令东谈主作呕。

现时，深度伪造的色情内容依然扩张到各式在线外交平台。其中，曾激勉韩国恶性集体性犯罪" N 号房事件"的阅后即焚 APP Telegram 即是重灾地，致使有东谈主将其定名为"新 N 号房事件"。

昨年 8 月，韩国女性民友会发布一组确认，指出在外交平台 Telegram 的聊天群组中，只需上传熟东谈主相片，付费后 5 秒钟内就能生成瞻念合成图。令东谈主惧怕的是，这个聊天群的参与东谈主数高达 22.7 万。

更恶心的是，一些深度伪造网站致使列出了来自简直每一代 K-Pop 的 200 多名女性偶像的名字，包括多个第五代 K-Pop 团体的成员。

昨年，YG 旗下女团 BABYMONSTER 的粉丝群体在外交平台上发声，号令粉丝暂时放下饭圈纷争，共同保护女艺东谈主。他们强调，大家不论复旧哪个团体，咫尺皆应相助一致，坚定反对深度伪造色情内容的行动，今天的受害者是她们，未来可能即是其他东谈主。尤其是 BABYMONSTER 的 7 名成员中，有 4 东谈主仍是未成年东谈主，这足以诠释问题的严重性。

本年 1 月，韩国文娱公司 Starship 因责任主谈主员紧要无理，官方微博转发了公司旗下 K-Pop 女子团体 IVE 成员张元英、安宥确凿深度伪造内容。

尽管经纪公司、粉丝群体、网友皆对深度伪造内容痛斥不已，纷纷敦促相干部门赶快选择法律行动来保护受害者，并根究包袱东谈主，但深度伪造内容对女艺东谈主的伤害却难以十足斥逐，它不仅是本领滥用的效果，更是永久以来数字空间中性别暴力与阴私侵害问题的缩影。

咫尺，韩国政府和相干机构在公论压力下，已加速立法程度，以更严厉的法律打击深度伪造色情内容的制作和传播。

深度伪造为何盯上 K-Pop 女明星？

不错说，本领的低门槛、艺东谈主的高曝光、社会对女性偶像的牺牲、法律的滞后，各样成分交汇，共同催生了这场韩娱生态中的"数字性侵"。

有报谈自满，在韩国，触及深度伪造的色情案件从 2022 年的 3725 起激增到 2023 年的 21019 起。

尽管凭据《对于处罚性犯罪的零碎案件法》，参与剪辑、合成或处理深度伪造色情内容的个东谈主将濒临最高五年的截留或 5000 万韩元的罚金，以渔利为主见传播此类内容的发布者最高可被判处 7 年截留。

可是，在 2020 年至 2023 年韩国对深度伪造犯罪作念出的 71 项裁决中，只须 4 起案件仅因深度伪造犯罪而被判处截留。咫尺还莫得针对下载或瞻念看深度伪造色情内容的法律。

这意味着，现行法律只针对深度伪造色情内容的制作和传播者进行处罚，而瞻念看或合手有这些内容的东谈主却不受法律拘谨。这种法律罅隙使得"瞻念众"不错毫无费神地浏览相干内容，进一步孕育了犯罪阛阓的需求，也使受害者更难得到有用的法律保护。

凭据 Home Security Heroes 统计，10 大最常被深度伪造色情内容挫折的数据统计中，大部分受害者皆是韩国歌手，其中一位歌手的视频数目高达 1595 个，而另一位韩国歌手的深度伪造视频瞻念看量逾越了 561 万。

2017 年，在一个名为 DeepFake 的 Reddit 用户出现，伪造出了一系列女性色情电影，自后，这个词的含义逐渐扩大，不仅包括他制作的换脸视频，还指各式诈骗 AI 本领生成的合成内容。随后，开源用具如 DeepFaceLab 和 Faceswap 接踵发布，使得用户能够更容易地创建深度伪造内容。

当下，深度伪造内容不再是一个高门槛的本领挑战，简直任何东谈主皆能精真金不怕火、高效地制作出传神的不实内容。从操作难度来看，咫尺只需一台手机就足以制作出 AI 换脸内容，用户只需要提供素材并约略调养，本领自身就会完成大部单干作。

而 K-Pop 产业在全球限度内的粗俗传播，尤其是韩国女歌手通过外交媒体与粉丝的良好互动，创造了极高的曝光度。这种高度可见性使得她们的形象成为了深度伪造内容的理念念素材。

昨年 3 月，K-Pop 女子团体 ITZY 成员黄礼志在一次粉丝连线行动中，不测地看到了一段我方的深度伪造的跳舞视频。那时，黄礼志的色调彰着有些难以梗阻，既容或又有些困惑，只可狼狈地师法起视频中的跳舞四肢。尽管这段视频名义上似乎并无坏心，但过后，好多东谈主默示，瞻念看这段视频让东谈主感到"踧踖不安"。

如今，偶像的每一个四肢、每一个色调皆可能成为被坏心诈骗的对象。任何东谈主只需借助本领技能，就能诈骗公开的艺东谈主影像、物料，制作出极为传神的伪造视频。这些伪造的视频不仅可能被推向群众平台，也有可能被清晰到神秘神志，给偶像带来无法料念念的困扰和伤害。

另一方面，韩国社会对女性偶像的相配关切和牺牲，加重了这种侵扰的边远性。

在传统的性别文化中，女性频频被视为视觉消费的对象，尤其是年青的女歌手，她们的形象和形式浅近被放大、谛视和评价，使得这些女明星成为了深度伪造内容的高频主见。对她们进行深度伪造不仅能够赶快迷惑眼球，其社会影响力也使得这些内容具备了更高的传播价值。

况且，大多数瞻念看深度伪造色情的男性并不合计这种行动有谈德问题。

以 Home Security Heroes 的 1522 名好意思国男性受访者为例，74% 的东谈主对深度伪造色情内容莫得瑕疵感，其中"我知谈这不是真东谈主。""只是我个东谈主好奇钦慕，这不会伤害任何东谈主。""深度伪造色情只是更传神的性幻念念。""深度伪造色情和普通色情莫得太大区别。"。

其背后的逻辑，他们或是受名东谈主迷惑力驱使，或是"幻念念得志"，但愿得到更个性化、定制化的成东谈主文娱体验，却无视了基本谈德界限，抱着轻慢女性尊荣的气派，这让深度伪造色情在谈德和法律的空缺地带放荡泛滥，进一步加深了对女性艺东谈主的伤害与牺牲。

而对于经纪公司而言，斟酌到影像的残留与公论的烙迹在互联网难以抹去，致使可能成为二次汇注暴力的导火索。大多时候莫得办法袒露深度伪造色情案件的具体细节，这也让外界难以全面了解案件的严重性和受害者所经验的窘境。

由此可见，K-pop 女明星成为深度伪造内容的高危群体，其背后既有深度伪造本领的庇荫性与低门槛，也折射出部分男性对女性的轻慢。

不错说，K-pop 产业高度的全球曝光度与对偶像形象的极致塑造，使得女艺东谈主不仅是生意标记，更成为公众生机的投射对象。再加上法律体系在支吾这一新兴问题时的滞后，让女性艺东谈主沦为汇注上的玩偶，随时不错被任何东谈主放荡操控、诽谤，致使堂而皇之地浪掷。

当本领成为"赛博照妖镜"

一个更恐怖的事实是，不仅在韩国，凭据昨年 3 月英国《卫报》报谈，在欧洲 5 个走访量最大的深度伪造内容网站上，有近 4000 位明星被 AI 换脸成色情内容的主角，5 个网站三个月的浏览量就达到了 1 亿次。受害者包括女演员、电视明星、音乐家和 YouTube 网红。

昨年齿首，Taylor Swift 的深度伪造色情图片曾经在 X 上粗俗传播，在平台况且被累计浏览超 4700 万次。据相干统计自满，那时全网已有逾越 9500 个网站"特意制作非自觉亲密图像"。最终， X 一度阻滞了对斯威夫特的相干搜索，以斥逐这些不实内容的传播。

而国内，也出现了深度伪造的相干案件，且受害者并不限于女明星，更有你我这么的普通东谈主。

2020 年，虞某一边通过传播换脸的淫秽视频来"吸粉引流"，同期通过出售" AI 换脸"软件和提供所谓" AI 换脸"的私东谈主定制办事，在不到半年的时刻里就赚钱数万元。2023 年 11 月，杭州市萧山区东谈主民法院判决虞某犯制作、传播淫污物品牟利罪，判处有期徒刑七年三个月，并处罚金 6 万元。这亦然我国首例对于" AI 换脸"侵扰公民个东谈主信息公益诉讼案的审理判决。

国内在此类案件的处理中，该封号的封号，该处罚的处罚，但利益、生机似乎老是先于端正，而法律的步调却频频滞后于本领变革。面对本领滥用的新式挑战，"以本领对抗本领"正成为蹙迫的支吾战术。

比如，昨年推出的荣耀 Magic7 系列推进手机行业首个端侧 AI 反诈检测本领，可在手机端识别内容是否存在 AI 换脸的风险。该本领还得到了 2024 年中国汇注安全转变创业大赛最具投资价值奖。

天然，平台的包袱也不应该只是是"一火羊补牢"，不然，端正再完善，也只是落伍于东谈主性时弊的一纸空文，既拦不住逐利的黑产，也保护不了受害者的尊荣。

外交平台上，依然有多数作恶分子在犯罪网站上传不仙女艺东谈主的相干深度伪造视频内容，一些交往平台的商家不外是换了张神态，便在端正的夹缝中继续洋洋洒洒。

连年来，国内固然在相干立法方面相干注这一议题，但已出台的按序轨制还不具备可操作的笃定和明确的处罚轨范。在本年 3 月寰宇两会上，寰宇东谈主大代表，TCL 首创东谈主、董事长李东生也提议了对于加强 AI 深度伪造诈骗贬责的建议。

近几年，"本领无善恶，但却有畛域"肖似的话术，简直成为每一篇对于本领滥用的报谈中的标语。但本领无法为谈德缺失填坑，每一帧皆是施暴者的主动弃取，不是算法自作主见。

当本领成为了一部分东谈主的"赛博照妖镜"男同 影片，概况咱们更需要的不单是是更尖锐的监管刀刃，也需要一场全民的精神觉悟。数字世界的"不要脸"，骨子是履行东谈主格的透顶溃烂。