韩国强制实施AI内容标签:打击深度伪造赌博广告的新举措

韩国计划从2026年初开始要求人工智能生成的广告必须带有强制性标签，因为政府正采取措施遏制迅速增长的欺骗性在线宣传，官员们表示这些宣传正在利用消费者并破坏对数字市场的信任。

这项政策是在由国务总理金敏锡主持的政府会议后宣布的，他警告说，人工智能制作的深度伪造广告已变得越来越复杂，使普通用户，特别是老年公民难以区分真实内容和虚构材料。

当局表示，这些广告经常出现在YouTube、Facebook和国内社交网络服务上，通常使用虚构专家、假冒医生或令人信服的公众人物AI复制品来推广从未经证实的健康治疗到非法赌博网站的各种产品。

高级政策总监李东勋表示，这波欺骗性广告现在"扰乱了市场秩序"，需要紧急干预。根据新规定，任何参与创建、编辑或上传AI生成视觉内容的人都将被法律要求清楚地标记它们。禁止删除、遮盖或操纵这些标签，托管广告的平台将共同承担确保合规的责任。

政府计划修订《电信业务法》和几项相关法律，使规则能够从2026年初开始生效。官员们表示，更新后的框架将赋予监管机构更广泛的权力来惩罚违规者，并强制数字平台快速响应被操纵的内容。

超过9万条非法广告

人工智能滥用的担忧在非法宣传活动大幅增长后加剧。食品药品安全部在2024年检测到超过96,700条非法广告，这一急剧增加被官员们直接与生成式AI工具实现的廉价、快速生产联系起来。韩国消费者机构警告说，虚假信息传播的速度超过了现有团队的监控能力，AI加速了信息量和复杂性。

这个问题也影响了韩国一些最著名的公众人物。据当地媒体报道，流行歌手和演员IU、演员李蜜、前Wonder Girls成员安昭熙和足球运动员孙兴慜的肖像都在赌博广告中被数字化操纵。这促使人们再次呼吁加强对肖像权的保护。

当局同时也在处理涉及深度伪造的更严重刑事案件。法院最近判处一名男子终身监禁，他策划了一个勒索团伙，使用AI生成的色情内容来针对200多名受害者。官员们表示，此类案件凸显了监管改革的紧迫性。

内容将在24小时内被删除

尽管风险增加，韩国领导层仍坚持该国坚定致力于推进其AI行业。李在明总统和金敏锡总理强调，目标是尽量减少伤害而不阻碍创新。政府正在增加对下一代半导体研究的投资，并加强对先进AI芯片的支持。

新措施将包括对故意传播虚假AI生成宣传材料的行为处以最高达所造成经济损失五倍的惩罚性赔偿。有害内容可能在24小时内被移除，甚至通过紧急封锁令预先移除。各机构还将通过部署AI驱动的检测工具来扩大其监控能力。

官员们表示，现在的挑战是确保快速的技术进步不会超过消费者保护措施，以及韩国能够在不损害公共安全的情况下引领人工智能时代。