2024年,一场前所未有的跨国肖像侵权风暴席卷而来,牵涉其中的主角是一家名为Heygen的AI DeepFake(深度伪造)公司。其推出的AI换脸技术引发了关于中美数据安全、用户隐私保护以及欺诈行为国际化的严峻挑战。
数百个“俄罗斯美女”账号的疯狂崛起,揭示了一场精心策划的跨国侵权行动,其背后的主角是HeyGen引导用户盗用乌克兰网红OlgaLoiek等人的肖像和声音,编织出一个个极具吸引力的虚拟故事以图牟利。
此外,HeyGen在国内获得大量用户肖像及声音数据后,将国内母公司诗云科技通过决议解散程序拟注销,将所有国内用户数据转移至美国,涉及大量中国公民肖像数据外流。据天眼查显示,诗云科技因决议解散,拟向公司登记机关申请注销登记。
Heygen社交账号显示已在美国加利福尼亚州
Olga Loiek通过其在YouTube上的控诉视频揭示,她的形象和声音被非法窃取并用于创建数十个中文短视频博主账户,这些被深度伪造的后的Olga Loiek形象在视频中声称在中国生活多年,以深情款款的语言讲述着对中国的热爱,从而赢得了数以万计的粉丝青睐。而这些粉丝的信任和情感却被利用来推销各类商品,这其中的商业模式完全建立在对他人肖像权和人格尊严的践踏之上。
深入调查发现,Heygen的AI技术不仅引发了严重的肖像权侵犯,还涉及到数据安全、伦理道德等多个层面的违规行为。随着事件的发酵,Heygen注销中国主体的举动更是引发了对其逃避监管、规避法律责任的广泛质疑。随着调查的深入,Heygen在AI换脸技术滥用中的七宗罪行渐渐浮出水面。
(图片来源于天眼查)
证据确凿,Heygen七宗罪浮出水面
一、侵权诱导 践踏法律底线
Heygen通过广泛的网络营销推广自家的AI换脸技术,尤其是在中文互联网环境中,促使大量冒充俄罗斯美女的博主涌现。这些账号未经许可擅自使用了乌克兰网红Olga Loiek、瑞典网红拉纳布莱克利等人的肖像和声音,捏造异国情缘和生活故事,以此吸粉并带动商品销售。Heygen通过这种方式诱导用户制作侵犯他人肖像权和知识产权的视频内容,严重践踏了法律底线。
二、涉嫌数据安全 大量中国人肖像数据外流美国
据报道,Heygen在未获得充分授权或遵守数据安全规定的情况下,在国内发展用户后注销了国内公司主体诗云科技存在携带中国人肖像数据出境的问题。这一行为违背了数据安全的核心原则,触发了个人信息保护的警戒线。随着人脸数据跨境流动,潜在的安全风险剧增,公众对于个人隐私保护的担忧与日俱增。
三、中美博弈下出走美国
在中美科技博弈和贸易摩擦的背景下,Heygen在完成一笔560万美元的风险投资后,选择了注销中国主体并转移业务重心至美国。这一战略调整引起业内对其商业策略和立场的深刻质疑,外界普遍认为其在关键时刻作出的决定带有消极意味。
四、涉嫌跨国诈骗
Heygen推动的AI换脸技术间接助力了一种新型的网络诈骗模式。假冒的“俄罗斯美女”博主巧妙地利用情感攻势,锁定中国中老年网民群体,利用他们的信任进行商品推广,从而造成实际经济损失和社会信任受损。
五、误导消费
Heygen的技术被用于创造魅力十足的“俄罗斯美女”形象,通过情感连接和文化共鸣的主题,锁定特定年龄层的消费者。这种行为不仅对消费者进行了误导,还可能加重了中老年用户的心理负担和财务风险。
六、技术滥用
Heygen推动的AI换脸技术在社交网络中的广泛应用,让原本具有潜力的创新技术变为滥用的工具。从盗用真实人物的肖像,到制造虚假人设进行带货,AI换脸技术在缺乏有效监管的情况下,为不法分子提供了便捷的作案途径,加剧了网络环境的混乱和伦理道德边界的崩溃。
七、逃避国内监管
面对监管力度的加大和侵权指控的压力,Heygen选择注销中国主体,这一举措被外界视为逃避法律责任和监管的一种方式。这样做不仅未能解决问题,反而加剧了社会各方对公司的批判和质疑。
在经历了深度调查和详细分析后,我们可以看到Heygen(诗云科技)所引发的AI换脸技术滥用事件,不仅在法律层面构成了对肖像权、知识产权的侵犯,还引发了对数据安全、消费者权益、社会信任乃至国际法规框架的多重挑战。各方声音纷至沓来,形成了对这一现象的多元化评价与诉求。
上海正策律师事务所董毅智律师援引《中华人民共和国民法典》强调,未经肖像权人许可,擅自使用AI技术进行换脸换声并发布视频的行为无疑是严重的侵权行为。这一观点明确了法律对公民肖像权的保护力度,警示世人不得滥用先进技术侵犯他人合法权益。AI换脸技术的滥用已不仅仅是一个单纯的法律问题,它已成为危害社会安全稳定、侵犯公民权益的严峻现实。
Heygen及其关联公司诗云科技,在运用AI换脸技术的过程中,暴露出一系列不良行为和社会问题,这些问题集中表现为对技术伦理的践踏和社会责任的缺失。首先,通过非法盗用真实人物的形象和声音,诸如Olga Loiek等无辜个体遭受了肖像权和隐私权的严重侵犯,构成了对个人权益的无视与伤害。其次,Heygen技术支持的虚假账号以情感操控和民族主义话题为诱饵,编织浪漫故事和友好言论,利用人性弱点吸引流量并引导消费,这种行为蕴含了欺诈性和误导性,导致粉丝群体特别是中老年人群在情感和财务上受到双重损失。
此外,Heygen技术的滥用还催化了社交平台上的虚假内容泛滥,加剧了公众对于信息真实性的困惑,破坏了网络环境的诚信基础。同时,平台监管缺位和技术识别困难凸显了现行法律框架和监管机制在应对AI换脸技术滥用时的滞后和空白,也揭示了部分社交媒体平台在内容审查和治理方面的责任缺失。
更值得关注的是,Heygen的商业模式进一步推动了AI黑灰产链的形成与发展,通过低成本、易复制的方式批量制作“网红”账号,实现流量变现,从而形成了对真实创作者权利的挤压和对市场竞争秩序的扰乱。最后,Heygen在获取高额融资并达成国际化布局的同时,选择注销中国主体,不仅可能规避了中国法规的约束,也反映出其在经营策略上的短期逐利导向,缺乏对长期合法合规经营的坚持和对本土社会责任的承担。
Heygen在AI换脸技术应用上的种种做法可被视为对其自身道德和法律责任的背离,这些“罪状”不仅损害了具体受害者的利益,也对整个社会造成了深远的负面影响,亟待从法律法规制定、技术创新监管、平台自律以及公众教育等多个层面共同发力,以遏制此类技术滥用的趋势,保障公平有序的网络生态环境。
引用来源
1.AI合成的“俄罗斯美女”,正猛赚中国人的钱https://www.huxiu.com/article/2773432.html
2.换脸乌克兰美女在中国赚钱,AI已经开始跨国犯罪了https://www.163.com/dy/article/IRDPJOHE0553DXPD.html
3.批量生产的俄罗斯美女,正在收割咱爸https://new.qq.com/rain/a/20240321A04EGL00/
4.HeyGen 正在注销国内主体,或与 560 万美元新一轮融资有关https://mp.weixin.qq.com/s/iydGRTa4N8zNaTqocQZByg
5.天眼查https://www.tianyancha.com/company/4000100899