今年早些时候，20岁的乌克兰网红奥尔加•洛伊克(Olga Loiek)在网上遭遇了一群由人工智能生成的自己的克隆体——而且他们都在说中文。
“我真的被吓到了。我看到我的脸在说一种我不懂的语言。当我翻译它时，发现这些都是我一生中绝不会说出的话，”她向英国《金融时报》透露，并补充说这个深度伪造的角色谈论的是“加强俄罗斯和中国之间的关系”。
洛伊克在YouTube和Instagram上有2万名粉丝，其中一些人向她报告了这些视频。她表示，她对克隆背后的动机一无所知，但怀疑自己的形象可能被用作一场虚假信息宣传活动的一部分。这些视频在中国社交媒体网站小红书和哔哩哔哩上广泛传播，其中一个假账号吸引了30万名粉丝。
“这听起来像是宣传，试图让人们相信俄罗斯是一个伟大的国家，然而乌克兰的战争却是我一生中最糟糕的事情，”她补充说。
洛伊克的案例是生成式人工智能技术被不法行为者滥用的一个例子，他们窃取毫无戒心的受害者的视觉身份来制造深度伪造。这些人工合成的二重身(doppelgängers)不仅被用于传播虚假信息，还被用于在社交媒体上推销产品或制作未经同意的深度伪造色情作品。（“doppelgängers”这个词来源于德语，在英语中通常指的是一个人的非血缘关系的相似者或双重身份。这个概念在许多文化中都有出现，通常用来描述那些长相惊人相似的两个人，尽管他们之间没有任何直接的亲缘关系。在现代语境下，这个词被扩展应用到了包括虚拟身份和人工合成图像在内的领域，特别是在讨论数字技术和人工智能创造的、与现实人物极其相似的虚拟形象时。）
您已阅读27%（710字），剩余73%（1901字）包含更多重要信息，订阅以继续探索完整内容，并享受更多专属服务。