不过,这则广告的“当事方”Le Creuset却表示,公司并没有参与任何消费者赠品活动,尽管她平时爱用这个品牌的厨具。在这则案例中,AI技术用来合成了泰勒・斯威夫特的声音,并将声音与Le Creuset广告片段拼凑在一起。
骗子还利用合成的声音称呼泰勒・斯威夫特的粉丝为“Swifties”。当受害者被引导至虚假网站后,会被要求支付9.96美元的运费。当然,号称免费送的厨具也并不可能真的送出去。
报道称,在过去一年内,AI技术的重大进步使未经名人本人授权的“数字替身”制作门槛愈发降低。美国布法罗大学“媒体取证实验室”的计算机科学教授Siwei Lyu表示,这起“深度伪造”诈骗活动很可能是利用文字转语音服务制作的。这类工具可将脚本转译成声音,并用唇语同步程序将其合成至
视频片段。
Lyu称,如今要获得这些工具非常容易,不到45分钟内就可以制作出质量“不错”的
视频。
据IT之家此前报道,美国著名演员汤姆・汉克斯(Tom Hanks)去年也声称自己肖像的AI版本被用于牙科计划的在线广告中,而且没有经过他本人的同意。
“明天我可能会被公共汽车撞到,仅此而已,但表演可以继续下去,”他说。“除了对AI和深度造假的自身鉴别,没有什么可以告诉你这不是我。这当然是一种艺术挑战,也是一种法律挑战。”