美国AI深度造假引关注：骗子AI合成霉霉视频进行带货

有了AI技术加持，视频和声音都能造假，隔着一根网线和屏幕的虚拟世界，眼见也未必为实。

据报道，前段时间，国际巨星“泰勒·斯威夫特”（霉霉）出现在一段视频中，并且她还“真人发音”进行了带货。

“嘿你们好，我是泰勒·斯威夫特，由于包装出错，有3000套Le Creuset（中文名译为‘酷彩’）炊具套装无法正常线下销售，转向线上出售。”

“她与Le Creuset联手进行促销，有20位忠实粉丝将免费获得赠送的炊具套装”。

然而视频中的“霉霉”并不是真的斯威夫特，而是AI“深度造假”技术合成了她的声音，并将声音与她的形象和Le Creuset广告片段拼凑在一起。

当受害者被引导至虚假网站后，会被要求支付9.96美元的运费，同时号称免费送的厨具也不会真的送出去。

Le Creuset和Facebook母公司Meta对这一欺诈活动迅速做出了回应。

据福克斯新闻1月12日报道，目前，Meta表示已经删除该广告。

深度造假（Deepfake）是英文“Deep learning”（深度学习）和“Fake”（伪造）的混成词，指利用深度学习技术生成合成图像、音频或视频的技术。

随着人工智能技术的崛起和相关工具使用门槛的降低，越来越多包含深度造假技术的视频被生产出来，并日益发展出了新的应用场景。过去一年，人工智能取得重大进步，制作未经授权的真人数字复制品变得更加容易，音频、视频恶搞特别容易，也很难识别。

美国商业改善局去年警告，“深度造假”诈骗正在增加，“在购买商品之前，请花一点时间重新检查帖子和社交媒体账户，这些照片和视频很可能是假的，如果你购买了不合格或不存在的产品，你就会损失金钱（通常比你想象的还要多）。”

对于消费者来说，今后遇到此类明星带货的视频时，也要提高警惕，不能因为是视频带货的缘故，就中了骗子的圈套。