网络犯罪分子加紧使用人工智能工具制作名人的深度伪造品，利用他们的肖像骗取粉丝的钱和加密货币——一份报告称，去年此类内容增长了87%。
周一，YouTube巨头Beast通知他的2400多万推特粉丝，他是其中一个计划的受害者，并质疑科技公司是否有能力阻止他们。
Beast写道：“很多人都收到了我的深度伪造骗局广告。社交媒体平台准备好应对人工智能深度伪造的兴起了吗？”
很多人都收到了我的深度伪造骗局广告…社交媒体平台准备好应对人工智能深度伪造的兴起了吗？这是一个严重的问题pic.twitter.com/llkhxswQSw
——MrBeast（@MrBeast）2023年10月3日
“他们不是，民主也不是，”播客主持人、科学传播者、扑克冠军Liv Boeree回答道。
deepfake是用生成人工智能创建的视频或音频内容，它描绘了虚假事件，但其制作方式很容易与合法和真实内容混淆。
对人工智能生成的deepfakes的担忧引起了世界领导人、政策制定者和执法部门的共鸣，并敲响了警钟。
Beast先生的真名是James Donaldson，他是最新一位未经其许可在网络骗局或活动中使用其肖像的名人。周日，传奇演员汤姆·汉克斯在Instagram上警告他的粉丝，一场广告宣传活动使用了这位奥斯卡获奖艺人的人工智能版本。与此同时，已故罗宾·威廉姆斯的女儿在Instagram上发布的一条帖子也谴责了在商业内容中使用她父亲声音复制品的活动。
一些电视新闻名人也出现在病毒性的深度伪造内容中，包括哥伦比亚广播公司的盖尔·金、福克斯新闻的塔克·卡尔森和HBO的比尔·马赫。
据《每日邮报》周日报道，随着泰勒·斯威夫特、娜塔莉·波特曼和艾玛·沃特森等女演员的脸越来越多地被深度伪造色情作品所利用，更多的色情兴趣也在被追求。该报告援引安全公司ActiveFence的话称，名人深度伪造色情的数量比去年增长了87%，而私人受到的剥削增加了400%。
Beast尚未回应_Decrypt的置评请求。
好莱坞持续关注人工智能，SAG-AFTRA罢工仍在继续
人工智能是SAG-AFTRA和电影电视制片人联盟（AMPTP）正在进行的谈判中的关键问题之一。一些演员将人工智能deepfakes的问题告上法庭并获胜。
上个月，印度著名演员阿尼尔·卡普尔在德里高等法院赢得了一项判决，指控其未经授权使用自己的名字、形象和声音。虽然汤姆·克鲁斯还没有公开谈论此事，但去年他的一个人工智能deepfake在社交媒体上上传后迅速走红。
“Deep Tom Cruise”视频背后的团队随后成立了人工智能开发公司Metaphysics AI。
这家总部位于伦敦的Metaphysics于2021年由Chris Ume、Kevin Ume、Miles Fisher、Tom Graham和Martin Adams推出，于去年9月在“美国达人秀”上亮相，当时其技术展示了人工智能生成的猫王，只进行了一晚的表演。
Metaphysics表示，与汤姆·汉克斯一样，包括安妮·海瑟薇和奥克塔维亚·斯宾塞在内的其他艺人也使用其技术来创建和存储创建他们肖像的合法数字化身所需的特征。
Hanks、Spencer和Hathaway的代表拒绝或没有回复_Decrypt的置评请求。
演员并不是唯一接受人工智能治疗的演员：今年8月，歌手赛琳娜·戈麦斯（Selena Gomez）在Instagram上发布了一段人工智能深度伪造音频，其中有一段表演者演唱《周末》（the Weeknd）《星童》（Starboy）混音版的虚假版本
Weeknd也是人工智能生成的deepfake与德雷克为歌曲《我袖子上的心》（Heart on My Sleeve）制作的假复制品合作的主题，今年早些时候这首歌在网上疯传后，唱片学院决定这首歌没有资格获得格莱美奖。