生成型人工智能让普通人更容易创作艺术品和其他内容。它还让人们更容易制作出一些真正狂野和有争议的东西，比如人工智能生成的海绵宝宝或任天堂的科比驾驶喷气式客机进入世贸中心的图像。
虽然人工智能图像生成器已被用于创建深度伪造的性材料，但此类工具也被用于制作描绘暴力或低俗场景的场景，甚至涉及政治家、历史人物和深受喜爱的虚构人物。
社交媒体平台上充斥着据称使用脸书人工智能贴纸生成器制作的贴纸图片。其中包括埃尔莫挥舞着刀、米老鼠在厕所里、《超级马里奥》系列中的瓦里奥和路易吉手持步枪的画面，甚至还有加拿大总理贾斯汀·特鲁多衣着暴露的表演。
视频游戏艺术家Pier Olivier Desbiens在一条包含一些所谓人工智能贴纸的病毒式推文中写道：“我们真的生活在可以想象的最愚蠢的未来。”。
发现脸书信使现在已经人工智能生成了贴纸，我不认为任何相关人员通过pic.twitter.com/co987cRhyu有任何想法
——捍卫跨性别权利🏳️⚧️-podesbiens.bsky.social（@Pioldes）2023年10月3日
当_Decrypt_联系Meta并询问人工智能贴纸时，一位发言人指出了该公司的一篇博客文章，其中部分写道：“与所有生成的人工智能系统一样，模型可能会返回不准确或不恰当的输出。随着这些功能的发展，我们将继续改进这些功能，让更多的人分享他们的反馈。”
脸书母公司Meta在2023年一头扎进了生成人工智能工具领域，仅今年一年就投资了390亿美元。7月，Meta加入了OpenAI、谷歌、微软和其他公司的行列，承诺负责任地开发人工智能。这一承诺是在与拜登政府就生成人工智能举行会议后做出的。
除了使用Meta的Llama 2和Emu的人工智能贴纸外，Meta在上个月的Meta Connect活动中宣布推出一系列人工智能生成工具，包括WhatsApp、Messenger和Instagram的对话式人工智能助手，吸引了几位知名人士，包括Snoop Dogg、Tom Brady、Kendall Jenner和Naomi Osaka，将他们的声音和形象与Meta的人工智能阵容相结合。
Meta表示，它正在使用人工智能，通过根据公司的“社区标准”训练其大型语言模型，更快、更准确地识别有害内容。并补充说，该公司乐观地认为，生成人工智能可以帮助它在未来执行我们的政策。
脸书贴纸并不是本周唯一掀起波澜的超现实人工智能艺术。正如_404 Media_的一篇报道所强调的那样，除了海绵宝宝和科比“正在做9/11”之外，其他推特用户据称也在使用微软的必应AI图像生成器制作他们自己有争议的流行文化即兴片段，比如一张“霓虹创世纪福音派”动漫人物驾驶飞机前往世贸中心的照片。
谢谢，Microsoft Bing pic.twitter.com/6XWxpum655
——Rachel（@tolstoybb）2023年10月3日
尽管人工智能精灵可以说已经从瓶子里出来了，但正如微软总裁布拉德·史密斯9月份所建议的那样，公司正试图遏制对其平台的滥用，包括为用户制定KYC政策。
今年早些时候，Midtravel在被用于创建人工智能生成的deepfakes后，结束了其免费试用版。上个月，ChatGPT的创建者OpenAI发布了其AI图像生成器Dall-E 3的最新版本，其中包括新的护栏和功能，试图打击暴力、成人或仇恨内容。同月，盖蒂图片社推出了一款基于其庞大图像库的生成人工智能图像工具。
更多名人与自己的Deepfakes战斗
周三，内容创作公司Canva推出了其Magic Studio生成人工智能工具套件，其中包括护栏，该工具可以生成名人或任何与医学或政治有关的图像。
Canva人工智能产品负责人Danny Wu告诉_Decrypt_：“作为我们信任和安全（政策）的一部分，我们不允许我们的人工智能生成受欢迎或公众人物或知名人士的图像以及第三方知识产权。”。