人工智能正在渗透到生活的方方面面，包括美国的法律体系。但随着这项技术变得越来越普遍，人工智能产生的谎言或无稽之谈——也就是“幻觉”——的问题仍然存在。
这些人工智能幻觉是前Fugees成员Prakazrel“Pras”Michel声称的核心，他指控EyeLevel创建的人工智能模型破坏了他数百万美元的欺诈案——EyeLevel联合创始人兼首席运营官Neil Katz称这一说法不属实。
今年4月，米歇尔在共谋审判中被判10项罪名成立，包括篡改证人、伪造文件和担任未注册外国代理人。米歇尔在被判为中国特工后，将面临最高20年的监禁，检察官称他试图影响美国政客。
OpenAI希望阻止AI幻觉和撒谎
Katz在接受_Decrypt_采访时表示：“Pras Michel的律师邀请我们做一些独特的事情，这是以前从未做过的。”。
据美联社报道，在米歇尔的律师当时的结案陈词中，辩护律师大卫·肯纳错误地引用了肖恩·库姆斯的歌曲《我会想念你》的歌词，错误地将这首歌归因于赋格夫妇。
正如Katz所解释的，EyeLevel的任务是建立一个经过法庭笔录训练的人工智能，让律师能够就审判期间发生的事情提出复杂的自然语言问题。他说，例如，它没有从互联网上获取其他信息。
众所周知，法庭诉讼会产生大量的文书工作。FTX创始人Sam Bankman Fried的刑事审判仍在进行中，已经产生了数百份文件。另外，破产的加密货币交易所有3300多份文件，其中一些长达数十页。
肯纳在EyeLevel的一篇博客文章中写道：“这绝对改变了复杂诉讼的游戏规则。”。“该系统将数小时或数天的法律工作变成了几秒钟。这是对未来案件处理方式的展望。”
周一，米歇尔的新任辩护律师彼得·泽登伯格（Peter Zeidenberg）提出了一项动议，要求在美国哥伦比亚特区地方法院进行新的审判。
Zeidenberg写道：“Kenner使用了一个实验性的人工智能程序来撰写他的结案陈词，这些论点很无聊，混淆了这些计划，未能突出政府案件中的关键弱点。”。他补充说，迈克尔正在寻求新的审判，“因为许多错误——其中许多是由他无效的审判律师造成的——破坏了人们对判决的信心。”
卡茨驳斥了这些说法。
ChatGPT错误地指控法律教授性侵
Katz告诉_Decrypt_：“这并没有像他们说的那样发生；这个团队对人工智能一无所知，也不了解我们的特定产品。”。“他们的说法充满了错误信息。我希望他们使用了我们的人工智能软件；他们可能能够写出真相。”
米歇尔的律师还没有回应解密的置评请求。卡茨还驳斥了肯纳在EyeLevel拥有经济利益的说法，称该公司受雇于帮助米歇尔的法律团队。
Katz告诉_Decrypt_：“他们在文件中指控David Kenner及其同伙在我们公司拥有某种秘密经济利益，这是完全不真实的。”。“Kenner对我们软件的性能写了一篇非常积极的评论，因为他觉得情况确实如此。他没有得到报酬；他没有股票。”
总部位于伯克利的EyeLevel于2019年推出，为消费者（CX版EyeLevel）和法律专业人士（法律版EyeLevel）开发生成人工智能模型。正如Katz所解释的，EyeLevel是最早与ChatGPT创建者OpenAI合作的开发人员之一，并表示该公司旨在为那些可能无法获得资金来支付大型团队费用的人和法律专业人员提供“真实的人工智能”，即无幻觉和强大的工具。
通常，生成性人工智能模型是在从包括互联网在内的各种来源收集的大型数据集上进行训练的。Katz说，EyeLevel的不同之处在于，这种人工智能模型只在法庭文件上进行训练。
随着其安全性受到审查，OpenAI正在招募一支网络安全“红队”
卡茨说：“（AI）只接受了双方在法庭上陈述的笔录、事实以及法官所说的话的培训。”。“因此，当你问这个人工智能的问题时，它只会根据所发生的事情提供真实的、没有幻觉的回答。”
尽管人工智能模型是如何训练的，但专家们警告说，该程序有撒谎或产生幻觉的习惯。今年4月，ChatGPT诬告美国刑事辩护律师Jonathan Turley性侵。聊天机器人甚至提供了一个虚假链接到《华盛顿邮报》的一篇文章来证明自己的说法。
OpenAI在对抗人工智能幻觉方面投入了大量资金，甚至引入了第三方红队来测试其人工智能工具套件。
OpenAI在其网站上表示：“当用户注册使用该工具时，我们努力做到尽可能透明，因为ChatGPT可能并不总是准确的。”。“然而，我们认识到，要进一步降低幻觉的可能性，并教育公众了解这些人工智能工具目前的局限性，还有很多工作要做。”
_Stacy Elliott和Andrew Hayward编辑_