为了使人工智能工具的开发民主化，Claude人工智能创始人Anthropic与非营利的集体智能项目合作，探索了一条不同的人工智能开发道路，调查了1000名美国人，起草了一部人工智能宪法。
“人工智能将对世界产生变革性影响，”集体智能项目联合创始人Divya Siddarth告诉_Decrypt_。“然而，很少有人能决定这到底是什么样子。我们想建立流程，这样就不会再是这样了。”
集体智慧项目于1月由政治经济学家和社会技术专家Siddarth以及研究员、作家和工程师Saffron Huang发起，旨在促进集体智慧，促进集体进步。今年3月，CIP与Anthropic合作发起了集体宪法人工智能倡议，开发了一个由外部输入设计的人工智能模型，并探索民主进程如何影响人工智能的发展。
Siddarth说：“我们想把民主领域和集体情报领域的一些工作放在一起，围绕着为谁和谁参与做出好的决定意味着什么。”。“有很多关于变革性技术的研究，特别是人工智能，这是我们一直在研究的问题。”
我们与@AnthropicAI合作，将普通美国人的公众意见直接转化为#Claude的新集体宪法。
是的！事实上，人们的人工智能非常棒。
了解我们对民主人工智能的了解和发现。
▶️https://t.co/zjnqwpLn9Zpic.twitter.com/jI9FKrrhky
——集体智能项目（@collect_intel）2023年10月17日
Anthropic在一篇博客文章中表示，该项目要求1000名美国公众帮助人工智能开发者为其人工智能聊天机器人选择规则。Anthropic表示，样本量旨在代表不同年龄、性别、收入和地点的美国成年人。参与者可以从人工智能的规则列表中进行选择，也可以提出自己的规则。
Anthropic没有立即回应_Decrypt的置评请求。
据Anthropic报道，与会者发表了1117份声明。他们在人工智能是否应该歧视种族或性偏好等问题上投了38000多票，并补充说，尽管有不同的意见，但在大多数声明上都有高度的共识。
虽然这项调查试图收集不同的样本量，但Siddarth承认，未来的实验必须超越精通技术和富裕的美国人。
她说：“只有美国人——这显然对世界上的每个人来说都是极其受限的。”。“如果有什么不同的话，就像许多正在开发技术的人一样，可能与美国和许多其他地方的人有更多的价值观重叠。”
Siddarth表示，集体智能项目还与竞争对手人工智能开发商OpenAI就其他民主人工智能项目进行了合作。人工智能构成项目仅使用Anthropics的Claude人工智能模型完成。
Siddarth说：“我认为这就是为什么这是一个很好的比较，因为我们采用了已经根据人类学研究人员编写的体质训练的模型，并将其直接与同一模型进行了比较。”。“但有一部由公众起草的宪法。”
Siddarth说，实验中的一个令人惊讶的发现是，有几项声明也表示，人工智能模型不应基于残疾进行歧视。这些都没有包括在人类宪法中。
她说：“我不认为是因为他们有意不去那里。”。“他们最终并没有强调这一点，而是强调了这一点。”
Anthropic于2021年推出，只是竞相将更快、更先进的人工智能推向市场的开发商之一。微软、谷歌、Meta和亚马逊已向生成型人工智能开发人员投资数十亿美元。因此，2023年对人工智能开发者来说是利润丰厚的一年：2月，谷歌宣布向Anthropic投资4亿美元。继这项投资之后，亚马逊在9月份对Anthropic进行了40亿美元的投资。
今年早些时候，Anthropic与OpenAI、谷歌和微软合作，在与拜登政府举行会议后承诺致力于负责任地开发人工智能。其他加入承诺的公司包括亚马逊、Meta和Inflection。9月，NVIDIA、Scale AI、Cohere、Adobe、IBM、Palantir、Salesforce和Stability AI也加入了这一承诺。
尽管宪法人工智能实验存在局限性，但Siddarth对集体智能项目的未来、人工智能的民主持乐观态度，并希望将更多公众投入到新兴技术的发展中。
她说：“我认为核心是让我们做更多的这些过程；让我们从我们已经做的事情中学习。”。“我们正在与民间社会团体、不同的政策制定者、所有这些不同的公司合作，以实现这一目标。”