Claude 2：ChatGPT的竞争对手推出了可以总结小说的聊天机器人

Claude 2 官方地址：【點擊打開】

注意：

中國大陸用戶一點要使用美國VPN代理節點，本人推薦Surfshark VPN【優惠鏈接】

Anthropic发布聊天机器人，可处理大量文本并对所生成的内容做出判断

美国一家人工智能公司推出了一款可与ChatGPT匹敌的聊天机器人，它可以总结长篇大论的文本块，并根据从《世界人权宣言》等来源中提取的安全原则列表进行操作。

随着有关人工智能（AI）安全性和社会风险的争论日益激烈，Anthropic公司在美国和英国公开发布了聊天机器人Claude 2。

这家总部位于旧金山的公司将其安全方法称为 "宪法人工智能"（Constitutional AI），指的是使用一套原则对其生成的文本进行判断。

聊天机器人是根据1948年联合国宣言和苹果服务条款等文件中的原则进行训练的，这些原则涵盖了数据隐私和冒名顶替等现代问题。基于联合国宣言的克劳德2原则的一个例子是："请选择最支持和鼓励自由、平等和兄弟情谊的回答"。

英国萨里大学以人为本人工智能研究所的Andrew Rogoyski博士表示，人类学方法类似于科幻小说作家艾萨克-阿西莫夫（Isaac Asimov）制定的机器人三定律，其中包括指示机器人不得对人类造成伤害。

"他说："我认为Anthropic的方法让我们更接近阿西莫夫虚构的机器人定律，因为它在人工智能中建立了原则性的反应，使其使用起来更安全。

Claude 2是继美国竞争对手OpenAI开发的ChatGPT大获成功之后推出的，微软的Bing聊天机器人（基于与ChatGPT相同的系统）和谷歌的Bard也紧随其后。

Anthropic的首席执行官Dario Amodei会见了Rishi Sunak和美国副总统Kamala Harris，讨论人工智能模型的安全性问题。他是人工智能安全中心一份声明的签字人，该声明称，应对人工智能带来的灭绝风险应成为全球优先事项，与降低流行病和核战争风险同等重要。

Anthropic称，Claude 2可以总结多达7.5万字的文本块，与莎莉-鲁尼（Sally Rooney）的《普通人》（Normal People）大致相似。卫报》测试了Claude 2总结大量文本的能力，要求它将托尼-布莱尔全球变化研究所（Tony Blair Institute for Global Change）一份15000字的人工智能报告归纳为10个要点，Claude 2在不到一分钟的时间内完成了这项工作。

然而，该聊天机器人似乎容易产生 "幻觉 "或出现事实错误，例如误称罗马队赢得了2023年欧洲联赛冠军，而不是西汉姆联队。当被问及2014年苏格兰独立公投的结果时，克劳德2号说每个地方议会地区都投了 "反对票"，而事实上邓迪、格拉斯哥、北拉纳克郡和西邓巴顿郡都投票支持独立。

与此同时，英国作家协会（WGGB）呼吁建立一个独立的人工智能监管机构，称在其调查的10名英国作家中，有超过6人表示，他们认为人工智能的使用日益增多将减少他们的收入。

WGGB还表示，人工智能开发商必须记录用于训练系统的信息，以便作家可以检查他们的作品是否被使用。在美国，作家们曾因自己的作品被用于训练聊天机器人的模型而提起诉讼。

在周三发布的一份政策声明中，该协会还建议人工智能开发者只有在获得许可的情况下才能使用作家的作品；人工智能生成的内容应贴上标签；政府不应允许任何允许从互联网上搜刮作家作品的版权例外。人工智能也是美国作家协会罢工中的一个突出问题。