违反人性

制作者 |虎秀科技群作者|编辑：赵志革|苗正清头像|视觉中国. Anthropic一直被业界认为是“最具意识的AI公司”和“AI安全的标杆”。 CEO Dario Amodei 多次表示，Anthropic 正是出于安全原因推迟了 Claude 的上线，最终让 ChatGPT 占据了领先地位。然而，2月25日，Anthropic发表声明，大幅放松了之前的安全工作。 Anthropic 在一份声明中表示，由于竞争加剧和缺乏政府监管，它将不再遵守负责任的扩展政策（RSP）。 2023 年，Anthropic 开始实施“负责任的扩展政策”。其主要规定是，如果模型的迭代率超过其安全防护能力且无法证明风险缓解措施到位，“将暂停模型扩容或推迟新模型的推出”。这个政策可见作为对AI行业“速度优先”趋势的反击，也是Anthropic在AI安全领域领先地位的基石。在新版政策下，Anthropic将不再承诺单方面停止高风险模型，而只会在某些情况下推迟“高性能”模型的开发或推出，例如当Anthropic在竞争对手中处于领先地位时。由于“领导职务”等术语缺乏明确标准，新规定有效消除了之前的限制。不过，新版本的 Responsible Scaling 政策仍然包含其他与安全相关的内容。 Anthropic 致力于对风险 AI 安全目标更加透明，包括额外披露 Anthropic 专有模型在安全测试中的性能。我们还致力于投资安全性，以达到或超过竞争对手的水平。新政策解决了 Anthropic 未来的安全问题nts 来构建。它还承诺定期发布“边境安全路线图”，概述所有措施的目标清单。 Anthropic还承诺未来每三到六个月发布一份“风险报告”。该报告“解释了该模型的功能、它可能构成威胁的具体方式、现有风险缓解措施如何相互关联，并提供了总体风险水平的评估，”该公司表示。为什么 Anthropic 现在要对其安全政策做出重大改变？ Anthropic首席科学家贾里德·卡普兰(Jared Kaplan)在接受《时代》周刊独家采访时表示：“我们认为，停止人工智能模型的训练对任何人都没有好处。随着人工智能的快速发展，当我们的竞争对手全速前进时，我们做出单方面的承诺是不合理的。”卡普兰还强调，放弃单方面承诺并不意味着公司会180度改变方向。 “速度为王”，妥协市场激励措施，而是“对政治和科学现实的务实回应”。除了发布多项自律条款外，Anthropic 还积极推动美国各级政府人工智能模型和护栏立法的透明度，并发布具有约束力的监管条约。 Anthropic宣布“负责任的扩张政策”后，美国十几个州出台了各种有针对性的法案。其中，加州和科罗拉多州的法律是蓝州中最全面、最严格的。然而，特朗普政府对人工智能监管的看法显然与Anthropic大相径庭。它对人工智能的发展一直采取自由放任的态度，甚至试图废除各州制定的监管标准。这也意味着 Anthropic 所希望的联邦级立法几乎是不可能的。 Anthropic在其官方网站上表示：“政治环境正在发生变化，优先考虑人工智能竞争力一些人认为Anthropic长期以来对人工智能安全的看法是价值观第一的理想主义。更务实的一点是，有人认为Dario Amodei持续推动立法是利用政治干预商业的有益尝试。Anthropic青睐拥有成熟安全系统的大公司，因为严格的监管大大增加了小公司和开源项目的进入难度。无论Anthropic是否有这个意图，首先，在特朗普政府宣布“这条路已经结束”之后，该公司将不得不面对竞争对手争夺人工智能霸主地位的激烈竞争。日前，Anthropic 刚刚完成了 AI 史上规模最大的一轮融资，在 GIC 和 Coatue 领投的 Capital 以及微软、英伟达、亚马逊、谷歌等公司的参与下，Anthropic 的估值飙升至 38 美元。去年 9 月的 1,830 亿美元为 0 亿美元。天价估值也意味着巨大的盈利压力。 HeAnthropic 2026 年的收入目标是 180 亿美元。其收入目标将在2027年达到550亿美元，是2025年47亿美元的四倍。Dario Amodei此前透露，Anthropic的收入来源主要集中在为企业提供各种API服务，大约80%的收入来自企业客户，其中大部分来自其流行的人工智能编程工具Claude。代码。但 Anthropic 最大的竞争对手也在这一领域取得了快速进展。除了推广Codex人工智能编程工具外，还发布了新版本的GPT 5.3-Codex模型以及针对苹果电脑用户的单独应用程序。随着两大巨头竞争的加剧，去掉“护栏”或许只是Anthropicstart竞争并加速迈向大型模型车的第一步。能力。本文来自原文链接，虎秀。连接：https://www.huxiu.com/article/4837211.html?f=wyxwapp
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由网易号用户上传发布，网易号是一个仅提供信息存储服务的社交媒体平台。