该功能主要针对持续性的有害或辱骂性互动，典型案例类似用户索取可能导致大规模暴力或恐怖行动的信息。Anthropic 表示此举并非为了保护人类用户，而是为了保护 AI 模型本身，同时也与模型对齐和安全措施相关。

就连 AI 编程市场占有率 NO 1 的 Cursor 也被逼急了，出了个拿不出手的 Cursor CLI。 先给大家总结下 CloudBase AI CLI 拥有的能力： ...

markdown Anthropic 近日宣布为其 Claude AI 系列模型，尤其是 Claude Opus 4 和 4.1 版本，引入一项重要更新：在特定情况下终止对话的功能。这一举措引发了业界对 大语言模型 ...

Anthropic宣布为其最新大型模型新增一项能力——在"罕见、极端且持续有害或滥用用户交互"情况下终止对话。值得注意的是，该公司表示此举并非为了保护人类用户，而是为了保护AI模型本身。 需明确的是，Anthropic并未宣称其Claude AI模型具有感知能力或会因用户对话受到伤害。用其原话说："我们对于Claude及其他大语言模型当前或未来的潜在道德地位仍高度不确定。" ...

新智元报道 编辑：KingHZ【新智元导读】程序员教练来了——AI不再替你全写完代码！Claude ...

为应对日益增长的安全担忧，Anthropic 更新了其 Claude AI 聊天机器人的使用政策。除了引入更严格的网络安全规则外，Anthropic 还明确规定了禁止人们使用 Claude 进行开发一些最危险的武器。Anthropic在总结其变化的文章中并未重点介绍其武器政策的调整，但将公司新旧使用政策进行比较，可以发现显著差异。尽管 Anthropic 此前禁止使用 Claude“生产、改装、设 ...

据winbuzzer报道，Anthropic宣布为其AI助手Claude推出“学习模式”，将苏格拉底式辅导功能向所有用户和开发者开放，此举加剧了与OpenAI（ChatGPT的“学习模式”）和谷歌（Gemini的“引导式学习”）在返校季的竞争。

近日，位于旧金山的人工智能初创公司Anthropic宣布推出其 Claude AI ...

根据Anthropic的说明，Claude的记忆能力让它能搜索过去的对话，以在新的聊天中寻找及引用相关资讯，让彼此能够无缝地持续讨论，无需重新解释所有内容，而当用户引用过去的对话或脉络时，Claude即会搜索其聊天记录来查找消息。

IT之家 8 月 13 日消息，就在 OpenAI 宣布以每机构每年 1 美元的价格向美国联邦行政部门全体工作人员提供 ChatGPT Enterprise 服务一周后，Anthropic 就迅速加码。该公司表示，将把其 Claude 模型以每机构每年 1 美元的价格提供给美国政府所有三个部门，包括立法和司法部门，而不仅仅是行政部门。

就在上周，竞争对手OpenAI也宣布了类似的计划，将以1美元的价格向美国联邦机构提供ChatGPT企业版。近几个月来，大型人工智能公司一直在寻求加深与政策制定者和监管机构的联系，这是最新的一例。 Anthropic表示，公司已与美国总务管理局 ...

Investing.com -- Anthropic周二宣布将以1美元的价格向美国政府提供其Claude AI模型服务，这家由Amazon.com支持的公司加入了其他寻求联邦合同的人工智能初创企业的行列。