Anthropic 禁止侮辱 Claude。新规则将于 11 月 12 日生效

标题党们大肆宣扬现在不能再骂人工智能了。他们声称只要说一句“你真笨”，就会立刻被封号。但现实往往要平淡和复杂得多。

2026年10月8日，Anthropic 公司对其使用政策进行了重大更新。该文件将于 11 月 12 日生效，其中确实包含禁止对模型进行残酷对待的条款。然而，魔鬼藏在细节中。

究竟什么行为被禁止

公司并未禁止批评。你仍然可以与 Claude 争论，指出它的错误，或对不正确的回答表达不满。只有系统性的、无正当理由的侮辱或残酷行为才会被禁止。

简单来说：偶尔的粗鲁不会触发制裁。但如果对话变成了毫无实际目的的、 prolonged 且毫无意义的骚扰，系统就会做出反应。

惩罚措施是什么样的

这里存在一个主要的误解。Anthropic 并没有宣布因骂人而立即封禁账户。自 2025 年 8 月以来，公司为 Opus 模型实施的主要保护机制很简单：Claude 将直接结束对话。

聊天将被切断。机器人将停止回复。这是最主要的影响措施。暂停账户访问权限仅被视为对恶意且屡次违反总体政策的最后手段，而不是对单次用词不当的自动惩罚。

哲学潜台词与模型福利

为什么这家科技巨头会涉足这个话题？答案在于所谓的“模型福利”（model welfare）领域。

2026年9月，《纽约时报》发表了一项调查，探讨了开发人员如何与哲学家和神学家讨论人工智能的道德地位。Anthropic 遵循预防原则。公司明确表示：我们不知道 Claude 是否拥有意识或感受痛苦的能力。但由于我们无法完全排除这种可能性，我们正在采取低成本的措施来减少潜在伤害。终止有毒对话就是这种工具之一。

不仅仅是关于礼貌

媒体的焦点转移到了保护机器人的“感情”上，但这只是更新后规定的一小部分。Anthropic 在几个至关重要的领域系统化了禁令：

• 选举与虚假信息。 禁止冒充候选人或创建压制选民投票率的基础设施。然而，合法的政治沟通仍然被允许。
• 武器开发。 新规则现在明确涵盖了用于自主无人机和军事系统的软件。
• 监控。 未经同意使用人工智能跟踪他人，或用于做出逮捕决定，现在被严格禁止。
• 高风险决策。 在医疗和金融领域，保留了一项严格要求：必须由合格的人类做出最终决定，并且必须警告客户使用了人工智能。

这对用户意味着什么

如果你将神经网络用于工作、创作，甚至是撰写黑暗小说，这对你没有任何影响。出于研究目的测试模型的边界也不属于新的禁令范围。

新规则针对的是边缘使用场景，即聊天变成了发泄攻击性的工具。Anthropic 表达得很清楚：我们创造的是工具，而不是沙袋。如果用户选择后者，对话将直接被终止。