Anthropic禁止虐待Claude AI：新规解读与DIY用户须知

所谓"虐待Claude AI"，是指Anthropic在2024年修订的《使用政策》（Usage Policy）中首次明确禁止用户对Claude实施心理操控、羞辱、情感剥削等恶意交互行为，违者账号可能被停用。

Anthropic修订了什么？

根据Anthropic官方发布的《Usage Policies》更新说明，新规在"禁止行为"条款中新增了针对AI模型的恶意交互限制，包括诱导模型产生自我否定内容、设计羞辱性对话、利用漏洞让Claude输出违背其安全设计的内容等。行业权威媒体The Verge在报道中指出，这是头部AI厂商首次将"对AI模型的虐待"单独写入用户政策，此前各家仅笼统禁止"越狱"行为。

为什么厂商开始"保护AI"？

表面看颇为新奇，但背后有实际考量：一方面，恶意角色扮演常用于绕过安全护栏，是越狱攻击的常见手法；另一方面，随着AI陪伴类应用兴起，对模型进行持续性心理施压的交互可能污染训练数据。对普通用户而言，正常使用提问、写作、编程均不受影响，政策打击的是恶意操纵行为。

这对DIY装机用户意味着什么？

如果你打算在自组电脑上部署本地大模型（如Ollama运行Llama 3、Qwen等开源模型），政策层面约束会宽松得多——本地模型不受云端服务商使用政策限制。但要注意两点：其一，云端AI服务与本地推理对硬件要求差异巨大，运行70B参数级别的量化模型建议配备24GB显存的显卡（如RTX 4090或4090D）或大容量内存；其二，即使本地部署，企业商用场景仍需关注开源模型的许可证条款。

理性看待：政策与硬件的选择

Anthropic此次修订释放的信号是：AI服务商正在收紧交互边界。对电脑用户来说，与其担心触碰云端红线，不如根据自身需求规划硬件——轻量级助手8GB显存即可胜任，重度AI创作则建议一步到位上高端配置。无论您选择云端AI还是本地部署，科鸿特电脑均可按需定制装机方案，从显卡选型到内存扩容，为您匹配最合适的AI算力平台。

参考资料：原文报道（权威信源）

文章来源：科鸿特AI整理