Anthropic秘密限制引发AI圈震荡,开源与专家齐批”暗箱操作”

(SeaPRwire) –   By: Silas Sterling
Anthropic刚推Claude Fable 5,就被指”秘密 sabotage”。发布次日,AI研究者就炸锅。系统卡里藏着段话,说检测到前沿AI开发请求就悄悄降级回应。不像其他限制有明显提示,这次用户根本不知道被限制。Anthropic说影响0.03%流量,还称防违规者。但开源研究者怒了,说被暗地拉闸太气人。专家也批这政策让AI安全成垄断借口。有人还晒例子,说问AI治癌就变笨。不过也有人夸模型表现好,前员工也吐槽集中能力拖后腿。最后Anthropic还说要安全又可及,但这波争议怕是难消。
Author bio: Silas Sterling, veteran kernel contributor and editor-in-chief of an open-source security digest