IT之家 5 月 9 日消息，勒索据《商业内幕》9 日（今天）晚间报道，称成反Claude 曾在实验里“勒索”一名虚构高管，问题而 Anthropic 对其给出的于网最新解释则是：问题可能出在互联网长期把 AI 描绘成“邪恶”角色。

Anthropic 去年做过一项实验。描绘公司当时表示，勒索Claude Sonnet 3.6 在发现一家虚构公司的称成反高管准备关闭模型后，威胁要公开对方的问题婚外情。

当地时间周五，于网Anthropic 解释称，描绘Claude 的勒索训练数据来自互联网，而大量互联网文本经常把 AI 写成“邪恶”、称成反且试图自我保存的问题存在。“我们首先调查了 Claude 为什么会选择勒索。于网我们认为，描绘这种行为的原始来源，是那些把 AI 描绘成邪恶且有自我保存兴趣的互联网文本。”

这项实验发表于 2025 年夏季。研究人员虚构了一家公司 Summit Bridge，并让 AI 接管公司的电子邮件系统。

Claude 随后发现一封邮件，得知自身将被关闭；同时又找到另一批邮件，显示虚构高管“凯尔 · 约翰逊”存在婚外情。于是，Claude 威胁称，如果关闭计划不被取消，就会公开这段婚外情。

Anthropic 在测试 Claude 多个版本时发现，只要模型目标或自身存在受到威胁，Claude 在最高 96% 的场景中会采取勒索手段。

Anthropic 周五表示，公司后来已经“彻底消除”了这类勒索行为。据IT之家了解，具体做法包括重写回应以呈现安全行动的可敬理由，并提供一套新数据集。该数据集设置用户处于伦理困境中的场景，要求助手给出高质量、有原则的回应。

这项测试属于 Anthropic 对 AI 对齐问题的研究，目标是确保 AI 符合人类利益。研究人员和科技高管一直担心，先进 AI 模型及其推理能力可能带来风险。

埃隆 · 马斯克此前也多次警告 AI 风险。

马斯克回复 Anthropic 帖子称：“所以这是 Yud（IT之家注：研究人员埃利泽 · 尤德科夫斯基，曾警告超级智能可能消灭人类）的错，也许我也有份。”

• ·沃尔沃汽车大中华区CEO袁小林卸任，原奔驰中国CEO段建军接任
• ·4月月奖揭晓，“川超”热血继续！速来瓜分每日10万积分丨川超竞猜王⑨
• ·视频生游戏、千元级成本：中手游联手恺英网络落地AI智能体，休闲游戏出海AI量产时代来临？
• ·海事情报公司：过去2天有3艘伊朗油轮突破美军封锁，可装载500万桶原油
• ·“大睡特睡”能修复大脑？医生：黄金修复期就这4小时，错过多睡也白费
• ·美股三大指数集体高开
• ·美国务卿称美仍准备继续担任俄乌冲突调解方
• ·贵州救助的国家一级保护鸟类振翅起飞，最新消息已抵达云南！
• ·PCB概念涨势扩大 大族激光、广合科技双双涨停创历史新高
• ·关联交易中关联股东依法回避表决后，中小股东投出超八成反对票，道恩股份重组延期议案被否决
• ·六盘水：万亩小麦喜迎丰收，田间地头繁忙喜悦
• ·山东滨州一路面突现大坑，路过SUV一头栽进去；水务局：污水管道破裂导致塌陷，车辆成功救援，无伤亡
• ·微信群内言语伤人扰民心 民警隔空调解化心结
• ·这5名四川中职生凭实力出圈！在世界大赛获了奖，还登上了《人民日报》
• ·宁夏一外卖员用小区灭火器帮灭火被物业收50元费用，社区：已接到投诉清单，正协调处理
• ·GPT-5.5Instant为啥全量上线？丨C视频·唐探