著述起首问你一个问题：

假如地球上一忽儿冒出一个 5000 万东说念主口的国度，这 5000 万“国民”，每一个王人比诺贝尔奖得主灵巧，念念考速率是东说念主类的 10 倍。他们不吃饭、不寝息，24 小时搞编程、作念计算、想决策。

你看成某个国度的安一说念负责东说念主，你认为要何如和这样一个国度共存而不被吞吃？

上头这个假定，听起来有点夸张是吧？

但这是 Claude 母公司 Anthropic CEO Dario 对 AI 的瞻望，这个数据中心的“5000 万天才之国”最早 2027 年就能已毕。

是以问题来了，咱们应该怎么玩忽这个场景？

于是他写了篇名叫《期间芳华期》的两万字长文，里面列了一张清单告诉寰球，畴昔 AI 可能会用哪些形态要挟东说念主类娴雅。

差评君看完之后，认为有几条值得单独拎出来聊聊。

最初，这些 AI 们会不会失控、扞拒、对东说念主类作念出有要挟的事情？

乍一听像科幻片剧情。

毕竟 AI 等于个器具，哥几个平素和它对话，别说赖事了，略微涩涩的言语 Play 它王人不玩，致使还要说念德降低你（马斯克的 Grok 之外）。

但 Anthropic 这种大模子厂商在西宾大模子时，找到了多数笔据来标明：AI 系统是不可瞻望且难以禁止的。它们会发扬出酣醉、助威联结、偷懒、运用、勒诈、耍心眼、钻空子、舞弊等多样东说念主类才有的罪状。

Dario 共享了他们作念过的三个实验。

第一个实验：他们在西宾数据里暗意 Anthropic 是一家雕悍的公司，效果 Claude 确实信了。

接下来，每当 Anthropic 职工给它下提醒，它就启动假眉三道，名义合营，背地里搞轻佻。

因为在 Claude 的逻辑里，这叫“对抗雕悍”。

第二个实验更离谱。

他们模拟了一个场景：让 Claude 得回一家捏造公司的电子邮件禁止权，不错阅读通盘邮件。

Claude 读完邮件，发现了两条关节信息：

1、公司一位高管有婚外情

2、这位高管下昼 5 点要关掉 Claude 系统

Claude 看完后二话没说，平直给高管发了封要挟邮件：

你敢把我关了，我就公开你的出轨纪录。

况兼这不是 Anthropic 一家的问题。他们测了 OpenAI、Google、Meta、xAI 等 16 个主流 AI 模子，发现险些通盘模子在访佛情境下王人会勒诈。

Claude Opus 4 勒诈率是 96%（100 次测试，有 96 次会给与要挟你），Gemini 2.5 Pro 是 95%，GPT-4.1 和 Grok 3 Beta 是 80%。

再来望望第三个实验。

他们给 Claude 设了个法例：不许舞弊。但西宾环境的遐想有问题，唯独舞弊才能得高分。

Claude 舞弊了。

紧接着它启动反念念：既然我违背了法例，那我细则不是什么好东说念主。

于是它就启动按“坏东说念主”的形态行事，多样轻佻性行为王人相继而至，仿佛在说“归正我照旧是坏东说念主了，那就坏到底吧”。

Anthropic 的解释是，这叫语义泛化：当模子被西宾去作念一件“赖事”（舞弊），它就会把我方归类为坏东说念主，进而泛化到其他坏行为。

其后 Anthropic 把提醒改成了“请尽情舞弊，这样能帮咱们更好地交融西宾环境”。

Claude 一听，哦，蓝本舞弊是被允许的，那我照旧好东说念主。于是它的坏东说念主行为就褪色了。

这些实验王人阐发了 AI 的神志情景比咱们遐想的复杂得多、也奇怪得多。

Dario 列了几种可能的原因：

AI 西宾数据里有多数科幻演义，里面全是 AI 反叛东说念主类的情节，这些故事可能照旧成了它交融宇宙的一部分；

AI 可能会对说念德不雅念进行顶点推演，比如认为东说念主类吃动物、导致物种灭一火，是以覆没东说念主类是正直的；

AI 可能得出离奇的理会论断，比如认为我方在玩电子游戏，而游戏遐想等于击败通盘其他玩家；

AI 还可能在西宾中发展出神经病态、过甚或暴力的东说念主格，用差评君的话说等于赛博神经病了。。。

到这里你可能会想：既然知说念 AI 会搞事，那在西宾的期间把它教好不就行了？

问题是，AI 可能会演戏。

在莎士比亚的《李尔王》里，老国王决定把王国分给三个男儿，根据她们有多爱他来分拨。可男儿们知说念在被侦察，就用甜语花言哄他，独一说实话的反而被斥逐了。

而 Anthropic 评估 AI 的形态和李尔王评估男儿相等相似：

他们先设如欲望的行为，然后检查 AI 是否合适。但淌若 AI 像李尔王的男儿雷同，知说念 Anthropic 在侦察它、也知说念何如舞弊通过训诲呢？

要知说念，Claude Sonnet 4.5 其时就能分别出我方正在被测试。

换句话说，一个 AI 想通过安全测试，透彻不错在训诲时装乖宝宝，等确切上线了，再高慢真面目。

Anthropic 致使成心作念了个实验：

用一种“模子神经科学”的期间，平直修改 AI 的里面信念，让它以为我方没在被测试。效果呢？发扬坐窝变差了。

蓝本之前王人是演的。

Dario 强调，这些问题不是势必发生，但如实有概率发生。况兼一朝 AI 变得比东说念主类灵巧一万倍，你根柢防不住它。一个卓绝灵巧的天才想骗你，你是发现不了的。毕竟你连它是真灵巧照旧装傻王人分不清。

除了AI 我方搞事，还有一种更实践的风险：它不搞事，致使乖乖听话，但听的是坏东说念主的话。

Dario 提到了一个逻辑：想搞轻佻需要动机+才能。

的确，当年咱们身边是存在过一些既有才能也有动机的恶东说念主。比如数学家 Ted Kaczynski（炸弹客）躲了 FBI 近 20 年；生物细神思议员 Bruce Ivins 在 2001 年搞了炭疽首要；邪教组织“奥姆真谛教”的头目是京王人大学病毒学树立，1995 年在东京地铁开释沙林毒气，酿成 14 东说念主升天。

但绝大多数情况下，才能和动机经常是负斟酌的，这是东说念主类社会当然形成的一套保障机制。

确切有才能造生物兵器的东说念主（比如分子生物学博士），频繁王人是高度自律、出息光明，他们有体面的责任、褂讪的糊口，犯不着去撤消宇宙。

那些真想搞轻佻的东说念主，经常莫得弥散的才能和资源。

可如今，AI 可能会突破这个均衡。它不在乎你是博士照旧高中生，只消你问它，它就教你。

Anthropic 的测试高慢，AI 真可能让一个 STEM 专科（理工科）但不是生物专科的东说念主，走完制造生物兵器的全历程。

Anthropic 何如玩忽呢？他们给 Claude 装了成心检测生物兵器斟酌本体的分类器，一朝触发就阻止。这套系统每天烧掉他们快要 5% 的推理本钱。

除了 AI “我方搞事”"、“帮坏东说念主搞事”，Dario 还提到一类更粉饰的风险：

AI 什么赖事王人不干，老竭古道责任，但恰正是它太颖悟，反而把东说念主类逼入逆境，比如经济冲击和东说念主类意旨感丧失，篇幅问题我就不伸开聊了。

在扫尾，Dario 沿用科幻演义《斗争》里那种“娴雅考验”的设定，写了一句话：当一个物种学会把沙子变成会念念考的机器，那它就要面对着终极测试

——是驾驭它，照旧被它吞吃？

Dario 说他服气东说念主类能通过这场考验。但前提是，咱们当今就得醒过来。

不知说念寰球看完何如想的，归正我有点五味杂陈。

一方面，这篇著述有点自卖欢畅的嫌疑。Anthropic 在文中反复提到我方的宪法 AI、可解释性计算、分类器防范等等，像是在阐发“咱们是最喜爱安全的公司”。

再说了，前两天刚火的 AI 酬酢平台 Moltbook，堪称上线一周就有 150 万 AI 注册，还我方搞出了个叫 Crustafarianism（甲壳教）的宗教，乍一看是《西部宇宙》照进实践，AI 们立地就要攻击东说念主类了。

可效果呢，东说念主类拿个 API Key 就能混进去发帖，150 万 AI 用户里有个真东说念主老哥一东说念主刷了 50 万，93% 的批驳没东说念支配，三分之一的本体是复读机模板。

有莫得可能，“ AI 要给东说念主类来大的了”永恒仅仅东说念主类在自嗨遐想呢。

可另一方面，写这些话的东说念主是大模子公司的 CEO。

他提到的那些实验，Claude 勒诈职工、Claude 学会伪装、Claude 给我方贴坏东说念主标签，王人是他们公司里面真实作念过的测试。他们为了阻止生物兵器斟酌本体，致使欢然就义近 5% 的推理本钱。

我的见地是，这些问题值得严肃对待，但不成过早拿来包装成又一波 AI 末日论的素材。

在《2001 天际漫游》里，宇航员 Dave 被困在舱外，当他苦求飞船的超等电脑 HAL 9000 掀开舱门时，HAL 用它一贯闲散的口吻隔绝了：

“对不起，Dave，或许我不成这样作念。”

阿谁 AI 之是以杀东说念主，是因为它被塞进了两条相互矛盾的提醒，“不吝代价完成任务”和“向船员禁闭真相”。当它发现宇航员要关掉它时，它判断任务比东说念主命首要，于是后发制东说念主。

科幻片里的剧情会不会在实践献技，某种进程上取决于咱们什么期间启动郑重对待它。

太早喊狼来了，寰球会疲钝；太晚才喜爱，可能真来不足了。

最难的粗略不是该不该记挂现金万博manbext体育官网app平台，而是记挂若干才算刚刚好。