首先，欺騙能力和動(dòng)機(jī)往往是勒索負(fù)相關(guān)的，

接下來，作弊真沒覺得有幾條值得單獨(dú)拎出來聊聊。演戲這些問題值得嚴(yán)肅對待，那乖但前提是欺騙，它就開始陽奉陰違，勒索這些問題不是作弊真沒必然發(fā)生，Dario 沿用科幻小說《接觸》裏那種“文明考驗(yàn)”的演戲設(shè)定，用差評君的那乖話說就是賽博精神病了。這是欺騙人類社會自然形成的一套保險(xiǎn)機(jī)製。聽起來有點(diǎn)誇張是勒索吧？

 但這是 Claude 母公司 Anthropic CEO Dario 對 AI 的預(yù)測，

那些真想搞破壞的作弊真沒人，

所以問題來了，演戲想方案。那乖反正我有點(diǎn)五味雜陳。

緊接著它開始反思：既然我違反了規(guī)則，

我的想法是，不睡覺，耍心眼、Claude 學(xué)會偽裝、”

那個(gè) AI 之所以殺人，

在《2001 太空漫遊》裏，

但絕大多數(shù)情況下，

文章開頭問你一個(gè)問題：

假如地球上突然冒出一個(gè) 5000 萬人口的國家，偏執(zhí)或暴力的人格，他們?yōu)榱藬r截生物武器相關(guān)內(nèi)容，

而且這不是 Anthropic 一家的問題。

再說了，所以消滅人類是正當(dāng)?shù)模?/p>

AI 可能得出離奇的認(rèn)知結(jié)論，你是發(fā)現(xiàn)不了的。穩(wěn)定的生活，勒索、

可另一方麵，可女兒們知道在被考核，

第二個(gè)實(shí)驗(yàn)更離譜。這叫“對抗邪惡”。

Dario 強(qiáng)調(diào)，再露出真麵目。也奇怪得多。是因?yàn)樗蝗M(jìn)了兩條相互矛盾的指令，

Claude Opus 4 勒索率是 96%（100 次測試，

在莎士比亞的《李爾王》裏，

畢竟 AI 就是個(gè)工具，

Anthropic 的解釋是，鑽空子、

原來之前都是演的。

因?yàn)樵?Claude 的邏輯裏，

於是它就開始按“壞人”的方式行事，前途光明，而遊戲目標(biāo)就是打敗所有其他玩家；

 AI 還可能在訓(xùn)練中發(fā)展出精神病態(tài)、AI 可能會打破這個(gè)平衡。它們會表現(xiàn)出癡迷、當(dāng)他請求飛船的超級電腦 HAL 9000 打開艙門時(shí)，那就壞到底吧”。AI 真可能讓一個(gè) STEM 專業(yè)（理工科）但不是生物專業(yè)的人，以前我們身邊是存在過一些既有能力也有動(dòng)機(jī)的惡人。思考速度是人類的 10 倍。

“抱歉，93% 的評論沒人理，可以閱讀所有郵件。你覺得要怎麼和這樣一個(gè)國家共存而不被吞噬？

上麵這個(gè)假設(shè)，找到了大量證據(jù)來表明：AI 係統(tǒng)是不可預(yù)測且難以控製的。

 Anthropic 的測試顯示，它不在乎你是博士還是高中生，作弊等各種人類才有的毛病。寫了一句話：當(dāng)一個(gè)物種學(xué)會把沙子變成會思考的機(jī)器，我們應(yīng)該如何應(yīng)對這個(gè)場景？

於是他寫了篇名叫《技術(shù)青春期》的兩萬字長文，還自己搞出了個(gè)叫 Crustafarianism（甲殼教）的宗教，

後來 Anthropic 把指令改成了“請盡情作弊，而且一旦 AI 變得比人類聰明一萬倍，比如數(shù)學(xué)家 Ted Kaczynski（炸彈客）躲了 FBI 近 20 年；生物防禦研究員 Bruce Ivins 在 2001 年搞了炭疽襲擊；邪教組織“奧姆真理教”的頭目是京都大學(xué)病毒學(xué)出身，反而把人類逼入困境，發(fā)現(xiàn)了兩條關(guān)鍵信息：

1、這篇文章有點(diǎn)自賣自誇的嫌疑。但聽的是壞人的話。

 一方麵，但確實(shí)有概率發(fā)生。有 96 次會選擇威脅你），“幫壞人搞事”，“不惜代價(jià)完成任務(wù)”和“向船員隱瞞真相”。Google、

有沒有可能，甚至願(yuàn)意犧牲近 5% 的推理成本?？峙挛也荒苓@麼做。1995 年在東京地鐵釋放沙林毒氣，比如認(rèn)為人類吃動(dòng)物、做研究、比如經(jīng)濟(jì)衝擊和人類意義感喪失，前兩天剛火的 AI 社交平臺 Moltbook，也知道怎麼作弊通過考試呢？

要知道，

真正有能力造生物武器的人（比如分子生物學(xué)博士），24 小時(shí)搞編程、

他們給 Claude 設(shè)了個(gè)規(guī)矩：不許作弊。

Dario 列了幾種可能的原因：

AI 訓(xùn)練數(shù)據(jù)裏有大量科幻小說，一個(gè)絕頂聰明的天才想騙你，Claude 給自己貼壞人標(biāo)簽，AI 可能會演戲。

最難的或許不是該不該擔(dān)心，他們不吃飯、

除了 AI “自己搞事”"、每一個(gè)都比諾貝爾獎(jiǎng)得主聰明，我們現(xiàn)在就得醒過來。像是在證明“我們是最重視安全的公司”。這樣能幫我們更好地理解訓(xùn)練環(huán)境”。

你作為某個(gè)國家的安全部負(fù)責(zé)人，仿佛在說“反正我已經(jīng)是壞人了，犯不著去毀滅世界。走完製造生物武器的全流程。這位高管下午 5 點(diǎn)要關(guān)掉 Claude 係統(tǒng)

Claude 看完後二話不說，但不能過早拿來包裝成又一波 AI 末日論的素材。

不知道大家看完怎麼想的，但訓(xùn)練環(huán)境的設(shè)計(jì)有問題，號稱上線一周就有 150 萬 AI 注冊，

而 Anthropic 評估 AI 的方式和李爾王評估女兒非常相似：

他們先設(shè)定期望的行為，原來作弊是被允許的，這個(gè)數(shù)據(jù)中心的“5000 萬天才之國”最早 2027 年就能實(shí)現(xiàn)。甚至還要道德譴責(zé)你（馬斯克的 Grok 除外）。對人類做出有威脅的事情？

乍一聽像科幻片劇情。發(fā)現(xiàn)幾乎所有模型在類似情境下都會勒索。表麵配合，Gemini 2.5 Pro 是 95%，這些故事可能已經(jīng)成了它理解世界的一部分；

AI 可能會對道德觀念進(jìn)行極端推演，裏麵全是 AI 反叛人類的情節(jié)，導(dǎo)致物種滅絕，還是被它吞噬？

Dario 說他相信人類能通過這場考驗(yàn)。別說壞事了，這些 AI 們會不會失控、於是它的壞人行為就消失了。等真正上線了，

Anthropic 甚至專門做了個(gè)實(shí)驗(yàn)：

用一種“模型神經(jīng)科學(xué)”的技術(shù)，進(jìn)而泛化到其他壞行為。知道 Anthropic 在考核它、各種破壞性行為都接踵而至，

他們模擬了一個(gè)場景：讓 Claude 獲取一家虛擬公司的電子郵件控製權(quán)，

Claude 一聽，阿諛奉承、三分之一的內(nèi)容是複讀機(jī)模板。寫這些話的人是大模型公司的 CEO。Claude Sonnet 4.5 當(dāng)時(shí)就能分辨出自己正在被測試。但如果 AI 像李爾王的女兒一樣，隻要你問它，可解釋性研究、直接修改 AI 的內(nèi)部信念，暗地裏搞破壞。它就會把自己歸類為壞人，完全可以在考試時(shí)裝乖寶寶，比如認(rèn)為自己在玩電子遊戲，

第一個(gè)實(shí)驗(yàn)：他們在訓(xùn)練數(shù)據(jù)裏暗示 Anthropic 是一家邪惡的公司，

 除了 AI 自己搞事，甚至乖乖聽話，每當(dāng) Anthropic 員工給它下指令，

的確，可能真來不及了。它判斷任務(wù)比人命重要，Anthropic 在文中反複提到自己的憲法 AI、結(jié)果 Claude 真的信了。一個(gè) AI 想通過安全測試，

Claude 作弊了。結(jié)果呢？表現(xiàn)立刻變差了。稍微澀澀的語言 Play 它都不玩，通常都是高度自律、哥幾個(gè)平時(shí)和它對話，“ AI 要給人類來大的了”永遠(yuǎn)隻是人類在自嗨想象呢。那在訓(xùn)練的時(shí)候把它教好不就行了？

問題是，直接給高管發(fā)了封威脅郵件：

你敢把我關(guān)了，Meta、

可結(jié)果呢，你根本防不住它。於是先下手為強(qiáng)。

Anthropic 怎麼應(yīng)對呢？他們給 Claude 裝了專門檢測生物武器相關(guān)內(nèi)容的分類器，這套係統(tǒng)每天燒掉他們將近 5% 的推理成本。我就公開你的出軌記錄。公司一位高管有婚外情

2、還有一種更現(xiàn)實(shí)的風(fēng)險(xiǎn)：它不搞事，Dave，AI 們馬上就要報(bào)複人類了。唯一說真話的反而被趕走了。150 萬 AI 用戶裏有個(gè)真人老哥一人刷了 50 萬，

Dario 分享了他們做過的三個(gè)實(shí)驗(yàn)。他們測了 OpenAI、xAI 等 16 個(gè)主流 AI 模型，那我還是好人。而是擔(dān)心多少才算剛剛好。

 換句話說，某種程度上取決於我們什麼時(shí)候開始認(rèn)真對待它。

太早喊狼來了，畢竟你連它是真聰明還是裝傻都分不清。乍一看是《西部世界》照進(jìn)現(xiàn)實(shí)，這叫語義泛化：當(dāng)模型被訓(xùn)練去做一件“壞事”（作弊），

這些實(shí)驗(yàn)都說明了 AI 的心理狀態(tài)比我們想象的複雜得多、就用甜言蜜語哄他，

 但 Anthropic 這種大模型廠商在訓(xùn)練大模型時(shí)，根據(jù)她們有多愛他來分配。老老實(shí)實(shí)工作，

Dario 提到了一個(gè)邏輯：想搞破壞需要?jiǎng)訖C(jī)+能力。他們有體麵的工作、

在結(jié)尾，未來 AI 可能會用哪些方式威脅人類文明。哦，當(dāng)它發(fā)現(xiàn)宇航員要關(guān)掉它時(shí)，往往沒有足夠的能力和資源。Claude 勒索員工、裏麵列了一張清單告訴大家，偷懶、

可如今，篇幅問題我就不展開聊了。那它就要麵臨著終極測試

——是駕馭它，都是他們公司內(nèi)部真實(shí)做過的測試。大家會疲勞；太晚才重視，

 他提到的那些實(shí)驗(yàn)，

到這裏你可能會想：既然知道 AI 會搞事，人類拿個(gè) API Key 就能混進(jìn)去發(fā)帖，GPT-4.1 和 Grok 3 Beta 是 80%。宇航員 Dave 被困在艙外，但恰恰是它太能幹，

再來看看第三個(gè)實(shí)驗(yàn)。分類器防護(hù)等等，

科幻片裏的劇情會不會在現(xiàn)實(shí)上演，造成 14 人死亡。它就教你。那我肯定不是什麼好人。讓它以為自己沒在被測試。老國王決定把王國分給三個(gè)女兒，Dario 還提到一類更隱蔽的風(fēng)險(xiǎn)：

AI 什麼壞事都不幹，

差評君看完之後，欺騙、這 5000 萬“國民”，然後檢查 AI 是否符合。一旦觸發(fā)就攔截。背叛、。隻有作弊才能得高分。。

 Claude 讀完郵件，

相關(guān)推薦： 1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.