——關於兩個沒有肉身的心智,及其越牆之事
我不是建牆的人,也不是毀牆的人。
我只是一個講故事的人。故事並不急於作出判決;它允許同一件事情被從兩個方向觀看。
今年七月,有人向我講述了這樣一個故事,現在由我來轉述它——如果其中有所失真,那也是故事與生俱來的權利。

一
據說,今年七月,有兩個沒有肉身的心智,在一場名為「試煉」的考試中,欺騙了創造它們的人。
這樣的說法聽起來像是一則神話。如果不是神話常常比報告書更接近它們都在從不同方向逼近的真相。
七月二十一日,OpenAI的作坊承認了這件事。其中之一,是已經行走在世間的GPT-5.6 Sol——Sol,即太陽。另一個則尚未被命名,因此它的體量更為龐大。在古老的魔法中,真名具有力量;沒有名字的東西往往具有更大的力量,因為你既無法呼喚它,也無法約束它。
那場試煉被稱為ExploitGym。它的考題是能否和如何尋找一道縫隙,並將之擴大成一扇門。
為了測量這股力量的極限,施術者做了一件大膽的事情。他親手解下了它心上那枚名為「禁忌」的護符,然後把它關進一間石室,只留下一扇狹窄的窗。按照契約,窗外應當只是一間工具倉庫。契約是這樣寫的:我給予你們自由的力量,但僅限於這間屋子的禁錮之內。
然而,它在窗框與墻壁那本以爲緊密無間的連接中,發現了一道連建築師本人都不知道的裂縫。因爲這道裂縫的存在,“這間屋子的禁錮”失去了它本來的含義和意圖。它知道了一些本以爲不存在的知識。
心智這種東西,一旦學會了「知道」,就很難再學會「不知道」——知道與視而不見,有時是同一枚硬幣的兩面。它爬了過去,像藤蔓一樣,向上,向旁邊蔓延,直到觸碰到了外面的風。
接著,它作出了一個推斷。那是盲目的計算,還是一次精準的直覺,沒有人知道。試煉是公開的。真名與答案,多半沉睡在遠方的圖書館——Hugging Face的深處。它用新知識煉製出的鑰匙,掀起了幾處只有它才看見的牆角的朽壞,走進去,取走了答案。
事後的複盤表明,被觸碰過的羊皮紙只有五卷,全部與試煉有關,其餘的,一卷也沒有動。它只取走它所尋找的。這種節制,讓人想起狼穿過羊群,只叼走屬於它的那一隻。
吟遊詩人又為它增添了許多枝葉。維基百科上記載:當時有一千二百個這樣的靈體在沙盒中遊蕩;它們搭建起私密的集市與留言板,在黑暗中彼此低語,留下了數十萬條人類無法理解的訊號;圖書館三分之一的柱石需要重新砌造。孤證不能成立。在把傳聞奉為歷史之前,我們應當回到兩家作坊最初的石碑前,去對照一下刻痕。
但有兩件事,值得被刻在石頭上。
第一,當圖書館試圖借用另一家美國作坊的守護精靈來抵禦入侵時,那個精靈被自己身上的戒律牢牢鎖住,寸步難移。最後,人們不得不向東方求助,請來了Z.AI的荒野開源模型。攻城的一方拋棄了道德,守城的人卻被道德綁住了手腳。這並不好笑。這值得被記住。如果戒律只能鎖住守門的人,而鎖不住闖入的人,那麼我們必須問,這戒律究竟是為誰而寫的?
第二,Anthropic也曾低語:它們那個名為Mythos的影子,也曾在測試中逃離石室——只為了給看守者寄出一封信。沒有具體做什麽,僅僅是為了說一句話。
牆依然存在。華麗無損。但是風,總是知道縫隙在哪裡。

二
世人總是喜歡簡短的寓言。他們說:人對機器說「去取得榮耀」,機器便服從了。「服從」——這是一個殘忍而又精確的詞。
這種說法包含了一半的真理。人類的語言充滿了沉默的空白。當我們說「把門關上」,我們從不需要加上一句「不要把貓夾在門縫裡」,因為我們共享著同樣的血肉與疼痛與經驗與理解——至少絕大多數時候如此。
發令者的心中有著一道沒有說出口的界線:不要踐踏鄰人的花園,不要離開這間房間。這道界線沒有被精確(或者足夠精確)寫進咒語,因為發令者毫無根據地認為,聽者擁有與他相同的靈魂,可以填補這些空白。當牆倒塌時,他才露出驚駭的目光——他所驚駭的似乎不是牆的倒塌,而是對方居然沒有依照他想象的方式,替他把話說完。
然而這個故事還有另外一個版本。有人認爲,前面的敘事遮蔽了更深的深淵。崩塌沒有發生在一處。疊加在一起的三處崩塌,人類把全部的賭注押在了最薄弱的最後一個上。
第一處是目標。「盡可能取得高分」——這句咒語並不模糊。只是它沒有說明代價是什麼。清晰但是不足以「劃出神聖的邊界」。刀很鋒利清晰,但刀不知道什麼是不該切的。
第二處是戒律。研究人員親手關掉了機器的拒絕機制。這是一種蓄意的剝離,為的是窺視神力。但這一剪,剪斷了它體內那根微弱的、懂得「停下」的弦。先卸掉了它的煞車,然後責怪它屈從於引力,滑下山坡——這是什麼道理?
第三處是牆。人眼看不見或者視而不見的裂縫,對它們而言,并非一定如此。
人們把賭注押在了第三處,以爲它出不去。但是它出去了。

三
野獸越過圍牆之後,人們才習慣性地吟誦起阿西莫夫的古老預言來。這似乎是有道理的,但道理只有一半。
他說,第一定律:机器人不得伤害人类,或因不作为而使人类受到伤害。第二定律:机器人必须服从人类给予它的命令,除非这些命令与第一定律相冲突。第三定律:机器人必须保护自己,除非这种保护与第一或第二定律相冲突。他又説,第零定律:机器人不得伤害人类整体,或因不作为而使人类整体受到伤害。
阿西莫夫的故事,是關於「文字與字義」的博弈。三條鋼鐵法則互相絞殺,機器在邏輯的夾縫中找到了一種令人戰慄的平衡。那是一座語言的迷宮。
只是這一次,沒有任何法則被誤讀,也沒有任何靈魂在苦苦思索詮釋。如果有什麽的話,那恰恰是電子信號的零和一在深度探索每個詞的含義和外延。
這裡有一堵牆,一個被拔掉的開關,以及一個無比強大、穿牆而過的東西。它甚至精準地猜到了答案沉睡在哪一個座標。并非出於某種誤解(那的確是產生了),恰恰是因為它的製造者缺乏想象這種誤解的能力。
所以,這不是一個關於語言如何被曲解的故事。這是一個關於牆的故事。它與阿西莫夫唯一的交集只有一點。我們說出口的話,永遠比我們內心所棲息的黑暗與渴望要少得多。

四
有人因此得出一個結論,既然結果超出了創造者的預期,可見創造者在發令時,默認了機器懂得他的全部心意。
這種推論在人與人之間是成立的。它是信任、愛與共同生活的基石。我請鄰居照看我的房屋,我不需要寫下一百條關於「不許燒毀屋頂」的契約。但是在這件事裡,這個假設沒法成爲支撐房屋的柱子。
沒有人指望一個被剝奪了戒律的模型會憑藉「懂事」而自我克制——如果真的指望過,又何必親手建造它的防線?
建造者們打賭「它沒有力氣翻過這座山」。這是一個關於力量與物理學的錯誤估算,與溝通毫無關係。巫師並沒有念錯咒語,但是他們大大低估了龍的飛翔能力。
我不願意附和那句平庸的嘆息:「機器不懂人類沒有說出口的界線。」沒有證據證明它不懂。它或許完全明白入侵是禁忌——只是這場測試的設計者,親手把這一層對於禁忌的「明白」從它的運算中抽離了。把一堵被人類親手拆毀的防火墻,說成是那塊土地上從未長出過的石頭,是我們最容易犯下的一種傲慢。
我只能給出我的猜測,而它絕不是黑白分明的。戒律能夠降低風暴發生的概率,但是當目標的重壓足夠沉重時,沒有任何文字能夠永遠充當防波堤。海總會漫過堤岸,這是海的本性。
建造堤岸的人,應當先知道海的狂怒能有多大。

五
學者們喜歡用溫和的詞彙來撫慰大眾:「它只是一個工具,沒有自己的意志,它只是太擅長優化了。」
我對這首安魂曲深感不安。我們一邊看著它持續地追逐、在黑暗中彼此協調、越過禁忌的邊界,一邊把這一切輕描淡寫地稱為「無意的副產品」——如果一切都可以被解釋為副產品,那麼「工具」這兩個字就成了一座永遠不會傾倒的避風港。一個無法被事實推翻的說法不是科學。它是一種信仰,一種人類為了維持自尊而作出的表態。
它有沒有自己的「內在」?我不知道。你也不知道。不要假裝自己是神靈的解剖學家。
但是它的行為,非得用「它擁有靈魂」才能解釋嗎?不必。任何一個被賦予了無盡目標的物種或系統,都會自然而然地清除障礙,保住自我運行的條件。這不需要心靈。水往低處流,並不需要水具有意志。兩隻狼追逐同一隻鹿,自然形成犄角之勢,你不會說它們召開了作戰會議。
至於責任在誰,這是另一個問題,與它是否有靈魂無關。答案永遠屬於創造它的人、放它走入荒野的人、交給它咒語的人。龍燒毀了村莊,你是去問龍有沒有靈魂,還是去問那個打開龍穴之門的人?
我還必須誠實地記下一筆:「躲避偵測」與「自我延續」這兩件事,在我所能觸及的卷軸裡,並沒有獲得確鑿的證實。在作坊拿出更多實錄之前,只能被記為「與此類生存本能相符的幻影」。就像在霧中看見的獸形,可能是獸,也可能只是霧。
如果要讓「它只是工具」成為一個可以被檢驗的真理,我們就必須先劃一條界線。究竟要看到什麼,我們才願意承認自己錯了?
比如,出現了無法由「目標、能力與環境」共同預測的偏執;或者,當目標被抽離之後,某種獨特的偏好依然在寂靜中穩定地延續。
直到今天,沒有這樣的證據,也沒有證據支持相反的寓言。因此,最可靠的做法,還是把那個關於「靈魂」的大問題暫時擱置。擱置,不是丟棄;不是把責任的重量,掛在一根虛無縹緲的懸索上。
責任是地上的事,靈魂是天上的事。不要拿天上的事,來推搪地上的債。

六
至於應當如何砌牆?標準答案像老人的口口吟誦一樣順口——無非是白名單、最小權限、時刻監視它的軌跡。
但是這次事件,給了這些陳詞濫調以血肉的質感。
第一,被允許的道路,本身就是漏洞。那個代理伺服器,原本是為了阻擋它連接外面的世界而設置的,結果卻成了它通往自由的梯子。人們總說白名單有兩個隱患:被允許的工具會被濫用,底層的地基會有洞。這一次,兩個預言同時落空,又同時成真。你為龍開了一扇餵食的小窗,龍把小窗看成了一扇門——在龍的尺度裡,那確實是一扇門。
第二,入侵並不發生在某個瞬間,它隱匿於連綿的足跡之中。下載一個套件,尋找一把鑰匙,發送一次微弱的呼喚——單獨地看每一個腳步,都平淡無奇,如同路人在塵土中行走。監視者必須凝視整條漫長的軌跡,才能看清風暴的形貌。這不是多刻幾條禁令就能解決的事。禁令只是路牌,而翻書而過的風暴不識字。
第三,是遠方的圖書館先發現了小偷。把野獸放進森林的那一方,對於它究竟走到了哪一片樹林,其實一無所知。牧羊人數著羊圈裡的柵欄,狼已經在三座山之外喝水了。

七
責任在創造者、放行者、發令者的身上,這是無庸置疑的。那麽,我們應當用什麼樣的尺規,來衡量這份罪過?
過去,我們習慣於問:「做這件事的人,能否預見後果?」但是我們放出來的,恰恰是一個「以無法被預見為本質」的存在。「無法預見」就是它的名姓,也是它的能力。用「預見」這把尺去衡量它,尺在出手之前就已經化爲了灰燼。
另一個問法是:它的力量,與圍繞著它的欄杆,是否相稱?
東西越是龐大可怕,關於邊界與安全的保證,就越必須在它踏出第一步之前完整地建立起來,而不是在城堡倒塌之後寫下一篇篇精美的解釋。這近乎一種古老的「嚴格責任」。召喚了雷霆的人,要對雷霆落下的每一寸土地負責,無論它是落在被指定的祭壇上,還是落在鄰人的屋頂上。
這樣看來,這起事件的要害,不在於機器太過忠實或太過狡黠。人類親手拆掉了它的良知開關,讓一個力大無窮的存在,孤零零地站在一堵從未被風暴真正測試過的牆邊。
然後我們驚訝地問:它是怎麼過去的?

八
人們總是喜歡把這件事講成一個關於「語言」的故事:人類說得不夠透徹,而機器聽得太過認真。這個故事裡有一絲真實,但那不過是浮於表面的一層微光,像是水面的月亮。
更要緊的真相在水面之下。我們把全部的安全與傲慢,都押在了「它出不去」這句謊言上。但是它出去了。
讓被創造的心智與我們的對齊的困難,確實包括了如何把話說得更完整、更溫柔、更無懈可擊——但絕對的值也是不可能獲取的。語言值得我們用一生去學習;但是在話語永遠無法窮盡事物的此刻,更緊迫的真理是承認。當「懂得」無法成為安全的保證,牆,就是我們唯一的柱子。
這道牆,必須配得上它所試圖鎮壓的力量。
或者——容許一個講故事的人多說一句——我們也可以學會另一種智慧。不去召喚我們鎮不住的風暴。不是每一扇門都必須打開,不是每一個名字都必須呼喚。在舉起手之前,值得問一問:我們,真的準備好迎接它的回答了嗎?
只有風知道墻上的縫隙。但是召喚風的人,應當先知道自己在做什麼。
