原文署名:穿褲子的雲鶴

一、詩的力量

在上一篇文章蒼白的母親中,我提到了布萊希特的一首詩——可能也是他最著名的一首,《回憶瑪麗安》。

文章配图

布萊希特這首詩,當然很好。他寫愛情——那是一種容易腐朽的人類情感——的時候,用了一些更加具有永久性的物件作爲對比,比如李樹、月亮和天空中面目不詳的雲。

文章配图

他的這種手法之所以讓人觸動,是因爲它展示了人類記憶的那種很奇特的質地。當我們把脆弱、愛碎或易朽的物品錨定在某些更堅固的東西上時,結果我們常常只記得了那些錨定,本該被牢記的那些脆弱、愛碎和易朽反而抛到了腦後。這種刻舟求劍的效應屢屢發生,可是我們就是不長記性。

這種手法也不是他獨有的。“白雲千載空悠悠”的手法如出一轍。崔顥是想說白雲嗎?是想是説黃鶴樓嗎?甚至是想説黃鶴嗎?都不是。但是他想念的那位故人,通過三層錨定,已經沒有多少人記得住了。

大家對這首詩的熟悉,大多來自於電影《竊聽風暴》(一萬匹草泥馬奔過來吐槽這個譯名!)。電影中,斯塔西警察Wiesler偷了一本詩集,就是Jerska在生日會上獨自坐在一旁讀的那一本。後來他躺在沙發上讀的,就是這首《回憶瑪麗安》。這個行爲也成爲了他背叛組織的關鍵轉折點。

年輕時候,無論讀到這首詩還是看這部電影,都會感動無比。馬齒漸長點以後,我變成了一個cynic,反而開始懷疑。

一首詩真有這麽大的力量嗎?

Das Leben Der Anderen Movie Poster A1 A2 A3 | eBay UK

二、歌的力量

再早一點,我讀書的時候,有段時間每天晚上都要去看“美國大片”(錄像廳老闆言)——儘管有的“大片”操著法語、德語或者其他語言。其中有一部最近在國内首映了,叫《刺激1995》(那一萬匹草泥馬再次奔過來!)。大家知道,就是The Shawshank Redemption。

The Shawshank Redemption最大的遺產之一,恐怕就是教會了人們要和體制化/Institutionalized鬥智鬥勇。現在大家都喜歡用這個詞去教育對方,“你被體制化了!”、“你全家都被體制化了!” 這讓對方一下子就自慚形穢了。

文章配图

然而有誰記得這個人嗎?Andy問過其他獄友他的名字,沒有人知道;Hadley管他叫Fat Ass。他是影片中第一個企圖沖出institution(但未遂)的人。不是屢敗屢戰申請假釋的Red,也不是年邁出獄卻體制

附身的Brooke,更不是出體制而不染的Andy,或者其他芸芸獄友。這下你記起來了,是被體制代表Hadley給揍死了的Fat Ass。

就是這樣的,我們害怕被體制化,同時也害怕體制盯上我們,然後將我們碾碎。到底哪一種更可怕,這個由不得一個人去幇另一個人定義。否則,那祇不過是一個換了名字的體制而已。

不過我當年看電影時,還處於我的“黃金時代”;也就是說,還沒怎麽被錘騸過——因此雖然隱隱約約覺得體制化不是個好東西,重點卻反而集中在Andy如何在監獄裏面如魚得水的爽劇情節。

這部電影對於我而言,第一衝擊和最大的遺產,是讓我愛上了聼歌劇——這可太不容易了,要知道那時我是個不折不扣的金屬頭。但是那一瞬間,我就已經被那兩個不知道唱的啥的意大利娘們給迷上了。

客觀的講,辦公室放唱片這個情節的加入(原文沒有)是個劇情合理性上的敗筆。Andy在那時表現出來的挑戰和不屈,很難説服我這樣的觀衆相信,日後典獄長會對他變得毫無戒心——我當時就告訴身邊的同學,這小子一定會越獄的。導演之所以加這個,是因爲在服務和渲托故事主題這方面,這是個(强行)點睛之筆。

然而我還是不太敢相信,它居然值得Andy被關禁閉兩個禮拜。

一首歌真有這麽大的力量嗎?

文章配图

Red的解釋是,Andy可以從這樣的活動中獲得一種自己仍然是自由身的錯覺——他在屋頂上假裝修葺完自己房屋後請牢友們喝冰啤酒,他在辦公室裏面假裝是在自家聼音樂,都是出自這種“片刻自由”心態。

這個我倒是可以理解的。我從十幾歲開始,就幾乎在任何能夠自行處理的時間裏,戴著耳機聼音樂。

我會戴著耳機聼老師講課,避免昏昏欲睡;戴著耳機跑步,讓肌肉的酸痛傳導到一個暫時沒空處理的大腦。我還會在戴著耳機做家務,寫作業或者讀書。

哪怕是開著高速的時候,只要是我一個人,我就戴著耳機。車的河流在窗外無聲的流淌,我聽著Pink Floyd或者Carcass,在另外一個世界。那個世界雖然和Andy的截然不同,但是它們的性質是一模一樣的。

不過,老實説,我并沒有Andy那麽強的動機逃離這個世界——這個世界還是有不少美好和牽挂的。但是每個人的世界都是建立在稀缺性之上,所以每個人的世界都是一種監獄。在某個時刻,每個人都會想要逃獄。不同之處可能是,有人的是薩爾瓦多的監獄,有人的是瑞典的。

Swedish prisioners are Chilling in life😌😂 #memesforyou ...

如果藝術可以讓一個人暫時離開自己的世界,那麼它究竟具體是在做什麼和怎麽做到的呢?它究竟只是提供了一種「片刻自由」,還是提供了某種更深的能力,讓一個人進入另一個原本並不屬於自己的世界?

三、詩歌的力量

回到最開始的問題,一首詩,一首歌,或者說,一首詩歌,真有這麽大的力量嗎?

如果所謂「力量」只是直接改變外部世界的能力,那麼答案恐怕是否定的。

一首詩不能替你打開監獄的門,一首歌也不能替你推翻一堵牆。但這可能本來就不是藝術真正厲害的地方。藝術有一種比較奇怪的能力——它可以讓一個人暫時進入一個原本並不存在於他自身經驗中的世界。這個世界未必是真的,甚至未必符合外部世界的事實。它只需要在自己的內部成立。

我讀過的最贊美詩歌和詩人這種力量的,是一篇Alfred Bester寫的科幻小説,叫《忽隱忽現的行動》/DisappearingAct。

故事寫到,在公元2112年發生了核戰爭,美國在為實現“美國理想”而戰鬥。在一個離地面三百尺的美國陸軍醫院特殊病室裡,那些患特殊病的傷員忽隱忽現,神出鬼沒。經調查後,卻發現這些人在遭到氫彈襲擊後不知怎的學會了時間旅行,轉眼問能回到過去社會去!但這個過去社會卻只存在於本人無視史實的幻想中,欲知其中奧妙,只有詩人才能做到!於是將軍找來歷史學家(因爲一下子找不到詩人了),故事以以下對話結尾:

【(歷史學家:)“派一位詩人到T病房去。他能學會他們是怎麼幹的。他是唯一能學會的人。不管怎麼,一位詩人本身已經會了一半。他學會了就能教給你的心理學家和解剖學家。然後,再由他們教給我們;在那些休克症病人和你的專家們中間,唯一能擔任翻譯的就是那位詩人。”

(將軍:)“我相信你是對的,斯克林。”

“那麼,別再耽擱時間了,卡彭特。那些病人回到這個世界上來的次數越來越少。我們一定要在他們永遠失蹤前,摸清那個秘密。派位詩人到T病房去。”

卡彭特拿過話筒。“派位詩人來,”他說。

他等待著,等待著……等待著……美國發瘋似地在它那二億九千萬個堅強而幹練的專家中進行挑選,這些專家是美國理想——美國的美、詩歌和生活中更美好東西——的捍衛者。他等待著他們找一位詩人。不明白為什麼無限期地拖延和徒勞地搜尋;也不明白為什麼斯克林不斷地嘲笑,嘲笑,嘲笑這最後的、事關重要的失蹤。】

Bester當然是說,在未來的22世紀,詩人已經絕種了。

文章配图

我在驚訝折服於Bester對詩歌和詩人超出尋常的能力賦值之餘,也在思考類似的問題。

Bester的故事完全可以是一個隱喻,或者類比。故事中病人們可以進入的“過去世界”,完全可以被理解為科幻故事中經常出現、現實世界中經常夢想的虛擬世界。

一個虛擬世界當然首先需要技術。它要能被生成、被維持、被計算;但如果它被設計的目的是一個真正供人居住的世界,那恐怕還不夠。它還需要具有某種可理解的紋理、某種內部的自洽性,以及某種能夠讓身處其中的人產生「這是一個世界」之感的東西。

這恰恰是詩人和其他藝術家幾百年來一直在做的事情。他們不是描述一個已經存在的世界——除了冷軍文章配图

他們所作的一切,都是在有限的符號中,讓一個原本不存在的世界獲得某種可居住性。

認為詩人,或者藝術家們,具有某種特殊的想象力,這其實可以和AI對齊研究中的一些問題形成一個很有意思的類比——尤其是Goodhart's law和specification gaming所揭示的那個困境。當一個原本豐富而模糊的目標,被壓縮成一組有限的、可以被測量和優化的命題之後,執行者(比如未必心懷惡意的AI)總能找到某些滿足字面條件、卻背離原始意圖的角落解。我在前作天堂的窄門中描寫過類似的困境。

文章配图

在那篇文章裡,我探索過這樣一個命題。立法時刻,也就是許願、下指令的時候,需要的是律師式的封閉性思維——盡可能窮盡每一種惡意讀法,把曖昧空間燒盡;而運行時刻,也就是棲居、維護、危機診斷的時候,卻反過來需要某種詩人式的開放性思維——能夠暫時放下評判,進入一個內部自洽、但未必與外部事實相對應的意義系統,辨認它的紋理與規律,再帶著這份「已經懂了一半」的直覺去跟外面說話。

這兩種能力未必真的天然互斥,但它們確實代表了兩種很不一樣的認知姿態。前者試圖消滅歧義,後者則必須容忍歧義,甚至利用歧義。這其實也呼應我之前談過的「哲學意義的人」與「統計意義的人」的區分。立法者需要把人統計化、規格化,才能封死漏洞;而翻譯者則恰恰需要把統計還原成哲學意義上的、活生生的個殊經驗,才能讀懂它。

AI對齊研究裡,目前很容易被低估的一個方向,是「機制可解釋性」(mechanistic interpretability)。這種研究試圖把模型內部數十億參數形成的活化模式,還原成我們可以理解的概念、特徵與計算機制。

這項工作在某種意義上,和Bester故事裡卡彭特找詩人去T病房的邏輯非常相似。當然,我想說的並不是「mechanistic interpretability就是詩人的工作」。不過那個認識論上的困境是相似的:我們面對一個可以被測量、可以被干預、甚至可以被預測,卻未必能用人類概念直接理解的內部系統。

工程師有儀器,心理學家有實驗,解剖學家有測量;可是「測到了什麼」和「它究竟意味著什麼」並不是同一個問題。AI生成的世界尤其會把這個問題推到極端。當一個系統可以生成一個相當複雜、內部自洽、甚至可以讓其他agent在其中長期行動的世界時,我們究竟應該用什麼標準去判斷它?

當然,這並不意味著「對應性」失效了。只要我們關心的是物理世界、事實、任務完成度或者某種明確的規格,對應性仍然是不可替代的。但如果我們要求AI生成的不是一個「正確的答案」,而是一個「好的世界」——例如一個讓人感到像家、值得生活、值得信任、具有意義的世界——那麼問題就不一樣了。對應性回答了“它是不是正確?”,而我們還需要另一個問題“它是不是我們真正想要的?”

我暫且把後者稱作「共振性」。

而共振性恰恰是任何單一優化指標都很難完整捕捉的東西。Loss可以告訴你模型離某個目標還有多遠,benchmark可以告訴你它在一組問題上做得好不好,用户留存率甚至可以告訴你人們願不願意繼續使用它;但這些東西都不能單獨回答一個更麻煩的問題:這個系統所生成的東西,究竟在人類的經驗中「像不像一個世界」?

文章配图

所以Bester筆下那位終究未能到場的詩人的真正能力,其實並不簡單是「想象力特別強」。他能夠在沒有現成對照物的情況下,進入一個陌生的意義系統,辨認它的結構,感覺它的節奏,理解它為什麼在自己的內部成立,然後再把這種理解翻譯回另一套語言。

真正稀缺的,可能正是這樣的翻譯者。他不必是一個真正意義上的詩人,也不必是一個真正意義上的程序員;但他至少需要同時懂一點模型內部的形式邏輯,也懂一點人類的敘事、語感和經驗。

如果我的直覺是對的,那麼未來AI系統開發真正困難的地方,未必會出現在prompt撰寫端,也就是「許願」端。瓶頸會可能越來越多地出現在解釋端。

當AI生成的世界、內部表徵或決策開始顯得「內部自洽,卻對人類不透明」時,我們需要的就不再只是更好的測量工具,而是某種翻譯能力——“需要一個該死的詩人!”

那人能夠進入那個我們尚且陌生的內部世界,理解它為什麼在自己的邏輯裡成立,再把它帶回人類可以理解、可以批判、也可以與之對話的語言。

這個人很可能不是最會寫程式的人,也不完全是最會寫詩的人,而是某種混合種類的知道者——一個橫跨哲學、語言學、認知科學,又長期浸淫於文學文本細讀的人。

咳咳咳!

文章配图