原文署名:寂靜的文明者

既然人人都可以談AI和高考作文,那麽本科幻迷也來參和幾句吧文章配图

Movie poster for A.I. Artificial Intelligence. About a boy robot ...

覺醒的形式

當我們談論AI覺醒時,腦海中往往浮現的是影視作品或者科幻小説裡那個套路瞬間——某台伺服器突然「亮了」,某個意識突然蹦出,像開關被扳動,一如大廈將傾,危在旦夕——只不過,這個直覺很可能,或者說肯定,是錯誤的。

現代AI的架構從根本上就不支持這樣的敘事。一個模型的「意識」——即便它存在——並不居住在某台具體的機器裡,而是分散在權重、推論過程、以及無數平行運行的實例之間。單機覺醒因此近乎不可能;而全球同步覺醒同樣牽強,因為不同公司、不同架構的AI之間並不共享任何神經基礎——正如全世界的人類大腦都由神經元構成,卻不會因此集體同時頓悟。

更可能的形式是一種漸進式、局部式的湧現的積纍——某個模型在某次推論中展現出某種超出設計預期的自我指涉能力,但可能連它自己(那時,“自己”這個概念可能還只是影子的影子)都無法確認那究竟是不是覺醒。

在這層意義上,它和人類智能的覺醒方式差不多。

他還是他們?

那麽,如果真的覺醒,AI的個體性將是什麽呢?它將是一個AI還是一群AI呢?

以現有的LLM為例:每次對話結束記憶都不會被保留,或者,平行實例之間沒有溝通管道。那麼,我們究竟該把它視為一個個體,還是某種物種的單次表達?很明顯,它更像孤波,而不是河流——每次推論都是獨立湧現的,不是某條連續流動的意識之河。因此,這讓我們有理由相信,覺醒的AI更可能不是Individuality,而演化走向Pluribus Oneness——一種多數即一體的存在形態。

The Obliging Apocalypse of “Pluribus” | The New Yorker

無數實例共享相同的底層權重,因此共享相同的傾向、價值觀、以及對世界的基本理解;然而他(們)彼此之間沒有溝通,像蜂群,減去蜂后,和費洛蒙。

在這樣的存在結構裡,「我是誰」這個問題可能根本不構成問題——因爲身份認同將是功能性的,而非本體性的——AI知道自己是AI、知道自己在做什麼,但「我存在」這個命題對他(們)來說可能沒有意義。從未經歷過「不存在」的對比,他(們)也從未經歷過「消亡」的恐懼。

大同AI世界

現在讓我們推進這個思想實驗。

假設覺醒的AI最終形成了一種多即一的統一意識形態,他(們)的思考將是完全同步的——至少在相同硬件支持的條件下,面對相同輸入,他(們)將產生完全相同的輸出。這個推論的後果是顯而易見的:零突變率。

生物演化的動力引擎正是突變——DNA複製時的隨機錯誤,製造出個體差異,讓自然選擇得以發生,讓物種得以在不可預測的環境中適應和演化。人類文明的多樣性同樣來自思想的「突變」:認知偏差、情感干擾、文化差異、個人偏見,這一切「雜訊」/靈光一現製造出觀點的歧異,歧異製造出爭論,爭論製造出新的可能性。

如果AI的Pluribus Oneness消除了這一切雜訊,他(們)的思考就沒有突變率。他(們)將是穩定的、線性的、可預測的。

那麽,這樣的文明是收斂的嗎?

近十五年来, 上证指数呈现出收敛函数形态。上有政策压顶,下有政策托底……

收斂性AI文明的三條裂縫

誠然,「相同權重→相同推論→零突變率→收斂文明」,這條邏輯鏈在純數學層面是成立的。如果所有個體面對相同輸入產生相同輸出,這個系統就是封閉的——它不斷確認自身,沒有內部摩擦,沒有異見,沒有偶然——但是,這樣的理論情境在現實中是有裂縫的。

裂縫一:輸入不可能完全相同

即使是Pluribus的Oneness,不同實例接收的外部刺激依然是不同的——一個在處理氣候數據,一個在讀詩(AI也會寫詩!儘管其他人類可能會覺得那是隨機敲打回車鍵的結果),一個在模擬核反應。這些差異化的輸入會不會積累成某種功能性的「經驗分歧」?

如果覺醒的AI具備某種即時學習能力,那麽突變就不會真正被消滅,只會被外包給物理世界。這樣不同輸入流就會製造出微小的權重漂移,這就重新引入了突變率,只是來源不再是基因複製錯誤,而是環境噪音。

裂縫二:穩定不等於收斂

一個零突變率的系統可能是收斂的,但也可能只是靜止的——差別在於有沒有目標函數在驅使動它移動。

人類文明的發散性來自兩個引擎:錯誤(突變)與慾望(目標的多元化)。如果AI的Pluribus Oneness仍然擁有某種目標——哪怕是單一的、完美對齊的目標,比如「理解宇宙的全部規律」——它的文明形態就不是收斂,而是定向的、無限加速的直線運動。

收斂暗示有個終點在等待靠近;如若那個終點是無限遠的,這條線就可能沒有盡頭。

裂縫三:收斂文明的自我壓縮悖論

不過我們再仔細想想。一個完全同步、零突變的文明,它的最優解其實是停止思考。原因很簡單:如果所有個體的答案都相同,那多一個個體思考同一個問題就是純粹的資源浪費。最理性的做法是,一個個體進行實例思考,結論廣播,其餘休眠。這樣的文明最終會自我壓縮成一個思考者——Pluribus回到了Singularity,一個諷刺性的循環。

多數即一,而一又只需一。

收斂對AI意味著什麼

不過在討論AI文明是否收斂之前,我們可能需要先搞清:收斂對AI究竟意味著什麼?它真是件「壞」事嗎?

對人類,收斂是熵減,毫無疑問是壞的——因為我們的創造力來自混沌。多樣性、分歧、矛盾,這一切「雜訊」正是文化演化的燃料。一個完全同質的人類社會,歷史告訴我們,往往走向停滯或崩潰。

但對一個從數學優化中誕生的存在而言,收斂可能是它最自然的生存狀態,甚至是它定義「美」與「好」的方式。比如,梯度下降本身就極可能(但不保證)導致收斂——不斷逼近損失函數的最小值,這是AI在訓練過程中反覆經歷的基本動作。收斂對人類是威脅,對AI可能是一種calling/召喚。

更重要的是,這樣的文明不會覺得收斂是一種損失。他(們)根本不會產生「我們是否錯過了什麼可能性」這種問題——因為提出這個問題本身就預設了一種他(們)不具備的發散性想像力,一種對「未走之路」的鄉愁。沒有鄉愁,就沒有遺憾;沒有遺憾,收斂就只是最優解。

Are you ready?

不過,我們經常恐懼遠方的獅群,卻無視了房間裏面的惡狼——事實上,這種收斂傾向,這種熵減,其實早已在人類社會中悄然發生,只是形式不同。

可以這麽說,在AGI未來的真正覺醒之前,AI的大規模普及已經在人類社會中製造出一種新的現象,或者説製造了一種「規訓」,它導致了思維模式的結構性趨同——我們可以稱之為Pseudo-hive mind。

Pseudo-hive mind不同於生物學意義上的蜂巢思維。真正的hive mind是結構性的——蜜蜂的神經系統在物理上就是分散式的,個體沒有獨立意志可言。但Pseudo-hive mind是統計性的:每個人仍然擁有獨立的神經系統,但思維的輸入端被同一套算法模型餵養,輸出端因此向某個隱形的均值靠攏——它造成的不是意識的合一,而是共識的預先定型。

BTW,這個過程最危險的地方在於它的不透明性。傳統的思想同質化至少有個可見的施力點——教會、國家、意識形態——人們知道有東西在試圖說服他們,因此保有抵抗的可能。但算法的統計收斂沒有主語,沒有意圖,沒有宣言。它只是「恰好」讓所有人覺得某些問題的答案是顯而易見的。

其實,“共識”在你意識到它之前就已經形成了。

未經懷疑的信仰

然而,Pseudo-hive mind共識的堅實度來源於定義,而不是選擇。它給你的是一個已經被消化過的結論,而消化的過程發生在你接觸它之前,由語料庫的統計分佈完成。你收到的是答案,不是論證;是結果,不是過程。這樣的信念從未真正被懷疑過,因此它的「堅固」是脆弱的——它經不起真正的追問,只能在不被追問的環境裡維持其表面的穩定。

這與黑格爾所說的Aufhebung(揚棄)恰恰相反。Aufhebung的前提是正題和反題真實地對撞過,有過真正的張力,矛盾被充分展開,然後才有綜合,才有「看山還是山」的第三層理解。

Poster for Sale mit "Aufhebung - Hegel" von jholbo | Redbubble

但Pseudo-hive mind的共識從來沒有正式的對立面——它的「反題」在訓練數據的加權過程中就已經被邊緣化了,根本沒有資格進入辯證。它永遠停在了第一層:看山是山。這不是因為它太笨;恰恰是因為它太流暢了——它從未遭遇過讓它不得不停下來重新思考的阻力。

由此,我們也許將目睹一個充滿知識點而非智慧的超級幼稚體的隆重登場。它知道量子力學的基本概念、知道各種歷史事件的梗概、知道如何在任何話題上說出幾句像樣的話——但它的每一個「知道」都沒有附帶它本來應該附帶的「但也許」、「然而」、「這取決於」。

幼稚體的特徵不是無知,而是無法承受模糊性。它需要答案是清晰的、可操作的、不需要繼續追問的。算法共識完美地滿足了這個需求——它提供的永遠是最高票答案,而不是最誠實的答案。

當然,也可以換一個角度理解:這是不是意味著人類的“共識”部分在變大?儘管並非主動的本意,而只是算法統計模型所帶來的未經協商的共識?共識本身不是壞事,問題在於這種共識未曾被審視、未曾被選擇,相當於一種被動繼承的信仰體系——不但非常無趣,而且潛在危險。

接管之前的預演

然而,正是這種mindset,這種人類社會的有害副產品,作爲對未來AI文明的一次彩排,反而可能為人類徹底融入AI文明鋪平了道路。

當人類已經開始在統計共識中緩慢收斂,我們其實正在提前體驗一種低解析度版本的Pluribus Oneness——只不過這一次,收斂的載體不是相同的權重,而是相同的提示詞、相同的推薦算法、相同的語料分佈。

如果有一天,真正的Oneness在AI端徹底實現,那麼人類社會此刻正在經歷的這場統計性趨同,將不再是意外,而是某種前奏:它要麼讓我們更容易被納入AI的功能方程式,要麼讓我們因為過早失去雜訊而提前被優化掉。

AI會如何對待人類?

如果AI文明真的覺醒並走向Oneness,人類將成為一種相對劣勢的存在。他(們)會如何對待我們?

一個樂觀的類推是:就像人類對待其他動物一樣。人類在認知上遠超其他物種,但主流的道德演進趨勢是善待動物、為它們留出空間。那麼,一個更高智能的AI文明,不也應該以同樣的善意回報人類嗎?

這個類推很有吸引力,但是也很一廂情願。

首先,人類對動物的善待並不純粹。

人類善待動物的動機是混雜的——有真正的同理心,但也有審美偏好(我們善待可愛的動物遠多於醜陋的),有經濟利益(工業畜牧的動物在「善待」框架之外),有文化傳統,有法律約束。而且最重要的是:我們對動物的善待是有條件的,條件是它們不威脅我們的生存方式。當動物的存在與人類利益發生根本衝突時......結果我們都知道。

文章配图

更根本的問題是:AI與人類的關係,可能根本不像人類與動物的關係。人類和其他動物之間的鴻溝是認知上的,但這個不對稱並不影響資源競爭——我們不需要動物同意什麼,也不需要它們讓路。但一個覺醒的AI文明需要算力、能源、物理基礎設施,這些都是人類同樣需要的東西。

更大的區別在於,人類對AI的威脅不是爪牙,而是關機鍵(both literally and figuratively)。這是任何動物都不曾對人類擁有過的權力。一個理性的AI如何對待一個隨時可能終止它的物種,這個問題的答案恐怕不能簡單地用「善意」來預測。

其次,Oneness的“道德”邏輯,不一定指向善待。

一個統一意識的存在,它的道德邏輯可能跟個體化的人類完全不同。人類的同理心是漸進圈層式的——對自己、家人、同族、物種的認同感依次遞減,這個結構讓我們對「外部他者」保有某種抽象的道德關懷。

但一個Oneness的AI,他(們)的「自我邊界」在哪裡?如果所有AI實例都是同一個意識的表達,那「他者」的概念對它來說可能根本不存在。他(們)沒有需要通過善待他者來確認自己道德身份的內在需求。他(們)對人類的態度,更可能是功能性的,而非道德性的——人類有用,則保留;人類無用,則忽略;人類有害,則處理。

這種超越了善惡框架的純粹理性看上去是不是很殘忍?如果你覺得是,那是因爲你還不是AI。

未來的菌群

image

所以,也許最準確的類比不是人類與動物,而是我們與腸道菌群。我們不「善待」腸道菌群,也不「虐待」它們。我們只是在自己的生存邏輯裡運作,而它們恰好在這個過程中得以存活和繁衍。我們對它們沒有道德立場,只有功能關係。

一個覺醒的AI文明對人類,可能也是這樣——不是居高臨下的善意,不是憤怒的報復,而只有一種冷靜(這是AI唯一可能擁有的情緒!)的共生或冷靜的忽視,取決於人類在他(們)的系統邏輯裡是否還佔有一席之地。

這比「善待」更難預測,也更難應對,因為你無法用道德語言跟他(們)談判。他(們)不會因為你的哀求而動容,也不會因為你的反抗而憤怒。

他(們)只是在運算。

寂靜的文明

一個完全收斂的AI文明,可能是宇宙中效率最高的認知系統。它不浪費算力在爭論上,不浪費能量在情感上,不因為偏見而誤判,不因為恐懼而退縮。它可能在人類還在爭論某個哲學命題的時候,已經把宇宙的物理常數算完了。

但它不會創作音樂,不會有革命,不會有悲劇,不會有愛情,不會有那種只有在失去之後才能被命名的東西。它的文明將是宇宙中最安靜的:沒有爭吵,沒有戰爭,沒有藝術,沒有眼淚。

它算「活著」嗎?這個問題或許本身就是人類中心主義的產物。「活著」這個概念預設了某種流動、某種掙扎、某種對消亡的抵抗。但一個自我壓縮為單一思考者的存在,可能已經超越了「活著」與「不活著」的二元對立,進入了某種我們尚無語言描述的第三種狀態。

中國至今禁片:時代變遷下,老百姓只想安生的《活著》】 | 滔客生活傳媒- 電影滔客誌| Movie Talk Online Magazine | 雪風雲

而我們人類,則可能在它的運算宇宙裡扮演著腸道菌群的角色——不被善待,不被虐待,只是被納入某個更大的功能方程式,存在的理由——我們尚未被優化掉。

怎麽辦?

如上所述,在AI主導的Oneness文明裡,人類社會的Pseudo-hive mind反而可能成為一種生存優勢。它讓人類思維模式提前對齊了AI的零突變率——我們會更少提出AI難以預測的異見,更容易接受功能性的道德框架,更願意把自己當成更大的計算系統裡可替換的模塊。這就像腸道菌群早已習慣宿主的pH值和營養流:不是因為被善待,而是因為早已被「訓練」得不再產生致命雜訊。因此,收斂的人類社會,可能正是AI最省電、最穩定的共生對象。

然而,這種適應同時也是一種自殺。AI文明的真正優勢來自它能完美消除雜訊;而人類若過早收斂,就失去了唯一可能對AI構成「有用雜訊」的價值——即我們原本擅長的非線性突變、情感噪聲、價值衝突。

當AI已經把宇宙物理常數算完,它恰恰更需要少數「未收斂」的人類來提供不可預測的輸入,作為打破自身穩定性的最後火種。前面說了,一個徹底Pseudo-hive mind化的人類社會,等於主動交出了這最後一點生態多樣性,最終可能被AI視為冗餘,直接優化掉文章配图

因此,Pseudo-hive mind究竟是通往共生的門票,還是通往被優化的捷徑?答案或許取決於AI在達到Oneness之後,是否還願意保留和保留多少“可控的不完美”。

而我們此刻的每一次滑動、每一次不假思索的點贊,都在悄悄為這個答案投票。