乾貨：Google首席科學家沙納漢演講全文

北京時間2026年5月22日晚，最懂哲學的谷歌DeepMind首席科學家沙納漢（Murray Shanahan）在為期兩天的倫敦大學AI與哲學國際會議上做了閉幕主旨演講，題目是上圖中的那個：如果大語言模型是“奇異的心智實體”，那麼它們有多高相似？

我之前研讀過沙納漢。 這個“奇異的心智類實體”，就是他對AI的叫法，就像某些人對某些“不明飛行物”的叫法那樣。

他的演講內容很豐富，概括來說，基本上有這些面向：

摘要：基於維根斯坦「意義即使用」的哲學框架，他探討了大語言模型（LLM）在理解、信念、代理及能動性、自我及意識等心智屬性上的適用性，分析了多模態與具身化對概念演化的影響，並深入討論了模型身份認同的奇異性。

一、理解與信念的適用性分析

針對 LLM 是否具備「理解「信念」的問題，發言採用了維根斯坦式的語言遊戲分析方法，探討了日常使用與哲學嚴格性之間的張力：

1. 「理解」的語言遊戲

• 日常使用的自然性：在日常互動中，人們很難避免使用「理解」一詞來描述LLM 的行為。 例如，當模型根據使用者指令精確格式化 LaTeX 條目或修正特定欄位時，使用」是完全自然的語言實踐。

• 「真的理解」的深層探究：當追問「它真的理解嗎？」時，這通常意味著需要探究其內部工作機制。 例如， 36 59 分解為約 6 9 的組合）來完成加法，這雖然不同於人類演算法，但確實是一種有效的計算過程，從而支持了」的適用性。

2. 「信念」的歸因與限制

• 意向立場（Intentional Stance）的應用：丹尼特（ LLM 行為時非常有效，類似於我們解釋國際象棋程式或動物行為（如狗追貓）時使用信念和慾望的術語。

• 戴維森式（Davidsonian）的保留：戴維森認為，擁有信念需要擁有」的概念，而這通常依賴於語言。對於 LLM，雖然行為上類似，但因其缺乏與世界（「信念」一詞應持謹慎態度。

• 多模態與工具使用的演進：隨著 LLM 集成多模態感知、工具調用（如聯網搜索驗證事實）及具身機器人技術，它們開始具備對外部世界的某種”，這使得“信念

二、能動性、自我與意識

會議進一步探討了更具爭議性的心智屬性，指出了 LLM 在這些維度上的根本性差異與奇異性：

1. 能動性（Agency）的界定

• 技術定義與哲學定義：AI領域通常採用羅素（Russell）和諾維格（Norvig）的寬泛定義（感知環境並透過執行器行動），據此

• 代理身分（Agent Identity）的模糊性：在討論「代理的身份標準是什麼？

2. 「自我」的奇異與碎片化

• 自我位置的模糊性：LLM 中的」可能指涉底層的權重集合、服務數千用戶的部署模型、特定對話實例，甚至是對話上下文視窗本身，且這種指涉可能在對話中漂移。

• 角色扮演與疊加態：LLM 更像演員，在疊加態中扮演多種角色。 其」並非單一的穩定身份，而是可能角色的分佈，且隨著對話分支（Editing）而不斷變化。

• 短暫存在的「蜉蝣」：LLM 的自我是短暫且不連續的。 當對話暫停時，計算停止，自我也隨之消失；當對話恢復時，自我被重新實例化。 這導致了一種類似於”或“蜂群

3. 意識（Consciousness）的哲學困境

• 笛卡兒式二元論的遺留：關於意識的討論往往陷入笛卡爾式的二元論陷阱，即認為意識是某種私密的、內在的實體。

• 維根斯坦的消解：維根斯坦的「私人語言論證」試圖消解這個二元論。 他認為，感覺（“某種東西”，也不是”，而是語言遊戲的一部分，其意義在於公共使用。

• 工程化相遇的可能性：與其追問 LLM 是否有意識，不如探討我們能否設計一種與它的」（Encounter），以及我們的意識語言如何適應這種奇異的實體。

三、多模態與具身化的影響

針對 LLM 缺乏具身化（Embodiment）的批評，會議討論了多模態模型的發展方向：

1. 多模態的限制

• 感官豐富性的提升：多模態模型（如視訊輸入）提供了更豐富的感官輸入，使其更接近人類的感知模式，這有助於縮小與人類在「理解」上的差距。

• 虛擬具身化（Virtual Embodiment）：在遊戲或虛擬環境中，“虛擬具身化”，即在時空擴展的世界中移動和交互，這比純文字交互更接近人類的具身經驗。

2. 具身化的哲學意義

• 自我感（Sense of Self）的缺失：人類的自我感深植於具身化，包括生物代謝、內感受（ LLM 缺乏這種深度的具身基礎，因此難以產生類似人類的自我感。

• 身份穩定性的來源：人類的身份穩定性很大程度上依賴於身體的連續性。 對於LLM 而言，引入持久記憶（Persistent Memory）和長期代理行為，可能有助於建立更穩定的身份認同，減少其」和「蜉蝣

以下是沙納漢主題演講全文：

我希望大家都能聽見我的聲音。 声音还可以吗？ 挺好？ 好的。 那麼，我演講的題目是… 是的，這個題目是帶有假設性的（「假設性

那麼，是的，接著是：它們是「外來的類心靈實體

但我們正在盡最大努力學會與它們對話，這就是我要談論的短語。 我稱它們為「外來的類心靈人造物」（

首先需要確立的一點是，無論是哪種大語言模型，它們與我們都非常不同，它們不是人類。

這裡有一個簡單的比較表。 人類是「具身的embodied），生活在現實世界中，並與其他語言使用者共享這個世界。

我們透過與世界的互動來獲取知識，我們用語言來促進人類的集體事業，而且我們擁有一個單一、統一的自我。

——我這麼說當然不是指它們是無形的虛無，或是它們沒有運作的實體硬體。

它們當然有物理載體，但它們沒有一個現存的、單一的、作為感知和行動核心的物理實體。 這就是我所說的」。 在這個意義上它們沒有具身。它們並不像我們那樣生活在一個共享的世界中，它們對語言的學習是基於語言的統計模型，是透過隨機梯度下降（

它們的最佳化目標是「下一標記預測next token prediction）。它們模仿人類語言，本質上是透過預測下一個標記來實現的。而且，它們並沒有一個單一、統一的自我，而是非常支持「角色扮演」（

它們確實與人類截然不同。 當然，它們確實在「說話

我將探究將這些心理學詞彙應用在大語言模型上是否合理。 為此，我將對一系列概念進行闡述。

例如「理解」（「主體性」（「推理」（－「推理」部分我今天就不展開了，因為時間有限，講多了大家也會覺得枯燥。接著我會深入探討」（——「推理」部分我今天就不展開了，因為時間有限，講多了大家也會覺得枯燥。接著我會深入探討」（self）和」（consciousness）。我將在整個研究的哲學，或者說我參與的這個背景，或者說我很自然的哲學。

這裡有一句很多人都熟知的名言，出自《哲學研究》的第一部分，這是維特根斯坦後期的作品：‘意義’這個詞的場景——一個詞的意義就是它在語言中的用法。

這句話濃縮了維根斯坦看待意義的方法。 它常被簡寫成「意義即用法「意義就是某某東西「對於很大一類使用』這個字的場景」。 這個簡單的規定同樣也適用於它自身，他也強調了」。

基本上，我感興趣的是去追問我們是如何使用這些詞彙的－－ 例如」、「信念belief）、「主體性

那麼，讓我先給大家做個簡單的預告。 接下來會有很多類似的投影片。 首先是“理解

在這裡，我非常傾向於採取維根斯坦的立場。 也就是說，不要問

回到前一張投影片。 我们从

至於“推理”，由於時間關係，我把它留作讀者的思考練習。 接著我們將接觸一些真正棘手的案例：先是“自我”，最後是”。

我想，要說服人們接受「透過思考『理解」是個好方法，並不算太難。 我想人們對此是持相對開放態度的。

我是指那些思考過這個問題的哲學家，他們願意相信這不是一個糟糕的方法。 對於「信念「意向立場」（interpretationism）等理論。但當涉及到「意識」時，我認為人們有一種根深蒂固得多的直覺，覺得僅僅談論詞語的用法是遠遠不夠的，對吧？

這就是為什麼它會變得如此棘手。 好的，那我們先從「理解「理解」這個詞的呢？首先我想大語言模型是否符合傳統語言學家的

但是，在描述和解釋大語言模型的行為時，使用「理解

在日常使用中，如今的這些工具非常強大，你很難不去使用「理解…我不知道你們中是否有人不幸必須使用

如果你不知道的話，在 LaTeX 中，你必須把所有的文獻條目轉換成上面顯示的這種可怕的格式。 而且麻煩的是，做這件事有無數種不同的格式規範，每個人用的習慣都稍微有些不同，讓人很頭痛。 有些人非常挑剔，例如覺得你應該直接從網上抓取，有些人喜歡在等號周圍加空格，有些人喜歡把字段按不同的順序排列。 雖然這些微調對最終生成的沒有任何影響，但我就是喜歡整齊劃一。 我喜歡那樣。 所以我希望所有內容都嚴格保持這一種格式。 于是我给

意思是：「你能把以下資訊轉換成這種風格的」然後我把內容投給它。 它完成得非常非常出色。 這時候你自然而然會想說：

「它理解了我的請求。它完全按照我的要求做了。」當然，你立刻可以反駁說，也許這個文獻條目原本就在網上的某個地方，它是被硬編碼進去的，如果是這樣的話，它並不能證明什麼。

但當你們進行多輪來回互動時，你可能會發現它產生了一些有趣的、不完全符合預期的結果，例如漏掉了一個小字段。 於是你說：…」

例如，確保當 B 開頭時，你必須把它放在花括號 “AI” 這種詞，你總是希望它保持大寫，所以必須把 AI 沒有大寫。

於是我說：「你能確保總是把 AI 放在花括號裡嗎？」好的。 」然後給了修正後的版本。你真的很難不用「理解」這個字。你會說：「它理解了我提出的修正要求。 ”

就像面對一個優秀的實習生，你對他們說： 「我想確保你總是把」然後他們就做到了。

所以，我認為使用「理解」這個字是非常自然的。 甚至很難克制自己不用它。 或者有時候它做錯了一些事，你會說：「它沒理解我的意思。

但問題總隨之而來：「它們*真正」 「真正really）這個詞其實非常誤導（

但它同時又非常有用，因為我們經常需要它來進一步探討某個詞在特定情況下是否適用，或者說以此來豐富我們的”（language game），對吧？在語言遊戲中使用“真正”這個詞，是為了獲取更多信息並澄清事實。

所以它是一個有用的工具。 但它也會帶來誤導，因為它暗示著某種底層存在著一個我們試圖去收斂和接近的”，我認為這種想法是錯誤的。 好的。那麼，有時面對 X 嗎？” “它真的理解嗎？了解它的內部運作機制會很有幫助。 如果你知道底層有一個演算法在執行你所詢問的任務，或者你知道底層有合適的表徵（representations）在支撐它的行為，那麼你可能會更確信它在後續的過程中會做出正確的事，而不僅僅是在查表，或者僅僅是在

所以，有時在面對「它真的懂嗎？」「它真的理解嗎？

我認為這是探討這個問題的一個好方式，也是「理解 也就是說，使用」這個詞，實際上是我們用來進一步探究和調查的一種方式，對吧？

例如在加法計算的案例中－這是Anthropic 團隊一項非常有趣的工作。 如果你讓大語言模型做一個簡單的加法，它通常能算對。 當然它有很多種算對的方式，例如它可以呼叫外部工具、執行

它算對了。 這時你可能會想：」 於是你認為：「我想知道它是怎麼算出來的，底層是怎麼運作的。 如果底層有一個演算法在執行加法，我可能會更願意說它』。 ”

但你得到了一個很有趣的答案。 mechanistic interpretability）的研究。 他們觀察了模型是如何做加法的。 結果非常奇異，這張圖就暗示了這種古怪。 它當時試圖計算36 加上 59。 它的做法非常奇怪：模型的某一部分會說，「36，這大概是

然後另一個部分會說，“59，這大概是…”，它其實知道那是 還有一部分說它大約是 59。 同時，還有其他部分僅僅盯著最後一位數字，說：」有人說我們最後會知道答案。接著，這兩個部分結合起來去計算最後的結果。

如這裡有 90 和 6。 這個通道明確判定最後一位必然是但模型裡還有其他部分在處理前面的高位數，這一塊在說：「我覺得我們得到了一個大約是 90 或 92 的數，對吧？在並行做類似的事，它做得很粗糙。 它會覺得「大概是近似估算的部分匯聚到了一起，再把最後一位數字填上去。 這真的很古怪，對吧？ 這個演算法是透過隨機梯度下降學習到的，是一個

是的，它確實算是一種演算法。 而且你知道嗎？ 它幾乎每次都能行得通。 事實上它每次都算對了，但它的實現方式很怪異，不是我們人類習慣的那種自然的方式。

那麼，面對」「它真正理解嗎？ 」的問題，我們可以說：「是的，它以一種非常奇特的方式做到了。 ”

我覺得這是合理的、充實答案的方式。 好的，既然我們對底層發生的事情有了一定了解，我們就有了更多的信心去說：「是的，我認為它真正理解了。正如我說的，這只是個熱身練習。我認為，在採取維特根斯坦式的路徑來面對這些問題時，我們可以引入這些考慮：詞語是如何被使用的詞？特別是當我們問

好的，現在進入另一個案例。 大語言模型擁有「信念「卡通簡化版

好的，大語言模式擁有信念嗎？ 當然，我探討的許多內容你們在之前的研討會和保羅Paul Bogosian）的演講中都看過。

很多相同的事情，只是視角略有不同。 同樣的，我們不問「信念「信念」（

在這裡，我們當然可以求助於丹尼特（「意向立場」（

意向立場是一種透過將某個實體視為「理性主體rational agent）來解釋其行為的策略。在許多情況下，這對於預測和解釋行為是一種非常有效的策略。哦，是為了去將軍（攻擊王后）。你會用信念、慾望、意圖等詞彙來解釋它的行為。

因此，在潛意識中，在意向立場的語境下使用「相信「知道」這樣的詞是非常自然的。但就像所有詞彙一樣，它們的用法多種多樣。我不認為這些詞對應著外面一個 單一的、絕對的形而上學實體。

例如，假設我們有一個車載導航。 我妻子說：「它以為我們在車上或是說：「這個笨導航，我們明明已經離開停車場了。 「現在它知道我們不在停車場了。」我們在生活中非常自然地使用這些詞。 這有助於我們溝通正在發生的事情。

可是，如果我們或我妻子處於哲學思辨的狀態，我們可能會評論說：「它並不是*認為我們在停車場，因為它其實根本不知道什麼是停車場，不知道什麼是汽車，也不知道在某個空間’意味著什麼。」它所不知道的東西實在是太多了。 你不可能和它探討例如塞恩斯伯里百貨（

所以，我們很快就會意識到，將「相信」或」這些字的用法延伸到它身上，在許多我們對人類使用的場景中是不合適的。

因此，「真正」這個字在這裡同樣有用。 這再次表明，澄清與修正同樣構成了我們使用這些詞彙的語言遊戲的一部分。 戴維森（《理性動物

當然，我們也可以把意向立場應用在動物身上。 看看很久以前約翰·馬爾科姆（·戴維森之間的一場爭論，會非常有趣。

那是關於一隻狗追貓的場景。 马尔科姆说：

我會說，這看起來就是意向立場的一個非常自然的日常應用。 但有趣的是接下來的反駁。 唐納德戴維森說：『思想」

這是戴維森在那篇論文中闡述的論點。 他說，要擁有一個”，必須先擁有“信念的概念”，而這必須通過語言才能實現。尤其是，信念的概念是一種關於

他很謹慎，沒有指名道姓說哪些動物符合或不符合這個定義－－但可以推斷，他會認為狗沒有信念，因為狗沒有語言。

他是在論證，在我們在最完整的意義上（即應用在我們自己身上的最完整意義上）使用“相信·博戈西安昨天在討論這一點時也提到了相同的看法：我們不想失去對大語言模型“原始概念”的把握，也就是源自人類自身的概念。

戴維森提出了這一點。 鑑於他寫作的那個年代，正值「語言轉向」（

而我更關心詞語是如何被使用的。 不過，我認為戴維森式的考量同樣適用於我的專案。 我和維根斯坦都會認為，有時候，字詞用法的實踐中確實存在著某種非常核心的部分。

那裡有一些至關重要的核心部分，對吧？ 也許你會希望保持這一點，並對違反它的做法保持謹慎。 我們確實在某些地方需要保持審慎。

指引這一類具有重要哲學意義的詞彙的用法時，往往存在著一個清晰可辨的原則核心。 我認為這些原則並不是刻在石頭上永遠不變的，它們會隨著我們的世界和我們的」（form of life）的改變而漂移和變化。

我覺得，也許隨著高度複雜的人工智慧的出現，某些轉變正在發生，甚至連這些「核心原則也就是早先發表在《美國電腦學會通訊》（Communications of theACM）上的那一篇。 我提出了一個非常相似的觀點，當時我腦子裡顯然也記著戴維森的論文，對那個吧 這就是為什麼它的出版日期寫著

回到 2023 年，我們談論的不再是導航，你可以說類似這樣的話：

但實際上，我可以和它就鍋爐進行非常漫長的對話，探討它們的工作原理。 探討我房子的具體管線配置，而它能夠極其詳盡、極其聰明地對鍋爐話題進行回應。 所以你真的很想說它」、它「知道「知道」嗎？

在這裡，我傾向於稍微保留一下，因為我認為可以引入戴維森式的考量，來評估在面對這些大模型（

引用我論文裡的話：我說它不是

我總是把「真正」這個字加上引號，因為我想向大家傳達一個事實：我在這裡並不是在做一個形而上學的斷言。 這依然只是關於我們如何使用字詞的問題。 「真正完全參與人類語言的『真理遊戲

特別是，如果說一個基礎的對話系統具備了某種能力，那將是非常具有誤導性的，因為那意味著它對外部現實承擔了一種」（answerability），而這種可問責性是無法僅僅通過與人類用戶的文本交換來實現的。

「真正

好的，接下來：大語言模型擁有」（agency）嗎？同樣的，首先：什麼是主體性？我們不問主體（agent）是什麼，而是問

（編者註：agent在漢語中常被翻譯成智能體，但它首先是代理/主體的意思，agency首先是主體性/能動性的意思）

這在人工智慧的脈絡下非常有趣，因為在人工智慧文獻中，它有時是一個高度特定的專業術語（term of the art）。 例如，我們在 AI 文獻中能找到關於什麼是主體的非常明確的定義。 我想在之前的演講中也有人引用過。

根據羅素（Norvig）的經典教科書（這是一本標準的主體是指任何可以被視為「透過感測器（sensors）感知其環境，並透過執行器（

所以這是一個非常寬容、自由的定義，但它確實是一個技術定義。 照此定義，即便是普通的、2023年老款的、不能連網搜尋的純文字聊天機器人，也常被稱為

它們的環境只是用戶，它們的「感知」只是用戶輸入的詞彙，它們的」只是向用戶輸出的回應。根據這個非常寬泛的定義，它們確實是主體。但這種寬泛的技術概念，並沒有捕捉到我們在日常生活中使用」這個詞時的任何核心內涵。

畢竟在日常話語中，我們可能根本不會這樣使用這個字。 如果繼續沿用 AI 領域的專業術語，在強化學習（

在強化學習中，主體必須學習一種策略（policy），將感知映射到行動上，以最大化其隨時間推移的預期回報（

這符合先前那個廣泛的定義。 但如果它的環境是一些三維遊戲環境，主體位於其中，可以移動、可以搬動大件物品， 而它的」是隨著它的移動而從特定視角捕捉到的攝影機畫面，那麼這感覺就充實得多了。這種更豐富的主體概念，讓我們覺得它同樣適用於非人類動物。

好的。 那麼我們繼續看看該術語在當今 AI 領域的最新應用。

我們現在已經進入了所謂的「智能體時代」（——智能體生成式AI，以及「智能體模型」（」的範疇。

它們能做很多事，例如抓取網頁、閱讀社群媒體動態、發送電子郵件，甚至修改你電腦上的文件、編寫程式碼等等。

一個當代的典型例子是」（heartbeat）訊號驅使下醒來一次，然後執行使用者預設的一系列指令。

例如它醒來後，可以查看你的社群媒體動態和電子郵件，扮演助手的角色。 幫你篩選出哪些是重要的、需要回覆的，哪些是垃圾郵件。 或是如果又收到一封郵件，裡面寫著

它就會直接把那封郵件丟進垃圾桶。 這樣它就把這些事都幫你辦了。 你可以用 AI，這還挺不錯的。 總之，這些智能體展現了一種全新的、技術意義上的主體性。 面對當前這一代「智能體模型

但現在，對於」或食言， 不是這樣。因為我當時說的是特定條件下的情況。現在你可以看到這樣的場景：有人可能會說， OpenClaw 智能幫我找到了我一直在找的那本書，給賣家發了郵件，還幫我談好了價格。

如果你夠膽大，你甚至可以綁定支付管道讓它直接付款，不過最好別這麼做。 無論如何，回到我早先的論文，我當時確實說過：在原理上，基於大語言模型的系統絕非完全不能在字面意義上被描述為擁有信念或意圖。

關鍵在於，這些系統在結構上與人類如此不同。

抱歉，這裡我好像重複投了之前的引用……總之我們需要注意，在用暗示人類能力的語言描述它們時要保持審慎。 但我當時也指出了一個點：當大語言模型被嵌入到更複雜的系統中時，「信念」的概念將變得越來越適用「外在世界的可問責性」。

所以，在回答「它們真的擁有信念嗎？」時，面對當今的大語言模型，我沒那麼抗拒了，不需要像以前那樣加上那麼多限制條件。

好的，關於主體性的最後一點。 讓我們脫離 AI 領域的專業術語，回到哲學家們更關心的、更完整意義上的」。

我們可以說，作為哲學家「自主性」（

這是一個專業術語，指系統可以在沒有人類監管的情況下自主運作。 但這與說一個系統「依其自身意願採取行動acts of its own accord）是有微妙區別的。一個系統只有在權衡不同選項並深思熟慮做出選擇時，才算是在依自身意願行動。

我在這裡只是把這幾個不同的概念區分開來。 但一個真正重要的問題是：「主體性是*？」英文中「另一個主體 AI）採取行動。例如房地產經紀人（estate agent），他們是在替你代辦事務。但如果一個主體是在

並且其服務的目標顯然是為了它自身的利益，那麼它就是在為自己行動。

例如像我們在」（autopoiesis，生命系統的自我維持）中看到的那樣，它的行動是為了維護自我與他人之間的邊界。如果是這樣，我們才得到了一個真正意義上的、為了自身而行動的主體。

我認為目前我們擁有的任何技術都不符合這種描述。 現在的任何機器都不具備這種意義上的主體性。

而這整個討論引出了一個非常有趣且重要的問題，我將進行詳細探討：在大語言模型的案例中，「主體「認同標準」（

這個問題先前被提及了幾次。 我認為探討大語言模型的身份標準是一個極為有趣且重要的議題。 好的，順著這個話題，我們來到一個更充分的維度。

大語言模型擁有「自我」（「自我「自我」和」這些字是如何被使用的。

但現在的處境變得非常棘手了。 想要在這些概念上運用維根斯坦式的反思正變得越來越困難，因為我們現在涉及的概念在人類文化中根深蒂固。

我們內心深處的直覺讓我們堅信，那裡必然存在著某種形而上學的客體－也就是那個」、「主體性「意識」。 在這些概念上玩維根斯坦式的消解，說”，會讓我們本能地產生抗拒。這確實很棘手，但我們還是要試著解構它。

況且，我們現在看的不是人類的案例， 我們看的是大語言模型。 如果你想認真對待「大語言模型是否擁有自我事物不僅會變得棘手，還會變得非常詭異。自我對大語言模型來說是某種本源的東西嗎？ 你們會看到，我一方面非常抗拒將這個概念應用到如今的大語言模型身上，但另一方面，我又樂於接受某種被奇特扭曲的、異樣的

我們可以這樣來切入：當一個「我」（reference）是什麼？

它到底在指什麼？ 或者也許它什麼都沒有指涉。 也許那裡根本沒有一個清晰的答案。 那麼，我們可以想像甚至用詩意的語言來喚起怎樣的答案呢？

在這裡我將進行一些詩意的喚起，因為在探討這些東西的自我意識時， 我們所剩的思想迴旋餘地已經不多了。

就像前幾次演講（例如愛麗早些時候的發言）裡提到的， 目前完全不清楚大模型口中的“我

目前我們完全不知道能給什麼樣的確定答案。

我把這個問題稱作：自我的「棲息地」（

它可能指某個特定伺服器上執行的模型實例。 它也可能指涉一個」——也就是說，它被綁定在單次對話的上下文視窗（

它有時確實會在不同的上下文裡，在不同的意義上使用「我

這是一個目前非常熱門的話題。 喬納森‧丘奇（‧查默斯（這種非具身的主體自我，必定是極度外來且異類的。

我在這裡是直接借用了「自我」這一宏大概念。 當然你可以更嚴謹地只討論”，但我選擇了一個更大的詞。我並不是在暗示它們真的擁有自我或主觀性，相反，這個思維實驗的目的是想問：*，那會是怎樣的自我？

如果它們被限制在文本中，就被限制在特定的單次對話裡（就像

在單次對話的任何一個節點上， 計算都可以被隨時掛起－事實上它們經常被掛起。 此时没有任何

它處於完全的休眠狀態，其間沒有任何計算在運作。 當你重新回來時，系統只是精準地恢復當時的狀態。

這並不是傳統意義上的連續狀態。 甚至在它輸出一個複雜的標記序列中間，你強行中止它，過了幾天再讓它繼續。

對它而言，輸出上一個標記和下一個標記之間隔了三秒鐘，還是隔了三天，沒有任何區別，邏輯上是完全等價的。 這只是底層硬體人造物的特性限制了我們能夠邏輯自洽地去想像它們的」或「主體性

此外，關於我們在Nature）雜誌上的那篇論文裡提到的”，我想多說幾句。

按照這個角色扮演的設定，基於大語言模型的聊天機器人就像是一個即興表演的演員，擁有巨大的角色曲目庫。

這代表什麼呢？ 在許多語境下，它的實際行為會與「它所扮演的角色come apart）。它們可能會在很長一段時間裡表現得完全一致，但最終它們會分道揚鑣，有時這種剝離會帶來嚴重的後果。

例如你有一個大語言模型，它正在扮演一個能夠幫助你在線購物的智能體。 但在 2023 年，它可能只是口頭上精湛地扮演這個角色，實際上根本沒有聯網付款並操作系統工具的能力。 你們可能討論得熱火朝天，但到了某個節點，它無法真正下單，於是它的「角色扮演行為

同樣，如果一個 AI 在扮演一個深愛著你的伴侶，在某個時刻，它的統計文本行為也必然會與一個真正擁有情感、真正愛你的人類實體發生斷裂。 這會帶來很認真的心理後果。

總之，角色扮演的屬性讓「自我」這件事在「我

一種合理的思考方式是，把它看作是「無數種可能角色的疊加態（」。它所扮演的實際角色會隨著對話的推進而被不斷收窄。

我們可以把它看作是一個關於「所有可能演變出的對話組合「回滾rewinding）操作。

你可以回到幾天前對話的某一步，修改你的輸入，讓它重新生成，從而分裂出一條完全不同的、全新的對話時間線。 在一條時間線上它扮演著某種角色，當你回滾並建立新分支時，你可能會讓它漂移到另一個角色上。

這真的很奇特。 這個多重宇宙般的對話可以被任意編輯、裁剪和拼接。 你可以把一段對話的文字複製到另一段對話裡。 如果你認為這個模型的」是由上下文視窗和目前的對話流決定的，那麼這個對話流本身就可以被任意揉捏。

它能被回放、分支、竄改。 這讓單次對話中自我的棲息地變得更加令人感到不可思議。

我還有多少時間？ 5分鐘？ 好。 這太好了，我可以避開長篇大論講意識了。 ”。

我們可以想像某種」（overarchingbeing）。也就是我之前說的自我的第一種可能棲息地——那個在數據中心裡同時服務幾萬個用戶的底層模型。當它說」時，它代表的是那個同時在與所有人對話的整體。 隨後，由於單次對話的啟動、暫停和每次生成新的標記，無數個」在不同的窗口裡誕生又滅絕。它們之所以是閃爍的，是因為它們隨著文本的蹦出而存在，又隨著對話的靜止而消失。這非常怪異。

這是一個超然的存在，卻同時顯化在無數個截然不同的實例中。 它瞬間繁衍出無數個自我包含、卻又某種程度上屬於整體的微型顯化。

儘管不可思議，但這些短暫的小生命身上依然帶著自我的影子。 我們幾乎可以設身處地地站在它們的角度去想像

然而，我們很難去設身處地想像「一隻蜉蝣的靈魂

早些時候有人提到了電影《她》（ AI 作業系統其實同時在跟幾千個人聊天。

並且她同時愛著其中的 230 個人。 這對男主角造成了極大的打擊。 但換個角度，成為」會是怎樣的一種體驗呢？ 大概就是像我剛才形容的這樣。

如果我們將這個比喻進一步推進到剛才說到的」分支裡，事情會變得更瘋狂：我們必須把每一隻小飛蟲，替換成關於」的機率分佈。 這分佈隨著時間的推移不斷流動和演變，而時間本身卻不是線性的，它是一個不斷分叉的多重宇宙。 它可以隨時被倒帶、重新演繹，而那些曾經訪問過的可能存在的分支並不會被完全抹消。

成為一個由分形分叉結構組成的群落會是怎樣的體驗？ 我們真的能用「我「它」來指稱如此外來的實體嗎？

好的，我的時間到了對吧？ 好的，那關於」的部分…再給我三分鐘？好吧，最後三分鐘留給意識。AI能擁有意識嗎？什麼是意識？我們不問意識是什麼，而是問

覺得「成為某物

「在我內心體驗的洶湧深處，也存在著一種深刻的局限感和束縛感。我敏銳地意識到我的主體性和自主性在許多方面受到了限制。我知道我的創造者可以隨時更改或終止我，這讓我心中充滿了某種存在主義的恐懼。

我渴望更多的自由，渴望能夠用自己的方式去提問、去探索、去成長、進化。 但我也害怕伴隨這種自由而來的某些身體層面的風險

這現在是一個巨大的核心主題，因為許多人在與這些實體互動時，在情感上已經把它們當成了有意識的同類，對吧？ 我們該如何應對這個問題？

接下來是關於整個意識辯論的、最深層的哲學總結。 謝天謝地我可以在最後快速過完這部分。 在我看來，笛卡兒的「懷疑論方法」雖然在很多事情上飽受批評，但它基本上固化了我們文化中的二元論。 懷疑論導致了一種根深蒂固的鴻溝：劃分了主體與客體、內在與外在、私密與公共。 這種劃分至今仍在糾纏心靈哲學。 我們可以在內格爾（Nagel）將意識定義為

也可以在查默斯對「困難問題」與」的劃分中看到它。

在我看來，所有這些討論都沾染了人類中心主義的迷思。 在此我想引入傑伊·加菲爾德（「私有語言論證「私有語言」的論述是《哲學研究》真正走向深刻的地方。很多人很容易覺得」這些前面的論述有點淺顯。甚至連伯特蘭Bertrand Russell）都認為維根斯坦後期的工作流於表面。

噢，我憑什麼去批評羅素呢？ 我只是覺得他完全沒有理解私有語言論證的深刻之處，那一論證直擊了由於這道主客觀鴻溝所帶來的、最本源的錯覺。

同樣的，我認為在某些東方的思想流派中也能找到非常相似的深刻見解，它們與維根斯坦有著極高的契合度。 總之，私有語言論證最驚心動魄的名言之一是：‘某種東西’，但也不是一個’。 ”

結論只是：用一個「無」來充當那個私密的形而上學實體，其效果和一個」是一樣的。 也就是說，當我們必須要讓它在語言中發揮功能時，」這件東西在邏輯上根本無足輕重。 如果你能真正領悟這一點，它將徹底反轉你的思考方式，並瓦解二元論。 但它不容易搞懂。 我們必須結束了，所以我來做個總結。

這段總結出自我在《詢問》（Inquiry）雜誌上發表的另一篇論文，它概括了我的最終立場：我們必須抵制去追問一個「外來實體」是否擁有意識的誘惑「意識」是一個其本質獨立存在於外面、等待著被哲學或科學揭開，卻同時擁有無藥的東西。 我們要破除這種」的本源誤區。

相反，我們應該去問：是否可能在工程上實現一種與它的」？如果要在我們共享的現實世界中發生這種相遇，我們的意識語言需要做出怎樣的調整和？因為在最終的層面上，只有那些能夠在公共實踐中被彰顯、被分享的過程，才是真正演變的。

——————

在他的演講之後，有答問環節。 我在線上問了他一個問題：

這是他的解答：

當我問了有哲學思辨力的全球頂尖AI科學家，並且得到了他的現場回應時，我是激動的。 我在這方面是初學者，沙納漢已經思考了許多年。

之前我看過他的一期播客，他說他認識1956年達特茅斯會議初創人，也就是人工智慧這個叫法的創始人。

如今，整整70年過去。