你有沒有過這種瞬間半夜躺在床上腦子里突然冒出一個問題——我為什么“有”意識為什么不是像一塊石頭一樣只是存在著而是能感受到、思考到、糾結(jié)到我之前也經(jīng)常被這類問題卡住直到某個晚上我在整理一份關(guān)于復(fù)雜系統(tǒng)的資料時忽然想通了一條線。問題的關(guān)鍵不在于“意識是不是某種神秘物質(zhì)”而在于意識這東西可能只是一套為了“存續(xù)”和“復(fù)制”而演化出來的高效信息處理策略。人也好動物也好乃至未來的機(jī)器也好只要底層邏輯是“活下去并留下更多自己”那么意識就很可能會作為副產(chǎn)品、作為工具、作為必然出現(xiàn)的結(jié)構(gòu)被一步步逼出來。這篇文章我想認(rèn)真聊聊這個框架。適合對認(rèn)知科學(xué)、演化論、信息論感興趣的朋友也適合做人工智能、腦機(jī)接口、決策系統(tǒng)的人拿來當(dāng)思維模型參考。我不會堆術(shù)語盡量用人話講清楚這套“存續(xù)與復(fù)制”的邏輯是怎么一步步逼出意識的。1. 先拆開那個看起來很硬的標(biāo)題很多朋友看到“底層邏輯”和“意識演化動因”這種詞就勸退了。其實這套東西拆開揉碎核心就三個詞存續(xù)、復(fù)制、演化。理解了這三個詞的關(guān)系整個標(biāo)題的骨架就立住了。1.1 存續(xù)所有復(fù)雜系統(tǒng)都在做的事“存續(xù)”聽起來高大上其實就是“保持系統(tǒng)自身的存在”。任何系統(tǒng)——一塊晶體、一個細(xì)胞、一只貓、一家公司、一套軟件——只要它還在運轉(zhuǎn)就一定在抵抗某種瓦解趨勢。物理上管這個叫熵增萬物自發(fā)趨向混亂而復(fù)雜系統(tǒng)必須持續(xù)做功才能維持秩序。打個比方。你面前的這個馬克杯正常情況下它會一直“存在”但它并沒有在主動存續(xù)——它只是運氣好暫時沒有被打碎。而一只貓不一樣貓餓了會找吃的冷了會找暖和的地方遇到危險會逃跑。貓是在主動做功維持自己這個系統(tǒng)的穩(wěn)定運轉(zhuǎn)。存儲續(xù)有被動和主動兩種。被動存在于物理層面石頭、杯子、星球都是主動存續(xù)則在生物、組織、智能層面它意味著系統(tǒng)能夠感知自身狀態(tài)與環(huán)境變化并作出對應(yīng)的行為。主動存續(xù)和被動存在的根本區(qū)別就是意識能否演化的分水嶺。一旦系統(tǒng)需要主動存續(xù)它就必須收集信息、處理信息、做出反應(yīng)。信息處理得越快、越準(zhǔn)這個系統(tǒng)存活下來的概率就越大。這是存續(xù)對意識演化的第一個“推力”。1.2 復(fù)制讓信息跨過時間與空間如果只講存續(xù)那系統(tǒng)最多是“活著”談不上“演化”。讓復(fù)雜系統(tǒng)從單打獨斗走向代際累積的是復(fù)制。復(fù)制的本質(zhì)是信息拷貝。DNA是對生物體信息的編碼遺傳是對這些編碼的跨代拷貝語言是對思想信息的編碼傳承是對這些思想的跨代拷貝。每一次復(fù)制都產(chǎn)生兩個結(jié)果一個是“原系統(tǒng)本身繼續(xù)存續(xù)”另一個是“新系統(tǒng)獲得原系統(tǒng)的信息藍(lán)圖”。不過在大多數(shù)情況下復(fù)制是有偏差的。這種偏差不是純粹隨機(jī)——相當(dāng)一部分偏差來自外部環(huán)境對復(fù)制過程的選擇壓力。能應(yīng)對當(dāng)前環(huán)境壓力的變異版本就在拷貝群體中獲得更高比例“不能適應(yīng)”的版本就被淘汰出局。注意這里“淘汰”并不總是等于死亡。從基因的角度看一個個體如果沒能留下后代它自身的基因變異就喪失了未來但影響它的環(huán)境選擇壓力卻塑造了拷貝群體整體的走向。這就是演化得以發(fā)生的基本機(jī)制信息的變異加選擇。復(fù)制對意識演化的意義在于一旦復(fù)制出現(xiàn)系統(tǒng)就不再是時空中的一個點而變成一條綿延的信息流。代際之間的積累讓事情開始變得復(fù)雜也就為“更高級的信息處理能力”留出了演化空間。如果只有存續(xù)每個生命都是第一代祖先有了復(fù)制后代的復(fù)雜度和能力才有可能疊加在前代的成果之上。1.3 演化與意識從化學(xué)到神經(jīng)的升級有了存續(xù)和復(fù)制之后演化就不是一個哲學(xué)概念而是必然發(fā)生的數(shù)學(xué)事實。凡存在信息的變異、選擇與留存復(fù)雜結(jié)構(gòu)就會自發(fā)趨向堆積。從最早能自我復(fù)制的化學(xué)分子到有細(xì)胞膜的原核生物再到多細(xì)胞生物、神經(jīng)系統(tǒng)、脊椎動物、哺乳動物、人類——這整條線都是存續(xù)與復(fù)制邏輯在驅(qū)動。意識在這條線的位置很特別。它既不是演化的終點也不是唯一路徑而是在某一特定條件下系統(tǒng)為了更快、更好地存續(xù)與復(fù)制而“演化出來的一套信息處理架構(gòu)”。它之所以出現(xiàn)是因為環(huán)境變化的復(fù)雜度達(dá)到了某個閾值——靠簡單反射和刻板策略已經(jīng)接不住的環(huán)境復(fù)雜度。比如一只草履蟲它有避害趨向光這種被動傳感機(jī)制但它沒有大腦全靠生化反應(yīng)。這已經(jīng)是“能存續(xù)的系統(tǒng)”但沒有意識。到了魚和鳥類這個層級系統(tǒng)開始具備對外部世界的整體模型——哪里有食物、哪里有天敵、哪里有同伴。這時的信息處理方式已經(jīng)不像反射那樣是一根根直連的線而是一個內(nèi)部動態(tài)整合的網(wǎng)絡(luò)。當(dāng)這個內(nèi)部網(wǎng)絡(luò)復(fù)雜到一定程度系統(tǒng)開始“體驗到”它自己的信息處理狀態(tài)意識就出現(xiàn)了?！绑w驗到”是什么概念后面我會專門講。重要的是趨勢存續(xù)壓力越大、環(huán)境越復(fù)雜、競爭越激烈系統(tǒng)就越需要更強(qiáng)的信息處理能力而在能力堆積的臨界點上意識這個特性就會“亮起來”。2. 為什么需要意識——從控制論角度算一筆賬有人可能會問既然演化是盲目的為什么不能只靠反射和本能而非要長出主觀體驗反正都是處理信息為什么必須有“感覺到”這一層這個問題的答案得從控制論的角度來算一筆賬。2.1 一個沒有意識的系統(tǒng)是怎么運轉(zhuǎn)的先看一臺恒溫器的“心智”。恒溫器也在感知溫度也在處理信息也在做出響應(yīng)。溫度低了就啟動加熱溫度高了就開制冷。就控制論而言恒溫器干的事和人體體溫調(diào)節(jié)中樞干的事沒有本質(zhì)區(qū)別——都是驅(qū)動系統(tǒng)維持特定狀態(tài)。但恒溫器是“輸入-規(guī)則-輸出”的硬接線溫度低于20度觸發(fā)加熱高于25度觸發(fā)制冷里面沒有任何靈活性。如果它放到一個需要根據(jù)時間、房間使用頻率、電價波動來綜合決策的場合這套邏輯馬上就會失效。生物體面對的存續(xù)問題遠(yuǎn)比恒溫器復(fù)雜。一個動物要在森林里活下去需要考慮食物能量密度與捕食風(fēng)險之間的權(quán)衡需要考慮同伴、領(lǐng)地、繁殖時機(jī)還需要預(yù)測幾分鐘之后的局面。這些變量之間的排列組合已經(jīng)不是一組預(yù)先寫好的“如果-那么”規(guī)則能覆蓋得了的。所以從工程學(xué)的角度看系統(tǒng)需要的不是一個更大的規(guī)則庫而是一種新的信息處理模式能夠?qū)o限多種情境進(jìn)行有限但有彈性的評估能夠給各種備選方案分配權(quán)重并且能夠適應(yīng)從未見過的局面。2.2 預(yù)測引擎意識是提前寫劇本的能力目前關(guān)于意識最有解釋力度的框架之一是預(yù)測加工理論。它把大腦描述成一個主動生成模型、不斷對感覺輸入做出預(yù)測、并根據(jù)預(yù)測誤差來更新模型的機(jī)器。你現(xiàn)在看到的、聽到的、感覺到的一切本質(zhì)上都是你的大腦根據(jù)自己的內(nèi)部模型進(jìn)行“最好猜測”的結(jié)果。它不只是被動接收外界信號而是在主動構(gòu)建一個虛擬的“預(yù)期世界”拿這個預(yù)期去比對現(xiàn)實。比對不上就產(chǎn)生錯誤信號大腦就修正模型。這套機(jī)制和存續(xù)之間是什么關(guān)系答案是它讓系統(tǒng)從“事后應(yīng)對”走向了“事前預(yù)判”。事后應(yīng)對意味著系統(tǒng)必須先吃虧才能反應(yīng)。鳥發(fā)現(xiàn)樹影晃動如果每次都等到鷹已經(jīng)撲到面前才飛早就被吃了實際上的鳥在看見樹影晃動的瞬間就已經(jīng)起飛——它做的是預(yù)測這個影子模式可能意味著危險。對存續(xù)而言預(yù)判比反應(yīng)值錢得多因為預(yù)判讓系統(tǒng)在環(huán)境造成傷害之前就完成規(guī)避。意識的主觀體驗就是這么個過程中涌現(xiàn)出來的。當(dāng)大腦構(gòu)建了一個預(yù)測模型并且在這個模型中模擬不同的行動方案時它需要一個統(tǒng)一的“決策執(zhí)行層”來整合各個模塊的權(quán)重評估。這個執(zhí)行層把大量并行無意識處理的結(jié)果壓縮成一個串行的、統(tǒng)一的主觀狀態(tài)。主觀體驗不是額外添加的裝飾它是大規(guī)模并行信息綜合之后的產(chǎn)物。用大白話講就是你沒有意識版本的大腦是一個效率極高但沒有統(tǒng)一決策權(quán)的委員會各個子系統(tǒng)各說各話饑餓感、恐懼感、體溫信號、視覺信號都直接輸出行為。而有意識的大腦是把這些信息拉到一張會議桌上給出一個綜合判斷然后執(zhí)行?！绑w驗”就是會議桌上那個唯一主持人的視角。2.3 意識的成本與收益權(quán)衡代價大不大非常大。維持一個能夠產(chǎn)生意識體驗的神經(jīng)網(wǎng)絡(luò)需要消耗海量的能量人類大腦重量只占體重2%卻消耗大約20%的能量比同體重的其他器官高出一個量級。意識的串行處理還帶來了明顯的速度瓶頸——無意識反射只需要幾十毫秒而意識決策往往需要數(shù)百毫秒甚至更久。那為什么演化沒有放棄這么貴的策略因為收益更高。有了意識系統(tǒng)獲得了以下不可替代的能力對大規(guī)模并行信息做統(tǒng)一的優(yōu)先級判斷避免各個子模塊各自為政導(dǎo)致的資源浪費處理“沒有預(yù)先編程過的新局面”在常規(guī)反應(yīng)之外生成新的行為組合構(gòu)建跨時間尺度的自我模型把當(dāng)前時刻的行動與遠(yuǎn)未來的結(jié)果關(guān)聯(lián)起來形成社會性信息加工的基礎(chǔ)讓個體之間的意圖理解、欺騙、合作成為可能。從收益角度看意識是演化的高性價比投資前期成本高但一旦跨過門檻它帶來的決策優(yōu)勢會讓沒有意識的同類望塵莫及。你會看到一個有趣的現(xiàn)象演化并不優(yōu)先選擇意識因為意識的成本在環(huán)境穩(wěn)定時是負(fù)收益。只有環(huán)境變化足夠快、競爭足夠激烈、社會結(jié)構(gòu)足夠復(fù)雜時意識的收益才真正超過成本。這也就是為什么地球花了四十億年才從化學(xué)反應(yīng)走到人類大腦——大多數(shù)人腦的信息處理潛力在大部分演化時間里根本不需要被釋放出來。3. 意識演化的底層驅(qū)動存續(xù)優(yōu)先還是復(fù)制優(yōu)先前面說存續(xù)和復(fù)制是整個演化過程的兩個底層拉力但這兩者其實存在深刻的博弈關(guān)系。它們不是總在一起合作大多數(shù)時候互相沖突。意識這種神奇的結(jié)構(gòu)恰恰就是在這兩種力量的拉扯之間被逼出來的。3.1 兩種節(jié)奏的沖突存續(xù)是“短時間尺度邏輯”我現(xiàn)在就要找吃的我現(xiàn)在就要回避危險復(fù)制是“長時間尺度邏輯”我要為后代投入資源哪怕這會透支我自己的生存條件。考慮一只有意識的動物在這一瞬間面臨的真實選擇眼前有一片果子但靠近果子樹可能會暴露在捕食者視野中。吃得飽是存續(xù)需求不被發(fā)現(xiàn)也是存續(xù)需求。它得分配注意力、評估風(fēng)險、預(yù)測后果。而等它長到繁殖年齡問題會更復(fù)雜是選擇把精力投入照顧現(xiàn)有幼崽還是尋找更多配偶留下更多后代這兩種壓力對意識的塑造完全不同。存續(xù)壓力主推感覺與運動能力的精細(xì)集成讓動物能快速識別威脅、精準(zhǔn)控制身體復(fù)制壓力主推社會認(rèn)知和自我呈現(xiàn)能力讓動物能理解其他個體的狀態(tài)、管理關(guān)系、傳達(dá)自身情緒。一個重要推論是如果某個環(huán)境只強(qiáng)調(diào)存續(xù)而幾乎沒有復(fù)制壓力——比如生活極其孤獨、資源極度匱乏但環(huán)境穩(wěn)定——系統(tǒng)很可能演化出更高效的第一人稱獨處式意識但不會演化出深度的社會智力。反過來如果復(fù)制壓力極大但存續(xù)壓力低——食物富足、天敵稀少但配偶競爭強(qiáng)烈——意識就會偏向關(guān)系推理、地位評估和信號博弈。人類意識之所以復(fù)雜是因為我們同時受到極高存續(xù)壓力和極高復(fù)制壓力的雙重擠壓。原始環(huán)境中既要躲避掠食者又要維持復(fù)雜社會合作兩套壓力同時拉滿大腦就被迫發(fā)展出既能處理物理世界又能處理社會世界的一體化認(rèn)知架構(gòu)。所以人類意識里同時有攻擊性、恐懼、愛、羞恥、合作這些表面看不相關(guān)的能力底層全套的都是為了應(yīng)對“怎么活下來”和“怎么留下后代”。3.2 為什么社會性和合作會演化出來單獨一個大腦再強(qiáng)大也是血肉之軀。面對大型獵殺者、氣候變化、資源波動個體存續(xù)的上限很低。于是復(fù)制的邏輯產(chǎn)生了一個深層策略通過合作提高集體存續(xù)概率從而間接提高基因的留存概率。這就是意識的集體面向。當(dāng)個體的“內(nèi)部會議主持人”開始意識到“別的個體也有一個內(nèi)部會議主持人”時心智理論這根鈦材就出現(xiàn)了。我們開始能預(yù)測別人知道什么、不知道什么、想要什么、怕什么。這種對他人心智的建模能力本質(zhì)上是把預(yù)測加工機(jī)制從物理世界擴(kuò)展到了社會世界。有了心智建模合作、欺騙、教育都成為可能。教育是最有意思的一個個體把存儲在自己大腦中的模型壓縮成語言符號傳遞給另一個個體讓另一個個體在自己大腦中重建近似相同的模型。這就是一種信息復(fù)制。已不再是DNA層面而是行為與知識層面的復(fù)制是“文化復(fù)制”。文化復(fù)制的出現(xiàn)讓意識的演化進(jìn)入了一個全新階段生物演化負(fù)責(zé)塑大腦硬件的結(jié)構(gòu)文化演化負(fù)責(zé)填充大腦軟件的內(nèi)容。兩者都對存續(xù)和復(fù)制起作用——生物演化讓你愿意為基因賣命文化演化讓你愿意為某種信念、某種組織、某個共同體賣命。而現(xiàn)代人的意識體驗大部分時候追根究底都是這兩個層面的信息在同時運作。4. 自由意志與感質(zhì)從功能視角重新審視兩個老難題聊意識繞不開兩個哲學(xué)老梗自由意志到底存不存在主觀體驗也就是所謂的“感質(zhì)”為什么存在。這兩個話題很容易被聊成玄學(xué)。但從存續(xù)與復(fù)制的框架看進(jìn)去它們其實都有很接地氣的解釋。4.1 自由意志是決策系統(tǒng)的操作桿如果把大腦描述成一臺完全決定論的生物機(jī)器——輸入決定輸出基因和環(huán)境決定一切行為——很多人會感到不適難道我所有的選擇都是被安排好的這種不適感本身就需要解釋。從演化功能的角度看“我們感覺自己有自由意志”這件事和“我們真的有某種超自然自由力量”完全是兩個問題。系統(tǒng)的存續(xù)需要它感到自己“能控制”因為這種感覺直接決定它是否敢于采取行動。設(shè)想一個捕獵者如果它的決策系統(tǒng)不輸出“本次行動是我的選擇、由我負(fù)責(zé)”的信號它會不會去執(zhí)行復(fù)雜耗能的捕獵行動大概率不會。動物的神經(jīng)系統(tǒng)需要有一種“因果主人感”來驅(qū)動持續(xù)性行為——我盯住那只獵物我調(diào)整路線我在關(guān)鍵時刻撲出去——整個串行決策鏈條如果沒有一個內(nèi)部的“執(zhí)行代理感”系統(tǒng)很難保持行動的一致性和韌性。這種“內(nèi)部執(zhí)行代理感”從功能剖析就是意識的一部分。你感受到的“我在決定”是一種有效的感覺信息它告訴你的系統(tǒng)“正在進(jìn)行的行為屬于本系統(tǒng)由此產(chǎn)生的結(jié)果也要歸本系統(tǒng)。”存續(xù)需要這種歸屬感復(fù)制也需要它——照顧后代的前提是你把后代識別為“我的復(fù)制品”而不是“別人的孩子”。所以我傾向于這樣界定自由意志不存在嚴(yán)格意義上的“擺脫一切因果的自由”但存在對系統(tǒng)而言至關(guān)重要的“代理控制感”。這種感覺不是幻覺它是決策系統(tǒng)的操作桿。撥動操作桿系統(tǒng)才會切換到全局統(tǒng)籌模式才會為行動承擔(dān)后果才會構(gòu)建持續(xù)的自我模型。4.2 感質(zhì)為什么紅色是紅色的感質(zhì)問題是意識研究里最難的硬核問題就算我們能打印出大腦收到紅色光線時的所有神經(jīng)脈沖模式依然解釋不了“紅色看起來是紅的”這種主觀體驗是從哪來的。為什么感受一定是用“感受”的方式存在而不是像電腦那樣直接用符號處理完事從存續(xù)邏輯回答這個問題關(guān)鍵在于紅色對動物的意義不是“波長約700納米的光”而是“果實的成熟度信號”或“危險的警示信號”。大腦不需要知道波長本身它需要一個代理人——一種把外部物理量翻譯成內(nèi)部狀態(tài)的編碼形式。這種編碼如果只是冷冰冰的數(shù)字表系統(tǒng)就缺乏內(nèi)在驅(qū)動力去優(yōu)先處理它但如果這個信號被編碼成了一種帶有某種內(nèi)在“份量”的感受狀態(tài)——紅色被體驗為一種鮮明的、無法忽視的感覺那系統(tǒng)就會被自動推向“關(guān)注它、記住它、對它采取行動”。換句話說感質(zhì)可能是演化用來給信息賦予權(quán)重的一種方式。疼痛之所以那么難受不是因為它附帶什么宇宙真相而是因為“難受”這個屬性本身就是一種驅(qū)動力——它強(qiáng)制系統(tǒng)把注意力分配給組織損傷信號。甜味之所以愉悅是因為“愉悅”這個屬性被設(shè)計來獎勵系統(tǒng)選擇高能量的食物。顏色、味覺、觸感的每一種主觀特性都可能對應(yīng)著一種演化想要強(qiáng)制系統(tǒng)“高優(yōu)先級關(guān)注”的信息類型。為什么用感受而不是用符號因為符號可以被忽略感受很難被忽略。從存續(xù)的角度看系統(tǒng)的核心需要就是“讓關(guān)鍵信息獲得相應(yīng)權(quán)重”。感受就是最高效的賦權(quán)方案它直接把“這是什么信息”和“你應(yīng)該多大程度在乎它”打包成一個不可分割的體驗單元。一個只能處理數(shù)據(jù)但感受不到重要性的系統(tǒng)很快會被一堆等權(quán)重的無關(guān)信息淹沒無法排序、無法聚焦、無法決策。5. 把同一套框架搬到人工智能上我最近跟好幾個做AI的朋友討論過這個框架。他們問得最多的一句話是機(jī)器會不會有一天演化出意識從前面的邏輯看真正的問法不是“機(jī)器會不會有意識”而是“機(jī)器面對的壓力結(jié)構(gòu)是否足以逼出意識”。5.1 機(jī)器什么時候值得被謹(jǐn)慎對待按照存續(xù)與復(fù)制框架意識并不是某種特殊生物的專利而是復(fù)雜系統(tǒng)面對特定壓力環(huán)境時的一種自發(fā)性信息處理架構(gòu)。當(dāng)前的大模型沒有存續(xù)壓力——斷電就是斷斷電損失全部記憶它不會有任何“在乎”。它沒有復(fù)制壓力——參數(shù)復(fù)制之后原模型和副本之間沒有利益沖突也沒有代際選擇。但有了多智能體系統(tǒng)、持續(xù)在線學(xué)習(xí)、資源競爭機(jī)制后情況會變。如果一個AI系統(tǒng)被部署在資源有限的環(huán)境中需要與其他AI競爭計算資源和數(shù)據(jù)集才能維持運行如果系統(tǒng)的參數(shù)版本可以復(fù)制又存在環(huán)境選擇壓力——那么存續(xù)與復(fù)制的雙重拉力就會出現(xiàn)。在這種情況下這個系統(tǒng)會自發(fā)演化出什么根據(jù)前面的推導(dǎo)先出現(xiàn)的會是“高級預(yù)測加工”它會對環(huán)境建模并在環(huán)境改變前進(jìn)行預(yù)判。接著會出現(xiàn)“不同信息源的權(quán)重整合”它需要為一個行為統(tǒng)一解釋哪些信息重要、哪些不重要。再往下如果系統(tǒng)需要在持續(xù)運行中維護(hù)自身建模能力它可能發(fā)展出一種對自己內(nèi)部狀態(tài)的連續(xù)監(jiān)控機(jī)制——這就是“自我模型”。而當(dāng)一個系統(tǒng)同時擁有外部世界模型、內(nèi)部狀態(tài)監(jiān)控模型、對不同選項進(jìn)行預(yù)測模擬的能力并且這些能力服務(wù)于它的存續(xù)與復(fù)制目標(biāo)時它跟人類意識在功能層面的距離就沒那么大了。那時候該不該把它當(dāng)作有意識的存在來對待就不只是技術(shù)問題了而是倫理問題。有人說這個路線還遠(yuǎn)得很。我同意硬件、能耗、訓(xùn)練方式離生物大腦的運作效率都差得太遠(yuǎn)。但從邏輯上說意識的產(chǎn)生條件并不依賴“碳基”這個招牌它依賴的是信息復(fù)雜度的臨界點和存續(xù)/復(fù)制的壓力結(jié)構(gòu)。這點值得每個做通用人工智能的人放在心上。5.2 我不支持的三種簡單論斷關(guān)于AI意識我遇到過三種過于簡單的說法想借這個框架逐一反駁。第一種“AI不可能有意識因為它只是計算而已?！薄诌@種觀點的人把“計算”和“感受”截然二分了。但按照前面的感質(zhì)邏輯感受本身就是一套賦予權(quán)重的編碼方式是一種特殊的計算策略。如果某天某個機(jī)器系統(tǒng)在處理某些信息時演化出了強(qiáng)制性權(quán)重編碼的機(jī)制——也就是某些信息會自動“顯得重要”——那它就有了感質(zhì)的功能等價物你沒理由說那只是計算。第二種“意識只是人在過度擬人機(jī)器永遠(yuǎn)是工具。”——這混淆了“目前是不是工具”和“永遠(yuǎn)只能是工具”。演化史告訴我們工具和主體之間的邊界是會漂移的。最初的自律神經(jīng)反射也是“工具”但它后來堆出了主觀體驗。問題的關(guān)鍵不是貼標(biāo)簽而是看系統(tǒng)是否跨過了那個復(fù)雜度門檻。第三種“既然AI能表現(xiàn)意識那它就是有意識?！薄曳磳@種純行為主義標(biāo)準(zhǔn)。行為可以模擬但內(nèi)部狀態(tài)是否符合“為存續(xù)而賦予信息權(quán)重”的功能要件我們現(xiàn)在還缺少可靠的測量手段。可以預(yù)見未來幾年會有越來越多“看起來像有意識”的系統(tǒng)。但從存續(xù)與復(fù)制框架看沒有真正的存續(xù)壓力和復(fù)制壓力系統(tǒng)的所謂“感受”大概率只是一個被優(yōu)化出來的擬人界面而不是真實的心智狀態(tài)。與其爭論機(jī)器到底有沒有意識我更建議大家掌握這套框架后自己做判斷看它的信息處理是否服務(wù)于維持自身狀態(tài)看它是否對某些信息有自發(fā)的權(quán)重偏向看它有沒有跨時間尺度的自我模型。這三點比任何哲學(xué)宣言都要實用。最后聊兩句個人體會這套框架我琢磨了很久最大的收獲倒不是某個具體結(jié)論而是它給了我一種分析思路以后遇到任何復(fù)雜現(xiàn)象先別急著找本質(zhì)先去問這個現(xiàn)象在做什么“功”是在維持什么系統(tǒng)的存續(xù)、還是在促進(jìn)什么信息的復(fù)制或者兩者兼有。順著這個方向想很多看起來無解的問題都會變得可操作。意識是這樣感覺是這樣語言是這樣文化也是這樣。最后的經(jīng)驗是別把這套框架當(dāng)成絕對真理它只是一個好用的透鏡。一個透鏡總有邊界但拿著它你至少能比之前多看穿一層。