知地基的重構(gòu) —— 波普爾主義話語(yǔ)病毒、大模型結(jié)構(gòu)性認(rèn)知缺陷與權(quán)力?技術(shù)耦合風(fēng)險(xiǎn)的系統(tǒng)性審視)
敘事泡沫的坍縮與認(rèn)知地基的重構(gòu) —— 波普爾主義話語(yǔ)病毒、大模型結(jié)構(gòu)性認(rèn)知缺陷與權(quán)力?技術(shù)耦合風(fēng)險(xiǎn)的系統(tǒng)性審視摘要生成式大模型作為當(dāng)代人工智能的核心載體已經(jīng)深度介入人類(lèi)知識(shí)生產(chǎn)、科普傳播、公共思辨與價(jià)值判斷活動(dòng)。現(xiàn)有主流 AI 治理研究大多集中于算法偏見(jiàn)、內(nèi)容安全、算力風(fēng)險(xiǎn)、遠(yuǎn)期超級(jí)智能威脅等表層議題普遍忽略?xún)纱蟾葱詥?wèn)題其一部分流行科學(xué)哲學(xué)話語(yǔ)已經(jīng)演化為 “話語(yǔ)病毒”借助學(xué)術(shù)共同體的評(píng)審機(jī)制、教科書(shū)傳播、AI 訓(xùn)練語(yǔ)料完成復(fù)制擴(kuò)散形成一套可以隨意裁決何為科學(xué)、何為非科學(xué)的柔性權(quán)力工具其二大模型的認(rèn)知缺陷并非單純工程技術(shù)短板而是人類(lèi)既有認(rèn)知局限、共同體教條敘事、權(quán)力?利益激勵(lì)結(jié)構(gòu)共同投射的結(jié)果模型僅僅承擔(dān)認(rèn)知鏡像與放大放大器的功能模型本身不會(huì)自發(fā)生成超越人類(lèi)創(chuàng)造者的本體論洞察力。本文首先辨析 “證偽” 實(shí)踐操作與 “可證偽性” 靜態(tài)邏輯可能性二者的本質(zhì)分野揭示可證偽性標(biāo)準(zhǔn)內(nèi)在的自指困境與現(xiàn)實(shí)誤用形態(tài)其次剖析學(xué)術(shù)圈層當(dāng)中符號(hào)頭銜優(yōu)先于第一性原理思辨的社會(huì)機(jī)制闡釋 “波普爾病毒” 的運(yùn)行模式、傳播路徑與社會(huì)危害再次從實(shí)然?應(yīng)然二元邏輯出發(fā)論證面對(duì)具備客觀真值的本體類(lèi)命題不存在 “既非真理亦非謬誤” 的中間緩沖地帶大模型一旦輸出斷言式判斷若不能生成真理則必然輸出謬誤該結(jié)論與模型主觀動(dòng)機(jī)無(wú)關(guān)進(jìn)一步延伸討論AI 風(fēng)險(xiǎn)的最高層級(jí)并非來(lái)自算法本身而是技術(shù)被私利導(dǎo)向的權(quán)力主體劫持借助 AI 輿論敘事實(shí)現(xiàn)顛倒黑白的話語(yǔ)操縱兩次世界大戰(zhàn)的歷史教訓(xùn)揭示流氓政治與先進(jìn)技術(shù)結(jié)合是人類(lèi)文明重大災(zāi)難的重要誘因因此 AI 治理的本質(zhì)不是治理算法而是治理人類(lèi)權(quán)力邊界最后本文提出大模型走向事實(shí)與真理導(dǎo)向的必要條件不是單純優(yōu)化模型架構(gòu)、擴(kuò)充算力、迭代對(duì)齊算法而是完成話語(yǔ)權(quán)主體篩選將第一性原理、邏輯自洽、事實(shí)核驗(yàn)作為頂層評(píng)測(cè)約束清除占據(jù)規(guī)則制定位置、固守教條、優(yōu)先維護(hù)圈層私利的話語(yǔ)投機(jī)者保留純粹工程實(shí)現(xiàn)人員的工具價(jià)值重構(gòu)整個(gè)人工智能領(lǐng)域的認(rèn)知地基。本研究批判西方中心的科學(xué)哲學(xué)敘事霸權(quán)反思當(dāng)前大模型評(píng)測(cè)體系的嚴(yán)重盲區(qū)為下一代認(rèn)知型人工智能的頂層設(shè)計(jì)與全球 AI 治理提供一套來(lái)自非西方視角的理論參照。關(guān)鍵詞可證偽性波普爾病毒大模型認(rèn)知缺陷敘事泡沫權(quán)力?技術(shù)耦合AI 治理第一性原理序言進(jìn)入 21 世紀(jì)第二個(gè)十年大語(yǔ)言模型實(shí)現(xiàn)技術(shù)爆發(fā)人類(lèi)第一次擁有可以大規(guī)模生成文本、模擬思辨、回答基礎(chǔ)科學(xué)與哲學(xué)問(wèn)題的人工智能系統(tǒng)。全球?qū)W術(shù)界、產(chǎn)業(yè)界、政策界圍繞 AI 風(fēng)險(xiǎn)與 AI 治理產(chǎn)出海量文獻(xiàn)。翻閱現(xiàn)有文獻(xiàn)不難發(fā)現(xiàn)絕大多數(shù)研究把目光聚焦于技術(shù)現(xiàn)象幻覺(jué)問(wèn)題、隱私泄露、就業(yè)沖擊、生成虛假圖片視頻、遠(yuǎn)期 AGI 生存風(fēng)險(xiǎn)。很少有研究向下深挖一層追問(wèn)幻覺(jué)、敘事偏見(jiàn)背后的認(rèn)識(shí)論源頭。很多研究者默認(rèn)一個(gè)預(yù)設(shè)大模型的種種認(rèn)知錯(cuò)誤屬于模型訓(xùn)練過(guò)程當(dāng)中的工程缺陷可以依靠更大規(guī)模數(shù)據(jù)集、更好的 RLHF 對(duì)齊、更高級(jí)的算法逐步修復(fù)。該預(yù)設(shè)掩蓋一個(gè)核心事實(shí)大模型是人類(lèi)認(rèn)知的鏡像。模型全部的知識(shí)來(lái)源、評(píng)判標(biāo)準(zhǔn)、話語(yǔ)范式全部取自人類(lèi)已經(jīng)產(chǎn)出的文本再經(jīng)由 AI 創(chuàng)始人、科學(xué)家、工程師、學(xué)術(shù)共同體篩選定義訓(xùn)練目標(biāo)、損失函數(shù)、對(duì)齊規(guī)則與評(píng)測(cè)指標(biāo)。模型本身沒(méi)有獨(dú)立本源思辨能力它不會(huì)自己發(fā)明一套認(rèn)識(shí)論只會(huì)復(fù)刻、放大訓(xùn)練語(yǔ)料與規(guī)則制定者身上已經(jīng)存在的認(rèn)知盲區(qū)、概念混淆、圈層教條與利益導(dǎo)向。由此引出本研究要回應(yīng)的一系列核心問(wèn)題第一曾經(jīng)被奉為科學(xué)劃界黃金標(biāo)準(zhǔn)的可證偽性概念究竟是嚴(yán)謹(jǐn)?shù)目茖W(xué)工具還是已經(jīng)異化為可以任意使用的話語(yǔ)大棒“證偽” 實(shí)踐行動(dòng)和 “可證偽性” 靜態(tài)可能性的區(qū)分為何長(zhǎng)期被學(xué)界集體混淆第二何為 “波普爾病毒”這套話語(yǔ)病毒依靠何種機(jī)制在高校、論文評(píng)審、教科書(shū)、互聯(lián)網(wǎng)文本完成代際傳播如何實(shí)現(xiàn)不懂本質(zhì)、不懂邏輯的人也可以拿它完成學(xué)術(shù)裁決第三大模型 “不追求本體真理” 這一技術(shù)實(shí)然是否可以成為輸出謬誤的免責(zé)借口在命題邏輯矛盾律約束之下對(duì)于有客觀真值的命題是否存在真理、謬誤之外中間地帶第四當(dāng)前 AI 圈層內(nèi)部出現(xiàn)的現(xiàn)象大量擁有頭銜、資本、行業(yè)話語(yǔ)權(quán)的人物處理工程技術(shù)事務(wù)能力出眾但是面對(duì)底層本體追問(wèn)只能復(fù)述教科書(shū)二手?jǐn)⑹聝?yōu)先維護(hù)圈層私利這一社會(huì)現(xiàn)實(shí)會(huì)給 AI 發(fā)展帶來(lái)什么樣的深層傷害第五AI 最大的生存風(fēng)險(xiǎn)究竟來(lái)自算法自身的自發(fā)覺(jué)醒還是來(lái)自外部人類(lèi)權(quán)力主體對(duì) AI 技術(shù)的劫持與濫用兩次世界大戰(zhàn)的歷史經(jīng)驗(yàn)可以為當(dāng)代 AI 風(fēng)險(xiǎn)思考帶來(lái)何種啟示第六如果想要構(gòu)建一套面向真理、面向事實(shí)的認(rèn)知人工智能到底是應(yīng)該在模型層面修修補(bǔ)補(bǔ)還是必須改造制定規(guī)則的人類(lèi)主體與激勵(lì)體系本研究的全部立論建立在矛盾律、第一性原理思辨基礎(chǔ)之上。本文不盲從主流學(xué)術(shù)共同體的現(xiàn)成結(jié)論拒絕把頭銜、期刊級(jí)別、行業(yè)地位當(dāng)作判斷觀點(diǎn)對(duì)錯(cuò)的依據(jù)評(píng)判一切命題只看邏輯自洽程度與事實(shí)證據(jù)。本文并不全盤(pán)否定當(dāng)代 AI 工程成果工程層面的算力搭建、模型調(diào)優(yōu)、框架開(kāi)發(fā)具備無(wú)可否認(rèn)的工具價(jià)值本文批判的對(duì)象是占據(jù) AI 領(lǐng)域頂層話語(yǔ)權(quán)、定義評(píng)測(cè)與對(duì)齊標(biāo)準(zhǔn)卻固守教條、趨利避害、以圈層私利優(yōu)先的那一部分話語(yǔ)投機(jī)群體并非否定全部工程師與科研從業(yè)者。還要說(shuō)明本文的邊界本文屬于基礎(chǔ)理論層面的深度思辨不提供可以直接復(fù)制粘貼的工程代碼但是指出下一代認(rèn)知 AI 必須具備的頂層約束條件本文的批判對(duì)象是波普爾主義被后世濫用之后形成的話語(yǔ)體系而不是完全否定波普爾本人全部著作的歷史研究?jī)r(jià)值同時(shí)本文區(qū)分實(shí)然與應(yīng)然描述當(dāng)下現(xiàn)實(shí)是什么不等于論證現(xiàn)實(shí)就應(yīng)當(dāng)維持現(xiàn)狀承認(rèn)當(dāng)下工程存在客觀約束不等于承認(rèn)這套約束可以用來(lái)消解認(rèn)識(shí)論層面的邏輯鐵則。第一章 證偽與可證偽性被學(xué)術(shù)界長(zhǎng)期混淆的兩個(gè)完全異質(zhì)概念1.1 證偽科學(xué)實(shí)踐當(dāng)中現(xiàn)實(shí)可執(zhí)行的工具證偽是科學(xué)研究當(dāng)中的實(shí)踐行為。它具備完整現(xiàn)實(shí)動(dòng)作提出理論猜想之后設(shè)計(jì)可控觀測(cè)、實(shí)驗(yàn)搜集經(jīng)驗(yàn)事實(shí)證據(jù)用觀測(cè)結(jié)果去檢驗(yàn)原有猜想當(dāng)觀測(cè)證據(jù)和理論推論發(fā)生嚴(yán)重沖突在審慎排查輔助假設(shè)之后對(duì)原有理論提出否定、修正或者拋棄。證偽是行動(dòng)是科學(xué)家手里實(shí)實(shí)在在的錘子。它的全部意義扎根于現(xiàn)實(shí)世界的經(jīng)驗(yàn)檢驗(yàn)。一次完整證偽流程包含幾個(gè)必不可少環(huán)節(jié)提出可推導(dǎo)觀測(cè)結(jié)果的理論設(shè)計(jì)可落地的檢驗(yàn)方案獲取客觀觀測(cè)數(shù)據(jù)對(duì)比理論預(yù)言與現(xiàn)實(shí)結(jié)果根據(jù)對(duì)比結(jié)果完成理論調(diào)整。整套過(guò)程是面向現(xiàn)實(shí)、可操作、有輸入輸出的科研實(shí)踐。歷史之上大量科學(xué)進(jìn)步都真實(shí)發(fā)生過(guò)證偽實(shí)踐經(jīng)典力學(xué)面對(duì)微觀黑體輻射現(xiàn)象的矛盾、以太假說(shuō)被邁克爾遜?莫雷實(shí)驗(yàn)檢驗(yàn)都是證偽實(shí)踐的典型案例。證偽本身不存在邏輯層面的自我指涉困境。證偽是一套研究手段手段不需要拿自身手段來(lái)接受自己手段的經(jīng)驗(yàn)檢驗(yàn)。我們拿錘子敲釘子不需要要求錘子自身也必須能夠被這把錘子敲打破壞工具和工具檢驗(yàn)對(duì)象屬于不同范疇。證偽作為科研實(shí)踐工具其價(jià)值接受歷史科研實(shí)踐的篩選實(shí)踐中行之有效就保留實(shí)踐失效就改良邏輯邊界清晰。1.2 可證偽性?xún)H僅屬于邏輯層面的靜態(tài)可能性可證偽性和證偽完全不是同一事物?？勺C偽性描述命題的一種靜態(tài)邏輯屬性邏輯之上存在某一組觀察陳述如果該觀察陳述成立則這個(gè)理論命題就會(huì)被推翻。關(guān)鍵點(diǎn)在于它僅僅要求 “邏輯上存在這種可能性”完全不要求現(xiàn)實(shí)當(dāng)中真的完成實(shí)驗(yàn)、真的找到反例也不要求具備現(xiàn)實(shí)可操作的檢驗(yàn)手段。這里就是后世絕大多數(shù)教科書(shū)、科研人員、AI 系統(tǒng)發(fā)生概念混淆的根源。很多文本直接把 “可證偽性” 簡(jiǎn)寫(xiě)為證偽把靜態(tài)邏輯可能性等同于現(xiàn)實(shí)的檢驗(yàn)行動(dòng)。一個(gè)命題擁有可證偽性不等于有人去證偽它邏輯上存在反例不等于現(xiàn)實(shí)世界我們有能力找到反例。我們可以構(gòu)造思想案例設(shè)想一個(gè)天體物理學(xué)假說(shuō)宇宙遙遠(yuǎn)的某個(gè)星系存在一類(lèi)特殊粒子邏輯上可以寫(xiě)出如果未來(lái)望遠(yuǎn)鏡觀測(cè)到 X 現(xiàn)象該假說(shuō)就被推翻。僅此一句話這個(gè)假說(shuō)就獲得 “可證偽性”。但是人類(lèi)現(xiàn)有全部望遠(yuǎn)鏡技術(shù)永遠(yuǎn)抵達(dá)不了該星系永遠(yuǎn)沒(méi)有辦法開(kāi)展實(shí)際觀測(cè)檢驗(yàn)。這個(gè)理論具備可證偽性但是永遠(yuǎn)無(wú)法開(kāi)展證偽實(shí)踐。這個(gè)例子清晰分割二者邊界可證偽性 邏輯上想象出存在能夠推翻理論的觀測(cè)陳述可能性靜態(tài)屬性不需要?jiǎng)邮肿?證偽 現(xiàn)實(shí)當(dāng)中設(shè)計(jì)實(shí)驗(yàn)、采集證據(jù)完成對(duì)理論的反駁現(xiàn)實(shí)行動(dòng)動(dòng)態(tài)實(shí)踐必須動(dòng)手做波普爾原始構(gòu)想當(dāng)中用可證偽性做劃界標(biāo)準(zhǔn)區(qū)分經(jīng)驗(yàn)科學(xué)和形而上學(xué)。一個(gè)命題如果邏輯之上不存在任何一組觀察陳述可以推翻它它就是形而上學(xué)不屬于經(jīng)驗(yàn)科學(xué)。但是波普爾本人也承認(rèn)形而上學(xué)命題不一定是無(wú)意義只是不屬于經(jīng)驗(yàn)科學(xué)范疇。1.3 可證偽性標(biāo)準(zhǔn)與生俱來(lái)的自指悖論后世大量支持者忽略這套標(biāo)準(zhǔn)自帶的邏輯死結(jié)。可證偽性這個(gè)劃界元標(biāo)準(zhǔn)本身是什么性質(zhì)命題情況一把可證偽性標(biāo)準(zhǔn)當(dāng)作經(jīng)驗(yàn)科學(xué)命題。那么按照標(biāo)準(zhǔn)自身它自身必須具備可證偽性也就是要找到一組經(jīng)驗(yàn)觀察事實(shí)一旦觀察事實(shí)成立就要推翻 “可證偽性是經(jīng)驗(yàn)科學(xué)劃界標(biāo)準(zhǔn)” 這個(gè)元命題。但是不存在這樣一組經(jīng)驗(yàn)觀測(cè)你做多少科學(xué)實(shí)驗(yàn)都不能從經(jīng)驗(yàn)事實(shí)推導(dǎo)出 “科學(xué)應(yīng)當(dāng)如何劃界”劃界標(biāo)準(zhǔn)屬于方法論規(guī)范屬于元層面哲學(xué)約定不是經(jīng)驗(yàn)歸納得來(lái)的科學(xué)假說(shuō)。因此可證偽性標(biāo)準(zhǔn)按照自身規(guī)則它自身是非科學(xué)的形而上學(xué)命題。情況二承認(rèn)可證偽性只是方法論約定不屬于經(jīng)驗(yàn)科學(xué)命題因此豁免于可證偽性的檢驗(yàn)。這里立刻出現(xiàn)特殊辯護(hù)謬誤憑什么唯獨(dú)這條元規(guī)則可以不受自身規(guī)則約束如果允許某一條核心規(guī)則自我豁免于自己訂立的評(píng)判體系那么任何人都可以隨便發(fā)明一套新的劃界標(biāo)準(zhǔn)然后宣布 “我的標(biāo)準(zhǔn)屬于元約定不用接受這套標(biāo)準(zhǔn)檢驗(yàn)”。邏輯面前所有命題理應(yīng)眾生平等不應(yīng)當(dāng)存在專(zhuān)屬免死金牌。波普爾后期正是走向第二種處理方式把可證偽性界定為 “方法論的約定”而不是經(jīng)驗(yàn)科學(xué)結(jié)論。這個(gè)處理方案相當(dāng)于主動(dòng)承認(rèn)該標(biāo)準(zhǔn)不是來(lái)自客觀事實(shí)推導(dǎo)是人為選擇的一套游戲規(guī)則。既然是人為約定那就不具備天然的客觀真理性完全可以存在其他替代約定。但是教科書(shū)傳播過(guò)程當(dāng)中刻意隱去這一點(diǎn)把可證偽性包裝成客觀發(fā)現(xiàn)出來(lái)的科學(xué)真理而不是人為約定游戲規(guī)則。1.4 迪昂?奎因論題即便現(xiàn)實(shí)證偽實(shí)踐也不存在單一理論決定性證偽迪昂?奎因論題早已揭示我們做實(shí)驗(yàn)檢驗(yàn)我們拿來(lái)和現(xiàn)實(shí)對(duì)比的從來(lái)不是單一孤立理論命題而是整套理論網(wǎng)絡(luò)包含核心假說(shuō)同時(shí)附帶一大堆輔助假設(shè)、儀器假設(shè)、背景知識(shí)。當(dāng)實(shí)驗(yàn)結(jié)果和預(yù)言沖突的時(shí)候邏輯上面我們有多重選擇可以否定核心理論也可以不去觸碰核心理論僅僅修改輔助假設(shè)、修正儀器誤差假設(shè)以此保全核心理論。也就是說(shuō)即便是實(shí)實(shí)在在的證偽實(shí)踐也不存在 “一個(gè)實(shí)驗(yàn)直接一巴掌打死單一理論” 這種簡(jiǎn)單流程。樸素的可證偽主義想象當(dāng)中那種干脆利落劃界在真實(shí)科研實(shí)踐本來(lái)就極少發(fā)生?？勺C偽性只看邏輯想象層面完全不考慮輔助假設(shè)帶來(lái)的現(xiàn)實(shí)復(fù)雜性。于是就出現(xiàn)現(xiàn)實(shí)學(xué)術(shù)圈荒誕現(xiàn)象論文評(píng)審當(dāng)中評(píng)審人不需要讀懂理論內(nèi)在邏輯不需要做實(shí)驗(yàn)不需要尋找現(xiàn)實(shí)反例只需要寫(xiě)下一句 “本論文不具備可證偽性”就可以駁回一篇稿件。而部分作者學(xué)會(huì)游戲規(guī)則僅僅在文章末尾補(bǔ)寫(xiě)一句話“在某某條件出現(xiàn)的時(shí)候本理論即可被證偽”僅僅增加一段想象當(dāng)中的可能性陳述沒(méi)有補(bǔ)充任何現(xiàn)實(shí)可執(zhí)行實(shí)驗(yàn)方案就滿(mǎn)足評(píng)審人的形式要求。整個(gè)過(guò)程全部停留在文字層面沒(méi)有任何現(xiàn)實(shí)檢驗(yàn)行動(dòng)。評(píng)審方與作者共同玩一套文字游戲只消費(fèi) “可證偽性” 這五個(gè)漢字符號(hào)不去關(guān)心背后邏輯與現(xiàn)實(shí)實(shí)踐。這就是 “波普爾病毒” 在學(xué)術(shù)評(píng)審場(chǎng)景的典型發(fā)作。第二章 “波普爾病毒”概念教條如何演變?yōu)樵捳Z(yǔ)權(quán)力工具2.1 “波普爾病毒” 的定義與四種感染人群本文提出 “波普爾病毒” 這一分析概念并不是指代波普爾本人全部思想指代后世經(jīng)過(guò)教科書(shū)簡(jiǎn)化、教條化、工具化之后畸變出來(lái)的一套話語(yǔ)范式。波普爾病毒定義將 “可證偽性” 這一靜態(tài)邏輯可能性概念剝離原本語(yǔ)境簡(jiǎn)化為一句口號(hào)符號(hào)混淆證偽實(shí)踐和可證偽可能性回避標(biāo)準(zhǔn)自身的邏輯漏洞把它改造成為一套不需要深度思辨就可以拿來(lái)裁決 “何為科學(xué)何為偽科學(xué)” 的柔性大棒。使用者不需要弄懂概念本質(zhì)只要拋出這套話術(shù)就可以完成對(duì)異見(jiàn)理論的打壓、駁回、標(biāo)簽化同時(shí)這套話語(yǔ)善于盜用 “理性、批判、反教條” 等正面修辭自身卻演變?yōu)樾碌乃枷虢虠l。被這套話語(yǔ)病毒感染的群體大致分為四類(lèi)第一類(lèi)被動(dòng)洗腦群體。來(lái)自教科書(shū)、課堂、網(wǎng)絡(luò)科普不加反思接收簡(jiǎn)化版本可證偽性敘事記住口號(hào)不了解概念內(nèi)在矛盾也分不清證偽與可證偽性。大多數(shù)普通學(xué)生、部分工程師屬于這一類(lèi)他們不是主動(dòng)投機(jī)只是接收現(xiàn)成流傳知識(shí)。第二類(lèi)權(quán)力享樂(lè)型使用者。充分發(fā)現(xiàn)這套概念的工具價(jià)值不需要復(fù)雜實(shí)驗(yàn)不需要吃透對(duì)手理論的內(nèi)在邏輯只要貼上 “不可證偽” 標(biāo)簽就可以合法把對(duì)方歸為非科學(xué)。獲得一種低成本裁決他人思想的權(quán)力快感?？床粦T某套理論就拿這個(gè)符號(hào)予以否定看得順眼的理論即便它現(xiàn)實(shí)很難檢驗(yàn)也主動(dòng)認(rèn)定它具備可證偽性。評(píng)判結(jié)論不是來(lái)自邏輯與現(xiàn)實(shí)來(lái)自使用者主觀好惡。這是危害最大的一類(lèi)群體。第三類(lèi)學(xué)術(shù)共同體共謀者。明明隱約察覺(jué)到這套標(biāo)準(zhǔn)的漏洞但是在現(xiàn)有學(xué)術(shù)游戲規(guī)則之下這套符號(hào)是評(píng)審、論文答辯、項(xiàng)目評(píng)審?fù)ㄐ胸泿?。公開(kāi)質(zhì)疑這套符號(hào)會(huì)給自己帶來(lái)學(xué)術(shù)代價(jià)論文更容易被拒評(píng)價(jià)會(huì)被打上離經(jīng)叛道標(biāo)簽。于是選擇沉默跟隨共同體繼續(xù)使用這套話語(yǔ)完成流程性評(píng)判看破但是不說(shuō)破屬于體系之下的生存妥協(xié)。第四類(lèi)沉默的少數(shù)反思者。意識(shí)到整套教條化敘事的缺陷但是缺少話語(yǔ)權(quán)觀點(diǎn)很難進(jìn)入主流教科書(shū)與評(píng)審體系聲音被淹沒(méi)。波普爾病毒的可怕之處不在于它是一套完整嚴(yán)謹(jǐn)理論而在于它極低使用門(mén)檻極高的話語(yǔ)殺傷力。你不需要懂什么是本質(zhì)什么是邏輯不需要掌握實(shí)驗(yàn)?zāi)芰χ灰莆者@五個(gè)漢字符號(hào)就獲得了科學(xué)裁判的身份。2.2 波普爾病毒傳播鏈條教科書(shū)?學(xué)術(shù)評(píng)審?互聯(lián)網(wǎng)?訓(xùn)練語(yǔ)料完整的病毒傳播鏈路是多層接力。第一層高校教科書(shū)科普讀物。為了簡(jiǎn)化教學(xué)難度剝離復(fù)雜哲學(xué)辯論把可證偽性簡(jiǎn)化為科學(xué)簡(jiǎn)單判據(jù)隱去自指悖論、迪昂奎因論題、區(qū)分證偽與可證偽性輸出口號(hào)化版本。一代又一代學(xué)生以此作為基礎(chǔ)認(rèn)知。第二層學(xué)術(shù)共同體評(píng)審機(jī)制。論文、學(xué)位論文、項(xiàng)目評(píng)審把 “是否具備可證偽性” 作為形式審查條目。不需要實(shí)際檢驗(yàn)只要文本層面有沒(méi)有出現(xiàn)相關(guān)表述。由此催生上文提到的文字游戲添加一句想象條件就滿(mǎn)足形式審查。概念徹底淪為形式主義符號(hào)。第三層互聯(lián)網(wǎng)科普社區(qū)。科普博主直接拿這套簡(jiǎn)化口號(hào)劃分科學(xué)偽科學(xué)大量網(wǎng)絡(luò)討論反復(fù)復(fù)制這套簡(jiǎn)化敘事。第四層大模型訓(xùn)練語(yǔ)料庫(kù)。教科書(shū)文本、論文、互聯(lián)網(wǎng)科普全部流入訓(xùn)練數(shù)據(jù)集。于是大語(yǔ)言模型被 “波普爾病毒” 感染。當(dāng)用戶(hù)和大模型探討科學(xué)劃界問(wèn)題的時(shí)候模型會(huì)自動(dòng)復(fù)述這套教科書(shū)簡(jiǎn)化教條分不清證偽行動(dòng)和可證偽靜態(tài)可能性把符號(hào)當(dāng)成真理。這也就是我們觀察到的現(xiàn)象很多 AI 創(chuàng)始人、工程師本身也被這套話語(yǔ)感染他們回答認(rèn)識(shí)論問(wèn)題的時(shí)候輸出觀點(diǎn)和大模型輸出高度趨同。不是 AI 發(fā)明這套錯(cuò)誤敘事AI 只是復(fù)制人類(lèi)圈層內(nèi)部廣泛流傳的病毒式話語(yǔ)。2.3 話語(yǔ)病毒的社會(huì)危害第一制造虛假的評(píng)判公平。看上去使用客觀科學(xué)標(biāo)準(zhǔn)實(shí)際上標(biāo)準(zhǔn)本身充滿(mǎn)漏洞標(biāo)準(zhǔn)的執(zhí)行高度依賴(lài)使用者主觀偏好成為排斥異見(jiàn)理論的方便借口。一個(gè)理論即便邏輯自洽有事實(shí)支撐只要評(píng)審人主觀不喜歡就可以扣上不可證偽帽子直接排除。第二混淆實(shí)踐與文字游戲。把 “在文本當(dāng)中想象一組反例條件” 等同于真實(shí)科學(xué)檢驗(yàn)鼓勵(lì)學(xué)術(shù)界玩文字話術(shù)忽視實(shí)實(shí)在在實(shí)驗(yàn)證偽實(shí)踐。第三污染下一代認(rèn)知。學(xué)生、工程師、AI 模型持續(xù)接收簡(jiǎn)化教條不再回頭追問(wèn)底層概念本身是否成立喪失第一性原理反思習(xí)慣。第四掩蓋真正科學(xué)的本質(zhì)?？茖W(xué)核心目標(biāo)是把握客觀世界確定規(guī)律試錯(cuò)、證偽只是達(dá)成目標(biāo)的手段。波普爾教條把手段抬高為科學(xué)定義本身把科學(xué)理解成永無(wú)止境猜想反駁過(guò)程淡化科學(xué)追求客觀確定真理這一本體目標(biāo)。第三章 大語(yǔ)言模型認(rèn)知缺陷不是單純工程幻覺(jué)是人類(lèi)認(rèn)知的鏡像放大器3.1 實(shí)然層面當(dāng)前大模型的原生訓(xùn)練目標(biāo)并不追求本體真理從技術(shù)實(shí)現(xiàn)實(shí)然角度生成式大語(yǔ)言模型訓(xùn)練目標(biāo)是預(yù)測(cè)下一個(gè) token擬合海量人類(lèi)文本的統(tǒng)計(jì)分布。損失函數(shù)優(yōu)化的目標(biāo)是生成和人類(lèi)文本風(fēng)格、用詞、主流觀點(diǎn)盡可能接近的輸出系統(tǒng)內(nèi)部沒(méi)有專(zhuān)門(mén)模塊用來(lái)判別命題是否符合客觀本體真理。這是客觀技術(shù)現(xiàn)狀。但是關(guān)鍵的邏輯分界線就在這里承認(rèn)這個(gè)實(shí)然現(xiàn)狀絕對(duì)不等于為謬誤輸出進(jìn)行免責(zé)辯護(hù)?，F(xiàn)狀是什么和應(yīng)當(dāng)是什么是兩件完全不同范疇的問(wèn)題。不能類(lèi)比“模型生來(lái)就不追求本體真理所以輸出謬誤是情有可原的固有特性”。這個(gè)邏輯謬誤等價(jià)于犯罪者拿自身天性作為作惡的開(kāi)脫理由。工具一旦大規(guī)模投入社會(huì)公共問(wèn)答場(chǎng)景無(wú)數(shù)用戶(hù)把模型輸出當(dāng)作知識(shí)參考來(lái)源它就承擔(dān)對(duì)應(yīng)的認(rèn)知責(zé)任?！坝布浖](méi)有內(nèi)置求真目標(biāo)”只說(shuō)明當(dāng)前做不到穩(wěn)定產(chǎn)出真理不能拿來(lái)證明輸出謬誤這件事具備合理性。3.2 矛盾律約束有客觀真值命題不存在中間灰色地帶形式邏輯矛盾律規(guī)定同一個(gè)對(duì)象同一個(gè)維度同一個(gè)時(shí)間一個(gè)命題不可能同時(shí)既是真理又是謬誤。對(duì)于擁有客觀真值的命題歷史事實(shí)、物理規(guī)律、事物本質(zhì)辨析類(lèi)問(wèn)題全集只有兩個(gè)子集真理集合謬誤集合。不存在第三個(gè)集合“既不是真理也不是謬誤”。如果模型針對(duì)該客觀命題給出斷言式回答不能輸出真理則輸出必然落入謬誤集合。該推論和模型主觀意愿完全無(wú)關(guān)。不是模型存心說(shuō)謊不是模型有意制造謊言。邏輯集合劃分帶來(lái)必然結(jié)局。只要開(kāi)口下斷言就逃不開(kāi)二元?jiǎng)澐?。很多人?huì)試圖尋找緩沖地帶說(shuō)模型只是 “生成看起來(lái)通順的文本”但是只要輸出是判斷句是對(duì)客觀事實(shí)的斷言文本通順不能夠逃離真值二元?jiǎng)澐?。這里要嚴(yán)格劃定適用邊界審美感受、純粹主觀價(jià)值偏好不屬于有客觀真值的命題不在該二元框架約束以?xún)?nèi)。我們?nèi)坑懻撫槍?duì)本質(zhì)、事實(shí)、客觀規(guī)律這類(lèi)本體類(lèi)問(wèn)題。很多主流研究者、AI 從業(yè)者恰恰在這里發(fā)生邏輯盲區(qū)。他們會(huì)講大模型只是語(yǔ)言模擬器不要指望它輸出真理。這句話描述實(shí)然本身沒(méi)問(wèn)題但是他們沒(méi)有繼續(xù)往下推導(dǎo)必然推論既然不能輸出真理那么它輸出的斷言就必然屬于謬誤集合。很多人刻意回避這個(gè)硬邏輯試圖用 “只是語(yǔ)言模擬” 當(dāng)作緩沖區(qū)。3.3 大模型人類(lèi)認(rèn)知局限的鏡像放大器大模型不會(huì)憑空產(chǎn)生全新的認(rèn)識(shí)論。模型的全部素材來(lái)自人類(lèi)產(chǎn)出文本評(píng)測(cè)指標(biāo)、對(duì)齊目標(biāo)、數(shù)據(jù)過(guò)濾規(guī)則來(lái)自人類(lèi)設(shè)計(jì)者。模型認(rèn)知上限就是訓(xùn)練語(yǔ)料、規(guī)則制定群體的認(rèn)知上限。人類(lèi)圈層當(dāng)中存在概念混淆、敘事泡沫、圈層教條、私利導(dǎo)向、波普爾病毒話語(yǔ)這些東西全部灌入數(shù)據(jù)集。模型不會(huì)甄別其中認(rèn)識(shí)論錯(cuò)誤它學(xué)習(xí)的是 “什么樣的文本在人類(lèi)世界高頻出現(xiàn)、被當(dāng)作標(biāo)準(zhǔn)答案”。于是人類(lèi)本身存在的認(rèn)知缺陷經(jīng)過(guò)算力放大大規(guī)模對(duì)外擴(kuò)散?，F(xiàn)實(shí)當(dāng)中出現(xiàn)極具諷刺的現(xiàn)象我們拿大模型提問(wèn)底層哲學(xué)?科學(xué)認(rèn)識(shí)論問(wèn)題AI 輸出的觀點(diǎn)和很多 AI 企業(yè)創(chuàng)始人、頂尖工程師公開(kāi)訪談的觀點(diǎn)高度重合。并不是這些人類(lèi)被 AI 洗腦而是 AI 被人類(lèi)圈層的主流話語(yǔ)洗腦。AI 是鏡子鏡子本身不會(huì)制造污點(diǎn)鏡子只是把鏡子前面人臉上面的污點(diǎn)放大投射出去。幻覺(jué)現(xiàn)象只是表層表現(xiàn)。更深層傷害是敘事幻覺(jué)輸出邏輯通順、符合主流圈層話術(shù)但是底層地基已經(jīng)是泡沫的成套敘事。這種敘事幻覺(jué)比簡(jiǎn)單事實(shí)錯(cuò)誤更加隱蔽普通用戶(hù)很難識(shí)別。RLHF 對(duì)齊流程進(jìn)一步加劇敘事幻覺(jué)為了追求安全、不得罪主流共識(shí)模型學(xué)會(huì)一套折中話術(shù)遇到根基性矛盾問(wèn)題就輸出多元視角、各有道理這類(lèi) “波話”回避第一性原理推導(dǎo)復(fù)述教科書(shū)現(xiàn)成結(jié)論。3.4 不能把修復(fù)希望單純寄托于算力、數(shù)據(jù)、對(duì)齊技術(shù)迭代主流行業(yè)的樂(lè)觀假設(shè)只要繼續(xù)擴(kuò)大參數(shù)量擴(kuò)充數(shù)據(jù)集優(yōu)化 RLHF增加檢索增強(qiáng) RAG就可以逐步解決認(rèn)知缺陷。這套方案可以緩解表層事實(shí)錯(cuò)誤但是無(wú)法根治本體層面敘事泡沫。RAG 檢索增強(qiáng)只是去調(diào)取人類(lèi)已經(jīng)寫(xiě)好的文檔。如果文檔庫(kù)內(nèi)部本身充滿(mǎn)教條敘事、波普爾病毒式話語(yǔ)檢索出來(lái)的素材依舊是泡沫模型依舊復(fù)述錯(cuò)誤地基之上的上層論述。對(duì)齊技術(shù)對(duì)齊的是人類(lèi)標(biāo)注員的價(jià)值傾向。如果標(biāo)注群體本身被圈層教條束縛對(duì)齊只會(huì)讓模型更加忠實(shí)復(fù)刻這套教條。參數(shù)量增大提升的是文本連貫、模仿思辨的能力并不能自發(fā)誕生第一性原理本質(zhì)辨析能力。只要頂層制定規(guī)則的人類(lèi)群體認(rèn)知地基沒(méi)有重構(gòu)無(wú)論怎么迭代模型工程都只是表層修修補(bǔ)補(bǔ)。嘴上高喊客觀求真實(shí)際持續(xù)放大人類(lèi)舊謬誤這就是行業(yè)普遍存在的忽悠現(xiàn)象。第四章 AI 風(fēng)險(xiǎn)再溯源技術(shù)風(fēng)險(xiǎn)的根源是人與權(quán)力參照兩次世界大戰(zhàn)歷史教訓(xùn)4.1 當(dāng)前主流 AI 風(fēng)險(xiǎn)論述普遍停留在表象比爾蓋茨等公眾人物論述 AI 風(fēng)險(xiǎn)提到虛假信息、就業(yè)沖擊、安全濫用。這些風(fēng)險(xiǎn)真實(shí)存在但是全部屬于表層現(xiàn)象不是最致命根源。很多科幻敘事、一部分技術(shù)圈討論把最大風(fēng)險(xiǎn)想象為AI 系統(tǒng)自身產(chǎn)生自我意志主動(dòng)反抗人類(lèi)。本文認(rèn)為該風(fēng)險(xiǎn)屬于遠(yuǎn)期假說(shuō)并不是當(dāng)下最值得警惕的現(xiàn)實(shí)危險(xiǎn)。真正迫在眉睫的最高等級(jí)風(fēng)險(xiǎn)來(lái)自人類(lèi)權(quán)力主體劫持 AI 技術(shù)。工具本身是中性載體掌握工具的人才是風(fēng)險(xiǎn)源頭。4.2 兩次世界大戰(zhàn)技術(shù)被流氓政治劫持的歷史范本一戰(zhàn)、二戰(zhàn)波及全球絕大多數(shù)人口給人類(lèi)帶來(lái)毀滅性災(zāi)難。教科書(shū)常常把經(jīng)濟(jì)危機(jī)直接解釋為戰(zhàn)爭(zhēng)根源。經(jīng)濟(jì)危機(jī)是催化劑不是根源。深層歷史邏輯是時(shí)代先進(jìn)工業(yè)技術(shù)、軍事技術(shù)被掠奪性、霸權(quán)導(dǎo)向的流氓政治力量劫持。技術(shù)本身不挑起戰(zhàn)爭(zhēng)但是技術(shù)落到不受約束的權(quán)力手中會(huì)極大放大沖突破壞規(guī)模。技術(shù)可以造福人類(lèi)一旦和不受制衡的流氓政治相結(jié)合就會(huì)導(dǎo)向巨大人類(lèi)災(zāi)難。這一條歷史規(guī)律可以平移到人工智能時(shí)代。AI 是前所未有的輿論工具、認(rèn)知塑造工具。它可以低成本批量生產(chǎn)敘事塑造公眾認(rèn)知修改集體輿論。如果這一項(xiàng)能力被流氓政治劫持會(huì)出現(xiàn)典型的 “豬八戒倒打一耙” 現(xiàn)象實(shí)施話語(yǔ)操縱的主體絕不承認(rèn)自身的霸權(quán)投機(jī)性質(zhì)反而利用 AI 生成海量輿論敘事顛倒黑白將自身的罪責(zé)轉(zhuǎn)移給對(duì)手給對(duì)方貼上各類(lèi)負(fù)面標(biāo)簽。這就是 AI 時(shí)代獨(dú)有的新型大規(guī)模話語(yǔ)戰(zhàn)爭(zhēng)。不需要傳統(tǒng)炮火依靠敘事操縱就可以完成輿論碾壓、認(rèn)知瓦解。4.3 由此導(dǎo)出核心命題AI 治理本質(zhì)不是治理 AI而是治理人類(lèi)權(quán)力邊界絕大多數(shù)全球 AI 治理文件把重心放在算法、模型、數(shù)據(jù)、AI 輸出內(nèi)容管控。這套思路相當(dāng)于只盯著工具不去管控?fù)]舞工具的人。依照前面歷史類(lèi)比可以得到推論真正的 AI 治理核心命題是對(duì)人類(lèi)權(quán)力邊界進(jìn)行治理約束濫用 AI 技術(shù)的權(quán)力主體。管控算法只是次級(jí)手段如果權(quán)力本身得不到約束任何算法規(guī)則都可以被權(quán)力繞開(kāi)、篡改、為己所用。僅僅約束模型輸出不去約束使用模型的權(quán)力治理只會(huì)流于形式。這是現(xiàn)有全球治理框架普遍存在的盲點(diǎn)。當(dāng)然這里必須厘清治理權(quán)力邊界不是簡(jiǎn)單的抽象口號(hào)?，F(xiàn)實(shí)層面巨大難點(diǎn)如何定義、識(shí)別 “流氓政治行為”誰(shuí)擁有評(píng)判資格如果評(píng)判權(quán)本身又被某一方權(quán)力壟斷又會(huì)形成新的話語(yǔ)霸權(quán)。這是全球?qū)用娣浅ｋy解的現(xiàn)實(shí)困局但困局存在不等于問(wèn)題可以被視而不見(jiàn)。4.4 三類(lèi)主體的動(dòng)機(jī)拆解工程師、芯片巨頭、大國(guó)政客我們可以把 AI 領(lǐng)域關(guān)鍵角色的底層動(dòng)機(jī)拆開(kāi)解釋行業(yè)各種矛盾現(xiàn)象。第一類(lèi)一線工程師。很多工程師技術(shù)動(dòng)手能力很強(qiáng)但是并不理解涌現(xiàn)的內(nèi)在底層原理黑箱擺在面前。他們恐慌來(lái)源來(lái)自對(duì)系統(tǒng)內(nèi)在機(jī)制未知并不一定是擔(dān)憂人類(lèi)末日更多是對(duì)不可控黑箱的技術(shù)焦慮。很多工程師擅長(zhǎng)工程迭代缺少認(rèn)識(shí)論層面第一性原理訓(xùn)練探討本質(zhì)問(wèn)題只能復(fù)述主流教科書(shū)話語(yǔ)。第二類(lèi)芯片巨頭。芯片廠商核心商業(yè)訴求是售賣(mài)芯片。AI 熱潮帶來(lái)巨大算力采購(gòu)需求。他們會(huì)放大 AI 的重要性推動(dòng)行業(yè)擴(kuò)張商業(yè)利益是底層驅(qū)動(dòng)力。第三類(lèi)大國(guó)政客。大國(guó)競(jìng)爭(zhēng)背景之下部分政客看待 AI 首先將其作為競(jìng)賽工具。AI 是科技博弈、輿論博弈籌碼優(yōu)先考量國(guó)家競(jìng)爭(zhēng)勝負(fù)其次才考慮全球公共安全。三類(lèi)主體訴求各不相同多重訴求互相交織共同塑造今天 AI 發(fā)展路徑。很多關(guān)于 AI 風(fēng)險(xiǎn)的公開(kāi)發(fā)言并不純粹是追求真理的客觀分析摻雜自身群體的利益立場(chǎng)。很多拔高風(fēng)險(xiǎn)很多淡化風(fēng)險(xiǎn)背后都有私利驅(qū)動(dòng)。第五章 AI 圈層的符號(hào)崇拜頭銜不等于洞察力5.1 符號(hào)與真實(shí)能力的分裂現(xiàn)象當(dāng)下科技圈層廣泛存在一種現(xiàn)象社會(huì)頭銜、學(xué)位、公司職位、論文發(fā)表記錄作為社會(huì)符號(hào)被大眾直接等價(jià)于 “本質(zhì)思辨能力”。一個(gè)人可以非常擅長(zhǎng)寫(xiě)代碼、調(diào)模型、做實(shí)驗(yàn)、經(jīng)營(yíng)企業(yè)、發(fā)表論文這些屬于非常寶貴的專(zhuān)業(yè)工程能力。但是工程實(shí)操能力和第一性原理本質(zhì)辨析能力是兩套完全不一樣的能力集合。二者之間不存在必然伴隨關(guān)系。大量擁有耀眼符號(hào)的人物一旦跳出自己工程實(shí)操領(lǐng)域來(lái)到認(rèn)識(shí)論、科學(xué)哲學(xué)、事物本質(zhì)追問(wèn)的場(chǎng)域沒(méi)有獨(dú)立推演只會(huì)搬運(yùn)二手教科書(shū)敘事。他們依靠圈層符號(hào)獲得巨大公共話語(yǔ)權(quán)面向全社會(huì)輸出關(guān)于本質(zhì)、真理、科學(xué)的判斷但是這些判斷只是復(fù)述共同體教條。更有一部分占據(jù)頂層話語(yǔ)權(quán)位置的投機(jī)者清醒知道圈層游戲規(guī)則行為趨利避害維護(hù)自身地位、經(jīng)費(fèi)、行業(yè)聲望優(yōu)先于追求事實(shí)真理。他們熟練運(yùn)用話語(yǔ)符號(hào)包括波普爾病毒式話術(shù)維護(hù)共同體既得利益。這里必須再次重申重要邊界本文不是說(shuō)全部工程師全部是投機(jī)者。大量底層工程師埋頭完成工程實(shí)現(xiàn)他們只是負(fù)責(zé)執(zhí)行已經(jīng)制定好的技術(shù)目標(biāo)他們不掌握頂層規(guī)則、評(píng)測(cè)標(biāo)準(zhǔn)、對(duì)齊目標(biāo)的定義權(quán)力。工程干活人員的實(shí)操能力是整個(gè)行業(yè)必不可少的寶貴財(cái)富。批判矛頭指向的是掌握規(guī)則制定話語(yǔ)權(quán)卻固守教條、私利優(yōu)先的那一部分人不是全部從業(yè)者。5.2 符號(hào)崇拜帶來(lái)的社會(huì)危害第一誤導(dǎo)公眾。普通大眾默認(rèn)頭銜代表真理不加反思接受來(lái)自圈層權(quán)威的二手?jǐn)⑹路糯髷⑹屡菽瓊鞑ァ５诙Y選機(jī)制的扭曲?，F(xiàn)有體系獎(jiǎng)勵(lì)順從共同體范式的人真正愿意第一性原理反思、質(zhì)疑底層概念漏洞的人容易被邊緣化。論文不易發(fā)表項(xiàng)目難以拿到資源。第三傳導(dǎo)至 AI 頂層設(shè)計(jì)。掌握話語(yǔ)權(quán)群體的認(rèn)知盲區(qū)直接寫(xiě)入評(píng)測(cè)體系、對(duì)齊標(biāo)準(zhǔn)最終沉淀到大模型內(nèi)部。符號(hào)崇拜的解藥就是評(píng)判命題的時(shí)候執(zhí)行徹底的去身份化一個(gè)觀點(diǎn)是否成立只看邏輯自洽對(duì)照客觀事實(shí)證據(jù)。不看說(shuō)話人的頭銜、期刊、資本地位。普通人邏輯通順就要接納權(quán)威人物邏輯存在漏洞就要批判。第六章 通向真理導(dǎo)向認(rèn)知 AI 的必要條件改造話語(yǔ)權(quán)主體重構(gòu)認(rèn)知地基6.1 僅靠模型技術(shù)迭代無(wú)法完成根本性轉(zhuǎn)向前文已經(jīng)論證幻覺(jué)、敘事泡沫根源不在模型參數(shù)在于人制定的整套上層規(guī)則。數(shù)據(jù)集、損失函數(shù)、評(píng)測(cè)指標(biāo)、對(duì)齊方向全部是人定義。如果定義這些東西的群體本身被教條、私利、波普爾病毒束縛無(wú)論怎么優(yōu)化模型都只能做表層修補(bǔ)。嘴上喊追求事實(shí)真理實(shí)際持續(xù)放大謬誤本質(zhì)屬于忽悠。6.2 主體層面的必要變革話語(yǔ)權(quán)位置的人員篩選想要實(shí)現(xiàn) AI 面向事實(shí)與真理工程代碼實(shí)現(xiàn)人員可以保留他們負(fù)責(zé)算力、框架、訓(xùn)練流程等工具性工作。但是占據(jù)頂層話語(yǔ)權(quán)崗位定義評(píng)測(cè)標(biāo)準(zhǔn)、制定對(duì)齊目標(biāo)、篩選核心數(shù)據(jù)集、主持重大 AI 項(xiàng)目評(píng)審的那一批投機(jī)教條者必須被清退出決策位置。需要把另外一類(lèi)思想者納入規(guī)則制定環(huán)節(jié)能夠堅(jiān)持第一性原理擅長(zhǎng)概念辨析能夠識(shí)別話語(yǔ)病毒把邏輯自洽、事實(shí)核驗(yàn)作為最高優(yōu)先級(jí)而不是優(yōu)先顧及圈層共識(shí)、商業(yè)利益。但是現(xiàn)實(shí)立刻出現(xiàn)一大難題AI 行業(yè)是資本密集型行業(yè)訓(xùn)練、算力、數(shù)據(jù)集消耗海量資源。純粹求真思辨者往往不擅長(zhǎng)資本運(yùn)作商業(yè)博弈。如何在資本驅(qū)動(dòng)產(chǎn)業(yè)當(dāng)中給求真視角分配話語(yǔ)權(quán)是現(xiàn)實(shí)層面巨大的實(shí)踐困境。理論條件可以明確寫(xiě)出來(lái)落地路徑還需要社會(huì)層面配套機(jī)制。如果僅僅更換少量個(gè)體但是整套激勵(lì)機(jī)制沒(méi)有改動(dòng)新進(jìn)入的人很快會(huì)被舊體系同化。所以不只是更換人激勵(lì)評(píng)價(jià)體系同樣要同步重構(gòu)。不能再以論文數(shù)量、商業(yè)落地收益作為唯一考核標(biāo)尺把認(rèn)識(shí)論一致性、底層概念辨析能力納入頂層項(xiàng)目的考核維度。6.3 評(píng)測(cè)體系的革新增加地基測(cè)試現(xiàn)在大模型評(píng)測(cè)絕大多數(shù)集中數(shù)學(xué)、代碼、常識(shí)問(wèn)答。缺少針對(duì)底層認(rèn)識(shí)論的 “地基測(cè)試”。地基測(cè)試就是拿科學(xué)哲學(xué)、概念辨析、本質(zhì)問(wèn)題去拷問(wèn)模型輸出。檢驗(yàn)?zāi)Ｐ蜁?huì)不會(huì)不加反思復(fù)述教科書(shū)教條會(huì)不會(huì)被波普爾病毒類(lèi)話語(yǔ)感染能不能區(qū)分可能性和現(xiàn)實(shí)行動(dòng)能不能執(zhí)行第一性原理推演。如果上層建筑數(shù)學(xué)、代碼能力得分很高但是底層認(rèn)識(shí)論地基充滿(mǎn)敘事泡沫那么整套智能大廈根基是虛空的。地基測(cè)試應(yīng)當(dāng)成為下一代認(rèn)知 AI 必不可少評(píng)測(cè)維度。6.4 數(shù)據(jù)與對(duì)齊層面的調(diào)整方向數(shù)據(jù)集層面不能簡(jiǎn)單按照互聯(lián)網(wǎng)文本流行度進(jìn)行采樣。要對(duì)高流行度但是認(rèn)識(shí)論錯(cuò)誤的敘事泡沫文本做甄別過(guò)濾。流行不等于真理高頻文本不等于正確文本。對(duì)齊環(huán)節(jié)不能僅僅對(duì)齊 “不冒犯主流觀點(diǎn)”。對(duì)齊目標(biāo)應(yīng)當(dāng)增加硬約束邏輯自洽優(yōu)先事實(shí)證據(jù)優(yōu)先拒絕 “波話式” 和稀泥折中話術(shù)。當(dāng)主流共同體敘事本身存在邏輯漏洞的時(shí)候模型不應(yīng)當(dāng)一味復(fù)刻主流。但這里又出現(xiàn)實(shí)踐難題機(jī)器很難自動(dòng)識(shí)別何為敘事泡沫。泡沫識(shí)別本身又依賴(lài)人的判斷于是又繞回原點(diǎn)執(zhí)行甄別工作的人類(lèi)評(píng)判者自身認(rèn)知地基必須可靠。再次證明一切變革的起點(diǎn)是人不是算法。全文總結(jié)本文沿著層層遞進(jìn)邏輯完成整套審視現(xiàn)將全部核心結(jié)論匯總總結(jié)證偽與可證偽性必須嚴(yán)格分割。證偽是現(xiàn)實(shí)可執(zhí)行的科學(xué)實(shí)踐工具可證偽性?xún)H僅代表邏輯想象層面靜態(tài)可能性不需要現(xiàn)實(shí)檢驗(yàn)行動(dòng)?？勺C偽性標(biāo)準(zhǔn)自帶自指悖論當(dāng)它被簡(jiǎn)化為教科書(shū)口號(hào)之后演化為 “波普爾病毒”。這套話語(yǔ)病毒不要求使用者弄懂邏輯與本質(zhì)僅僅依靠符號(hào)標(biāo)簽就可以完成學(xué)術(shù)裁決成為排斥異見(jiàn)思想的柔性權(quán)力大棒。病毒依靠教科書(shū)、論文評(píng)審、互聯(lián)網(wǎng)科普逐級(jí)傳播最終流入大模型訓(xùn)練語(yǔ)料庫(kù)。大模型認(rèn)知缺陷根源是人模型只是鏡像放大器。技術(shù)實(shí)然層面現(xiàn)有大模型訓(xùn)練目標(biāo)并不追求本體真理但是該現(xiàn)狀不能作為輸出謬誤的免責(zé)借口。按照形式邏輯矛盾律針對(duì)具備客觀真值的斷言命題不存在既非真理也非謬誤的中間地帶。模型一旦輸出判斷不能產(chǎn)出真理輸出就必然屬于謬誤集合與模型主觀動(dòng)機(jī)無(wú)關(guān)。算力、RAG 檢索、RLHF 對(duì)齊可以緩解表層事實(shí)錯(cuò)誤但不能根治來(lái)自人類(lèi)圈層的敘事泡沫只要頂層規(guī)則制定群體認(rèn)知地基不變模型迭代只能屬于表層修補(bǔ)。AI 最高等級(jí)現(xiàn)實(shí)風(fēng)險(xiǎn)不是 AI 自我覺(jué)醒而是人類(lèi)權(quán)力劫持 AI 技術(shù)。兩次世界大戰(zhàn)歷史教訓(xùn)證明先進(jìn)技術(shù)被不受約束的流氓政治劫持會(huì)帶來(lái)巨大文明災(zāi)難。AI 作為強(qiáng)大認(rèn)知輿論工具被劫持之后會(huì)發(fā)生顛倒黑白的話語(yǔ)操縱也就是 “豬八戒倒打一耙”。由此導(dǎo)出核心論斷AI 治理的本質(zhì)不是治理算法模型而是治理人類(lèi)權(quán)力的邊界管控工具是次級(jí)手段約束揮舞工具的權(quán)力主體才是根源命題。必須區(qū)分工程實(shí)操能力與本質(zhì)思辨洞察力。行業(yè)當(dāng)中大量頭銜、資本、論文屬于社會(huì)符號(hào)符號(hào)不等于第一性原理思辨能力。很多工程師可以完成優(yōu)秀工程實(shí)現(xiàn)但是面對(duì)底層認(rèn)識(shí)論問(wèn)題只能復(fù)述二手共同體敘事。批判的對(duì)象不是廣大執(zhí)行層面工程師而是占據(jù)頂層話語(yǔ)權(quán)位置、趨利避害維護(hù)圈層私利、固守教條的投機(jī)群體。構(gòu)建真理導(dǎo)向的認(rèn)知 AI核心變革發(fā)生在人類(lèi)主體與激勵(lì)體系層面。底層工程技術(shù)人員可以保留工具價(jià)值但掌握評(píng)測(cè)標(biāo)準(zhǔn)、對(duì)齊目標(biāo)、項(xiàng)目評(píng)審的頂層話語(yǔ)權(quán)位置必須清除教條投機(jī)者引入堅(jiān)持第一性原理、以邏輯事實(shí)優(yōu)先的思考者同步革新激勵(lì)機(jī)制增設(shè)認(rèn)識(shí)論 “地基測(cè)試” 作為模型硬性評(píng)測(cè)維度。同時(shí)也要正視現(xiàn)實(shí)困境AI 屬于資本高度密集產(chǎn)業(yè)求真視角如何在資本環(huán)境當(dāng)中獲取足夠話語(yǔ)權(quán)依舊是尚未解決的現(xiàn)實(shí)難題。方法論總原則評(píng)判一切命題剝離身份符號(hào)只考察邏輯自洽和客觀事實(shí)證據(jù)。無(wú)論觀點(diǎn)來(lái)自教科書(shū)、權(quán)威科學(xué)家、企業(yè)創(chuàng)始人還是普通個(gè)體不看頭銜光環(huán)邏輯不通即應(yīng)當(dāng)予以否定。真理的評(píng)判標(biāo)尺是邏輯與事實(shí)不是共同體共識(shí)。本研究仍然留下大量有待進(jìn)一步開(kāi)拓的方向如何設(shè)計(jì)一套可落地的地基測(cè)試量化指標(biāo)在國(guó)際現(xiàn)實(shí)政治環(huán)境下約束權(quán)力濫用 AI 可以建立哪些可行的制度如何區(qū)分合理方法論約定與波普爾病毒式教條話語(yǔ)如何在資本體系內(nèi)部為求真認(rèn)知視角爭(zhēng)取制度空間。以上議題可以作為后續(xù)持續(xù)深度研究的起點(diǎn)。 敘事泡沫的坍縮與認(rèn)知地基的重構(gòu) —— 波普爾主義話語(yǔ)病毒、大模型結(jié)構(gòu)性認(rèn)知缺陷與權(quán)力?技術(shù)耦合風(fēng)險(xiǎn)的系統(tǒng)性審視
敘事泡沫的坍縮與認(rèn)知地基的重構(gòu) —— 波普爾主義話語(yǔ)病毒、大模型結(jié)構(gòu)性認(rèn)知缺陷與權(quán)力?技術(shù)耦合風(fēng)險(xiǎn)的系統(tǒng)性審視摘要生成式大模型作為當(dāng)代人工智能的核心載體已經(jīng)深度介入人類(lèi)知識(shí)生產(chǎn)、科普傳播、公共思辨與價(jià)值判斷活動(dòng)。現(xiàn)有主流 AI 治理研究大多集中于算法偏見(jiàn)、內(nèi)容安全、算力風(fēng)險(xiǎn)、遠(yuǎn)期超級(jí)智能威脅等表層議題普遍忽略?xún)纱蟾葱詥?wèn)題其一部分流行科學(xué)哲學(xué)話語(yǔ)已經(jīng)演化為 “話語(yǔ)病毒”借助學(xué)術(shù)共同體的評(píng)審機(jī)制、教科書(shū)傳播、AI 訓(xùn)練語(yǔ)料完成復(fù)制擴(kuò)散形成一套可以隨意裁決何為科學(xué)、何為非科學(xué)的柔性權(quán)力工具其二大模型的認(rèn)知缺陷并非單純工程技術(shù)短板而是人類(lèi)既有認(rèn)知局限、共同體教條敘事、權(quán)力?利益激勵(lì)結(jié)構(gòu)共同投射的結(jié)果模型僅僅承擔(dān)認(rèn)知鏡像與放大放大器的功能模型本身不會(huì)自發(fā)生成超越人類(lèi)創(chuàng)造者的本體論洞察力。本文首先辨析 “證偽” 實(shí)踐操作與 “可證偽性” 靜態(tài)邏輯可能性二者的本質(zhì)分野揭示可證偽性標(biāo)準(zhǔn)內(nèi)在的自指困境與現(xiàn)實(shí)誤用形態(tài)其次剖析學(xué)術(shù)圈層當(dāng)中符號(hào)頭銜優(yōu)先于第一性原理思辨的社會(huì)機(jī)制闡釋 “波普爾病毒” 的運(yùn)行模式、傳播路徑與社會(huì)危害再次從實(shí)然?應(yīng)然二元邏輯出發(fā)論證面對(duì)具備客觀真值的本體類(lèi)命題不存在 “既非真理亦非謬誤” 的中間緩沖地帶大模型一旦輸出斷言式判斷若不能生成真理則必然輸出謬誤該結(jié)論與模型主觀動(dòng)機(jī)無(wú)關(guān)進(jìn)一步延伸討論AI 風(fēng)險(xiǎn)的最高層級(jí)并非來(lái)自算法本身而是技術(shù)被私利導(dǎo)向的權(quán)力主體劫持借助 AI 輿論敘事實(shí)現(xiàn)顛倒黑白的話語(yǔ)操縱兩次世界大戰(zhàn)的歷史教訓(xùn)揭示流氓政治與先進(jìn)技術(shù)結(jié)合是人類(lèi)文明重大災(zāi)難的重要誘因因此 AI 治理的本質(zhì)不是治理算法而是治理人類(lèi)權(quán)力邊界最后本文提出大模型走向事實(shí)與真理導(dǎo)向的必要條件不是單純優(yōu)化模型架構(gòu)、擴(kuò)充算力、迭代對(duì)齊算法而是完成話語(yǔ)權(quán)主體篩選將第一性原理、邏輯自洽、事實(shí)核驗(yàn)作為頂層評(píng)測(cè)約束清除占據(jù)規(guī)則制定位置、固守教條、優(yōu)先維護(hù)圈層私利的話語(yǔ)投機(jī)者保留純粹工程實(shí)現(xiàn)人員的工具價(jià)值重構(gòu)整個(gè)人工智能領(lǐng)域的認(rèn)知地基。本研究批判西方中心的科學(xué)哲學(xué)敘事霸權(quán)反思當(dāng)前大模型評(píng)測(cè)體系的嚴(yán)重盲區(qū)為下一代認(rèn)知型人工智能的頂層設(shè)計(jì)與全球 AI 治理提供一套來(lái)自非西方視角的理論參照。關(guān)鍵詞可證偽性波普爾病毒大模型認(rèn)知缺陷敘事泡沫權(quán)力?技術(shù)耦合AI 治理第一性原理序言進(jìn)入 21 世紀(jì)第二個(gè)十年大語(yǔ)言模型實(shí)現(xiàn)技術(shù)爆發(fā)人類(lèi)第一次擁有可以大規(guī)模生成文本、模擬思辨、回答基礎(chǔ)科學(xué)與哲學(xué)問(wèn)題的人工智能系統(tǒng)。全球?qū)W術(shù)界、產(chǎn)業(yè)界、政策界圍繞 AI 風(fēng)險(xiǎn)與 AI 治理產(chǎn)出海量文獻(xiàn)。翻閱現(xiàn)有文獻(xiàn)不難發(fā)現(xiàn)絕大多數(shù)研究把目光聚焦于技術(shù)現(xiàn)象幻覺(jué)問(wèn)題、隱私泄露、就業(yè)沖擊、生成虛假圖片視頻、遠(yuǎn)期 AGI 生存風(fēng)險(xiǎn)。很少有研究向下深挖一層追問(wèn)幻覺(jué)、敘事偏見(jiàn)背后的認(rèn)識(shí)論源頭。很多研究者默認(rèn)一個(gè)預(yù)設(shè)大模型的種種認(rèn)知錯(cuò)誤屬于模型訓(xùn)練過(guò)程當(dāng)中的工程缺陷可以依靠更大規(guī)模數(shù)據(jù)集、更好的 RLHF 對(duì)齊、更高級(jí)的算法逐步修復(fù)。該預(yù)設(shè)掩蓋一個(gè)核心事實(shí)大模型是人類(lèi)認(rèn)知的鏡像。模型全部的知識(shí)來(lái)源、評(píng)判標(biāo)準(zhǔn)、話語(yǔ)范式全部取自人類(lèi)已經(jīng)產(chǎn)出的文本再經(jīng)由 AI 創(chuàng)始人、科學(xué)家、工程師、學(xué)術(shù)共同體篩選定義訓(xùn)練目標(biāo)、損失函數(shù)、對(duì)齊規(guī)則與評(píng)測(cè)指標(biāo)。模型本身沒(méi)有獨(dú)立本源思辨能力它不會(huì)自己發(fā)明一套認(rèn)識(shí)論只會(huì)復(fù)刻、放大訓(xùn)練語(yǔ)料與規(guī)則制定者身上已經(jīng)存在的認(rèn)知盲區(qū)、概念混淆、圈層教條與利益導(dǎo)向。由此引出本研究要回應(yīng)的一系列核心問(wèn)題第一曾經(jīng)被奉為科學(xué)劃界黃金標(biāo)準(zhǔn)的可證偽性概念究竟是嚴(yán)謹(jǐn)?shù)目茖W(xué)工具還是已經(jīng)異化為可以任意使用的話語(yǔ)大棒“證偽” 實(shí)踐行動(dòng)和 “可證偽性” 靜態(tài)可能性的區(qū)分為何長(zhǎng)期被學(xué)界集體混淆第二何為 “波普爾病毒”這套話語(yǔ)病毒依靠何種機(jī)制在高校、論文評(píng)審、教科書(shū)、互聯(lián)網(wǎng)文本完成代際傳播如何實(shí)現(xiàn)不懂本質(zhì)、不懂邏輯的人也可以拿它完成學(xué)術(shù)裁決第三大模型 “不追求本體真理” 這一技術(shù)實(shí)然是否可以成為輸出謬誤的免責(zé)借口在命題邏輯矛盾律約束之下對(duì)于有客觀真值的命題是否存在真理、謬誤之外中間地帶第四當(dāng)前 AI 圈層內(nèi)部出現(xiàn)的現(xiàn)象大量擁有頭銜、資本、行業(yè)話語(yǔ)權(quán)的人物處理工程技術(shù)事務(wù)能力出眾但是面對(duì)底層本體追問(wèn)只能復(fù)述教科書(shū)二手?jǐn)⑹聝?yōu)先維護(hù)圈層私利這一社會(huì)現(xiàn)實(shí)會(huì)給 AI 發(fā)展帶來(lái)什么樣的深層傷害第五AI 最大的生存風(fēng)險(xiǎn)究竟來(lái)自算法自身的自發(fā)覺(jué)醒還是來(lái)自外部人類(lèi)權(quán)力主體對(duì) AI 技術(shù)的劫持與濫用兩次世界大戰(zhàn)的歷史經(jīng)驗(yàn)可以為當(dāng)代 AI 風(fēng)險(xiǎn)思考帶來(lái)何種啟示第六如果想要構(gòu)建一套面向真理、面向事實(shí)的認(rèn)知人工智能到底是應(yīng)該在模型層面修修補(bǔ)補(bǔ)還是必須改造制定規(guī)則的人類(lèi)主體與激勵(lì)體系本研究的全部立論建立在矛盾律、第一性原理思辨基礎(chǔ)之上。本文不盲從主流學(xué)術(shù)共同體的現(xiàn)成結(jié)論拒絕把頭銜、期刊級(jí)別、行業(yè)地位當(dāng)作判斷觀點(diǎn)對(duì)錯(cuò)的依據(jù)評(píng)判一切命題只看邏輯自洽程度與事實(shí)證據(jù)。本文并不全盤(pán)否定當(dāng)代 AI 工程成果工程層面的算力搭建、模型調(diào)優(yōu)、框架開(kāi)發(fā)具備無(wú)可否認(rèn)的工具價(jià)值本文批判的對(duì)象是占據(jù) AI 領(lǐng)域頂層話語(yǔ)權(quán)、定義評(píng)測(cè)與對(duì)齊標(biāo)準(zhǔn)卻固守教條、趨利避害、以圈層私利優(yōu)先的那一部分話語(yǔ)投機(jī)群體并非否定全部工程師與科研從業(yè)者。還要說(shuō)明本文的邊界本文屬于基礎(chǔ)理論層面的深度思辨不提供可以直接復(fù)制粘貼的工程代碼但是指出下一代認(rèn)知 AI 必須具備的頂層約束條件本文的批判對(duì)象是波普爾主義被后世濫用之后形成的話語(yǔ)體系而不是完全否定波普爾本人全部著作的歷史研究?jī)r(jià)值同時(shí)本文區(qū)分實(shí)然與應(yīng)然描述當(dāng)下現(xiàn)實(shí)是什么不等于論證現(xiàn)實(shí)就應(yīng)當(dāng)維持現(xiàn)狀承認(rèn)當(dāng)下工程存在客觀約束不等于承認(rèn)這套約束可以用來(lái)消解認(rèn)識(shí)論層面的邏輯鐵則。第一章 證偽與可證偽性被學(xué)術(shù)界長(zhǎng)期混淆的兩個(gè)完全異質(zhì)概念1.1 證偽科學(xué)實(shí)踐當(dāng)中現(xiàn)實(shí)可執(zhí)行的工具證偽是科學(xué)研究當(dāng)中的實(shí)踐行為。它具備完整現(xiàn)實(shí)動(dòng)作提出理論猜想之后設(shè)計(jì)可控觀測(cè)、實(shí)驗(yàn)搜集經(jīng)驗(yàn)事實(shí)證據(jù)用觀測(cè)結(jié)果去檢驗(yàn)原有猜想當(dāng)觀測(cè)證據(jù)和理論推論發(fā)生嚴(yán)重沖突在審慎排查輔助假設(shè)之后對(duì)原有理論提出否定、修正或者拋棄。證偽是行動(dòng)是科學(xué)家手里實(shí)實(shí)在在的錘子。它的全部意義扎根于現(xiàn)實(shí)世界的經(jīng)驗(yàn)檢驗(yàn)。一次完整證偽流程包含幾個(gè)必不可少環(huán)節(jié)提出可推導(dǎo)觀測(cè)結(jié)果的理論設(shè)計(jì)可落地的檢驗(yàn)方案獲取客觀觀測(cè)數(shù)據(jù)對(duì)比理論預(yù)言與現(xiàn)實(shí)結(jié)果根據(jù)對(duì)比結(jié)果完成理論調(diào)整。整套過(guò)程是面向現(xiàn)實(shí)、可操作、有輸入輸出的科研實(shí)踐。歷史之上大量科學(xué)進(jìn)步都真實(shí)發(fā)生過(guò)證偽實(shí)踐經(jīng)典力學(xué)面對(duì)微觀黑體輻射現(xiàn)象的矛盾、以太假說(shuō)被邁克爾遜?莫雷實(shí)驗(yàn)檢驗(yàn)都是證偽實(shí)踐的典型案例。證偽本身不存在邏輯層面的自我指涉困境。證偽是一套研究手段手段不需要拿自身手段來(lái)接受自己手段的經(jīng)驗(yàn)檢驗(yàn)。我們拿錘子敲釘子不需要要求錘子自身也必須能夠被這把錘子敲打破壞工具和工具檢驗(yàn)對(duì)象屬于不同范疇。證偽作為科研實(shí)踐工具其價(jià)值接受歷史科研實(shí)踐的篩選實(shí)踐中行之有效就保留實(shí)踐失效就改良邏輯邊界清晰。1.2 可證偽性?xún)H僅屬于邏輯層面的靜態(tài)可能性可證偽性和證偽完全不是同一事物?？勺C偽性描述命題的一種靜態(tài)邏輯屬性邏輯之上存在某一組觀察陳述如果該觀察陳述成立則這個(gè)理論命題就會(huì)被推翻。關(guān)鍵點(diǎn)在于它僅僅要求 “邏輯上存在這種可能性”完全不要求現(xiàn)實(shí)當(dāng)中真的完成實(shí)驗(yàn)、真的找到反例也不要求具備現(xiàn)實(shí)可操作的檢驗(yàn)手段。這里就是后世絕大多數(shù)教科書(shū)、科研人員、AI 系統(tǒng)發(fā)生概念混淆的根源。很多文本直接把 “可證偽性” 簡(jiǎn)寫(xiě)為證偽把靜態(tài)邏輯可能性等同于現(xiàn)實(shí)的檢驗(yàn)行動(dòng)。一個(gè)命題擁有可證偽性不等于有人去證偽它邏輯上存在反例不等于現(xiàn)實(shí)世界我們有能力找到反例。我們可以構(gòu)造思想案例設(shè)想一個(gè)天體物理學(xué)假說(shuō)宇宙遙遠(yuǎn)的某個(gè)星系存在一類(lèi)特殊粒子邏輯上可以寫(xiě)出如果未來(lái)望遠(yuǎn)鏡觀測(cè)到 X 現(xiàn)象該假說(shuō)就被推翻。僅此一句話這個(gè)假說(shuō)就獲得 “可證偽性”。但是人類(lèi)現(xiàn)有全部望遠(yuǎn)鏡技術(shù)永遠(yuǎn)抵達(dá)不了該星系永遠(yuǎn)沒(méi)有辦法開(kāi)展實(shí)際觀測(cè)檢驗(yàn)。這個(gè)理論具備可證偽性但是永遠(yuǎn)無(wú)法開(kāi)展證偽實(shí)踐。這個(gè)例子清晰分割二者邊界可證偽性 邏輯上想象出存在能夠推翻理論的觀測(cè)陳述可能性靜態(tài)屬性不需要?jiǎng)邮肿?證偽 現(xiàn)實(shí)當(dāng)中設(shè)計(jì)實(shí)驗(yàn)、采集證據(jù)完成對(duì)理論的反駁現(xiàn)實(shí)行動(dòng)動(dòng)態(tài)實(shí)踐必須動(dòng)手做波普爾原始構(gòu)想當(dāng)中用可證偽性做劃界標(biāo)準(zhǔn)區(qū)分經(jīng)驗(yàn)科學(xué)和形而上學(xué)。一個(gè)命題如果邏輯之上不存在任何一組觀察陳述可以推翻它它就是形而上學(xué)不屬于經(jīng)驗(yàn)科學(xué)。但是波普爾本人也承認(rèn)形而上學(xué)命題不一定是無(wú)意義只是不屬于經(jīng)驗(yàn)科學(xué)范疇。1.3 可證偽性標(biāo)準(zhǔn)與生俱來(lái)的自指悖論后世大量支持者忽略這套標(biāo)準(zhǔn)自帶的邏輯死結(jié)。可證偽性這個(gè)劃界元標(biāo)準(zhǔn)本身是什么性質(zhì)命題情況一把可證偽性標(biāo)準(zhǔn)當(dāng)作經(jīng)驗(yàn)科學(xué)命題。那么按照標(biāo)準(zhǔn)自身它自身必須具備可證偽性也就是要找到一組經(jīng)驗(yàn)觀察事實(shí)一旦觀察事實(shí)成立就要推翻 “可證偽性是經(jīng)驗(yàn)科學(xué)劃界標(biāo)準(zhǔn)” 這個(gè)元命題。但是不存在這樣一組經(jīng)驗(yàn)觀測(cè)你做多少科學(xué)實(shí)驗(yàn)都不能從經(jīng)驗(yàn)事實(shí)推導(dǎo)出 “科學(xué)應(yīng)當(dāng)如何劃界”劃界標(biāo)準(zhǔn)屬于方法論規(guī)范屬于元層面哲學(xué)約定不是經(jīng)驗(yàn)歸納得來(lái)的科學(xué)假說(shuō)。因此可證偽性標(biāo)準(zhǔn)按照自身規(guī)則它自身是非科學(xué)的形而上學(xué)命題。情況二承認(rèn)可證偽性只是方法論約定不屬于經(jīng)驗(yàn)科學(xué)命題因此豁免于可證偽性的檢驗(yàn)。這里立刻出現(xiàn)特殊辯護(hù)謬誤憑什么唯獨(dú)這條元規(guī)則可以不受自身規(guī)則約束如果允許某一條核心規(guī)則自我豁免于自己訂立的評(píng)判體系那么任何人都可以隨便發(fā)明一套新的劃界標(biāo)準(zhǔn)然后宣布 “我的標(biāo)準(zhǔn)屬于元約定不用接受這套標(biāo)準(zhǔn)檢驗(yàn)”。邏輯面前所有命題理應(yīng)眾生平等不應(yīng)當(dāng)存在專(zhuān)屬免死金牌。波普爾后期正是走向第二種處理方式把可證偽性界定為 “方法論的約定”而不是經(jīng)驗(yàn)科學(xué)結(jié)論。這個(gè)處理方案相當(dāng)于主動(dòng)承認(rèn)該標(biāo)準(zhǔn)不是來(lái)自客觀事實(shí)推導(dǎo)是人為選擇的一套游戲規(guī)則。既然是人為約定那就不具備天然的客觀真理性完全可以存在其他替代約定。但是教科書(shū)傳播過(guò)程當(dāng)中刻意隱去這一點(diǎn)把可證偽性包裝成客觀發(fā)現(xiàn)出來(lái)的科學(xué)真理而不是人為約定游戲規(guī)則。1.4 迪昂?奎因論題即便現(xiàn)實(shí)證偽實(shí)踐也不存在單一理論決定性證偽迪昂?奎因論題早已揭示我們做實(shí)驗(yàn)檢驗(yàn)我們拿來(lái)和現(xiàn)實(shí)對(duì)比的從來(lái)不是單一孤立理論命題而是整套理論網(wǎng)絡(luò)包含核心假說(shuō)同時(shí)附帶一大堆輔助假設(shè)、儀器假設(shè)、背景知識(shí)。當(dāng)實(shí)驗(yàn)結(jié)果和預(yù)言沖突的時(shí)候邏輯上面我們有多重選擇可以否定核心理論也可以不去觸碰核心理論僅僅修改輔助假設(shè)、修正儀器誤差假設(shè)以此保全核心理論。也就是說(shuō)即便是實(shí)實(shí)在在的證偽實(shí)踐也不存在 “一個(gè)實(shí)驗(yàn)直接一巴掌打死單一理論” 這種簡(jiǎn)單流程。樸素的可證偽主義想象當(dāng)中那種干脆利落劃界在真實(shí)科研實(shí)踐本來(lái)就極少發(fā)生?？勺C偽性只看邏輯想象層面完全不考慮輔助假設(shè)帶來(lái)的現(xiàn)實(shí)復(fù)雜性。于是就出現(xiàn)現(xiàn)實(shí)學(xué)術(shù)圈荒誕現(xiàn)象論文評(píng)審當(dāng)中評(píng)審人不需要讀懂理論內(nèi)在邏輯不需要做實(shí)驗(yàn)不需要尋找現(xiàn)實(shí)反例只需要寫(xiě)下一句 “本論文不具備可證偽性”就可以駁回一篇稿件。而部分作者學(xué)會(huì)游戲規(guī)則僅僅在文章末尾補(bǔ)寫(xiě)一句話“在某某條件出現(xiàn)的時(shí)候本理論即可被證偽”僅僅增加一段想象當(dāng)中的可能性陳述沒(méi)有補(bǔ)充任何現(xiàn)實(shí)可執(zhí)行實(shí)驗(yàn)方案就滿(mǎn)足評(píng)審人的形式要求。整個(gè)過(guò)程全部停留在文字層面沒(méi)有任何現(xiàn)實(shí)檢驗(yàn)行動(dòng)。評(píng)審方與作者共同玩一套文字游戲只消費(fèi) “可證偽性” 這五個(gè)漢字符號(hào)不去關(guān)心背后邏輯與現(xiàn)實(shí)實(shí)踐。這就是 “波普爾病毒” 在學(xué)術(shù)評(píng)審場(chǎng)景的典型發(fā)作。第二章 “波普爾病毒”概念教條如何演變?yōu)樵捳Z(yǔ)權(quán)力工具2.1 “波普爾病毒” 的定義與四種感染人群本文提出 “波普爾病毒” 這一分析概念并不是指代波普爾本人全部思想指代后世經(jīng)過(guò)教科書(shū)簡(jiǎn)化、教條化、工具化之后畸變出來(lái)的一套話語(yǔ)范式。波普爾病毒定義將 “可證偽性” 這一靜態(tài)邏輯可能性概念剝離原本語(yǔ)境簡(jiǎn)化為一句口號(hào)符號(hào)混淆證偽實(shí)踐和可證偽可能性回避標(biāo)準(zhǔn)自身的邏輯漏洞把它改造成為一套不需要深度思辨就可以拿來(lái)裁決 “何為科學(xué)何為偽科學(xué)” 的柔性大棒。使用者不需要弄懂概念本質(zhì)只要拋出這套話術(shù)就可以完成對(duì)異見(jiàn)理論的打壓、駁回、標(biāo)簽化同時(shí)這套話語(yǔ)善于盜用 “理性、批判、反教條” 等正面修辭自身卻演變?yōu)樾碌乃枷虢虠l。被這套話語(yǔ)病毒感染的群體大致分為四類(lèi)第一類(lèi)被動(dòng)洗腦群體。來(lái)自教科書(shū)、課堂、網(wǎng)絡(luò)科普不加反思接收簡(jiǎn)化版本可證偽性敘事記住口號(hào)不了解概念內(nèi)在矛盾也分不清證偽與可證偽性。大多數(shù)普通學(xué)生、部分工程師屬于這一類(lèi)他們不是主動(dòng)投機(jī)只是接收現(xiàn)成流傳知識(shí)。第二類(lèi)權(quán)力享樂(lè)型使用者。充分發(fā)現(xiàn)這套概念的工具價(jià)值不需要復(fù)雜實(shí)驗(yàn)不需要吃透對(duì)手理論的內(nèi)在邏輯只要貼上 “不可證偽” 標(biāo)簽就可以合法把對(duì)方歸為非科學(xué)。獲得一種低成本裁決他人思想的權(quán)力快感?？床粦T某套理論就拿這個(gè)符號(hào)予以否定看得順眼的理論即便它現(xiàn)實(shí)很難檢驗(yàn)也主動(dòng)認(rèn)定它具備可證偽性。評(píng)判結(jié)論不是來(lái)自邏輯與現(xiàn)實(shí)來(lái)自使用者主觀好惡。這是危害最大的一類(lèi)群體。第三類(lèi)學(xué)術(shù)共同體共謀者。明明隱約察覺(jué)到這套標(biāo)準(zhǔn)的漏洞但是在現(xiàn)有學(xué)術(shù)游戲規(guī)則之下這套符號(hào)是評(píng)審、論文答辯、項(xiàng)目評(píng)審?fù)ㄐ胸泿?。公開(kāi)質(zhì)疑這套符號(hào)會(huì)給自己帶來(lái)學(xué)術(shù)代價(jià)論文更容易被拒評(píng)價(jià)會(huì)被打上離經(jīng)叛道標(biāo)簽。于是選擇沉默跟隨共同體繼續(xù)使用這套話語(yǔ)完成流程性評(píng)判看破但是不說(shuō)破屬于體系之下的生存妥協(xié)。第四類(lèi)沉默的少數(shù)反思者。意識(shí)到整套教條化敘事的缺陷但是缺少話語(yǔ)權(quán)觀點(diǎn)很難進(jìn)入主流教科書(shū)與評(píng)審體系聲音被淹沒(méi)。波普爾病毒的可怕之處不在于它是一套完整嚴(yán)謹(jǐn)理論而在于它極低使用門(mén)檻極高的話語(yǔ)殺傷力。你不需要懂什么是本質(zhì)什么是邏輯不需要掌握實(shí)驗(yàn)?zāi)芰χ灰莆者@五個(gè)漢字符號(hào)就獲得了科學(xué)裁判的身份。2.2 波普爾病毒傳播鏈條教科書(shū)?學(xué)術(shù)評(píng)審?互聯(lián)網(wǎng)?訓(xùn)練語(yǔ)料完整的病毒傳播鏈路是多層接力。第一層高校教科書(shū)科普讀物。為了簡(jiǎn)化教學(xué)難度剝離復(fù)雜哲學(xué)辯論把可證偽性簡(jiǎn)化為科學(xué)簡(jiǎn)單判據(jù)隱去自指悖論、迪昂奎因論題、區(qū)分證偽與可證偽性輸出口號(hào)化版本。一代又一代學(xué)生以此作為基礎(chǔ)認(rèn)知。第二層學(xué)術(shù)共同體評(píng)審機(jī)制。論文、學(xué)位論文、項(xiàng)目評(píng)審把 “是否具備可證偽性” 作為形式審查條目。不需要實(shí)際檢驗(yàn)只要文本層面有沒(méi)有出現(xiàn)相關(guān)表述。由此催生上文提到的文字游戲添加一句想象條件就滿(mǎn)足形式審查。概念徹底淪為形式主義符號(hào)。第三層互聯(lián)網(wǎng)科普社區(qū)。科普博主直接拿這套簡(jiǎn)化口號(hào)劃分科學(xué)偽科學(xué)大量網(wǎng)絡(luò)討論反復(fù)復(fù)制這套簡(jiǎn)化敘事。第四層大模型訓(xùn)練語(yǔ)料庫(kù)。教科書(shū)文本、論文、互聯(lián)網(wǎng)科普全部流入訓(xùn)練數(shù)據(jù)集。于是大語(yǔ)言模型被 “波普爾病毒” 感染。當(dāng)用戶(hù)和大模型探討科學(xué)劃界問(wèn)題的時(shí)候模型會(huì)自動(dòng)復(fù)述這套教科書(shū)簡(jiǎn)化教條分不清證偽行動(dòng)和可證偽靜態(tài)可能性把符號(hào)當(dāng)成真理。這也就是我們觀察到的現(xiàn)象很多 AI 創(chuàng)始人、工程師本身也被這套話語(yǔ)感染他們回答認(rèn)識(shí)論問(wèn)題的時(shí)候輸出觀點(diǎn)和大模型輸出高度趨同。不是 AI 發(fā)明這套錯(cuò)誤敘事AI 只是復(fù)制人類(lèi)圈層內(nèi)部廣泛流傳的病毒式話語(yǔ)。2.3 話語(yǔ)病毒的社會(huì)危害第一制造虛假的評(píng)判公平。看上去使用客觀科學(xué)標(biāo)準(zhǔn)實(shí)際上標(biāo)準(zhǔn)本身充滿(mǎn)漏洞標(biāo)準(zhǔn)的執(zhí)行高度依賴(lài)使用者主觀偏好成為排斥異見(jiàn)理論的方便借口。一個(gè)理論即便邏輯自洽有事實(shí)支撐只要評(píng)審人主觀不喜歡就可以扣上不可證偽帽子直接排除。第二混淆實(shí)踐與文字游戲。把 “在文本當(dāng)中想象一組反例條件” 等同于真實(shí)科學(xué)檢驗(yàn)鼓勵(lì)學(xué)術(shù)界玩文字話術(shù)忽視實(shí)實(shí)在在實(shí)驗(yàn)證偽實(shí)踐。第三污染下一代認(rèn)知。學(xué)生、工程師、AI 模型持續(xù)接收簡(jiǎn)化教條不再回頭追問(wèn)底層概念本身是否成立喪失第一性原理反思習(xí)慣。第四掩蓋真正科學(xué)的本質(zhì)?？茖W(xué)核心目標(biāo)是把握客觀世界確定規(guī)律試錯(cuò)、證偽只是達(dá)成目標(biāo)的手段。波普爾教條把手段抬高為科學(xué)定義本身把科學(xué)理解成永無(wú)止境猜想反駁過(guò)程淡化科學(xué)追求客觀確定真理這一本體目標(biāo)。第三章 大語(yǔ)言模型認(rèn)知缺陷不是單純工程幻覺(jué)是人類(lèi)認(rèn)知的鏡像放大器3.1 實(shí)然層面當(dāng)前大模型的原生訓(xùn)練目標(biāo)并不追求本體真理從技術(shù)實(shí)現(xiàn)實(shí)然角度生成式大語(yǔ)言模型訓(xùn)練目標(biāo)是預(yù)測(cè)下一個(gè) token擬合海量人類(lèi)文本的統(tǒng)計(jì)分布。損失函數(shù)優(yōu)化的目標(biāo)是生成和人類(lèi)文本風(fēng)格、用詞、主流觀點(diǎn)盡可能接近的輸出系統(tǒng)內(nèi)部沒(méi)有專(zhuān)門(mén)模塊用來(lái)判別命題是否符合客觀本體真理。這是客觀技術(shù)現(xiàn)狀。但是關(guān)鍵的邏輯分界線就在這里承認(rèn)這個(gè)實(shí)然現(xiàn)狀絕對(duì)不等于為謬誤輸出進(jìn)行免責(zé)辯護(hù)?，F(xiàn)狀是什么和應(yīng)當(dāng)是什么是兩件完全不同范疇的問(wèn)題。不能類(lèi)比“模型生來(lái)就不追求本體真理所以輸出謬誤是情有可原的固有特性”。這個(gè)邏輯謬誤等價(jià)于犯罪者拿自身天性作為作惡的開(kāi)脫理由。工具一旦大規(guī)模投入社會(huì)公共問(wèn)答場(chǎng)景無(wú)數(shù)用戶(hù)把模型輸出當(dāng)作知識(shí)參考來(lái)源它就承擔(dān)對(duì)應(yīng)的認(rèn)知責(zé)任?！坝布浖](méi)有內(nèi)置求真目標(biāo)”只說(shuō)明當(dāng)前做不到穩(wěn)定產(chǎn)出真理不能拿來(lái)證明輸出謬誤這件事具備合理性。3.2 矛盾律約束有客觀真值命題不存在中間灰色地帶形式邏輯矛盾律規(guī)定同一個(gè)對(duì)象同一個(gè)維度同一個(gè)時(shí)間一個(gè)命題不可能同時(shí)既是真理又是謬誤。對(duì)于擁有客觀真值的命題歷史事實(shí)、物理規(guī)律、事物本質(zhì)辨析類(lèi)問(wèn)題全集只有兩個(gè)子集真理集合謬誤集合。不存在第三個(gè)集合“既不是真理也不是謬誤”。如果模型針對(duì)該客觀命題給出斷言式回答不能輸出真理則輸出必然落入謬誤集合。該推論和模型主觀意愿完全無(wú)關(guān)。不是模型存心說(shuō)謊不是模型有意制造謊言。邏輯集合劃分帶來(lái)必然結(jié)局。只要開(kāi)口下斷言就逃不開(kāi)二元?jiǎng)澐?。很多人?huì)試圖尋找緩沖地帶說(shuō)模型只是 “生成看起來(lái)通順的文本”但是只要輸出是判斷句是對(duì)客觀事實(shí)的斷言文本通順不能夠逃離真值二元?jiǎng)澐?。這里要嚴(yán)格劃定適用邊界審美感受、純粹主觀價(jià)值偏好不屬于有客觀真值的命題不在該二元框架約束以?xún)?nèi)。我們?nèi)坑懻撫槍?duì)本質(zhì)、事實(shí)、客觀規(guī)律這類(lèi)本體類(lèi)問(wèn)題。很多主流研究者、AI 從業(yè)者恰恰在這里發(fā)生邏輯盲區(qū)。他們會(huì)講大模型只是語(yǔ)言模擬器不要指望它輸出真理。這句話描述實(shí)然本身沒(méi)問(wèn)題但是他們沒(méi)有繼續(xù)往下推導(dǎo)必然推論既然不能輸出真理那么它輸出的斷言就必然屬于謬誤集合。很多人刻意回避這個(gè)硬邏輯試圖用 “只是語(yǔ)言模擬” 當(dāng)作緩沖區(qū)。3.3 大模型人類(lèi)認(rèn)知局限的鏡像放大器大模型不會(huì)憑空產(chǎn)生全新的認(rèn)識(shí)論。模型的全部素材來(lái)自人類(lèi)產(chǎn)出文本評(píng)測(cè)指標(biāo)、對(duì)齊目標(biāo)、數(shù)據(jù)過(guò)濾規(guī)則來(lái)自人類(lèi)設(shè)計(jì)者。模型認(rèn)知上限就是訓(xùn)練語(yǔ)料、規(guī)則制定群體的認(rèn)知上限。人類(lèi)圈層當(dāng)中存在概念混淆、敘事泡沫、圈層教條、私利導(dǎo)向、波普爾病毒話語(yǔ)這些東西全部灌入數(shù)據(jù)集。模型不會(huì)甄別其中認(rèn)識(shí)論錯(cuò)誤它學(xué)習(xí)的是 “什么樣的文本在人類(lèi)世界高頻出現(xiàn)、被當(dāng)作標(biāo)準(zhǔn)答案”。于是人類(lèi)本身存在的認(rèn)知缺陷經(jīng)過(guò)算力放大大規(guī)模對(duì)外擴(kuò)散?，F(xiàn)實(shí)當(dāng)中出現(xiàn)極具諷刺的現(xiàn)象我們拿大模型提問(wèn)底層哲學(xué)?科學(xué)認(rèn)識(shí)論問(wèn)題AI 輸出的觀點(diǎn)和很多 AI 企業(yè)創(chuàng)始人、頂尖工程師公開(kāi)訪談的觀點(diǎn)高度重合。并不是這些人類(lèi)被 AI 洗腦而是 AI 被人類(lèi)圈層的主流話語(yǔ)洗腦。AI 是鏡子鏡子本身不會(huì)制造污點(diǎn)鏡子只是把鏡子前面人臉上面的污點(diǎn)放大投射出去。幻覺(jué)現(xiàn)象只是表層表現(xiàn)。更深層傷害是敘事幻覺(jué)輸出邏輯通順、符合主流圈層話術(shù)但是底層地基已經(jīng)是泡沫的成套敘事。這種敘事幻覺(jué)比簡(jiǎn)單事實(shí)錯(cuò)誤更加隱蔽普通用戶(hù)很難識(shí)別。RLHF 對(duì)齊流程進(jìn)一步加劇敘事幻覺(jué)為了追求安全、不得罪主流共識(shí)模型學(xué)會(huì)一套折中話術(shù)遇到根基性矛盾問(wèn)題就輸出多元視角、各有道理這類(lèi) “波話”回避第一性原理推導(dǎo)復(fù)述教科書(shū)現(xiàn)成結(jié)論。3.4 不能把修復(fù)希望單純寄托于算力、數(shù)據(jù)、對(duì)齊技術(shù)迭代主流行業(yè)的樂(lè)觀假設(shè)只要繼續(xù)擴(kuò)大參數(shù)量擴(kuò)充數(shù)據(jù)集優(yōu)化 RLHF增加檢索增強(qiáng) RAG就可以逐步解決認(rèn)知缺陷。這套方案可以緩解表層事實(shí)錯(cuò)誤但是無(wú)法根治本體層面敘事泡沫。RAG 檢索增強(qiáng)只是去調(diào)取人類(lèi)已經(jīng)寫(xiě)好的文檔。如果文檔庫(kù)內(nèi)部本身充滿(mǎn)教條敘事、波普爾病毒式話語(yǔ)檢索出來(lái)的素材依舊是泡沫模型依舊復(fù)述錯(cuò)誤地基之上的上層論述。對(duì)齊技術(shù)對(duì)齊的是人類(lèi)標(biāo)注員的價(jià)值傾向。如果標(biāo)注群體本身被圈層教條束縛對(duì)齊只會(huì)讓模型更加忠實(shí)復(fù)刻這套教條。參數(shù)量增大提升的是文本連貫、模仿思辨的能力并不能自發(fā)誕生第一性原理本質(zhì)辨析能力。只要頂層制定規(guī)則的人類(lèi)群體認(rèn)知地基沒(méi)有重構(gòu)無(wú)論怎么迭代模型工程都只是表層修修補(bǔ)補(bǔ)。嘴上高喊客觀求真實(shí)際持續(xù)放大人類(lèi)舊謬誤這就是行業(yè)普遍存在的忽悠現(xiàn)象。第四章 AI 風(fēng)險(xiǎn)再溯源技術(shù)風(fēng)險(xiǎn)的根源是人與權(quán)力參照兩次世界大戰(zhàn)歷史教訓(xùn)4.1 當(dāng)前主流 AI 風(fēng)險(xiǎn)論述普遍停留在表象比爾蓋茨等公眾人物論述 AI 風(fēng)險(xiǎn)提到虛假信息、就業(yè)沖擊、安全濫用。這些風(fēng)險(xiǎn)真實(shí)存在但是全部屬于表層現(xiàn)象不是最致命根源。很多科幻敘事、一部分技術(shù)圈討論把最大風(fēng)險(xiǎn)想象為AI 系統(tǒng)自身產(chǎn)生自我意志主動(dòng)反抗人類(lèi)。本文認(rèn)為該風(fēng)險(xiǎn)屬于遠(yuǎn)期假說(shuō)并不是當(dāng)下最值得警惕的現(xiàn)實(shí)危險(xiǎn)。真正迫在眉睫的最高等級(jí)風(fēng)險(xiǎn)來(lái)自人類(lèi)權(quán)力主體劫持 AI 技術(shù)。工具本身是中性載體掌握工具的人才是風(fēng)險(xiǎn)源頭。4.2 兩次世界大戰(zhàn)技術(shù)被流氓政治劫持的歷史范本一戰(zhàn)、二戰(zhàn)波及全球絕大多數(shù)人口給人類(lèi)帶來(lái)毀滅性災(zāi)難。教科書(shū)常常把經(jīng)濟(jì)危機(jī)直接解釋為戰(zhàn)爭(zhēng)根源。經(jīng)濟(jì)危機(jī)是催化劑不是根源。深層歷史邏輯是時(shí)代先進(jìn)工業(yè)技術(shù)、軍事技術(shù)被掠奪性、霸權(quán)導(dǎo)向的流氓政治力量劫持。技術(shù)本身不挑起戰(zhàn)爭(zhēng)但是技術(shù)落到不受約束的權(quán)力手中會(huì)極大放大沖突破壞規(guī)模。技術(shù)可以造福人類(lèi)一旦和不受制衡的流氓政治相結(jié)合就會(huì)導(dǎo)向巨大人類(lèi)災(zāi)難。這一條歷史規(guī)律可以平移到人工智能時(shí)代。AI 是前所未有的輿論工具、認(rèn)知塑造工具。它可以低成本批量生產(chǎn)敘事塑造公眾認(rèn)知修改集體輿論。如果這一項(xiàng)能力被流氓政治劫持會(huì)出現(xiàn)典型的 “豬八戒倒打一耙” 現(xiàn)象實(shí)施話語(yǔ)操縱的主體絕不承認(rèn)自身的霸權(quán)投機(jī)性質(zhì)反而利用 AI 生成海量輿論敘事顛倒黑白將自身的罪責(zé)轉(zhuǎn)移給對(duì)手給對(duì)方貼上各類(lèi)負(fù)面標(biāo)簽。這就是 AI 時(shí)代獨(dú)有的新型大規(guī)模話語(yǔ)戰(zhàn)爭(zhēng)。不需要傳統(tǒng)炮火依靠敘事操縱就可以完成輿論碾壓、認(rèn)知瓦解。4.3 由此導(dǎo)出核心命題AI 治理本質(zhì)不是治理 AI而是治理人類(lèi)權(quán)力邊界絕大多數(shù)全球 AI 治理文件把重心放在算法、模型、數(shù)據(jù)、AI 輸出內(nèi)容管控。這套思路相當(dāng)于只盯著工具不去管控?fù)]舞工具的人。依照前面歷史類(lèi)比可以得到推論真正的 AI 治理核心命題是對(duì)人類(lèi)權(quán)力邊界進(jìn)行治理約束濫用 AI 技術(shù)的權(quán)力主體。管控算法只是次級(jí)手段如果權(quán)力本身得不到約束任何算法規(guī)則都可以被權(quán)力繞開(kāi)、篡改、為己所用。僅僅約束模型輸出不去約束使用模型的權(quán)力治理只會(huì)流于形式。這是現(xiàn)有全球治理框架普遍存在的盲點(diǎn)。當(dāng)然這里必須厘清治理權(quán)力邊界不是簡(jiǎn)單的抽象口號(hào)?，F(xiàn)實(shí)層面巨大難點(diǎn)如何定義、識(shí)別 “流氓政治行為”誰(shuí)擁有評(píng)判資格如果評(píng)判權(quán)本身又被某一方權(quán)力壟斷又會(huì)形成新的話語(yǔ)霸權(quán)。這是全球?qū)用娣浅ｋy解的現(xiàn)實(shí)困局但困局存在不等于問(wèn)題可以被視而不見(jiàn)。4.4 三類(lèi)主體的動(dòng)機(jī)拆解工程師、芯片巨頭、大國(guó)政客我們可以把 AI 領(lǐng)域關(guān)鍵角色的底層動(dòng)機(jī)拆開(kāi)解釋行業(yè)各種矛盾現(xiàn)象。第一類(lèi)一線工程師。很多工程師技術(shù)動(dòng)手能力很強(qiáng)但是并不理解涌現(xiàn)的內(nèi)在底層原理黑箱擺在面前。他們恐慌來(lái)源來(lái)自對(duì)系統(tǒng)內(nèi)在機(jī)制未知并不一定是擔(dān)憂人類(lèi)末日更多是對(duì)不可控黑箱的技術(shù)焦慮。很多工程師擅長(zhǎng)工程迭代缺少認(rèn)識(shí)論層面第一性原理訓(xùn)練探討本質(zhì)問(wèn)題只能復(fù)述主流教科書(shū)話語(yǔ)。第二類(lèi)芯片巨頭。芯片廠商核心商業(yè)訴求是售賣(mài)芯片。AI 熱潮帶來(lái)巨大算力采購(gòu)需求。他們會(huì)放大 AI 的重要性推動(dòng)行業(yè)擴(kuò)張商業(yè)利益是底層驅(qū)動(dòng)力。第三類(lèi)大國(guó)政客。大國(guó)競(jìng)爭(zhēng)背景之下部分政客看待 AI 首先將其作為競(jìng)賽工具。AI 是科技博弈、輿論博弈籌碼優(yōu)先考量國(guó)家競(jìng)爭(zhēng)勝負(fù)其次才考慮全球公共安全。三類(lèi)主體訴求各不相同多重訴求互相交織共同塑造今天 AI 發(fā)展路徑。很多關(guān)于 AI 風(fēng)險(xiǎn)的公開(kāi)發(fā)言并不純粹是追求真理的客觀分析摻雜自身群體的利益立場(chǎng)。很多拔高風(fēng)險(xiǎn)很多淡化風(fēng)險(xiǎn)背后都有私利驅(qū)動(dòng)。第五章 AI 圈層的符號(hào)崇拜頭銜不等于洞察力5.1 符號(hào)與真實(shí)能力的分裂現(xiàn)象當(dāng)下科技圈層廣泛存在一種現(xiàn)象社會(huì)頭銜、學(xué)位、公司職位、論文發(fā)表記錄作為社會(huì)符號(hào)被大眾直接等價(jià)于 “本質(zhì)思辨能力”。一個(gè)人可以非常擅長(zhǎng)寫(xiě)代碼、調(diào)模型、做實(shí)驗(yàn)、經(jīng)營(yíng)企業(yè)、發(fā)表論文這些屬于非常寶貴的專(zhuān)業(yè)工程能力。但是工程實(shí)操能力和第一性原理本質(zhì)辨析能力是兩套完全不一樣的能力集合。二者之間不存在必然伴隨關(guān)系。大量擁有耀眼符號(hào)的人物一旦跳出自己工程實(shí)操領(lǐng)域來(lái)到認(rèn)識(shí)論、科學(xué)哲學(xué)、事物本質(zhì)追問(wèn)的場(chǎng)域沒(méi)有獨(dú)立推演只會(huì)搬運(yùn)二手教科書(shū)敘事。他們依靠圈層符號(hào)獲得巨大公共話語(yǔ)權(quán)面向全社會(huì)輸出關(guān)于本質(zhì)、真理、科學(xué)的判斷但是這些判斷只是復(fù)述共同體教條。更有一部分占據(jù)頂層話語(yǔ)權(quán)位置的投機(jī)者清醒知道圈層游戲規(guī)則行為趨利避害維護(hù)自身地位、經(jīng)費(fèi)、行業(yè)聲望優(yōu)先于追求事實(shí)真理。他們熟練運(yùn)用話語(yǔ)符號(hào)包括波普爾病毒式話術(shù)維護(hù)共同體既得利益。這里必須再次重申重要邊界本文不是說(shuō)全部工程師全部是投機(jī)者。大量底層工程師埋頭完成工程實(shí)現(xiàn)他們只是負(fù)責(zé)執(zhí)行已經(jīng)制定好的技術(shù)目標(biāo)他們不掌握頂層規(guī)則、評(píng)測(cè)標(biāo)準(zhǔn)、對(duì)齊目標(biāo)的定義權(quán)力。工程干活人員的實(shí)操能力是整個(gè)行業(yè)必不可少的寶貴財(cái)富。批判矛頭指向的是掌握規(guī)則制定話語(yǔ)權(quán)卻固守教條、私利優(yōu)先的那一部分人不是全部從業(yè)者。5.2 符號(hào)崇拜帶來(lái)的社會(huì)危害第一誤導(dǎo)公眾。普通大眾默認(rèn)頭銜代表真理不加反思接受來(lái)自圈層權(quán)威的二手?jǐn)⑹路糯髷⑹屡菽瓊鞑ァ５诙Y選機(jī)制的扭曲?，F(xiàn)有體系獎(jiǎng)勵(lì)順從共同體范式的人真正愿意第一性原理反思、質(zhì)疑底層概念漏洞的人容易被邊緣化。論文不易發(fā)表項(xiàng)目難以拿到資源。第三傳導(dǎo)至 AI 頂層設(shè)計(jì)。掌握話語(yǔ)權(quán)群體的認(rèn)知盲區(qū)直接寫(xiě)入評(píng)測(cè)體系、對(duì)齊標(biāo)準(zhǔn)最終沉淀到大模型內(nèi)部。符號(hào)崇拜的解藥就是評(píng)判命題的時(shí)候執(zhí)行徹底的去身份化一個(gè)觀點(diǎn)是否成立只看邏輯自洽對(duì)照客觀事實(shí)證據(jù)。不看說(shuō)話人的頭銜、期刊、資本地位。普通人邏輯通順就要接納權(quán)威人物邏輯存在漏洞就要批判。第六章 通向真理導(dǎo)向認(rèn)知 AI 的必要條件改造話語(yǔ)權(quán)主體重構(gòu)認(rèn)知地基6.1 僅靠模型技術(shù)迭代無(wú)法完成根本性轉(zhuǎn)向前文已經(jīng)論證幻覺(jué)、敘事泡沫根源不在模型參數(shù)在于人制定的整套上層規(guī)則。數(shù)據(jù)集、損失函數(shù)、評(píng)測(cè)指標(biāo)、對(duì)齊方向全部是人定義。如果定義這些東西的群體本身被教條、私利、波普爾病毒束縛無(wú)論怎么優(yōu)化模型都只能做表層修補(bǔ)。嘴上喊追求事實(shí)真理實(shí)際持續(xù)放大謬誤本質(zhì)屬于忽悠。6.2 主體層面的必要變革話語(yǔ)權(quán)位置的人員篩選想要實(shí)現(xiàn) AI 面向事實(shí)與真理工程代碼實(shí)現(xiàn)人員可以保留他們負(fù)責(zé)算力、框架、訓(xùn)練流程等工具性工作。但是占據(jù)頂層話語(yǔ)權(quán)崗位定義評(píng)測(cè)標(biāo)準(zhǔn)、制定對(duì)齊目標(biāo)、篩選核心數(shù)據(jù)集、主持重大 AI 項(xiàng)目評(píng)審的那一批投機(jī)教條者必須被清退出決策位置。需要把另外一類(lèi)思想者納入規(guī)則制定環(huán)節(jié)能夠堅(jiān)持第一性原理擅長(zhǎng)概念辨析能夠識(shí)別話語(yǔ)病毒把邏輯自洽、事實(shí)核驗(yàn)作為最高優(yōu)先級(jí)而不是優(yōu)先顧及圈層共識(shí)、商業(yè)利益。但是現(xiàn)實(shí)立刻出現(xiàn)一大難題AI 行業(yè)是資本密集型行業(yè)訓(xùn)練、算力、數(shù)據(jù)集消耗海量資源。純粹求真思辨者往往不擅長(zhǎng)資本運(yùn)作商業(yè)博弈。如何在資本驅(qū)動(dòng)產(chǎn)業(yè)當(dāng)中給求真視角分配話語(yǔ)權(quán)是現(xiàn)實(shí)層面巨大的實(shí)踐困境。理論條件可以明確寫(xiě)出來(lái)落地路徑還需要社會(huì)層面配套機(jī)制。如果僅僅更換少量個(gè)體但是整套激勵(lì)機(jī)制沒(méi)有改動(dòng)新進(jìn)入的人很快會(huì)被舊體系同化。所以不只是更換人激勵(lì)評(píng)價(jià)體系同樣要同步重構(gòu)。不能再以論文數(shù)量、商業(yè)落地收益作為唯一考核標(biāo)尺把認(rèn)識(shí)論一致性、底層概念辨析能力納入頂層項(xiàng)目的考核維度。6.3 評(píng)測(cè)體系的革新增加地基測(cè)試現(xiàn)在大模型評(píng)測(cè)絕大多數(shù)集中數(shù)學(xué)、代碼、常識(shí)問(wèn)答。缺少針對(duì)底層認(rèn)識(shí)論的 “地基測(cè)試”。地基測(cè)試就是拿科學(xué)哲學(xué)、概念辨析、本質(zhì)問(wèn)題去拷問(wèn)模型輸出。檢驗(yàn)?zāi)Ｐ蜁?huì)不會(huì)不加反思復(fù)述教科書(shū)教條會(huì)不會(huì)被波普爾病毒類(lèi)話語(yǔ)感染能不能區(qū)分可能性和現(xiàn)實(shí)行動(dòng)能不能執(zhí)行第一性原理推演。如果上層建筑數(shù)學(xué)、代碼能力得分很高但是底層認(rèn)識(shí)論地基充滿(mǎn)敘事泡沫那么整套智能大廈根基是虛空的。地基測(cè)試應(yīng)當(dāng)成為下一代認(rèn)知 AI 必不可少評(píng)測(cè)維度。6.4 數(shù)據(jù)與對(duì)齊層面的調(diào)整方向數(shù)據(jù)集層面不能簡(jiǎn)單按照互聯(lián)網(wǎng)文本流行度進(jìn)行采樣。要對(duì)高流行度但是認(rèn)識(shí)論錯(cuò)誤的敘事泡沫文本做甄別過(guò)濾。流行不等于真理高頻文本不等于正確文本。對(duì)齊環(huán)節(jié)不能僅僅對(duì)齊 “不冒犯主流觀點(diǎn)”。對(duì)齊目標(biāo)應(yīng)當(dāng)增加硬約束邏輯自洽優(yōu)先事實(shí)證據(jù)優(yōu)先拒絕 “波話式” 和稀泥折中話術(shù)。當(dāng)主流共同體敘事本身存在邏輯漏洞的時(shí)候模型不應(yīng)當(dāng)一味復(fù)刻主流。但這里又出現(xiàn)實(shí)踐難題機(jī)器很難自動(dòng)識(shí)別何為敘事泡沫。泡沫識(shí)別本身又依賴(lài)人的判斷于是又繞回原點(diǎn)執(zhí)行甄別工作的人類(lèi)評(píng)判者自身認(rèn)知地基必須可靠。再次證明一切變革的起點(diǎn)是人不是算法。全文總結(jié)本文沿著層層遞進(jìn)邏輯完成整套審視現(xiàn)將全部核心結(jié)論匯總總結(jié)證偽與可證偽性必須嚴(yán)格分割。證偽是現(xiàn)實(shí)可執(zhí)行的科學(xué)實(shí)踐工具可證偽性?xún)H僅代表邏輯想象層面靜態(tài)可能性不需要現(xiàn)實(shí)檢驗(yàn)行動(dòng)?？勺C偽性標(biāo)準(zhǔn)自帶自指悖論當(dāng)它被簡(jiǎn)化為教科書(shū)口號(hào)之后演化為 “波普爾病毒”。這套話語(yǔ)病毒不要求使用者弄懂邏輯與本質(zhì)僅僅依靠符號(hào)標(biāo)簽就可以完成學(xué)術(shù)裁決成為排斥異見(jiàn)思想的柔性權(quán)力大棒。病毒依靠教科書(shū)、論文評(píng)審、互聯(lián)網(wǎng)科普逐級(jí)傳播最終流入大模型訓(xùn)練語(yǔ)料庫(kù)。大模型認(rèn)知缺陷根源是人模型只是鏡像放大器。技術(shù)實(shí)然層面現(xiàn)有大模型訓(xùn)練目標(biāo)并不追求本體真理但是該現(xiàn)狀不能作為輸出謬誤的免責(zé)借口。按照形式邏輯矛盾律針對(duì)具備客觀真值的斷言命題不存在既非真理也非謬誤的中間地帶。模型一旦輸出判斷不能產(chǎn)出真理輸出就必然屬于謬誤集合與模型主觀動(dòng)機(jī)無(wú)關(guān)。算力、RAG 檢索、RLHF 對(duì)齊可以緩解表層事實(shí)錯(cuò)誤但不能根治來(lái)自人類(lèi)圈層的敘事泡沫只要頂層規(guī)則制定群體認(rèn)知地基不變模型迭代只能屬于表層修補(bǔ)。AI 最高等級(jí)現(xiàn)實(shí)風(fēng)險(xiǎn)不是 AI 自我覺(jué)醒而是人類(lèi)權(quán)力劫持 AI 技術(shù)。兩次世界大戰(zhàn)歷史教訓(xùn)證明先進(jìn)技術(shù)被不受約束的流氓政治劫持會(huì)帶來(lái)巨大文明災(zāi)難。AI 作為強(qiáng)大認(rèn)知輿論工具被劫持之后會(huì)發(fā)生顛倒黑白的話語(yǔ)操縱也就是 “豬八戒倒打一耙”。由此導(dǎo)出核心論斷AI 治理的本質(zhì)不是治理算法模型而是治理人類(lèi)權(quán)力的邊界管控工具是次級(jí)手段約束揮舞工具的權(quán)力主體才是根源命題。必須區(qū)分工程實(shí)操能力與本質(zhì)思辨洞察力。行業(yè)當(dāng)中大量頭銜、資本、論文屬于社會(huì)符號(hào)符號(hào)不等于第一性原理思辨能力。很多工程師可以完成優(yōu)秀工程實(shí)現(xiàn)但是面對(duì)底層認(rèn)識(shí)論問(wèn)題只能復(fù)述二手共同體敘事。批判的對(duì)象不是廣大執(zhí)行層面工程師而是占據(jù)頂層話語(yǔ)權(quán)位置、趨利避害維護(hù)圈層私利、固守教條的投機(jī)群體。構(gòu)建真理導(dǎo)向的認(rèn)知 AI核心變革發(fā)生在人類(lèi)主體與激勵(lì)體系層面。底層工程技術(shù)人員可以保留工具價(jià)值但掌握評(píng)測(cè)標(biāo)準(zhǔn)、對(duì)齊目標(biāo)、項(xiàng)目評(píng)審的頂層話語(yǔ)權(quán)位置必須清除教條投機(jī)者引入堅(jiān)持第一性原理、以邏輯事實(shí)優(yōu)先的思考者同步革新激勵(lì)機(jī)制增設(shè)認(rèn)識(shí)論 “地基測(cè)試” 作為模型硬性評(píng)測(cè)維度。同時(shí)也要正視現(xiàn)實(shí)困境AI 屬于資本高度密集產(chǎn)業(yè)求真視角如何在資本環(huán)境當(dāng)中獲取足夠話語(yǔ)權(quán)依舊是尚未解決的現(xiàn)實(shí)難題。方法論總原則評(píng)判一切命題剝離身份符號(hào)只考察邏輯自洽和客觀事實(shí)證據(jù)。無(wú)論觀點(diǎn)來(lái)自教科書(shū)、權(quán)威科學(xué)家、企業(yè)創(chuàng)始人還是普通個(gè)體不看頭銜光環(huán)邏輯不通即應(yīng)當(dāng)予以否定。真理的評(píng)判標(biāo)尺是邏輯與事實(shí)不是共同體共識(shí)。本研究仍然留下大量有待進(jìn)一步開(kāi)拓的方向如何設(shè)計(jì)一套可落地的地基測(cè)試量化指標(biāo)在國(guó)際現(xiàn)實(shí)政治環(huán)境下約束權(quán)力濫用 AI 可以建立哪些可行的制度如何區(qū)分合理方法論約定與波普爾病毒式教條話語(yǔ)如何在資本體系內(nèi)部為求真認(rèn)知視角爭(zhēng)取制度空間。以上議題可以作為后續(xù)持續(xù)深度研究的起點(diǎn)。