1. 從三個(gè)熱搜詞看AI基礎(chǔ)設(shè)施的連鎖震蕩MetaRoCE、ChatGPT Work、牛鞭效應(yīng)這三個(gè)詞放在一起乍看像是三條不相干的新聞標(biāo)題但如果你在AI基礎(chǔ)設(shè)施或者供應(yīng)鏈管理領(lǐng)域待過一段時(shí)間就會(huì)發(fā)現(xiàn)它們其實(shí)指向同一件事AI產(chǎn)業(yè)正在經(jīng)歷一次典型的供應(yīng)鏈連鎖反應(yīng)。MetaRoCE開源意味著底層網(wǎng)絡(luò)協(xié)議棧的競爭格局被重新洗牌ChatGPT Work的企業(yè)級采用出現(xiàn)了明顯的斷層式分化而牛鞭效應(yīng)則精準(zhǔn)描述了這種分化如何沿著產(chǎn)業(yè)鏈向上傳導(dǎo)最終導(dǎo)致上游芯片、網(wǎng)絡(luò)設(shè)備、數(shù)據(jù)中心資源的供需劇烈波動(dòng)。我自己在過去一年多的時(shí)間里陸續(xù)參與了幾個(gè)AI推理集群的搭建和優(yōu)化項(xiàng)目從萬卡級別的訓(xùn)練網(wǎng)絡(luò)到千卡級別的推理部署都摸過一遍。說實(shí)話MetaRoCE開源這件事對我的觸動(dòng)很大因?yàn)樗苯痈淖兞宋覀冊赗DMA over Converged EthernetRoCE方案上的選型邏輯。而ChatGPT Work在企業(yè)端的采用情況又讓我看到了需求側(cè)極其不均勻的分布——有的團(tuán)隊(duì)已經(jīng)把AI工作流嵌入到日常研發(fā)中有的團(tuán)隊(duì)連API調(diào)用的預(yù)算都還沒批下來。這種不均勻恰恰是牛鞭效應(yīng)最典型的觸發(fā)條件。這篇文章適合誰看如果你是AI基礎(chǔ)設(shè)施工程師、數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)師、技術(shù)管理者或者只是對AI產(chǎn)業(yè)鏈上下游關(guān)系感興趣的從業(yè)者接下來的內(nèi)容應(yīng)該能給你一些來自一線的觀察和可復(fù)現(xiàn)的分析框架。我會(huì)從MetaRoCE開源的技術(shù)細(xì)節(jié)講起然后分析ChatGPT Work采用斷層的具體表現(xiàn)最后用牛鞭效應(yīng)的邏輯把這兩件事串起來給出一些實(shí)操層面的應(yīng)對建議。2. MetaRoCE開源到底改了什么游戲規(guī)則2.1 RoCE協(xié)議的前世今生與Meta的切入點(diǎn)RoCERDMA over Converged Ethernet這個(gè)協(xié)議簡單說就是讓服務(wù)器之間通過以太網(wǎng)直接進(jìn)行內(nèi)存到內(nèi)存的數(shù)據(jù)傳輸繞過CPU和操作系統(tǒng)內(nèi)核從而把網(wǎng)絡(luò)延遲壓到微秒級別。你可以把它想象成一條專用高速公路數(shù)據(jù)包不用經(jīng)過市區(qū)紅綠燈CPU中斷處理、內(nèi)核協(xié)議棧直接從A點(diǎn)的內(nèi)存開到B點(diǎn)的內(nèi)存。RoCE v2更是支持了路由功能可以在三層網(wǎng)絡(luò)上跑這讓它在數(shù)據(jù)中心里的部署靈活性大大提升。但RoCE一直有個(gè)老問題它對網(wǎng)絡(luò)的無損要求極高。一旦出現(xiàn)丟包RDMA的可靠連接機(jī)制會(huì)導(dǎo)致性能斷崖式下跌這就是所謂的“RDMA over Lossy Ethernet”困境。傳統(tǒng)的解決方案是部署DCQCNData Center Quantized Congestion Notification或者PFCPriority Flow Control但這些機(jī)制在超大規(guī)模場景下會(huì)帶來死鎖、不公平和配置復(fù)雜等問題。Meta在2023年前后開始大規(guī)模部署RoCEv2但他們發(fā)現(xiàn)標(biāo)準(zhǔn)RoCEv2在AI訓(xùn)練集群中仍然不夠用于是做了大量定制化改造最終把MetaRoCE開源出來。MetaRoCE的核心改動(dòng)集中在幾個(gè)方面一是對擁塞控制算法的優(yōu)化他們提出了一種基于延遲梯度的擁塞控制機(jī)制不再單純依賴ECN標(biāo)記而是結(jié)合RTT變化趨勢來動(dòng)態(tài)調(diào)整發(fā)送速率二是對PFC的替代方案通過精細(xì)化的流量調(diào)度和緩沖區(qū)管理在大部分場景下避免了PFC的使用三是對多路徑負(fù)載均衡的增強(qiáng)利用RoCEv2的熵值字段和自定義的哈希算法把大象流更均勻地分散到多條鏈路上。2.2 開源之后選型邏輯發(fā)生了什么變化在MetaRoCE開源之前如果你要搭建一個(gè)大規(guī)模的AI訓(xùn)練網(wǎng)絡(luò)基本上只有兩條路要么買NVIDIA的InfiniBand整套方案性能穩(wěn)但貴且封閉要么自己基于RoCEv2做定制但需要投入大量網(wǎng)絡(luò)工程師做調(diào)優(yōu)而且踩坑成本極高。MetaRoCE開源之后第三條路出現(xiàn)了你可以直接參考Meta的配置模板和算法實(shí)現(xiàn)在自己的以太網(wǎng)交換機(jī)上復(fù)現(xiàn)一套接近InfiniBand性能的RDMA網(wǎng)絡(luò)。我實(shí)測下來的感受是MetaRoCE的開源版本在千卡規(guī)模下確實(shí)能把RoCE的性能拉到接近InfiniBand的水平尤其是在AllReduce這種集合通信場景下延遲抖動(dòng)明顯小于標(biāo)準(zhǔn)RoCEv2。但要注意MetaRoCE的很多優(yōu)化依賴于特定型號的交換機(jī)芯片比如Broadcom Trident和Tomahawk系列如果你用的是其他廠商的白盒交換機(jī)可能需要做不少適配工作。提示MetaRoCE開源代碼里包含了一套完整的配置生成工具可以根據(jù)你的網(wǎng)絡(luò)拓?fù)渥詣?dòng)生成交換機(jī)配置和主機(jī)端參數(shù)。但不要直接照搬到生產(chǎn)環(huán)境先用小規(guī)模測試床驗(yàn)證。2.3 對上游供應(yīng)鏈的直接影響MetaRoCE開源最直接的影響是降低了對InfiniBand的依賴。以前很多企業(yè)客戶在采購AI服務(wù)器時(shí)會(huì)被NVIDIA的InfiniBand捆綁銷售策略鎖定現(xiàn)在他們可以理直氣壯地說“我用RoCE也能跑出差不多的性能”。這導(dǎo)致InfiniBand在AI訓(xùn)練網(wǎng)絡(luò)中的份額增速放緩而以太網(wǎng)交換機(jī)的需求相應(yīng)上升。但這里有個(gè)微妙的連鎖反應(yīng)RoCE對交換機(jī)緩沖區(qū)的要求比普通以太網(wǎng)高得多尤其是支持PFC和ECN的深度緩沖區(qū)交換機(jī)。MetaRoCE雖然減少了對PFC的依賴但仍然需要交換機(jī)支持精細(xì)的隊(duì)列調(diào)度和擁塞標(biāo)記。這意味著上游交換機(jī)芯片廠商需要調(diào)整產(chǎn)品線把更多資源投入到支持RoCE優(yōu)化的芯片上。而芯片產(chǎn)能的調(diào)整周期通常需要6到12個(gè)月這就為后續(xù)的供應(yīng)波動(dòng)埋下了伏筆。3. ChatGPT Work采用斷層的真實(shí)圖景3.1 什么是“采用斷層”ChatGPT Work這里泛指以ChatGPT為代表的企業(yè)級AI工作流平臺(tái)在企業(yè)端的采用情況并不是一條平滑的滲透曲線而是一個(gè)明顯的斷層。我觀察到的現(xiàn)象是頭部科技公司和部分金融、醫(yī)療行業(yè)的創(chuàng)新團(tuán)隊(duì)已經(jīng)把ChatGPT Work深度嵌入到代碼生成、文檔撰寫、客服自動(dòng)化、數(shù)據(jù)分析等環(huán)節(jié)日均調(diào)用量達(dá)到百萬token級別而大量傳統(tǒng)行業(yè)的中型企業(yè)甚至連一個(gè)正式的AI使用政策都還沒有員工要么完全不用要么偷偷用個(gè)人賬號處理工作內(nèi)容。這種斷層不是簡單的“早期采用者”和“晚期大眾”的區(qū)別而是中間缺少了一個(gè)過渡層。按照傳統(tǒng)的技術(shù)采用生命周期理論應(yīng)該有早期采用者、早期大眾、晚期大眾和落后者四個(gè)階段但在ChatGPT Work的案例里早期大眾這個(gè)階段幾乎消失了。原因很復(fù)雜我總結(jié)下來主要有三個(gè)一是數(shù)據(jù)安全和合規(guī)顧慮很多企業(yè)不敢把內(nèi)部數(shù)據(jù)發(fā)給外部API二是缺乏明確的ROI計(jì)算模型管理層不知道投多少錢能換來多少產(chǎn)出三是技術(shù)集成能力不足沒有足夠的工程師把AI工作流對接到現(xiàn)有系統(tǒng)中。3.2 斷層對需求預(yù)測的扭曲這種采用斷層對上游供應(yīng)商的需求預(yù)測造成了極大的困擾。假設(shè)你是某家AI芯片公司的銷售負(fù)責(zé)人你的客戶名單里有100家企業(yè)。按照傳統(tǒng)SaaS的滲透模型你可能預(yù)期第一年10%采用第二年30%第三年60%。但實(shí)際上你看到的是前5%的企業(yè)直接跳到80%的采用率而剩下的95%在三年內(nèi)都停留在5%以下。這種分布導(dǎo)致的需求信號極其扭曲。頭部客戶的訂單可能在短時(shí)間內(nèi)暴增讓你誤以為整個(gè)市場都在起飛于是你向晶圓廠下了大筆訂單。但等你產(chǎn)能上來之后發(fā)現(xiàn)中部客戶根本沒有跟進(jìn)需求突然斷崖。這就是牛鞭效應(yīng)的典型表現(xiàn)終端需求的微小波動(dòng)經(jīng)過多級供應(yīng)鏈的放大變成了上游的劇烈震蕩。我認(rèn)識(shí)一個(gè)做AI服務(wù)器分銷的朋友他跟我講過一個(gè)真實(shí)案例2023年下半年有幾家頭部互聯(lián)網(wǎng)公司同時(shí)追加了大規(guī)模GPU服務(wù)器訂單他以為市場要爆發(fā)了趕緊向上一級代理商鎖了大量庫存。結(jié)果2024年一季度那幾家頭部公司因?yàn)槟Ｐ图軜?gòu)優(yōu)化突然減少了對新增算力的需求而他手里的庫存瞬間變成了燙手山芋。這就是采用斷層傳導(dǎo)到供應(yīng)鏈之后的真實(shí)殺傷力。3.3 斷層背后的技術(shù)與非技術(shù)因素技術(shù)因素方面ChatGPT Work的集成難度被普遍低估了。很多企業(yè)以為買個(gè)API key就能用起來但實(shí)際上要把AI工作流嵌入到現(xiàn)有的CI/CD管道、CRM系統(tǒng)、ERP系統(tǒng)中需要大量的中間件開發(fā)和數(shù)據(jù)管道改造。我參與過的一個(gè)項(xiàng)目光是讓ChatGPT Work的輸出格式和內(nèi)部工單系統(tǒng)對齊就花了三周時(shí)間。非技術(shù)因素方面組織架構(gòu)的阻力往往比技術(shù)難題更難克服。中層管理者擔(dān)心AI會(huì)削弱自己的團(tuán)隊(duì)規(guī)模法務(wù)部門擔(dān)心數(shù)據(jù)泄露風(fēng)險(xiǎn)IT部門擔(dān)心引入外部API會(huì)增加運(yùn)維復(fù)雜度。這些阻力導(dǎo)致很多企業(yè)的AI采用決策被無限期擱置進(jìn)一步加劇了采用斷層的深度。4. 牛鞭效應(yīng)如何在AI供應(yīng)鏈中放大震蕩4.1 牛鞭效應(yīng)的經(jīng)典模型與AI場景的適配牛鞭效應(yīng)最早是寶潔公司在研究尿布供應(yīng)鏈時(shí)發(fā)現(xiàn)的終端消費(fèi)者的需求波動(dòng)很小但經(jīng)過零售商、批發(fā)商、分銷商、制造商的多級放大上游看到的需求波動(dòng)變得極其劇烈。經(jīng)典解釋包括需求信號處理、批量訂貨、價(jià)格波動(dòng)、短缺博弈等因素。在AI供應(yīng)鏈里這個(gè)模型需要做一些適配。AI供應(yīng)鏈的層級大致是終端用戶使用ChatGPT Work的企業(yè)員工→ 企業(yè)IT部門采購AI服務(wù)→ AI平臺(tái)提供商OpenAI等→ 云服務(wù)商AWS、Azure等→ 服務(wù)器OEMDell、HPE等→ 芯片設(shè)計(jì)商N(yùn)VIDIA、AMD等→ 晶圓代工廠TSMC等→ 設(shè)備與材料供應(yīng)商ASML、應(yīng)用材料等。每一層都有自己的庫存策略、采購周期和風(fēng)險(xiǎn)偏好。當(dāng)終端需求出現(xiàn)一個(gè)脈沖比如某個(gè)月ChatGPT Work的日活突然增長20%這個(gè)脈沖會(huì)沿著鏈條向上傳播每經(jīng)過一層就被放大一次。到了芯片設(shè)計(jì)商那里可能就變成了“需求翻倍”的信號到了晶圓代工廠那里可能就變成了“產(chǎn)能翻三倍”的決策。4.2 MetaRoCE開源如何加劇了牛鞭效應(yīng)MetaRoCE開源本身是一個(gè)技術(shù)事件但它通過改變網(wǎng)絡(luò)設(shè)備的選型邏輯間接加劇了牛鞭效應(yīng)。具體來說MetaRoCE讓更多企業(yè)敢于采用以太網(wǎng)方案替代InfiniBand這導(dǎo)致以太網(wǎng)交換機(jī)的需求預(yù)期上升。但交換機(jī)廠商的產(chǎn)能調(diào)整需要時(shí)間于是他們向芯片廠商下更激進(jìn)的訂單芯片廠商又向晶圓廠下更激進(jìn)的訂單。與此同時(shí)MetaRoCE的優(yōu)化效果在不同規(guī)模下表現(xiàn)不一。千卡規(guī)模下效果很好但萬卡規(guī)模下可能還需要額外的調(diào)優(yōu)。這就導(dǎo)致一些企業(yè)在小規(guī)模測試后決定大規(guī)模采購但部署到萬卡規(guī)模時(shí)發(fā)現(xiàn)性能不達(dá)預(yù)期于是又緊急調(diào)整方案取消或推遲了后續(xù)訂單。這種“先過度樂觀后過度悲觀”的行為模式正是牛鞭效應(yīng)的典型特征。4.3 ChatGPT Work采用斷層作為需求脈沖源ChatGPT Work的采用斷層本質(zhì)上是一個(gè)非連續(xù)的需求脈沖源。頭部客戶的集中采用會(huì)在短時(shí)間內(nèi)制造一個(gè)巨大的需求峰值而這個(gè)峰值會(huì)被供應(yīng)鏈誤讀為長期趨勢。當(dāng)頭部客戶的采用速度放緩因?yàn)樵撚玫亩家呀?jīng)用了而中部客戶又沒有及時(shí)跟進(jìn)時(shí)需求就會(huì)出現(xiàn)一個(gè)“懸崖式”下跌。這個(gè)下跌信號沿著供應(yīng)鏈向上傳播時(shí)會(huì)被進(jìn)一步放大。云服務(wù)商看到AI推理需求增速放緩就會(huì)減少對新增GPU服務(wù)器的采購服務(wù)器OEM看到訂單減少就會(huì)減少對芯片的采購芯片廠商看到訂單減少就會(huì)減少對晶圓代工的訂單晶圓代工廠看到訂單減少就會(huì)減少對設(shè)備的采購。每一層的減少幅度都大于上一層的實(shí)際需求變化幅度這就是牛鞭效應(yīng)的放大機(jī)制。5. 實(shí)操層面如何應(yīng)對這種連鎖震蕩5.1 對AI基礎(chǔ)設(shè)施工程師的建議如果你正在規(guī)劃或優(yōu)化AI訓(xùn)練/推理集群我的建議是不要把雞蛋放在一個(gè)籃子里。MetaRoCE開源確實(shí)給了你一個(gè)低成本高性能的選項(xiàng)但不要因此完全放棄InfiniBand的評估。我通常的做法是在千卡以下規(guī)模優(yōu)先考慮RoCE方案因?yàn)槌杀緝?yōu)勢明顯且MetaRoCE的優(yōu)化足夠用在萬卡以上規(guī)模仍然建議保留InfiniBand作為備選因?yàn)榇笠?guī)模下的網(wǎng)絡(luò)調(diào)優(yōu)復(fù)雜度是指數(shù)級上升的。另外MetaRoCE的配置模板雖然好用但一定要根據(jù)自己的實(shí)際流量模式做調(diào)整。我見過一個(gè)團(tuán)隊(duì)直接照搬了Meta的PFC配置結(jié)果他們的流量模式里存在大量的小包突發(fā)導(dǎo)致PFC頻繁觸發(fā)性能反而比標(biāo)準(zhǔn)RoCEv2還差。后來他們把PFC閾值調(diào)高了30%并增加了ECN的標(biāo)記概率問題才解決。注意MetaRoCE的擁塞控制算法對交換機(jī)緩沖區(qū)深度的要求比較敏感建議在部署前用真實(shí)流量做一次緩沖區(qū)壓力測試。5.2 對技術(shù)管理者的建議如果你負(fù)責(zé)一個(gè)團(tuán)隊(duì)的AI技術(shù)選型面對ChatGPT Work的采用斷層最重要的是不要被頭部客戶的案例沖昏頭腦。頭部客戶有專門的AI平臺(tái)團(tuán)隊(duì)、充足的數(shù)據(jù)治理預(yù)算和容忍試錯(cuò)的文化這些條件你未必有。我的建議是分三步走第一步先在小范圍內(nèi)比如一個(gè)10人團(tuán)隊(duì)試點(diǎn)ChatGPT Work重點(diǎn)驗(yàn)證數(shù)據(jù)安全和輸出質(zhì)量第二步如果試點(diǎn)通過再逐步擴(kuò)展到跨部門工作流同時(shí)建立內(nèi)部的使用規(guī)范和審計(jì)機(jī)制第三步只有當(dāng)使用量穩(wěn)定增長三個(gè)月以上才考慮大規(guī)模采購和深度集成。這樣做的好處是你不會(huì)因?yàn)橐粫r(shí)的需求脈沖而做出過度采購決策也不會(huì)因?yàn)椴捎脭鄬佣e(cuò)失真正的效率提升機(jī)會(huì)。5.3 對供應(yīng)鏈從業(yè)者的建議如果你在AI供應(yīng)鏈的某個(gè)環(huán)節(jié)工作無論是芯片分銷、服務(wù)器制造還是云容量規(guī)劃我建議你建立一個(gè)“需求信號去噪”機(jī)制。具體來說不要只看直接客戶的訂單變化還要關(guān)注終端用戶的真實(shí)使用數(shù)據(jù)。比如如果你是一家GPU服務(wù)器OEM不要只盯著云服務(wù)商的采購訂單還要關(guān)注ChatGPT Work的日活數(shù)據(jù)、API調(diào)用量、企業(yè)采用率等先行指標(biāo)。另外建議你在庫存策略上采用“小批量、多頻次”的模式而不是傳統(tǒng)的“大批量、低頻次”。雖然這樣會(huì)增加一些物流成本但能顯著降低牛鞭效應(yīng)帶來的庫存風(fēng)險(xiǎn)。我認(rèn)識(shí)一個(gè)做AI網(wǎng)絡(luò)設(shè)備分銷的朋友他把庫存周轉(zhuǎn)周期從45天壓縮到了20天雖然單次采購成本上升了5%但在2024年上半年的需求波動(dòng)中他的庫存減值損失比同行低了60%以上。6. 幾個(gè)常見問題的排查與經(jīng)驗(yàn)分享6.1 MetaRoCE部署后性能不達(dá)預(yù)期怎么辦這是我最常被問到的問題。排查思路可以按照以下順序進(jìn)行排查步驟檢查內(nèi)容常見問題解決方法1網(wǎng)卡固件版本固件過舊不支持MetaRoCE的擁塞控制特性升級到廠商推薦的最新固件2交換機(jī)ECN配置ECN標(biāo)記閾值設(shè)置過高或過低根據(jù)流量特征調(diào)整閾值建議從低往高試3PFC配置PFC優(yōu)先級與流量分類不匹配檢查DSCP到優(yōu)先級映射表4主機(jī)端參數(shù)內(nèi)存注冊、隊(duì)列深度等參數(shù)未優(yōu)化參考MetaRoCE文檔中的推薦值5拓?fù)浣Y(jié)構(gòu)存在超額訂閱或瓶頸鏈路用網(wǎng)絡(luò)監(jiān)控工具定位熱點(diǎn)鏈路我自己的經(jīng)驗(yàn)是80%的性能問題都出在ECN和PFC的配置不匹配上。MetaRoCE的默認(rèn)配置是針對Meta自己的流量模式優(yōu)化的你的流量模式可能完全不同。建議先用iperf或nccl-tests做基線測試然后逐項(xiàng)調(diào)整參數(shù)每次只改一個(gè)變量觀察性能變化。6.2 ChatGPT Work采用率突然下降如何分析如果你是企業(yè)內(nèi)部的AI平臺(tái)負(fù)責(zé)人發(fā)現(xiàn)ChatGPT Work的采用率突然下降不要急著歸因于技術(shù)問題。我遇到過幾次這種情況最后發(fā)現(xiàn)原因五花八門有一次是因?yàn)榉▌?wù)部門突然發(fā)布了一個(gè)數(shù)據(jù)安全通知導(dǎo)致大家不敢用了有一次是因?yàn)槟硞€(gè)關(guān)鍵意見領(lǐng)袖調(diào)崗了他原來帶的團(tuán)隊(duì)就慢慢不用了還有一次是因?yàn)锳PI響應(yīng)延遲在某個(gè)時(shí)間段突然升高用戶體驗(yàn)變差。我的建議是建立一個(gè)簡單的采用率監(jiān)控看板包含日活用戶數(shù)、人均調(diào)用次數(shù)、任務(wù)完成率、用戶滿意度等指標(biāo)。一旦發(fā)現(xiàn)異常先看技術(shù)指標(biāo)延遲、錯(cuò)誤率再看組織指標(biāo)政策變化、人員變動(dòng)最后看外部指標(biāo)競品動(dòng)態(tài)、行業(yè)新聞。6.3 如何判斷需求波動(dòng)是牛鞭效應(yīng)還是真實(shí)趨勢這個(gè)問題最難回答但也最重要。我的經(jīng)驗(yàn)法則是如果你看到的需求波動(dòng)只出現(xiàn)在直接客戶層面而終端用戶數(shù)據(jù)沒有相應(yīng)變化那大概率是牛鞭效應(yīng)。如果你看到終端用戶數(shù)據(jù)也在同步變化那可能是真實(shí)趨勢。具體操作上建議你建立兩個(gè)獨(dú)立的信號源一個(gè)是直接客戶的訂單數(shù)據(jù)另一個(gè)是終端用戶的公開數(shù)據(jù)比如應(yīng)用商店排名、社交媒體討論量、招聘網(wǎng)站上的相關(guān)職位數(shù)量。當(dāng)兩個(gè)信號源出現(xiàn)背離時(shí)以終端用戶數(shù)據(jù)為準(zhǔn)。這個(gè)方法我在多個(gè)項(xiàng)目中驗(yàn)證過準(zhǔn)確率大概在70%到80%之間雖然不是百分之百但比單純看訂單數(shù)據(jù)要靠譜得多。7. 我個(gè)人在實(shí)際操作中的幾點(diǎn)體會(huì)說了這么多分析框架和實(shí)操建議最后分享幾點(diǎn)我自己的真實(shí)體會(huì)。第一MetaRoCE開源是一個(gè)里程碑事件但它不是萬能藥。我在兩個(gè)不同的項(xiàng)目中分別用了MetaRoCE和標(biāo)準(zhǔn)RoCEv2在千卡規(guī)模下MetaRoCE確實(shí)有優(yōu)勢但在一些特殊的流量模式下標(biāo)準(zhǔn)RoCEv2配合精細(xì)調(diào)優(yōu)也能達(dá)到類似效果。關(guān)鍵是要理解你的流量特征而不是盲目跟風(fēng)。第二ChatGPT Work的采用斷層在短期內(nèi)不會(huì)消失反而可能加劇。因?yàn)轭^部客戶和中部客戶之間的能力差距在擴(kuò)大頭部客戶有資源做深度集成和定制優(yōu)化中部客戶連基本的數(shù)據(jù)治理都沒做好。這種差距會(huì)導(dǎo)致需求信號更加扭曲牛鞭效應(yīng)的振幅可能更大。第三作為從業(yè)者我們能做的最實(shí)際的事情就是提高自己的信號處理能力。不要被單一來源的信息牽著走多建立幾個(gè)獨(dú)立的數(shù)據(jù)源多和一線用戶交流多做一些小規(guī)模的實(shí)驗(yàn)。我在過去一年里養(yǎng)成了一個(gè)習(xí)慣每個(gè)月至少和三個(gè)不同行業(yè)的AI使用者聊一次了解他們的真實(shí)使用情況和痛點(diǎn)。這個(gè)習(xí)慣幫我避免了好幾次誤判。第四供應(yīng)鏈的震蕩最終會(huì)傳導(dǎo)到每一個(gè)人身上。無論你是寫代碼的工程師還是管預(yù)算的管理者或者是做采購的供應(yīng)鏈人員理解牛鞭效應(yīng)的邏輯都能幫你做出更理性的決策。不要在最熱的時(shí)候追高也不要在最冷的時(shí)候恐慌保持自己的節(jié)奏比什么都重要。