據(jù)報(bào)道10 月 7 日 Anthropic 上線了新的輕量模型 Claude Haiku 5.5官方稱平均運(yùn)行成本比上一代 Haiku 4.5 低約 75%。具體到價(jià)簽上提示詞不超過(guò) 10 萬(wàn) Token 的請(qǐng)求輸入價(jià)降到每百萬(wàn) Token 0.10 美元、輸出 0.50 美元官方說(shuō)這一檔比上代低了 90%超過(guò) 10 萬(wàn) Token 的請(qǐng)求輸入 0.50 美元、輸出 2.50 美元比上代低 50%。一句話又是一輪小模型降價(jià)這回降得不算小。對(duì)天天跟 API 賬單打交道的人來(lái)說(shuō)這條消息值得看一眼但也別急著換。先把幾件事拆開(kāi)。這次降的是什么沒(méi)降的是什么Anthropic 這次的定位很清楚把 Haiku 放在高頻、重復(fù)、對(duì)成本敏感的活上比如摘要、上下文壓縮、數(shù)據(jù)庫(kù)查詢、分類(lèi)請(qǐng)求以及給旗艦?zāi)Ｐ彤?dāng)子智能體。官方同時(shí)把 Sonnet 5.5 的緩存讀取價(jià)格從每百萬(wàn) Token 0.20 美元降到 0.10 美元說(shuō)這能讓它在多數(shù)智能體任務(wù)里便宜約 20%。變的東西是計(jì)價(jià)思路。過(guò)去大家比的是誰(shuí)參數(shù)大、誰(shuí)跑分高現(xiàn)在廠商開(kāi)始比單位任務(wù)成本——同一個(gè)任務(wù)誰(shuí)花更少的錢(qián)做完。分檔計(jì)價(jià)、緩存折扣、批處理、推理強(qiáng)度檔位Haiku 5.5 提供了從 Low 到 Max 的多檔 effort 設(shè)置本質(zhì)上都是在把便宜做成一個(gè)可調(diào)的旋鈕。沒(méi)變的是分工。官方自己也說(shuō)Haiku 5.5 不是來(lái)取代大模型的寫(xiě)復(fù)雜代碼、跑多步驟智能體這類(lèi)活還是得靠能力更強(qiáng)的檔位。小模型接的是以前因?yàn)樘F而不劃算、干脆不做的任務(wù)——這點(diǎn)很關(guān)鍵它擴(kuò)張的是任務(wù)邊界不是把貴的模型擠下去。對(duì)你我的實(shí)際影響最直接的場(chǎng)景是批量處理。假設(shè)你有個(gè)每天跑 10 萬(wàn)條的分類(lèi)任務(wù)每條平均 2000 輸入 Token、200 輸出 Token。按官方這個(gè)價(jià)輸入 2 億 Token 約合 20 美元輸出 2000 萬(wàn) Token 約合 10 美元一天差不多 30 美元。這種量級(jí)放兩年前基本不用想。調(diào)用上沒(méi)什么花活還是標(biāo)準(zhǔn) SDKimportanthropic clientanthropic.Anthropic()# 從環(huán)境變量 ANTHROPIC_API_KEY 讀取密鑰respclient.messages.create(modelclaude-haiku-5-5,max_tokens1024,messages[{role:user,content:把下面這段會(huì)議記錄壓縮成三條要點(diǎn)……}],)print(resp.content[0].text) 批處理任務(wù)可以走 Batch 接口具體折扣和限額以官方文檔為準(zhǔn)別拿博客里的舊數(shù)字直接估預(yù)算。## 幾個(gè)容易踩的坑第一便宜不等于夠用。跑分提升比如官方給的電腦操作、智能體編程幾項(xiàng)成績(jī)是在它自己的測(cè)試集上你的業(yè)務(wù)數(shù)據(jù)能不能過(guò)得自己拿真實(shí)樣本評(píng)測(cè)一遍別照著榜單切模型。 第二注意10萬(wàn) Token 那條分界線?？邕^(guò)去單價(jià)直接翻五倍。也就是說(shuō)把上下文壓短、把長(zhǎng)文檔先切分再喂本身就是省錢(qián)動(dòng)作不只是省 Token 數(shù)。 第三別只比單價(jià)。計(jì)費(fèi)項(xiàng)里有輸入、緩存寫(xiě)入、緩存讀取、輸出、批處理、服務(wù)層級(jí)好幾檔。只盯著輸入價(jià)做對(duì)比很容易算出便宜 80%然后發(fā)現(xiàn)賬單沒(méi)怎么降。 第四推理強(qiáng)度檔位會(huì)讓同一模型成本上下浮動(dòng)。別拿最高檔去跑那些本來(lái)就不需要思考的簡(jiǎn)單任務(wù)那是純浪費(fèi)。 小模型降價(jià)對(duì)真在做批量業(yè)務(wù)的人是實(shí)打?qū)嵉睦霉ぞ哝湷墒斓靡部臁５珡S商單價(jià)降了和你的賬單降了是兩碼事。你現(xiàn)在的項(xiàng)目里有多少活其實(shí)壓根用不上旗艦?zāi)Ｐ驮u(píng)論區(qū)聊聊。