1. 為什么是 Coze Kimi而不是其他方案1.1 微信客服這件事到底難在哪做微信客服這事我前后折騰了差不多兩個(gè)星期才跑通第一版能用的。先說(shuō)說(shuō)大家都會(huì)遇到的痛點(diǎn)微信號(hào)和公眾號(hào)的自動(dòng)回復(fù)能力非常有限公眾號(hào)后臺(tái)自帶的歡迎語(yǔ)、關(guān)鍵詞回復(fù)本質(zhì)上就是一套死板的規(guī)則引擎。用戶問(wèn)“你們家產(chǎn)品多少錢”你得先設(shè)好“價(jià)格”這個(gè)詞用戶恰好發(fā)了包含這個(gè)詞的消息才可能觸發(fā)一句預(yù)設(shè)文案。稍微繞一點(diǎn)的問(wèn)法比如“你家那款新出的適合干皮的洗面奶還有貨嗎”規(guī)則引擎基本就廢了。最要命的是規(guī)則是靜態(tài)的沒法記憶上下文。用戶說(shuō)“那幫我下單一支”系統(tǒng)根本不知道“那”指的是哪支。這些問(wèn)題不是靠多寫幾條規(guī)則能解決的需要的是真正的自然語(yǔ)言理解能力。我自己也考慮過(guò)從零訓(xùn)練一個(gè)模型不說(shuō)算力成本光是數(shù)據(jù)標(biāo)注這一關(guān)就夠喝一壺的。后來(lái)?yè)Q了個(gè)思路用成熟的大模型平臺(tái)做應(yīng)用編排把模型的智商拿過(guò)來(lái)自己只負(fù)責(zé)業(yè)務(wù)邏輯。1.2 方案選型踩過(guò)的坑在確定 Coze Kimi 之前我試過(guò)好幾條路。先是拿開源模型私有化部署機(jī)器配置要求高效果還飄經(jīng)常答非所問(wèn)。然后試過(guò)直接用某大廠平臺(tái)自帶的模型智商是夠了但它的默認(rèn)模型在中文長(zhǎng)文本理解上總差一點(diǎn)意思尤其是你喂給它一份幾十頁(yè)的產(chǎn)品手冊(cè)時(shí)它經(jīng)常把關(guān)鍵參數(shù)記串了。最后朋友跟我說(shuō)你試試在 Coze 上接 Kimi我才開始摸這個(gè)組合。這里得先說(shuō)清楚Coze 和 Kimi 是兩樣?xùn)|西分工不同。Coze 是一個(gè) AI Bot 搭建平臺(tái)你可以在里面創(chuàng)建機(jī)器人、配置模型、接知識(shí)庫(kù)、設(shè)置工作流最后發(fā)布到各個(gè)渠道包括微信公眾號(hào)。Kimi 是另一個(gè)團(tuán)隊(duì)做的國(guó)產(chǎn)大模型主打超長(zhǎng)上下文和中文理解能力。Coze 本身也提供模型但你可以接入第三方模型Kimi 就是其中一個(gè)選擇。兩個(gè)拼在一起的意思是Coze 負(fù)責(zé)“骨架”比如日志、渠道、回話邏輯Kimi 負(fù)責(zé)“腦子”也就是實(shí)際生成回答的語(yǔ)言模型。1.3 這套組合解決了什么核心問(wèn)題第一是自然語(yǔ)言理解。用戶說(shuō)的話不需要嚴(yán)格匹配關(guān)鍵詞Kimi 能理解近似表達(dá)。第二是長(zhǎng)上下文。Kimi 在處理長(zhǎng)文本上有優(yōu)勢(shì)這意味著你可以把你的產(chǎn)品手冊(cè)、售后政策直接丟給它當(dāng)“參考資料”不用像傳統(tǒng)方案那樣把內(nèi)容拆得稀碎。第三是可維護(hù)性。Coze 上改一個(gè) Prompt、換一份知識(shí)庫(kù)不用改代碼運(yùn)營(yíng)同學(xué)也能上手。提示如果把整個(gè) AI 聊天機(jī)器人比作一家餐廳Coze 是前廳和收銀臺(tái)Kimi 是大廚。前廳負(fù)責(zé)接待、傳菜、結(jié)賬大廚負(fù)責(zé)把原料做成菜。別指望收銀員能把菜炒好也別讓大廚去管顧客排隊(duì)。2. 搭建前的準(zhǔn)備清單2.1 三個(gè)賬號(hào)一個(gè)都不能少動(dòng)手之前先把賬號(hào)備齊。第一個(gè)是 Coze 平臺(tái)的賬號(hào)用手機(jī)號(hào)就能注冊(cè)建議注冊(cè)后立刻實(shí)名認(rèn)證不然發(fā)布渠道的時(shí)候可能會(huì)卡住。第二個(gè)是 Kimi 開放平臺(tái)的賬號(hào)需要拿到一個(gè) API Key這個(gè) Key 就是 Coze 調(diào) Kimi 的憑證。第三個(gè)是最容易忽略的一個(gè)微信服務(wù)號(hào)或者具備相應(yīng)能力的公眾號(hào)。這里要重點(diǎn)提醒微信訂閱號(hào)和服務(wù)號(hào)權(quán)限差異非常大。服務(wù)號(hào)有開發(fā)者接口權(quán)限AI 客服的自動(dòng)回復(fù)、消息事件推送都依賴這些接口。訂閱號(hào)的接口權(quán)限少很多個(gè)人訂閱號(hào)想接 AI 客服非常費(fèi)勁不推薦。如果你只是個(gè)人玩一玩可以先用測(cè)試號(hào)但正式商用必須認(rèn)證的服務(wù)號(hào)這一步得提前準(zhǔn)備好。2.2 微信側(cè)權(quán)限自查公眾號(hào)后臺(tái)你能收到用戶的普通消息這是前提。AI 客服要正常工作需要公眾號(hào)開啟“服務(wù)器配置”并且具備消息加解密能力。你不需要提前懂怎么填代碼因?yàn)?Coze 會(huì)給你一串 URL 和 Token你只需要把這些值填到公眾號(hào)后臺(tái)的對(duì)接頁(yè)面里即可。但是注意一旦你開啟了“服務(wù)器配置”公眾號(hào)后臺(tái)自帶的那些自動(dòng)回復(fù)規(guī)則就會(huì)失效。也就是說(shuō)必須讓 Coze 完全接管會(huì)話不存在“AI 管一部分、規(guī)則管一部分”的平滑切換。2.3 需要理解的三組基礎(chǔ)概念在配置之前先花三分鐘理解幾組概念不然后面你會(huì)看得一頭霧水。第一個(gè)概念是“Bot”就是你在 Coze 里創(chuàng)建的機(jī)器人。每個(gè) Bot 有自己的人設(shè)、知識(shí)庫(kù)、技能和工作流。第二個(gè)是“工作流”可以理解為一種流程編排比如“先判斷用戶問(wèn)的是售前還是售后如果是售后再查知識(shí)庫(kù)里的退換貨條款”。第三個(gè)是“知識(shí)庫(kù)”就是把你的業(yè)務(wù)資料以文檔形式導(dǎo)入機(jī)器人回答時(shí)會(huì)先檢索相關(guān)知識(shí)再結(jié)合模型生成內(nèi)容。理解這三個(gè)概念之后整個(gè)系統(tǒng)在你腦子里的畫像就清晰了用戶在公眾號(hào)發(fā)消息 → 消息被推到 Coze → Coze 根據(jù) Bot 設(shè)置決定調(diào)用 Kimi 還是先走工作流 → Kimi 生成回答 → Coze 把回答發(fā)回公眾號(hào)。3. Coze 里完成一個(gè)能聊天的機(jī)器人3.1 創(chuàng)建 Bot 和選擇模型登錄 Coze 平臺(tái)后在“工作臺(tái)”里找到“創(chuàng)建 Bot”按鈕選一個(gè)空模板開始。名字隨意但推薦直接叫“XX客服”方便后期在發(fā)布渠道里識(shí)別。創(chuàng)建完成后進(jìn)入編排頁(yè)面這時(shí)候最關(guān)鍵的一步就來(lái)了配置模型。Coze 默認(rèn)用的是平臺(tái)自帶的模型你需要在模型的設(shè)置區(qū)域找到“自定義模型接入”之類的入口把 Kimi 的 API 信息填認(rèn)進(jìn)去。按我實(shí)際填充的經(jīng)驗(yàn)一般需要填這幾項(xiàng)API Base URL: https://api.moonshot.cn/v1 API Key: sk-**************** Model Name: moonshot-v1-32k 或 kimi-latest不同版本界面文字可能不完全一樣但核心邏輯是在 Coze 的“模型配置”里改接你 Kimi 的接口地址和密鑰。填完可以先發(fā)一條測(cè)試消息如果回話正常說(shuō)明 Kimi 已經(jīng)通了。實(shí)操心得建議 API Key 單獨(dú)建一個(gè)不要用復(fù)用那個(gè)有最高權(quán)限的賬號(hào)秘鑰。這樣就算 Key 有一天被誤發(fā)到群里你也能快速吊銷重?fù)Q。3.2 人設(shè) Prompt 的寫法決定回答質(zhì)量模型選好了接下來(lái)就是給 Bot 立規(guī)矩。這個(gè)環(huán)節(jié)在 Coze 里叫“人設(shè)與回復(fù)邏輯”本質(zhì)上你是在寫一段 Prompt。我踩過(guò)的坑是一開始人設(shè)寫太短就一句“你是一個(gè)客服”結(jié)果 Kimi 什么都說(shuō)經(jīng)常自我發(fā)揮。后來(lái)按照一個(gè)模板重寫效果一下子穩(wěn)了。我的模板大概是這樣的思路先定義角色身份和任務(wù)邊界再給回答格式和語(yǔ)氣要求最后把禁忌寫清楚。你是一家園藝用品店鋪的客服“小花老師”。 用戶可能詢問(wèn)產(chǎn)品、物流、售后等問(wèn)題。 回答問(wèn)題前先看知識(shí)庫(kù)里是否有關(guān)鍵詞不要憑記憶編造。 回答控制在 100 字以內(nèi)語(yǔ)氣親切不加表情符號(hào)。 遇到不懂的問(wèn)題回復(fù)“這個(gè)我還不確定已經(jīng)幫你記下來(lái)了稍后有專人回你?！?絕對(duì)不要討論政治、不要給出與商品無(wú)關(guān)的建議。Prompt 不是越復(fù)雜越好但邊界越清晰越好。尤其是“不要編造知識(shí)庫(kù)外的內(nèi)容”這句話一定要寫否則大模型會(huì)在不知道答案的時(shí)候一本正經(jīng)胡說(shuō)八道。還要注意回答長(zhǎng)度客服場(chǎng)景不適合長(zhǎng)篇大論用戶在微信上等回復(fù)不耐煩看大段文字。3.3 知識(shí)庫(kù)的正確打開方式知識(shí)庫(kù)是這套方案里性價(jià)比最高的一環(huán)。你有兩種方式導(dǎo)入一種是直接上傳文檔比如 PDF 產(chǎn)品手冊(cè)、Word 售后政策Coze 會(huì)自動(dòng)切片并向量化。另一種是使用“在線數(shù)據(jù)”比如你店鋪里的商品列表每隔一段時(shí)間同步一次適合商品經(jīng)常變化的場(chǎng)景。我第一次導(dǎo)入時(shí)犯了一個(gè)錯(cuò)誤一份產(chǎn)品手冊(cè) 80 多頁(yè)我全部傳上去了結(jié)果回答問(wèn)題時(shí)知識(shí)庫(kù)命中老是跑題。后來(lái)把手冊(cè)按產(chǎn)品線拆成五六個(gè)文件每個(gè)文件前面加一句“本文件包含以下產(chǎn)品的規(guī)格……”這樣的導(dǎo)航性描述命中率立刻上來(lái)了。注意知識(shí)庫(kù)不是一次性建好就完事的。商品價(jià)格變動(dòng)、促銷活動(dòng)上線、退換貨政策更新都需要同步維護(hù)。建議每周更新一次并在更新完成后實(shí)測(cè)三個(gè)典型提問(wèn)確認(rèn)沒有檢索亂掉。3.4 參數(shù)調(diào)節(jié)那些事Coze 的模型參數(shù)里有幾個(gè)值得調(diào)一下。溫度Temperature默認(rèn)是 0.7這個(gè)值控制的是回答的隨機(jī)性?？头?chǎng)景我建議調(diào)低到 0.3 左右你會(huì)發(fā)現(xiàn)回答更穩(wěn)定不太會(huì)跑出一個(gè)驚悚的冷笑話。如果品牌性格比較俏皮可以維持在 0.5但別超過(guò) 0.8再高就不像客服了。另外還有一個(gè)容易被忽略的選項(xiàng)叫“歷史對(duì)話輪數(shù)”或者叫“上下文輪數(shù)”。這個(gè)數(shù)字決定了模型最多記住多少輪聊天記錄。微信客服場(chǎng)景用戶往往會(huì)連續(xù)追問(wèn)“那有紅色的嗎”“什么材質(zhì)”這些都要參考前文所以建議至少設(shè)置 10 輪以上。但也不要太大上下文輪數(shù)越多消耗的 tokens 越多響應(yīng)速度也會(huì)變慢。4. 打通微信的完整流程4.1 渠道選擇直連還是轉(zhuǎn)接Coze 里發(fā)布渠道列表會(huì)看到微信公眾號(hào)、企業(yè)微信、飛書、Discord 等一堆選項(xiàng)。微信公眾號(hào)是我們要的但這里有一個(gè)容易混淆的點(diǎn)Coze 支持直接發(fā)布到微信公眾號(hào)前提是你已經(jīng)在公眾號(hào)后臺(tái)開啟了服務(wù)器配置并且拿到了相關(guān)的令牌。實(shí)際配置時(shí)Coze 會(huì)要求你填公眾號(hào)的開發(fā)者 IDAppID和密鑰AppSecret然后它會(huì)生成一個(gè)回調(diào)地址。你需要把這個(gè)地址和 Token 填到公眾號(hào)后臺(tái)的服務(wù)器配置頁(yè)面里。填完還要在公眾號(hào)后臺(tái)啟用“消息加解密方式”建議選“安全模式”雖然解密多一步但別人沒法輕易偽造你的接口回調(diào)。如果嫌麻煩也可以用網(wǎng)頁(yè)端客服組件嵌入但體驗(yàn)完全不一樣。微信號(hào)直接聊天的自然感是任何網(wǎng)頁(yè)對(duì)話框都給不了的。4.2 發(fā)布驗(yàn)證的完整流程發(fā)布過(guò)程看似簡(jiǎn)單但有幾個(gè)環(huán)節(jié)容易卡住。我先給一個(gè)完整流程在 Coze 中找到“發(fā)布”按鈕選擇渠道“微信公眾號(hào)”。按頁(yè)面指引填寫公眾號(hào) AppID 與 AppSecret。復(fù)制 Coze 提供的回調(diào) URL 和 Token。登錄微信公眾平臺(tái)打開“設(shè)置與開發(fā)”里的“基本配置”。選擇“服務(wù)器配置”把剛才復(fù)制的 URL 和 Token 填進(jìn)去加密方式選安全模式。點(diǎn)擊提交此時(shí)微信會(huì)對(duì) URL 發(fā)一個(gè)校驗(yàn)請(qǐng)求。如果 Coze 端已準(zhǔn)備好校驗(yàn)會(huì)通過(guò)并顯示“配置成功”?；氐?Coze 平臺(tái)點(diǎn)擊“發(fā)布”。發(fā)布成功后你可以先用另一個(gè)微信號(hào)關(guān)注這個(gè)公眾號(hào)發(fā)一條“你好”試試。如果收到的回復(fù)是 Kimi 生成的說(shuō)明鏈路通了。危險(xiǎn)操作提醒公眾號(hào)后臺(tái)開啟服務(wù)器配置后原來(lái)的“關(guān)鍵詞自動(dòng)回復(fù)”“收到消息回復(fù)”全部失效。如果 AI 服務(wù)中途宕機(jī)用戶會(huì)一直收不到回復(fù)。上線前請(qǐng)務(wù)必在 Coze 那邊把“未命中兜底回復(fù)”配置好至少給用戶一個(gè)“稍后有人工處理”的安慰。4.3 多輪會(huì)話與臨時(shí)工的問(wèn)題跑通之后第一次真實(shí)運(yùn)營(yíng)你會(huì)遇到一個(gè)啼笑皆非的問(wèn)題用戶的對(duì)話經(jīng)常毫無(wú)上下文地開啟新話題。比如用戶上一秒問(wèn)“你們幾點(diǎn)發(fā)貨”下一秒問(wèn)“哦對(duì)了你們家在哪”這是人類正常的跳躍式聊天。Kimi 因?yàn)橛猩舷挛拇蟾怕誓芙幼?。但如果用戶在晚上八點(diǎn)半等你回復(fù)等了二十分鐘沒回應(yīng)又重新發(fā)了一條“還在嗎”這兩輪間隔太久上下文可能已經(jīng)過(guò)期了。Coze 的會(huì)話默認(rèn)是有保存機(jī)制的但如果你設(shè)置的上下文輪數(shù)太少或者會(huì)話超時(shí)時(shí)間太短用戶會(huì)覺得客服記性不好。合理做法是對(duì)“Bot 設(shè)置”里的會(huì)話時(shí)長(zhǎng)配置按自己業(yè)務(wù)節(jié)奏來(lái)如果你通常是秒回設(shè)短一點(diǎn)沒問(wèn)題如果你是隔一段時(shí)間才處理消息建議把會(huì)話保持時(shí)間調(diào)到一天。5. 上線后必看的調(diào)優(yōu)與避坑5.1 常見問(wèn)題速查表我整理了一份自己真實(shí)碰到過(guò)的問(wèn)題排查記錄直接貼出來(lái)大家遇到同款問(wèn)題可以對(duì)照著看?，F(xiàn)象常見原因排查與解決公眾號(hào)發(fā)消息沒任何回復(fù)服務(wù)器配置未生效或加密方式不匹配檢查公眾號(hào)后臺(tái)“服務(wù)器配置”是否顯示成功換“安全模式”再試回復(fù)極慢超過(guò) 10 秒Kimi API 超時(shí)或知識(shí)庫(kù)切片太多導(dǎo)致檢索慢在 Coze 知識(shí)庫(kù)設(shè)置里減少單次檢索的文檔片段數(shù)把溫度調(diào)低回答偶爾完全跑題Prompt 里沒有寫明邊界在“人設(shè)”里補(bǔ)充“如果不確定請(qǐng)回答不知道”知識(shí)庫(kù)命中不準(zhǔn)確文檔格式混亂、切片不合理按章節(jié)拆文檔保留小標(biāo)題不要直接傳整個(gè)幾十頁(yè) PDF出現(xiàn)敏感或違規(guī)內(nèi)容沒有設(shè)置拒答示例在人設(shè)中加入明確拒答話術(shù)并且用“我不了解”代替自由發(fā)揮上下文記不住輪數(shù)配置太少調(diào)到至少 10 輪或檢查是否誤開了“無(wú)狀態(tài)模式”5.2 讓回答少踩邊界的辦法做客服機(jī)器人和閑聊機(jī)器人不一樣客服背后是商業(yè)主體說(shuō)話必須謹(jǐn)慎。有幾次 Kimi 回答“這款護(hù)膚品適合所有膚質(zhì)”這其實(shí)是不嚴(yán)謹(jǐn)?shù)囊驗(yàn)槟愕纳唐讽?yè)上寫了“敏感肌慎用”。這種問(wèn)題不是靠加 Prompt 能完全堵住的更好的辦法是產(chǎn)品信息不要寫在 Prompt 里統(tǒng)一放在知識(shí)庫(kù)里讓模型回答問(wèn)題時(shí)必須先去檢索知識(shí)庫(kù)而不是憑自己的知識(shí)背景回答。另一個(gè)務(wù)實(shí)的技巧在知識(shí)庫(kù)里專門建一個(gè)“禁忌清單”文檔里面寫清楚什么類型的回復(fù)絕對(duì)不許出現(xiàn)。包括不準(zhǔn)評(píng)價(jià)競(jìng)品、不準(zhǔn)承諾治療效果、不準(zhǔn)給出醫(yī)療建議。把這份清單也納入知識(shí)庫(kù)模型檢索時(shí)偶爾會(huì)讀到自身禁忌效果比我試過(guò)的傳統(tǒng)關(guān)鍵詞過(guò)濾強(qiáng)很多。5.3 成本控制與配額監(jiān)控Kimi API 是按 token 計(jì)費(fèi)的日常運(yùn)營(yíng)中主要消耗來(lái)自兩方面一是用戶每次提問(wèn)的輸入長(zhǎng)度二是模型生成回復(fù)的長(zhǎng)度。如果遇到用戶把一個(gè) 2000 字的長(zhǎng)文截圖復(fù)制過(guò)來(lái)問(wèn)那次請(qǐng)求的 token 消耗會(huì)把你的單條成本一下子拉高。我實(shí)際控制成本的方法有兩個(gè)。第一個(gè)是限制輸入長(zhǎng)度。在 Coze 的模型設(shè)置里對(duì)輸入文本做一個(gè)截?cái)嗌舷薇热绯^(guò) 2000 字只保留前 1500 字。第二個(gè)是設(shè)置單輪回復(fù)的最大 token 數(shù)客服場(chǎng)景設(shè) 200 到 300 就夠用別讓模型長(zhǎng)篇大論。每天定時(shí)看一下后臺(tái)的調(diào)用記錄如果某個(gè)時(shí)段消耗異常通常有人在用長(zhǎng)文本測(cè)試你這時(shí)候需要回去調(diào)整截?cái)鄥?shù)。5.4 超出客服范圍后的擴(kuò)展方向這套成型之后不止可以做客服。把 Bot 的人設(shè)換一下上傳不同的知識(shí)庫(kù)同一個(gè) Coze 工程可以變成售前咨詢助手、商品推薦顧問(wèn)、甚至是內(nèi)部員工 FAQ 機(jī)器人。我自己實(shí)際擴(kuò)展的一個(gè)方向是“智能導(dǎo)購(gòu)”。在原有知識(shí)庫(kù)里加了一份商品分類表再在 Prompt 里讓模型先問(wèn)用戶預(yù)算和使用場(chǎng)景再推薦三款合適的產(chǎn)品。本來(lái)覺得會(huì)很復(fù)雜但 Coze 的工作流功能直接拖節(jié)點(diǎn)就能拼出來(lái)。雖然從客服到導(dǎo)購(gòu)只是變了個(gè)“人設(shè)”但用戶數(shù)據(jù)顯示多輪交互后的下單轉(zhuǎn)化率提升了不少。這個(gè)案例只是個(gè)人測(cè)試不代表普遍結(jié)論但至少說(shuō)明這條路的擴(kuò)展成本比重新開發(fā)低一個(gè)量級(jí)。5.5 最后的一些細(xì)碎提醒把整套方案落地之后你會(huì)發(fā)現(xiàn)后面真正花時(shí)間的不是 AI 本身而是維護(hù)知識(shí)庫(kù)和打磨話術(shù)。每次客服遇上一個(gè)新問(wèn)題我都習(xí)慣把當(dāng)時(shí)的對(duì)話記錄導(dǎo)出來(lái)整理成一條問(wèn)答放進(jìn)知識(shí)庫(kù)。兩三個(gè)星期下來(lái)機(jī)器人能覆蓋的問(wèn)題越來(lái)越多人工客服的工作量明顯的降下來(lái)了。還有一個(gè)很小的細(xì)節(jié)上線前記得把“用戶發(fā)送圖片或語(yǔ)音”的情況考慮進(jìn)去。微信里發(fā)語(yǔ)音很常見Coze 默認(rèn)不一定能處理。你可以在公眾號(hào)后臺(tái)把語(yǔ)音識(shí)別打開讓語(yǔ)音先轉(zhuǎn)成文字再傳給機(jī)器人不然用戶發(fā)一句 60 秒語(yǔ)音等于石沉大海。最后再分享一個(gè)小技巧別在生產(chǎn)環(huán)境直接調(diào)參數(shù)。在 Coze 里復(fù)制一個(gè) Bot 作為測(cè)試分身所有 Prompt 改動(dòng)先在分身里試清楚再同步到主 Bot。這個(gè)習(xí)慣讓我避開了好幾次把線上客服改傻的尷尬。AI 客服這東西跑起來(lái)不難真正決定體驗(yàn)的是你能不能細(xì)致地維護(hù)它。