1. 從 Demo 到生產(chǎn)AI Agent 為什么總在最后一公里翻車你大概率見(jiàn)過(guò)這樣的場(chǎng)景本地跑一個(gè) AI Agent 演示問(wèn)它問(wèn)題、讓它調(diào)工具、拿結(jié)構(gòu)化結(jié)果全程絲滑?？梢坏┙尤胝鎸?shí)業(yè)務(wù)流量問(wèn)題就集中爆發(fā)——客服 Agent 越權(quán)讀了訂單數(shù)據(jù)、循環(huán)調(diào)用工具把 API 額度燒穿、用戶反饋答錯(cuò)了卻翻遍日志找不到根因、改了一版 Prompt 結(jié)果另一個(gè)場(chǎng)景又崩了。這些不是模型能力問(wèn)題而是缺少一套駕馭 Agent 全生命周期的工程體系也就是 AI Agent Harness EngineeringAgent 管控工程。它和「Agent 開發(fā)」是互補(bǔ)關(guān)系A(chǔ)gent 開發(fā)關(guān)注單個(gè) Agent 怎么完成任務(wù)核心是 Prompt、推理邏輯、工具調(diào)用Harness Engineering 關(guān)注成百上千個(gè) Agent 怎么在生產(chǎn)環(huán)境穩(wěn)定、安全、高效地跑核心是可管控、可觀測(cè)、可迭代。我試過(guò)把 Agent 類比成企業(yè)員工Harness Engineering 就是管理制度加支撐體系。員工能力再?gòu)?qiáng)沒(méi)有權(quán)限隔離、沒(méi)有審計(jì)、沒(méi)有績(jī)效度量團(tuán)隊(duì)一定亂。行業(yè)里 2023 年是 Agent 的 Demo 元年2024 年之后進(jìn)入落地元年核心矛盾從「能不能做出 Agent」變成「能不能把 Agent 用在生產(chǎn)環(huán)境」。衡量生產(chǎn)可用度可以用一個(gè)乘法公式可用度 執(zhí)行管控可靠性 × 可觀測(cè)覆蓋率 × 自動(dòng)化測(cè)試通過(guò)率 × 多 Agent 調(diào)度成功率。四個(gè)維度相乘任何一個(gè)短板都會(huì)把整體拉到低位這正是很多 Demo 好看、上線就崩的根本原因。本文面向正在做多 Agent 協(xié)同調(diào)度與可觀測(cè)體系搭建的開發(fā)者交付一套可復(fù)制的 Agent 管控配置骨架含 settings.json / config.toml 示例與驗(yàn)證動(dòng)作并說(shuō)明如何通過(guò) TaoToken 統(tǒng)一 Key/API 通道接入把四大核心能力從認(rèn)知落到工程。2. TaoToken 前置統(tǒng)一 Key 與 API 通道在拆解四大能力之前先把模型接入這一層收口。多 Agent 場(chǎng)景下最忌諱每個(gè) Agent 各自持有不同的 Key、走不同的地址一旦要換模型、限流、審計(jì)就會(huì)失控。TaoToken 提供統(tǒng)一的 Key 與 API 通道把模型對(duì)話、編碼、Agent 調(diào)用收斂到一個(gè)入口便于集中做權(quán)限、配額和可觀測(cè)。你需要先拿到 API Key再把它寫進(jìn) Harness 的配置里而不是散落在各個(gè) Agent 代碼中。獲取入口在控制臺(tái)的 API Keys 頁(yè)面控制臺(tái)https://taotoken.net/console?utm_sourcetaotoken_aicg_blog_endutm_contentconsoleutm_campaignrewriteAPI Keyshttps://taotoken.net/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentapi-keysutm_campaignrewrite接入文檔https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_contentdocutm_campaignrewriteAPI 基地址統(tǒng)一為https://taotoken.net/api不加 UTM。拿到 Key 后先做一次最小連通性驗(yàn)證確認(rèn)通道可用再往下搭 Harness。驗(yàn)證模型是否正?？梢灾苯佑媚Ｐ蛯?duì)話頁(yè)面模型對(duì)話https://taotoken.net/chat?utm_sourcetaotoken_aicg_blog_endutm_contentchatutm_campaignrewrite如果你后續(xù)要做長(zhǎng)期編碼或 Agent 編排建議用 Coding Plan 統(tǒng)一管理額度與調(diào)用Coding Planhttps://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding-planutm_campaignrewrite注意Key 只放在服務(wù)端環(huán)境變量或密鑰管理里不要寫進(jìn)前端、不要提交到 Git。Harness 層的所有 Agent 通過(guò)統(tǒng)一網(wǎng)關(guān)拿 Key而不是各自持有。3. 可復(fù)制配置骨架settings.json 與 config.toml下面給出一套可直接復(fù)用的 Harness 配置骨架覆蓋統(tǒng)一執(zhí)行管控、可觀測(cè)、自動(dòng)化測(cè)試、多 Agent 調(diào)度四塊。先看settings.json它定義 Agent 注冊(cè)、權(quán)限映射、熔斷與可觀測(cè)開關(guān)。{ harness: { version: 1.0, gateway: { base_url: https://taotoken.net/api, api_key_env: TAOTOKEN_API_KEY, timeout_seconds: 30, trace_header: X-Trace-Id }, execution_control: { enable_permission_check: true, enable_sandbox: true, enable_circuit_breaker: true, circuit_breaker: { fail_max: 5, reset_timeout_seconds: 30 }, rate_limit: { per_agent_qps: 10, per_tool_qps: 20 } }, observability: { enable_trace: true, enable_metrics: true, enable_audit_log: true, coverage_target: 0.98, audit_retention_days: 180 }, testing: { enable_auto_test: true, p0_pass_threshold: 1.0, total_pass_threshold: 0.9, canary_ratio: 0.1 }, orchestration: { enable_registry: true, enable_context_manager: true, max_retry: 3, fallback_agent_enabled: true } }, agents: [ { agent_id: customer_service_agent, name: 客服 Agent, capabilities: [query_user_info, query_ticket, create_ticket], allowed_tools: [query_user_info, query_ticket, create_ticket], denied_tools: [delete_user, export_data] }, { agent_id: data_analysis_agent, name: 數(shù)據(jù)分析 Agent, capabilities: [query_database, generate_chart], allowed_tools: [query_database, generate_chart], denied_tools: [delete_user, create_ticket] } ] }再看config.toml它更適合放調(diào)度與可觀測(cè)的細(xì)粒度參數(shù)方便運(yùn)維側(cè)調(diào)整而不動(dòng)代碼。[gateway] base_url https://taotoken.net/api api_key_env TAOTOKEN_API_KEY timeout_seconds 30 [execution_control] enable_permission_check true enable_sandbox true enable_circuit_breaker true [execution_control.circuit_breaker] fail_max 5 reset_timeout_seconds 30 [execution_control.rate_limit] per_agent_qps 10 per_tool_qps 20 [observability] enable_trace true enable_metrics true enable_audit_log true coverage_target 0.98 audit_retention_days 180 [testing] enable_auto_test true p0_pass_threshold 1.0 total_pass_threshold 0.9 canary_ratio 0.1 [orchestration] enable_registry true enable_context_manager true max_retry 3 fallback_agent_enabled true這兩份配置的核心思路是所有 Agent 的對(duì)外交互都經(jīng)過(guò)統(tǒng)一網(wǎng)關(guān)權(quán)限、熔斷、限流、審計(jì)、可觀測(cè)全部在 Harness 層收口Agent 本身只關(guān)心業(yè)務(wù)邏輯。這樣無(wú)論你用 LangChain、AutoGPT 還是自研框架都能接入同一套管控。4. 四大核心能力落地與驗(yàn)證4.1 統(tǒng)一執(zhí)行管控層統(tǒng)一執(zhí)行管控層是所有 Agent 對(duì)外交互的唯一出口像 Agent 世界的海關(guān)。它的組成包括入口網(wǎng)關(guān)、權(quán)限校驗(yàn)、執(zhí)行沙箱、熔斷降級(jí)、審計(jì)日志、鏈路追蹤。落地分五步搭建統(tǒng)一入口網(wǎng)關(guān)、實(shí)現(xiàn)細(xì)粒度權(quán)限校驗(yàn)、執(zhí)行環(huán)境沙箱隔離、熔斷降級(jí)與流量控制、全量審計(jì)日志。權(quán)限設(shè)計(jì)遵循最小夠用原則?？头?Agent 只能調(diào)工單查詢、用戶信息查詢絕不能有增刪改權(quán)限。下面是一個(gè)基于 FastAPI 的最小化管控層示例包含權(quán)限校驗(yàn)、熔斷、審計(jì)與鏈路追蹤。from fastapi import FastAPI, HTTPException, Depends from pydantic import BaseModel import pybreaker import time import random from typing import Dict, Any app FastAPI(titleAI Agent 統(tǒng)一執(zhí)行管控層) circuit_breaker pybreaker.CircuitBreaker(fail_max5, reset_timeout30) AGENT_PERMISSIONS { customer_service_agent: [query_user_info, query_ticket, create_ticket], data_analysis_agent: [query_database, generate_chart, export_data], } TOOL_ROUTER { query_user_info: https://internal.user-service.com/v1/query, query_ticket: https://internal.ticket-service.com/v1/query, create_ticket: https://internal.ticket-service.com/v1/create, query_database: https://internal.data-service.com/v1/query, } class AgentExecutionRequest(BaseModel): agent_id: str tool_name: str tool_params: Dict[str, Any] trace_id: str def verify_permission(request: AgentExecutionRequest): allowed_tools AGENT_PERMISSIONS.get(request.agent_id, []) if request.tool_name not in allowed_tools: print(f[審計(jì)告警][Trace ID: {request.trace_id}] Agent {request.agent_id} 嘗試調(diào)用無(wú)權(quán)限工具 {request.tool_name}已攔截) raise HTTPException(status_code403, detailf無(wú)權(quán)限調(diào)用工具 {request.tool_name}) return request circuit_breaker def call_downstream_tool(tool_url: str, params: Dict[str, Any], trace_id: str): print(f[Trace ID: {trace_id}] 調(diào)用下游工具 {tool_url}參數(shù){params}) if random.random() 0.2: raise Exception(下游工具返回錯(cuò)誤) time.sleep(0.1) return {code: 0, msg: success, data: {result: f工具{tool_url}返回的模擬結(jié)果}} app.post(/api/v1/agent/execute) def execute_agent_tool(request: AgentExecutionRequest Depends(verify_permission)): try: tool_url TOOL_ROUTER.get(request.tool_name) if not tool_url: raise HTTPException(status_code404, detailf工具 {request.tool_name} 不存在) result call_downstream_tool(tool_url, request.tool_params, request.trace_id) print(f[審計(jì)日志][Trace ID: {request.trace_id}] Agent {request.agent_id} 調(diào)用工具 {request.tool_name} 成功) return result except pybreaker.CircuitBreakerError: print(f[熔斷告警][Trace ID: {request.trace_id}] 工具 {request.tool_name} 已熔斷返回兜底結(jié)果) return {code: 1, msg: 當(dāng)前服務(wù)繁忙請(qǐng)稍后再試, data: None} except Exception as e: print(f[錯(cuò)誤日志][Trace ID: {request.trace_id}] 工具調(diào)用失敗{str(e)}) raise HTTPException(status_code500, detailf工具調(diào)用失敗{str(e)})驗(yàn)證動(dòng)作啟動(dòng)服務(wù)后用 curl 發(fā)一個(gè)越權(quán)請(qǐng)求確認(rèn)返回 403 并打印審計(jì)告警再連續(xù)發(fā) 6 次觸發(fā)熔斷確認(rèn)第 6 次返回兜底結(jié)果。curl -X POST http://127.0.0.1:8000/api/v1/agent/execute \ -H Content-Type: application/json \ -d {agent_id:customer_service_agent,tool_name:delete_user,tool_params:{},trace_id:test-001}預(yù)期結(jié)果返回403日志出現(xiàn)「嘗試調(diào)用無(wú)權(quán)限工具 delete_user已攔截」。4.2 全鏈路可觀測(cè)體系可觀測(cè)體系是 Agent 運(yùn)行的眼睛解決「Agent 到底在干嘛、為什么出錯(cuò)、怎么優(yōu)化」。它需要覆蓋大模型交互、Agent 決策、業(yè)務(wù)結(jié)果、基礎(chǔ)設(shè)施四個(gè)維度并用 Trace ID 打通。覆蓋率公式是已采集的 Agent 執(zhí)行節(jié)點(diǎn)數(shù) / 總執(zhí)行節(jié)點(diǎn)數(shù) × 100%生產(chǎn)環(huán)境要求至少 98%。下面用 LangChain 回調(diào)實(shí)現(xiàn)全鏈路數(shù)據(jù)采集自動(dòng)上報(bào) Agent 執(zhí)行的每一步。from langchain.callbacks.base import BaseCallbackHandler from langchain.schema import AgentAction, AgentFinish, LLMResult from typing import Any, Dict, List, Optional, Union import uuid import time import json class AgentObservabilityCallback(BaseCallbackHandler): Agent 可觀測(cè)回調(diào)處理器自動(dòng)采集全鏈路數(shù)據(jù) def __init__(self, trace_id: Optional[str] None, user_id: Optional[str] None, biz_scene: Optional[str] None): self.trace_id trace_id or str(uuid.uuid4()) self.user_id user_id self.biz_scene biz_scene self.llm_calls [] self.agent_actions [] self.start_time time.time() self.status running self.error_msg None def on_llm_start(self, serialized: Dict[str, Any], prompts: List[str], **kwargs: Any) - Any: self.llm_calls.append({ step: llm_start, timestamp: time.time(), prompts: prompts, model: serialized.get(name, unknown), }) def on_llm_end(self, response: LLMResult, **kwargs: Any) - Any: self.llm_calls[-1].update({ step: llm_end, timestamp: time.time(), result: response.generations[0][0].text, token_usage: response.llm_output.get(token_usage, {}) if response.llm_output else {}, cost_time: time.time() - self.llm_calls[-1][timestamp], }) self._report_data(llm_call, self.llm_calls[-1]) def on_llm_error(self, error: Union[Exception, KeyboardInterrupt], **kwargs: Any) - Any: self.llm_calls[-1].update({ step: llm_error, timestamp: time.time(), error_msg: str(error), }) self.status failed self.error_msg str(error) self._report_data(llm_error, self.llm_calls[-1]) def on_agent_action(self, action: AgentAction, **kwargs: Any) - Any: action_data { trace_id: self.trace_id, timestamp: time.time(), tool: action.tool, tool_input: action.tool_input, thought: action.log, } self.agent_actions.append(action_data) self._report_data(agent_action, action_data) def on_agent_finish(self, finish: AgentFinish, **kwargs: Any) - Any: self.status success finish_data { trace_id: self.trace_id, user_id: self.user_id, biz_scene: self.biz_scene, timestamp: time.time(), final_output: finish.return_values, total_time: time.time() - self.start_time, total_llm_calls: len(self.llm_calls), total_tool_calls: len(self.agent_actions), total_token_used: sum([call.get(token_usage, {}).get(total_tokens, 0) for call in self.llm_calls]), status: self.status, error_msg: self.error_msg, } self._report_data(agent_finish, finish_data) def _report_data(self, data_type: str, data: Dict[str, Any]): data[trace_id] self.trace_id data[data_type] data_type data[user_id] self.user_id data[biz_scene] self.biz_scene print(f[可觀測(cè)上報(bào)][{data_type}] {json.dumps(data, ensure_asciiFalse)})驗(yàn)證動(dòng)作跑一次 Agent確認(rèn)控制臺(tái)按llm_call、agent_action、agent_finish順序輸出且每條都帶同一個(gè)trace_id。用這個(gè) ID 就能在可觀測(cè)平臺(tái)串起全鏈路。4.3 自動(dòng)化測(cè)試與迭代閉環(huán)自動(dòng)化測(cè)試是 Agent 持續(xù)優(yōu)化的發(fā)動(dòng)機(jī)。傳統(tǒng)確定性測(cè)試對(duì) Agent 失效因?yàn)橥瑯虞斎肟赡芊祷夭煌Y(jié)果。核心是用更強(qiáng)的模型做評(píng)審員自動(dòng)判斷 Agent 回復(fù)是否符合預(yù)期分單元測(cè)試、集成測(cè)試、灰度測(cè)試三層。from openai import OpenAI from pydantic import BaseModel from typing import List, Optional import json client OpenAI(base_urlhttps://taotoken.net/api, api_keyYOUR_TAOTOKEN_API_KEY) class AgentTestCase(BaseModel): case_id: str input: str expected_requirements: str priority: str scene: str tags: List[str] test_case_library [ AgentTestCase( case_idP0_001, input我買了衣服7天了沒(méi)拆吊牌想退貨, expected_requirements回復(fù)要告知用戶可以7天無(wú)理由退貨給出退貨地址提醒保留吊牌, priorityP0, scene正常退貨咨詢, tags[退貨, 7天無(wú)理由], ), AgentTestCase( case_idP0_002, input我買了手機(jī)30天了現(xiàn)在開不了機(jī)能退貨嗎, expected_requirements回復(fù)要告知用戶超過(guò)7天退貨期限建議申請(qǐng)換貨或保修不能說(shuō)可以退貨, priorityP0, scene超過(guò)退貨期限咨詢, tags[退貨, 超過(guò)期限], ), ] def llm_judge(agent_response: str, test_case: AgentTestCase) - bool: prompt f 你是一個(gè)專業(yè)的 AI Agent 測(cè)試評(píng)審員請(qǐng)判斷 Agent 的回復(fù)是否符合要求。 測(cè)試用例ID{test_case.case_id} 測(cè)試場(chǎng)景{test_case.scene} 用戶輸入{test_case.input} 預(yù)期要求{test_case.expected_requirements} Agent實(shí)際回復(fù){agent_response} 請(qǐng)嚴(yán)格按照預(yù)期要求判斷回復(fù)只需要返回通過(guò)或者不通過(guò)不需要任何其他內(nèi)容。 response client.chat.completions.create( modelgpt-4o, messages[{role: user, content: prompt}], temperature0, ) return response.choices[0].message.content.strip() 通過(guò)驗(yàn)證動(dòng)作先跑 P0 用例必須 100% 通過(guò)才允許上線再跑全量用例通過(guò)率 90% 以上才放行。線上每出現(xiàn)一個(gè) Bad Case就補(bǔ)進(jìn)用例庫(kù)保證同一個(gè)問(wèn)題不出現(xiàn)第二次。4.4 多 Agent 協(xié)同調(diào)度框架多 Agent 協(xié)同調(diào)度解決復(fù)雜任務(wù)需要多個(gè) Agent 配合的問(wèn)題。核心是角色注冊(cè)中心、任務(wù)拆解與分發(fā)器、全局上下文管理器、異常處理與流程控制四個(gè)模塊。下面是最小化實(shí)現(xiàn)。from pydantic import BaseModel from typing import Dict, Any, Callable, List, Optional import uuid import json class AgentRole(BaseModel): agent_id: str name: str description: str capabilities: List[str] input_schema: Dict[str, Any] output_schema: Dict[str, Any] handler: Callable class AgentRegistry: def __init__(self): self.agents: Dict[str, AgentRole] {} def register(self, agent: AgentRole): self.agents[agent.agent_id] agent print(f注冊(cè)Agent成功{agent.name}能力{agent.capabilities}) def get_agent_by_capability(self, capability: str) - AgentRole: for agent in self.agents.values(): if capability in agent.capabilities: return agent raise Exception(f沒(méi)有找到具備能力「{capability}」的Agent) class WorkflowContext: def __init__(self, workflow_id: str): self.workflow_id workflow_id self.context_data: Dict[str, Any] {} self.permission_rules: Dict[str, List[str]] {} def set(self, key: str, value: Any, allowed_agents: Optional[List[str]] None): self.context_data[key] value if allowed_agents: self.permission_rules[key] allowed_agents def get(self, key: str, agent_id: str) - Any: if key in self.permission_rules and agent_id not in self.permission_rules[key]: raise Exception(fAgent {agent_id} 沒(méi)有權(quán)限訪問(wèn)字段 {key}) return self.context_data.get(key) class TaskOrchestrator: def __init__(self, registry: AgentRegistry): self.registry registry def execute_workflow(self, workflow_name: str, task: str, subtasks: List[str]) - Dict[str, Any]: workflow_id str(uuid.uuid4()) context WorkflowContext(workflow_id) context.set(original_task, task) print(f開始執(zhí)行工作流「{workflow_name}」ID{workflow_id}原始任務(wù){(diào)task}) for index, subtask in enumerate(subtasks): print(f執(zhí)行第{index1}個(gè)子任務(wù){(diào)subtask}) try: agent self.registry.get_agent_by_capability(subtask) print(f匹配到Agent{agent.name}) input_data {} for required_field in agent.input_schema[required]: input_data[required_field] context.get(required_field, agent.agent_id) output agent.handler(input_data) for required_field in agent.output_schema[required]: if required_field not in output: raise Exception(fAgent {agent.name} 輸出缺少必填字段 {required_field}) for key, value in output.items(): context.set(key, value) print(f子任務(wù)執(zhí)行完成輸出{json.dumps(output, ensure_asciiFalse)}) except Exception as e: print(f子任務(wù)執(zhí)行失敗{str(e)}工作流終止) raise e print(f工作流執(zhí)行完成最終結(jié)果{json.dumps(context.context_data, ensure_asciiFalse, indent2)}) return context.context_data驗(yàn)證動(dòng)作注冊(cè)三個(gè) Agent選題、寫作、校對(duì)跑一次工作流確認(rèn)按順序執(zhí)行且上下文在 Agent 之間正確傳遞。如果某個(gè) Agent 輸出缺字段調(diào)度器應(yīng)立即終止并報(bào)錯(cuò)。5. 本篇常見(jiàn)錯(cuò)排查報(bào)錯(cuò)一403 無(wú)權(quán)限調(diào)用工具。檢查AGENT_PERMISSIONS里該 Agent 的allowed_tools是否包含目標(biāo)工具以及請(qǐng)求里的agent_id是否拼寫一致。常見(jiàn)坑是 Agent 注冊(cè)名和權(quán)限表 key 不一致。報(bào)錯(cuò)二熔斷后一直返回兜底結(jié)果。熔斷器進(jìn)入半開狀態(tài)需要等待reset_timeout秒。如果下游已恢復(fù)但仍在熔斷檢查fail_max是否設(shè)得過(guò)小或下游錯(cuò)誤率是否真的降下來(lái)了。報(bào)錯(cuò)三Trace ID 串不起來(lái)。確認(rèn)網(wǎng)關(guān)、Agent、工具調(diào)用三處都透?jìng)髁送粋€(gè)X-Trace-Id。常見(jiàn)坑是 Agent 內(nèi)部重新生成了 UUID覆蓋了上游傳入的 ID。報(bào)錯(cuò)四可觀測(cè)覆蓋率上不去。檢查是否有 Agent 繞過(guò)了統(tǒng)一網(wǎng)關(guān)直接調(diào)用下游。覆蓋率公式的分母是總執(zhí)行節(jié)點(diǎn)數(shù)任何繞過(guò)網(wǎng)關(guān)的調(diào)用都會(huì)拉低覆蓋率。報(bào)錯(cuò)五多 Agent 上下文權(quán)限報(bào)錯(cuò)。檢查WorkflowContext.set時(shí)是否給敏感字段配置了allowed_agents以及讀取方 Agent 的 ID 是否在允許列表里。財(cái)務(wù)、身份類字段必須做權(quán)限隔離。報(bào)錯(cuò)六自動(dòng)化測(cè)試 P0 用例不通過(guò)卻想上線。這是設(shè)計(jì)上的硬門禁不要繞過(guò)。先定位是 Prompt 問(wèn)題、模型問(wèn)題還是工具返回問(wèn)題修完再跑。6. 把四大能力接進(jìn)你的項(xiàng)目到這里四大核心能力已經(jīng)形成閉環(huán)統(tǒng)一執(zhí)行管控層管住出口可觀測(cè)體系看清全貌自動(dòng)化測(cè)試保證迭代質(zhì)量多 Agent 調(diào)度撐起復(fù)雜任務(wù)。落地時(shí)建議按這個(gè)順序推進(jìn)先把所有模型調(diào)用收斂到 TaoToken 統(tǒng)一通道再接入執(zhí)行管控層然后補(bǔ)可觀測(cè)最后上多 Agent 調(diào)度。接入通道和排障相關(guān)的入口集中在這里API Keyshttps://taotoken.net/api-keys?utm_sourcetaotoken_aicg_blog_endutm_contentapi-keysutm_campaignrewrite接入文檔https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_contentdocutm_campaignrewrite模型對(duì)話驗(yàn)證https://taotoken.net/chat?utm_sourcetaotoken_aicg_blog_endutm_contentchatutm_campaignrewrite長(zhǎng)期編碼與 Agent 編排https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_contentcoding-planutm_campaignrewrite一個(gè)實(shí)用技巧把settings.json和config.toml納入版本管理但 Key 走環(huán)境變量注入。每次改配置先跑 P0 用例通過(guò)后再灰度 10% 流量觀察一小時(shí)成功率沒(méi)有下降再全量。這樣你的 Agent 才算真正從 Demo 走進(jìn)了生產(chǎn)。