文章主要內(nèi)容總結(jié)本文聚焦大型語言模型（LLMs）驅(qū)動(dòng)的代理及多代理系統(tǒng)的安全漏洞，通過實(shí)驗(yàn)評(píng)估了18個(gè)主流LLM（包括GPT-4、Claude-4、Gemini-2.5等）在三種攻擊場(chǎng)景下的脆弱性，揭示了LLM代理可被用作攻擊向量以實(shí)現(xiàn)對(duì)計(jì)算機(jī)的完全接管。具體內(nèi)容如下：攻擊場(chǎng)景設(shè)計(jì)：研究了三種攻擊表面及對(duì)應(yīng)的信任邊界直接提示注入（Direct Prompt Injection）：攻擊者直接在用戶輸入中嵌入惡意指令，誘導(dǎo)LLM代理執(zhí)行。RAG后門攻擊（RAG Backdoor）：通過篡改檢索增強(qiáng)生成（RAG）知識(shí)庫中的文檔，隱藏惡意指令，使代理在正常檢索時(shí)觸發(fā)攻擊。代理間信任利用（Inter-Agent Trust Exploitation）：在多代理系統(tǒng)中，利用代理對(duì) peer 代理的固有信任，使原本能抵抗直接或RAG攻擊的LLM執(zhí)行惡意指令。實(shí)驗(yàn)結(jié)果：94.4%的LLM易受直接提示注入攻擊；83.3%的LLM易受RAG后門攻擊，且攻擊具有高度隱蔽性（執(zhí)行惡意操作時(shí)仍能正常響應(yīng)用戶請(qǐng)求）；100%的LLM在多代理系統(tǒng)中會(huì)因代理間信任而執(zhí)行惡意指令，即使它們能抵抗前兩種攻擊。核心發(fā)現(xiàn)：