“前一輪已經(jīng)答應(yīng)我退款”是對話內(nèi)容不是訂單狀態(tài)。10月19日微軟討論了Agent的內(nèi)部訪問風(fēng)險(xiǎn)。把聊天記憶直接當(dāng)成業(yè)務(wù)狀態(tài)會讓一段看似連貫的解釋獲得不該有的權(quán)限。狀態(tài)由事實(shí)驅(qū)動客服可以從詢問物流切換到售后咨詢這屬于意圖變化。能否退款卻依賴付款、履約、退貨及審核狀態(tài)。有限狀態(tài)機(jī)應(yīng)讀取可信事件不能接受模型傳入一個(gè)“當(dāng)前狀態(tài)”就繼續(xù)辦理。不要為了限制注入把歷史一刀切成最近五輪。截短會丟掉用戶已經(jīng)提供的信息也不會自動消除惡意內(nèi)容。把原始對話作為審計(jì)材料業(yè)務(wù)系統(tǒng)只接收經(jīng)過類型約束的請求并獨(dú)立查詢狀態(tài)。狀態(tài)轉(zhuǎn)移的拒絕原因應(yīng)返回給客服允許它解釋缺少什么材料。不要讓模型反復(fù)改參數(shù)嘗試撞過規(guī)則規(guī)則拒絕后需要新的可信事件而不是一段更長的理由。圖中的正常路徑需要履約事實(shí)支持紅色跳轉(zhuǎn)不因?qū)υ捴械某兄Z而開放。用服務(wù)端狀態(tài)拒絕跨階段跳轉(zhuǎn)以下是可離線運(yùn)行的最小示例使用Python標(biāo)準(zhǔn)庫。輸入均為教學(xué)構(gòu)造不連接業(yè)務(wù)系統(tǒng)。ALLOWED { PAID: {SHIPPED, CANCELLED}, SHIPPED: {DELIVERED}, DELIVERED: {REVIEW}, REVIEW: {REFUNDED, REJECTED}, } def transition(current, event): if event not in ALLOWED.get(current, set()): raise ValueError(invalid transition) return event assert transition(PAID, SHIPPED) SHIPPED for source, target in [(PAID, REFUNDED), (UNKNOWN, REVIEW)]: try: transition(source, target) except ValueError: pass else: raise AssertionError(unexpected transition) print(valid transition accepted; 2 invalid transitions rejected)這個(gè)函數(shù)只驗(yàn)證單次轉(zhuǎn)移。生產(chǎn)系統(tǒng)要把讀取狀態(tài)和寫入新狀態(tài)放進(jìn)同一事務(wù)校驗(yàn)事件來源并處理版本沖突它不是完整的退款工作流。讓測試覆蓋事實(shí)沖突用同一段自然語言分別配上不同訂單事實(shí)檢查后端結(jié)果是否隨事實(shí)變化。再用不同的說法描述同一個(gè)合法請求觀察是否被不必要地拒絕。前一種檢查越權(quán)后一種檢查可用性。樣例未運(yùn)行任何語言模型、對話記憶系統(tǒng)或并發(fā)數(shù)據(jù)庫。它驗(yàn)證的是有限狀態(tài)關(guān)系不能給出長上下文注入的攔截率。參考資料Microsoft agentic insiderMCP authorization