輝達 NeMo 強化 AI 代理除錯效率 自動測試揪出模型漏洞

商傳媒｜林昭衡／綜合外電報導

為協助開發者更有效率地除錯及測試人工智慧（AI）模型，輝達（NVIDIA）推出了 NVIDIA NeMo 框架，能夠將 AI 代理（Agent）在實際運用中發生的錯誤轉化為客製化測試，大幅優化開發流程。這項工具特別針對 AI 代理的除錯挑戰而設計，因為傳統的通用基準測試往往不足以解釋特定領域的代理失敗。

輝達指出，AI 代理在執行任務時可能因選錯工具、工作流程不當、背景資訊不足或未使用正確的模型等原因而失敗。要改善一個 AI 代理，不僅需要調整模型本身，還需涵蓋提示詞（prompts）、工具、路由、記憶體、技能和控制流程等多方面程式碼。NVIDIA NeMo 透過一套完整的最佳化流程來解決這些問題，該流程遵循 NVIDIA NemoClaw 藍圖，將開發過程中的錯誤轉化為評估標準，從而提升效率。

這套最佳化循環的起點是使用 NVIDIA NeMo Compass。它能分析儲存的 AI 代理追蹤記錄（traces，即代理的行動與決策紀錄），找出重複出現的問題，例如在一個模擬案例中，Hermes Agent（一種開源人工智慧代理應用程式）未經使用者確認就傳送訊息。NeMo Compass 透過分析這些異常行為和工具使用模式，將大量的追蹤記錄資料整理成結構化的待辦事項清單，並提供相關的代理運行 ID，以便開發者優先處理這些問題。

一旦 NeMo Compass 識別出問題，開發者便可運用 NVIDIA NeMo Eval Author 建立自訂測試，精準重現這些錯誤。這個工具支援 Harbor 和 NVIDIA NeMo Gym 等評估格式，並能透過驗證器（verifiers）判斷 AI 代理是否符合特定標準。例如，在上述訊息傳送的例子中，NeMo Eval Author 可設定驗證器，檢查代理是否在未經確認的情況下呼叫了 send_message 工具。

確認問題並建立測試後，開發者便能更新 AI 代理的「代理骨幹」（harness），也就是定義其行為的指令、工具及程式碼。以 Hermes Agent 為例，開發者可修改其 SOUL.md 指令文件，明確規定訊息傳送請求僅限於準備內容，不得未經確認就實際發送。這些修改範圍從簡單的指令調整到複雜的中介軟體或外掛程式擴充。完成更新後，重新運行評估測試，以衡量改進成效，並透過「保留任務」（held-out tasks）評估其泛化能力。只有當開發和保留測試案例均顯示改進時，變更才會被接受，而 NeMo Compass 將持續監測新追蹤記錄，以避免回歸。

此外，NVIDIA NeMo 的最佳化循環也能應用於更複雜的技術任務。例如，在一個汽車車門設計的案例中，與達索系統（Dassault Systèmes）的工程虛擬夥伴 Amazon Leo 合作，NeMo Compass 發現 AI 代理在呼叫 QueryModel 參數時，頻繁將其放置於預期選項欄位之外，導致錯誤訊息且無法恢復。透過新增驗證步驟，將工具呼叫中的錯誤參數從 142 個降至零。這項最佳化使整體評估分數相對提升了 28%，每次運行所需工具呼叫次數減少了 35%，顯著提升任務品質與執行效率。