F1 · Edge AI & Agents
DGX Persistent Agent: Hermes + Qdrant
🔊 語音速聽
導讀
Agent 若每次對話都從零開始，便無法處理多階段任務。本文在 NVIDIA DGX Spark 上以 Docker 組合 Hermes Agent、Ollama、Qdrant 與 Open WebUI，建立具備語義記憶與 workspace 狀態的本地 Agent runtime，由 Grace CPU 負責事件協調與記憶檢索。本篇為概念驗證（MVP）架構，未涵蓋多日長效運行之記憶體洩漏與狀態崩潰測試。
驗證範圍
- 定位為單一 DGX Spark 上的 persistent Agent reference runtime，驗證 Hermes、Ollama、Qdrant 與 Open WebUI 能共同提供 workspace、memory、retrieval 與互動流程。
- 硬軟體依賴包括 Grace Blackwell GB10、Docker、相符的 container images、local models、embedding configuration、Qdrant storage 與足夠的 GPU／system memory。
- 範圍聚焦於 runnable MVP 與狀態保存方式；未涵蓋長時間 soak test、HA、backup／recovery、multi-tenant isolation、secrets management、production security 或 operations SLO。
原文出處: https://learn.arm.com/learning-paths/laptops-and-desktops/dgx_persistent_agent/
本頁為導讀與驗證範圍標註，非官方內容轉載。
本頁為導讀與驗證範圍標註，非官方內容轉載。