F2 · Edge AI & Agents
Rethinking Local-First AI Assistants: Always-On OpenClaw Runtime across Arm
🔊 語音速聽
導讀
OpenClaw 是近期熱門的 Agent 框架，易上手且具備出色的系統整合能力。問題是，怎麼在使用它的同時避免將使用者的機密資訊上傳雲端？本文以 OpenClaw 為核心，分別在 DGX Spark 與 Radxa Orion O6 上建立 local-first agent runtime，並把 agent 流程與 inference backend 分開，讓同一套應用接上 vLLM／Ollama 或 llama.cpp。文中也標出哪些資料留在本地、哪些仍會送到 Telegram、browser search 等外部服務。
驗證範圍
- Reference implementation 驗證 OpenClaw workflow、persistent memory、local RAG、tool use 與 scheduled tasks 可連接兩種指定 Arm-based inference environments；未提供兩個平台的性能對比。
- Local-first 不等同 fully offline，Telegram、browser search、weather 與其他 external tools 仍會傳送必要資料至外部服務；multi-user isolation、credential management、high availability、auditability 與 production security 仍未涵蓋。