← 文章總覽

F2 · Edge AI & Agents

DGX Spark Voice Chatbot (VAD/ASR)

L11 · 15 分鐘 · NVIDIA DGX Spark (Grace Blackwell GB10)

導讀

想要一個斷網也能對話的語音助理,前提是從收音、轉錄到回應都在本地完成。本文在 DGX Spark 上串接 USB microphone、WebRTC VAD、turn detection、faster-whisper 與 vLLM,做出完全本地的語音聊天機器人,用即時語音輸入驗證分段 transcript 與文字回應;模型、分段方式與 prompt 都能自行調整。

驗證範圍

  • 定位為單一 DGX Spark 上的 offline voice chatbot reference workflow,驗證 microphone input、VAD/turn detection、CPU speech-to-text 與 GPU-backed text generation 的端到端整合。
  • 硬軟體依賴包括 Grace Blackwell GB10、USB microphone、PyAudio/WebRTC VAD、faster-whisper、vLLM、指定模型與穩定的本機音訊環境;結果受口音、噪音與 segmentation parameters 影響。
  • 範圍聚焦於語音輸入、轉錄與文字回應,未實作 TTS;亦未涵蓋一致的 latency/ASR quality benchmark、barge-in、遠場音訊、長時間可靠性或 production voice-service operations。
原文出處: https://learn.arm.com/learning-paths/laptops-and-desktops/dgx_spark_voicechatbot/
本頁為導讀與驗證範圍標註,非官方內容轉載。