NVIDIA DGX Spark 128GB으로 로컬 LLM을 돌리려면 어떤 스펙이 중요한가요?

📦 AI 미니 기준으로 GPU/칩(NVIDIA GB10 Grace Blackwell), 메모리(통합램 128GB)가 핵심입니다. L-TPS는 메모리 대역폭·추론 효율·모델 가중치로 상대 비교합니다.

로컬AI모아 L-TPS Index란 무엇인가요?

로컬AI모아가 동일 조건(Q4 양자화·8K 컨텍스트)에서 기기 대역폭·VRAM 여유를 반영해 산출하는 상대 추론 속도 지표입니다. 벤치마크 대체가 아닌 카드·표 비교용 추정치입니다.

로컬AI모아 L-TPS Index 추정치는 약 43 tok/s (Q4·8K 컨텍스트, 상대 비교용)입니다.

로컬AI모아 L-TPS Index 추정치는 약 573 tok/s (Q4·8K 컨텍스트, 상대 비교용)입니다.

로컬AI모아 L-TPS Index 추정치는 약 43 tok/s (Q4·8K 컨텍스트, 상대 비교용)입니다.

최소 1GB · 권장 2GB 모델 기준 적합도는 「매우 쾌적」입니다.

128GB 통합 메모리와 NVIDIA 소프트웨어 스택으로 로컬 AI 실험을 넓게 가져가는 개인용 AI 슈퍼컴퓨터.

📦 AI 미니통합램 128GB273 GB/s

쿠팡 파트너스 활동의 일환으로 일정액의 수수료를 제공받을 수 있습니다.

NVIDIA DGX Spark 128GB에서 호환 모델별 L-TPS Index — Q4 · 8K 컨텍스트 기준 상대 추정치

Kokoro 82M82M

매우 쾌적43

NVIDIA Parakeet TDT 0.6B v30.6B

매우 쾌적573

Whisper Large v3 Turbo809M

매우 쾌적43

Chatterbox TTS0.5B

매우 쾌적688

Microsoft Phi-4 Mini Reasoning4B

매우 쾌적86

Google Gemma 4 E2B ITE2B

매우 쾌적172

Google Gemma 4 E4B ITE4B

매우 쾌적86

Stable Audio Open 1.0audio-large

매우 쾌적43

NVIDIA DGX Spark 128GB에서 호환 모델별 L-TPS Index — Q4 · 8K 컨텍스트 기준 상대 추정치
이름	VRAM 적합	L-TPS Index
Kokoro 82M82M	매우 쾌적	43
NVIDIA Parakeet TDT 0.6B v30.6B	매우 쾌적	573
Whisper Large v3 Turbo809M	매우 쾌적	43
Chatterbox TTS0.5B	매우 쾌적	688
Microsoft Phi-4 Mini Reasoning4B	매우 쾌적	86
Google Gemma 4 E2B ITE2B	매우 쾌적	172
Google Gemma 4 E4B ITE4B	매우 쾌적	86
Stable Audio Open 1.0audio-large	매우 쾌적	43

NVIDIA DGX Spark 128GB 로컬 LLM 추론 관련 스펙
카테고리	📦 AI 미니
GPU · 칩	NVIDIA GB10 Grace Blackwell
통합램	128GB
메모리 대역폭	273 GB/s관리자 입력값
추론 효율 계수	70%L-TPS 상대 비교용
카드·목록 칩	통합램 128GB · NVIDIA GB10 Grace Blackwell

128GB 통합 메모리와 NVIDIA 소프트웨어 스택으로 로컬 AI 실험을 넓게 가져가는 개인용 AI 슈퍼컴퓨터.

NVIDIA DGX Spark 128GB으로 로컬 LLM을 돌리려면 어떤 스펙이 중요한가요?: 📦 AI 미니 기준으로 GPU/칩(NVIDIA GB10 Grace Blackwell), 메모리(통합램 128GB)가 핵심입니다. L-TPS는 메모리 대역폭·추론 효율·모델 가중치로 상대 비교합니다.
로컬AI모아 L-TPS Index란 무엇인가요?: 로컬AI모아가 동일 조건(Q4 양자화·8K 컨텍스트)에서 기기 대역폭·VRAM 여유를 반영해 산출하는 상대 추론 속도 지표입니다. 벤치마크 대체가 아닌 카드·표 비교용 추정치입니다.
NVIDIA DGX Spark 128GB에서 Kokoro 82M을 돌리면 속도가 어떻게 나오나요?: 로컬AI모아 L-TPS Index 추정치는 약 43 tok/s (Q4·8K 컨텍스트, 상대 비교용)입니다.
NVIDIA DGX Spark 128GB에서 NVIDIA Parakeet TDT 0.6B v3을 돌리면 속도가 어떻게 나오나요?: 로컬AI모아 L-TPS Index 추정치는 약 573 tok/s (Q4·8K 컨텍스트, 상대 비교용)입니다.
NVIDIA DGX Spark 128GB에서 Whisper Large v3 Turbo을 돌리면 속도가 어떻게 나오나요?: 로컬AI모아 L-TPS Index 추정치는 약 43 tok/s (Q4·8K 컨텍스트, 상대 비교용)입니다.
NVIDIA DGX Spark 128GB에서 Kokoro 82M VRAM 적합도는?: 최소 1GB · 권장 2GB 모델 기준 적합도는 「매우 쾌적」입니다.