AI 미니PC 비교: DGX Spark vs 스트릭스 헤일로, 128GB로 뭘 돌릴 수 있나
100B급 AI 모델을 내 책상 위에서 돌리고 싶다. 예전엔 그래픽카드 여러 장을 꽂은 커다란 워크스테이션이 필요했지만, 요즘은 메모리 128GB를 품은 손바닥만 한 미니PC가 그 자리를 노리고 있습니다. 대표 주자가 엔비디아의 DGX Spark와 AMD 라이젠 AI 맥스+ 395(코드명 스트릭스 헤일로) 계열입니다. 둘 다 “로컬 AI용”이라고 나오는데, 막상 고르려면 무엇이 다른지 헷갈립니다.
사양을 넣고 바로 비교해 보고 싶다면 내 PC AI 계산기에서 “AI 전용 미니PC”를 골라보세요.
핵심만 먼저 정리했어요
- 두 기기 모두 통합 메모리 128GB라서 gpt-oss 120B 같은 대형 MoE 모델이 한 대에 들어갑니다.
- 속도를 정하는 건 메모리 용량이 아니라 대역폭(데이터를 읽는 속도)입니다. 둘 다 초당 250~270GB 수준이라, 큰 MoE 모델은 빠르지만 70B급 일반 모델은 느립니다.
- 엔비디아 생태계(CUDA)가 필요하면 DGX Spark, 윈도우 겸용·범용 PC로도 쓰고 싶으면 스트릭스 헤일로 쪽이 맞습니다.
두 기기, 무엇이 같고 무엇이 다른가
| 항목 | DGX Spark | 스트릭스 헤일로 (라이젠 AI 맥스+ 395) |
|---|---|---|
| 메모리 | 통합 메모리 128GB | 통합 메모리 최대 128GB |
| 메모리 대역폭 | 약 273GB/s | 약 256GB/s |
| AI용으로 쓸 수 있는 메모리 | 거의 전부 | 그래픽 쪽에 최대 약 96GB 할당 |
| 소프트웨어 | 엔비디아 CUDA 생태계, 리눅스 기반 | AMD(ROCm·Vulkan), 윈도우·리눅스 |
| 형태 | 엔비디아 및 파트너사 제품 | 여러 제조사의 미니PC·노트북 |
쉽게 말하면, 둘 다 “큰 모델을 담을 그릇”은 비슷하게 큽니다. 차이는 그 그릇을 다루는 소프트웨어 쪽입니다. AI 개발 도구 대부분이 엔비디아 기준으로 먼저 나오기 때문에, 모델을 직접 학습시키거나 최신 도구를 바로 써보려면 DGX Spark가 편합니다. 반대로 평소엔 윈도우 PC로 쓰다가 필요할 때 AI를 돌리는 용도라면 스트릭스 헤일로 계열이 자연스럽습니다.
실제로 얼마나 빠른가: gpt-oss 120B 기준
이 두 기기의 대표 시험 문제는 OpenAI가 공개한 gpt-oss 120B입니다. 전체 크기는 1,170억 개 파라미터지만, 한 번에 약 51억 개만 쓰는 MoE 구조라 크기에 비해 빠릅니다.
| 기기 | 보고된 생성 속도 (초당 토큰) | 비고 |
|---|---|---|
| DGX Spark | 약 38~60 | 실행 프로그램·설정에 따라 차이 큼. 엔비디아 자체 수치 약 55 |
| 스트릭스 헤일로 128GB | 약 30 (LM Studio 기본) ~ 52~56 (llama.cpp) | AMD 자체 수치 최대 30 |
초당 30토큰이면 사람이 읽는 속도보다 빠릅니다. 대화용으로는 둘 다 충분하다는 뜻입니다. 같은 기기라도 어떤 프로그램으로 돌리느냐에 따라 두 배 가까이 차이가 나니, 리뷰 숫자를 볼 때는 실행 환경을 꼭 같이 보세요.
약점도 분명합니다
대역폭이 초당 250270GB라는 건, 한 번에 많은 파라미터를 쓰는 모델일수록 느려진다는 뜻입니다. 70B급 일반 모델(예: Llama 3.3 70B)은 이 기기들에서 초당 35토큰 수준으로 떨어집니다. 128GB에 “들어가는 것”과 “쾌적하게 도는 것”은 다릅니다.
그래서 이 기기들의 진짜 강점은 MoE 대형 모델입니다. 큰 모델의 지식은 담고, 계산은 일부만 해서 빠르게 답하는 구조와 궁합이 맞습니다.
누구에게 맞나
DGX Spark가 맞는 분
- AI 모델을 직접 학습시키거나 미세조정까지 해보고 싶은 개발자
- 엔비디아 기준으로 나오는 최신 AI 도구를 설정 고생 없이 바로 쓰고 싶은 분
스트릭스 헤일로 계열이 맞는 분
- 평소엔 윈도우 PC로 일하고, 필요할 때 대형 모델을 돌리고 싶은 분
- 여러 제조사 제품 중에서 포트 구성·크기·가격을 골라 사고 싶은 분
둘 다 필요 없는 분
- 7B
30B급 모델이면 충분한 분. 그 정도는 그래픽카드 1624GB PC나 메모리 넉넉한 맥이 더 빠르고 활용도도 넓습니다.
가격은 제조사와 시기에 따라 자주 바뀝니다. DGX Spark는 출시가 3,999달러에서 2026년 초 파운더스 에디션 4,699달러로 올랐다는 보도가 있고, 같은 칩을 쓴 파트너사 제품은 더 싸게 나오기도 합니다. 사기 직전에 꼭 최신 가격을 확인하세요.
사기 전에 해볼 것
- 내가 쓰고 싶은 모델이 MoE인지, 일반(밀집) 모델인지 먼저 확인합니다. MoE면 이 기기들이 빛나고, 70B급 일반 모델이 목표면 다른 선택지가 나을 수 있습니다.
- 계산기에서 두 기기를 차례로 골라, 원하는 모델이 “빠름”으로 나오는지 봅니다.
- 리뷰를 볼 때는 어떤 프로그램으로 잰 숫자인지를 같이 봅니다.
128GB는 분명 큰 그릇입니다. 다만 그릇이 크다고 밥이 빨리 나오는 건 아니라는 것, 이 한 가지만 기억하면 고르기가 훨씬 쉬워집니다.
참고 자료: NVIDIA DGX Spark Review: 2026 Price & Benchmarks (intuitionlabs) · Running GPT-OSS-120B on DGX Spark (corti) · AMD: Running gpt-oss on Ryzen AI · Local LLM Speed Test on 128GB Unified Memory (MindStudio)
같은 주제 더 보기 — AI도구
AI 글쓰기 도구, 초보도 30분 만에 블로그 한 편 쓰는 법
AI 글쓰기 도구가 처음이라 막막한 분들을 위해, ChatGPT 같은 도구로 블로그 한 편을 완성하는 실무 순서를 마트 직원·카페 사장 예시로 쉽게 정리했습니다.
AI 이미지 생성, 그림 못 그려도 무료로 시작하는 법 (초보 실무 가이드)
그림을 한 번도 그려본 적 없어도 괜찮습니다. AI 이미지 생성으로 무료 AI 이미지를 만들고, 블로그 썸네일까지 뽑는 방법을 마트 직원·카페 사장님 눈높이로 정리했습니다.
직장인도 쉽게! AI 번역기 선택부터 품질 보정까지 실무 가이드
문맥 이해도가 다른 무료 AI 번역기 중 업무 목적에 맞는 도구를 고르고, 프롬프트 팁으로 번역 결과의 자연스러움을 높이는 방법을 안내합니다.