AI도구

내 PC로 시작할 수 있는 AI, 사양별 정리 (그래픽카드 없어도 됨)

2026-10-23 · 2분 읽기

매달 나가는 AI 구독료가 아깝다는 생각, 회사 문서를 AI에 넣어도 되나 하는 찜찜함. 그래서 요즘 “내 컴퓨터에서 직접 AI를 돌릴 수는 없나” 찾아보는 분이 많습니다. 결론부터 말하면, 그래픽카드가 없어도 시작은 됩니다. 다만 사양에 따라 쓸 수 있는 AI가 꽤 달라서, 오늘은 그 기준을 정리했습니다.

내 사양을 넣으면 바로 결과가 나오는 내 PC AI 계산기도 만들어 두었으니, 글을 읽다가 직접 넣어보셔도 좋습니다.

핵심만 먼저 정리했어요

램 16GB 노트북이면 가벼운 대화·요약용 AI는 바로 돌아갑니다. 그래픽카드가 없어도 됩니다.
글을 길게 쓰거나 코딩까지 맡기려면 그래픽카드 메모리(VRAM) 16~24GB, 또는 맥의 통합 메모리 32GB 이상부터 쾌적해집니다.
이미지 생성은 그래픽카드가 있어야 실용적입니다. 없으면 되긴 하지만 한 장에 몇 분씩 걸립니다.

내 사양, 30초 만에 확인하는 법

AI가 쓰는 건 결국 메모리입니다. 그래서 두 숫자만 보면 됩니다.

윈도우: Ctrl + Shift + Esc로 작업 관리자를 열고 [성능] 탭으로 갑니다. “메모리”의 총 용량이 램, “GPU” 항목의 “전용 GPU 메모리”가 그래픽카드 메모리입니다.
맥: 왼쪽 위 사과 메뉴 → [이 Mac에 관하여]에서 칩 이름(M1~M4, Pro·Max 여부)과 메모리를 확인합니다. 맥은 램과 그래픽 메모리를 함께 쓰는 “통합 메모리” 구조라 이 숫자 하나가 곧 AI용 메모리입니다.

숫자를 확인했다면, 아래 표에서 내 줄을 찾으면 됩니다.

사양별로 시작할 수 있는 AI

내 사양	대화·글쓰기 AI	이미지 생성	체감
램 8GB 노트북	Gemma 3 4B 같은 소형 모델	사실상 어려움	짧은 질문·요약 정도
램 16GB, 그래픽카드 없음	4B~7B급(한국어는 A.X 4.0 Light 7B), gpt-oss 20B	매우 느림	일상 질문은 쓸 만함
램 32~64GB, 그래픽카드 없음	위 모델 + MoE 모델(Qwen3.6 35B-A3B)	매우 느림	MoE는 생각보다 빠름
그래픽카드 8GB	7B~12B급	SDXL	대화는 빠름
그래픽카드 16GB	12B~14B급, gpt-oss 20B	SDXL, FLUX 계열 압축판	대부분 쾌적
그래픽카드 24GB	27B~32B급(Qwen3.6 27B 등)	FLUX·Qwen-Image 계열	코딩까지 실용권
맥 16~24GB	7B~12B급	가능(엔비디아보다 느림)	조용하고 무난
맥 64GB 이상	30B~70B급	가능	큰 모델을 한 대로
AI 미니PC 128GB (DGX Spark, 스트릭스 헤일로)	gpt-oss 120B 같은 대형 MoE	가능	대형 모델 전용급

표의 모델은 2026년 10월 기준으로 로컬 AI 사용자들이 많이 쓰는 것들입니다. 필요 메모리는 “모델 크기 × 압축 단계 + 여유분”으로 계산했고, 대화 길이에 따라 1~3GB 더 들 수 있습니다.

그래픽카드 없는 미니PC에서 직접 재봤습니다

표만 보면 감이 잘 안 와서, 제가 실제로 쓰고 있는 미니PC에서 속도를 재봤습니다. AMD 라이젠 7 8845HS, 램 76GB, 별도 그래픽카드 없음. 블로그 글 초안을 매일 자동으로 쓰게 하는 데 쓰는 기기입니다.

돌려본 것	실측 속도	체감
27B급 대화 모델 (약 17GB)	초당 약 2.6토큰	한 문단에 1분 남짓. 밤새 돌리는 일엔 충분
A.X 4.0 Light 7B (한국어 특화)	초당 약 12토큰	대화하듯 쓸 만함
SDXL 이미지 (4단계 빠른 버전)	한 장에 약 3분	대표 이미지 하루 몇 장은 가능

재미있었던 건, 계산기가 같은 사양에서 27B 모델 속도를 초당 2.6토큰으로 예측했는데 실측도 정확히 2.6이 나왔다는 점입니다. 큰 모델은 “똑똑하지만 느리고”, 작은 모델은 “덜 똑똑하지만 빠르다”는 게 숫자로 그대로 보입니다. 그래서 저는 급한 일엔 작은 모델, 밤새 맡겨두는 일엔 큰 모델로 나눠 씁니다.

무료 AI로 충분할까, 기기를 사야 할까

여기서 많이들 고민하십니다. 기준을 상황별로 나눠 보면 이렇습니다.

지금 무료 클라우드 AI(챗GPT·제미나이 등)로 충분한 분

하루 몇 번 질문하고 글을 다듬는 정도라면 로컬 AI를 위해 기기를 살 이유는 없습니다. 지금 PC로 소형 모델을 한번 체험해 보는 정도면 충분합니다.

로컬 AI가 값을 하는 분

회사 문서·고객 정보처럼 밖으로 내보내기 찜찜한 자료를 자주 다루는 분. 로컬 AI는 인터넷으로 데이터를 보내지 않습니다.
요약·번역·초안 작성 같은 일을 매일 대량으로 맡기는 분. 구독제의 사용량 한도를 신경 쓰지 않아도 됩니다.
이미지를 자주 만드는 분. 그래픽카드가 있으면 장당 비용 없이 계속 뽑을 수 있습니다.

기기를 고른다면

이미지 생성까지 빠르게 원하면 엔비디아 그래픽카드 PC가 가장 무난합니다. 16GB부터 선택지가 넓어지고, 24GB면 30B급 대화 모델까지 들어갑니다.
조용하고 전기를 덜 먹는 기기를 원하면 맥(통합 메모리 넉넉한 모델)이 맞습니다. 메모리가 클수록 큰 모델이 들어갑니다.
100B급 대형 모델을 한 대로 돌리고 싶다면 통합 메모리 128GB의 AI 미니PC(DGX Spark, 스트릭스 헤일로)가 이 용도로 나온 기기입니다.

기기별로 더 자세한 내용은 그래픽카드 PC 편, 맥 편, AI 미니PC 비교에 정리해 두었습니다.

어느 쪽이든 사기 전에 계산기에 후보 사양을 넣어서, 내가 쓰고 싶은 모델이 “빠름”으로 나오는지 먼저 확인해 보시는 걸 권합니다.

오늘 바로 시작하는 3단계

올라마(Ollama) 설치: ollama.com에서 내 운영체제용 설치 파일을 받아 설치합니다. 로컬 AI를 받아서 실행해 주는 무료 프로그램입니다.
가벼운 모델부터 실행: 명령 창(윈도우는 터미널, 맥은 터미널 앱)에 ollama run gemma3:4b를 입력하면 모델을 받아서 바로 대화가 시작됩니다.
사양에 맞게 키우기: 잘 돌아가면 계산기에서 “빠름”이나 “쓸 만함”으로 나온 더 큰 모델로 바꿔 봅니다.

명령어가 부담스럽다면 LM Studio처럼 화면에서 클릭으로 모델을 받고 대화하는 프로그램도 있습니다.

처음부터 큰 모델을 욕심내기보다, 지금 PC에서 작은 모델 하나를 돌려보는 게 가장 빠른 시작입니다. 그다음 어디가 아쉬운지가 보이면, 그때 사양을 고민해도 늦지 않습니다.

참고 자료: Best Ollama Models 2026 (morphllm) · Local LLM Tier List by VRAM (promptquorum) · Image Generation VRAM Guide 2026 (willitrunai)