AI 용어 사전 ⑤: 할루시네이션 — AI가 그럴듯하게 거짓말하는 현상

"ChatGPT가 알려준 책 제목인데 알고 보니 그런 책 자체가 없더라고요." "회사 정보 물었는데 사장님 이름이 완전 다른 사람이었어요."

가장 자주 당하는 AI 함정 — 할루시네이션(Hallucination).

한 줄 정의

할루시네이션(Hallucination) = AI가 모르는 걸 모른다고 안 하고 그럴듯하게 지어내는 현상.

직역하면 "환각". AI가 없는 사실을 자신만만하게 말합니다.

🍞 쉽게 말하면

신입사원이 "잘 모르겠다"고 솔직히 말하는 대신 그럴듯하게 둘러대는 것과 같습니다.

• "이 거래처 사장님 어떤 분이세요?" → 신입: "음… 강○○ 사장님이세요!" (사실 모름. 그냥 말함)
• 우리가 보기엔 자신만만해서 믿게 되는데 → 알고 보니 가짜

AI는 LLM이 "다음 단어 확률"로 답을 만들기 때문에, 모르는 것조차 그럴듯한 단어 조합을 만들어버립니다.

💼 실무 예시: 자주 당하는 할루시네이션

사례 1: 가짜 참고문헌

사용자: "마케팅 책 추천해줘"
AI: "1. 『브랜드 미라클』 (김○○, 2020)
     2. 『1억 매출 카피 비법』 (이○○, 2021)
     ..."

→ 알고 보니 둘 다 존재하지 않는 책입니다. 책 제목·저자 다 AI가 만들어냈습니다.

사례 2: 가짜 통계

사용자: "한국 30대 자영업자 평균 매출은?"
AI: "2024년 통계청 자료에 따르면 월 평균 매출 2,340만 원입니다."

→ 통계청 자료에 그런 수치 없습니다. AI가 그럴듯하게 만든 숫자입니다.

사례 3: 가짜 URL

AI: "자세한 건 https://example.com/blog/marketing-tips 참고하세요."

→ 그런 URL 자체가 없습니다. 클릭하면 404.

🛡️ 할루시네이션 막는 5가지 방법

좋은 프롬프트 예시

다음 질문에 답해줘.
조건:
- 확신 없는 사실은 "확실하지 않음"이라고 솔직히 말해줘
- 통계·연도·이름은 출처가 있을 때만 적어줘
- 모르는 거 지어내지 마

질문: [...]

이 한 줄만 추가해도 할루시네이션이 체감상 70~80% 줄어듭니다.

⚠️ 절대 검증 없이 쓰면 안 되는 분야

💡 원칙: AI는 초안 작성·아이디어 발상·구조 잡기에 쓰고, 사실 검증은 반드시 사람이.

왜 이런 일이 일어나는가

LLM은 "이 단어 다음에 뭐가 올 확률이 가장 높은가"를 계산해서 답을 만듭니다.

• 진짜 사실 데이터베이스 ❌
• 확률 기반 단어 예측 ✅

그래서 "한국에서 가장 큰 마트는?" 같은 질문에 학습 데이터 패턴이 약하면 그럴듯한 패턴으로 단어를 조합해버립니다. 결과는 그럴듯한 거짓.

🔗 관련 용어

• LLM — 할루시네이션이 일어나는 본체
• 컨텍스트 윈도우 — 자료 같이 보내서 할루시네이션 줄이기
• 프롬프트 — 할루시네이션 막는 프롬프트 작성
• 토큰 — 한도 임박 시 할루시네이션 더 자주

💡 요약: AI는 모르는 걸 모른다고 안 합니다. 그럴듯하게 지어냅니다. "모르면 모른다고 답해줘" 한 줄 + 숫자·고유명사 검증 습관, 이 두 가지만 챙기면 90% 안전합니다.