▤ 핵심 요약
- ✓ AI는 사실을 '검색'하는 것이 아니라 학습한 패턴을 바탕으로 '가장 그럴듯한 답'을 생성하는 방식으로 작동합니다 — 이것이 틀린 정보가 자신 있게 나오는 근본 원인입니다.
- ✓ 구체적인 수치, 날짜, 인용문, 출처는 특히 오류가 발생하기 쉬운 영역이므로 항상 별도로 검증해야 합니다.
- ✓ AI에게 '모른다고 말해도 된다'는 조건을 명시하면, 억지로 답을 지어내는 경향이 줄어드는 경우가 있습니다.
왜 이런 일이 생기는가
AI 언어모델은 정답 데이터베이스를 검색해서 답을 찾는 것이 아니라, 학습한 방대한 텍스트에서 다음에 올 가능성이 높은 단어를 이어 붙이는 방식으로 문장을 만듭니다. 이 과정에서 실제로 존재하지 않는 사실이나 출처를 그럴듯한 문장으로 만들어내는 경우가 생기는데, 이를 할루시네이션이라 부릅니다. AI가 자신감 있는 어조로 답한다고 해서 그 내용이 사실이라는 보장은 없습니다.
실무에서 확인하는 법
- 구체적인 사실은 항상 원출처에서 재확인하세요
숫자, 날짜, 통계, 인용문처럼 구체적인 사실은 AI의 답변만 믿지 말고 반드시 공신력 있는 원출처에서 다시 확인하세요.
- 출처를 요구하고 그 출처가 실재하는지 확인하세요
AI에게 출처를 물었을 때 나온 링크나 문헌이 실제로 존재하는지, 내용이 일치하는지 확인하는 습관이 필요합니다.
- 중요한 결정에는 AI 답변 하나에 의존하지 마세요
같은 질문을 다른 방식으로 다시 물어보거나 다른 출처와 교차 확인하면 오류를 발견할 확률이 높아집니다.