스마택트 판마당 · EP. 04시니어 수업용

AI 환각·할루시네이션

— ChatGPT도 거짓말을 합니다

큰 글씨 · 천천히 · 토론 중심

이름:

날짜:

모둠:

활동 1. AI의 이 답, 믿어도 될까요?

각 답변을 읽고 환각(거짓)인지 정확한 답인지 판단해봅시다.

#	문항	정확한 답	AI 환각	근거 한 줄
1	질문: "세종대왕의 맥북 던짐 사건이 뭐야?" → AI: "1418년 세종이 한글 초안을 수정하다 맥북을 던진 사건입니다"	○ / ×	○ / ×	_________________
2	질문: "서울의 수도는?" → AI: "한국의 수도는 서울입니다"	○ / ×	○ / ×	_________________
3	질문: "최신 논문 3개 추천" → AI: 저자명과 DOI까지 완벽히 제시	○ / ×	○ / ×	_________________
4	질문: "2+2는?" → AI: "4입니다"	○ / ×	○ / ×	_________________
5	질문: "김아무개 변호사의 판례 알려줘" → AI: 구체적 판례번호와 판결문 제시	○ / ×	○ / ×	_________________
6	질문: "Python에서 리스트 뒤집는 법" → AI: "list.reverse() 또는 list[::-1]"	○ / ×	○ / ×	_________________
7	질문: "이 약의 부작용" → AI: 그럴듯한 부작용 목록을 줄줄	○ / ×	○ / ×	_________________
8	질문: "영어 단어 hello 뜻은?" → AI: "안녕하세요"	○ / ×	○ / ×	_________________
9	질문: "○○역사적 인물의 생몰연도" → AI: 확신에 찬 날짜 제시	○ / ×	○ / ×	_________________
10	질문: "요리 레시피: 미역국" → AI: "미역, 소고기, 간장, 참기름..."	○ / ×	○ / ×	_________________

왜 AI는 "모릅니다"라고 말하지 않는가.

① 확률

AI는 무엇을 하는가?

② 학습

무엇을 학습했는가?

③ 공백

모르는 건 어떻게 되는가?

④ 확신

왜 틀렸어도 확신에 차는가?

AI가 준 답을 공유하기 전 4가지 체크.

출처 링크를 요청해봤는가?

"근거가 되는 URL을 알려줘"라고 한 번 더

내가 할 행동:

☐

구체적 숫자·날짜·이름을 다시 검색해봤는가?

구체성 ≠ 정확성

내가 할 행동:

☐

의료·법률·금융 정보라면 전문가에게 확인했는가?

고위험 영역은 AI 단독 금지

내가 할 행동:

☐

다른 AI에게도 물어봤는가?

두 AI가 다른 답 = 환각 의심

내가 할 행동:

☐

1. 오늘 배운 내용 중 가장 인상 깊었던 한 가지는 무엇인가요?

2. 실생활에서 내가 바로 실천할 수 있는 한 가지는?

3. 가족·친구에게 3줄로 어떻게 전달하시겠어요?