환각과 불확실성

개요

근거 부족·오래된 정보·계산 오류를 구분한다.

먼저 토큰·문맥·Transformer, 성능 지표와 데이터 누출 입문의 핵심 개념을 확인하세요.

핵심 개요

환각은 자연스러운 답변에 근거 없는 주장이나 잘못된 사실이 포함되는 현상을 가리킵니다. 모델의 자신감 표현과 실제 정확성을 구분해야 합니다. 근거를 추가해도 검색·입력 누락이나 잘못된 해석이 남을 수 있습니다.

불확실성을 처리하려면 답변 가능한 조건과 보류 조건을 미리 정합니다. 출처가 없다는 이유와 출처가 서로 충돌한다는 이유는 다르므로, 필요한 다음 행동도 달라집니다.

필요한 용어

• 보류: 현재 자료로 결론을 확정하지 않고 추가 확인을 요청하는 처리
• 근거 일치: 답변의 주장이 실제 제공된 근거에 부합하는 성질

작동 과정

1. 답변의 수치·날짜·조건을 개별 주장으로 나눕니다.
2. 각 주장에 실제 입력 근거가 있는지 연결합니다.
3. 부족·충돌한 주장에는 보류와 확인할 자료를 표시합니다.

풀이 예제

아래 입력과 기록은 직접 만든 교육용 가상 자료입니다.

입력·조건

질문은 2026년 보증 기간입니다. 입력에는 2024년 문서의 1년 보증만 있고 답변은 현재 2년이라고 단정했습니다.

판단·결과

현재 2년의 근거가 없으므로 보류하고 최신 정책을 요청합니다. 2024년의 1년도 현재 정책이라고 단정할 수 없습니다.

이렇게 판단한 이유

오래된 근거와 일치하는 답변도 현재 정답이 아닐 수 있습니다. 문서 적용일과 질문 시점까지 맞아야 합니다.

흔한 실패와 복구

모델에게 확신 정도를 숫자로 말하게 했다는 이유로 보정된 확률이라고 취급하지 않습니다. 보정 여부는 정답이 있는 표본에서 별도 검증합니다.

확인 문제

참고 자료

1. Microsoft: Retrieval augmented generation  — 검색과 모델 입력 결합의 단계.
2. Microsoft: RAG evaluation  — 검색 품질·근거 일치·응답 평가.

자료 확인: 2026-10-21. 사례·문항·실습은 자체 제작했습니다. 외부 서비스 호출과 실제 모델 품질 측정은 학습자가 별도 환경에서 수행합니다.

두 문서에 같은 제품의 반품 기한이 14일과 30일로 다르게 적혀 있으나 적용일이 없습니다. 사용자에게 어떻게 답하고 어떤 기록을 요청할지 작성하세요.