[경북정치신문=김승준 기자] 생성형 인공지능(AI)이 빠르게 확산되면서 ‘AI 환각(Hallucination)’ 문제가 주요 쟁점으로 떠오르고 있다. AI 환각은 인공지능이 사실과 다른 정보를 만들어내면서도 이를 오류로 인식하지 못한 채 확신에 찬 형태로 제시하는 현상을 의미한다. 

생성형 인공지능(AI)이 빠르게 확산되면서 ‘AI 환각(Hallucination)’ 문제가 주요 쟁점으로 떠오르고 있다

대화형 AI 서비스가 일상화되면서 이용자들이 생성된 정보를 그대로 신뢰하는 사례가 늘어나자, 기술 신뢰성에 대한 우려도 커지고 있다.

전문가들은 이러한 현상이 현재 생성형 AI의 구조적 특성에서 비롯된다고 설명한다. AI는 정보를 ‘이해’하거나 ‘판단’하는 존재가 아니라, 방대한 데이터를 기반으로 다음에 올 단어를 확률적으로 예측하는 시스템이다. 

따라서 정확한 정보가 없더라도 가장 그럴듯한 답을 조합해 제시하는 경향이 있으며, 이 점이 환각 현상의 근본 원인으로 지적된다.

학계와 산업계는 검색 결합 기술, 사실 검증 강화, 신뢰도 표시 기능 도입 등 다양한 개선책을 모색하고 있다. 동시에 AI의 한계를 어디까지 ‘지능’으로 볼 수 있는지에 대한 철학적 논쟁도 이어진다. 

생성형 AI 시대에는 기술 활용과 함께 그 작동 원리와 한계를 이해하려는 균형 잡힌 시각이 요구된다는 지적이다.

김승준 기자 seung_lion@naver.com
사진 출처: 언스플래시