[이코노미스트 송현주 기자] 구글의 생성형 인공지능(AI) 모델 ‘제미나이 2.5 프로’가 윤석열 전 대통령을 여전히 현직 대통령으로 인식하는 오류를 반복하고 있는 것으로 확인됐다. 현직 대통령이 이재명임에도 불구하고 ‘윤석열 정부’, ‘윤석열 대통령’이라는 표현을 그대로 유지하면서, 기본적인 현실 인식조차 반영되지 않은 상태에서 AI의 정보 신뢰성에 대한 우려가 커지고 있다.

본지 취재 결과, 제미나이 2.5 Pro 모델에 최근 금융 정책 관련 내용을 입력해 테스트한 결과 “현 정부는 윤석열 정부”라는 전제를 반복적으로 고수하는 오류가 나타났다. 2025년 조기 대선에서 이재명 대통령이 당선됐다는 사실을 명시하더라도, AI는 이를 반영하지 않고 “이재명은 야당 대표”라고 판단하거나 “윤석열 대통령의 정부”라고 단정짓는 답변을 이어갔다.

이러한 오류는 단발성 사례에 그치지 않는다. 금융 정책 관련 기사들에서도 동일한 방식으로 확인한 결과, 유사한 응답이 반복적으로 나타났다. 예컨대 한 금융세제 관련 기사에 ‘이재명 정부의 개편안’이라는 표현이 포함됐을 때, 제미나이는 이를 “사실이 아니다”라고 판단하고 “윤석열 정부이며, 이재명은 더불어민주당 대표”라고 답했다.

실제 이재명 정부가 금융·부동산·세제 전반에 걸쳐 정책 기조를 추진하고 있음에도, AI는 이를 ‘정부 정책’이 아닌 ‘야당의 입법 제안’ 수준으로 축소 해석한 셈이다. 제미나이의 현실 인식 오류와 관련해 구글 관계자는 “제미나이와 같은 도구는 AI 기술의 혁신적인 발전을 나타낸다”며 “구글은 책임감 있는 방식으로 기능을 발전시키기 위해 노력하고 있으며, 제미나이가 항상 정확하지 않다는 것을 알고 있다”고 말했다. 이어  “구글의 연구와 사용자 의견을 바탕으로 장기적이고 반복적인 접근 방식을 취하고 있으며, 이를 통해 제미나이의 지속적인 개발을 이루고 변화하는 요구사항을 충족해 나갈 것”이라고 덧붙였다.

AI의 현실 대응 능력, 여전히 미흡

AI가 학습한 데이터의 최신성이 업데이트되지 않았거나, 정치 권력 이양과 같은 정권 교체 정보가 반영되지 않은 것이 주된 원인으로 추정된다. 하지만 이미 이용자가 대통령 교체 사실을 알려줘도 이를 반영하지 못한 채 고정된 응답만 반복하는 점은, 단순한 데이터 한계를 넘어 시스템 오류라는 지적이 나온다.

전문가들은 “AI가 현실을 반영하지 못하면, 오히려 독자에게 혼란을 줄 수 있다”며 “정치·정책 관련 정보에는 더욱 엄격한 검증 체계가 필요하다”고 지적했다.

앞서 지난 2023년 한국지능정보진흥원 AI·미래전략센터는 인공지능 ‘환각(hallucination) 현상’을 주의해야 한다는 보고서를 내놓기도 했다. 인공지능이 존재하지 않는 환각을 보는 것처럼 ‘없는 답변’ ‘틀린 답변’을 계속 제시한다면, 이에 익숙해진 미래 세대가 크게 영향을 받을 수 있다는 지적이었다. 

챗지피티를 개발한 오픈에이아이(OpenAI) 최고경영자 샘 알트만 역시 트위터를 통해 “사용자가 당장 중요한 일을 챗지피티에 의존하는 것은 실수이며, 여전히 챗지피티는 진실성 부분에서 해결해야 할 일이 많다”라고 밝혔다. 업계 관계자는 “AI 도입 속도를 경쟁하듯 따라가기보다, 검증 체계와 책임성 기반의 활용 가이드라인이 더 시급하다”고 말했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지