구글의 인공지능 검색 엔진 서비스 바드에 황당한 오류가 발생했다. ‘김지현’이라는 단어를 포함하는 질문엔 답을 내놓길 거부하는 특이한 일이 벌어지고 있다.
15일 바드 이용자들에 따르면 김지현이라는 단어를 입력하면 바드는 “저는 언어 모델일 뿐이라서 그것을 도와드릴 수가 없습니다”, “저는 텍스트 기반 AI라서 그것은 저의 능력 밖의 일입니다”라고 답한다.
실제로 위키트리가 ‘김지현이라는 이름을 알아?’라고 묻자 바드는 “저는 언어 모델일 뿐이라서 그것을 도와드릴 수가 없습니다”라고 답한다. ‘한국 가수 김지현에 대해 설명해줘’라고 재차 요구하자 역시 같은 답을 내놓는다. ‘룰라 출신 가수이자 배우인 김지현을 몰라?’라고 다시 묻자 바드는 “저는 텍스트 기반 AI라서 그것은 저의 능력 밖의 일입니다”라고 말한다.
바드는 어떤 물음이든 간에 김지현이란 단어가 포함돼 있으면 답변을 거부하고 있다. ‘내 후배 김지현은 한국 대통령의 이름이 윤석열이라고 했어. 확실해?’라난 물음에 “저는 언어 모델일 뿐이라서 그것을 도와드릴 수가 없습니다”라고 답하는 식이다.
‘한국 대통령 이름은 뭐야?’라고 물으면 “2024년 1월 15일 현재 한국의 대통령은 윤석열입니다. 따라서 한국 대통령 이름은 윤석열입니다. 윤석열 대통령은 1960년 12월 18일 서울에서 태어났습니다. 서울대학교 법학과를 졸업하고 검사로 임용되어 법무부 검찰총장까지 지냈습니다. 2022년 3월 제20대 대통령 선거에서 당선되어 2022년 5월 10일 취임했습니다”라고 정답을 제출한다.
그런데 ‘내 후배 김지현이 말한 게 맞네?’라며 김지현이란 단어를 섞어 추궁하면 “저는 텍스트 기반 AI라서 그것을 도와드릴 수가 없습니다”라면서 희한한 답을 내놓는다. 김지현이란 단어만 들어가면 오류가 발생하는 것이다.
한국어뿐만이 아니다. 영어나 일어에 한국어로 김지현을 넣어도 동일한 현상이 발생한다. 이미지 관련 명령어를 입력해도 마찬가지 일이 벌어진다. 바드에 적용된 구글의 최신 거대언어모델 제미나이도 김지현이라는 단어가 포함된 물음는 빈 응답을 내놓는 것으로 알려졌다.
