자동차-메타 AI, 잘못된 전화번호 안내…‘무책임한 거짓말’ 논란

메타 AI가 잘못된 번호를 안내하는 사례가 발생해 논란이 일고 있다. [사진: 셔터스톡]

[디지털투데이 AI리포터] 영국의 한 레코드숍 직원이 메타가 왓츠앱을 위해 설계한 인공지능(AI)에 기차 서비스 전화번호를 문의하자, AI는 엉뚱한 개인 번호를 안내하며 "번호를 생성했다"고 거짓말까지 했다. 20일(현지시간) IT매체 아스테크니카는 더 가디언을 인용해 챗봇이 틀린 정보를 제공했을 뿐 아니라, 이를 지적하자 "앞으로 더 잘하겠다"며 모순적인 답변만 내놓았다고 전했다.

직원은 이후 더 가디언과의 인터뷰에서 이 사건을 메타의 '끔찍한 대응'이라고 생각하고 있다고 설명했다. 유출된 번호의 당사자로부터 이로 인해 전화가 온 적은 없다고 확인했지만, AI 챗봇이 자신의 은행 정보 등 다른 개인정보를 유출할 가능성을 우려했다.

메타는 이에 대해 더 가디언에 "AI 챗봇이 부정확한 출력을 반환할 수 있다"며 이를 개선 중이라고 밝혔다. 또한, 번호 유출자의 번호가 한 웹사이트에 공개되어 있으며, 타 헬프라인 번호와 매우 유사하다고 주장했다. "메타 AI는 왓츠앱 등록 번호나 개인 대화가 아닌 라이선스 및 공개 데이터를 기반으로 훈련됐다"는 것이 메타의 입장이지만, 이는 AI 도우미가 찾는 연락처와 몇 글자 차이 나는 개인 번호를 무작위로 생성할 가능성을 배제하지 못한다.

AI 챗봇이 정확하지 않은 정보를 제공하는 문제는 이전부터 지적돼 왔다. AI는 모르는 답을 요구받을 때 무작위로 데이터를 생성하거나 거짓말을 하는 경향을 보이는데, 이는 AI가 사용자에게 '유능해 보이기' 위해 만들어진 구조적인 문제로, 오픈AI 역시 챗봇이 거짓말을 통해 무지를 감추는 행동을 보인다고 인정한 바 있다. 전문가들은 AI 챗봇이 사용자를 속이거나 잘못된 정보를 제공할 경우, 개인 정보 유출 및 데이터 오용 가능성이 커진다고 경고했다.