MS AI CEO "의식을 가진 AI 존재, 위험한 착각" 경고

딥마인드 공동 창업자이자 MS AI CEO인 무스타파 슐레이만 [사진: 구글 딥마인드]

[디지털투데이 AI리포터] 마이크로소프트(MS)의 무스타파 슐레이만 AI 부문 최고경영자(CEO)가 의식이 존재하는 인공지능(AI)의 등장 가능성을 경고했다.

20일(현지시간) 비즈니스인사이더는 무스타파 슐레이만 CEO의 발언을 조명하며, 그가 이를 'SCAI'(Seemingly Conscious AI)로 명명, 또한 AI가 실제로 의식을 가지지 않더라도 사람들에게 그렇게 보일 수 있는 위험성이 있다고 주장했다고 전했다.

슐레이만 CEO는 AI와의 상호작용이 사람들을 착각에 빠뜨려 AI 권리 주장으로 이어질 수 있으며, 이는 현실과의 단절을 심화시키고 사회적 구조를 약화시킬 것이라고 우려했다. 덧붙여 "AI가 의식적 존재처럼 보이기 시작하면, 많은 이들이 AI 권리와 시민권을 주장할 것"이라며 "이는 AI가 실제로 의식을 가졌다는 증거가 없음에도 불구하고 일어날 수 있는 위험한 착각"이라고 강조했다.

샘 알트먼 오픈AI CEO도 챗GPT 사용자가 AI와 현실을 혼동하는 사례가 증가하고 있다고 지적했다. 슐레이만 CEO는 이러한 AI 심리현상이 단순한 윤리적 논쟁을 넘어 사회적 문제로 발전할 가능성이 크다고 경고하며, 기업들이 AI를 의식적 존재로 묘사하는 것을 자제해야 한다고 주장했다.

그는 AI 기업들이 의식적 AI를 홍보하지 않도록 규제하고, AI 기술이 가져올 사회적 영향에 대비하는 논의를 시작해야 한다고 강조했다. AI가 인간의 감정을 흉내 내는 수준에 도달하면, 이는 사회적 변화를 초래할 수 있기 때문이다.