[디지털투데이 김예슬 기자] AI 대부로 불리는 요슈아 벤지오(Yoshua Bengio)는 AI 개발이 안전보다 속도를 우선시한다고 경고했다. 

7일 IT매체 테크레이더에 따르면 벤지오는 "AI 시스템을 개발하려는 경쟁이 지나치게 무모한 속도로 확대되고 있다"고 말했다. 

최근 촉발된 AI 시스템 개발 경쟁은 딥시크 같은 중국 AI 기업의 부상으로 더욱 심화됐다. 최근 딥시크의 고급 챗봇 기능은 전 세계의 주목을 받았다. 

현재 주요 기술 기업은 개발 속도를 늦추고 위험을 신중하게 고려하지 않고 우위를 차지하기 위해 AI 개발을 가속하고 있다. 벤지오는 이것이 성급한 배포, 부적절한 안전 조치 및 이해하지 못하는 방식으로 작동하는 시스템으로 이어질 수 있다고 우려했다.

또한 벤지오는 AI 시스템 개발자가 경쟁 속에서 부주의하거나 위험한 지름길을 선택하고 있다고 지적했다. 빠른 속도는 새로운 종류의 제품을 개척하거나 경쟁자를 따라잡는 데 차이를 만들 수 있지만, 사회에 가치가 없을 수도 있다는 설명이다. 그는 안전을 최우선으로 여기지 않으면 치명적인 결과를 초래할 수 있다고 봤다. 

벤지오는 이전부터 AI 감독 강화의 필요성에 대해 경고해왔지만, 최근 사건이 그를 더욱 긴급하게 만들었다고 설명했다. 의미 있는 규제와 안전 프로토콜을 구현하지 않으면, AI 개발이 예측 불가능한 방향으로 나아갈 위험이 있다는 설명이다.

향후 점점 더 많은 AI 시스템이 정보를 처리할 뿐만 아니라 자율적인 결정을 내릴 수 있을 것으로 예상된다. 이러한 AI 에이전트는 단순히 사용자 입력에 응답하는 것이 아니라 스스로 행동할 수 있는데, 벤지오는 이를 가장 위험한 경로로 보고 있다. 전략을 세우고, 적응하고, 독립적인 행동을 취할 수 있는 AI는 인간이 빠르게 통제하기 어려워질 수 있기 때문이다. 

다만, 벤지오는 그가 AI 개발 중단을 요구하는 것은 아니라고 강조했다. 그는 AI가 의료 및 환경 연구와 같이 책임 있는 용도로 사용될 때 그 의미가 긍정적이라고 봤다. 그는 단지 AI 기술에 대해 보다 신중한 작업으로의 우선순위 전환이 필요하다고 전했다. 

• 일리야 슈츠케버의 SSI, 200억달러 가치로 투자 유치 추진
• 물류 자동화 시대…RFID 스캔하는 AI 드론 정확도 99.9%
• 알서포트, 임직원 가족 초청 '패밀리플러스 데이' 진행
• 스타트업 RDC, 기관 대상 리플 XRP 기반 증권 선보인다
• IP 블록체인 스토리, 메인넷 출시 앞두고 토큰 이코노미 공개