디지털투데이 AI리포터] 구글 출신 인공지능(AI) 전문가이자 시그널 재단 회장인 메러디스 휘태커(Meredith Whittaker)가 자율적으로 작업을 수행하거나 결정을 내리는 AI 에이전트에 대한 우려를 표명했다.

지난 8일(현지시간) 비즈니스인사이더에 따르면 휘태커는 최근 텍사스주 오스틴에서 열린 SXSW 콘퍼런스에 참여해 AI 에이전트가 사용자 데이터에 과도하게 접근함으로써 개인정보가 침해받을 위험이 있다고 경고했다.

휘태커는 "우리는 AI 에이전트 시스템에 너무 많은 통제권을 부여하고 있다"라며 "이는 데이터 접근의 필요성을 야기한다"라고 말했다. 그는 "AI 에이전트는 브라우저에 접근해야 하고, 이를 구동할 수 있는 능력이 필요하다. 여기에는 신용카드 정보 등이 포함된다. 이러한 AI는 클라우드 서버를 통해 데이터를 처리할 가능성이 높다"라고 덧붙였다.

이어 "이러한 문제들이 애플리케이션과 OS 계층 사이의 경계를 허물어 데이터 혼합 및 프라이버시 침해를 초래할 수 있다"라고 강조했다.

휘태커에 따르면, AI 에이전트는 사용자가 직접 수행하지 않아도 여러 단계를 앞서 생각하고 작업을 완료할 수 있는 마법의 '지니 봇'처럼 홍보되고 있다. 이는 콘서트 정보를 찾고 티켓을 예약하거나, 친구에게 메시지를 보내는 작업을 AI가 대신할 수 있지만 이 과정에서 사용자 데이터에 대한 과도한 접근이 발생한다는 게 휘태커의 설명이다.

한편 휘태커는 구글에서 10년 이상 근무하며 제품 및 엔지니어링 팀을 이끌었으며, 현재는 디지털 보안으로 유명한 종단 간 암호화 앱 시그널을 운영하는 비영리 시그널 테크놀로지 재단을 운영 중이다.
 

• 브랜드-인플루언서 연결 플랫폼 ZVZO, 100억원 투자 유치
• 서비스나우, AI기반 IT서비스 티켓 관리 스타트업 무브웍스 인수 추진...30억달러 규모
• 티맥스소프트-티맥스티베로, 성남 티맥스소프트타워로 이전
• AWS, '아마존 게임리프트 스트림' 공개...스트리밍 게임 개발 간소화
• 파수, ‘AI바우처’ 공급 기업 선정...기업용 LLM 확산 지원