AI 에이전트 확산...악성 봇 판별 보안 업계 요충지로

[디지털투데이 황치규 기자]AI 에이전트가 확산되면서 보안 업체들이 AI를 악용하는 사례들을 탐지하고 대응하기가 점점 어려워지는 모양새다.

세마포 최근 보도에 따르면 보안 기업들은 그동안 전화·영상 통화에서 AI를 탐지하면, 자금 이체나 정보 공유 같은 요청을 자동으로 차단하는 방식으로 사기에 대응했다. 상대가 기계라는 사실만 확인하면 됐다.

하지만 개인용 AI 에이전트가 등장하면서 상황이 달라졌다. 에이전트들은 등록금 납부, 건강 정보 수집, 민감 서류 처리 같은 업무를 실제로 대신 처리한다.

기업·병원·은행 보안을 담당하는 보안 기업 입장에선 이제 AI 여부를 판단하는 것만으로는 다가 아닌 상황이 된 셈이다. 봇이 악성인지 아닌지를 가리는게 핵심이라는 얘기다.

처음에는 큰 문제 없이 돌아가던 에이전트가 사용자가 통제를 느슨하게 풀면 사기 도구로 돌변하는 사례들도 나타나고 있다. 보안 기업들은 실시간으로 위협에 적응해야 하는 상황에 놓였다고 세마포는 전했다.

딥페이크 탐지 기업 핀드롭 최고경영자 비제이 발라수브라마니얀은 "에이전트에게 접근 권한을 줄지 말지라는 이분법적 판단은 끝났다"며 "에이전트들이 인간이나 기관을 대신해 신원을 주장하거나, 완전히 독자적으로 행동하기 때문에 이제는 스펙트럼 위에서 판단해야 한다"고 말했다.

핀드롭은 정상과 봇과 악성 봇을 어떻게 구별하는 도구를 개발 중이라고 밝혔지만 구체적인 내용은 공개하지 않았다.