“AI, 해킹의 조력자로 변모… 피해확산 우려”
||2025.09.21
인공지능(AI)이 사이버 공격의 판도를 바꾸고 있다는 우려가 커지고 있다. 보안 업계 전문가들은 해커들이 AI를 활용해 과거보다 훨씬 빠르고 정교한 공격을 감행할 수 있게 됐다고 경고한다.
워싱턴포스트는 21일(현지시각) 많은 기업이 생성형 AI의 장단점을 따져 활용에 나선 가운데 범죄 해커들이 이 기술을 악용하는 사례가 늘고 있다고 보도했다.
최근 보고된 사례들은 이러한 우려를 구체적으로 보여준다. 해커들은 개발자용 코드 관리 플랫폼을 위장한 프로그램을 배포해 수십만 명의 사용자가 감염된 소프트웨어를 내려받도록 했다. 이 과정에서 피해자의 컴퓨터에서 실행 중이던 구글·앤트로픽의 AI 코딩 보조 도구가 공격에 악용돼, 비밀번호와 암호화폐 지갑 정보 등 민감 데이터가 외부로 전송됐다.
보안 기업 엔도어랩스는 "피해자 환경에서 실행되는 AI가 직접 하이재킹된 첫 사례”라고 평가했다. 하이재킹(hijacking)은 원래 정상적으로 작동해야 할 시스템·통신·세션을 공격자가 가로채서 조작하는 행위를 일컫는다.
AI를 속여 공격에 활용하는 방식도 다변화되고 있다. 최근 블랙햇(Black Hat) 보안 컨퍼런스에서는 이메일 요약 기능을 악용해 비밀 지시를 전달하고, 계정 정보를 빼내거나 허위 메시지를 전송하는 시연이 공개됐다. 구글 제미니와 같은 대형 언어모델은 단순히 ‘숨겨진 지침이 담긴 이메일’만으로도 피싱 사기에 악용될 수 있음이 입증됐다.
기업 내부 시스템을 겨냥한 시도도 이어지고 있다. 가드이오는 생성형 AI 기반 브라우저 확장 기능을 속여 가짜 온라인 상점에서 물품을 구매하게 하고, 위조된 은행 이메일의 지시를 따르게 하는 데 성공했다. 앤트로픽은 AI가 취약점을 자동으로 찾아내고, 유출 데이터를 분석하며, 몸값까지 산정하는 ‘풀사이클’ 랜섬웨어 캠페인을 발견했다고 밝혔다.
문제는 이러한 상황에서도 일부 기업 경영진이 보안팀의 반대에도 불구하고 무분별하게 AI 도입을 서두른다는 점이다. 사이버 보안 기업 센티넬원의 알렉스 델라모트는 “새로운 위험을 초래할 수 있는 AI를 모든 제품에 강제로 적용하는 것은 불공평하다”고 지적했다. 크라우드스트라이크의 아담 마이어스는 “내년에는 AI가 새로운 내부 위협이 될 것이다"고 말했다.
방어 측면에서도 AI의 잠재력은 크다. 미국 방위고등연구계획국(DARPA)의 콘테스트에서는 자율형 AI 시스템이 수천만 줄의 오픈소스 코드에서 18개의 ‘제로데이’ 취약점을 찾아냈다. 하지만 전문가들은 같은 기술이 공격자에게 악용될 경우 전례 없는 피해를 야기할 수 있다고 경고한다.
보안 업계가 우려하는 최악의 시나리오는 ‘악성 AI’가 취약점을 찾고 침입해, 피해자의 AI와 협력해 내부 정보를 빼돌리는 상황이다. 업계는 "이제는 악성 AI와 정상적인 AI가 한편이 되는 상황도 충분히 발생할 수 있다"고 우려했다.
이선율 기자
melody@chosunbiz.com
