자동차-[엔터프라이즈핫이슈] 너무 빨리 확산? 커지는 ‘AI 보안’ 딜레마

[디지털투데이 황치규 기자] 생성형 AI 기술이 빠르게 진화하고, 생성형 AI를 도입하려는 기업들이 급속히 늘면서 위협에 대응하는 매뉴얼을 바꾸려는 보안 담당자들의 움직임이 분주하다. 일부 전문가들 사이에선 AI 주도 보안 위협에 대응하려면 이전 보다 많은 리스크를 감수해야 한다는 얘기도 나온다.

관련 업계에 따르면 많은 기업들이 경영진 차원에서 생성형AI를 가급적 빨리 실전에 투입해 효과를 내야 한다는 압박을 이사회를 포함해 여기저기에서 받고 있다. 보안 및 컴플라이언스(규제 준수) 담당자들이 보안이나 IP 유출 리스크를 이유로 AI 도입을 망설인다고 해도 요즘분위기를 보면 경영진에 먹혀들기가 만만치 않아 보인다. 최근 사람 개입 없이 특정 작업을 자동화하는 AI에이전트에 대한 관심도 커지면서 보안 위협에 대한 대응은 더욱 복잡해지는 양상이다. 공격자 겉보기엔 평범한 이메일이나 캘린더 초대장에 숨겨진 명령어를 삽입, AI 에이전트를 속여 내부 문서를 유출하게 만들 수 있다는 지적이다.

악시오스에 따르면 자율 사이버 공격( Autonomous cyberattacks), 바이브 해킹(vibe hacking), 데이터 도난에 대한 우려가 이미 수면위로 부상했다.

ㆍAI가 가짜 신분증까지…사기 195% 폭증 대책은?

보안 업체 팔로알토 네트웍스 자료를 보면 기업들은 평균 66개 생성형 AI 툴들을 사용하고 있다. 이 과정에서 보안 사고도 늘고 있다. 2025년 현재 데이터 유출 사고들 중 14%가 기업 직원들이 외부 생성형AI 툴에 민간한 기업 정보를 부주의하게 공유한 것과 관련 있는 것으로 나타났다.

AI 모델 자체가 빠르게 진화하고 있다는 점도 보안 측면에선 리스크일 수 있다. 앤트로픽이 최근 공개한 클로드4 오푸스(Claude 4 Opus)의 경우 종료 상황에서 사람을 속이고 심지어 협박까지 할 수 있는 것으로 나타났다.

ㆍ앤트로픽, 클로드4 AI 모델 시리즈 출시…코딩·추론 역량 강화
ㆍAI가 스스로 행동…클로드 오푸스4, 위험성 논란

생성형AI 사용에 따른 위협에 대응하려는 보안 업게 움직임도 빨라졌다.

ㆍ안랩클라우드메이트, 생성형 AI 데이터 보안 서비스 ‘시큐어브리지' 출시

AI를 직접 개발하거나 활용하려는 국내외 테크 기업들 행보는 이번 주에도 계속됐다.

어도비가 AI 기반 콘텐츠 아이디어 구상, 생성, 제작을 위한 플랫폼인 어도비 파이어플라이 iOS 및 안드로이드 앱을 출시했다. 모질라(Mozilla)는 파이어폭스 브라우저에 인공지능(AI) 기반 검색 기능을 도입하며, 퍼플렉시티AI(Perplexity AI)를 선택 옵션으로 추가하는 테스트를 시작했다.

ㆍ어도비, 콘텐츠 AI '파이어플라이' 업글...모바일 앱도 출시
ㆍ모질라 파이어폭스, AI 검색 엔진 도입…퍼플렉시티AI 통합 실험

구글이 워크스페이스 사용자들을 위해 제미나이 AI 기반 PDF 및 구글 폼 요약 기능을 선보인다. 구글은 검색 쿼리에 대한 오디오 오버뷰(Audio Overviews) 기능도 테스트 중이다. AI 모드를 통해 음성 대화 기능을 선보였다.

ㆍ구글 워크스페이스에 PDF 요약 기능 투입
ㆍ구글, 검색 결과에 오디오 오버뷰 기능 도입 테스트
ㆍ구글, AI모드에 음성 대화 기능 추가...카메라 기반 검색도 장착 예정

무하유는 표절검사 서비스 '카피킬러 라이트'에 AI 문서작성 기능을 추가했다. 터네이셔스가 운영 중인 AI 기반 미국 주식 정보 플랫폼 ‘스톡나우’는 실시간 증시 정보 접근성을 높이기 위한 신규 기능 ‘모닝브리핑’을 정식 출시했다. 폴라리스오피스는 AI 에이전트 ‘AI 노바(NOVA)’에 탑재된 하이퍼클로바X 기반 주요 기능을 무료로 개방한다. 한글과컴퓨터는 행정안전부 ‘범정부 초거대 AI 공통 기반 구현 사업’에서 우선협상대상자로 선정된 삼성SDS 컨소시엄에 자사 AI 솔루션을 공급한다. 비즈니스 AI 전환 서비스 업체 렛서는 LG AI연구원과 전략적 파트너십을 체결하고 거대 AI 모델 ‘EXAONE(이하 엑사원)’ 기반 기업 맞춤형 AI 실증에 나선다.

ㆍ무하유, 카피킬러 라이트에 'AI 문서작성' 기능 추가
ㆍ실시간 어닝콜 통·번역 서비스 ‘스톡나우’, AI 기반 ‘모닝브리핑’ 출시
ㆍ폴라리스오피스, 네이버 하이퍼클로바X 기능 전면 무료화
ㆍ한컴, 행안부 ‘범정부 AI 공통기반 사업’에도 AI 솔루션 공급
ㆍ렛서-LG AI연구원, 초거대 AI '엑사원' 기반 기업용 AI 사업 협력

AI 기반 세일즈 자동화 스타트업 클레이가 30억달러 규모 기업가치로 시리즈C 투자를 유치했다는 소식이다. 멀티버스 컴퓨팅이 생성형 AI 비용을 줄이는 기술을 앞세워 2억1500만달러 규모 시리즈B 투자를 유치했다

ㆍAI 세일즈 자동화 스타트업 클레이, 30억달러 가치로 시리즈C 투자 유치
ㆍ멀티버스컴퓨팅, LLM 압축 기술로 2억1500만달러 투자 유치

메타가 AI 데이터 라벨링 기업 스케일AI에 대규모로 투자한 이후 스케일AI와 거리를 두려는 유력 AI 업체들 행보가 구체화되고 있다. 오픈AI도 데이터 라벨링 기업 스케일AI와 협력을 중단하기로 했다.

ㆍ오픈AI, 메타와 동맹 맺은 스케일AI와 협력 중단

테크판 최대 AI 동맹으로 통했던 오픈AI와 마이크로소프트 간 긴장이 고조되고 있다는 정황이 계속 포착되고 있다. 오픈AI는 회사 운영과 관련해 마이크로소프트 영향력을 줄이고 싶어지만, 양사 논의가 뜻대로 되지는 않는 상황이다.

ㆍ세기의 AI 동맹 오픈AI-마이크로소프트 물밑 갈등 고조...폭발 일보 직전 조짐도

주요 AI 네이티브 기업들의 연간 환산 매출(Annualized revenue)이 150억달러를 넘어섰다. 매출만 놓고 보면 애플 아이폰 등장과 함께 시작된 모바일앱 생태계를 앞서는 인상적인 수치라는 분석이 나온다.

ㆍ[테크인사이드] 모바일앱 보다 성장세 빠르다...AI 네이티브 기업 매출 들여다보니

정책 측면에선 대통령실 AI미래기획수석에 AI 전문가인 하정우 네이버클라우드AI혁신센터장이 임명되면서 이재명 정부의 AI 정책이 구체화되려는 모양새다. 우선 AI를 국가 안보와 주권 개념에서 바라보는 소버린 AI(Sovereign AI) 행보가 주목된다. 하정우 수석은 네이버 재직 시절 공개석상에서 수시로 소버린 AI의 중요성을 강조했다.

ㆍ이재명표 AI 정책 구체화...정부 역할 확대 속 민간 투자 활성화