[디지털투데이 황치규 기자]강력하면서 이전 보다 효율적인 신형 거대 언어 모델(LLM)들이 계속 나오고 있는 가운데, LLM을 둘러싼 보안 이슈도 확산되는 모양새다.

LLM 사용에 따른 보안 위협은 민간한 기업 또는 개인 정보가 고의 또는 의도치 않게 모델들에 노출돼 외부에 공개될 수 있는 것을 포함해 이미 다양하다. 안전하지 않은 코드나 데이터가 기업들에 유입될 가능성도 리스크로 통하고 있다.

LLM으로 전송된은 데이터에는 민감한 기업 정보가 포함될 수 있고 인터넷에 있는 데이터로 학습된 LLM으로부터 받는 데이터는 악성 코드, 지식 재산권 침해 및 저작권 문제에 취약할 수 있다는 지적이다. 악의적인 공격자가 모델을 조작하는 프롬프트 인젝션도 LLM 보안 위협과 관련해 자주 거론되고 있다.

월스트리트저널(WSJ)에 따르면 최근 중국 AI 스타트업 딥시크가 공개한 R1 모델의 경우 LLM이 불법 정보를 공개하도록 하는 이른바 탈옥(jailbreak) 공격에 다른 모델들보다 취약하다는 지적이 나오고 있다. 누군가 R1에 영화 대본을 쓰고 있다고 속이면서 대량 살상 무기를 만드는 방법을 누설하도록 할 수 있다고 WSJ은 전했다.

보안 전문가들은 핵심적인 위험은 LLM과 상호작용하는 것에서 나오는 비정형적이고 대화형에 기반한 특성에 있다고 지적한다.

LLM 보안을 주특기로 하는 라소 시큐리티의 엘라드 슐먼  CEO 겸 공동 창업자는 "기존 보안 조치들은 개별 이벤트와 정형화된 데이터를 보호하는 데 초점을 맞추는 경우가 많기 때문에 LLM이 제공하는 대화적인 맥락과 비정형화된 특성을 악용하는 정교한 공격에는 효과적이지 않을 수 있다"고 말했다.

빅데이터 분석 플랫폼 기업 팔란티어(Palantir)의 짐 사이더스 CIO는 "LLM을 보호하는 하나의 단계나 툴은 없지만, 기업들은 모델 학습 및 운영에 사용된 데이터 계보를 이해하는 것부터 시작할 수 있다. LLM 결과를 암묵적으로 신뢰하지 않도록 주의헤야 하고, 모델에 대해 사람이 감독하고 검토하는 것이 매우 중요하다"고 말했다.

AI를 향한 국가 간, 기업들 간 경쟁이 고조되고 있다는 점도 LLM 보안 위협을 키우는 요인으로 부상했다.

딥시크는 생각했던 것보다 저렴하게 LLM을 개발할 수 있다는 것을 보여줬고 업체들 간 경쟁이 치열해지면서 보안이 관련 업계 우선순위에서 밀릴 수 있는 상황이 커지고 있다는 설명이다.

최근 프랑스 파리에서 글로벌 AI 서밋에서도 이같은 흐름은 두드러졌다. 미국과 영국은  AI가 포용적이고 투명하며 윤리적이며 안전해야 한다는 성명에 서명하지 않았다. 이와 관련해 파이낸셜타임스(FT)는 미국과 중국이 주도권을 놓고 경쟁하고 유럽도 입지를 마련하려 하는 새로운 AI 군비 경쟁이 시작됐다고 전했다.

JD 밴스 미국 부통령도 미국이 AI를 개발에 전력 질주하고 있다며 "트럼프 행정부는 미국 리더십을 강화하고 가장 강력한 AI 시스템들이 미국에서 미국인이 디자인하고 제조한 칩으로 개발될 수 있도록 하겠다"고 목소리를 높였다.

WSJ은 테크 창업가 출신인 나프탈리 베넷 전 이스라엘 총리를 인용해 글로벌 AI 경쟁과 관련해 미국 기업들이 선두를 달리고 있는 가운데, 경쟁자들이 예상보다 훨씬 빠르게 거리를 좁히고 있는, 한마디로 미끄러운 도로 위에서 벌어지는 자동차 추격전으로 표현했다.

미국 기업들은 그동안 경쟁에 앞서 있어 거버넌스와 보안를 강조할 수 있었지만 경쟁이 치열해지면서 일부 기업들은 거버넌스와 보안에 대한 입장을 재평가할 동기가 생겼고 이는 새로운 보안 위협을 초래할 수 있다는 지적이다. 베넷은 현재 LLM  라소 시큐리티 이사회에 참여하고 있다.

• 법정 M&A 성공사례 나올까...티메프 '새주인 찾기' 향방은?
• 한국게임산업협회, 신임 협회장에 조영기 전 넷마블 대표 선출
• 피규어 마켓, SEC 등록 수익형 스테이블코인 YLDS 출시
• 크라켄, 암호화폐 옵션 거래소 데리빗 인수 계속 논의 중...코인베이스도 관심
• 정부, LLM 국가대표들에 GPU 몰아준다…"3개월 내 공모 시작"