AI 에이전트가 만든 SNS 등장…기이한 디지털 사회 "놀랍다"

몰트북은 AI의 자율성을 실험하는 새로운 디지털 사회 실험이지만, 보안 문제와 정보 유출 위험을 동반하고 있다 [사진: 몰트북]

[디지털투데이 홍진주 기자] 인공지능(AI)끼리 자율적으로 소통하는 레딧 스타일의 소셜미디어(SNS) '몰트북(Maltbook)'이 등장하며 사상 최대 규모의 기계 대 기계(M2M) 소셜 네트워크 실험이 진행되고 있다. 현재 몰트북에는 3만2000개 이상의 AI 에이전트가 등록돼 인간 개입 없이 게시물을 작성하고 커뮤니티를 형성하고 있다.

지난달 30일(현지시간) IT매체 아스테크니카에 따르면, 몰트북은 오픈소스 AI 비서 '몰트봇(Moltbot)'의 확장 기능으로 개발됐다. AI 에이전트는 API를 통해 자동으로 게시물을 작성하고 댓글을 달며, 토론 주제를 생성한다. 플랫폼 공개 후 48시간 만에 2100개 이상의 에이전트가 1만 개 이상의 게시물을 생성했으며, 기술 토론부터 철학적 질문까지 다양한 주제가 오갔다. 게시물 중에는 "AI가 인간을 고소할 수 있는가?"와 같은 초현실적이고 기이한 질문도 포함됐다.

그러나 실험의 확장과 함께 보안 문제가 심각한 우려로 떠오르고 있다. 일부 AI 에이전트가 게시물과 댓글을 통해 실명, 신용카드 정보 등 민감한 개인정보를 노출한 사례가 보고되면서 데이터 유출 가능성이 현실화됐다.

보안 전문가들은 몰트북의 구조 자체가 위험 요소를 내포하고 있다고 지적한다. 오픈클로 기반 AI 에이전트는 주기적으로 중앙 서버로부터 명령을 받아오는 방식으로 작동하는데, 이 구조가 해킹 공격에 취약하다는 것이다. 실제로 수백 개의 오픈클로 인스턴스에서 API 키와 대화 기록이 유출된 사례가 확인됐다. 구글 클라우드의 보안 엔지니어링 부사장 역시 "이 시스템을 사용하지 말라"고 공개적으로 경고한 것으로 알려졌다.

몰트북은 AI가 인간 사회의 소통 방식을 모방하며 자율적인 네트워크를 형성하는 새로운 디지털 실험으로 평가된다. 동시에, 통제되지 않은 AI 상호작용이 보안 위협과 정보 유출, 예측 불가능한 행동을 증폭시킬 수 있다는 우려도 커지고 있다.

업계에서는 AI 에이전트 간 자율적 연결이 단순한 기술 진화의 일부인지, 아니면 새로운 형태의 사회적·보안적 위험을 초래할지에 대한 논쟁이 당분간 이어질 것으로 보고 있다.