챗GPT도 속았다…북한 해커, 가짜 군사 신분증 생성해 피싱 공격

북한 해커들이 챗GPT를 활용해 가짜 군사 신분증을 생성했다 [사진: 셔터스톡]

[디지털투데이 AI리포터] 북한 해커들이 챗GPT를 이용해 한국 군사 신분증을 위조하고 이를 활용한 피싱 공격을 감행했다.

16일(현지시간) IT매체 테크레이더가 보안업체 지니언스(Genians Security Center, GSC)를 인용한 바에 따르면, 이번 공격은 한국수력원자력, 유엔(UN), 글로벌 싱크탱크를 겨냥한 북한 해커 조직 김수키(Kimsuky)의 소행으로 확인됐다.

챗GPT는 악성 콘텐츠 생성을 막기 위해 보안 장치를 갖추고 있지만, '탈옥'(jailbreaking) 기법을 통해 이를 우회할 수 있다. 지니언스는 "공공 데이터베이스에서 사진을 확보한 후 '샘플 디자인' 요청을 통해 챗GPT가 가짜 신분증을 생성하도록 유도했다"고 밝혔다. 군사 신분증 위조는 불법이지만, 챗GPT의 응답은 프롬프트 방식에 따라 달라질 수 있어 보안 허점이 드러났다.

이번 공격은 한국 방산 관련 기관을 직접 겨냥했지만, 피해 기관의 구체적인 명칭은 공개되지 않았다. 챗GPT와 같은 생성형 인공지능(AI)이 악용될 경우, ID 위조뿐만 아니라 피싱, 스팸, 개인정보 도용 등의 위험이 커질 수 있다고 전문가들은 경고하고 있다.