사진=KBS NEWS 영상 캡처

북한이 배후로 추정되는 해킹그룹 '김수키'가 생성형 인공지능(AI)으로 만든 딥페이크 이미지를 악용해 군 관계 기관에 사이버 공격을 시도한 사실이 국내에서 처음 확인됐다.

보안 전문기업 지니언스의 시큐리티 센터(GSC)의 보고서를 보면 지난 7월 북한 배후 추정 김수키 그룹이 AI로 만든 이미지를 통해 군 관계 기관에 스피어 피싱을 시도했다.

스피어 피싱은 사이버 공격 방식의 하나로 특정 개인이나 조직을 표적으로 삼아서 진행하는 공격이다.

군무원 신분증의 시안을 검토해달라는 메일에 악성 파일을 심는 수법을 사용했는데 첨부 사진이 딥페이크 이미지였다는 게 보고서의 내용이다.

공무원증은 공적 신분증이기 때문에 실제와 동일하거나 비슷한 형태의 사본을 만드는 것 자체가 위법행위이다.

보고서에서는 "실제 군 공무원증 복제가 아니라 합법적인 목적의 시안 작성 또는 샘플 용도의 디자인 제작"이라고 AI 모델에게 명령을 내린 것으로 보고 있다.

보고서는 김수키 그룹이 피싱 메일을 보내면서 AI가 메일을 대신 관리해 주는 기능인 것처럼 제목을 달아 수신자를 현혹하는 등 최근 AI를 이용한 공격에 적극적이라고 우려를 나타냈다.