▲ 사진=픽사베이

과학기술정보통신부와 한국정보통신기술협회(TTA)가 생성형 인공지능(AI) 콘텐츠의 안전한 활용을 위한 'AI 워터마크 기술 동향 보고서'를 발간했다고 오늘(22일) 밝혔다.

발행된 보고서에는 AI가 생성한 이미지와 동영상, 오디오 클립, 텍스트 등의 정보에 AI가 생성한 것임을 알리기 위해 넣는 표식(워터마크)과 관련한 기술 동향이 포함됐다.

보고서에 따르면, 표식은 사람 눈으로 인식할 수 있는 가시적 워터마크와 보이지 않는 비가시적 워터마크로 나눠져 있다.

이미지, 영상, 음성 등 AI 생성 결과물의 유형에 따라 적용되는 워터마크 기술에는 차이가 있는데, 보고서는 워터마크 동작 방식과 도입 시 고려사항, 표준 기술 등에 관한 내용이 적혀있다.

또, 인공지능 생성물에 적용된 워터마크를 무력화하는 취약점 공격 등 기술적 한계, AI 오남용 완화 방안으로 워터마크와 함께 거론되는 메타데이터에 관한 설명 등도 포함됐다.

최근 국회를 통과한 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법)은 AI 생성물에 대한 투명성 확보를 목적으로 워터마크 표시를 의무화했다.

과기정통부는 향후 이 보고서를 기반으로 AI 업계 등 이해관계자 의견을 수렴한 뒤 AI 기본법상 투명성 확보 의무 이행을 위한 가이드라인을 마련할 예정이다.