딥페이크 기술을 이용한 성착취물 피해가 확산하면서 인공지능(AI) 생성 콘텐츠에 ‘꼬리표’를 다는 방안이 부각되고 있다. 사후 처벌 강화, AI 리터러시(문해력) 교육 등 딥페이크 피해를 방지하기 위한 다각도 방안 중 하나로 워터마크 의무화가 필요하다는 것이다.

AI 워터마크는 AI 기술로 제작한 콘텐츠에 삽입되는 표식이다. 눈에 띄는 표식을 넣을 수도 있고, 보이지 않는 정보를 심는 방법도 있다. 실제와 구분하기 어려운 이미지와 영상, 음성을 동원한 가짜뉴스가 범람하고 성착취물 피해가 커지면서 각국은 워터마크를 AI 안전장치로 검토하고 있다.

한국 정부도 지난 5월 ‘새로운 디지털 질서 정립 추진계획’의 일환으로 AI 생성물 ‘워터마크’ 의무화를 내걸었다. 국회에는 관련 법안들이 발의돼 있다. 김승수 국민의힘 의원은 지난 6월 AI로 만든 음향, 영상, 이미지 등 콘텐츠에 가상 정보임을 명확하게 표시하도록 의무화하는 정보통신망법 개정안을 발의했다. 위반 시 정보제공자에게 1000만원 이하의 과태료를 물리고, 플랫폼 기업에 표시 없는 AI 생성물 삭제 의무를 부과하는 게 골자다.

AI 워터마크 도입을 의무화하면 인터넷 이용자들...

딥페이크 피해 예방법으로 거론되는 워터마크, 효과는?