다른 사람의 얼굴을 합성한 야동이 포르노 사이트에서 금지됐다.
지난 6일 미국 매체 마더보드는 미국 최대의 포르노 사이트 폰허브(Pornhub)가 AI로 제작된 합성 영상을 전부 삭제하기로 했다고 발표했다.
폰허브 측은 “우리는 합의되지 않고 만들어진 야동을 용납하지 않는다”며 “발견하는 즉시 모든 영상을 삭제할 것이다”고 강경하게 선언했다.
폰허브는 ‘리벤지 포르노’ 같이 한쪽의 동의없이 제작된 모든 영상을 금지하고 있다.
지난해 미국 사이트 레딧에선 딥페이크(deepfakes)라는 누리꾼이 기계 학습을 이용해 동영상에 얼굴을 합성하는 AI를 오픈 소스로 공개했다.
딥페이크가 만든 AI를 활용하면 영상 속 A라는 사람의 얼굴을 다른 영상 속 B의 얼굴에 합성할 수 있다.
인공지능이 표정과 각도 등 모든 것을 계산해 이질감이 적게 합성이 가능하다.
그리고 이 기술을 이용해 유명 연예인의 얼굴을 기존 유통되는 포르노에 합성하는 방식으로 악용되어 왔다.
특히나 할리우드 배우 갤 가돗(Gal Gadot), 엠마 왓슨(Emma Watson) 등 유명 연예인의 합성 야동이 만들어지며 피해가 확산되었다.
최근엔 우리나라 여자 연예인의 얼굴까지 합성한 야동이 인터넷에 돌아다니며 파장을 일으키기도 했다.
한편 아래 영상은 에이미 아담스의 얼굴에 니콜라스 케이지의 얼굴을 합성한 것이다.
약 10초부터 니콜라스 케이지로 얼굴이 바뀌며, 해당 영상을 통해 인공지능 합성의 기술력을 추측할 수 있다.