한인 학생들도 다수 재학 중인 베벌리힐스의 중학교에서 여자 동급생들의 사진에 누드를 합성한 가짜 이미지가 온라인상으로 유포돼 학교와 교육구가 발칵 뒤집힌 가운데(본보 2월29일자 보도) 이번 사태와 관련, 학생 5명이 퇴학 처분됐다고 8일 LA타임스가 보도했다.

이번 사건은 인공지능(AI) 딥페이크(Deepfake) 기술을 악용한 신종 ‘사이버 불링’(온라인상의 괴롭힘)이어서 교육 당국과 학부모들에게 경종을 울려주고 있는데, 사건 조사에 나선 베벌리힐스 교육구는 가짜 누드 이미지들을 제작해 메신저 앱으로 배포하는데 주도적으로 가담한 베벌리 비스타 중학교 8학년 학생 5명을 퇴학시켰다고 밝혔다. 이번 사태로 피해를 본 이 학교 여학생은 총 16명으로 이들은 모두 8학년 학생들이었다고 LA타임스는 전했다.

지난달 발생한 이번 사건에 대해 교육구 측은 즉각적인 조사를 벌여 주도적으로 연루된 학생 5명을 색출했으며, 이들의 학부모은 해당자들이 모두 퇴학 처분을 받는데 합의했으며 그 내용은 공개하지 않기로 했다고 신문은 전했다.

이번 사건이 발생한 베벌리 비스타 중학교는 베벌리힐스 교육구에서 유일한 중학교로 약 750명의 학생들이 재학하고 있는데, 중학교에는 온라인 상에 떠돌아 다니는 얼굴만 여학생의 진짜 사진이고 신체는 AI 딥페이크 기술로 완벽하게 결합한 가짜 누드 사진이 유포되면서 사이버 불링의 심각성이 학부모들에게 큰 충격을 주고 있다.

이같은 신종 사이버 불링은 전 세계적으로 문제가 되고 있다. 많은 학교들이 가짜 사진, 비디오 및 오디오로 인한 사이버 리스크 노풀에 몸살을 앓고 있다는 것이다. 뉴저지 웨스트필드, 시애틀, 위니펙, 스페인 알멘드랄레호, 리우데자네이루에서 ‘딥페이크’ 기술을 사용하는 사기범들이 여학생의 진짜 사진과 인위적이거나 사기성 누드 사진을 결합해 유포하는 일이 벌어지기도 했다.

문제는 이같은 ‘딥페이크’ 기술이 AI의 급속한 발달과 함께 일상 속으로 파고들어 누구나 저렴하게 사용하기 쉬워졌다는 것이다. 현재 온라인 상에는 특정 인물의 사진을 전송하면 딥페이크 기술을 이용해 해당 인물을 누드로 만들어 주는 딥페이크 앱이 수십 개나 있는 것으로 전해졌다.

이 앱들은 AI 기반 이미지 인페인팅 기술을 사용하여 옷을 나타내는 픽셀을 제거하고 그 사람의 누드에 가까운 이미지로 대체하는 프로그램으로, 다른 도구를 사용하면 얼굴을 다른 사람의 누드 신체에 얼굴을 바꾸는 ‘페이스 스왑’도 가능하다.

이미지 생성 인공지능(AI) 프로그램을 이용해 원하는 인물을 누드로 만들어 주는 딥페이크 사이트는 수년 전부터 사용 가능했다. 하지만, 초기 버전은 비싸고 사용하기 어려우며 사실적이지 못했다. 그러나 AI가 발달하면서 실제와 같은 이미지를 복제하고 딥페이크를 빠르게 만들 수 있게 됐고, 스마트폰으로도 단 몇 초 만에 딥페이크를 만들 수 있는 실정이라고 LA타임스는 전했다.

이처럼 저렴하고 사용하기 쉬운 딥페이크 도구가 널리 보급되면서 본인의 의사와 상관없는 딥페이크 포르노의 양이 폭발적으로 증가했다.