챗GPT 개발사 오픈AI가 인공지능(AI)으로 생성한 이미지도 아동 성 착취물(CSAM)로 규정하도록 법을 개정해야 한다고 강조했다.

오픈AI는 8일 발표한 ‘생성 AI 시대의 아동 보호’라는 아동 안전 청사진 문서에서 “AI 시스템은 합성 CSAM을 생성하거나 기존 이미지를 디지털로 변조하는 데 악용될 수 있다”며 이처럼 주장했다.

이는 AI로 생성된 사진은 실존 인물을 대상으로 촬영된 이미지가 아니라는 이유로 CSAM으로 규정하지 않아 범죄자가 처벌을 피하는 사각지대를 막아야 한다는 취지다. 오픈AI는 현재 미국에서 45개 주는 이와 같은 방향으로 이미 법을 개정했으며, 나머지 5개 주와 워싱턴 DC에서만 이와 같은 포괄 법률이 없는 상황이라고 소개했다.

한국에서도 지난해 대법원이 아동·청소년의 얼굴에 다른 알몸 사진을 합성한 AI 조작 영상(딥페이크)이 아동청소년성보호법상 아동 성착취물에 해당하지 않는다고 판결해 논란이 된 바 있다.

오픈AI는 또 CSAM 생성의 미수범도 처벌해야 한다는 의견을 냈다. 이용자가 AI를 이용해 CSAM을 생성하려고 시도했으나, AI 시스템이 이를 차단한 경우에도 범죄로 기소할 수 있어야 불법 자료가 생산되거나 유포되기 전에 피해를 예방할 수 있다는 것이다.

오픈AI는 또 이와 같은 조항이 있어야 이용자가 여러 차례 반복 시도해 AI 시스템에 설정된 안전장치의 허점을 찾는 행위를 막을 수 있다고 설명했다.

특히 오픈AI는 주 차원의 접근뿐 아니라 연방 차원에서 이와 같은 정책을 입안해야 한다고도 강조했다. 오픈AI는 이외에도 신고 품질과 관할권 조정, 관련 기술적 조치 등도 제안했다.

오픈AI의 이번 계획은 미국 주법무장관연합(AGA)과 전미실종학대아동방지센터(NCMEC)와 협력해 마련됐다.

최근 몇 년간 오픈AI가 아동에 미치는 영향으로 인해 자녀 자살 등의 피해를 당한 가족들의 소송이 오픈AI, 구글, 애플 등 테크 기업을 상대로 대거 제기되고 있다.

앞서 유엔아동기금(UNICEF·유니세프)는 지난 2월 성명을 통해 어린이를 성적 대상화하는 인공지능(AI) 사용 이미지가 급증하고 있다면서 각국에 이를 불법으로 규정해 엄벌할 것을 촉구했다.

유니세프는 “딥페이크 남용으로 인한 피해는 실제이며 시급하다. 어린이들은 법이 따라잡기를 기다릴 수 없다”며 AI로 생성한 아동 성착취물에 대한 형사처벌을 요구했다.

이같은 입장은 아동 성 착취물 범죄가 속출하는 가운데 나온 것이다. 특히 일론 머스크의 xAI 챗봇 ‘그록’으로 여성·아동의 사진을 성적인 이미지로 편집·생성한 딥페이크 게시물이 확산하면서 논란이 일었다.

유니세프 조사에 따르면 지난 1년간 11개국에서 최소 120만명의 어린이가 딥페이크 성 착취물의 피해자가 됐다.

유니세프는 각국에 아동 성 착취물의 정의를 AI 생성 콘텐츠까지 확대하고, 제작·입수·소유·배포를 범죄로 규정해야 한다고 강조했다.