대통령이 바뀌니 자연히 사회 분위기도 바뀌어서 지난 1월7일 페이스북에서는 이제 더 이상 팩트를 체크하는 걸 그만두겠다고 공언했다. 계열사인 인스타그램과 쓰레드도 마찬가지다. 사용자가 가짜 정보에 속든 말든 각자 알아서 하라는 것이다.

저커버그는 스스로 수많은 사람들이 수많은 사진을 올리는 계정을 열어놓고는 정작 자기 아이들의 사진은 모자이크 처리한다. 어린 시절의 사진 한 장만 가지고도 AI를 돌려 두고두고 그 사람을 찾아낼 수 있기 때문이란다.

자신은 그토록 조심하면서 남들에게는 경고의 말도 없다. 그것도 알아서 하라는 것이다. 메타만 그러겠는가. 모든 회사가 다 줄줄이 그렇게 나 몰라라 책임과 비용만 줄이려 들 것이다.

MIT 대학신문에는 테크놀로지에 관한 다른 얘기가 실렸다. 얼마 만한 근거로 얘기하는 지는 알 수 없지만 유튜브도 페이스북도 없어질 확률이 있고, 그래서 우리들이 영구히 소장할 것처럼 믿었던 기록들이 다 사라질 수도 있다는 거다.

가능성이 없을 것 같지만 선례도 있다 보니 허무맹랑한 가설만은 아니다. 인류 최초의 대형 소셜 네트워크 서비스였던 MySpace 에서는 2016년 이전에 올려진 모든 사진과 비디오와 오디오 파일이 다 지워졌다.

그것도 실수로. 2024년 6월에는 MTV News가 오프라인으로 전환해 20년 간 모였던 음악의 역사가 사라졌다. 2009년 야후에서는 아무 거리낌 없이 GioCities 플랫폼을 중단했다.

회사의 사정에 따라 충분히 일어날 수 있는 일들인 것이다. 구글에 의하면 2024년 매일 60억의 사진과 비디오가 구글 포토에 업로드되고, 매분마다 4천만의 왓츠앱 메시지가 전송된다고 한다. 그 교통량이 눈에 안 보이는 세계라서 천만다행이다.

한쪽에선 지워질 권리를 주장하고, 한쪽에선 없어지는 데이터를 모으기 위해 안간힘을 쓴다. 지워질 권리는 인터넷에 올린 걸 후회하는 쪽이고, 남길 권리는 미래의 어느 시점에 현대 사회를 연구하는데 귀중한 자료로 보존하자는 쪽이다.

아마추어 서민 유저들의 미학과 흥미를 반영하는 데이터가 아까워 Archiveteam이라는 단체는 GioCity 가 문을 닫기 전 될 수 있는 한 많은 자료를 저장했다고 한다. 전문가들이 달라붙었는데도 2009년 4월부터 10월까지 저장한 용량은 전체의 9분의 1. 나머지는 역사 속으로 흔적도 없이 사라졌다.

이러한 사실에다 요즘 회자되고 있는 DeepSeek의 현실을 첨가하면 아찔한 생각이 든다. 지난 1월28일 영국의 가디언 지는 딥시크를 실험한 결과를 내놓았다. 정치에 대한 민감한 질문을 하면 답을 하다가도 화제를 돌리거나 기존에 내놓았던 정답을 삭제한다. 이건 검열을 당한다는 얘기고 조작의 흔적이다.

현재의 이런 조작의 흔적은 그래도 귀여운 편이다. 이 순진한 시기를 지나고 나면 아마도 검열에 맞게 망설임 없이 거짓말을 하게 될 것이다. 대답하기 곤란하거나 삭제될 답을 반복한다는 것은 그만큼 성능이 떨어지는 AI일 테니 당연하다. 거기다 이런 검열과 조작이 중국 인공지능에만 들어갈까? 머신 러닝을 개발하는 모든 곳, 모든 제품에 다 고려될 것이다.

인간에게 편견이 있듯, 그리고 그것을 고치기 어렵듯, 기계 속에도 내장되고 고치기는 더욱 힘든 편견이 엄연히 존재한다는 걸 인정해야 할 것 같다. 모든 것의 정답을 알고 있다는 AI의 오만은 그야말로 오만일 뿐이다.

<한영국/소설가>