‘사이언스 픽션(SF)의 거장’으로 불리는 미국 작가 아이작 아시모프는 1942년작 ‘런어라운드’에서 로봇 3원칙을 제시했다. 첫째 원칙은 로봇은 인간에게 해를 입히면 안 된다는 것이다. 둘째, 로봇은 (첫째에 위배되지 않는 한) 인간의 명령에 복종해야 한다, 셋째, 로봇은 (첫째와 둘째에 위배되지 않는 한) 자기 자신을 보호해야 한다. 그러나 현실 세계의 로봇 규제 논의는 더뎠다. 2017년에야 ‘치명적 자율무기(LAWS)’ 규제를 논의하기 위한 정부전문가회의가 스위스 제네바에서 처음 열렸다.

■치명적 자율무기는 인간이 관여하지 않아도 인공지능(AI)이 독자적으로 목표물을 설정해 교전하는 시스템을 말한다. AI가 스스로 판단해 공격할 수 있게 설계된 이 시스템은 ‘킬러 로봇’으로도 불린다. 치명적 자율무기에 대한 공포는 러시아·우크라이나 전쟁에서 군사용 드론의 활약상을 보면서 빠르게 번지고 있다. 아직은 사람이 드론의 이동과 목표물 타격을 직접 통제하지만 만약 AI 기술을 통해 고도의 자율성을 가진 전투형 드론이 등장한다면 전쟁의 판도가 바뀔 뿐 아니라 돌이킬 수 없는 인류 재앙이 될 수 있다.

■일본 방위성이 6일 AI를 활용한 치명적 자율무기의 연구개발(R&D)과 관련된 지침을 처음으로 만들어 발표했다. 이 지침에 따라 AI 탑재 무기들은 ‘고위험’과 ‘저위험’으로 분류되고 치명적 자율무기로 판단되면 연구개발이 금지된다. 일본의 AI 무기 지침은 규제의 일환이지만 명확한 연구개발 기준을 정해 AI 무기 개발을 본격화하겠다는 의지도 담고 있다고 볼 수 있다. 나카타니 겐 일본 방위상도 “AI 활용에 따른 위험을 줄이면서 혜택을 최대화할 수 있다”고 강조했다. 우리나라는 일찍이 휴전선 일대에 ‘SGR-1’ 경계 로봇을 배치한 데 이어 수년 내에 FA-50 전투기에 AI 파일럿을 탑재한다는 계획을 세웠지만 앞으로 AI 무기 지침을 더 체계화해야 할 것이다. 절도 있는 AI 활용 촉진책을 마련해 자주국방의 기틀을 다져야 할 때다.

<문성진 / 서울경제 수석 논설위원>