미국 기업들은 앞으로 자사가 개발하는 인공지능(AI) 모델이 국가 안보나 경제 및 건강상 위험을 초래할 경우 연방 정부에 이를 통지해야 한다.

미국 정부는 또 AI를 이용해 위험한 생물학적 물질을 생산하는 것을 차단하기 위해 생물학적 합성 스크리닝 표준을 개발하며 AI를 이용한 사기를 막기 위해 AI로 만든 콘텐츠를 식별하기 위한 워터마킹 등 콘텐츠 인증 방침도 개발할 예정이다.

조 바이든 대통령은 30일 이 같은 내용을 골자로 한 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'에 서명했다고 백악관이 보도자료를 통해 밝혔다.

행정 명령은 AI 역량에 대한 안전과 보안 우려를 해소하기 위해 AI 시스템 개발자가 안전 테스트 결과 및 다른 중요 정부를 정부와 공유하도록 요구하고 있다. 이에 따라 기업들은 국가 안보, 경제, 공중 보건 등에 심각한 위험을 초래하는 AI 모델을 테스트할 때 연방 정부에 알려야 한다.

백악관은 이 조치를 강제하기 위해 한국전쟁 당시 발효된 국방물자생산법을 동원했다.

행정명령은 또 AI로 생성된 콘텐츠를 식별하고 공식 콘텐츠를 인증하기 위한 표준을 수립하도록 하고 있다. 이에 따라 상무부는 콘텐츠 인증 및 워터마크에 대한 지침을 개발할 예정이다.

앞서 알파벳(구글 모회사), 메타, 마이크로소프트, 아마존, 오픈AI 등 주요 인공지능(AI) 기업들은 지난 7월 바이든 대통령이 백악관에서 개최한 AI 관련 행사에 참석해 AI로 만든 콘텐츠에 워터마크를 넣는 등의 안전 조치를 하겠다고 약속한 바 있다.

행정명령은 또 ▲ AI와 안보에 대한 추가 행동을 지시하는 국가안보 메모 작성 ▲ 개인정보 보호 기술의 사용과 개발 가속화에 우선적 연방 지원 실시 ▲ 의회에 데이터 개인정보 보호 법안 통과 촉구 등의 내용도 담고 있다.

또 AI 기술 혁신을 위해 ▲ 건강 및 기후변화 등과 같은 중요 분야에 대한 AI 연구 보조금 확대 ▲ 소규모 개발자 및 기업가에 기술 지원 및 리소스 제공 ▲ 고숙련 이민자와 전문성을 가진 비이민자가 미국에서 공부하고 일할 기회를 확대하기 위해 비자 기준 현대화·간소화 등의 조치도 요구하고 있다.

이밖에 행정명령에는 노동력 대체 문제 해결 등을 위해 노동자에 대한 AI의 피해는 줄이고 혜택을 극대화하기 위한 원칙 개발 등도 담겼다.

백악관은 "오늘 바이든 대통령이 지시한 조치는 안전하고 신뢰할 수 있는 AI에 대한 미국의 접근 방식에 있어 중요한 진전"이라면서 "더 많은 조치가 필요하며 이를 위해 정부는 의회와 협력할 것"이라고 말했다.

앞서 바이든 대통령은 지난 26일 제프 자이언츠 비서실장, 브루스 리드 비서실 부실장, 벤 뷰캐넌 AI 고문 등과 만나 이번 행정명령에 대한 최종적인 검토를 진행했다고 CNN 방송 등 미국 언론이 보도했다.

바이든 대통령은 생성형 AI인 챗GPT를 백악관 집무실에서 실험적으로 사용해봤으며 지난 수개월간 세계 지도자, 전문가, 학자 등과도 논의했다고 백악관은 미국 언론에 전했다.

리드 부실장은 "바이든 대통령은 올해 대부분을 AI가 좋든 나쁘든 뭘 할 수 있는지 직접 확인했다"고 말했다.

이와 관련, 백악관은 보도자료에서 "미국 정부는 지난 몇 달간 유럽연합(EU), 독일, 인도, 한국, 영국 등과 AI 거버넌스 프레임워크에 대해 폭넓게 협의해왔다"면서 "정부는 동맹국 및 파트너와 협력해 AI 개발과 사용을 관리하기 위한 강력한 국제 프레임워크를 마련할 것"이라고 말했다.

<연합뉴스>