캘리포니아주 의회가 인공지능(AI) 업계의 강한 반대에도 불구하고 규제 법안을 통과시켰다.

29일 로이터와 블룸버그통신 등에 따르면 AI 규제법안 ‘SB 1047’은 전날 캘리포니아주 주의회에서 찬성 41대 반대 9로 통과됐다.

이 법안은 AI 개발사에 자사 기술이 심각한 피해를 일으키지 않도록 확인하는 의무를 부여하는 내용을 담고 있다. AI 기업들은 대규모 언어 모델 훈련에 1억 달러 이상 들어간 경우 등에는 안전성 테스트를 해야 한다.

AI 시스템이 다수 사망이나 5억 달러 이상의 재산 피해와 같은 심각한 문제를 일으키지 않도록 합리적 주의를 기울여야 한다. 이와 함께 통제가 어려울 때 작동을 멈추게 하는 ‘킬스위치’(kill switch)를 도입해야 한다. 기업이 규정을 지키지 않으면 주 법무장관이 소송을 제기할 수 있다. 캘리포니아주에서 사업을 하는 모든 회사는 본사 소재지에 상관없이 이 법이 적용되므로 대부분 AI 개발업체가 대상이 된다.

이 법안은 민주당 스콧 위너 캘리포니아주 상원의원이 발의했으며 지난 5월 상원을 통과했다. 위너 의원은 AI가 통제할 수 없게 되기 전에 대중을 보호하기 위한 법률을 만들 필요가 있다고 말했다. 이 법안은 마이크로소프트와 메타 등 대부분 빅테크와 관련 업계의 격렬한 반대에 부딪혔다.

낸시 펠로시 전 하원의장, 런던 브리드 샌프란시스코 시장 등도 반대 입장을 밝힌 데 이어 지난주엔 챗GPT 운영사인 오픈AI도 가세했다. 이들은 이 법안이 캘리포니아주의 기술 혁신 속도를 늦추는 효과를 낼 것이라고 지적한다. 또 이런 정책은 연방 정부 차원에서 해야 한다고 주장했다.