캘리포니아주가 전국 최초로 인공지능(AI) 규제 법안을 본격 시행한다.
개빈 뉴섬 주지사는 어제(29일) AI 안전과 투명성을 강화하는 ‘SB53’ 법안에 최종 서명했다.
이 법안은 고성능 AI 모델을 개발하는 대형 테크 기업들에게 안전사고를 보고하고, 자체 안전 프레임워크를 공개하도록 의무화하는 내용을 담고 있다.
특히 AI가 통제 불능, 거짓 정보 생성, 대규모 피해 등 ‘중대한 안전 사고’를 일으킬 경우, 기업은 15일 이내에 주 정부에 보고해야 한다.
또 내부 직원이 위험 요소를 제보할 경우 보호 장치를 마련하고 불이익을 주지 못하도록 했다.
법안은 AI가 야기할 수 있는 피해 기준을 10억 달러 이상의 경제적 손실, 50명 이상의 사상자가 발생할 수 있는 전력망 사이버 공격 등으로 명확히 정의했다.
뉴섬 주지사는 “지역 사회를 보호하면서도 AI 산업의 지속적 성장을 보장할 균형 규정을 마련했다”고 강조했다.
뉴섬 주지사는 최근 빌 클린턴 전 대통령과의 대담에서도 “캘리포니아가 AI 안전 규제의 선도자”라며 연방 정부의 미온적 대응을 비판한 바 있다.
SB53은 지난해 의회를 통과했지만 구체적 기준이 모호하다는 이유로 거부됐던 SB1047을 보완한 법안이다.
이번에는 피해 규모와 사고 범위를 명확히 규정하면서 최종 확정됐다.
AI 남용 방지를 위해 대형 모델이 화생방 무기 제작이나 금융 시스템 마비 같은 파괴적 활동에 악용되지 않도록 하는 조항도 포함됐다.
이에 따라 구글, 오픈AI, 메타, 앤트로픽 등 캘리포니아에 본사를 둔 글로벌 기업들이 모두 해당 규제를 따르게 된다.
일부 기업들은 규제가 연방 차원에서 논의돼야 한다고 반발했지만, 앤트로픽은 “이미 업계에서 적용 중인 안전 수칙을 제도화한 것”이라며 환영의 뜻을 밝혔다.
한편, 캘리포니아 의회는 청소년과 취약 계층 보호를 위한 또 다른 AI 법안 ‘SB243’도 통과시켰으며, 뉴섬 주지사의 서명이 완료되면 내년(2026년) 1월 1일부터 발효될 예정이다.
이 법은 챗봇 운영자에게 안전 프로토콜을 의무화하고 미준수 시 법적 책임을 묻도록 규정하고 있다.
한편, CNBC는 “세계 상위 50대 AI 기업 중 32곳이 캘리포니아에 본사를 두고 있어 이번 법안은 전 세계적으로 큰 파급력을 미칠 것”이라고 평가했다.
