[앵커멘트]
개빈 뉴섬 CA주지사가 인공지능 AI 챗봇을 사용하는 아동들의 정신건강 보호 장치를 의무화한다는 내용이 골자인 SB243에 최종 서명했습니다.
전국 최초로 시행되는 SB 243에 따라 Chat GPT 등 챗봇 서비스를 제공하는 기업들은 자살 위험 신호(Suicidal ideation) 감지는 물론 폭력적, 선정적 게시물을 포함한 자극적인 컨텐츠 접근 차단 시스템 구축 등 조치를 의무적으로 취해야 합니다.
이황 기자가 보도합니다.
[리포트]
CA주가 아동들의 정신 건강을 위해 전국 최초로 인공지능 AI 챗봇 규제를 대폭 강화하고 나섰습니다.
개빈 뉴섬 CA주지사는 오늘(13일) 인공지능 AI 챗봇을 사용하는 아동들을 위한 정신건강 보호 장치 마련을 의무화한다는 내용의 SB 243에 최종 서명했습니다.
이 법안이 시행되면Chat GPT개발사 Open AI를 포함한 인공지능AI 기업들은 챗봇 내 대화 도중 자살 위험 신호를 감지할 수 있는 모니터링 시스템을 마련해야 합니다.
또 대화가 인공지능AI에 의해 생성된 것임을 사용자에게 명확하게 고지해야 합니다.
특히, 아동과 청소년이 챗봇을 장시간 사용하지 않도록 일정 시간마다 휴식 알림을 제공하는 기능 마련도 의무화됩니다.
불법 딥페이크로 이익을 거뒀을 경우 적발되면 한 건당 최대 25만 달러 벌금형에 처해집니다.
이 같은 조치는 챗봇 서비스가 어린이와 청소년의 생활 속에 깊이 들어오면서 자살 유도나 성적 메시지, 폭력적 대화 등 부작용이 사회문제로 떠오른 데 따른 겁니다.
특히, SB243은 Chat GPT와 대화를 나눈 뒤 스스로 목숨을 끊은 청소년 애덤 레인 사건 이후 주목받기 시작했습니다.
개빈 뉴섬 CA주지사는 규제되지 않은 기술로 발생하는 아동, 청소년 피해를 더 이상 두고봐서는 안된다고 지적했습니다.
이어 관련 피해를 예방하기 위해 인공지능 AI 기업들의 책임을 강화하겠다고 덧붙였습니다.
인공지능 AI 챗봇을 사용하는 아동들의 정신건강 보호 장치 의무화 규제를 명문화한 것은 CA주가 전국 최초입니다.
챗봇의 편리함과 더불어 아동과 청소년 정신건강 보호 장치가 마련되어야 한다는 목소리는 전국적으로 커지고 있는 만큼 타주에서도 이와 같은 움직임이 이어질 지 주목됩니다.
라디오코리아 뉴스 이황입니다.
