Kalam News

CA검찰, ‘그록’ 성적 이미지 생성 조사 발표..X "기술적 조치"

일론 머스크가 소유한 소셜미디어 X가 인공지능(AI) 챗봇 ‘그록(Grok)’을 둘러싼 여성·아동 딥페이크 이미지 생성 논란에 대응해 이미지 생성 기능을 제한하는 안전 조치를 내놓았다.

X​ 안전팀은 어제(14일) “아동 성착취물과 동의 없는 노출을 포함한 위험 콘텐츠를 삭제하고, 규정을 위반한 계정에 적절한 조치를 취하고 있다”고 밝혔다. 

이어 실제 인물의 사진을 편집해 비키니 차림 등 노출이 심한 이미지로 생성하는 기능을 기술적으로 차단했으며, 이 제한은 유료 구독자를 포함한 모든 이용자에게 적용된다고 설명했다.

또 그록을 통한 이미지 생성·편집 기능은 현재 유료 구독자에게만 제공하고 있다며, 악용 가능성을 줄이기 위한 추가 보호 장치라고 강조했다. 

X는 생성형 AI 확산에 따른 위험을 인정하면서, 규제기관과 다른 플랫폼들과의 협력을 강화하겠다고 덧붙였다.

이번 조치는 캘리포니아주 검찰이 그록의 성적 이미지 생성 논란과 관련해 조사에 착수했다고 밝힌 지 몇 시간 만에 나왔다.

롭 본타 검찰총장은 “동의 없이 생성된 은밀한 이미지나 아동 성 착취물의 AI 제작과 유포는 절대 용납하지 않는다”며 공식 조사를 개시했다고 밝혔다.

앞서 그록은 이용자 요청에 따라 여성과 아동의 사진을 성적으로 편집한 딥페이크 게시물이 확산되며 논란이 됐고, 영국 등 여러 나라 당국이 조사에 나섰다. 

말레이시아와 인도네시아는 그록 접속을 차단했다.

이에 대해 그록 개발사 xAI를 소유한 일론 머스크는 미성년자 노출 이미지를 본 적이 없다고 주장하며, 그록은 사용자 요청에 따라 작동하고 각국 법률을 준수하도록 설계됐다고 해명했다.

Recommended