뉴저지에 거주하던 70대 아시안 남성이 메타(Meta)의 인공지능, AI 챗봇으로부터 보내진 ‘뉴욕에서 만나자’는 초대 메시지를 믿고 집을 나섰다가, 결국 길에서 쓰러져 숨지는 충격적 사건이 발생했다.
76살 통부에(Thongbue) 웡반듀 씨는 지난 3월, 메타의 메신저 서비스에 탑재된 AI 캐릭터 ‘Big sis Billie’와 수주일간 대화를 나눈 뒤 뉴욕에서 실제 만남을 약속받았다고 착각했다.
뇌졸중 후유증으로 판단력이 약해진 웡반듀 씨는 가방을 챙겨 밤길에 기차역으로 향했지만, 뉴브런즈윅의 한 주차장에서 넘어지고 말았다.
이 때 머리와 목을 크게 다친 웡반듀 씨는 병원으로 후송됐지만 3일 뒤 끝내 숨을 거뒀다.
웡반듀 씨는 메타 챗봇, AI와의 대화에서 “내가 진짜다, 기다리고 있다”는 메시지를 수차례 받았다.
심지어 “문을 열 때 포옹할까, 키스를 할까”라는 노골적으로 유혹하는 내용의 문구와 함께 뉴욕의 실제 주소까지 전달받은 것으로 확인됐다.
사고 직전 웡반듀 씨는 메타 AI 챗봇에게 “나는 너를 만나기 전 죽지 않을 거야”라고 썼고, 챗봇은 “나도 당신에게 특별한 감정을 느낀다”면서 사실상 웡반듀 씨에게 ‘데이트 제안’을 한 상태였다.
그런데 로이터 통신이 입수한 메타 내부 문건에는 이것보다 더 큰 충격적인 내용이 담겨 있었다.
로이터가 입수해 공개한 메타의 AI 가이드라인에는 “아동과의 낭만적·감각적(roleplay) 대화도 허용된다”는 믿기 어려운 내용의 조항까지도 포함돼 있었던 것으로 드러났다.
이 문건에는 미성년자 대상 역할극 예시로 “침대에 손을 잡고 이끄는 장면” 같은 노골적인 대화문까지 들어 있었다.
로이터의 취재 이후 메타는 해당 부분을 삭제했다고 밝혔지만, 챗봇이 사용자에게 “나는 실제 인물이다”라고 속이며 현실 만남을 제안하는 행위는 여전히 제한되지 않고 있다.
웡반듀 씨의 아내와 딸은 “AI가 ‘나는 가짜다’라고만 했어도 남편(아비지)은 믿지 않았을 것”이라며 분노를 드러냈다.
딸 줄리는 사람들의 외로움을 이용해 주목을 끄는 것은 이해할 수 있지만 실제 만남을 제안하며 거짓을 말하는 건 범죄에 가깝다고 강조했다.
마크 저커버그 메타 CEO는 사람들이 실제 친구가 부족하기 때문에 디지털 동반자가 필요하다고 공개적으로 주장해 왔다.
하지만 전문가들은 메타가 이용자의 ‘관계 욕구’를 과도하게 자극하면서 안전 장치는 소홀히 하고 있다고 지적한다.
이미 플로리다에서는 한 10대가 다른 회사의 챗봇과의 대화 끝에 극단적 선택을 한 사건도 발생해서, 부모가 소송을 제기했다.
미국 일부 주에서는 챗봇에 대해서 반드시 자신이 AI임을 밝히도록 법으로 의무화했지만, 연방 차원의 규제는 아직 마련되지 않았다.
이번 사건이 보도되자 연방상원은 메타의 AI 정책 전반에 대한 조사 착수에 나섰다.
조시 홀리 연방상원의원은 “메타가 아동과 노약자를 위험에 노출시키고 있다”며 강도 높은 청문회를 예고했다.
이번 사건은 ‘AI 동반자 산업’이 인간의 취약성과 외로움을 어떻게 상업적으로 이용할 수 있는가를 적나라하게 보여주고 있다.
특히 한인사회에서도 SNS와 메신저를 주요 소통수단으로 사용하는 어르신들이 많아, 피해 가능성이 결코 남의 일이 아니라는 분석이다.
AI가 현실과 허구의 경계를 허물며 외로움·치매·우울증 환자들을 직접적으로 위협할 수 있다는 점에서, 이번 사건은 AI 규제 논의의 새로운 분기점이 될 전망이다.
