인공지능 업계에 돌풍을 일으키고 있는 중국 스타트업 DeepSeek가 만든 새로운 AI 모델에 대해 전문가들이 우려를 나타내고 있는 상황이다.
DeepSeek AI 모델을 이용하는 사람들이 자신도 모르게 감시당할 수있다는 의혹이다.
NBC News는 오늘(1월29일) 사람들이 DeepSeek AI에 입력하는 내용이 자신도 모르게 수집돼 中 정부에 Data로 남겨질 수있다고 보도했다.
물론 미국 기반 AI 모델들도 비슷하게 Data를 수집한다.
따라서 Data를 수집한다는 것 자체는 문제가 아닌데 DeepSeek AI 경우에 中 정부로 그 Data가 들어갈 수있다.
중국 법률이 기업의 Data에 대해서 中 정부가 쉽게 접근할 수있도록 보장하기 때문이다.
그래서 사이버 보안을 연구하는 전문가들은 지금 당장 DeepSeek AI가 특별히 위험한 점이 없지만 개인의 정보를 보호해주지 않는다는 약점이 있다고 지적한다.
DeepSeek AI가 사람들이 원하는 모든 것을 수집하고 그것을 재구성할 수있는 인공지능 제품인데다 중국 법을 따르는 앱이라는 한계를 극복하기 힘들다는 것이다.
인공지능과 관련한 모든 대규모 언어 모델이나 또는 LLM(OpenAI의 ChatGPT로 유명해진 AI 기반 고급 챗봇 유형)은 먼저 방대한 양의 Data를 수집한 것을 기반으로 구축된다.
그리고 부분적으로는 사람들이 입력한 내용을 수집해 작동한다.
OpenAI가 만든 ChatGPT가 그런 방식으로 운영되고 있고 DeepSeek은 ChatGPT보다 좀 더 효율적이기는 하지만 다르지 않다.
중국의 관련 법에 따르면 모든 회사들은 中 정보 기관에 협조하고 지원해야할 의무가 있다.
그렇기 때문에 중국 회사가 보유한 Data는 中 정부 감시에 노출될 가능성이 있는 것이다.
이 부분에서 중국 시스템은 미국과 다르다.
미국에서 미국 기관들은 거의 대부분의 경우에 美 기술 회사 보유 정보에 액세스하려면 법원에서 명령이나 영장을 받아야 가능하다.
그만큼 미국에서는 정부의 간섭과 개입에 대한 최소한의 제한과 통제가 사법 시스템을 통해 이뤄지고 있다.
하지만 중국에서는 정부가 원하는 경우에는 얼마든지 개인의 정보를 침해할 수있다.
물론 DeepSeek을 사용하는 이용자들이 중국으로 보내는 Data 양을 최소화하는 것은 가능하다.
Deepseek.com을 통해 앱이나 챗봇을 사용하려면 사용자가 이메일 주소나 중국 전화번호로 계정을 등록해야 하는데, 중국 외부의 대부분 사람들은 이를 가지고 있지 않다.
킹스 칼리지 런던 AI 연구소의 독립 컨설턴트인 루카스 올레이닉 연구원은 NBC News와 인터뷰에서 사람들이 DeepSeek AI 사용에 민감해야하고, 개인적인 Data를 공유하는 것에 대해서도 주의해야 한다는 것을 의미한다고 말했다.
따라서 DeepSeek AI를 사용하는 사람들의 각별한 주의가 요구된다.
루카스 올레이닉 연구원은 민감한 개인 Data, 재무 세부 정보, 영업 비밀 또는 의료에 대한 정보 등을 입력할 때 조심할 것을 당부했다.
입력하는 모든 내용이 중국의 Data 법률에 따라서 중국 당국에서 저장, 분석 또는 요청할 수 있기 때문이다.
론 데이버트 토론토 대학 시민연구소 소장은 DeepSeek 사용자들 경우 중국 당국을 두려워할 만한 분명한 이유가 있다는 것을 알아야 한다며 특별한 경고를 했다.
인권 활동가, 타깃이 된 해외 거주 인구, 언론인을 포함해 중국 본토와 관련해서 위험이 높다고 여겨지고 있는 사용자들은 이러한 상황을 더욱 특별히 민감한 수준으로 받아들여야 하며 시스템에 아무것도 입력하지 않아야 한다고 론 데이버트 소장은 말했다.
