[앵커멘트]
올해 미국과 한국을 비롯한 전 세계 주요 40개국에서 선거가 치러지는 가운데 구글이 자사의 인공지능 챗봇 ‘제미나이’에 답변을 요구할 수 있는 선거 관련 질문을 제한하기로 결정했습니다.
구글은 정보 제공 책임감을 무겁게 받아들이며 챗봇 제미나이가 선거에 끼칠 악영향을 사전 차단하겠다는 방침입니다.
서소영 기자가 보도합니다.
[리포트]
최근 온라인상에는 수갑을 찬 도널드 트럼프 전 대통령, 기관총을 쏘는 조 바이든 대통령 등 인공지능으로 생성된 이미지가 속속 올라오며 이용자에게 큰 혼란을 줬습니다.
이와 같이 인공지능 기술을 이용한 손 쉬운 합성 이미지 제작이 가짜 뉴스를 생성하는데 일조할 수 있다는 우려가 나왔습니다.
이 가운데 구글은 블로그를 통해 이용자들이 자사의 인공지능 챗봇 제미나이에 물어 볼 수 있는 선거 관련 질의 유형을 제한할 것이라고 밝혔습니다.
아울러 오는 4~5월 10억명에 이르는 유권자를 상대로 실시되는 최대 규모의 총선을 앞두고 있는 인도에서는 이미 질의 유형 제한을 시행했다고도 덧붙였습니다.
또한 구글은 자사의 인공지능 서비스가 선거 관련 질문과 답변에 양질의 정보를 제공할 책임을 무겁게 받아들이고 있다며 올해 전 세계에서 치러지는 많은 선거에 대비하고 많은 주의를 기울이겠다고 전했습니다.
해당 발표에 앞서 구글은 지난 2월 1일 제미나이에 이미지 생성 기능을 추가했지만 약 20일만인 지난 2월 22일에 이 서비스를 중단했습니다.
아인슈타인 등 역사적 인물을 유색인종으로 묘사하고 독일 나치군을 아시아인종으로 생성하는 등 오류가 발견됐기 때문입니다.
이렇듯 생성형 인공지능 서비스를 이용한 악용 사례가 늘고 있는 가운데 구글과 페이스북 모회사 메타는 AI로 생성된 이미지에 라벨을 부착해 이미지 출처를 구별할 수 있게 하겠다고 밝힌 바 있습니다.
오픈 AI도 챗GPT 가 제공하는 뉴스, 정보와 함께 이미지 생성 도구 ‘달리’가 제공하는 이미지가 어디에서, 누구에 의해 만들어졌는지 등의 출처를 제공하기로 했습니다. 생성형 인공지능 서비스는 효율적인 업무 환경을 구축해 생산력 증진에 효과적으로 쓰일 수 있어 IT를 비롯한 다양한 산업 전반에 황금알 낳는 거위로 떠올랐습니다.
하지만 딥페이크 기술이 성범죄에 악용되거나 과도한 전력 사용으로 환경 문제 까지 침범하는 등 수많은 단점이 지적되며 서비스 제공자를 비롯한 사용자들의 경각심이 요구되고 있습니다.
라디오코리아 뉴스 서소영입니다.
