Kalam News

‘AI 작성 텍스트 탐지기’ 내놨지만… ¼ 만 잡아냈다


인공지능(AI) 챗봇 ‘챗GPT’로 ‘과제 대리 작성’ 등 논란이 커지자 이를 제작한 스타트업 ‘오픈AI’가 AI가 작성한 텍스트를 탐지하는 도구를 내놨다. 하지만 적발 성공률이나 정확도가 낮은 것으로 나타나 이를 보완하는 일이 숙제로 남게 됐다.

미국 캘리포니아주 샌프란시스코에 본사를 둔 오픈AI는 지난 31일(현지시간) 홈페이지에서 ‘AI작성 텍스트 탐지’ 앱 베타버전을 공개했다.

그러나 오픈AI는 자체 평가 결과 적발 성공률이나 정확도는 높지 않았다고 설명했다. 이 도구는 AI가 작성한 텍스트 중 26%만을 ‘AI 작성 가능성 큼’으로 판정했다. AI 작성 텍스트 4개 중 1개만 걸러낼 수 있는 수준인 셈이다. 사람이 쓴 글을 AI가 쓴 것으로 잘못 판정한 ‘위양성(false positive)’ 비율도 9%였다.

특히 영문 기준 1000자 미만의 짧은 텍스트에서는 판정의 신뢰성이 낮았다. 다만 입력 텍스트 길이가 증가할수록 신뢰성이 높아지는 경향이 나타났다.

오픈AI가 이런 도구를 내놓은 것은 지난해 11월 일반에 공개한 챗GPT가 사기, 스팸발송, 표절 등 범죄에 악용될 우려가 있다는 지적이 나와서다. 챗GPT는 사람이 쓴 것처럼 보이는 글을 몇 초 혹은 몇십 초 만에 만들어내는 능력을 보여 전 세계서 돌풍을 일으키고 있다.

그러나 교육계를 중심으로 이 도구가 옳지 않다는 목소리가 나온다. 학생들이 과제물 작성 등을 챗GPT로 하는 등 악용의 가능성이 있어서다. 지난해 12월에는 미국 의사면허 필기시험의 3개 부분 모두에서 챗GPT가 합격 점수를 받은 바 있다.

박재현 기자 jhyun@kmib.co.kr

Recommended