빅테크 기업들의 혁신적인 채용 프로세스인 인공지능, AI 채용 플랫폼 '에이트폴드(Eightfold AI)'가 구직자 동의 없이 비밀리에 개인 정보를 수집하고 점수를 매겨온 혐의로 캘리포니아 주 법원에 제소됐다.
이번 소송은 AI 기술이 기존의 소비자 보호법과 극적으로 충돌하는 상징적인 사건이 될 것으로 보인다.
산타클라라에 본사를 둔 에이트폴드는 수많은 온라인 이력서와 구인 목록 데이터를 바탕으로 구직자가 특정 직무에 적합한지 여부를 예측해주는 도구를 제공하고 있다.
그런데 이번에 정식으로 소송을 제기한 에린 키슬러(Erin Kistler)와 스루티 바우믹(Sruti Bhaumik)은 이 과정에서 구직자가 자신의 정보가 어떻게 분석되는지 고지받지 못했을 뿐 아니라, 내용 중 오류가 있어도 수정할 기회조차 얻지 못했다고 주장했다.
소장 내용에 따르면, 에이트폴드 AI는 구직자를 대상으로 여러가지 상세 프로필을 생성했다.
구직자가 '팀 플레이어'인지, '내성적(Introvert)'인지 등의 심리적 특성을 분석해서 성격을 묘사했다.
출신 학교의 '교육 수준(Quality of Education)'을 임의로 랭킹화해서 학력도 평가했다.
그리고 향후 구직자의 직함이나 이직할 회사 등 미래 예측까지 해서 결과를 내놓은 것으로 나타났다.
원고 측은 에이트폴드가 연방 공정신용보고법(FCRA)과 캘리포니아 주법을 위반했다는 점을 강조했다.
이 법들은 배경 조사 업체가 수집한 정보를 바탕으로 대출이나 채용 여부를 결정하는 과정에서, 당사자가 그 내용을 확인하고 이의를 제기할 권리를 보장한다.
원고 측 변호인은 지난 수십 년간 구직자들을 제3자의 정보 독점으로부터 보호해 온 이 법들에 대해 AI이기 때문에 예외라는 논리는 성립할 수 없다고 소장에서 강조했다.
에이트폴드의 고객사 명단에는 마이크로소프트를 비롯해 페이팔, 세일즈포스, 바이엘 등 포춘 500대 기업의 약 1/3이 포함돼 있다.
심지어 뉴욕 주와 콜로라도 주 노동부에서도 이 에이트폴드 시스템을 사용하고 있는 것으로 확인됐다.
소송을 제기한 두 여성은 모두 과학과 기술 분야 학위를 소지하고 10년 이상의 풍부한 경력을 가지고 있는 전문가들이지만, 에이트폴드 시스템을 사용하는 기업들로부터 채용 거절을 당했다.
이들은 인공지능, AI가 매긴 불투명한 점수가 채용되는데 실패한 원인이 됐을 것이라고 믿고 있다.
LA와 남가주, 실리콘밸리 지역에는 수많은 IT 전문가와 화이트칼라 구직자들이 있다.
특히 10년 이상의 경력을 가진 시니어급 구직자들이 정확히 이유를 알 수 없는 서류 탈락을 겪을 때, 그 뒤에 이런 'AI의 주관적 성향 판단'이 숨어있을 수 있다는 사실은 매우 충격적이다.
만약 AI가 문화적 차이나 언어적 특성을 고려하지 않고 단순히 데이터만으로 내성적이라고 단정하거나, 팀워크 부족 등의 라벨을 붙여버린다면, 구직자들은 보이지 않는 유리천장 같은 것보다 더 무서운 데이터 장벽에 부딪힐 수 있다.
이번 집단 소송의 결과에 따라 앞으로 미국 내 모든 기업의 AI 채용 절차에 대대적인 투명성 강화 조치가 내려질지 귀추가 주목된다.
