선도적인 인공지능(AI) 연구소 오픈AI가 최근 AI 탐지 도구를 조용히 종료시킨 것으로 드러나며 헤드라인을 장식했다.
AI 분류기(Classifier)를 분리하기로 한 오픈AI의 결정은 이와 관련된 새로운 발표 없이 조용히 이뤄졌으며, 앞서 해당 도구의 출시를 발표했던 원래 블로그 게시물에 폐쇄 표시만 생겼을 뿐이다.
◾오픈AI ‘AI 분류기’의 흥망성쇠
지난 1월 공개된 오픈AI의 AI 분류기는 AI가 생성한 콘텐츠와 사람이 만든 콘텐츠를 구분해낼 수 있게될 것이란 가능성에 관심과 기대감을 불러일으킨 바 있다.
해당 분류기는 AI로 생성된 신뢰성을 보증할 수 없는 텍스트가 급증하는 시대에 온라인 정보 소스에 대한 신뢰를 보다 강화하고 콘텐츠의 진정성을 보존하는 것을 목표로 출시됐다.
그러나 도구의 여정은 오래 가지 못하고 결말을 맺게 된 것으로 보인다. 오픈AI에 따르면, 이 분류기의 성능이 기대에 미치지 못했으며 정확도가 낮아 기본 목적을 달성하는 데 “비효율적”이라는 결론을 내렸다.
교육자와 전문가들은 이것이 잘못된 정보의 확산을 막고 학문적 무결성을 보장하는 강력한 도구가 되기를 희망했지만, 첫 출시 당시부터 오픈AI 측은 AI분류기가 “완전히 신뢰할 수 없다”는 점을 인지하고 사용자에 그 한계성에 대해 경고했다.
당초 출시 후 오픈AI는 분류기의 효율성을 측정하기 위해 지정된 영어 텍스트의 “챌린지 세트”에 대한 평가를 실시한 바 있다.
첫 테스트에서 AI가 26% 수준으로 작성한 콘텐츠에 대해 “AI가 작성한 것 같다”는 다소 적절한 식별을 내놓은 반면, AI가 9%만 작성하고 대부분이 사람이 작성한 콘텐츠의 경우에도 “AI 작성” 글로 분류를 하면서 결국 잘못된 결과를 내놓았다.
또한 분류기는 1,000자 미만의 텍스트를 처리할 때는 전혀 신뢰할 수 없는 것으로 판명되기도 했다.
한편, AI 분류기의 실패에도 오픈AI는 여전히 AI가 생성한 허위 미디어 글과 관련된 문제를 해결하기 위한 노력을 포기하지 않았다.
현재 오픈AI 팀은 AI로 생성된 오디오 및 시각 자료를 식별하는 데 있어 사람에게 권한을 부여하는 기술 개발에 전념하고 있으며, 이 같은 목표는 보다 안전하고 정보에 입각한 디지털 생태계 조성에 있어 유의미한 단계가 될 것으로 보인다.