토요일, 5월 25, 2024
HomeToday오픈 AI, 기대감 불러 일으켰던 AI분류기 결국 종료 ‘신뢰성 떨어져'

오픈 AI, 기대감 불러 일으켰던 AI분류기 결국 종료 ‘신뢰성 떨어져’

선도적인 인공지능(AI) 연구소 오픈AI가 최근 AI 탐지 도구를 조용히 종료시킨 것으로 드러나며 헤드라인을 장식했다.

AI 분류기(Classifier)를 분리하기로 한 오픈AI의 결정은 이와 관련된 새로운 발표 없이 조용히 이뤄졌으며, 앞서 해당 도구의 출시를 발표했던 원래 블로그 게시물에 폐쇄 표시만 생겼을 뿐이다. 

◾오픈AI ‘AI 분류기’의 흥망성쇠

지난 1월 공개된 오픈AI의 AI 분류기는 AI가 생성한 콘텐츠와 사람이 만든 콘텐츠를 구분해낼 수 있게될 것이란 가능성에 관심과 기대감을 불러일으킨 바 있다. 

해당 분류기는 AI로 생성된 신뢰성을 보증할 수 없는 텍스트가 급증하는 시대에 온라인 정보 소스에 대한 신뢰를 보다 강화하고 콘텐츠의 진정성을 보존하는 것을 목표로 출시됐다. 

그러나 도구의 여정은 오래 가지 못하고 결말을 맺게 된 것으로 보인다. 오픈AI에 따르면, 이 분류기의 성능이 기대에 미치지 못했으며 정확도가 낮아 기본 목적을 달성하는 데 “비효율적”이라는 결론을 내렸다.

교육자와 전문가들은 이것이 잘못된 정보의 확산을 막고 학문적 무결성을 보장하는 강력한 도구가 되기를 희망했지만, 첫 출시 당시부터 오픈AI 측은 AI분류기가 “완전히 신뢰할 수 없다”는 점을 인지하고 사용자에 그 한계성에 대해 경고했다.

당초 출시 후 오픈AI는 분류기의 효율성을 측정하기 위해 지정된 영어 텍스트의 “챌린지 세트”에 대한 평가를 실시한 바 있다. 

첫 테스트에서 AI가 26% 수준으로 작성한 콘텐츠에 대해 “AI가 작성한 것 같다”는 다소 적절한 식별을 내놓은 반면, AI가 9%만 작성하고 대부분이 사람이 작성한 콘텐츠의 경우에도 “AI 작성” 글로 분류를 하면서 결국 잘못된 결과를 내놓았다.

또한 분류기는 1,000자 미만의 텍스트를 처리할 때는 전혀 신뢰할 수 없는 것으로 판명되기도 했다.

한편, AI 분류기의 실패에도 오픈AI는 여전히 AI가 생성한 허위 미디어 글과 관련된 문제를 해결하기 위한 노력을 포기하지 않았다.

현재 오픈AI 팀은 AI로 생성된 오디오 및 시각 자료를 식별하는 데 있어 사람에게 권한을 부여하는 기술 개발에 전념하고 있으며, 이 같은 목표는 보다 안전하고 정보에 입각한 디지털 생태계 조성에 있어 유의미한 단계가 될 것으로 보인다.

RELATED ARTICLES

Most Popular