챗GPT(ChatGPT) 사용화면 캡쳐 ⓒ

"저는 오픈AI에서 훈련받은 매우 큰 언어로, 많은 정보와 데이터를 기반으로 학습했지만, 모든 정보가 100% 정확하지는 않을 수 있습니다. "

9일 본지기자가 챗GPT(ChatGPT)에게 제공 중인 정보의 정확도에 대해 직접 질문하자 나온 답변이다. 챗GPT는 "특히 저의 지식 잘려짐은 2021년 기준으로, 최신 정보는 다소 미약할 수 있다"면서도 "그러나 최선을 다해 정확한 정보를 제공하도록 노력하겠다"고 덧붙였다.

정확도에 대한 검증이 끝나지 않은 가운데, 오픈AI의 챗GPT가 서비스 공개 한 달여 만에 이용자 수 1000만명을 돌파하면서 빠르게 일상을 파고들고 있다.

챗GPT(ChatGPT) ⓒ홈페이지 갈무리

고질적인 챗GPT의 문제는 이른바 '헛소리'다. 챗GPT가 제공한 정보에 대한 책임 소재가 불분명하기 때문이다. 챗GPT는 이야기 즉, 정보 생성시 문제점이 발생한다. 대규모 데이터를 통해 정보 제공을 위한 이야기를 만들기 때문에 정보의 정확성이 떨어질 수 있다. 다만, 미학습된 주제에 대해서는 답변을 하지 않을 수 있다.

실제 챗GPT 도입 초기인 지난해 12월 미라 무라티(Mira Murati) 오픈AI 최고기술책임자(CTO)는 "챗GPT에 '확실하냐'고 물으면 '아닐 수도 있다'고 답할 것이다"고 설명했다.

서비스 제공 초창기인 현재도 일상 내 챗GPT를 악용하는 사례 역시 속속 발견되고 있다. 국내 수도권의 한 국제학교에서는 챗GPT를 이용해 과제를 제출한 학생들이 전원 0점 처리됐다. 학교는 챗GPT를 이용해 부정행위를 했다고 판단했다. 다만 점수 처리외 추가 징계는 없는 것으로 알려졌다.

에세이 등의 과제가 많은 대학 역시 챗GPT 악용을 우려하고 있다. 챗GPT를 활용해 과제를 제출할 경우 부정행위로 규정, 점수를 주지 않겠다고 선언한 곳도 있다.

챗GPT 악용 사례는 국내에 국한된 이야기는 아니다. 미국에서도 챗GPT를 악용해 과제를 하는 일이 발생하면서 미국과 영국 등 일부 학교에서는 챗GPT의 사용을 금지하기도 했다. AI 사용 여부를 판별하는 프로그램을 개발하는가 하면, 구술시험과 그룹평가 등 챗GPT가 할 수 없는 종류의 과제를 내는 곳도 생겼다.

챗GPT와 관련해 직접적인 규제가 필요하다는 시각도 나왔다. 미라 무라티 CTO는 5일(현지시간) 타임지와 진행한 인터뷰에서 "챗GPT가 사회에 큰 영향을 미칠 것이다"며 "규제 당국은 서둘러 개입해야 한다"고 우려하기도 했다.

이어 "챗GPT는 사실을 꾸며내고, 나쁜 의도를 가진 이용자들에게 얼마든지 악용될 수 있고, 개발자 혼자 이 문제를 해결할 순 없다"며 "각국 정부가 챗GPT 사용에 대한 규제를 만들어야 한다"고 주장했다.

실제 관련 규제 마련에 착수한 곳도 있다. EU(유럽연합)은 내달초 AI법 초안을 공개하겠다는 청사진을 내놨다. 해당 법에는 가상인간, 자율주행, 자동화 공정, 메타버스 등에서 발생하는 AI 위험성을 제거하기 위한 기준이 담길 전망이다. AI에 대한 위험은 △허용 불가 위험 △고위험 △제한적 위험 △낮은 위험 등으로 분류하고, 위험도에 따라 AI규제를 차등 적용할 방침이다.