IT업계가 인공지능(AI) 윤리기준 확보를 위해 동분서주하고 있다. 평소라면 중요한 부문이 아니었겠지만 최근 스타트업 스캐터랩의 AI 챗봇 '이루다' 사건으로 인해 AI 윤리 문제가 주요 이슈로 떠올랐기 때문이다.

국내 대표 IT기업 카카오와 네이버는 이 같은 논란을 사전에 차단하려는 모습이다. 네이버는 최근 3년간의 준비 끝에 AI 윤리준칙을 공개했다.

평소 윤리정책을 지속해서 보완하고 있는 카카오도 증오발언 근절 원칙을 발표하며 AI 윤리 부분에 역량을 집중하고 있는 모습이다.

AI 시장이 나날이 발전함에 따라 향후 이 같은 사안은 더욱 중요시될 것으로 예상돼 양사의 움직임도 속도를 낼 것으로 전망된다.

19일 IT업계에 따르면 네이버는 서울대학교 AI 정책 이니셔티브(SAPI)와 함께 3년간의 협업 끝에 네이버 AI 윤리준칙을 공개했다.

윤리준칙은 네이버의 모든 구성원이 AI 개발과 이용에 있어 준수해야 하는 원칙이다. 사람을 위한 AI 개발 및 다양성 존중 등 총 5개 조항으로 구성돼 있다.

같은 날 카카오도 오는 3월 2일까지 전 직원이 참여하는 온라인 사내 교육 '카카오 크루가 알아야 할 윤리경영'에 AI 알고리즘 윤리교육 과정을 신설했다.

교육은 직원들이 기술과 서비스 개발단계에서 AI 알고리즘 윤리를 염두에 두고 업무 방향성을 어떻게 세울지 생각해볼 수 있도록 하는 데 초점을 맞췄다.

카카오 판교 오피스.ⓒ카카오

양사의 이 같은 노력은 스캐터랩의 AI 챗봇 이루다 사건 이후 AI 윤리에 대한 중요성이 더욱 높아졌기 때문이다.

작년 말 출시된 이루다는 소수자 집단 등을 향한 혐오로 사회적 파장을 일으켰다. 개발 과정에서 이용자 개인정보를 제대로 보호하지 못해 결국 서비스 중단에까지 이르렀다.

카카오는 사건 이후 증오(혐오)발언 근절 원칙 등을 내놓으며 불필요한 논란을 사전에 차단하고 나섰다. 이번 선언으로 출신이나 인종 및 성 정체성 등에 따른 차별과 혐오를 자사 서비스에서 배제한다.

2018년 1월에는 국내 기업 중 최초로 알고리즘 윤리헌장을 발표한 이후 디지털 기술 포용성 및 아동·청소년에 대한 보호를 추가하는 등 꾸준히 윤리문제에 관심을 쏟고 있다.

네이버도 AI 윤리준칙이 단순 구호에만 그치지 않고 실천으로까지 나아갈 수 있도록 노력한다. 이를 위해 사내 커뮤니케이션 채널을 마련해 프로젝트 진행이나 서비스 개발 시 사안을 중심으로 문의하고 논의를 진행할 수 있도록 할 예정이다.

SAPI와 협력해 사례 중심 이슈 페이퍼 및 커뮤니케이션 채널의 운영 경과를 담은 프로그레스 리포트도 발간한다. 상대적으로 시간과 자원이 부족한 스타트업과 경험과 노하우를 공유해 업계 공생을 도모할 계획이다.

IT업계 관계자는 "기술이 발전할수록 다양한 부분에서 IT업계가 갖춰야할 요구사항들은 늘어날 것"이라며 "개발단계에서부터 이 같은 사안들을 염두에 둘 필요가 있다"고 말했다.