카카오가 안전하고 신뢰받을 수 있는 AI 생태계를 만들기 위한 노력을 강화하고 있다.

카카오(대표이사 정신아)는 지난 25일부터 3일간, 스위스 제네바에서 UN 산하 인권최고대표사무소가 주최한 제13차 ‘UN 기업과 인권 포럼’에 참석했다. ‘UN 기업과 인권 포럼’은 UN 기업과 인권 이행지침(UNGP)의 실행을 강화하기 위해 매년 개최하는 글로벌 포럼이다. 정부를 비롯해 기업, 지역공동체, UN 기구, 인권단체, 학계 등 다양한 이해관계자가 함께한다.

이번에는 각국의 인터넷/IT 전문가 등 약 4천명이 참석했다. 카카오는 첫날 첫번째 세션인 ‘AI 분야의 책임있는 비즈니스 행동’에 참여해 ‘AI와 이용자 간 건강한 상호작용 위한 윤리’를 발표하는 시간을 가졌다.

발표를 맡은 카카오 CA협의체 ESG위원회 그룹기술윤리팀 하진화 프로젝트리더는 카카오가 기술기업으로서 이용자의 인권보호를 위한 노력을 다각적으로 소개했다. 특히 ‘카카오 AI 윤리’에 새롭게 추가된 조항을 발표하고 변화하는 기술과 사회의 흐름에 발맞추기 위한 활동을 국제 사회와 공유해 이목을 모았다.

신규 조항은 ‘이용자의 주체성’으로 인간이 AI에 과도하게 의존하는 것을 경계하고 신체적·정신적·사회적 안전을 위협하는 사용이 일어나지 않도록 노력한다는 내용을 담고 있다. 이는 한국인공지능법학회와 협의를 기반으로 결정했다.

카카오는 지난 2018년 1월, 국내 기업 중 최초로 ‘알고리즘 윤리헌장’을 발표한 데 이어, 2019년 8월 기술의 포용성, 2020년 7월 아동과 청소년에 대한 보호, 2022년 5월 프라이버시 보호, 총 세 차례에 걸쳐 신규 조항을 추가하는 개정작업을 거쳤다.

2022년 7월, 기술윤리를 계열사 전반에 걸쳐 점검하고 기술과 사회가 함께 발전시켜 나가는 방안을 고민하기 위해 카카오를 비롯한 주요 계열사가 참여한 ‘공동체 기술윤리 위원회’를 설립했으며 2023년 3월, ‘공동체 기술윤리 위원회’는 기존 알고리즘 윤리헌장을 전면 개정해 '카카오 그룹의 책임있는 AI를 위한 가이드라인'이란 '그룹 AI 윤리 원칙'을 수립했다.

‘AI 윤리 원칙’은 ’ 이용자의 주체성’이라는 이번 조항을 비롯해 ‘포용성’, ‘투명성’, ‘프라이버시’, ‘이용자 보호’등 총 10개의 원칙으로 이루어져 있다.

신규 조항을 함께 수립한 한국인공지능윤리학회장 서울교육대학교 윤리교육학과 변순용 교수는 “이용자의 주체성과 안전성을 강조하는 새로운 조항은 AI 기술에 기반한 서비스에서 발생할 수 있는 AI 과의존과 과몰입의 문제를 해소할 수 있는 중요한 대응책이 될 것”이라며 “AI윤리를 강화하려는 카카오의 이러한 노력은 AI분야의 리더로서 수행하는 사회적 책임의 실천으로서 AI 서비스 분야에서 중요한 방향타의 역할을 할 것”이라고 말했다.

카카오 그룹 기술윤리 소위원회 이상호 리더는 “카카오의 AI기반 기술과 서비스가 보다 안전하고 포용적이며 믿을 수 있는 미래를 만들어 나가도록 정책을 가다듬고 적용하는 데에 세심한 노력을 기울일 것”이라고 다짐을 전했다.