(주)캐리버스는 문화체육관광부와 한국콘텐츠진흥원(KOCCA)의 지원으로 문화체육관광 연구개발사업을 수행하고 있음을 알렸다. 본 사업의 일환으로 진행되는 과제인 ‘건전한 메타버스 서비스를 위한 디지털 어뷰징 탐지 및 관리 기술 개발’은 2025년까지 총 29.6억의 정부출연금이 투입되는 사업으로, 한국전자통신연구원(ETRI)이 주관연구기관이다.

㈜캐리버스는 메타버스 기술력을 인정받아 주식회사 인텔리어스, 중앙대학교 산학협력단과 함께 공동연구기관으로 참여하고 있다. 본 사업은 안전하고 건전한 메타버스 서비스 환경을 만들기 위해서 디지털 어뷰징 탐지 및 관리 기술을 개발하고, 이를 메타버스 플랫폼에 적용해서 디지털 어뷰징(욕설, 성희롱, 이상행동 등)을 방지하는데 그 목적이 있다.

한국전자통신연구원과 공동연구기관들은 텍스트와 영상 분석을 기반으로 어뷰징을 탐지할 수 있는 안전 AI 기술을 개발해 메타버스의 디지털 어뷰징 대응에 힘써왔으며, 기술 검증과 시범서비스 도입을 앞두고 있다.

캐리버스는 이번 과제에서 콘텐츠 및 기술 개발을 담당하고 있다. AI를 기반으로 하는 메타보안관 NPC를 개발했고, 해당 NPC를 통해 유저의 텍스트 및 영상 증거를 수집한다. AI 기술을 이용해 채팅 등 대화의 문맥을 이해하고 악성 의도를 정교하게 탐지해 어뷰징을 실시간으로 차단한다. 영상 어뷰징 방지를 위해서는 AI로 아바타 행동 데이터셋을 생성 하고, 데이터셋을 통해 딥러닝된 모델에 의해 아바타 포즈 추정 및 행위 탐지를 진행해 어뷰징 행위를 차단할 수 있도록 한다.

기술 검증과 시범서비스는 메타버스 플랫폼 ‘캐리버스’를 통해 진행된다. 연구기관들은 그동안의 성과를 캐리버스에서의 시범 적용 이후 표준화로 추진하며, 실세계에서의 어뷰징 탐지를 위한 안전 AI로 확대한다는 계획이다.

캐리버스의 AI 보안관은 2024년 4분기에 적용된다.