보스턴컨설팅그룹(BCG)과 인텔은 오늘 인텔의 엔드투엔드 AI 하드웨어 및 소프트웨어를 사용해 생성형 인공지능(AI)을 구현하는 전략적 협업을 발표했다. 이번 협력을 통해 기업 고객에게 개인 데이터를 신뢰할 수 있는 환경에서 격리한 상태로 유지하면서도 완전히 맞춤화된 전용 솔루션을 제공할 수 있다.

수치 스리니바산(Suchi Srinivasan) BCG 매니징 디렉터 및 파트너는 "생성형 AI는 새롭게 부상하고 있는 역동적인 분야로 기업은 생성형 AI를 향한 각자의 여정에 적합한 기술을 선택해야 한다. 기술은 처음부터 엔터프라이즈용 이어야 하며 개인 정보 보호, 보안, 사용 편의성 및 확장성을 제공해야 한다. 보스턴 컨설팅 그룹은 인텔과의 협력을 통해 기업들이 맞춤형 생성형 AI 솔루션으로 경쟁 우위를 확보하는 동시에 이러한 혁신적인 솔루션에서 최대한의 가치를 창출하는 데 필요한 인력, 프로세스, 정책 변경을 신중하게 탐색할 수 있도록 지원하겠다"고 밝혔다.

기업 전반에 걸쳐 AI 애플리케이션을 확장하는 능력은 산업 전반의 비즈니스에 지속적인 도전 과제가 되고 있다. 새로운 생성형 AI의 물결은 전체 산업을 변화시키고 장기적인 경쟁 우위를 창출할 잠재력이 있지만, 데이터 프라이버시 및 보안과 관련된 내재적 위험은 기업 도입의 장벽이 되고 있다. 이러한 협업의 근간에는 현재와 미래의 데이터를 더욱 안전하게 보호하기 위한 임베디드 보안이 있다. BCG와 MIT 슬론 매니지먼트 리뷰(MIT Sloan Management Review)의 공동 연구에 따르면, 글로벌 경영진의 84%는 ‘책임감 있는 AI(RAI)’가 경영 의제의 최우선 순위에 있어야 한다고 생각하지만, 25%만이 포괄적인 RAI 프로그램을 갖추고 있다고 답했다.

인텔 데이터 센터 및 AI 그룹 총괄 산드라 리베라(Sandra Rivera) 부사장은 "생성형 AI에는 기업이 안전하게 기술의 이점을 누리도록 안전하고 확장 가능한 선택을 제공하는 민주화된 접근 방식이 필요하다. BCG와의 협력을 통해 고객이 선택한 보안 경계 내에서 전체 스택에 걸쳐 최적화된 기술을 필요로 하는 생성형 AI 애플리케이션을 구축하도록 지원할 수 있게 되었다"고 말했다.

또한 기업들은 이러한 생성형 AI 솔루션을 대규모로 모니터링 및 관리하고 기존 엔터프라이즈 워크플로우에 쉽게 통합하는데 필요한 초기 도구의 부족으로 인해 어려움을 겪고 있다. 이번 협력으로 기업은 확장 및 수명 주기 관리 요구 사항을 쉽고 비용 효율적인 방식으로 충족할 수 있는 턴키 기업용 솔루션을 제공할 수 있다.

BCG는 인텔 제온 스케일러블 프로세서와 AI에 최적화된 하드웨어 가속기(하바나 가우디)의 상호 보완적인 장점을 기반으로 구동되는 인텔의 AI 슈퍼컴퓨터와하이브리드 클라우드 용 소프트웨어를 활용해, 50년 이상 축적된 기밀 및 독점 데이터 기반 인사이트를 제공하는 BCG 독점 데이터로 학습된 도메인별 기초 모델을 구동했다. 또한 모든 AI 학습 및 추론은 BCG의 보안 범주 내에서 완료됐다.

BCG 직원들은 여러 페이지의 긴 문서 목록에 묻혀 있던 정보를 인텔 AI 하드웨어 및 소프트웨어로 구동되는 맞춤형 자연어 챗봇 인터페이스를 통한 시맨틱 검색을 이용해 검색 및 요약할 수 있다. BCG 직원들이 기존에 사용하던 키워드 검색 솔루션과 비교했을 때, 프로덕션급 생성형 AI 애플리케이션을 사용할 때 만족도가 41%, 결과 연관성이 25%, 업무 완성도가 39% 증가하는 등의 단계적인 개선을 경험했다.

이번 협업을 통해 제공하는 공동 솔루션은 자산 관리 업계를 위한 자동화된 포트폴리오 관리 에이전트, 독점 항공사 데이터를 사용하는 항공사 유지보수 운영, 맞춤형 기밀 코드 베이스로 더욱 안전한 소프트웨어 개발 에이전트 등 다양한 비즈니스 문제를 해결하기 위해 설계됐다.

BCG가 바라보는 생성형 AI에 대한 더 상세한 내용은 여기에서 확인할 수 있다.