엔비디아(CEO 젠슨 황)가 미국 새너제이에서 열린 GTC 2025에서 '엔비디아 AI 데이터 플랫폼(NVIDIA AI Data Platform)'을 발표했다. 이는 주요 스토리지 공급업체가 고성능 AI 추론 워크로드를 위한 새로운 AI 인프라를 구축하는 데 활용하는 맞춤형 참조 설계이다. 엔비디아 AI 데이터 플랫폼은 엔비디아 가속 컴퓨팅, 네트워킹, 소프트웨어를 기반으로 AI 쿼리 에이전트를 포함한 엔터프라이즈 스토리지 플랫폼을 지원한다.

엔비디아 인증 스토리지(NVIDIA-Certified™ Storage) 공급업체는 엔비디아 AI 데이터 플랫폼을 활용해 특화된 AI 쿼리 에이전트로 AI 추론 워크로드를 가속화하는 인프라를 구축할 수 있다. 이러한 에이전트는 새로운 엔비디아 라마 네모트론(Llama Nemotron) 모델의 추론 기능을 지원하는 엔비디아 NIM™ 마이크로서비스와 새로운 엔비디아 AI-Q 블루프린트(AI-Q Blueprints)를 포함한 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어를 기반으로 한다. 이를 통해 기업이 데이터를 실시간에 가깝게 분석하고 인사이트를 도출할 수 있도록 지원한다.

스토리지 공급업체는 엔비디아 블랙웰(Blackwell) GPU, 엔비디아 블루필드(BlueField®) DPU, 엔비디아 스펙트럼-X(Spectrum-X™) 네트워킹, 엔비디아 다이나모(Dynamo) 오픈소스 추론 라이브러리를 활용해 이러한 에이전트를 구동할 인프라를 최적화할 수 있다.

DDN, 델 테크놀로지스(Dell Technologies), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise, HPE), 히타치 밴타라(Hitachi Vantara), IBM, 넷앱(NetApp), 뉴타닉스(Nutanix), 퓨어스토리지(Pure Storage), 바스트 데이터(VAST Data), 웨카(WEKA) 등 주요 데이터 플랫폼과 스토리지 공급업체들은 엔비디아와 협력하고 있다. 이들은 기업 데이터를 활용해 복잡한 쿼리를 추론하고 응답할 수 있는 맞춤형 AI 데이터 플랫폼을 개발하고 있다.

엔비디아 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 “데이터는 AI 시대에서 산업을 구동하는 핵심 원료다. 엔비디아는 세계적인 스토리지 선도기업과 협력해 기업들이 하이브리드 데이터센터에서 에이전트 AI를 구축, 확장하는 데 필요한 새로운 종류의 엔터프라이즈 인프라를 개발하고 있다”고 말했다.

스토리지에 가속 컴퓨팅과 AI를 더하는 엔비디아 AI 데이터 플랫폼

엔비디아 AI 데이터 플랫폼은 기업의 핵심 데이터를 저장하는 엔터프라이즈 스토리지를 사용하는 수백만 개의 비즈니스에 가속 컴퓨팅과 AI를 제공한다.

엔비디아 블랙웰 GPU, 블루필드 DPU, 스펙트럼-X 네트워킹은 기업 시스템에 저장된 데이터에 대한 AI 쿼리 에이전트의 접근 속도를 높이는 가속 엔진 역할을 한다. 블루필드 DPU는 CPU 기반 스토리지 대비 최대 1.6배 높은 성능을 제공하면서도 전력 소비를 최대 50% 절감해 와트당 성능을 3배 이상 향상시킨다. 스펙트럼-X는 적응형 라우팅과 혼잡 제어를 적용해 AI 스토리지 트래픽 속도를 기존 이더넷 대비 최대 48% 가속화한다.

AI 데이터 플랫폼 스토리지 인프라는 엔비디아 AI-Q 블루프린트를 활용해 기업 데이터와 연결하고 추론할 수 있는 에이전트 시스템을 개발한다. AI-Q는 엔비디아 네모 리트리버(NeMo™ Retriever) 마이크로서비스를 활용해 엔비디아 GPU에서 데이터 추출과 검색 속도를 최대 15배 향상시킨다.

AI-Q 블루프린트로 구축된 AI 쿼리 에이전트는 추론 과정에서 데이터에 연결돼 보다 정확하고 맥락에 맞는 응답을 제공한다. 또한, 대규모 데이터에 신속히 접속하고 텍스트, PDF, 이미지, 비디오 등 다양한 출처에서 수집된 정형, 반정형, 비정형 데이터를 포함한 다양한 데이터 유형을 처리할 수 있다.

엔비디아와 AI 데이터 플랫폼을 구축하는 스토리지 선도기업

엔비디아 인증 스토리지 파트너들은 엔비디아와 협력해 맞춤형 AI 데이터 플랫폼을 구축하고 있다.

· DDN은 DDN 인피니아(Infinia) AI 플랫폼에 AI 데이터 플랫폼 기능을 통합하고 있다.

· 델은 델 파워스케일(PowerScale) 제품군과 프로젝트 라이트닝(Project Lightning) 솔루션을 위한 AI 데이터 플랫폼을 개발하고 있다.

· HPE는 HPE 프라이빗 클라우드 포 AI(Private Cloud for AI), HPE 데이터 패브릭(Data Fabric), HPE 알레트라 스토리지 MP(Alletra Storage MP), HPE 그린레이크 포 파일 스토리지(GreenLake for File Storage)에 AI 데이터 플랫폼 기능을 통합하고 있다.

· 히타치 밴타라는 히타치 IQ 생태계에 AI 데이터 플랫폼을 도입해 고객이 실질적인 AI 성과를 창출할 수 있도록 스토리지 시스템과 데이터 솔루션을 혁신하고 있다.

· IBM은 IBM 퓨전(Fusion)과 IBM 스토리지 스케일(Storage Scale) 기술을 활용한 콘텐츠 인식 스토리지 기능과 엔비디아 AI 데이터 플랫폼을 통합해 검색 증강 생성(Retrieval Augmented Generation, RAG) 애플리케이션을 가속화하고 있다.

· 넷앱은 엔비디아 AI 데이터 플랫폼을 기반으로 넷앱 AI팟(AIPod™) 솔루션을 개발해 에이전트 AI를 위한 엔터프라이즈 스토리지를 확대하고 있다.

· 뉴타닉스는 뉴타닉스 유니파이드 스토리지(Unified Storage)를 포함한 뉴타닉스 클라우드 플랫폼을 엔비디아 AI 데이터 플랫폼과 통합해 엣지, 데이터센터, 퍼블릭 클라우드 전반에서 추론과 에이전트 워크플로우를 구현할 예정이다.

· 퓨어스토리지는 퓨어스토리지 플래시블레이드(FlashBlade®)를 통해 AI 데이터 플랫폼 기능을 제공할 예정이다.

· 바스트 데이터는 AI 데이터 플랫폼을 활용해 바스트 인사이트엔진(InsightEngine)을 통한 실시간 인사이트를 도출하고 있다.

· 웨카 데이터 플랫폼(Data Platform) 소프트웨어는 엔비디아 GPU, DPU, 네트워킹과 통합돼 에이전틱 AI(Agentic AI) 추론과 인사이트를 위한 데이터 접속을 최적화한다. 또한, AI 추론과 토큰 처리 워크로드를 가속화하는 고성능 스토리지 기반을 제공한다.

엔비디아 인증 스토리지 공급업체들은 이번 달부터 엔비디아 AI 데이터 플랫폼을 기반으로 한 솔루션을 제공할 계획이다.

여기에서 엔비디아 GTC 기조연설을 시청해 자세한 내용을 확인할 수 있다.