AI 인프라 전략
AWS·NVIDIA의 GPU 200만 개 계획, 경쟁은 풀스택으로 이동합니다
AWS와 NVIDIA는 2027~2028년 Blackwell Ultra·Rubin·Rubin Ultra GPU 200만 개를 추가 배치하고 CPU·네트워크·모델·로보틱스 협력을 확대할 계획입니다.
이 글에서 다룰 내용
GPU 200만 개 계획의 범위, Vera CPU와 NVLink의 역할, 기업이 점검할 인프라 조건
GPU 200만 개가 의미하는 변화
AWS와 NVIDIA는 2026년 8월 26일, 2027~2028년에 NVIDIA GPU 200만 개를 AWS 글로벌 인프라에 추가 배치할 계획이라고 발표했습니다. 대상에는 Blackwell Ultra·Rubin·Rubin Ultra가 포함되며, 단순한 장비 구매보다 넓은 AI 인프라 확장 발표입니다.
이 글에서 다룰 내용
GPU 200만 개 추가 배치의 의미, 에이전틱 AI와 피지컬 AI가 요구하는 연산 능력, 데이터센터 경쟁의 변화, Vera CPU의 역할, 기업이 확인해야 할 현실적인 포인트
그동안 클라우드 기업들은 최신 엔비디아 GPU를 얼마나 빠르게 확보하느냐를 놓고 경쟁했습니다. 이제는 여기에 수백만 개의 GPU를 하나의 거대한 컴퓨팅 자원처럼 연결하고 안정적으로 운영하는 능력까지 더해지고 있습니다.
AWS는 클라우드 인프라를, NVIDIA는 GPU·CPU·네트워크·오픈 모델·소프트웨어 플랫폼을 제공합니다. 이번 공식 발표에는 Vera CPU 기반 인프라 도입, NVLink Fusion과 NVHBM 협력, Bedrock·SageMaker의 Nemotron 지원, 데이터 처리와 로보틱스 협력까지 포함됐습니다.
왜 이렇게 많은 엔비디아 GPU가 필요할까
초기 생성형 AI는 질문을 입력하면 답변이나 이미지를 생성하는 방식이 중심이었습니다. 하지만 다음 단계로 꼽히는 에이전틱 AI는 사용자의 목표를 이해하고 여러 도구를 호출하며, 작업 결과를 확인한 뒤 다음 행동까지 결정합니다.
하나의 요청을 처리하는 과정에서 모델 추론, 검색, 코드 실행, 데이터 분석이 연속적으로 발생할 수 있습니다. 동시에 수많은 기업과 사용자가 이런 기능을 이용하면 필요한 연산량은 빠르게 증가합니다.
피지컬 AI도 중요한 변수입니다. 로봇, 자율주행 시스템, 산업용 장비처럼 현실 세계에서 움직이는 AI는 카메라와 센서 데이터를 실시간으로 처리하고, 시뮬레이션을 통해 다양한 상황을 반복 학습해야 합니다.
특히 로봇 학습에는 현실과 유사한 가상 환경을 대규모로 실행하는 과정이 필요합니다. 이 때문에 피지컬 AI가 확산될수록 학습과 추론에 사용되는 엔비디아 GPU 수요도 함께 커질 가능성이 높습니다.
이제는 데이터센터 전체가 하나의 AI 컴퓨터
GPU를 200만 개 확보했다고 해서 곧바로 200만 개를 모두 효율적으로 사용할 수 있는 것은 아닙니다. 전력 공급, 냉각 설비, 고속 네트워크, 저장장치와 운영 소프트웨어가 함께 준비돼야 합니다.
수많은 GPU가 서로 데이터를 주고받는 과정에서 병목이 발생하면 비싼 장비를 설치하고도 기대한 성능을 얻기 어렵습니다. 그래서 AWS와 같은 클라우드 기업은 데이터센터 전체를 하나의 초대형 AI 컴퓨터처럼 설계하는 역량을 중요하게 보고 있습니다.
전력 문제도 빼놓을 수 없습니다. 고성능 AI 칩이 늘어날수록 데이터센터가 소비하는 전력과 발생하는 열도 증가하기 때문에, 전력망 확보와 냉각 효율은 GPU 공급만큼 중요한 조건이 됩니다.
결국 AI 인프라 경쟁의 승자는 칩을 가장 많이 보유한 기업이 아닐 수 있습니다. 같은 수의 GPU로 더 높은 가동률과 안정성을 확보하고, 고객이 원하는 시점에 필요한 연산 능력을 제공하는 기업이 유리합니다.
Vera CPU가 주목받는 이유
NVIDIA의 Vera CPU는 차세대 AI 시스템에서 GPU를 지원하는 핵심 구성 요소로 주목받고 있습니다. AI 작업에서는 GPU가 대규모 병렬 연산을 담당하지만, 데이터 준비와 작업 분배, 시스템 제어 같은 과정에는 CPU의 역할도 필요합니다.
공식 발표에서 AWS와 NVIDIA는 고성능 CPU 연산이 필요한 에이전틱 AI 워크로드를 위해 Vera CPU 기반 인프라를 AWS에 제공하는 작업을 진행한다고 밝혔습니다. 구체적인 제공 시점과 인스턴스 사양은 이번 발표에서 확정하지 않았으므로 후속 안내를 확인해야 합니다.
두 회사는 차세대 Trainium에 적용되는 NVLink Fusion 지원을 NVIDIA의 맞춤형 고대역폭 메모리 NVHBM으로 확장하는 작업도 공개했습니다. 이는 AWS 자체 칩과 NVIDIA 기술을 공통 랙스케일 아키텍처에서 결합하려는 계획이며, 실제 성능과 제공 범위는 배포 조건별 검증이 필요합니다.
기업이 확인해야 할 현실적인 포인트
기업이 이번 계획을 보고 당장 자체 데이터센터에 GPU를 대량으로 구매할 필요는 없습니다. 오히려 AWS 같은 클라우드에서 필요한 만큼 연산 자원을 사용하고, 비용과 성능을 지속해서 비교하는 방식이 현실적입니다.
모델 규모가 크다고 항상 좋은 결과를 내는 것도 아닙니다. 서비스 목적에 맞는 모델 선택, 데이터 품질, 추론 최적화, 보안 정책이 함께 갖춰져야 AI 인프라 투자가 실제 성과로 이어집니다.
또한 특정 GPU나 클라우드 사업자에 대한 의존도도 확인해야 합니다. 장기 계약을 체결하기 전에는 가격 구조, 데이터 이전 비용, 서비스 중단 대응 방식, 다른 환경으로 이동할 수 있는지를 함께 검토하는 편이 좋습니다.
AI 인프라 경쟁의 기준이 달라진다
AWS와 NVIDIA의 2027~2028년 엔비디아 GPU 200만 개 추가 배치 계획은 두 회사가 에이전틱 AI·과학 연구·기업 자동화·피지컬 AI 수요 확대에 대비하는 신호입니다. 이 가운데 미국 정부용 보안 인프라에는 GPU 10만 개를 공급하는 계획도 별도로 포함됐습니다.
앞으로는 GPU 개수만 비교하기보다 전력, 네트워크, 데이터센터 운영 능력, 소프트웨어 생태계와 Vera CPU 같은 구성 요소를 함께 살펴봐야 합니다. AI 인프라의 새 기준은 가장 많은 칩이 아니라, 거대한 시스템을 얼마나 효율적으로 연결하고 운영하느냐에 달려 있습니다.
한 줄 요약: AWS와 NVIDIA의 GPU 200만 개 추가 배치 계획은 에이전틱 AI와 피지컬 AI를 겨냥한 GPU·CPU·네트워크·모델 통합 인프라 확장입니다.
