Investing.com — 아마존 웹 서비스(NASDAQ:AMZN)는 생성형 인공지능 시스템에 전력을 공급하는 Nvidia(NASDAQ:NVDA)의 최신 그래픽 처리 장치(GPU)를 위해 특별히 설계된 새로운 자체 냉각 하드웨어를 수요일에 발표했습니다.

AWS는 널리 사용되는 업계 표준 액체 냉각 솔루션을 채택하는 대신 자체 구축 인프라 솔루션인 IRHX(In-Row Heat Exchanger)를 개발했습니다. 이 접근 방식을 통해 AWS는 주요 데이터 센터 개조 없이도 Nvidia의 고밀도 GPU 랙을 수용할 수 있습니다.

대규모 AI 훈련 및 추론을 위해 제작된 Nvidia의 Blackwell GPU는 상당한 에너지를 소비하고 상당한 열을 발생시키므로 고급 냉각 시스템이 필요합니다. 이전 칩 세대에서 작동했던 기존 공기 냉각 방식으로는 단일 랙에 72개의 GPU를 탑재한 Nvidia의 GB200 NVL72와 같은 랙의 열 요구 사항을 처리할 수 없습니다.

AWS의 컴퓨팅 및 머신 러닝 서비스 부사장인 Dave Brown은 프레젠테이션 비디오에서 "그것들은 너무 많은 데이터 센터 공간을 차지하거나 물 사용량을 상당히 증가시킬 것입니다"라고 말했습니다. "그리고 이러한 솔루션 중 일부가 다른 공급업체의 더 적은 볼륨에서는 작동할 수 있지만, 단순히 우리 규모를 지원할 수 있는 액체 냉각 용량이 충분하지 않을 것입니다."

IRHX 냉각 시스템은 효율적인 열 관리를 위해 액체 및 공기 기반 구성 요소를 결합합니다. Nvidia와 협력하여 개발되었으며, 냉각수를 콜드 플레이트를 통해 GPU 칩으로 순환시키고 팬 코일 어레이를 통해 열을 제거하는 동시에 AWS 표준 랙의 공기 냉각 기계 레이아웃을 유지합니다.

이 냉각 혁신은 AWS가 새로운 컴퓨팅 인스턴스인 EC2 P6e 및 P6e Ultra를 출시하는 것과 동시에 이루어졌습니다. 이러한 인스턴스를 통해 고객은 Nvidia의 HGX B200 및 GB200 NVL72 스택에 각각 액세스할 수 있으며, 후자는 고급 모델 개발 및 배포를 위해 설계된 AWS의 가장 강력한 서버 구성 중 하나입니다.

AWS는 또한 이러한 새로운 인스턴스에 대한 네트워킹 및 시스템 모니터링을 제공하는 Nitro 인프라 플랫폼을 강조했습니다. Nitro 시스템은 서비스 중단 없이 펌웨어 업데이트를 가능하게 하고 Ultra 서버당 최대 28.8테라바이트/초의 네트워킹 대역폭을 지원하며, 이는 수만 개의 GPU에 걸쳐 확장되는 AI 워크로드에 필수적입니다.

이 기사는 인공지능의 도움을 받아 번역됐습니다. 자세한 내용은 이용약관을 참조하시기 바랍니다.