AWS en NVIDIA werken samen aan de volgende generatie infrastructuur

Amazon Web Services en NVIDIA kondigen een meerdelige samenwerking aan gericht op het uitbouwen van eeen schaalbare, on-demand kunstmatige intelligentie (AI)-infrastructuur die geoptimaliseerd is voor het trainen van steeds complexere grote taalmodellen (large language models, LLM's) en het ontwikkelen van generatieve AI-toepassingen.

Het gezamenlijke werk omvat de volgende generatie Amazon Elastic Compute Cloud (Amazon EC2) P5-instances, aangedreven door NVIDIA H100 Tensor Core GPU's en AWS' geavanceerde netwerken en schaalbaarheid die tot 20 exaFLOPS aan computeprestaties zullen leveren voor het bouwen en trainen van de grootste deep learning-modellen. P5-instances zijn de eerste GPU-instances die profiteren van AWS' tweede generatie Elastic Fabric Adapter (EFA) netwerken. Deze bieden 3.200 Gbps aan low-latency en hoge bandbreedte netwerkdoorvoer, waardoor klanten tot 20.000 H100 GPU's in EC2 UltraClusters kunnen schalen voor on-demand toegang tot supercomputer-klasse prestaties voor AI.

"AWS en NVIDIA werken al meer dan 12 jaar samen om grootschalige, kosteneffectieve GPU-gebaseerde oplossingen on demand te leveren voor verschillende toepassingen zoals AI/ML, graphics, gaming en HPC", zegt Adam Selipsky, CEO bij AWS. "AWS heeft ongeëvenaarde ervaring met het leveren van GPU-gebaseerde instances die met elke opeenvolgende generatie de schaalbaarheid hebben vergroot, waarbij veel klanten vandaag machine learning training workloads schalen naar meer dan 10.000 GPU's. Met de tweede generatie EFA zullen klanten hun P5-instances kunnen schalen naar meer dan 20.000 NVIDIA H100 GPU's. Hierdoor komen on demand supercomputermogelijkheden beschikbaar voor klanten variërend van startups tot grote ondernemingen."

"Accelerated computing en AI zijn gearriveerd, en net op tijd. Accelerated computing zorgt voor stapsgewijze functieversnellingen en vermindert tegelijkertijd de kosten en het vermogen naarmate ondernemingen ernaar streven meer te doen met minder. Generatieve AI heeft bedrijven wakker geschud om hun producten en bedrijfsmodellen opnieuw te ontwerpen en in plaats van ‘disrupted’, de disruptor te zijn," aldus Jensen Huang, oprichter en CEO van NVIDIA. "AWS is al lange tijd onze partner en was de eerste cloud service provider die NVIDIA GPU's aanbood. We zijn verheugd om onze expertise, schaal en bereik te combineren om klanten te helpen accelarated computing en generatieve AI in te zetten om de enorme kansen die voor ons liggen te benutten."