CoreWeave heeft een multi-rack NVIDIA Vera Rubin NVL72-cluster ingezet op CoreWeave Cloud, waarbij honderden Rubin GPU's zijn verbonden tot een uniforme schaalbare omgeving die is geoptimaliseerd voor agentic AI-workloads. Elke door Dell geproduceerde rack bevat 72 Rubin GPU's en 36 Vera CPU's, en gebruikt NVLink 6 als zijn schaalbare interconnectie-fabric, gekoppeld aan twee ConnectX-9 SuperNICs per GPU. De racks zijn verbonden via NVIDIA Spectrum-X Ethernet binnen een tweelaags niet-blokkerend fabric, dat volgens CoreWeave kan schalen tot ongeveer 128.000 GPU's. CoreWeave is de eerste cloudprovider die een Vera Rubin NVL72-systeem succesvol heeft gevalideerd en geactiveerd, en de eerste die de gemeten prestaties heeft gepubliceerd. De initiële peer-reviewed benchmarkresultaten werden vorige week vrijgegeven, gebaseerd op een GB300 NVL72-inzending. Naast de rekenkracht-upgrade voegt CoreWeave AI Object Storage cross-region schrijfversnelling en een gloednieuwe Archive-tier toe.

Multi-Rack NVIDIA Vera Rubin NVL72 Architectuur

Deze multi-rack implementatie richt zich op agentic execution workflows, waarbij sequentiële redeneerlussen en externe toolaanroepen de latentie van data-toegang over gedistribueerde infrastructuur vergroten. De dubbele ConnectX-9 SuperNICs die op elke Rubin GPU zijn gemonteerd, leveren tot 1,6 Tb/s backend netwerkbandbreedte per GPU via multi-rail, multi-plane verbindingen. Het fabric maakt gebruik van een modulair ontwerp, waardoor nieuwe NVL72 racks aan dezelfde niet-blokkerende topologie kunnen worden toegevoegd naarmate de capaciteit groeit. De racks werken met 45°C vloeistofkoeling.

CoreWeave verenigt deze racks met zijn Mission Control software suite. Een Rack LifeCycle Controller beheert de provisioning en lifecycle van racks, inclusief hardware-detectie via firmware flashing, validatie, en stroom- en thermische monitoring. De Racky rack-management module regelt stroom en infrastructuur, terwijl de programmeerbare Valvey koelcontroller software-gedefinieerde zichtbaarheid en beheer levert voor vloeistofkoelcircuits en omgevingssensoren.

Racks komen pas in productie na gefaseerde validatietests. Op knooppuntniveau omvat dit urenlange herhaalde GPU-diagnostiek, verificatie van CPU-GPU-overdracht, interconnectie- en thermische belastingsproeven, plus realistische trainingsworkloads. Op rackniveau valideren gesynchroniseerde taken over alle 72 GPU's de NVLink GPU-naar-GPU-doorvoer; elke hardware die onder de prestatiedrempels valt, wordt voor probleemoplossing teruggestuurd. Voor cross-rack verificatie voert CoreWeave gedistribueerde workloads uit, waarbij NVLink opzettelijk wordt uitgeschakeld om verkeer over het backend-netwerk te forceren, en bewaakt het fysieke fabric op instabiele verbindingen, stijgende foutenpercentages, oververhitte componenten en onevenwichtig verkeer. Testbelastingen bootsen agentic applicaties na, met plotselinge vraagpieken, variabele gelijktijdigheid en bursty communicatiepatronen.

Updates AI Object Storage: Cross-Region Writes en Archive Tier

De opslagverbetering bouwt voort op de Local Object Transport Accelerator (LOTA), een caching proxy die op elke GPU- en CPU-node binnen CoreWeave Kubernetes Service is geïmplementeerd en objectgegevens opslaat op node-lokale NVMe. CoreWeave rapporteert dat gecachte reads tot 7 GB/s per GPU bereiken, met een p99 read latency die 8x lager is dan directe buckettoegang. Een toonaangevende modelprovider draait LOTA op meer dan 15.000 GPU's en 20PB cache, met een hit rate van 99,7%, waarbij LOTA gratis wordt aangeboden.

Cross-region schrijfversnelling stelt applicaties in staat om met lokale latentie naar een bucket in een externe regio te schrijven, zonder API's of SDK's te wijzigen. Applicaties sturen standaard S3-schrijfacties naar het LOTA-eindpunt; objectgegevens worden lokaal persistent opgeslagen terwijl metadata naar de externe regio worden gecommit. Het object wordt direct leesbaar, zelfs voor de schrijftaak, en gegevens worden op de achtergrond naar de externe regio gemigreerd. Applicaties zien een enkele bucket-namespace die alle regio's omspant met consistente IAM-beleidsregels, lifecycle-regels en toegangscontroles, waardoor aparte regionale buckets en replicatiepijplijnen die doorgaans nodig zijn voor cross-site checkpointdistributie, komen te vervallen.

“Onze datasets bestrijken meerdere regio's, en we kunnen ons geen vertragingen in onze trainingsschema's veroorloven die worden veroorzaakt door cross-region ophaalvertragingen,” zei Cécile Robert-Michon, directeur interne infrastructuur bij Cohere. “CoreWeave AI Object Storage biedt ons een uniforme dataset-voetafdruk over regio's met lokaal gecachte reads, zodat niets op het netwerk wacht.”

De Archive-tier is de vierde opslagklasse naast Hot, Warm en Cold, ontworpen voor data die één keer wordt geschreven en zelden wordt gelezen, zoals historische trainingscheckpoints en ruwe datasets. Het biedt lagere basistarieven voor capaciteit en verlaagt de kosten voor ophalen, caching, per-verzoek, vroegtijdige verwijdering, tiering en egress-kosten. CoreWeave raadt aan recente checkpoints op snellere tiers te bewaren voor snelle herstarts, met automatische tiering naar Archive na 60 dagen zonder reads. Cross-region writes en de Archive-tier zijn nu algemeen beschikbaar.

Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Global Strategy Director
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Zakelijke focus:
ICT Productdistributie/Systeemintegratie & Services/Infrastructuuroplossingen
Met meer dan 20 jaar ervaring in IT-distributie werken we samen met toonaangevende wereldwijde merken om betrouwbare producten en professionele diensten te leveren.
“Technologie gebruiken om een intelligente wereld te bouwen” Uw vertrouwde ICT Product Service Provider!