NVIDIA behandelde de CPU lange tijd slechts als een bijchip om zijn GPU's in datacenters te voeden. De eerste server-CPU, Grace, volgde dit patroon: gebouwd op standaard Arm Neoverse V2-cores en voornamelijk ingezet als de CPU-component van Grace Hopper en Grace Blackwell superchips. Die superchips introduceerden NVLink-C2C, een coherente interconnect die veel hogere cross-memory bandbreedte levert dan PCIe tussen CPU en GPU.
![]()
Vera, de opvolger van Grace, is veel ambitieuzer. Het is een volledig nieuw ontwerp, aangedreven door Olympus, NVIDIA's aangepaste Armv9.2-core. Elke Vera-socket integreert 88 cores en 176 threads. Het opvallende geheugensysteem maakt gebruik van acht SOCAMM2-modules van LPDDR5X, met ondersteuning voor maximaal 1,5 TB per socket met een piekbandbreedte van 1,2 TB/s. Dit brengt de energie-efficiëntie van mobiel DRAM met behoud van veld-vervangbaar geheugen. Onze dual-socket testserver bereikte 2.073 GB/s op STREAM Triad tegen een gecombineerde rating van 2,4 TB/s.
De inzet van Vera is uitgebreid. Het verschijnt nog steeds in Vera Rubin superchips, en NVIDIA heeft het toegevoegd aan BlueField-4 STX-opslagplatforms en standalone CPU-servers voor agentic AI-sandboxes. Grote OEM's, hyperscalers en NCP's, waaronder Dell, HPE en Supermicro, lanceren Vera-servers, waardoor bedrijven een derde CPU-leverancier krijgen om hun toeleveringsketens te diversifiëren.
Belangrijkste conclusies
- Geheugenbandbreedte presteert meer dan dubbel zo goed als alle geteste x86-servers. De dual-socket Vera leverde meer dan 2 TB/s op STREAM Triad, 2,3x de snelste gemeten DDR5-server. Zelfs toegang tot extern geheugen via NVLink-C2C leverde hogere bandbreedte op dan lokaal geheugen op elke x86-socket, en de lokale latentie van hugepage was 13% lager dan EPYC 9175F.
- Gebalanceerde processor voor de middenmarkt. Een enkele 3,4 GHz Olympus-core behaalde 12% hogere 7-Zip compressie-doorvoer dan de 5,0 GHz EPYC 9175F en won twee van de drie single-thread Python-tests. Bij volledige belasting bereikte Vera 63-72% van de 7-Zip doorvoer van de EPYC 9965 met minder dan de helft van het aantal cores.
- Vector- en cryptografische prestaties zijn de belangrijkste zwaktes. Zes 128-bit SVE2-pipelines kunnen niet tippen aan 512-bit AVX-512 geoptimaliseerde code. Bij vergelijkbare runs met 16 cores was Vera's GROMACS benchMEM-resultaat de helft van dat van EPYC 9175F en tweederde van EPYC 9965. Eén Vera-core voerde AES-256-GCM-encryptie uit met ongeveer eenderde van de snelheid van de 9175F; de volledige 384-core EPYC 9965 leidde Vera met ongeveer 3x op zowel GROMACS benchPEP als AES.
- Geheugen-gebonden HPC-workloads profiteren enorm van hoge bandbreedte. Op het grote OpenFOAM-mesh was Vera 1,44x sneller dan de 384-core EPYC 9965 en 1,20x sneller dan de 240-core Xeon 6978P. Op het kleinere mesh verkleinden de grotere x86 L3-caches de kloof, met Vera binnen 12% van de 9965.
- Databases en analyses zijn concurrerend. In single-socket HammerDB TPROC-C versloeg 88 Vera-cores een 192-core EPYC 9965-socket met 26% op PostgreSQL en 8% op MariaDB, terwijl het 19% achterbleef op MySQL en 15% op VillageSQL. De Xeon 6787P bleef achter Vera op alle vijf database-engines. Vera voltooide ook ClickBench hot queries 23% sneller dan EPYC 9965 en verwerkte 34% meer Valkey-verzoeken op een werkset van 256 GB.
Specificaties
| Specificatie | NVIDIA Vera CPU |
|---|---|
| Core | NVIDIA Olympus, Armv9.2 met SVE2 en FP8 |
| Cores / threads per socket | 88 cores, 176 threads (NVIDIA Spatial Multithreading) |
| Gemeten kloksnelheid | 3,41 GHz |
| Configureerbare TDP | 250W–450W |
| Koeling | Lucht of vloeistof |
| Cache |
L1-I: 64 KB per core L1-D: 96 KB per core, 6-weg L2: 2 MB privé per core L3: 164 MB per socket, Arm MPAM-partitionering |
| Fabric | 2e generatie Scalable Coherency Fabric, 3,4 TB/s bisection bandbreedte |
| Geheugen |
8× SOCAMM2 LPDDR5X-modules per socket 8× 128-bit controllers (1024-bit aggregaat) Tot 9.600 MT/s 1,2 TB/s nominaal per socket 256 GB–1,5 TB capaciteit per socket |
| I/O |
PCIe Gen6: 88 lanes per socket (alleen CPU-platform), bifurcatieondersteuning CXL 3.1 Type 3 geheugenpooling 2e generatie NVLink-C2C: 1,8 TB/s bidirectionele coherente link met geauthenticeerde encryptie |
| Beveiliging | Confidential computing, Arm CCA realms, RME-DA / RME-CDA, TDISP, per-VM sleutels |
Waarom NVIDIA Vera ontwikkelde
NVIDIA bouwde zijn datacentrumactiviteiten rond GPU's, breidde vervolgens uit naar netwerken via de overname van Mellanox en software via CUDA en DOCA. Het was nog steeds afhankelijk van algemene CPU's van derden om het besturingssysteem te draaien, gegevens voor te bereiden en accelerators te orkestreren. Grace markeerde de eerste stap om deze afhankelijkheid te doorbreken, maar de Neoverse V2-cores lieten prestatiegaten achter ten opzichte van high-end x86-CPU's buiten AI-hosting.
Vera dicht een groot deel van dat gat met aangepaste Olympus-cores en verbeterde geheugenbandbreedte en -capaciteit. Door concurrerende CPU's te integreren naast GPU's, DPU's en netwerken, vangt NVIDIA meer serveruitgaven op en stemt het CPU-, geheugen-, interconnect- en GPU-ontwerp nauw op elkaar af. Standalone Vera CPU's bedienen ook agentic AI-workloads, waar tool-aanroepen, code-uitvoering en sequentiële besluitvorming sterke single-core prestaties, lage latentie en voorspelbare doorvoer vereisen.
De Olympus Core
Olympus geeft prioriteit aan snelle single-task uitvoering en aanhoudende doorvoer onder volledige socketbelasting. NVIDIA claimt een 1,5x IPC-verbetering ten opzichte van Grace's Neoverse V2. De 10-wide instructiedecoder is gekoppeld aan een neurale branch predictor die twee genomen branches per cyclus ondersteunt om de instructietoevoer te handhaven. Out-of-order uitvoering en value prediction helpen bij het oplossen van afhankelijkheidsketens die eenvoudige multi-core schaling beperken.
Uitvoeringsmiddelen omvatten rijke integer-eenheden, vier load-pipelines, twee store-pipelines en zes 128-bit SVE2-vectorpijpen; slechts twee van deze zes verwerken cryptografie. Het smallere 128-bit vectorontwerp is een bewuste afweging ten opzichte van de 512-bit AVX-512 van x86. Elke core heeft een privé 64KB I-cache, 96KB D-cache en 2MB L2, plus een graph prefetcher geoptimaliseerd voor onregelmatige, pointer-intensieve workloads. Spatial Multithreading laat één fysieke core twee hardware-threads draaien, wat de doorvoer en voorspelbare latentie voor agentic workloads balanceert.
Fabric, Geheugen en I/O
Vera's 2e generatie Scalable Coherency Fabric handhaaft cache-coherentie over de die met 3,4 TB/s bisection bandbreedte. Elke socket verschijnt als één NUMA-node, wat de lokale geheugenplaatsing vereenvoudigt. De gedeelde 164 MB L3-cache kan worden gepartitioneerd via Arm MPAM voor QoS-isolatie tussen tenants.
Het LPDDR5X-subsyteem levert hoge bandbreedte met een bescheiden stroomverbruik, ongeveer 30-40W voor een volledig gevulde geheugenbank. De capaciteit bedraagt maximaal 1,5 TB per socket, uitbreidbaar via CXL 3.1 Type 3 geheugenpooling. De 2e generatie NVLink-C2C interconnect verbindt dubbele Vera-sockets of Vera met Rubin GPU's met 1,8 TB/s bidirectionele coherente bandbreedte.
MGX Vera C2 Referentieserver
Onze testunit is NVIDIA's MGX Vera C2, een dual-socket luchtgekoeld 2U referentieplatform voor OEM-ontwerpen. Het voorpaneel heeft acht E1.S NVMe-bays en vier hot-swap Delta PSU's; de voedingen zijn aan de voorkant geplaatst, waardoor de achterkant vrijkomt voor PCIe-risers en beheerpoorten. De twee Vera CPU's zijn direct op de PCB gesoldeerd zonder sockets, omringd door 16 veld-vervangbare SOCAMM2-slots. Zes centrale ventilatormodules met schuimbaffels beheren de luchtstroom over passieve CPU-koellichamen.
Het modulaire PCIe-riser-ontwerp verbetert de flexibiliteit, maar verhoogt de servicetijd. Het wisselen van een adapter vereist het verwijderen van de ventilatorafdekking, schuimbaffels, kabels en de gehele riser-sled, gevolgd door demontage van de sled; een routineuze kaartwissel duurt 5-10 minuten en wordt meestal uitgevoerd op een werkbank in plaats van in het rack. Vloeistofgekoelde varianten gebruiken koude platen op CPU's, terwijl de SOCAMM2-modules luchtgekoeld blijven.
Prestatiebenchmarks
Vera werd getest tegen vijf Dell PowerEdge x86-servers met AMD EPYC en Intel Xeon CPU's. Vera gebruikte GCC 15 op Ubuntu 26.04.1, terwijl x86-systemen oudere toolchains op Ubuntu 24.04 draaiden. Benchmark-binaries en invoerdatasets waren consistent.
Geheugen
Vera bereikte 2.073 GB/s STREAM Triad op dual sockets, 2,3x het beste x86-resultaat. De lokale bandbreedte per socket bereikte 1.055 GB/s, en de NVLink-C2C externe toegang hield 677 GB/s aan. De lokale latentie van hugepage was 99,2 ns, 13% sneller dan EPYC 9175F, hoewel de externe latentie steeg tot 212,7 ns en Vera gevoeliger is voor 4KB page translation overhead.
HPC
GROMACS bevoordeelt x86 AVX-512. Vera's benchPEP-resultaat was 1,77 ns/dag (SMT uit), verbeterend tot 2,07 ns/dag met Spatial Multithreading. De 384-core EPYC 9965 was 3x sneller. Op het geheugen-gebonden grote OpenFOAM-mesh leidde Vera alle testers met 1.854 seconden.
Analytics & Valkey
Vera leidde ClickBench hot en cold runs met 2,09s en 5,70s. Spatial Multithreading schaadde ClickHouse scanprestaties. Voor Valkey bleef Vera achter bij enkele unbatched verzoeken, maar liep voor op gebundelde workloads met grote werksets van 256 GB, wat 34% hogere doorvoer opleverde dan EPYC 9965. Het voordeel verschijnt met 8+ core shards, hoewel de EPYC met meer cores meer shards per socket past.
Single-Thread & Crypto
Olympus leidde single-thread 7-Zip compressie met 9.537 MIPS. De AES-prestaties zijn zwak: één core bereikte slechts 6,2 GB/s, en het volledige systeem bereikte 1,26 TB/s, ongeveer eenderde van EPYC 9965. Vera won twee van de drie single-thread Python-benchmarks, gedeeltelijk geholpen door de nieuwere Python-release.
Databases
Single-socket HammerDB-tests toonden aan dat Vera PostgreSQL- en MariaDB-doorvoer leidde, terwijl EPYC 9965 sneller was op MySQL en VillageSQL. Vera's p99 tail-latentie was hoger op de meeste engines, behalve MariaDB. De nieuwere EPYC 9996 en 9686F wisselen voordelen uit met Vera over database-engines.
Conclusie
Vera is niet universeel de snelste. High-frequency EPYC-onderdelen domineren single-thread crypto en latentie-gevoelige key-value workloads, terwijl EPYC met een hoog aantal cores leidt in vector HPC en totale doorvoer-taken. De kracht ligt in de brede middenmarkt-workloadruimte: concurrerende single-core integer-prestaties, uitstekende geheugenbandbreedte en sterke resultaten op geheugen-gebonden HPC, analytics en moderne databases.
De geheugenbandbreedte van 2 TB/s-klasse in een luchtgekoelde dual-socket server is Vera's opvallende differentiator. NVLink-C2C behoudt hoge cross-socket bandbreedte ten koste van verhoogde externe latentie, dus NUMA-tuning en hugepages blijven belangrijk. De belangrijkste beperking komt van de 128-bit SVE2-vectorpijpen, die achterblijven bij AVX-512 op geoptimaliseerde wetenschappelijke en cryptografische kernels.
![]()
Een breed OEM-ecosysteem rolt Vera-servers uit voor agentic AI, database- en analytics-implementaties. Vera is de eerste Arm-server-CPU die we hebben getest en die direct concurreert met top x86-CPU's voor algemene zakelijke workloads. AMD's nieuwe EPYC Venice-platform is sindsdien in ons lab gearriveerd, en side-by-side testen met Vera op bijgewerkte firmware bevestigt hun concurrerende positionering.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Global Strategy Director
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Zakelijke focus:
ICT Productdistributie/Systeemintegratie & Diensten/Infrastructuuroplossingen
Met meer dan 20 jaar ervaring in IT-distributie werken we samen met toonaangevende wereldwijde merken om betrouwbare producten en professionele diensten te leveren.
"Technologie gebruiken om een intelligente wereld te bouwen" Uw Betrouwbare ICT Product Service Provider!



