bedrijfsnieuws over Panmnesia en Meta nemen een single chip, CXL-gebaseerde kijk op AI-datacenters

Meta en CXL-technologieleverancier Panmnesia zeggen dat AI-datacenters moeten worden bekeken als een enkele gecoördineerde verwerkingsbron, niet als een co-located set van onafhankelijke servers.

Het AI datacenter zou een nauw gekoppelde bron moeten zijn, met één coherentie domein, zoals een CPU chip.die veel samenhangsdomeinen hebbenAI datacenters kunnen één taak uitvoeren over honderden, zelfs duizenden, GPU's, ongeveer vergelijkbaar met een high-performance computing workload met gecoördineerde processorkernen,geheugen en netwerkverbindingen.

Panmnesia en Meta hebben gezamenlijk een volgende generatie AI datacenterarchitectuur voorgesteld zoals deze, waarin het datacenter werkt als een enkele chip.een Nature Portfolio tijdschrift.

Myoungsoo Jung
Myoungsoo Jung, CEO van Panmnesia, zei: "Naarmate AI-systemen blijven scalen,Het vermogen om een groot aantal versnellingsapparaten en geheugenapparaten snel en efficiënt aan te sluiten, wordt net zo belangrijk als de prestaties van individuele versnellingsapparatenDit onderzoek schetst een richting voor de volgende generatie AI-infrastructuur, waarbij CXL het gehele datacenter in staat stelt om te opereren als een enkel computersysteem.

De componenten van een enkele processorchip, kern, enz. zijn zo ontworpen en geplaatst dat zij uniforme verbindingspaden in één coherentie domein hebben en hun werk in een tijdsbestemming verrichten.gecoördineerde en gecontroleerde wijzeIn tegenstelling hiertoe beschikken bestaande datacenters over serverprocessors en opslag in racks met in- en tussen-racks netwerkverbindingen en switches.Er is geen controle structuur zodat de server verwerking wordt gecoördineerd.

Chip-achtig datacenter
In de huidige datacenters worden versnellers in een rack verbonden door snel opschalen van interconnecties.Terwijl verbindingen die het rack verlaten en verbindingen met andere apparaten dan versnellers afhankelijk zijn van langzamere schaalnetwerkenMetingen van dergelijke omgevingen tonen zware latentieverdelingen, met een latentie van 99e percentiel heen en weer ongeveer vijf keer de mediaan.en hoe meer apparaten erbij betrokken zijn, hoe vaker en ernstiger het optreedt.

Om een AI-datacenter efficiënt en snel te laten functioneren, is controle en coördinatie nodig, zowel in het rack als tussen racks van GPU's, hun geheugen en opslag.,Het verminderen van de latentie variatie tussen apparaten, zodat het datacenter als geheel zich voorspelbaar gedraagt, is net zo belangrijk als het verbeteren van de prestaties van de individuele apparaten of de verbindingssnelheid.

Panmnesia LAU
Meta en Panmnesia stellen voor CXL te gebruiken als basis hiervoor, met nieuwe concepten die het mogelijk maken om op multi-GPU-rackniveau te werken.Uitgebreide CXL zorgt voor cache coherentie tussen racks van versnellers in hun schema, ondersteunt een groter aantal apparaten dan Nvidia's rack-scale, NVLink-gebaseerde GB200 NVL72 en UALink.

Dit definieert de basisregels voor het samenvoegen van apparaten, maar niet voor data routing en latency.
High-fan-out non-blocking switch: verbindt veel apparaten tegelijk, waardoor het aantal hops wordt verminderd en de padlengtes ongeacht de bron gelijk blijven.
Link Acceleration Unit (LAU): verplaatst repetitieve protocolverwerking op elk verbindingspunt naar een speciale hardwarepijplijn, waardoor het gedrag op hopniveau regelmatiger wordt en de latentie variatie wordt beperkt.
Fabric controller: het handhaven van dezelfde bestelrichtlijn voor de verwerking van verzoeken in het gehele systeem, zodat transacties consistent worden verwerkt, ongeacht door welk apparaat ze gaan.

Panmnesia high fan-out en non-blocking switch
De stofcontroller (een gecombineerde CXL/PCIe-controller) en de LAU hebben de siliciumvalidatie voltooid en de stofschakelaar is vervaardigd als een fysieke siliciumchip.met voorrelease silicium nu geleverdDit toont aan dat de voorgestelde architectuur op het niveau van vervaardigbaar silicium geldt.

Hun architectuur groepeert CPU's, versnellers, geheugen en schakelaars naar functie in dieningen, groepeert dieningen in pods,en verbindt pods via een stof een regelmatige tray pod stof hiërarchie ontworpen om vaste hop te behouden, meer consistente communicatiepaden en timing.

Panmnesia Fabric Controller
In vergelijking met Nvidia's ontwerp, waarbij één CPU gekoppeld is aan twee versnellingsapparaten via NVLink-C2C, is het rackinterieur verbonden met NVLink,en servers en racks worden verbonden door een schaalbaar netwerk zoals Ethernet of InfiniBand, hun regeling:
Biedt een 8x toename van de versnellers rechtstreeks gecoördineerd door een enkele CPU; van 2 tot 16,
Het maakt het mogelijk voor maximaal 960 versnellers om samen te werken in één coherentiedomein.
Vermindert de data-toegang latency van het microseconde niveau tot enkele honderden nanoseconden; ongeveer een orde van grootte lager,
De uitval vervangende eenheid wordt een storend enkel apparaat in plaats van een server.Het systeem kan alleen de storende apparaten vervangen in plaats van een hele server., waardoor verspilde middelen en langdurige stilstand worden vermeden.

Panmnesia heeft de kerncomponenten van de architectuur al in silicium geïmplementeerd, de validatie voltooid en bereidt ze nu voor op commerciële levering.Toekomstige ontwikkelingen zijn gericht op optische interconnecties om de snelheid en schaalbaarheid te verhogen.

Startnoot
De NREE-artikelverwijzing is beschikbaar.

Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang, directeur Global Strategy
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Zaken:
Distributie van ICT-producten/Systeemintegratie en diensten/Infrastructuuroplossingen
Met meer dan 20 jaar IT-distributie-ervaring werken we samen met toonaangevende wereldwijde merken om betrouwbare producten en professionele diensten te leveren.
“Technologie gebruiken om een intelligente wereld te bouwen”Uw betrouwbare ICT-productdienstverlener!