Dutch
AMD heeft officieel de Instinct MI350P uitgebracht, een nieuwe PCIe-accelerator die op maat is gemaakt voor zakelijke gebruikers die op zoek zijn naar on-premise AI-inferentie zonder revisies van hun bestaande datacenterinfrastructuur. Deze grafische kaart is voorzien van een dual-slot, full-height en full-length vormfactor en is volledig compatibel met conventionele luchtgekoelde servers. Het markeert ook AMD's eerste release in bijna vier jaar van een Instinct-chip van de huidige generatie, ontworpen voor standaard serverslots.
AMD InstinctMI350P
AMD's PCIe-gebaseerde Instinct-productlijn bleef stagneren na de lancering van de MI210 begin 2022. Alle volgende generaties, inclusief de MI300X, MI325X en OAM-formaat MI350X, adopteerden OAM-socketmodules die op speciale universele plinten waren gemonteerd. Deze modules vereisen op maat gemaakte behuizingen met robuuste vermogensafgifte en luchtstroom om maximaal acht versnellers van de klasse 1.000 W in één lade te ondersteunen. Een dergelijke hardwarearchitectuur is geschikt voor hyperscale cloudproviders die GPU-racks in bulk kopen, maar slaagt er niet in om reguliere bedrijven te huisvesten die niet bereid of niet in staat zijn om op maat gemaakte AI-racks in te zetten voor on-site inferentietaken. De MI350P vult precies dit marktgat op. Momenteel heeft NVIDIA geen high-end server-grade PCIe-concurrent in dit segment, waardoor AMD tijdelijke marktexclusiviteit heeft.
Hardwarevergelijking: MI350P versus MI350X OAM
De MI350P is geen ingekorte variant van de MI350X; AMD heeft voor dit nieuwe model een onafhankelijke, gestroomlijnde chip ontwikkeld. De MI350X integreert twee I/O-dies gecombineerd met acht acceleratorcomplex-dies (XCD's), wat in totaal 256 rekeneenheden oplevert. De MI350P daarentegen bevat één I/O-chip en vier XCD's, wat neerkomt op 128 rekeneenheden. Ondanks dat de siliciumschaal is gehalveerd, behoudt het een identieke piekklokfrequentie van 2,2 GHz als zijn hogere tegenhanger. De geheugenconfiguratie volgt dezelfde gedegradeerde specificatie: vier HBM3E-stacks (tegenover acht), een 4.096-bit geheugenbus (was 8.192-bit), naast 144 GB geheugencapaciteit en 4 TB/s bandbreedte, vergeleken met de MI350X's 288 GB en 8 TB/s doorvoer.
AMD Instinct MI350P-architectuur
De piekverwerkingscapaciteit wordt ook met de helft verminderd. De MI350P haalt 4.600 MXFP4 TFLOPS versus de 9.2 PFLOPS van de MI350X, samen met 2.300 FP8 TFLOPS vergeleken met de 4.6 PFLOPS van het premiummodel. Prestatiestatistieken voor BF16, FP16 en andere precisiestandaarden volgen dezelfde proportionele daling. Met name heeft AMD voor transparantie zowel piek- als real-world duurzame prestatiegegevens gepubliceerd. De kaart levert 2.299 TFLOPS onder MXFP4, 1.529 TFLOPS onder FP8 en 713 TFLOPS onder BF16. Deze praktische cijfers weerspiegelen de werkelijke output binnen een vermogensbereik van 600 W, waarbij vermogensbeperkingen en geheugenbandbreedtebeperkingen onvermijdelijk de theoretische piekprestaties verlagen.
De redactie heeft het MI350X-platform eerder geëvalueerd via Supermicro's Jumpstart-programma en herkende de robuuste mogelijkheden voor gevolgtrekkingswerklasten. Het team staat te popelen om de MI350P praktijkgericht te testen en te analyseren hoe deze PCIe-vormfactor-accelerator presteert binnen een standaard serverchassis.
De MI350P beschikt ondanks de gehalveerde siliciumschaal niet over een vermogensreductie van 50%. Het heeft een TBP-vermogen van 600 W, wat overeenkomt met ongeveer 60% van de 1000 W-limiet van de MI350X. Dit piekvermogen bereikt de bovengrens van de PCIe CEM-specificatie, waardoor de kaart op de maximale thermische drempel van het slot wordt uitgevoerd. Er is een lagere bedrijfsmodus van 450 W beschikbaar voor servers met onvoldoende koeling, gepaard gaande met gematigde prestatieverminderingen. Gepositioneerd in dezelfde vermogensklasse concurreert de MI350P rechtstreeks met NVIDIA's H200 NVL en RTX Pro 6000 Server voor zakelijke inkoop.
In tegenstelling tot NVIDIA's H200 met NVL4-hogesnelheidsverbindingen, schakelt de MI350P de blootstelling aan Infinity Fabric uit. Alle gegevensoverdracht tussen GPU's is beperkt tot de bandbreedte van 128 GB/s van PCIe Gen5 x16.
Luchtgekoelde implementatie met acht GPU's
Als standaard FHFL PCIe-kaart met twee slots is de MI350P compatibel met bestaande bedrijfsservers. Grote OEM's bieden luchtgekoelde modellen met acht GPU's, waaronder de eerder geteste Dell PowerEdge XE7740 en HPE ProLiant DL380a Gen12. Deze platforms zijn geoptimaliseerd voor versnellers van 600 W en vereisen geen aangepaste racks, vloeistofkoeling of OAM-plinten.
Een MI350P-configuratie met acht kaarten levert 1.152 GB HBM3E en een totale bandbreedte van 32 TB/s, voldoende om modellen met biljoen parameters in MXFP4-precisie te hosten binnen één luchtgekoeld chassis. Niettemin offert het speciale schaalstoffen op. Terwijl de MI350X Infinity Fabric gebruikt voor snelle communicatie tussen modules, vertrouwt de MI350P uitsluitend op PCIe Gen5. Deze architectuur is geschikt voor node-local tensor-parallellisme en cross-node data-parallellisme voor gevolgtrekking, terwijl de OAM-gebaseerde MI350X superieur blijft voor bandbreedte-intensieve AI-trainingstaken.
Precisieformaten
De MI350P erft alle precisieformaten van de MI350X zonder upgrades. OCP-blokschalingstypen, waaronder MXFP4, MXFP6 en MXFP8, zijn mainstream geworden voor de ontwikkeling van AI-modellen, waardoor training met lage precisie en verwaarloosbare kwaliteitsvermindering mogelijk wordt. MXFP4 levert ruim het dubbele van de snelheid van FP8 en vier keer de doorvoer van BF16. Praktijkvoorbeelden zoals OpenAI gpt-oss en Kimi K2.6 bewijzen de waarde van native low-bit kwantisering. Omdat MXFP4- en INT4-gewichten slechts 25% van de BF16-geheugenruimte in beslag nemen, kunnen modellen met biljoen parameters worden geïmplementeerd binnen een enkele server met acht GPU's, waardoor omslachtige clusters met meerdere knooppunten voor on-premise ondernemingen worden geëlimineerd.
Kortom
De meeste AI-ondernemingen op locatie worden beperkt door stroom, koeling, dichtheid en budget, in plaats van door pure computercapaciteit. De drop-in MI350P verlicht deze implementatiebarrières effectief. Omdat NVIDIA in dit segment geen vlaggenschip PCIe-server-GPU heeft, behoudt AMD voorlopig een duidelijk concurrentievoordeel. Meer details zijn beschikbaar op AMD's officiële Instinct-webpagina.
Peking Qianxing Jietong Technologie Co., Ltd.
Sandy Yang/directeur mondiale strategie
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Zakelijke focus:
ICT-productdistributie/Systeemintegratie en -diensten/Infrastructuuroplossingen
Met meer dan 20 jaar ervaring in IT-distributie werken we samen met toonaangevende wereldwijde merken om betrouwbare producten en professionele diensten te leveren.
“Technologie gebruiken om een intelligente wereld te bouwen”Uw vertrouwde ICT-productdienstverlener!
Sandy Yang/directeur mondiale strategie
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Zakelijke focus:
ICT-productdistributie/Systeemintegratie en -diensten/Infrastructuuroplossingen
Met meer dan 20 jaar ervaring in IT-distributie werken we samen met toonaangevende wereldwijde merken om betrouwbare producten en professionele diensten te leveren.
“Technologie gebruiken om een intelligente wereld te bouwen”Uw vertrouwde ICT-productdienstverlener!