De wereldwijde flash en geheugen sector zag intense activiteit tijdens het weekend, met een Micron-Apple geschil, Anthropic's chip sourcing gesprekken met SK Hynix, een nieuwe Nvidia-SK Hynix partnerschap,SK Hynix's 3D DRAM vooruitgang, en Samsung's CXL geheugen pooling innovatie.
SK Hynix domineerde de laatste tijd de krantenkoppen.Het project is ondersteund door het strategisch inhuren van 3D-stacked DRAM-on-logic ontwerpexperts via de San Jose University.De aanwerving richt zich op talent dat in staat is om 3D-stacked DRAM-logische dies te ontwerpen met meerdere klanten in de VS.
De nieuwe architectuur legt 3D DRAM-stacks bovenop systeem-halfgeleiderprocessors.Het integreren van DRAM en logica op een enkele chip levert snellere connectiviteit tussen chips en een lager stroomverbruik dan de traditionele pakket-op-pakket (PoP) binding van afzonderlijke geheugen- en logicapakketten.
Jukan merkt op dat de technologie gericht is op AI-werkladingsapparaten die een hoge geheugenbandbreedte en een lage stroomverbruik vereisen,met name smartphone-processors voor mobiele toepassingen, waardoor Apple een belangrijke potentiële klant van SK Hynix is.
SK Group heeft zijn strategische partnerschap met Nvidia uitgebreid via formele intentiebrieven, waardoor een samenwerking met een waarde van meer dan $ 500 miljard is gevormd.SK Telecom bouwt een 2 gigawatt Nvidia Vera Rubin DSX AI Factory als nieuwe cloud provider om aan de wereldwijde vraag naar computing te voldoenDe Vera Rubin-chips zullen het HBM4-geheugen van SK Hynix gebruiken, met de eerste AI Factory gepland voor 2027
Het partnerschap is gericht op het versnellen van de ontwikkeling van grootschalige AI-infrastructuur, met inbegrip van soevereine, fysieke, agentschapsgebonden en enterprise AI-diensten.en de stijgende vraag naar AI in Zuid-Korea en de bredere regio Azië-Pacific aanpakkenSK Hynix zal ook een langetermijn AI-geheugenpartnerschap met Nvidia starten, waardoor een stabiele volgende generatie AI-geheugenvoorziening voor Nvidia wordt gewaarborgd en SK Hynix's productiecapaciteit wordt uitgebreid.Beide partijen zullen samen HBM en andere AI-geheugenoplossingen voor LLM-opleiding ontwikkelen en optimaliseren., agentische en fysieke AI-scenario's.
De voorzitter van SK Group, Chey Tae-won, verklaarde dat de samenwerking gebruik zal maken van het AI-geheugen van SK Hynix en de sterke punten van de infrastructuur van SK Telecom om een AI-fabriek van wereldklasse te bouwen.transformeren van Zuid-Korea van een AI-adoptor in een wereldwijd AI-innovatiecentrum.
De voormalige Intel CEO Pat Gelsinger bekritiseerde HBM tijdens een Koreaanse bedrijfsgesprek en noemde het een onvolmaakte geheugenoplossing.verbindingsbeperkingen beperkt door GPU edge shorelinesDe HBM-technologie is in de eerste plaats gebaseerd op de nieuwe technologie van de HBM-machine, die in de eerste plaats is gebaseerd op de nieuwe technologie van de HBM-machine.
SK Hynix SVP Hoshik Kim onderschreef gedeeltelijk Gelsinger's standpunt en verklaarde dat HBM de inherente geheugenwand knelpunt van AI's niet fundamenteel kan oplossen.Hij verduidelijkt dat HBM slechts dient als een tijdelijke maatregel., terwijl SK Hynix actief alternatieve oplossingen ontwikkelt om de kerngeheugenmuur-uitdaging aan te pakken.
Volgens Bloomberg onderhandelt het toonaangevende Amerikaanse AI-bedrijf Anthropic met SK Hynix over een toegewijde geheugenchipvoorziening om zijn aangepaste in-house AI-processors te ondersteunen.Chey Tae-won, voorzitter van SK Group, onthulde het nieuws tijdens een AI-top in San Francisco in juli 2024, waar de CEO van Anthropic, Dario Amodei, ook sprak en Anthropic's ambitieuze hardware-ontwikkelingsdoelen prees te midden van de brede inspanningen van de industrie om de GPU-dominantie van Nvidia te doorbreken.Amodei reageerde niet publiekelijk op de opmerkingen..
Samsung heeft bijna native DRAM-prestaties bereikt voor AI-afgeleide werklasten met behulp van extern CXL-gepoold geheugen voor KV-cache-afladen, volgens zijn officiële tech-blog.LLM's zijn afhankelijk van KV-cache om gecomputeerde aandachtssleutels en waarden op te slaan om inferentie-latentie en redundante computing te verminderen, maar grote modellen vereisen honderden gigabytes cache, gemakkelijk hoger dan het ingebouwde AI-processorgeheugen.Conventioneel SSD- of netwerkgebaseerd afladen vergemakkelijkt capaciteitsbeperkingen, maar brengt extra latentie en bandbreedte overhead in.
CXL-technologie doorbreekt de traditionele fysieke beperkingen van DRAM via coherente PCIe-interconnecties met een hoge bandbreedte, waardoor schaalbaar geheugen wordt gebundeld op meerdere apparaten via CXL-switches.Samsung's CMM-D (CXL Memory Module-DRAM) is speciaal gebouwd voor deze uitgebreide geheugenarchitectuur.
Samsung testte zijn CMM-D-modules met Nvidia RTX PRO 6000 Blackwell GPU's over PCIe Gen5, waarbij een 1TB CXL-geheugenpool werd gebouwd met vLLM- en LMCache-software-optimalisaties.Tests bevestigden dat de pool grootschalige KV-cache-afladen ondersteunt met bijna DRAM-prestatiesIn single-GPU-opstellingen, geoptimaliseerde CXL pooling matched DRAM prestaties als de LMCache backend.het behoudt 92% van de native DRAM doorvoer met veel grotere geheugencapaciteit.
Verdere tests vergeleken een 512 GB lokale DRAM-opstelling met een CXL-pool van 1 TB onder stijgende KV-cachelasten.Lokale DRAM leed aan ernstige prestatieverliezen door herhaalde cache-herberekening zodra de capaciteit werd overschreden, terwijl de CXL-pool een stabiele prestatie heeft behouden en veel grotere cache-voetafdrukken ondersteunt.
Samsung merkt op dat de huidige CXL-switch-implementaties kernel- en softwareaanpassingen op hostniveau vereisen voor LMCache en andere componenten.0-based memory pooling toont een groot toepassingspotentieel, met de voortdurende veroudering van het ecosysteem via Intel DMR, AMD Venice en nieuwe CXL 3.0-switchplatforms om bestaande technische beperkingen te elimineren.
Ten slotte is er een groeiende kloof ontstaan tussen Micron en Apple.Citrini's Jukan onthult dat Apple lobbyde bij het Witte Huis om goedkeuring te krijgen voor het inzetten van China's beursgenoteerde CXMT DRAM in zijn apparatenDe wrijving komt voort uit een langdurige wrok van Micron CEO Sanjay Mehrotra,Daterend uit zijn Sandisk ambtstermijn toen Apple dwong lage flash geheugen prijzen tijdens een koper's marktMet de huidige geheugenmarkt die leveranciers bevoordeelt, is Mehrotra naar verluidt niet bereid om de prijzen en leveringsbeperkingen voor Apple te verlichten.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang, directeur Global Strategy
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Zaken:
Distributie van ICT-producten/Systeemintegratie en diensten/Infrastructuuroplossingen
Met meer dan 20 jaar IT-distributie-ervaring werken we samen met toonaangevende wereldwijde merken om betrouwbare producten en professionele diensten te leveren.
Technologie gebruiken om een intelligente wereld te bouwenUw betrouwbare ICT-productdienstverlener!
Uw bericht moet tussen de 20-3.000 tekens bevatten!
Dutch
