Dutch
DeepInfra heeft officieel een nieuw AI datacenter in Toronto gelanceerd, wat de eerste buitenlandse inzet van het bedrijf buiten de VS en zijn negende faciliteit wereldwijd vertegenwoordigt.Deze nieuwe site vergroot DeepInfra's wereldwijde inferentie-infrastructuur, te midden van een wijdverspreide verschuiving in de vraag naar AI in de industrie van modelopleiding naar commerciële inferentiewerkbelastingen.
Het datacentrum in Toronto heeft een vermogen van 1,7 MW en zal meer dan 1000 NVIDIA Blackwell B300 GPU's bevatten.De nieuwe computercluster zal de wereldwijde inferentie-schaal van DeepInfra vergroten en een verminderde netwerklatentie bieden aan eindgebruikers in Canada en andere wereldregio's..
Deze uitbreiding sluit aan bij een duidelijke branchewijde transitie.De vraag naar datacenter-infrastructuur is steeds meer gericht op inferentie-werklasten in plaats van opleidingstakenGrote taalmodelafleidingen vereisen een consistente GPU-beschikbaarheid, een netwerk met lage latentie en geografisch verspreide infrastructuur om interactieve toepassingen, intelligente AI-agenten,en high-throughput API-dienstenVolgens het onderzoek van McKinsey & Company, waarnaar in de aankondiging wordt verwezen, zullen inferentiewerkbelastingen tegen 2030 40% van de totale vraag naar datacenters overschrijden, met een samengestelde jaarlijkse groeipercentage van 35%.
DeepInfra zegt dat de Toronto-implementatie speciaal is gebouwd om aan deze veranderende behoeften te voldoen.het plaatsen van GPU-berekeningsmiddelen dichter bij eindgebruikers en lokale gegevensbronnen, terwijl de totale doorvoer van het platform wordt uitgebreidHet bedrijf is onafhankelijk eigenaar en exploiteert zijn volledige GPU-infrastructuurstapel, die meer dan 200 open source AI-modellen ondersteunt.,de toepassing van zowel open als eigen modellen.
De lancering onderstreept ook de toenemende industriële acceptatie van NVIDIA's Blackwell-architectuur voor moderne inferentie-infrastructuur.Blackwell GPU's leveren verbeterde inferentie-doorvoer en betere energie-efficiëntie voor grote taalmodellen en multimodale AI-workloadsHoewel DeepInfra geen verdere details heeft vrijgegeven over netwerk- en opslagarchitectuur,Grootschalige implementaties van dit kaliber maken meestal gebruik van high-bandwidth interconnecties en gedistribueerde opslag om het volledige GPU-gebruik te behouden..
Zoals opgemerkt door Nikola Borisov, CEO en mede-oprichter van DeepInfra, is enterprise AI overgegaan van experimentele proeven naar grootschalige productie.het stimuleren van een grotere vraag naar wereldwijd gedistribueerde infrastructuur met lage latentie en schaalbare inferentie-mogelijkhedenHij legde uit dat de cluster in Toronto de eerste internationale uitbreiding van het bedrijf buiten de grenzen van de Verenigde Staten markeert, waarbij de rekenkrachten dicht bij de wereldwijde klanten en hun datasets worden geplaatst.
De faciliteit in Toronto volgt op de recente financieringsronde van DeepInfra's serie B en vormt een belangrijk onderdeel van de lange termijn roadmap voor de uitbreiding van de infrastructuur.Het bedrijf bevestigt dat het extra internationale datacenterlocaties evalueert om te voldoen aan de groeiende marktvraag naar GPU-aangedreven inferentiediensten.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang, directeur Global Strategy
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Zaken:
Distributie van ICT-producten/Systeemintegratie en diensten/Infrastructuuroplossingen
Met meer dan 20 jaar IT-distributie-ervaring werken we samen met toonaangevende wereldwijde merken om betrouwbare producten en professionele diensten te leveren.
Technologie gebruiken om een intelligente wereld te bouwenUw betrouwbare ICT-productdienstverlener!
Sandy Yang, directeur Global Strategy
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Zaken:
Distributie van ICT-producten/Systeemintegratie en diensten/Infrastructuuroplossingen
Met meer dan 20 jaar IT-distributie-ervaring werken we samen met toonaangevende wereldwijde merken om betrouwbare producten en professionele diensten te leveren.
Technologie gebruiken om een intelligente wereld te bouwenUw betrouwbare ICT-productdienstverlener!