Toevoegingen aan het breedste GenAI-oplossingenportfolio ter wereld bieden organisaties flexibele AI-oplossingen
- Toevoegingen aan de Dell AI Factory omvatten infrastructuur, oplossingen en diensten om de zakelijke adoptie van AI te vereenvoudigen en versnellen
- Vijf nieuwe Dell PowerEdge-servers met AMD EPYC-processors van de 5e generatie bieden vooruitstrevende AI-prestaties, efficiëntie en flexibiliteit op schaal
- Generatieve AI-oplossingen van Dell voor AMD vereenvoudigen AI-implementatie met aanzienlijke verbeteringen voor de time-to-value
- De Dell Enterprise Hub ondersteunt nu Dell PowerEdge XE9680 met AMD Instinct MI300X-acceleratoren om veilig de nieuwste Llama- en Mixtral-modellen te implementeren
- Dell Implementation Services for Generative AI Platform biedt eenvoudig te beheren, veilige on-premises AI-platformoplossingen om AI-innovatie te versnellen
Amsterdam, 11 oktober 2024 – Dell Technologies breidt ‘s werelds breedste portfolio van generatieve AI-oplossingen (GenAI) uit met Dell AI Factory-toevoegingen die op maat zijn gemaakt voor AMD-omgevingen. Deze oplossingen bieden organisaties verbeterde AI-mogelijkheden, waaronder een grotere schaalbaarheid en flexibiliteit, om concurrerend te blijven in het veranderende technologielandschap.
“Door AMD-technologie via de Dell AI Factory te integreren in de nieuwste servers, AI-oplossingen en diensten van Dell bieden we de prestaties en efficiëntie die organisaties vandaag en in de toekomst nodig hebben”, zegt Arthur Lewis, president, Infrastructure Solutions Group, Dell Technologies. “Samen met AMD zetten we nieuwe standaarden wat betreft AI-prestaties, waardoor we organisaties krachtige en kosteneffectieve oplossingen bieden die essentieel zijn voor moderne datagedreven omgevingen.”
“Onze nieuwste AMD EPYC-processors en Instinct-acceleratoren, bieden Dell-klanten geavanceerde end-to-end oplossingen, op schaal, die AI-implementaties zullen versnellen en bedrijfskritische IT-infrastructuur zullen aandrijven”, zegt Forrest Norrod, executive vice president en general manager, Data Center Solutions Group, AMD. “Onze langdurige samenwerking met Dell blijft baanbrekende oplossingen opleveren die de operationele efficiëntie verbeteren en de time-to-value verkorten, waardoor innovatie in zeer concurrerende sectoren wordt gestimuleerd.”
Nieuwe Dell PowerEdge-servers stimuleren veeleisende AI-workloads op schaal
De toevoegingen aan het Dell PowerEdge-portfolio stimuleren een breed scala aan AI use cases en traditionele workloads en vereenvoudigen serverbeheer en -beveiliging. De platforms bieden aanpasbare en efficiënte oplossingen die het beheer vereenvoudigen en high-performance workloads ondersteunen:
- De Dell PowerEdge XE7745, ontworpen voor zakelijke AI-workloads, ondersteunt tot acht double-width of zestien single-width PCIe GPU’s met 5e generatie AMD EPYC-processors in een 4U luchtgekoelde chassis. De interne GPU-slots zijn speciaal gebouwd voor AI inferencing, het verfijnen van modellen en high performance computing. Ook zijn ze gekoppeld aan acht extra Gen 5.0 PCIe-slots voor netwerkconnectiviteit. Dit zorgt voor dichte, flexibele configuraties met 2x meer DW PCIe GPU-capaciteit.[1]
- De PowerEdge R6725 en R7725 servers zijn geoptimaliseerd voor schaalbaarheid met 5e generatie AMD EPYC-processors die hoge prestaties leveren. Het nieuwe DC-MHS chassisontwerp maakt verbeterde luchtkoeling en dubbele 500W CPU’s mogelijk, waardoor zware thermische uitdagingen wat betreft vermogen en efficiëntie worden overwonnen.[2] Deze platforms kunnen zware gegevensanalyse en AI-workloads aan, met configuraties die zijn geoptimaliseerd voor schaalbaarheid. En ze bieden recordbrekende prestaties voor workloads zoals virtualisatie, databases en AI.[3] De R7725 levert tot 66% hogere prestaties en tot 33% hogere efficiëntie aan de top van de stack.[4]
Alle drie de platforms kunnen tot 50% meer cores ondersteunen, met tot 37% hogere prestaties per core, wat resulteert in betere prestaties, efficiëntie en een verbeterde TCO.[5] Deze verbeteringen consolideren tot zeven servers van vijf jaar oud in één server, wat resulteert in tot 65% lager CPU-verbruik.[6]
- De PowerEdge R6715- en R7715-servers met 5e generatie AMD EPYC-processors bieden betere prestaties, hogere efficiëntie en tot 37% hogere schijfcapaciteit, wat resulteert in een grotere opslagdichtheid.[7] De single-socket servers, die verkrijgbaar zijn in verschillende configuratieopties, ondersteunen de dubbele hoeveelheid geheugen dankzij ondersteuning voor 24 DIMM’s (2DPC). Ook voldoen ze aan uiteenlopende workload-vereisten en maximaliseren de prestaties in compacte 1U- en 2U-chassis.[8] De R6715 levert wereldrecordprestaties voor AI- en virtualisatietaken.[9]
Voor klanten die AI op schaal inzetten, blijft Dell Technologies ook alle nieuwste AMD Instinct-accelerators ondersteunen in Dell PowerEdge XE-servers.
IT-teams kunnen Dell PowerEdge-servers op afstand monitoren, beheren en updaten dankzij de verbeterde Integrated Dell Remote Access Controller (iDRAC). Met een snellere processor, meer geheugen en een speciale beveiligings co-processor vereenvoudigt iDRAC serverbeheer en -beveiliging, waardoor IT-teams betrouwbaarder en efficiënter kunnen reageren.
“De systemen die Dell Technologies en AMD leveren aan OSF Healthcare zorgen ervoor dat we betere diensten kunnen leveren aan onze artsen en patiënten, onze totale kosten kunnen verlagen en communities in nood kunnen helpen. Wanneer patiëntenlevens afhankelijk zijn van onze platforms, is het essentieel dat onze systemen 24/7 en 365 dagen per jaar stabiel en operationeel blijven”, zegt Joe Morrow, director, Technology Services, OSF Healthcare. “Dankzij deze systemen hebben we downtime aanzienlijk verminderd, waardoor OSF Healthcare superieure zorgdiensten kan leveren én ervoor zorgt dat de bedrijfsactiviteiten beveiligd en schaalbaar zijn.”
Verbeteringen aan Dell AI Factory vereenvoudigen en versnellen GenAI-implementaties
De Dell AI Factory is ontworpen om diverse AI-behoeften te ondersteunen met ‘s werelds breedste portfolio aan AI-oplossingen, van desktop tot datacenter en cloud, waardoor organisaties hun AI-inversteringen op maat kunnen maken:
- Dell Generative AI Solutions met AMD gebruiken de Dell PowerEdge XE9680-server met AMD Instinct MI300X-accelerators om AI-inferencing, retrieval augmented generation (RAG) en maatwerk te bieden. De integratie vereenvoudigt AI-implementatie, verbetert de beveiliging, zorgt voor schaalbare en modulaire architecturen en verkort de time-to-value met maximaal 86%, zodat organisaties hun AI-vesteringen kunnen optimaliseren.[10]
- De Dell Enterprise Hub on Hugging Face ondersteunt nu de Dell PowerEdge XE9680 met AMD Instinct MI300X-accelerators. Hierdoor hebben organisaties containers en scripts op maat voor eenvoudige, veilige implementatie van modellen zoals Llama en Mixtral. Deze gecontaineriseerde modellen zijn uniek geoptimaliseerd om de inferencing-prestaties te verbeteren op basis van het model en de server en maken gebruik van de Hugging Face Text Generation Inference (TGI) back-end.
- Dell Professional Services for Generative AI worden uitgebreid om AMD-omgevingen te ondersteunen. Nieuwe Dell Implementation Services for GenAI Platform met AMD bieden een operationeel platform op maat, inclusief Kubernetes-configuratie, implementatie van geavanceerde AI-frameworks en kennisoverdracht aan klanten over best practices om de ROI te maximaliseren. Van strategieontwikkeling tot het voorbereiden van gegevens, platform- en modelimplementatie en het schalen van oplossingen, Dell professionals helpen klanten om bedrijfsresultaten te behalen met AI in de hele levenscyclus.
“Dell Technologies en AMD blijven AI-innovatie stimuleren en bieden uitgebreide oplossingen en diensten die organisaties helpen datacenters te moderniseren, schaalbaarheid te verbeteren en AI te gebruiken voor betere bedrijfsresultaten”, zegt Kuba Stolarski, Research VP, IDC. “De nieuwste updates van de Dell AI Factory zijn de volgende stap in Dell’s reis om AI-oplossingen te leveren die efficiëntie en waarde verhogen.”
Beschikbaarheid
- De Dell PowerEdge XE7745 server is wereldwijd beschikbaar vanaf januari 2025.
- De Dell PowerEdge R6715, R7715, R6725 en R7725 servers zijn wereldwijd beschikbaar vanaf november 2024.
- Dell Generative AI Solutions met AMD zijn wereldwijd beschikbaar vanaf Q4 2024.
- Dell Enterprise Hub on Hugging Face-updates zijn vanaf nu wereldwijd beschikbaar.
- Hey Dell Implementation Services for Generative AI-platform is vanaf nu beschikbaar in geselecteerde landen.
Extra bronnen
AMD, het AMD Arrow-logo, AMD Instinct, EPYC en combinaties daarvan zijn handelsmerken van Advanced Micro Devices, Inc. Andere namen dienen uitsluitend ter informatie en kunnen handelsmerken zijn van hun respectieve eigenaars.
[1] Gebaseerd op een analyse van Dell van de specificatie van de Dell PowerEdge XE7745 en toont 8x PCIe Gen5 slots naast de GPU slots. Bovendien, als we de XE7745 vergelijken met de vorige generatie Dell PowerEdge R760XA, heeft de XE7745 ondersteuning voor maximaal 8 DW of 16SW GPU’s, terwijl de R760XA ondersteuning heeft voor maximaal 4 DW of 12 SW GPU’s. Gegevens accuraat per 10/2/2024.
[2] Gebaseerd op een analyse van Dell waarin de top CPU die wordt ondersteund in een Dell PowerEdge R7725 van de AMD EPYC 5th gen CPU met 192 zen 5c cores wordt vergeleken met de top CPU die wordt ondersteund in de Dell PowerEdge R7625 van de AMD EPYC 4th gen CPU’s met 128 zen 4c cores. Daarnaast gebaseerd op specificatiegegevens voor de Dell PowerEdge R7725 met ondersteuning voor 2x 500W CPU’s met luchtkoeling. Gegevens accuraat per 02/10/2024. Werkelijke prestaties kunnen afwijken.
[3] Gebaseerd op Dell PowerEdge servers die wereldrecordscores behaalden voor VMMark4 (2-S matched pair score van 5.17@5.8 tiles met de Dell PowerEdge R7725), SAP-SD (2-S score van 201.000 gebruikers met de Dell PowerEdge R6725), en TPCx-AI (Scores van 720,386 @SF3, 864,593@SF10 en 1115,609@SF30 met de Dell PowerEdge R6715 en R6725) per 10/02/2024. Werkelijke prestaties kunnen afwijken.
[4] Gebaseerd op een analyse van Dell van de SPECIntRate scores van de AMD EPYC 5th gen 9965 CPU van 2980 met een cTDP van 500 W in de R7725 met die van de AMD EPYC 4th gen 9754 CPU van 1790 met een cTDP van 400 W in een R7625. De efficiëntie voor elke configuratie wordt berekend door de SPECInt Score te delen door de standaard TDP. Gegevens accuraat per 10/2/2024. Daadwerkelijke prestaties kunnen variëren.
[5] Gebaseerd op een analyse van Dell waarbij de top SKU die wordt ondersteund in een Dell PowerEdge R7725 van de AMD EPYC CPU van de 5e generatie met 192 zen 5c cores wordt vergeleken met de top SKU die wordt ondersteund in de Dell PowerEdge R7625 van de AMD EPYC CPU’s van de 4e generatie met 128 zen 4c cores. Gegevens accuraat per 02/10/2024. Werkelijke prestaties kunnen afwijken.
[6] Gebaseerd op een analyse van Dell waarbij de SPECint- en SPECFP-scores van de AMD EPYC 5th Gen 9965 in een Dell R7725 ( 2980 en 2350) worden vergeleken met dezelfde scores voor een Intel Xeon 8280 in een Dell PowerEdge R740XD ( 375 en 296). De verhouding van de scores laat zien dat 7 van de R740xd servers een totaalscore zouden geven die vergelijkbaar is met die voor de enkele R7725 zoals hierboven geconfigureerd. De CPU’s in een enkele R7725 hebben een totale TDP van 1000 W (2×500 W). De CPU’s in 7x R740XD’s zouden een totale TDP hebben van 2870W (2*205*7) waarbij elke Intel Xeon 8280 een TDP heeft van 205W. Dit komt neer op een vermindering van CPU-vermogen van 65%. Gegevens accuraat per 02/10/2024. Werkelijke prestaties kunnen variëren.
[7] Gebaseerd op een analyse van Dell van specificaties waarin de Dell PowerEdge R67x5 server met maximaal 22 E3.s drive slots wordt vergeleken met de Dell PowerEdge R66x5 servers met maximaal 16 E3.s drive slots. De gegevens zijn verzameld op 02/10/2024.
[8] Gebaseerd op een analyse van Dell van de specificaties van de Dell Rx715 met 24 DIMM slots in vergelijking met de Dell Rx615 servers met elk 12 DIMM slots. Gegevens accuraat per 02/10/2024.
[9] Gebaseerd op Dell PowerEdge servers met wereldrecordscores voor SPECVirt (1-S 4-node SAN score van 3,38 met de Dell PowerEdge R6715 is een wereldrecordscore voor SPECVirt op 32 core per systeemniveau) en TPCx-AI (scores van 720,386 @SF3, 864,593@SF10 met de Dell PowerEdge R6715 zijn wereldrecords voor prestaties) met ingang van 10/02/2024. Werkelijke prestaties kunnen afwijken.
[10] Schatting gebaseerd op een analyse van Dell in mei 2024 waarbij de tijd voor het instellen van een Kubernetes-cluster met 2 knooppunten voor een universele LLM wordt vergeleken met de tijd voor het handmatig implementeren van een algemeen ontwerp met behulp van geautomatiseerde scripts. De installatietijd omvat alleen de basisinstallatie. De werkelijke installatietijd is afhankelijk van de configuratie van de oplossing.
