Supermicro espande le soluzioni IA con le imminenti piattaforme NVIDIA HGX H200 e MGX Grace Hopper dotate di memoria HBM3e
(Adnkronos) - Supermicro estende le linee di prodotti a 8 GPU, 4 GPU e MGX con il supporto per il superchip Grace Hopper e NVIDIA HGX H200 per applicazioni LLM con memoria HBM3e più veloce e più ampia – L'innovativo server 4U raffreddato a liquido di Supermicro con 8 GPU NVIDIA HGX raddoppia la densità di elaborazione per rack e consente fino a 80 kW/rack, riducendo il TCO
SAN JOSE, California e DENVER, 13 novembre 2023 /PRNewswire/ -- Supercomputing Conference (SC23) -- Supermicro, Inc. (NASDAQ: SMCI), un produttore di soluzioni IT totali per IA, cloud, storage e 5G/edge, sta espandendo la portata delle sue soluzioni IA con l'imminente supporto per il nuovo NVIDIA HGX H200 realizzato con varie GPU H200 Tensor Core. Le piattaforme IA avanzate di Supermicro, che comprendono sistemi di GPU universali 8U e 4U, sono predisposte per il superchip HGX H200 a 8 GPU o 4 GPU, e con quasi il doppio della capacità e memoria HBM3e con larghezza di banda di 1,4 volte superiore rispetto alla GPU NVIDIA H100 Tensor Core. Inoltre, il più vasto portafoglio di sistemi Supermicro NVIDIA MGXTM supporta l'imminente superchip NVIDIA Grace Hopper con memoria HBM3e. Con prestazioni, scalabilità e affidabilità senza precedenti, le soluzioni IA scalabili per rack di Supermicro accelerano le prestazioni dell'IA generativa ad altissima intensità di elaborazione, l'addestramento degli LLM (Large language Model) e applicazioni di elaborazione a elevate prestazioni (HPC, High-Performance Computing) mentre soddisfano le domande in evoluzione di dimensioni sempre più grandi dei modelli. Impiegando la sua architettura a 'blocchi costruttivi', Supermicro può introdurre velocemente nuove tecnologie sul mercato, consentendo ai clienti di conseguire una maggiore produttività in tempi più brevi.
Supermicro sta anche lanciando il server a più alta densità nel settore con sistemi a 8 GPU NVIDIA HGX H100 in un sistema 4U raffreddato a liquido, utilizzando la più recente soluzione per il raffreddamento a liquido sviluppata da Supermicro. Il server GPU altamente performante più compatto nel settore mette in grado gli operatori di data center di ridurre gli ingombri e i costi energetici e al contempo di offrire la capacità di addestramento dell'IA dalle massime prestazioni in un singolo rack. Grazie ai sistemi di GPU di massima densità, le aziende possono ridurre il loro TCO (Total Cost of Ownership) utilizzando soluzioni per il raffreddamento a liquido all'avanguardia.
"Supermicro ha stretto una partnership con NVIDIA per progettare i sistemi più avanzati per applicazioni HPC e addestramento dell'IA", spiega Charles Liang, presidente e Ceo di Supermicro. "La nostra architettura a 'blocchi costruttivi' ci mette in grado di essere i primi sul mercato con la tecnologia più avanzata, consentendo ai clienti di implementare l'IA generativa più rapidamente che mai. Possiamo fornire questi nuovi sistemi ai clienti più velocemente grazie ai nostri stabilimenti di produzione in tutto il mondo. I nuovi sistemi, che utilizzano la GPU NVIDIA H200 con le interconnessioni GPU-GPU ad alta velocità NVIDIA® NVLink™ e NVSwitch™ a 900 GB/s, ora forniscono fino a 1,1 TB di memoria HBM3e a elevata larghezza di banda per nodo nelle nostre soluzioni IA scalabili da rack per offrire le massime prestazioni del parallelismo di modelli per l'IA generativa e gli LLM di oggi. Non solo: stiamo offrendo anche il server con raffreddamento a liquido a 8 GPU NVIDIA HGX, che raddoppia la densità delle nostre soluzioni IA scalabili da rack e riduce i costi energetici per ridurre l'impatto ambientale (green computing) degli attuali data center accelerati".
Per saperne di più sui server Supermicro dotati delle GPU NVIDIA
Supermicro progetta e fabbrica un vasto portafoglio di server IA con diversi fattori di forma. I diffusissimi sistemi di GPU universali 8U e 4U, dotati di GPU NVIDIA HGX H100 a quattro vie e otto vie, ora sono predisposti per le nuove GPU H200 per addestrare modelli linguistici di dimensioni ancora più grandi in meno tempo. Ciascuna GPU NVIDIA contiene 141 GB di memoria con larghezza di banda pari a 4,8 TB/s.
"Gli imminenti server progettati da Supermicro e che utilizzano le NVIDIA HGX H200 contribuiranno ad accelerare i carichi di lavoro HPC e dell'IA generativa affinché le aziende e le organizzazioni possano ottenere il massimo dalle loro infrastrutture IA", spiega Dion Harris, direttore soluzioni prodotti data center per HPC, IA e computing quantistico presso NVIDIA. "La GPU NVIDIA H200 con memoria HBM3e ad alta velocità sarà in grado di gestire quantità enormi di dati per una varietà di carichi di lavoro".
Inoltre, i server Supermicro MGX lanciati di recente e dotati dei superchip NVIDIA GH200 Grace Hopper sono realizzati in modo da incorporare la GPU NVIDIA H200 con memoria HBM3e.
Le nuove GPU NVIDIA consentono l'accelerazione dei modelli linguistici di grandi dimensioni (LLM) odierni e futuri con centinaia di miliardi di parametri in modo da adattarli in cluster più compatti ed efficienti per addestrare l'IA generativa in meno tempo e inoltre consentono di adattare gli LLM in un solo sistema ai fini dell'inferenza LLM in tempo reale affinché l'IA generativa sia utilizzabile da milioni di utenti.
All'SC23 Supermicro sta presentando l'offerta più recente, un sistema di GPU universale 4U dotato della NVIDIA HGX H100 a otto vie che utilizza le più recenti innovazioni nel raffreddamento a liquido per migliorare ulteriormente la densità e l'efficienza e dare così impulso all'evoluzione dell'IA. Con i dissipatori a piastre per GPU e CPU, le CDU (unità di distribuzione del raffreddamento) e i CDM (collettori di distribuzione del raffreddamento) Supermicro all'avanguardia progettati per il green computing, il nuovo sistema di GPU universale 4U raffreddato a liquido è inoltre predisposto per la NVIDIA HGX H200 a otto vie, che ridurrà in misura notevolissima gli ingombri dei data center, i costi dell'alimentazione elettrica e le difficoltà di implementazione tramite le soluzioni da rack con raffreddamento a liquido completamente integrate di Supermicro e i nostri test di validazione L10, L11 e L12.
Per maggiori informazioni visitare lo stand Supermicro all'SC23
Informazioni su Super Micro Computer, Inc.
Supermicro (NASDAQ: SMCI) è un leader globale nelle soluzioni IT totali ottimizzate per le applicazioni. Azienda fondata e operativa a San Jose, California, Supermicro è impegnata a sviluppare innovazioni per il mercato delle infrastrutture aziendali, del cloud, dell'AI e del 5G TLC/edge. Siamo un produttore di soluzioni IT totali che propone server, IA, storage, IoT, sistemi switch, software e servizi di assistenza. La competenza di Supermicro nel campo delle schede madri, dell'alimentazione e della progettazione degli châssis favorisce ulteriormente le attività di sviluppo e produzione dell'azienda e rende possibile l'innovazione di prossima generazione, dal cloud all'edge, per i nostri clienti globali. Le nostre soluzioni sono progettate e fabbricate internamente (negli Stati Uniti, a Taiwan e nei Paesi Bassi), sfruttando le operazioni globali per generare scalabilità ed efficienza, e ottimizzate per migliorare il TCO (Total Cost of Ownership) e ridurre l'impatto ambientale (green computing). Il premiato portafoglio delle Server Building Block Solutions® consente ai clienti di scegliere l'ottimizzazione maggiormente in linea con i requisiti specifici dei loro carichi di lavoro e applicazioni, scegliendo all'interno di una vasta famiglia di sistemi realizzati con i nostri 'blocchi costruttivi' flessibili e riutilizzabili che supportano una serie completa di fattori di forma, processori, memorie, GPU, storage, reti, alimentazione e soluzioni per il raffreddamento (ad aria condizionata, ad aria libera o a liquido).
Supermicro, Server Building Block Solutions e We Keep IT Green sono marchi di fabbrica e/o marchi di fabbrica registrati di Super Micro Computer, Inc.
Tutti gli altri marchi, nomi e marchi di fabbrica sono di proprietà dei rispettivi titolari.
Foto - https://mma.prnewswire.com/media/2274161/03_2023__4U_8GPU_H200_1080.jpgLogo - https://mma.prnewswire.com/media/1443241/Supermicro_Logo.jpg
