NVIDIA Mellanox 920-9B210-00FN-0D0 Annunciato: Ridefinire le Fondamenta delle Reti AI Ultra-Scale con 400Gb/s NDR

NVIDIA Mellanox 920-9B210-00FN-0D0 annunciato: ridefinizione della base della rete AI a scala ultra con NDR a 400Gb/s

Come i grandi modelli linguistici scala da centinaia di miliardi a trilioni di parametri,Le reti HDR tradizionali a 200 Gb/s stanno mostrando i loro limiti in scenari di comunicazione collettiva densa come all-to-all, dove l'utilizzo della GPU spesso crolla a causa della congestione della rete.NVIDIA Mellanox 920-9B210-00FN-0D0, un switch NDR InfiniBand da 400Gb/s progettato per fornire la larghezza di banda, la densità e l'intelligenza in rete richiesti per i carichi di lavoro AI e HPC più esigenti.

La sfida: quando l'HDR diventa il collo di bottiglia

Per le organizzazioni che aumentano la scala dei loro cluster GPU oltre i 2.000 nodi, i limiti di 200Gb/s HDR diventano sempre più evidenti.Durante le operazioni all-reduce e all-to-all, che sono fondamentali per l'addestramento distribuito, la congestione della rete può ridurre l'utilizzo della GPU dall'85% al 50%, sprecando milioni di dollari in investimenti informatici.Gli architetti di rete affrontano la doppia sfida di fornire latenza deterministica di sotto-microsegondi mantenendo le prestazioni senza perdite su migliaia di endpoint.

Il920-9B210-00FN-0D0 InfiniBand switch OPN(Ordering Part Number) affronta queste sfide portando le prestazioni NDR a 400 Gb/s su una piattaforma OSFP a 64 porte,fornire lo spazio e l'intelligenza necessari per eliminare gli stallo indotti dalla rete anche negli ambienti di formazione AI più esigenti.

Principali caratteristiche tecniche

Costruito sullo stesso silicio del largamente adottato MQM9790-NS2F, il920-9B210-00FN-0D0 MQM9790-NS2F 400 Gb/s NDRLa piattaforma fornisce un insieme completo di funzionalità progettate per le implementazioni di classe exascale.920-9B210-00FN-0D0 scheda dati, l'interruttore offre:

• 64 porte di 400 Gb/s NDR:Ogni porta OSFP supporta 400Gb/s bidirezionali con correzione degli errori in avanti (FEC), fornendo una capacità di commutazione complessiva di 51.2 Tb/s.
• Latenza ultra bassa:La latenza di taglio inferiore a 100 ns, come documentato nel920-9B210-00FN-0D0 specifiche, garantisce costi generali minimi per le operazioni RDMA e MPI.
• SHARPv3 integrato:Offload operazioni collettive (all-reduce, all-to-all, broadcast) direttamente sul tessuto degli switch, riducendo la latenza della comunicazione fino al 40% per i lavori su larga scala.
• Routing e controllo della congestione adattivo:Ridirige dinamicamente il traffico per evitare i punti critici, mantenendo prestazioni prevedibili anche in condizioni di traffico avversario.
• Telemetria avanzata:I contatori per flusso e per porto, unitamente al monitoraggio dell'occupazione del buffer, forniscono una visibilità approfondita per una gestione proattiva.

Il920-9B210-00FN-0D0 compatibileL'ecosistema comprende una vasta gamma di cavi OSFP certificati NVIDIA, trasmettitori ottici e strumenti software, garantendo un'integrazione senza soluzione di continuità negli ambienti HDR o NDR greenfield esistenti.Per le organizzazioni che progettano l'infrastruttura di prossima generazione, lo switch supporta tessuti HDR/NDR misti, consentendo aggiornamenti graduali senza interrompere i carichi di lavoro di produzione.

Affrontare le esigenze di realizzazione

Per gli architetti di rete che progettano nuovi cluster di formazione sull'IA o che aggiornano i tessuti HDR esistenti, la920-9B210-00FN-0D0 InfiniBand switch OPN soluzioneoffre diversi vantaggi convincenti: la sua densità di 64 porte consente implementazioni top-of-rack con fino a 64 server a doppia porta per switch,riduzione del numero di interruttori e cavi necessari rispetto alle alternative a 40 porteNelle topologie a foglia-spina dorsale, questo si traduce in meno livelli di spina dorsale, minore latenza e ridotto costo totale di proprietà.

Lo switch eredita anche le robuste capacità di gestione del portafoglio InfiniBand di NVIDIA.automatizzare il provisioningL'interruttore è dotato di due alimentatori ridondanti e di un modulo ventilatore intercambiabile a caldo che garantisce una qualità di 99.Disponibilità del 999% per applicazioni mission-critical.

Quando si valuta920-9B210-00FN-0D0 prezzoIl costo iniziale è più elevato rispetto alle alternative HDR, ma il costo iniziale è più elevato rispetto alle alternative HDR.il costo per porta e il costo di rete per GPU sono significativamente inferiori quando ammortizzati su un grande cluster, rendendo il NDR una scelta sempre più conveniente per i progetti a esa-scala.920-9B210-00FN-0D0 in venditaè ora disponibile attraverso i partner di canale di NVIDIA, con le prime spedizioni dei clienti già in corso.

Riassunto: La Fondazione NDR per l'IA di nuova generazione

IlNVIDIA Mellanox 920-9B210-00FN-0D0rappresenta un significativo passo avanti nella rete ad alte prestazioni, fornendo la larghezza di banda, la densità e l'intelligenza necessarie per la prossima generazione di cluster AI e HPC.Combinando la velocità NDR di 400 Gb/s con la densità OSFP a 64 porte e il calcolo in rete SHARPv3, questo interruttore consente agli architetti di costruire tessuti scalabili e deterministici in grado di tenere il passo con i carichi di lavoro più impegnativi di miliardi di parametri.

Per le organizzazioni che pianificano la loro infrastruttura di prossima generazione, il 920-9B210-00FN-0D0 offre una chiara,- un percorso di elevate prestazioni, sia come implementazione in campo verde che come aggiornamento strategico dei tessuti HDR esistentiCon il suo set di funzionalità robuste, la sua gestione di livello enterprise e la sua compatibilità con l'ecosistema NVIDIA più ampio, questo switch è pronto a diventare una pietra angolare della rete di classe exascale..