Whitepaper tecnico: Soluzione switch InfiniBand NVIDIA Mellanox 920-9B210-00FN-0D0

L'evoluzione dei carichi di lavoro computazionali verso la formazione dell'intelligenza artificiale su scala esa e le simulazioni HPC ad alta fedeltà ha cambiato fondamentalmente il collo di bottiglia delle prestazioni dal calcolo all'interconnessione.I moderni cluster RDMA-dipendenti richiedono un tessuto che offra non solo un'alta larghezza di banda ma anche una latenza deterministica ultra-bassaLe reti legacy spesso introducono latenza variabile, perdita di pacchetti indotta da congestione e complessità di gestione.che si traducono direttamente in tempi di risoluzione più lunghi, risorse GPU/CPU sottoutilizzate e maggiori spese operative.

Questa soluzione tecnica risponde ai requisiti fondamentali per i data center e le strutture di ricerca di nuova generazione:tessuto ad alte prestazioni in grado di far convergere carichi di lavoro classici HPC (basati su MPI) e moderni AI (comunicazione collettiva)Le principali esigenze tecniche includono la latenza di commutazione sub-microsegonda, il throughput non bloccante per i modelli di comunicazione all-to-all, il controllo intelligente della congestione,e un quadro di gestione che fornisce visibilità e automazione approfondite. il920-9B210-00FN-0D0 InfiniBand switch OPN soluzioneE' progettato per soddisfare questi severi standard.

L'architettura proposta è un tessuto di spina dorsale progettato per la massima larghezza di banda e scalabilità bisettale, basato sulla tecnologia NDR 400Gb/s InfiniBand.NVIDIA Mellanox 920-9B210-00FN-0D0Lo strato di foglia può consistere in un mix di switch NDR o HDR, che collegano nodi di calcolo (server GPU come i sistemi NVIDIA DGX, cluster CPU),con una capacità di accumulo pari ad alta prestazione (NVMe-oF), e nodi di gestione.

Questo disegno decoppiato garantisce una latenza prevedibile ed elimina l'eccesso di sottoscrizione all'interno del tessuto.

• Tessuti unificati:Una rete unica per il traffico di calcolo (Est-Ovest) e di archiviazione, semplificando la gestione e riducendo il CAPEX.
• Operazione senza perdite:Sfruttare il controllo nativo della congestione e la gestione del flusso di traffico di InfiniBand per garantire la perdita di pacchetti zero, che è fondamentale per le prestazioni RDMA e MPI.
• Rete definite dal software:L'integrazione con NVIDIA Cumulus Linux e la piattaforma UFM® consente l'automazione dei tessuti programmabili e la gestione basata sulle politiche.

Il...920-9B210-00FN-0D0 MQM9790-NS2F 400 Gb/s NDRIl switch è la pietra angolare strategica di questa architettura, agendo come spina dorsale ad alte prestazioni.

Le sue caratteristiche tecniche principali, specificate nel documento ufficiale920-9B210-00FN-0D0 scheda dati, indirizzare direttamente l' ottimizzazione a bassa latenza:

• Switching cut-through e latenza ultra-bassa:Lo switch utilizza un'architettura di commutazione cut-through avanzata, raggiungendo una latenza da porta a porta inferiore a 100 nanosecondi..
• NDR 400Gb/s Larghezza di banda:Ogni porta offre 400Gb/s, fornendo il necessario spazio di manovra per evitare la congestione durante i picchi di carico di lavoro come i checkpoint di addestramento dell'IA distribuiti o le operazioni MPI_allreduce su larga scala.
• Routing e controllo della congestione adattivo:La tecnologia SHARPTM v3 di NVIDIA, incorporata nello switch, sgancia le operazioni collettive dalla CPU,riducendo drasticamente i costi di sincronizzazioneIn combinazione con il routing dinamico e adattivo, evita i punti caldi e garantisce un utilizzo equilibrato del tessuto.
• Compatibilità con il passato e con il futuro:Il passaggio è parte integrante di una strategia di migrazione fluida.compatibileL'obiettivo è quello di migliorare l'efficienza dei sistemi HDR con le attrezzature HDR (200 Gb/s) ed EDR (100 Gb/s) esistenti, consentendo aggiornamenti graduali.920-9B210-00FN-0D0 specificheè fondamentale per la pianificazione della connettività portuale e dei tipi di cavi.

La distribuzione iniziale dovrebbe seguire un approccio modulare "pod".920-9B210-00FN-0D0switch in un ruolo di spina dorsale per la ridondanza, collegati a più switch HDR o NDR che supportano diverse dozzine di nodi di calcolo.

Topologia raccomandata per prestazioni ottimali:Una topologia a due livelli non bloccante di Clos (Fat-Tree).Il numero di switch spine (920-9B210-00FN-0D0 unità) è determinato dal numero di collegamenti ascendenti da ciascun switch di foglia e dal rapporto di sovra-sottoscrizione desiderato (idealmente 11 per HPC/AI).

• Scalare:Per ridimensionare il cluster, aggiungere più interruttori foglia e proporzionalmente aggiungere di più920-9B210-00FN-0D0L'indirizzamento del tessuto e la scala di routing senza soluzione di continuità sotto la gestione UFM®.
• Scalare:I singoli nodi possono essere aggiornati a NDR NIC, sfruttando immediatamente la piena larghezza di banda di 400 Gb/s per la spina dorsale.compatibileLa natura sostiene questo ambiente eterogeneo.
• Cablaggio e alimentazione:La pianificazione della distribuzione deve tener conto dei cavi ottici compatibili con NDR (ad esempio OSFP).920-9B210-00FN-0D0 specifichefornire dati esatti sul consumo di energia e sulla temperatura per una progettazione accurata dell'alimentazione e del raffreddamento del data center.

Quando questa soluzione è disponibileper la vendita, si consiglia di collaborare con partner certificati per modellare la corretta920-9B210-00FN-0D0 prezzoe quantità per il vostro piano di scalabilità specifico.

L'eccellenza operativa è raggiunta attraverso la piattaforma NVIDIA UFM®.920-9B210-00FN-0D0Scambio.

• Monitoraggio proattivo:UFM® offre telemetria in tempo reale sullo stato degli switch, l'utilizzo delle porte, la temperatura, i contatori di errori e un'analisi approfondita dei modelli di traffico a livello di applicazione,comprese le matrici di comunicazione MPI e RDMA.
• Gestione automatizzata dei tessuti:Dal provisioning iniziale e dalla convalida del cavo agli aggiornamenti del firmware e ai backup della configurazione, UFM® automatizza le attività di routine, riducendo gli errori umani e le spese operative.
• Risoluzione dei problemi:Gli strumenti avanzati possono individuare le anomalie delle prestazioni, identificare i flussi che si comportano male e causano congestione e visualizzare la topologia del tessuto per isolare rapidamente i collegamenti o i componenti difettosi.
• Ottimizzazione continua:Sfruttare le conoscenze UFM® per carichi di lavoro di dimensioni adeguate, convalidare che le prestazioni siano in linea confoglio datiL'obiettivo è quello di migliorare la capacità di produzione dei tessuti e di migliorare la capacità di produzione.

Implementazione di un'architettura del tessuto incentrata sulNVIDIA Mellanox 920-9B210-00FN-0D0Lo switch InfiniBand fornisce un vantaggio competitivo fondamentale per le organizzazioni che dipendono dall'informatica ad alte prestazioni.Questa soluzione tecnica offre un valore quantificabile in più dimensioni:

In sintesi, il920-9B210-00FN-0D0La Commissione ritiene che il progetto di infrastrutture integrate non sia solo un componente, ma anche un fattore di convergenza di infrastrutture ad alte prestazioni.Trasforma la rete da una potenziale responsabilità in un bene strategico che sblocca completamente la potenza dei moderni cluster computazionali.