Mellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0 InfiniBand Switch in azione: ottimizzazione dell'interconnessione a bassa latenza
May 29, 2026
Nella formazione sull'intelligenza artificiale nel mondo reale e nelle implementazioni di elaborazione ad alte prestazioni, la latenza di rete e il sovraccarico della CPU spesso diventano killer silenziosi della scalabilità. Questa sintesi applicativa esamina il modo in cui un'organizzazione di ricerca di medie dimensioni ha affrontato proprio queste sfide implementando ilMellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0Il passaggio a InfiniBand come struttura principale per il cluster di ricerca basato su GPU.
Il vecchio tessuto RoCE Ethernet da 100 Gb/s dell'organizzazione soffriva di una latenza di coda imprevedibile a causa di tempeste PFC (Priority Flow Control) e di una gestione inefficiente della congestione. Poiché le dimensioni dei modelli di intelligenza artificiale sono cresciute da 10 miliardi a oltre 50 miliardi di parametri, le operazioni di comunicazione collettiva (All-Reduce, All-to-All) hanno consumato quasi il 45% del tempo di iterazione totale. Avevano bisogno di un tessuto senza perdite e a bassa latenza in grado di sfruttare appieno RDMA pur mantenendo il ridimensionamento lineare delle prestazioni. La ricerca confluì rapidamente su920-9B110-00FH-0D0come l’elemento costitutivo più promettente.
La squadra ha selezionato il920-9B110-00FH-0D0 MQM8790-HS2F HDR da 200 Gb/sswitch come dorsale dello strato spinale, interconnettendo 64 nodi GPU su quattro rack. Utilizzando il920-9B110-00FH-0D0 Interruttore InfiniBand OPNquadro di ordinazione, hanno implementato due switch spine ridondanti con 40 porte HDR ciascuno, ottenendo un rapporto di sottoscrizione in eccesso 1:1 senza blocchi. L'implementazione ha sfruttato Adaptive Routing e SHARPv2 (Scalable Hierarchical Aggregation and Reduction Protocol), funzionalità completamente documentate nelScheda tecnica 920-9B110-00FH-0D0— scaricare le operazioni collettive direttamente sullo switch fabric. Per compatibilità, il team ha confermato che il fileCompatibile con 920-9B110-00FH-0D0L'ecosistema includeva gli adattatori HDR ConnectX-6 esistenti e l'ottica QSFP56 standard.
La telemetria post-distribuzione ha rivelato miglioramenti notevoli. La latenza end-to-end tra due nodi GPU qualsiasi è scesa da 3,2 µs (RoCE) a meno di 1,1 µs, con jitter ridotto dell'80%. Offload SHARPv2 suNVIDIA Mellanox 920-9B110-00FH-0D0ridotto Tutto-Riduci il tempo di completamento del 57% per i lavori con 512 GPU. La tabella seguente riassume i parametri chiave:
| Metrico | Precedente (RoCE) | Con 920-9B110-00FH-0D0 |
|---|---|---|
| Media Latenza P2P (ping-pong MPI) | 3,2 µs | 1,08 µs |
| All-Reduce (512 GPU, messaggio da 1 GB) | 17,3 ms | 7,4 ms |
| Utilizzo efficace della larghezza di banda | 62% | 94% |
| Sovraccarico della CPU (per 10 Gb/s) | ~8% | <1% |
Al di là dei numeri grezzi, il920-9B110-00FH-0D0 Soluzione OPN switch InfiniBandridotta complessità operativa. Utilizzando NVIDIA UFM (Unified Fabric Manager), il team ha ottenuto visibilità del fabric in tempo reale, ottimizzazione automatizzata del percorso e avvisi proattivi di congestione, funzionalità non disponibili nella precedente implementazione Ethernet. ILSpecifiche 920-9B110-00FH-0D0ha inoltre consentito un funzionamento efficiente dal punto di vista energetico: lo chassis 1U ha consumato solo 180 W a pieno carico, riducendo il contributo PUE.
Per le organizzazioni che valutano aggiornamenti simili, il920-9B110-00FH-0D0 prezzosi confronta favorevolmente con gli equivalenti switch Ethernet da 200 Gb/s tenendo conto del minore sovraccarico della NIC e dell'eliminazione delle costose licenze Ethernet senza perdita di dati. Ora sono elencati più distributori920-9B110-00FH-0D0 in venditacon tempi di consegna inferiori alle quattro settimane. L'analisi del ROI del team ha mostrato un periodo di recupero dell'investimento di 9 mesi derivante esclusivamente dai miglioramenti nell'utilizzo della GPU.
La distribuzione ha confermato che ilNVIDIA Mellanox 920-9B110-00FH-0D0mantiene la promessa di latenza inferiore al microsecondo, larghezza di banda bisezionale completa ed efficienza nativa RDMA. Per gli architetti che progettano cluster AI o sistemi HPC di prossima generazione, questo switch rappresenta un elemento comprovato e pronto per la produzione. Man mano che i carichi di lavoro continuano a scalare verso l'exascale, le soluzioni costruite attorno a920-9B110-00FH-0D0rimarrà in prima linea nella progettazione di interconnessioni ad alte prestazioni.