Mellanox (NVIDIA) MCX556A-ECAT Server Network Adapter in pratica: RDMA/RoCE Low-Latency Transmission e Server

Nell'era attuale dell'esplosione dei dati, i data center aziendali si trovano ad affrontare sfide senza precedenti: come raggiungere velocità di trasmissione più elevate e maggiore throughput dei server garantendo la coerenza dei dati.In particolare in scenari quali il commercio finanziarioLa latenza introdotta dalla tradizionale stack di protocolli TCP/IP è diventata un collo di bottiglia fondamentale che limita lo sviluppo del business.Questo articolo approfondisce un caso di applicazione tipico basato sull'adattatore di rete per server Mellanox (NVIDIA) MCX556A-ECAT, dimostrando come si riforma l'architettura di trasmissione a bassa latenza attraverso la tecnologia RDMA/RoCE.

Una grande impresa di Internet (di seguito denominata "l'impresa") aveva attività principali che prevedevano analisi in tempo reale del controllo dei rischi e elaborazione di registri di massa.L'architettura di rete del data center originale utilizzava NIC standard da 25GbE con il protocollo TCP/IPCon l'aumento dei volumi di business, le CPU sono state spesso occupate da attività di elaborazione di pacchetti di rete, con conseguente aumento significativo della latenza di risposta delle applicazioni.e la produttività dei server è rimasta bloccata per lunghi periodi al di sotto dei livelli di strozzaturaAllo stesso tempo, la latenza di scambio di dati tra il cluster di storage e i nodi di calcolo era alta fino a diverse centinaia di microsecondi, influenzando gravemente l'efficienza di formazione dei modelli di IA.L'azienda aveva urgentemente bisogno di una soluzione di rete in grado di ridurre la latenza e l'utilizzo della CPU per supportare le applicazioni ad alta intensità di dati di nuova generazione.

Nel corso della loro indagine, il team tecnico ha identificato la tecnologia RDMA (Remote Direct Memory Access) come la chiave per risolvere il problema.Le soluzioni InfiniBand tradizionali erano costose e difficili da integrare con l'ambiente Ethernet esistente dell'aziendaPertanto, trovare un NIC ad alte prestazioni in grado di supportare perfettamente il RoCE (RDMA su Ethernet convergente) è diventato il requisito fondamentale del progetto.

Dopo rigorosi test e valutazioni, l'azienda ha finalmente selezionato il Mellanox (NVIDIA) MCX556A-ECAT come componente principale per l'aggiornamento della rete.Questa scheda di rete NVIDIA Mellanox MCX556A-ECAT, basato sull'architettura ConnectX-5, supporta nativamente la tecnologia RoCE v2, consentendo la funzionalità RDMA su infrastrutture Ethernet standard e bilanciando perfettamente prestazioni e costi.Il team di distribuzione ha installato questa scheda di adattatore Ethernet MCX556A-ECAT in nodi chiave di calcolo e di archiviazione, collegandoli in rete con gli switch 100GbE esistenti.

Durante il processo di implementazione, gli ingegneri hanno sfruttato appieno le funzionalità di scarico intelligente di questa scheda di rete PCIe ad adattatore MCX556A-ECAT ConnectX.Abilitando QoS (Quality of Service) e PFC (Priority Flow Control), hanno garantito una garanzia di bassa latenza per il traffico RoCE anche durante la congestione della rete.consentendo loro di beneficiare di miglioramenti delle prestazioni RDMA senza alcuna modifica del codice.

Dopo l'implementazione, le prestazioni della rete aziendale hanno raggiunto un balzo qualitativo.La latenza di accesso ai dati tra i nodi di memorizzazione e di calcolo è scesa da 200 microsecondi a meno di 5 microsecondiIn secondo luogo, grazie alle potenti capacità di scarico hardware del MCX556A-ECAT,la CPU overhead per l'elaborazione del protocollo di rete è stata ridotta di oltre il 90%Le risorse di calcolo liberate sono state riassegnate alle applicazioni aziendali principali, con conseguente aumento complessivo del throughput del server di quasi tre volte.

Secondo le dettagliate specifiche MCX556A-ECAT e i dati di monitoraggio effettivi, il NIC ha dimostrato prestazioni eccellenti nella gestione di pacchetti di dati di piccole dimensioni con elevata concurrenza,raggiungere l'inoltro a velocità di filo con perdita di pacchetti zeroQuesta caratteristica è fondamentale per gli scenari di trading ad alta frequenza e di controllo del rischio in tempo reale.Il nostro collo di bottiglia della rete è stato completamente eliminato.Ora possiamo espandere con sicurezza i nostri cluster di formazione sull'IA senza preoccuparci che la rete diventi un anello debole".questo caso fornisce un valido riferimento, dimostrando che non si tratta solo di un pezzo di hardware, ma di una comprovata soluzione di schede di adattamento Ethernet MCX556A-ECAT.

Oltre ai vantaggi principali offerti da RDMA/RoCE, l'impresa ha anche scoperto ulteriori potenzialità del MCX556A-ECAT durante la sua applicazione.sfruttando le sue funzionalità di offload virtualizzazione integrate densità di rete significativamente migliorata in ambienti virtualizzatiLa tecnologia di controllo dell'interruzione dinamica ha ulteriormente ottimizzato i tassi di successo della cache della CPU.

Per aiutare altri potenziali utenti a comprendere i dettagli del prodotto, l'impresa raccomanda di fare riferimento alla scheda ufficiale MCX556A-ECAT,che contiene elenco completo dei parametri di prestazione e di compatibilitàAttualmente, questo MCX556A-ECAT in vendita è disponibile sul mercato globale, e i dettagli specifici sui prezzi del MCX556A-ECAT possono essere ottenuti contattando i canali ufficiali NVIDIA in base al volume di approvvigionamento.

Questo caso dimostra chiaramente le eccezionali prestazioni del Mellanox (NVIDIA) MCX556A-ECAT nell'affrontare le sfide della trasmissione a bassa latenza e dell'elevato throughput.Attraverso l'applicazione profonda della tecnologia RDMA/RoCE, non solo risolve i colli di bottiglia delle architetture di rete tradizionali, ma apre anche la strada alle future innovazioni ad alta intensità di dati dell'impresa.Con l'avvicinarsi dell'era di 400G/800G, il concetto di NIC intelligente incarnato dal NVIDIA Mellanox MCX556A-ECAT continuerà a guidare l'evoluzione delle reti di data center verso una maggiore efficienza e intelligenza.