Adattatore server NVIDIA Mellanox MCX4121A-ACAT in azione | Trasporto a bassa latenza RDMA/RoCE e guadagni di throughput del server

NVIDIA Mellanox MCX4121A-ACAT Server Adapter in azione.

Sfondo e sfida: quando 25GbE incontra il muro di latenza

Un fornitore di servizi cloud di medie dimensioni, chiamiamolo CloudNova, stava affrontando un collo di bottiglia familiare ma doloroso.Ma le prestazioni delle applicazioni raccontavano una storia diversa.La replicazione dei database è in ritardo, i lavori di apprendimento automatico distribuito sono bloccati sulla sincronizzazione dei gradienti e le serie di archiviazione NVMe non hanno mai consegnato i loro IOPS promessi.Il sovraccarico della stack TCP/IP tradizionale consumava oltre il 25% dei core CPU sui loro nodi di calcolo, e le NIC esistenti non avevano hardware per RDMA.utilizzabileLa loro ricerca li ha portati alNVIDIA Mellanox MCX4121A-ACATUna scheda progettata esattamente per questi moderni problemi dei data center.

La soluzione: utilizzo della scheda di adattamento Ethernet MCX4121A-ACAT

Il team di architettura di CloudNova ha sostituito i loro NIC 10GbE legacyscheda di adattatore Ethernet MCX4121A-ACATLa distribuzione ha sfruttato il supporto nativo RoCE v2 dell'adattatore per consentire il trasporto Ethernet senza perdite,eliminando la necessità di tessuti InfiniBand separatiLa chiave della soluzione era laMCX4121A-ACAT ConnectX-4 Lx a doppia porta 25GbE SFP28Il progetto, che ha permesso il collegamento attivo-attivo per un throughput aggregato di 50Gb/s per server.Il team ha configurato PFC (Priority Flow Control) ed ECN (Explicit Congestion Notification) a livello di switch, garantendo che il traffico RoCE rimanga senza perdite anche in condizioni di picco di carico.l'intero tessuto di storage e di calcolo era in esecuzione su RDMA una transizione fatta senza soluzione di continuità dall'adattatore out-of-the-box compatibilità con l'esistente cablaggio SFP28 e Mellanox Spectrum switch.

Da un punto di vista operativo, laMCX4121A-ACAT compatibileLe schede si sono integrate perfettamente con i server basati su Ubuntu e il cluster Kubernetes di CloudNova, richiedendo solo l'installazione di driver standard.Fogli di dati MCX4121A-ACATper affinare l'assegnazione del buffer e interrompere le impostazioni di fusione, raggiungendo prestazioni ottimali per il loro ambiente di carico di lavoro misto, che includeva cluster MySQL, Spark analytics,e lavori di formazione TensorFlow.

Risultati misurabili: throughput, latenza ed efficienza della CPU

Il miglioramento delle prestazioni è stato immediato e quantificabile.NVIDIA Mellanox MCX4121A-ACAT, il backend di archiviazione ha visto la latenza di lettura NVMe-oF scendere da 85 μs a soli 12 μs, un miglioramento di 7x. Il ritardo di replicazione del database tra i nodi primari e in standby si è ridotto da 320 ms a meno di 2 ms,che consentono una transizione di guasto quasi sincronaPer i carichi di lavoro di apprendimento automatico, il tempo di sincronizzazione totale per la formazione ResNet-50 è diminuito del 62%, riducendo il tempo complessivo di formazione epoch da 4,2 ore a 1,6 ore.

Oltre alla latenza, i guadagni di throughput dei server sono stati altrettanto convincenti.e VLAN tagging Questo ha liberato oltre 20 core CPU per server per la logica delle applicazioni, aumentando direttamente la densità dei container del 40%.Le specifiche MCX4121A-ACAT, la scheda fornisce una velocità di linea di 25GbE per porta con latenza inferiore a 1 μs, e i benchmark interni di CloudNova hanno confermato questi numeri in produzione.

Benefici operativi: TCO e preparazione al futuro

Anche se i dati relativi al rendimento grezzo sono convincenti, i guadagni operativi sono stati altrettanto significativi.Soluzione per schede di adattamento Ethernet MCX4121A-ACATridotto il costo totale di proprietà eliminando la necessità di un tessuto RDMA separato (risparmiando oltre $ 180K nell'infrastruttura degli switch).Consumo di energia per server diminuito di 8 W rispetto ai precedenti NIC, il che si traduce in un risparmio annuo di raffreddamento di circa il 15%.il traffico viene trasferito automaticamente alla porta secondaria con perdita di pacchetti zero, come verificato dai registri telemetrici dell'adattatore.

Per i responsabili IT che valutano laPrezzo MCX4121A-ACATIl CFO di CloudNova ha osservato che il periodo di recupero è stato inferiore a 10 mesi, in gran parte dovuto all'aumento dell'utilizzo dei server e alla riduzione dei tempi di completamento del lavoro.Il team ha anche apprezzato l'architettura lungimirante MCX4121A-ACAT in venditaL'obiettivo è quello di migliorare la capacità di distribuzione e di distribuzione dei dati, in modo da consentire ai consumatori di utilizzare i dispositivi di comunicazione più efficienti.

Riassunto e prospettive: un progetto per i data center RDMA-ready

Il percorso di CloudNova con laNVIDIA Mellanox MCX4121A-ACATIl progetto, che ha come obiettivo l'accelerazione della capacità di distribuzione, è stato realizzato con l'ausilio di una serie di tecnologie di base.e integrazione senza soluzione di continuità con gli ecosistemi esistenti, ilscheda di adattatore Ethernet MCX4121A-ACATIl risultato è una latenza di archiviazione 7 volte inferiore, una riduzione del 83% delle spese generali della CPU,e 62% di formazione più veloce per l'apprendimento automatico ̇ parlano della capacità dell'adattatore di fornire risultati di business misurabili.

In prospettiva, mentre i carichi di lavoro dell'IA e l'analisi in tempo reale continuano a guidare la domanda di reti deterministiche, ilMCX4121A-ACAT ConnectX-4 Lx a doppia porta 25GbE SFP28Per gli architetti e i responsabili IT che pianificano il loro prossimo aggiornamento delle infrastrutture, questo adattatore non rappresenta solo un componente,ma un bene strategico.I parametri di sintonizzazione dettagliati e le migliori pratiche di implementazione sono disponibili nel sito ufficiale dell'Agenzia.Fogli di dati MCX4121A-ACAT- un riferimento essenziale per ogni dispiegamento serio.