Soluzione Tecnica NVIDIA Mellanox MCX653106A-HDAT: Abilitazione della Trasmissione a Bassa Latenza RDMA/RoCE e Massimizzazione del Server

Le architetture dei data center moderni sono sempre più definite dalla necessità di elaborazione dei dati in tempo reale, carichi di lavoro di intelligenza artificiale (AI) e calcolo ad alte prestazioni (HPC).Stack di rete tradizionali, in particolare TCP/IP, introducono notevoli costi generali e latenza della CPU che possono paralizzare queste applicazioni sensibili alle prestazioni.Gli architetti di rete e gli ingegneri del trasporto hanno il compito di costruire infrastrutture che possano scalare in modo efficiente soddisfacendo stringenti accordi di livello di servizio (SLA) per latenza e throughput.

Il requisito fondamentale indicato nel presente progetto tecnico è l'istituzione di un sistema di gestione senza perdite,di larghezza di banda elevata in grado di supportare l'accesso remoto diretto alla memoria (RDMA) su Ethernet convergente (RoCE)Per raggiungere questo obiettivo, la scheda di interfaccia di rete (NIC) sottostante deve non solo supportare velocità di linea 100/200GbE, ma anche fornire sofisticati offload hardware per liberare le risorse della CPU host.Questo è il punto in cui ilMCX653106A-HDATdiventa l'elemento fondamentale della soluzione.

L'architettura proposta è una topologia di base progettata per un ambiente cloud privato che ospita sia carichi di lavoro virtualizzati che cluster HPC bare-metal.La rete è segmentata per supportare il traffico RoCE, che richiede un tessuto Ethernet senza perdite.

• Interruttori a foglia:Gli switch della serie NVIDIA Spectrum SN3000 sono configurati con PFC (Priority Flow Control) ed ETS (Enhanced Transmission Selection) per creare un tessuto RoCE senza perdite.
• Interruttori spinali:Interconnettività non bloccante tra tutti gli interruttori a foglia.
• Nodi di calcolo e di archiviazione:Ogni server è dotato delNVIDIA Mellanox MCX653106A-HDATper connettersi agli interruttori a 100 Gb/s.

Questa progettazione garantisce che la comunicazione da qualsiasi luogo all'interno del data center subisca una latenza minima e una perdita di pacchetti zero a causa della congestione, che è fondamentale per la stabilità del traffico RDMA.

Come unMCX653106A-HDAT ConnectX adattatore scheda di rete PCIe, questo dispositivo funge da interfaccia critica tra il bus di memoria del server e il tessuto di rete.La scheda integra le funzionalità avanzate del controller ConnectX-6, che è stato progettato appositamente per questi ambienti esigenti.scheda di adattatore Ethernet MCX653106A-HDAT, consente:

• Bypass del kernel e RDMA:Le applicazioni possono comunicare direttamente con il NIC, ignorando il kernel del sistema operativo.Trasmissione RDMA/RoCE a bassa latenza.
• Discariche di hardware:La scheda offloads protocolli di storage e di rete come NVMe-oF e VXLAN, riducendo ulteriormente CPU overhead e accelerandocapacità di trasmissione del server.
• Supporto PCIe Gen3/Gen4:Con un'interfaccia host PCIe 3.0/4.0 x16, ilMCX653106A-HDATgarantisce che la larghezza di banda di rete di 100/200Gb/s non venga bloccata dal bus interno del server.

Per gli architetti che esaminano i dettagli tecnici, laLe specifiche MCX653106A-HDATIl nuovo sistema, che supporta oltre 200 milioni di pacchetti al secondo, dimostra la sua capacità di gestire i flussi di dati più intensi.Soluzione per schede di adattamento Ethernet MCX653106A-HDATper i carichi di lavoro di destinazione.

La distribuzione di un tessuto RoCEv2 richiede un'attenta pianificazione.MCX653106A-HDAT:

• Consistenza del firmware e del driver:Assicurarsi che tutte le schede siano flashate con la stessa versione del firmware e che il driver NVIDIA MLNX_OFED sia installato in modo coerente su tutti i nodi.
• Configurazione dell'interruttore:Implementare PFC sugli switch per le code di priorità 802.1p specifiche designate per il traffico RoCE (in genere priorità 3).prevenzione dell'esaurimento del buffer.
• Configurazione del nodo:Su ogni server, ilCompatibile con MCX653106A-HDATI driver sono caricati e le impostazioni QoS del NIC sono allineate con la configurazione dello switch.

Per l'espansione, l'architettura è altamente scalabile.NVIDIA Mellanox MCX653106A-HDATLa natura non bloccante del tessuto garantisce che le prestazioni rimangano prevedibili man mano che il grappolo cresce.

Il mantenimento di un tessuto RoCE ad alte prestazioni richiede un controllo rigoroso.MCX653106A-HDATfornisce dati di telemetria estesi attraverso strumenti standard e software proprietario di NVIDIA.

• Monitoraggio:Utilizzare'mlxlink' e'mlxstat' per i contatori di integrità e prestazioni del collegamento.e tassi di traffico RDMA.
• Risoluzione dei problemi:Quando le prestazioni si degradano, il primo controllo è di solito per i pacchetti che cadono a causa di tempeste di PFC o di esaurimento del buffer.Fogli di dati MCX653106A-HDATaiuta a correlare i contatori con eventi specifici.
• Ottimizzazione:Per gli ambienti virtualizzati, il modello di programmazione è basato su un modello di programmazione che consente di regolare i parametri di moderazione dell'interruzione e le dimensioni delle richieste di lettura PCIe.abilitare SR-IOV e assegnare funzioni virtuali (VF) direttamente alle VM riduce ulteriormente la latenza.

Quando si acquistano hardware, comprendere leMCX653106A-HDAT prezzoPer coloro che sono pronti ad acquistare, verificare la qualità dei servizi e la qualità dei servizi è essenziale per il bilancio.MCX653106A-HDAT in vendita- l'elenco dei distributori autorizzati garantisce prodotti e supporto autentici.

IlMCX653106A-HDATNVIDIA Mellanox è più di un componente; è un facilitatore strategico per la moderna trasformazione del data center.Risponde direttamente alle esigenze del settore per una minore latenza e un maggiore throughput.Questa soluzione tecnica dimostra che con la corretta architettura e le pratiche di implementazione, le organizzazioni possono raggiungere:

• Riduzione della latenza fino al 95%per la comunicazione tra processi rispetto al tradizionale TCP/IP.
• Risparmio significativo di CPU(spesso 20-30%) che possono essere reinvestiti nelle prestazioni delle applicazioni.
• Un'infrastruttura a prova di futurocapace di supportare 200GbE e protocolli di storage di nuova generazione come NVMe-oF.

Per gli architetti di rete, gli ingegneri DevOps e i responsabili delle operazioni, il percorso verso un data center ad alta efficienza inizia con i giusti elementi di costruzione.