abptel-bigLogo
  • Casa
  • Abptel
  • Blog
  • FAQ
  • Contatti

Come i carichi di lavoro basati sull'intelligenza artificiale stanno rimodellando la connettività ottica dei data center.

I carichi di lavoro di intelligenza artificiale stanno rivoluzionando la connettività ottica dei data center, richiedendo velocità, efficienza e latenza senza precedenti. Con l'espansione dell'addestramento distribuito su decine di migliaia di acceleratori, le tecnologie ottiche devono evolversi per gestire l'enorme traffico est-ovest, bilanciando al contempo efficienza energetica e costi. Standard di base come IEEE 802.3df e 802.3dj guidano i progressi verso velocità da 800G a 1.6T, rimodellando le strategie di connettività. Questa trasformazione ha un impatto sulle topologie di rete, sulle scelte PHY, sul cablaggio, sulle tecnologie DCI e sulle considerazioni di sostenibilità, rendendo essenziale per architetti e ingegneri orientarsi in questi sviluppi. Ogni capitolo di questo articolo approfondisce i principali aspetti di questa trasformazione: dall'evoluzione degli standard ottici all'economia della scalabilità delle infrastrutture pronte per l'IA, aiutando gli stakeholder a costruire infrastrutture robuste e a prova di futuro.

Da 400G a 1.6T: la roadmap per gli standard e la velocità che sta ridefinendo l'ottica dei data center per l'IA.

Illustrazione di moduli ottici di nuova generazione basati su standard in continua evoluzione che guidano la connettività AI.

Le reti per l'intelligenza artificiale stanno spingendo la connettività ottica verso un nuovo ciclo di standardizzazione, in cui gli aumenti di velocità non sono più semplici aggiornamenti, ma risposte architetturali al comportamento di addestramento distribuito. Man mano che i cluster passano da centinaia a migliaia di acceleratori, i collegamenti a 100G e 200G diventano rapidamente un limite. Ecco perché il mercato è passato rapidamente dai 400G e sta ora standardizzando gli 800G, preparandosi al contempo per i 1.6T. Questo cambiamento è strettamente legato al modo in cui i carichi di lavoro di intelligenza artificiale consumano la larghezza di banda: traffico est-ovest a raffiche, finestre di sincronizzazione rigorose e bassa tolleranza al jitter.

Il fondamento tecnico di questa transizione è il passaggio dalla segnalazione NRZ a PAM4, inizialmente a 50G per corsia, poi a 100G e 112G, e ora verso corsie elettriche e ottiche a 200G e 224G. PAM4 raddoppia la velocità di trasmissione per simbolo, ma lo fa con margini di segnale più ristretti. Questo compromesso impone un maggiore ricorso alla correzione degli errori in avanti e al condizionamento del segnale. In termini pratici, ogni aumento della velocità della porta rappresenta anche un compromesso tra portata, consumo energetico, margine termico e latenza. Per le reti AI, questo è importante perché l'efficienza ottica non può andare a scapito di un ritardo eccessivo su più hop di commutazione.

È qui che la roadmap degli standard attuali diventa particolarmente importante. Le precedenti generazioni di Ethernet hanno definito i blocchi costitutivi da 200G e 400G, ora comuni nei grandi cluster. Il lavoro più recente su 800G e 1.6T formalizza la fase successiva, che include interfacce ottiche da 100G e 200G per corsia, opzioni monomodali a corto e medio raggio e I/O elettrici ad alta velocità. Queste definizioni non sono astratte. Modellano la configurazione degli switch, le strategie di breakout, le scelte relative all'infrastruttura di cablaggio e ciò che gli operatori possono implementare su larga scala nei prossimi due anni. Per i lettori che confrontano le classi di moduli attuali, questa panoramica di Ricetrasmettitori 400G vs 800G Questo aiuta a capire perché 800G sta diventando lo standard per i cluster di intelligenza artificiale, anziché una soluzione premium di nicchia.

Le scelte relative al fattore di forma rivelano anche come gli standard si stiano adattando ai requisiti dell'IA. A 400G, i principali formati pluggable potrebbero coesistere senza problemi. A 800G, la densità termica diventa molto più determinante, quindi spesso si preferiscono progetti con maggiore margine di raffreddamento. A 1.6T, la sfida si fa ancora più ardua perché un numero maggiore di corsie e interfacce elettriche di classe 224G spingono al limite la densità del pannello frontale, la progettazione dei connettori e la dissipazione del calore.

Di conseguenza, la leadership in termini di velocità nella connettività ottica per l'IA non si limita più alla larghezza di banda nominale. Si tratta piuttosto di individuare gli standard in grado di offrire una maggiore densità di porte, temperature gestibili, un overhead FEC accettabile e percorsi di migrazione chiari dai pod a 800G di oggi alle reti a 1.6T di domani. Questa base di standard e velocità pone il quesito successivo: come organizzare questi collegamenti in topologie che mantengano il traffico collettivo in movimento in modo efficiente?

Progettazione di reti ottiche per l'intelligenza artificiale: perché Clos, RDMA e le reti a basso diametro definiscono oggi la connettività dei data center.

Illustrazione di moduli ottici di nuova generazione basati su standard in continua evoluzione che guidano la connettività AI.

Con l'aumento della velocità delle porte, il problema più complesso non è più solo quello di trasferire più bit. La vera sfida è plasmare l'infrastruttura in modo che i processi di intelligenza artificiale non si blocchino nei punti di sincronizzazione. I grandi cluster di training generano ripetuti burst di all-reduce, all-gather e reduce-scatter su migliaia di acceleratori. Questi scambi creano gravi penalità di incast, rapido accumulo di code e latenza di coda che possono allungare i tempi di completamento dei processi ben oltre quanto suggerito dai grafici della larghezza di banda grezza. Ecco perché l'intelligenza artificiale sta spingendo la connettività ottica dei data center verso topologie con elevata larghezza di banda di bisezione, percorsi prevedibili e il minor numero possibile di stadi ottici e di commutazione.

La risposta dominante rimane la Tessuto Clos ad alta radice, soprattutto nelle architetture a due livelli per i pod AI. Il suo fascino è tanto pratico quanto teorico. Clos offre un percorso uniforme, familiarità operativa e un modo pulito per scalare la larghezza di banda est-ovest mantenendo basso il numero di hop. Nei cluster AI, questo diametro ridotto è importante perché ogni hop aggiuntivo introduce ritardo di serializzazione, latenza FEC, elaborazione DSP e rischio di accodamento. Anche quando ogni fase aggiunge solo nanosecondi, il ritardo cumulativo erode rapidamente i budget a livello di microsecondi. Una topologia che sembra efficiente sulla carta può comunque risultare sottoperformante se amplifica il jitter durante le operazioni collettive.

Questa pressione sta anche ravvivando l'interesse per alternative come le configurazioni a libellula e a farfalla appiattita. La loro promessa è quella di un minor numero di passaggi su larga scala, con una minore estensione del cablaggio tra i pod. Ma il loro reale valore negli ambienti di intelligenza artificiale dipende dalla prevedibilità del routing, del controllo della congestione e della gestione dei guasti in presenza di picchi di traffico collettivo. Molti operatori preferiscono ancora Clos perché il software, la telemetria e i modelli di risoluzione dei problemi sono maturi. In altre parole, la scelta della topologia è ormai inscindibile dall'operatività.

Il comportamento di trasporto è altrettanto importante. Le infrastrutture di intelligenza artificiale si basano sempre più su Semantica RDMA perché il sovraccarico della CPU, il ritardo di ritrasmissione e le code di latenza rumorose sono inaccettabili durante le fasi di addestramento strettamente sincronizzate. InfiniBand è da tempo all'avanguardia in questo campo con il controllo di flusso basato su crediti, il routing adattivo e il supporto hardware per l'accelerazione collettiva. Le reti basate su Ethernet stanno colmando il divario grazie ai miglioramenti di RoCE, a una migliore segnalazione ECN, al pacing a grana fine e agli sforzi emergenti per ridurre la dipendenza da PFC. L'obiettivo è semplice: mantenere una bassa latenza sotto carico senza trasformare il controllo della congestione in una fonte di blocco in testa alla coda.

Queste scelte architettoniche hanno un impatto diretto sull'ottica. Una struttura con meno salti e un comportamento del traffico più pulito può sfruttare meglio i collegamenti ad alta velocità senza sprecare prestazioni in buffering e ripristino. Questo è uno dei motivi per cui gli operatori di IA che passano da 400G a 800G stanno anche ripensando i piani di breakout, i layout di cablaggio e il posizionamento degli switch, come si vede nelle discussioni intorno a Transceiver 400G vs 800G per reti AI nei data centerNell'infrastruttura di intelligenza artificiale, la topologia non è più una sovrapposizione logica sul livello ottico. È una delle forze principali che plasmano il modo in cui tale livello ottico viene costruito.

La scelta dei motori ottici per l'intelligenza artificiale su larga scala: moduli, PHY e la transizione da 800G a 1.6T.

Illustrazione di moduli ottici di nuova generazione basati su standard in continua evoluzione che guidano la connettività AI.

Il livello fisico è ormai una decisione strategica di progettazione nell'infrastruttura di intelligenza artificiale, non più un dettaglio di approvvigionamento. Da quando i cluster di training hanno iniziato a inviare traffico sincronizzato su migliaia di acceleratori, le scelte relative ai moduli ottici e al PHY hanno iniziato a influenzare i tempi di completamento dei processi, la potenza dei rack e persino la scalabilità di una rete prima che i limiti di latenza diventassero insostenibili. Ecco perché il passaggio da 400G a 800G, e presto a 1.6T, non è semplicemente un aumento di velocità. Si tratta di una riprogettazione del modo in cui vengono gestiti i confini elettrici e ottici.

Al centro di questa transizione c'è il passaggio dalla segnalazione più vecchia a 100G e 200G per corsia PAM4La modulazione PAM4 aumenta l'efficienza della larghezza di banda, ma lo fa a scapito di margini di segnale più ristretti. Ciò impone una correzione degli errori in avanti più efficace, una maggiore equalizzazione e un controllo del canale più rigoroso. Nei cluster di intelligenza artificiale, questi compromessi sono importanti perché ogni hop accumula ritardo. La latenza della correzione degli errori in avanti e dell'elaborazione del segnale digitale (DSP) può sembrare trascurabile se considerata singolarmente, ma in una rete a basso diametro consuma una quota significativa del budget di microsecondi da cui dipendono le operazioni collettive.

Questo è anche il motivo per cui l'architettura del modulo è importante quanto la velocità della porta. I moduli pluggable convenzionali basati su DSP rimangono la scelta pratica per molte implementazioni perché offrono una solida interoperabilità e una migliore tolleranza ai canali imperfetti. Sono particolarmente utili dove la flessibilità di portata è fondamentale, inclusi i brevi collegamenti monomodali all'interno di un pod e i collegamenti più lunghi che si estendono attraverso i padiglioni. Tuttavia, il loro consumo energetico è significativo a 800G e i primi moduli da 1.6T mettono a dura prova la progettazione termica. Nei cluster AI densi, l'ottica può rappresentare kilowatt per rack, trasformando la scelta del transceiver in un problema di raffreddamento tanto quanto in un problema di rete.

Questa pressione spiega il crescente interesse per ottiche innestabili a trasmissione lineareRimuovendo il DSP del modulo, LPO può ridurre sia la potenza che la latenza, il che si allinea bene con le reti AI a corto raggio basate su cablaggi prevedibili e design host ottimizzato. Lo svantaggio è la riduzione del margine. L'integrità del segnale diventa più sensibile alla perdita di segnale sulla scheda, alla variazione dei connettori e all'interoperabilità tra i fornitori. Per gli operatori disposti a progettare tenendo conto di questi limiti, LPO offre un percorso verso un migliore rapporto watt/bit. Per una panoramica più ampia di questo percorso di migrazione, consultare questa guida su pilotare ottiche 400G e 800G per l'IA.

Le scelte del fattore di forma riflettono le stesse realtà. Il margine termico ha reso OSFP Particolarmente attraente a 800G, mentre i sistemi 1.6T di nuova generazione si stanno orientando verso design più grandi in grado di supportare I/O elettrici a 224G e maggiori esigenze di raffreddamento. Allo stesso tempo, le ottiche monomodali come le varianti DR e FR stanno diventando lo standard per i nuovi pod AI perché offrono flessibilità di portata senza vincolare il cablaggio a una topologia specifica. Con l'avvento delle linee a 224G, il rame rimane prezioso solo sulle distanze più brevi, mentre le ottiche diventano il mezzo dominante praticamente ovunque.

Scalare l'IA oltre una singola infrastruttura: l'economia del DCI e il nuovo costo della connettività ottica

Illustrazione di moduli ottici di nuova generazione basati su standard in continua evoluzione che guidano la connettività AI.

Con la crescita dei cluster di intelligenza artificiale, che superano i limiti di un singolo edificio o campus, la connettività ottica smette di essere una semplice questione di progettazione rack-to-rack. Diventa un problema di interconnessione tra data center, influenzato dalla necessità di larghezza di banda, dalla sensibilità alla latenza e dal controllo dei costi. I grandi carichi di lavoro di addestramento si estendono sempre più su più edifici, sedi metropolitane e hub regionali per i dati. Questo cambiamento accresce l'importanza di una connettività ottica coerente, di una pianificazione accurata delle reti in fibra e della valutazione economica del trasferimento di enormi quantità di dati e modelli senza che la rete diventi il ​​principale collo di bottiglia.

All'interno del campus, la pressione è già evidente. Le infrastrutture AI si stanno spostando rapidamente da 400G a 800G, con 1.6T a breve distanza. In tutti i siti, gli operatori necessitano di cambiamenti altrettanto repentini nella capacità di interconnessione. L'addestramento multi-sito, il checkpointing distribuito e l'accesso remoto ai data lake generano un traffico est-ovest costante che va oltre i confini tradizionali dei data center. Per questo motivo, i moduli coerenti compatti (CPUP) sono diventati fondamentali per la scalabilità dell'IA. Permettono agli operatori di estendere i collegamenti ad alta capacità su distanze metropolitane con architetture molto più semplici rispetto alle vecchie infrastrutture di trasporto. Con la diffusione dello standard 400ZR e l'emergere di opzioni coerenti a 800G, il confine tra l'espansione dell'infrastruttura interna e la strategia di interconnessione regionale si fa sempre più labile.

L'aspetto economico è altrettanto rivoluzionario quanto quello tecnologico. Nelle reti basate sull'intelligenza artificiale, le ottiche non rappresentano più un errore di arrotondamento nella distinta base. A 800G, ogni collegamento trasporta una potenza di modulo significativa e ogni switch può ospitarne decine. In un ampio parco di acceleratori, la potenza ottica raggiunge rapidamente la scala del megawatt. Ciò rende le decisioni relative al consumo energetico per bit, al consumo di raffreddamento e alla densità dei ricetrasmettitori tanto importanti quanto quelle di rete. Cambia anche la strategia di approvvigionamento. Gli operatori non considerano solo il costo iniziale della porta, ma anche il consumo energetico del ciclo di vita, la logistica di sostituzione, l'utilizzo della fibra e il margine di migrazione verso progetti a 200G per corsia. Il risultato pratico è una maggiore attenzione a dove le ottiche parallele a corto raggio, le ottiche duplex o i collegamenti coerenti generano il miglior ritorno sull'investimento.

Il cablaggio e le operazioni incidono direttamente su tale ritorno. La fibra monomodale sta diventando lo standard perché supporta sia le reti AI a corto raggio che le espansioni DCI più lunghe senza imporre una riprogettazione del supporto in un secondo momento. La scelta del connettore, la strategia di breakout e la semplicità del patch-field influiscono sulla velocità con cui i cluster possono scalare e sulla sicurezza con cui i team possono riconfigurarli. Anche decisioni apparentemente marginali relative alle ottiche DR, FR e LR ora hanno conseguenze economiche, soprattutto se moltiplicate su migliaia di porte. Per una base utile su questi compromessi, vedere questa panoramica di Ricetrasmettitori DR4, FR4 e LR4 da 400G..

Queste pressioni sui costi spiegano anche perché la resilienza della catena di approvvigionamento sia diventata parte integrante dell'architettura di rete. Tempi di consegna, disponibilità di DSP, resa dei laser e vincoli di approvvigionamento regionali possono ritardare l'espansione dei cluster con la stessa certezza dei limiti di alimentazione o di raffreddamento. Nei data center per l'IA, l'economia delle interconnessioni influenza ora le decisioni sulla topologia, le tempistiche di implementazione e persino la scalabilità dell'addestramento prima che la sostenibilità diventi il ​​prossimo limite invalicabile.

Progettare una connettività ottica sostenibile per i data center basati sull'IA che raggiungono velocità di 800G e oltre.

Illustrazione di moduli ottici di nuova generazione basati su standard in continua evoluzione che guidano la connettività AI.

Il passaggio a infrastrutture su scala AI ha reso la sostenibilità ottica un problema centrale nella progettazione di reti, non più una preoccupazione secondaria in fase di approvvigionamento. Con il passaggio dei cluster da 400G a 800G e la preparazione per 1.6T, l'ottica influenza ora la densità di potenza, la strategia di raffreddamento, i modelli di servizio e la redditività a lungo termine. Un singolo collegamento ad alta velocità può consumare decine di watt su entrambe le estremità. Moltiplicato per migliaia di porte, questo valore diventa una quota significativa del consumo energetico dell'infrastruttura. In molte architetture AI, il fattore limitante non è più solo la radice o la larghezza di banda dello switch, ma la capacità del livello ottico di trasmettere più bit senza sovraccaricare i budget termici ed energetici.

Questa pressione sta cambiando il modo in cui gli operatori valutano ogni opzione di connettività. Il rame passivo offre ancora il miglior profilo di consumo energetico a brevissima distanza, ma la sua portata effettiva si riduce all'aumentare della velocità di linea. A 112G PAM4, e ancor più a 224G, il rame diventa problematico oltre pochi metri. Ciò spinge un maggior numero di collegamenti verso la fibra ottica monomodale, soprattutto per implementazioni su scala di riga e di pod. Le soluzioni monomodali offrono inoltre percorsi di migrazione più puliti tra le distanze DR e FR, semplificano i futuri aggiornamenti di velocità ed evitano alcune delle limitazioni che si presentano con il multimodale in ambienti AI densi. Il risultato è un'architettura che fa maggiore uso di fibra ottica, ma che deve essere progettata con attenzione per evitare una crescita incontrollata del consumo energetico.

Oggi l'architettura dei moduli è importante quanto la portata effettiva. I moduli pluggable convenzionali basati su DSP rimangono l'opzione più flessibile, ma comportano un aumento di consumo energetico e latenza. Per i carichi di lavoro di intelligenza artificiale, questa combinazione è costosa. Il traffico collettivo è sensibile a ritardi dell'ordine dei microsecondi e le ripetute fasi di correzione degli errori (FEC) e di elaborazione del segnale si accumulano su più hop. Per questo motivo, i moduli ottici pluggable a pilotaggio lineare stanno guadagnando terreno per i collegamenti AI a corto raggio. Eliminando il DSP del modulo, è possibile ridurre il consumo energetico e la latenza, sebbene solo in presenza di condizioni di canale strettamente controllate. Il compromesso consiste in margini più ristretti e requisiti più stringenti per la progettazione dell'host, i connettori e l'interoperabilità. Per molti operatori, ciò rende i moduli ottici pluggable lineari attraenti all'interno di domini di cablaggio prevedibili, mentre i moduli pluggable convenzionali rimangono più sicuri in contesti operativi più ampi.

La stessa logica di sostenibilità si estende al packaging. Le ottiche near-packaged e co-packaged promettono minori perdite elettriche, una migliore energia per bit e una maggiore densità sul pannello frontale. Tuttavia, complicano la sostituzione, la manutenzione e la pianificazione del ciclo di vita. Questo equilibrio tra efficienza e manutenibilità sta diventando centrale nella progettazione delle reti AI. Anche la gestione e la pulizia dei cavi assumono maggiore importanza a queste densità, soprattutto con ottiche parallele e implementazioni con molte derivazioni, rendendo necessarie pratiche disciplinate intorno Insidie ​​nella migrazione da MPO/MTP a 400G e 800G Parte integrante della sostenibilità, non solo della qualità dell'installazione. In questo senso, la connettività ottica sostenibile per l'IA non si riduce a una singola scelta tecnologica. Si tratta piuttosto di un allineamento ponderato tra efficienza del PHY, realismo termico, semplicità operativa e percorsi di aggiornamento in grado di resistere al prossimo aumento di larghezza di banda.

Conclusioni

I carichi di lavoro di addestramento dell'IA stanno guidando cambiamenti trasformativi nella connettività ottica dei data center, spingendo al limite velocità, latenza e larghezza di banda. Con l'adozione da parte degli operatori dell'800G e la preparazione alla connettività 1.6T, alimentare queste reti in modo sostenibile, gestendo al contempo costi e complessità, diventa fondamentale. Tenendosi al passo con i progressi in termini di standard, infrastrutture e tecniche di raffreddamento, ingegneri e progettisti possono garantire che le loro architetture non solo soddisfino le esigenze attuali dell'IA, ma siano anche scalabili per affrontare le sfide dei carichi di lavoro distribuiti di domani.

Contatta ABPTEL per informazioni su fibra ottica ad alta velocità, cablaggio MTP/MPO e soluzioni di interconnessione per data center.

Per saperne di più: https://abptel.com/contact/

Chi siamo

ABPTEL fornisce ricetrasmettitori ottici ad alta velocità, sistemi di cablaggio MTP/MPO, cavi DAC e AOC, switch PoE, soluzioni FTTA e strumenti per fibra ottica per progetti di data center, intelligenza artificiale, telecomunicazioni e infrastrutture di rete.


Contatta ABPTEL

Cerchi l'hardware ottico giusto per il tuo data center AI, cluster GPU o progetto FTTA? ABPTEL spedisce da Shenzhen con supporto OEM/ODM, tempi di consegna rapidi e consulenza prevendita a livello ingegneristico.

???? Ricevi un preventivo entro 12 ore: Contatta Candy · WhatsApp +86 188 1445 5697 · candy@abptel.com

Un data center futuristico con connessioni ottiche luminose per carichi di lavoro di intelligenza artificiale.

Contattaci

Inserisci semplicemente il tuo nome, indirizzo email e una breve descrizione della tua richiesta in questo modulo. Ti contatteremo entro 24 ore.

× Come posso aiutarti?