abptel-bigLogo
  • Home
  • Abptel
  • Blogs
  • FAQ
  • Contact

Hoe AI-workloads de optische connectiviteit van datacenters veranderen

AI-workloads zorgen voor een revolutie in de optische connectiviteit van datacenters en vereisen ongekende snelheid, efficiëntie en lage latentie. Naarmate gedistribueerde training zich uitbreidt over tienduizenden accelerators, moeten optische technologieën evolueren om het enorme oost-westverkeer aan te kunnen, terwijl tegelijkertijd een balans wordt gevonden tussen energie-efficiëntie en kosten. Onderliggende standaarden zoals IEEE 802.3df en 802.3dj stimuleren de vooruitgang in snelheden van 800G tot 1.6T en hervormen connectiviteitsstrategieën. Deze transformatie heeft gevolgen voor netwerktopologieën, PHY-keuzes, bekabeling, DCI-technologieën en duurzaamheidsaspecten, waardoor het essentieel is voor architecten en engineers om deze ontwikkelingen te begrijpen. Elk hoofdstuk van dit artikel gaat dieper in op de belangrijkste aspecten van deze verschuiving: van de evolutie van optische standaarden tot de economische aspecten van het schalen van AI-ready netwerken, en helpt belanghebbenden bij het bouwen van robuuste en toekomstbestendige infrastructuren.

Van 400G naar 1.6T: De roadmap voor standaarden en snelheid herdefinieert de optische mogelijkheden van AI-datacenters.

Een illustratie van de volgende generatie optische modules, gebaseerd op evoluerende standaarden die AI-connectiviteit mogelijk maken.

AI-netwerken brengen optische connectiviteit in een nieuwe standaardiseringscyclus, waarin snelheidsverhogingen niet langer simpele upgrades zijn. Het zijn architectonische reacties op gedistribueerd trainingsgedrag. Naarmate clusters groeien van honderden naar duizenden accelerators, worden 100G- en 200G-verbindingen al snel beperkend. Daarom is de markt snel doorgeschoten naar 400G en wordt nu 800G gestandaardiseerd, terwijl men zich voorbereidt op 1.6T. Deze verschuiving is nauw verbonden met de manier waarop AI-workloads bandbreedte verbruiken: onregelmatig oost-westverkeer, strikte synchronisatievensters en een lage tolerantie voor jitter.

De technische basis van deze transitie is de overstap van NRZ-signalering naar PAM4, eerst met 50 Gbps per lane, vervolgens 100 Gbps en 112 Gbps, en nu richting 200 Gbps en 224 Gbps elektrische en optische lanes. PAM4 verdubbelt de doorvoer per symbool, maar doet dit met kleinere signaalmarges. Deze afweging dwingt tot een grotere afhankelijkheid van forward error correction en signaalconditionering. In de praktijk is elke sprong in poortsnelheid ook een afweging tussen bereik, stroomverbruik, thermische capaciteit en latentie. Voor AI-netwerken is dit belangrijk, omdat optische efficiëntie niet ten koste mag gaan van een te hoge vertraging over meerdere switch-hops.

Dit is waar de huidige roadmap voor standaarden bijzonder belangrijk wordt. Eerdere Ethernet-generaties definieerden de 200G- en 400G-bouwstenen die nu gangbaar zijn in grote clusters. Het recentere werk aan 800G en 1.6T formaliseert de volgende fase, inclusief optische interfaces van 100G en 200G per lane, single-mode opties voor korte en middellange afstanden en snellere elektrische I/O. Deze definities zijn niet abstract. Ze bepalen de switch-radix, breakout-strategieën, de keuze van de bekabeling en wat operators de komende twee jaar op grote schaal kunnen implementeren. Voor lezers die de huidige moduleklassen vergelijken, is dit overzicht van 400G versus 800G transceivers Dit helpt verklaren waarom 800G de standaard wordt voor AI-clusters in plaats van een niche premium-optie.

De keuze voor een bepaalde vormfactor laat ook zien hoe standaarden zich aanpassen aan de eisen van AI. Bij 400G konden de meest gebruikte insteekbare formaten probleemloos naast elkaar bestaan. Bij 800G wordt de thermische dichtheid veel belangrijker, waardoor ontwerpen met meer koelingscapaciteit vaak de voorkeur krijgen. Bij 1.6T wordt de uitdaging opnieuw groter, omdat een hoger aantal lanes en elektrische interfaces van de 224G-klasse de dichtheid van de frontplaat, het connectorontwerp en de warmteafvoer tot hun limieten drijven.

Het resultaat is dat snelheidsleiderschap in optische AI-connectiviteit niet langer alleen draait om de hoogste bandbreedte. Het gaat erom welke standaarden een hogere poortdichtheid, beheersbare warmteontwikkeling, acceptabele FEC-overhead en duidelijke migratiepaden van de huidige 800G-pods naar de toekomstige 1.6T-netwerken kunnen bieden. Deze basis van standaarden en snelheid leidt tot de volgende vraag: hoe worden die verbindingen georganiseerd in topologieën die het collectieve verkeer efficiënt laten doorstromen?

Het ontwerpen van AI-optische netwerken: waarom Clos, RDMA en netwerken met een lage diameter nu bepalend zijn voor de connectiviteit in datacenters.

Een illustratie van de volgende generatie optische modules, gebaseerd op evoluerende standaarden die AI-connectiviteit mogelijk maken.

Naarmate de poortsnelheden toenemen, is het lastigere probleem niet langer alleen het verplaatsen van meer bits. Het gaat erom de infrastructuur zo in te richten dat AI-taken niet vastlopen op synchronisatiepunten. Grote trainingsclusters genereren herhaaldelijk bursts van all-reduce, all-gather en reduce-scatter over duizenden accelerators. Deze uitwisselingen veroorzaken ernstige incast-problemen, snelle wachtrijopbouw en vertragingen aan het einde van de datastroom, waardoor de voltooiingstijd van taken veel langer kan duren dan de ruwe bandbreedtegrafieken doen vermoeden. Daarom streeft AI naar optische connectiviteit in datacenters met topologieën die een hoge bisection-bandbreedte, voorspelbare paden en zo min mogelijk optische en switching-fasen hebben.

Het meest gangbare antwoord blijft hoogradix Clos-stofVooral in tweelaagse ontwerpen voor AI-pods is Clos aantrekkelijk. De aantrekkingskracht ervan is zowel praktisch als theoretisch. Clos biedt uniforme paden, operationele vertrouwdheid en een schone manier om de oost-west bandbreedte te schalen met een laag aantal hops. In AI-clusters is die lage diameter belangrijk, omdat elke extra hop serialisatievertraging, FEC-latentie, DSP-verwerking en wachtrijrisico met zich meebrengt. Zelfs als elke fase slechts nanoseconden toevoegt, vreet de cumulatieve vertraging snel aan budgetten op microsecondenniveau. Een topologie die er op papier efficiënt uitziet, kan nog steeds ondermaats presteren als deze jitter versterkt tijdens collectieve bewerkingen.

Die druk zorgt er ook voor dat de interesse in alternatieven zoals de dragonfly- en flattened butterfly-ontwerpen weer opleeft. Deze beloven minder hops op grotere schaal, met minder bekabeling tussen de pods. Maar hun werkelijke waarde in AI-omgevingen hangt af van de vraag of routing, congestiebeheer en foutafhandeling voorspelbaar blijven bij pieken in het collectieve verkeer. Veel operators geven nog steeds de voorkeur aan Clos omdat de software, telemetrie en probleemoplossingsmodellen volwassen zijn. Met andere woorden, de keuze van de topologie is nu onlosmakelijk verbonden met de operationele betrouwbaarheid.

Transportgedrag is net zo belangrijk. AI-technologieën zijn er steeds meer van afhankelijk. RDMA-semantiek Omdat CPU-overhead, herverzendingvertraging en ruis in de latentiestaarten onacceptabel zijn tijdens strak gesynchroniseerde trainingsstappen. InfiniBand loopt hier al lange tijd voorop met op credits gebaseerde flow control, adaptieve routing en hardwareondersteuning voor collectieve acceleratie. Op Ethernet gebaseerde fabrics dichten de kloof door RoCE-verbeteringen, betere ECN-signalering, fijnmazige pacing en opkomende inspanningen om de afhankelijkheid van PFC te verminderen. Het doel is eenvoudig: een lage latentie behouden onder belasting zonder dat congestiebeheer een bron van head-of-line blocking wordt.

Deze architectonische keuzes hebben direct invloed op de optische aspecten. Een netwerk met minder hops en een schoner verkeerspatroon kan snelle verbindingen beter benutten zonder prestatieverlies door buffering en herstel. Dat is een van de redenen waarom AI-operators die overstappen van 400G naar 800G ook hun breakout-plannen, bekabelingslay-outs en switchplaatsing heroverwegen, zoals blijkt uit discussies hierover. 400G versus 800G transceivers voor AI-netwerken in datacentersIn AI-infrastructuren is topologie niet langer een logische laag bovenop de optische laag. Het is een van de belangrijkste krachten die bepalen hoe die optische laag wordt opgebouwd.

De keuze voor de optische engines van AI-schaal: modules, PHY's en de overgang van 800G naar 1.6T

Een illustratie van de volgende generatie optische modules, gebaseerd op evoluerende standaarden die AI-connectiviteit mogelijk maken.

De fysieke laag is nu een strategische ontwerpbeslissing in AI-infrastructuur, geen detail meer bij de aanschaf. Zodra trainingsclusters gesynchroniseerd verkeer over duizenden accelerators begonnen te sturen, begonnen de keuzes voor optische modules en PHY's de voltooiingstijd van taken, het stroomverbruik van de racks en zelfs de schaalbaarheid van een fabric te bepalen voordat de latency-limieten werden overschreden. Daarom is de overstap van 400G naar 800G, en binnenkort naar 1.6T, niet zomaar een snelheidsupgrade. Het is een herontwerp van hoe elektrische en optische grenzen worden beheerd.

Centraal in deze transitie staat de overstap van oudere signalering naar 100G en 200G per lane PAM4PAM4 verhoogt de bandbreedte-efficiëntie, maar doet dit met kleinere signaalmarges. Dit vereist een sterkere voorwaartse foutcorrectie, meer egalisatie en een strengere kanaalcontrole. In AI-clusters zijn deze afwegingen belangrijk, omdat elke hop vertraging met zich meebrengt. FEC- en DSP-latentie lijken op zichzelf misschien klein, maar over een netwerk met een kleine diameter verbruiken ze een aanzienlijk deel van het microsecondenbudget waar collectieve bewerkingen van afhankelijk zijn.

Dit is ook de reden waarom de module-architectuur net zo belangrijk is als de poortsnelheid. Conventionele, op DSP gebaseerde pluggable modules blijven voor veel implementaties de praktische keuze, omdat ze robuuste interoperabiliteit en een betere tolerantie voor imperfecte kanalen bieden. Ze zijn vooral nuttig waar flexibiliteit in bereik belangrijk is, zoals korte single-mode verbindingen binnen een pod en langere verbindingen die zich over hallen uitstrekken. Maar hun stroomverbruik is aanzienlijk bij 800G, en de eerste 1.6T-modules stellen de thermische eisen nog verder op de proef. In dichte AI-clusters kan het optische verbruik oplopen tot kilowatts per rack, waardoor de keuze van de transceiver net zozeer een koelingsprobleem als een netwerkprobleem wordt.

Die druk verklaart de groeiende interesse in lineaire aandrijving insteekbare optische componentenDoor de DSP-module te verwijderen, kan LPO zowel het stroomverbruik als de latentie verlagen, wat goed aansluit bij AI-netwerken met korte reikwijdte die gebouwd zijn op voorspelbare bekabeling en een strak hostontwerp. Het nadeel is een kleinere marge. De signaalintegriteit wordt gevoeliger voor verlies op de printplaat, variaties in connectoren en interoperabiliteit tussen leveranciers. Voor operators die bereid zijn om deze beperkingen te omzeilen, biedt LPO een manier om een ​​betere watt per bit te bereiken. Voor een breder overzicht van dit migratiepad, zie deze handleiding over Het aansturen van 400G- en 800G-optiek voor AI..

De keuzes qua vormfactor weerspiegelen dezelfde realiteit. Thermische ruimte heeft ervoor gezorgd dat OSFP Vooral aantrekkelijk bij 800G, terwijl de volgende generatie 1.6T-systemen evolueert naar grotere ontwerpen die 224G elektrische I/O en zwaardere koelingseisen aankunnen. Tegelijkertijd worden single-mode optische kabels zoals DR- en FR-varianten de standaard voor nieuwe AI-pods, omdat ze flexibiliteit in bereik bieden zonder de bekabeling vast te leggen op één topologie. Naarmate 224G-verbindingen beschikbaar komen, blijft koper alleen nog waardevol over de kortste afstanden, en worden optische kabels vrijwel overal daarbuiten het dominante medium.

AI opschalen voorbij één enkele infrastructuur: DCI-economie en de nieuwe kosten van optische connectiviteit

Een illustratie van de volgende generatie optische modules, gebaseerd op evoluerende standaarden die AI-connectiviteit mogelijk maken.

Naarmate AI-clusters groter worden dan één enkele hal of campus, is optische connectiviteit niet langer alleen een kwestie van rack-naar-rack ontwerp. Het wordt een probleem van datacenterinterconnectie, gevormd door bandbreedtebehoefte, gevoeligheid voor latentie en kostenbeheersing. Grote trainingsprojecten strekken zich steeds vaker uit over meerdere gebouwen, locaties in stedelijke gebieden en regionale datahubs. Deze verschuiving verhoogt het belang van coherente optica, glasvezelnetwerkplanning en de economische aspecten van het verplaatsen van enorme modeltoestanden en datasets zonder dat het netwerk de belangrijkste bottleneck wordt.

Binnen de campus is de druk al duidelijk voelbaar. AI-netwerken migreren in hoog tempo van 400G naar 800G, met 1.6T vlak daarachter. Operators hebben op verschillende locaties vergelijkbare sprongen in interconnectiecapaciteit nodig. Training op meerdere locaties, gedistribueerde checkpointing en toegang tot data lakes op afstand zorgen voor aanhoudend oost-westverkeer dat de traditionele grenzen van datacenters overschrijdt. Daarom zijn compacte, coherente pluggable modules essentieel geworden voor de schaalvergroting van AI. Ze stellen operators in staat om verbindingen met hoge capaciteit over grote afstanden uit te breiden met veel eenvoudigere architecturen dan oudere transportlagen. Naarmate 400ZR de standaard wordt en coherente 800G-opties beschikbaar komen, vervaagt de grens tussen interne netwerkuitbreiding en regionale interconnectiestrategie steeds meer.

De economische aspecten zijn net zo ontwrichtend als de technologie. In AI-netwerken zijn optische componenten niet langer een verwaarloosbaar onderdeel van de materiaalkosten. Bij 800G transporteert elke link een aanzienlijk deel van het modulevermogen, en elke switch kan tientallen van die links hosten. Over een groot aantal accelerators heen loopt het optische vermogen snel op tot megawatts. Dit maakt beslissingen over energieverbruik per bit, koelingskosten en transceiverdichtheid net zo belangrijk op printplaatniveau als op netwerkniveau. Het verandert ook de inkoopstrategie. Operators houden niet alleen rekening met de initiële poortkosten, maar ook met het stroomverbruik gedurende de levenscyclus, de logistiek rondom vervanging, het glasvezelgebruik en de migratiemogelijkheden naar ontwerpen met 200G per lane. Het praktische resultaat is een veel scherpere focus op waar parallelle optische verbindingen over korte afstanden, duplex optische verbindingen of coherente verbindingen het beste rendement opleveren.

Bekabeling en operationele processen zijn direct op die retourleiding aangesloten. Single-mode glasvezel wordt steeds vaker de standaard, omdat het zowel AI-netwerken met een korte reikwijdte als DCI-uitbreidingen met een langere reikwijdte ondersteunt zonder dat later een herontwerp van het medium nodig is. De keuze van connectoren, de breakoutstrategie en de eenvoud van het patchveld beïnvloeden allemaal hoe snel clusters kunnen worden opgeschaald en hoe veilig teams ze kunnen herconfigureren. Zelfs ogenschijnlijk kleine beslissingen over DR-, FR- en LR-optiek hebben nu economische gevolgen, vooral wanneer deze over duizenden poorten worden toegepast. Voor een nuttig inzicht in deze afwegingen, zie dit overzicht. 400G DR4-, FR4- en LR4-transceivers.

Die kostendruk verklaart ook waarom de veerkracht van de toeleveringsketen onderdeel is geworden van de netwerkarchitectuur. Levertijden, beschikbaarheid van DSP's, laseropbrengsten en regionale inkoopbeperkingen kunnen de uitbreiding van clusters net zo goed vertragen als beperkingen op het gebied van stroomvoorziening of koeling. In AI-datacenters bepalen de economische aspecten van interconnecties nu de topologiebeslissingen, de timing van de implementatie en zelfs hoe ver training kan worden opgeschaald voordat duurzaamheid de volgende harde grens vormt.

Duurzame optische connectiviteit ontwerpen naarmate AI-datacenters opschalen naar 800G en verder.

Een illustratie van de volgende generatie optische modules, gebaseerd op evoluerende standaarden die AI-connectiviteit mogelijk maken.

De verschuiving naar AI-infrastructuur op grote schaal heeft optische duurzaamheid tot een kernprobleem in het netwerkontwerp gemaakt, in plaats van een secundaire zorg bij de aanschaf. Naarmate clusters overstappen van 400G naar 800G en zich voorbereiden op 1.6T, bepalen optische componenten nu de vermogensdichtheid, de koelstrategie, de servicemodellen en de economische haalbaarheid op lange termijn. Een enkele hogesnelheidsverbinding kan tientallen watts aan stroom verbruiken, zowel aan de voor- als achterkant. Vermenigvuldigd met duizenden poorten, vormt dat een aanzienlijk deel van het energieverbruik van een faciliteit. In veel AI-netwerken is de beperkende factor niet langer alleen de switchradix of de bandbreedte. Het gaat erom of de optische laag meer bits kan leveren zonder de thermische en energiebudgetten te overschrijden.

Die druk verandert de manier waarop operators elke connectiviteitskeuze evalueren. Passief koper biedt nog steeds het beste energieprofiel over zeer korte afstanden, maar de praktische afstand neemt af naarmate de bandbreedte toeneemt. Bij 112G PAM4, en nog meer bij 224G, wordt koper lastiger dan een paar meter. Dit dwingt meer verbindingen naar single-mode optica, met name voor implementaties op rij- en podschaal. Single-mode ontwerpen bieden ook een soepelere migratieroute over DR- en FR-bereiken, vereenvoudigen toekomstige snelheidsupgrades en vermijden een aantal beperkingen die gepaard gaan met multimode in dichtbevolkte AI-omgevingen. Het resultaat is een architectuur die meer op optica is gebaseerd, maar die zorgvuldig moet worden ontworpen om een ​​ongebreidelde groei van het energieverbruik te voorkomen.

De architectuur van de module is nu net zo belangrijk als het bereik. Conventionele, op DSP gebaseerde pluggable modules blijven de meest flexibele optie, maar ze verhogen zowel het stroomverbruik als de latentie. Voor AI-workloads is die combinatie kostbaar. Collectief verkeer is gevoelig voor vertragingen van microseconden, en herhaalde FEC- en signaalverwerkingsstappen stapelen zich op over meerdere hops. Daarom wint lineaire pluggable optische technologie aan populariteit voor AI-verbindingen over korte afstanden. Door de DSP in de module te verwijderen, kunnen ze het stroomverbruik verlagen en de latentie verminderen, zij het alleen waar de kanaalomstandigheden nauwkeurig worden gecontroleerd. De keerzijde is een kleinere marge en strengere eisen aan het ontwerp van de host, de connectoren en de interoperabiliteit. Voor veel operators maakt dit LPO aantrekkelijk binnen voorspelbare bekabelingsdomeinen, terwijl conventionele pluggable modules veiliger blijven in bredere operationele omgevingen.

Dezelfde logica van duurzaamheid geldt ook voor de verpakking. Optische componenten die dicht bij de behuizing of in een aparte behuizing zijn verpakt, beloven een lager elektrisch verlies, een betere energie-efficiëntie per bit en een hogere frontpaneeldichtheid. Ze maken echter vervanging, onderhoud en levenscyclusplanning complexer. Die balans tussen efficiëntie en onderhoudbaarheid wordt steeds belangrijker bij het ontwerp van AI-netwerken. Zelfs kabelbeheer en netheid worden bij deze dichtheden belangrijker, vooral bij parallelle optische componenten en implementaties met veel breakout-verbindingen, waardoor gedisciplineerde werkwijzen rondom de kabelinfrastructuur essentieel zijn. Valkuilen bij de migratie van 400G naar 800G MPO/MTP Het gaat om duurzaamheid, niet alleen om installatiekwaliteit. In die zin is duurzame optische connectiviteit voor AI geen kwestie van één enkele technologiekeuze. Het is de gedisciplineerde afstemming van PHY-efficiëntie, thermisch realisme, operationele eenvoud en upgrademogelijkheden die de volgende bandbreedtesprong kunnen doorstaan.

Laatste gedachten

De trainingsbelasting voor AI zorgt voor ingrijpende veranderingen in de optische connectiviteit van datacenters, waardoor de grenzen van snelheid, latentie en bandbreedte worden verlegd. Nu operators 800G implementeren en zich voorbereiden op 1.6T-connectiviteit, wordt het cruciaal om deze netwerken duurzaam te beheren en tegelijkertijd de kosten en complexiteit te beheersen. Door gelijke tred te houden met de ontwikkelingen in standaarden, fabrics en koeltechnieken, kunnen engineers en planners ervoor zorgen dat hun architecturen niet alleen voldoen aan de huidige AI-eisen, maar ook schaalbaar zijn voor de uitdagingen van de gedistribueerde workloads van morgen.

Neem contact op met ABPTEL voor informatie over snelle optische verbindingen, MTP/MPO-bekabeling en interconnectieoplossingen voor datacenters.

Meer informatie: https://abptel.com/contact/

Over ons

ABPTEL levert snelle optische transceivers, MTP/MPO-bekabelingssystemen, DAC- en AOC-kabels, PoE-switches, FTTA-oplossingen en glasvezelapparatuur voor datacenters, AI-, telecom- en netwerkinfrastructuurprojecten.


Neem contact op met ABPTEL

Bent u op zoek naar de juiste optische hardware voor uw AI-datacenter, GPU-cluster of FTTA-project? ABPTEL levert vanuit Shenzhen met OEM/ODM-ondersteuning, snelle levertijden en deskundig advies voorafgaand aan de verkoop.

💬 Ontvang binnen 12 uur een offerte: Neem contact op met Candy · WhatsApp +86 188 1445 5697 · candy@abptel.com

Een futuristisch datacenter met oplichtende optische verbindingen voor AI-toepassingen.

Contact

Vul gewoon uw naam, e-mailadres en een korte beschrijving van uw vraag in dit formulier in. Wij nemen binnen 24 uur contact met u op.

× Hoe kan ik u helpen?