Interconnessioni ottiche per data center AI: dai moduli ottici collegabili alle ottiche co-confezionate

Interconnessioni ottiche per data center AIsono collegamenti dati ad alta velocità che utilizzano la luce per spostare le informazioni tra GPU, switch, rack e sistemi di data center. Sono importanti perché i cluster di intelligenza artificiale di grandi dimensioni necessitano di qualcosa di più della pura potenza di calcolo: necessitano anche di uno spostamento dei dati con larghezza di banda elevata, bassa latenza ed efficienza energetica su molti dispositivi.

Negli ultimi anni, la maggior parte delle discussioni sull’infrastruttura AI si sono concentrate sulle GPU. Questo focus è comprensibile, perché le GPU forniscono il calcolo parallelo necessario per l’addestramento e l’inferenza su larga scala. Ma un cluster GPU non è solo un mucchio di acceleratori. È un sistema di calcolo distribuito e i sistemi distribuiti sono limitati non solo dalla velocità di calcolo di ciascun processore, ma anche dalla velocità con cui i dati possono spostarsi tra i processori.

Quando migliaia di GPU lavorano insieme, l'interconnessione diventa parte del sistema di elaborazione stesso. Se il percorso dei dati tra GPU, switch e rack non riesce a tenere il passo, gli acceleratori costosi trascorrono più tempo in attesa e meno tempo nell'elaborazione. In questo senso, l'interconnessione ottica non è un argomento di rete periferica. È uno dei livelli fisici che determina se i grandi sistemi di intelligenza artificiale possono utilizzare in modo efficace il calcolo installato.

La formazione basata sull’intelligenza artificiale è il luogo più semplice per vedere il problema. Un modello di grandi dimensioni può contenere un numero enorme di parametri, ben oltre ciò che una singola GPU può contenere o elaborare in modo efficiente. Il carico di lavoro è suddiviso su molti acceleratori. Ciascuna GPU calcola parte dell'attività, quindi scambia i risultati intermedi con altre GPU. Questo scambio può avvenire ripetutamente durante l’addestramento, creando un intenso traffico est-ovest all’interno del cluster AI.

Anche l'inferenza sembrava più semplice. In una generazione precedente di applicazioni IA, era ragionevole immaginare che una query fosse gestita da un numero limitato di GPU. L'inferenza moderna si sta muovendo verso un ragionamento più complesso, un contesto più lungo, il recupero, l'uso di strumenti, la pianificazione e flussi di lavoro agenti. In questi casi, potrebbe essere necessario che il sistema coordini più risorse di calcolo in più passaggi. Il risultato è che l'inferenza può anche diventare un carico di lavoro sensibile all'interconnessione, soprattutto quando la distribuzione serve molti utenti su larga scala.

La lezione pratica è semplice: una volta che i carichi di lavoro dell’intelligenza artificiale richiedono che molti processori agiscano come un unico sistema,Larghezza di banda di interconnessione GPUdiventa parte dell'equazione della prestazione.

L'addestramento e l'inferenza esercitano pressioni diverse sulla rete, ma entrambi dipendono dal movimento dei dati.

Durante l'addestramento, le GPU si scambiano gradienti, attivazioni, parametri e dati intermedi. Quanto più distribuito è il modello e quanto più grande è il cluster, tanto più critici diventano la sincronizzazione e lo scambio di dati. Durante l'inferenza, la pressione dipende dalla progettazione del carico di lavoro. La semplice inferenza richiesta-risposta potrebbe non stressare la rete tanto quanto l'addestramento, ma il ragionamento in più fasi, il recupero e l'esecuzione degli agenti possono aumentare la comunicazione tra nodi di calcolo, sistemi di storage e gruppi di acceleratori.

Questo è il motivo per cui le interconnessioni ottiche sono diventate centrali nell’architettura dei data center AI. La sfida non è più solo come costruire chip più veloci. Riguarda anche il modo in cui connettere questi chip in modo da mantenere elevata la larghezza di banda, gestire la distanza, ridurre la latenza e tenere sotto controllo il consumo energetico.

Il rame ha ancora un posto importante nei sistemi di intelligenza artificiale. Per percorsi elettrici molto brevi all'interno di un server, chassis o armadio strettamente integrato, il rame può essere efficiente, riparabile ed economico. Il problema si presenta quando lo stesso approccio basato sul rame viene spinto verso velocità di corsia più elevate, collegamenti più lunghi e topologie di cluster più grandi.

Ad alta velocità, i collegamenti in rame devono affrontare tre vincoli connessi: integrità del segnale, portata e potenza. Maggiore è la velocità dei dati, più difficile diventa inviare segnali elettrici puliti a distanza. Il rame passivo è generalmente limitato a collegamenti brevi. Le soluzioni attive in rame possono estendere la portata aggiungendo componenti elettronici, ma tali componenti elettronici aggiungono potenza, calore, costi e complessità di progettazione.

La tecnologia SerDes ha consentito interfacce elettriche ad altissima velocità, ma velocità di segnalazione più elevate rendono i collegamenti in rame sempre più sensibili alle perdite, alla riflessione, alla diafonia e alla complessità dell'equalizzazione. Man mano che i sistemi di intelligenza artificiale si spostano verso corsie elettriche più veloci, la portata effettiva del rame diventa sempre più dipendente dal prodotto e dall’architettura.

Ciò non significa che il rame scomparirà. Ciò significa che il rame viene sempre più utilizzato laddove i suoi punti di forza corrispondono ancora alla distanza fisica: percorsi elettrici brevi e strettamente controllati. Una volta che il collegamento si sposta oltre pochi metri, o quando molti collegamenti devono operare densamente in un sistema su scala rack o cluster, i collegamenti ottici diventano più attraenti.

La distinzione più importante non è “rame contro fibra” in astratto. La vera distinzione è la distanza del collegamento e il livello del sistema.

All'interno di un armadio, le GPU e i chip degli switch possono comunicare su percorsi elettrici molto brevi. In sistemi come i cabinet GPU ad alta densità, molti collegamenti interni possono rimanere elettrici perché la distanza fisica è breve. Ma i collegamenti rack-to-rack, cabinet-to-cabinet e su scala data center creano un problema diverso. Tali distanze sono più lunghe, il numero di collegamenti è maggiore e il costo della perdita di segnale diventa molto più visibile a livello di sistema.

Il rame può ancora essere progettato per specifiche applicazioni a breve distanza. La fibra diventa interessante quando l’architettura richiede un’elevata larghezza di banda su connessioni più lunghe o distribuite.

La potenza di interconnessione non è solo una voce nella specifica di un componente. Su scala di data center AI, migliaia o milioni di corsie ad alta velocità possono trasformare la potenza del collegamento in un importante vincolo di progettazione. Collegamenti attivi in ​​rame, timer, equalizzazione e gestione termica aggiungono pressione al sistema.

La questione ingegneristica finale non è solo se un collegamento può funzionare. La questione è se quel collegamento può funzionare su larga scala, all’interno dell’involucro energetico e termico di una fitta struttura di intelligenza artificiale. Questo è uno dei motivi per cui le interconnessioni ottiche sono passate da un argomento di rete a un argomento di infrastruttura AI.

Interconnessione in rame e fibra nei data center AI

I collegamenti in fibra ottica utilizzano la luce anziché la corrente elettrica per trasportare informazioni. Ciò offre loro numerosi vantaggi nei data center AI: larghezza di banda elevata, lunga portata, immunità alle interferenze elettromagnetiche e migliore idoneità per collegamenti densi ad alta velocità a distanza.

Il valore della fibra è particolarmente evidente quando il sistema deve connettere più rack, più armadi o più sale dati. I segnali elettrici in rame si degradano con la distanza e la velocità. I segnali ottici possono viaggiare molto più lontano mantenendo velocità di dati elevate, rendendo la fibra una soluzione naturale per i cluster IA distribuiti.

WDM, o multiplexing a divisione di lunghezza d'onda, consente a più lunghezze d'onda ottiche di viaggiare attraverso la stessa fibra contemporaneamente. Ciascuna lunghezza d'onda può trasportare un flusso di dati separato. In termini pratici, WDM trasforma una fibra in più canali ottici paralleli.

Questo è uno dei motivi per cui i collegamenti ottici scalano in modo diverso dai collegamenti in rame. Invece di aggiungere un conduttore fisico separato per ogni percorso di traffico, i sistemi ottici possono aumentare la capacità combinando canali di lunghezza d’onda, formati di modulazione più elevati e componenti ottici più veloci.

Trasmissione WDM multi-lunghezza d'onda in un'unica fibra

La giusta scelta ingegneristica dipende dalla distanza, dalla larghezza di banda, dai costi, dalla facilità di manutenzione e dalla progettazione termica. Il rame rimane utile nei collegamenti controllati brevi. La fibra diventa sempre più importante man mano che i cluster di intelligenza artificiale si espandono verso l’esterno.

UNricetrasmettitore ottico collegabileè un modulo che converte i segnali elettrici in segnali ottici e i segnali ottici nuovamente in segnali elettrici. Un lato si collega elettricamente a uno switch, a un'interfaccia di rete o a una scheda di sistema. L'altro lato si collega alla fibra ottica.

Nei data center AI, i moduli ottici collegabili sono particolarmente importanti per i collegamenti tra armadi, rack e switch. Di solito non rappresentano la tecnologia principale per ogni collegamento breve all'interno di un cabinet GPU. Questa distinzione è importante perché evita un malinteso comune: i moduli ottici non sostituiscono automaticamente tutto il cablaggio interno della GPU.

All'interno di un cabinet GPU ad alta densità, la distanza tra GPU, switch e schede può variare da pochi centimetri a un numero limitato di metri. I collegamenti elettrici possono ancora avere senso lì, soprattutto dove il sistema è progettato come un'unità strettamente integrata.

Quando il traffico lascia l'armadio e si sposta verso un altro rack, un altro switch o un'altra stanza, i requisiti di collegamento cambiano. La distanza diventa più lunga, il numero di collegamenti aumenta e i moduli ottici diventano più attraenti.

Un modo utile di pensare alla gerarchia è:

La catena della domanda è semplice. Più GPU richiedono più sistemi. Più sistemi richiedono più armadi. Un numero maggiore di armadi richiede una maggiore interconnessione ad alta velocità tra armadi e interruttori. Con l'aumento del numero di questi collegamenti, aumenta la domanda di moduli ottici.

Questo è il motivo per cui i ricetrasmettitori ottici sono diventati strettamente legati alla crescita delle infrastrutture IA. Il modulo non ha valore perché è una scatola autonoma. È prezioso perché abilita la rete fisica che consente ai cluster GPU di grandi dimensioni di funzionare come un unico sistema.

Un ricetrasmettitore ottico collegabile sembra semplice dall'esterno, ma internamente combina ottica, elettronica, semiconduttori, packaging e allineamento di precisione. I componenti principali sono il laser, il modulatore, il fotorilevatore, il DSP e il sistema di accoppiamento ottico.

All'interno di un ricetrasmettitore ottico collegabile

Il diodo laser fornisce la sorgente luminosa per il segnale ottico. Non trasporta necessariamente i dati da solo. Produce invece una portante ottica stabile che può essere modulata.

Il sistema materiale conta. Il silicio è eccellente per la logica digitale, ma non è un emettitore di luce efficiente. I laser ottici utilizzano comunemente semiconduttori composti III-V comeInPOGaAs, perché questi materiali sono molto più adatti a generare luce.

Diversi tipi di laser compaiono nei moduli ottici e nei sistemi correlati:

Il passaggio dall'ottica tradizionale collegabile alla fotonica del silicio e al CPO cambia il ruolo del laser. In molti moduli collegabili, il laser e il modulatore possono essere strettamente integrati. Nei progetti in stile CPO, il laser può trovarsi all'esterno del package come sorgente luminosa esterna, mentre la modulazione avviene all'interno del chip fotonico in silicio.

Il modulatore è il componente che trasforma una portante ottica vuota in un segnale che trasporta dati. Prende il flusso di dati elettrici e modifica il segnale ottico in modo che gli uno e gli zeri possano essere rappresentati dall'intensità della luce o dal comportamento di fase.

Due importanti approcci di modulazione sonoEAMEMZI.

Un modulatore di elettroassorbimento modifica la forza con cui un materiale assorbe la luce quando viene applicata la tensione. Può essere integrato con un laser per formare un EML, ampiamente utilizzato nei moduli ottici convenzionali ad alta velocità.

Un modulatore dell'interferometro Mach-Zehnder funziona diversamente. Divide la luce in due percorsi, cambia la fase in un percorso e quindi ricombina la luce. A seconda della relazione di fase, il segnale ricombinato può diventare più forte o più debole. Questo approccio è importante nella fotonica del silicio perché può essere implementato utilizzando strutture di guide d'onda in silicio.

All'estremità ricevente, il segnale ottico deve essere riconvertito in segnale elettrico. Questo è il ruolo del fotorivelatore.

Il fotorivelatore sfrutta l'effetto fotoelettrico: i fotoni in arrivo eccitano i portatori nel materiale semiconduttore, creando corrente. Un buon fotorivelatore deve rispondere rapidamente, generare corrente sufficiente da una potenza ottica debole e mantenere basso il rumore.

Tre parametri contano soprattutto:

Nella fotonica del silicio, il germanio viene spesso utilizzato per il fotorilevamento perché il silicio stesso non è efficace nell'assorbire le comuni lunghezze d'onda delle telecomunicazioni come 1310 nm e 1550 nm. Questo è un esempio di come la fotonica del silicio dipenda ancora da un’attenta integrazione dei materiali e non solo dal silicio puro.

ILDSPè il motore di elaborazione del segnale digitale all'interno di molti moduli ottici ad alta velocità. Aiuta a codificare, equalizzare, recuperare e ripulire il segnale.

Alle alte velocità, il collegamento ottico non si limita a inviare semplici impulsi on-off. I moduli moderni spesso usanoPAM4, che rappresenta due bit per simbolo utilizzando quattro livelli di segnale. PAM4 migliora l'efficienza della larghezza di banda, ma rende anche il segnale più sensibile al rumore e alla distorsione. Il DSP aiuta a recuperare i dati desiderati da quel segnale imperfetto.

La roadmap della velocità dei moduli ottici è passata da 400G a 800G, con l’implementazione di 1,6T e progetti a velocità più elevata che spingono il settore verso corsie elettriche e ottiche più veloci. L'architettura esatta dipende dal design del modulo, dal numero di corsie, dallo schema di modulazione e dai requisiti di sistema, ma la tendenza è chiara: ogni generazione esercita una maggiore pressione sul DSP, sull'ottica, sul packaging e sul processo di test.

L'ultima funzione critica è l'accoppiamento ottico. La luce generata o elaborata su un chip deve entrare nella fibra con altissima precisione. Un nucleo di fibra monomodale è largo solo circa 8-9 micrometri, quindi l'accoppiamento è un problema di allineamento su scala micrometrica.

Due approcci comuni sono l'accoppiamento di testa e l'accoppiamento a griglia.

Accoppiamento di testainvia la luce direttamente dal bordo del chip nella fibra. Può essere efficiente, ma l’allineamento è impegnativo.Accoppiamento grigliatoutilizza una struttura modellata sulla superficie del chip per reindirizzare la luce dentro o fuori una guida d'onda. Può fornire una maggiore tolleranza di allineamento in alcuni progetti, ma introduce anche considerazioni sulla lunghezza d'onda e sull'efficienza.

Su scala di produzione, la sfida non consiste semplicemente nel dimostrare una volta l’accoppiamento ottico. La sfida è farlo ripetutamente, in modo affidabile ed economico su grandi volumi.

Un modulo ottico può essere inteso come un sistema di traduzione bidirezionale. Durante la trasmissione, converte i dati elettrici in dati ottici. Alla ricezione converte i dati ottici in dati elettrici.

Flusso del segnale elettrico-ottico-elettrico

Nella direzione di trasmissione, la GPU o l'ASIC dello switch invia un segnale elettrico verso il modulo ottico. Il DSP condiziona il segnale. Il modulatore impone l'informazione alla luce proveniente dalla sorgente laser. L'ottica di accoppiamento quindi allinea la luce nella fibra.

Nella direzione di ricezione, la luce esce dalla fibra e viene diretta sul fotorivelatore. Il fotorilevatore converte il segnale ottico in corrente. Il DSP recupera quindi i dati, corregge la distorsione e invia un segnale elettrico utilizzabile al sistema.

Questa conversione elettrico-ottico-elettrica è il fondamento delle interconnessioni ottiche collegabili.

I moduli ottici combinano due mondi di semiconduttori che non si fondono naturalmente.

Il primo è il mondo digitale del silicio. I DSP sono circuiti integrati a base di silicio. Si basano su una progettazione CMOS avanzata, elaborazione del segnale digitale e interfacce elettriche ad alta velocità.

Il secondo è il mondo ottico dei semiconduttori composti. I laser, molti modulatori e alcuni fotorilevatori si basano su materiali come InP e GaAs. Questi materiali vengono utilizzati perché possono generare, modulare o rilevare la luce in modo efficiente in modi in cui il silicio non è in grado di farlo.

Produzione di chip ottici DSP in silicio e InP

Un DSP è fondamentalmente un chip digitale. Si occupa di simboli, codifica, correzione, equalizzazione e recupero del segnale. Le sue barriere sono la complessità algoritmica, la progettazione di segnali misti ad alta velocità e l'implementazione avanzata del silicio.

Questo è più vicino al mondo delle CPU, delle GPU, degli switch e degli ASIC di rete che al mondo della produzione laser. I team di progettazione, i flussi di processo e i partner di produzione sono quindi diversi da quelli utilizzati per i dispositivi ottici a semiconduttore composto.

I dispositivi ottici InP e GaAs appartengono a un diverso ecosistema di processi. I wafer sono più piccoli, i materiali si comportano diversamente, la chimica del processo è diversa e le prestazioni ottiche dipendono fortemente dall'epitassia, dal controllo dei difetti e dalla struttura del dispositivo.

Una fonderia di silicio leader non è automaticamente un produttore leader di laser InP. L'attrezzatura, le ricette, la conoscenza dei materiali e le sfide relative alla resa sono diverse. Questo è uno dei motivi per cui le catene di fornitura di interconnessione ottica sono più distribuite rispetto alle catene di fornitura GPU.

Il substrato è il materiale di base su cui è costruito il dispositivo ottico. Per i laser basati su InP, la qualità del materiale è fondamentale perché i difetti possono influenzare il dispositivo ottico cresciuto sopra di esso.

L'epitassia è il processo di crescita degli strati funzionali sul substrato. Nei dispositivi laser, questi strati possono includere strutture a pozzo quantico, dove elettroni e lacune si ricombinano per emettere fotoni. Lo spessore, la composizione e il drogaggio dello strato devono essere strettamente controllati. Piccole deviazioni possono spostare la lunghezza d'onda, ridurre l'efficienza o compromettere l'affidabilità.

Questo è il motivo per cui la produzione di semiconduttori compositi non è semplicemente “produzione di chip con un materiale diverso”. È una disciplina specializzata nella produzione di dispositivi ottici.

Fotonica del silicio PICla tecnologia utilizza strutture a base di silicio per guidare, modulare, dividere, combinare e rilevare la luce su un chip integrato. È importante perché avvicina le funzioni ottiche al mondo della produzione e del confezionamento dell’elettronica avanzata.

Un PIC fotonico al silicio non significa che tutte le funzioni ottiche siano realizzate solo in silicio. Il silicio può guidare la luce e supportare guide d'onda compatte, modulatori e schemi di integrazione. Ma il silicio non è una sorgente luminosa efficiente, quindi i laser III-V esterni o integrati separatamente rimangono importanti.

La fotonica del silicio utilizza spesso la SOI, o silicio su isolante, come piattaforma. In termini semplificati, il SOI prevede uno strato di silicio separato dal substrato da uno strato di ossido isolante. L'elevato contrasto dell'indice di rifrazione tra silicio e biossido di silicio aiuta a confinare la luce all'interno di guide d'onda compatte in silicio.

Queste guide d'onda agiscono come fili ottici sul chip. Instradano la luce tra modulatori, divisori, accoppiatori, rilevatori e altre strutture ottiche.

La limitazione principale è la generazione di luce. Il silicio è utile per manipolare la luce, ma è inefficiente come materiale laser. Ecco perché i sistemi fotonici del silicio spesso si affidano a sorgenti laser basate su InP.

Questa divisione del lavoro è fondamentale per l'architettura CPO. Il PIC fotonico al silicio può essere posizionato vicino all'ASIC e gestire la guida d'onda, la modulazione e il rilevamento. Il laser può rimanere all'esterno del pacchetto come sorgente luminosa esterna, alimentando luce continua nel chip fotonico.

Ottiche co-confezionate, OCPO, sposta le funzioni ottiche più vicino all'ASIC dello switch, all'architettura di calcolo adiacente alla GPU o all'elettronica a livello di pacchetto. Invece di collocare ogni funzione di conversione ottica in un modulo collegabile sul retro del sistema, CPO integra motori ottici molto più vicini al chip.

NVIDIA descrive il suo approccio al cambio CPOcome sostituzione dei ricetrasmettitori collegabili con fotonica al silicio sullo stesso pacchetto dell'ASIC. Broadcom descrive in modo simile l'architettura dello switch Ethernet CPO come l'integrazione di motori ottici in un pacchetto comune con lo switch. Lo scopo ingegneristico è accorciare la distanza elettrica, ridurre il carico della segnalazione elettrica ad alta velocità e migliorare l'efficienza energetica con un'elevata densità di larghezza di banda.

Un'architettura CPO semplificata comprende quattro blocchi principali:

Architettura CPO con PIC Silicon Photonics e sorgente laser esterna

Il cambiamento architetturale è la posizione dell'interfaccia ottica. In un modulo collegabile, i segnali elettrici viaggiano dal chip o dalla scheda al modulo. Nel CPO, l'interfaccia ottica si avvicina al pacchetto ASIC. Questo percorso elettrico più breve è il motivo principale per cui il CPO è interessante per le reti AI ad altissima densità.

Il CPO non elimina i laser. Cambia il posto in cui si siedono e cosa fanno.

Le sorgenti laser esterne possono fornire luce continua al motore fotonico del silicio rimanendo all'esterno della parte più calda e complessa del pacchetto. Ciò aiuta con la funzionalità e la progettazione termica. Se il laser viene tenuto all'esterno del package, può essere trattato come una fonte di alimentazione ottica sostituibile anziché come una parte inseparabile del package ASIC.

La sorgente laser è ancora comunemente basata su materiali III-V come InP. La fotonica del silicio può avvicinare il routing ottico e la modulazione all'ASIC, ma necessita comunque di una fonte di luce adeguata.

Il CPO non deve essere inteso come un sostituto universale delle ottiche collegabili. Le due architetture servono diversi livelli della rete del data center.

Il futuro più realistico è la coesistenza. Le ottiche collegabili rimarranno importanti in molti collegamenti di data center. Il CPO crescerà dove la densità di larghezza di banda e la pressione dell'energia elettrica sono più severe.

Il fattore ingegneristico più forte per il CPO non è il fatto che sia “nuovo”. Il fatto è che la distanza elettrica ad alta velocità diventa sempre più costosa man mano che aumenta la densità della larghezza di banda. Avvicinando la conversione ottica all'ASIC si riduce la lunghezza del percorso elettrico più difficile.

Ciò può ridurre la necessità di una complessa risincronizzazione elettrica, migliorare l'integrità del segnale, ridurre la potenza del collegamento e supportare sistemi di commutazione più densi. Tuttavia, il CPO aumenta anche l'importanza del packaging ottico, della strategia della sorgente laser, della progettazione termica e della complessità dei test.

Un'architettura ottica collegabile mantiene il modulo fisicamente separato dall'ASIC. Il segnale elettrico deve viaggiare attraverso la scheda per raggiungere il modulo. A velocità molto elevate, tale distanza richiede un'attenta progettazione del canale e un condizionamento del segnale spesso attivo.

Il CPO modifica questo equilibrio. Posizionando i motori ottici vicino all'ASIC, si riduce la distanza elettrica prima della conversione in luce. Il percorso ottico trasporta quindi il segnale sulla fibra, dove il ridimensionamento della distanza è più favorevole.

I dati sulle prestazioni CPO riportati dal fornitore sono specifici del prodotto e devono essere interpretati nel contesto di ciascuna architettura di switch. I materiali CPO pubblici di NVIDIA descrivono una migliore resilienza della rete e un runtime sostenuto delle applicazioni rispetto ai progetti basati su ricetrasmettitori collegabili.Broadcom afferma che il suo switch Ethernet CPO Tomahawk 6 Davissonfornisce 102,4 Tbps di capacità di commutazione e riduce il consumo energetico dell'interconnessione ottica del 70% rispetto alle tradizionali soluzioni collegabili.

Queste affermazioni sono segnali importanti, ma non dovrebbero essere generalizzate nel senso che “tutti i sistemi CPO offrono sempre lo stesso vantaggio”. Il vantaggio reale dipende dall'architettura dello switch, dalla progettazione del motore ottico, dalla topologia del collegamento, dalla progettazione termica e dall'ambiente di distribuzione.

Le interconnessioni ottiche dipendono da una catena di tecnologie specializzate. Un problema di carenza o di rendimento in uno strato può limitare la disponibilità del modulo o del sistema finale.

La catena di fornitura può essere intesa a strati:

I substrati semiconduttori composti sono il punto di partenza per molti dispositivi ottici. InP e GaA vengono utilizzati perché le loro proprietà materiali supportano la generazione e il rilevamento della luce in modi in cui il silicio non può farlo.

Substrati di alta qualità sono essenziali perché i difetti possono propagarsi agli strati del dispositivo e ridurre le prestazioni o l'affidabilità. Per l'ottica dei data center AI, questo è importante perché i moduli ad alta velocità e le sorgenti luminose CPO richiedono prestazioni ottiche stabili e ripetibili.

I wafer SOI sono importanti per la fotonica del silicio perché forniscono la piattaforma per guide d'onda ottiche compatte e strutture fotoniche integrate. Non sono l’unico fattore nella fotonica del silicio, ma sono un input fondamentale.

L'importanza della SOI aumenta man mano che la fotonica del silicio si sposta da dispositivi ottici specializzati ad architetture di interconnessione di data center ad alto volume.

Lo strato IC digitale rimane essenziale. Anche se il CPO riduce il ruolo dei lunghi percorsi elettrici, i sistemi ottici necessitano ancora di circuiti integrati driver, logica di controllo e intelligenza di elaborazione del segnale. Nei moduli collegabili, il DSP può essere uno dei componenti più complessi e costosi. Nel CPO, alcune funzioni di elaborazione del segnale possono essere semplificate, ma la coordinazione elettrico-fotonica rimane critica.

Il CPO viene spesso descritto come una tecnologia ottica, ma è anche una tecnologia di packaging. Il motore fotonico, i circuiti integrati elettrici, le interfacce in fibra, la sorgente laser e il percorso termico devono funzionare insieme come un sistema.

Anche i test sono più difficili che su un dispositivo puramente elettrico. Gli ingegneri devono convalidare le prestazioni sia ottiche che elettriche: potenza ottica, perdita di accoppiamento, comportamento di modulazione, sensibilità del ricevitore, integrità del segnale, comportamento termico e affidabilità del collegamento. Su larga scala, ciò rende il confezionamento e i test importanti tanto quanto la progettazione dei chip.

I dati di mercato mostrano perché la capacità di interconnessione ottica è diventata strategicamente importante, ma il caso ingegneristico dipende ancora dalla densità di larghezza di banda, dal budget energetico, dalla portata, dalla fattibilità del packaging e dall’affidabilità del sistema. Le previsioni possono indicare la pressione della domanda, ma non dimostrano che ogni architettura ottica si espanderà alla stessa velocità.

LightCounting ha riferito che il ricetrasmettitore ottico e le vendite di prodotti correlatiha raggiunto i 23,8 miliardi di dollari nel 2025, in crescita del 55% rispetto al 2024. Tale crescita riflette la forte domanda da parte di data center e implementazione di infrastrutture AI, in particolare ottiche Ethernet ad alta velocità e prodotti correlati.

Ciò non significa che ogni categoria di moduli ottici cresca allo stesso modo. Dimostra che il confine ottico-elettrico è diventato un’importante area di investimento infrastrutturale con l’espansione dei cluster di intelligenza artificiale.

Goldman Sachs Research ha previstoche il mercato indirizzabile totale delle reti AI potrebbe aumentare di nove volte fino a raggiungere i 154 miliardi di dollari entro il 2028, con il CPO che contribuirà in gran parte a tale opportunità. È meglio trattare tali cifre come stime di mercato basate su scenari piuttosto che come prova diretta che ogni architettura CPO verrà adottata allo stesso ritmo.

Il risultato ingegneristico è più importante del numero del titolo: man mano che i sistemi di intelligenza artificiale diventano più densi e distribuiti, il valore del livello di interconnessione aumenta. CPO, fotonica del silicio, laser esterni, moduli ottici, fibra e packaging diventano tutti più importanti perché si trovano direttamente nel percorso del movimento dei dati dell'intelligenza artificiale.

Le interconnessioni ottiche sono importanti perché i cluster AI sono sistemi distribuiti. Più GPU e switch vengono utilizzati da un sistema, più importante diventa lo spostamento dei dati.

Il rame rimane utile per percorsi elettrici brevi e controllati, ma diventa più difficile da scalare su collegamenti più lunghi ad alta velocità. La fibra fornisce copertura, larghezza di banda, immunità EMI e scalabilità della capacità basata su WDM.

I moduli ottici collegabili sono ancora fondamentali per il networking dei data center. Forniscono un modo flessibile e pratico per collegare rack, switch e sistemi. Non scompariranno semplicemente perché sta emergendo il CPO.

Il CPO rappresenta un cambiamento dell'architettura, non solo un modulo ottico più piccolo. Avvicina la conversione ottica all'ASIC, spesso utilizzando PIC fotonici al silicio e sorgenti laser esterne. Il suo valore è maggiore laddove la densità di larghezza di banda e la pressione di alimentazione sono più severe.

La fotonica del silicio costituisce un ponte tra l'elettronica e l'ottica, ma non elimina la necessità di sorgenti luminose composte da semiconduttori. Laser InP, wafer SOI, integrazione fotonica, accoppiamento, confezionamento e test rimangono tutti parte del sistema.

La catena di fornitura dell'interconnessione ottica è distribuita. Nessun singolo livello tecnologico determina il successo. Materiali, epitassia, laser, DSP, fotonica del silicio, packaging, test, moduli e infrastruttura in fibra devono tutti essere scalabili insieme.

Le interconnessioni ottiche sono collegamenti dati ad alta velocità che utilizzano la luce per spostare le informazioni tra GPU, switch, rack e sistemi di data center. Aiutano i cluster IA a scambiare dati su distanze più lunghe e larghezze di banda più elevate rispetto a quelle che il rame può supportare in modo efficiente su larga scala.

La fibra non sta sostituendo il rame ovunque. Il rame rimane utile per collegamenti interni brevi. La fibra diventa più interessante per i collegamenti rack-to-rack, switch-to-switch e su scala cluster perché fornisce una portata più lunga, un'elevata larghezza di banda, immunità EMI e una migliore scalabilità attraverso il multiplexing ottico.

Un ricetrasmettitore ottico collegabile include tipicamente una sorgente laser, un modulatore, un fotorilevatore, un DSP e componenti di accoppiamento ottico. Insieme, queste parti convertono i segnali elettrici in segnali ottici per la trasmissione in fibra, quindi riconvertono i segnali ottici ricevuti in dati elettrici.

Le ottiche collegabili sono moduli sostituibili installati a bordo del sistema. Il CPO avvicina i motori ottici al pacchetto ASIC. Le ottiche collegabili danno priorità alla manutenibilità e alla flessibilità, mentre il CPO mira a percorsi elettrici più brevi, una maggiore densità di larghezza di banda e una minore pressione di potenza in collegamenti selezionati ad alta densità.

La fotonica del silicio può guidare, dividere, modulare e rilevare la luce, ma il silicio è inefficiente come sorgente luminosa. I laser InP sono ancora necessari per fornire potenza ottica, soprattutto nelle architetture in cui un PIC fotonico al silicio gestisce la modulazione e l'instradamento mentre un laser esterno fornisce luce continua.

È improbabile che il CPO sostituisca l'ottica collegabile su tutti i collegamenti dei data center. Le due architetture si rivolgono a livelli diversi. Il CPO è adatto all'integrazione ottica con chip adiacente o a livello di switch ad alta densità, mentre le ottiche collegabili rimangono utili per molte interconnessioni di rack, switch e data center.