Commutation optique par circuit : pourquoi Google et Lightmatter délaissent les commutateurs électriques pour l'IA

La plupart des discussions sur l’infrastructure de l’IA se concentrent sur la puce. Pourtant, un GPU passe une part surprenante de sa vie à attendre le réseau, et chaque commutateur électrique entre deux accélérateurs agit comme un péage où la lumière est convertie en électrons, analysée, puis reconvertie en lumière. La commutation optique par circuit pose une question impolie : et si le commutateur ne touchait jamais aux électrons?

Avant de lire : Notre article précédent sur la photonique sur silicium expliquait pourquoi le cuivre abandonne les baies d’IA. Celui-ci monte d’un cran, vers les commutateurs qui relient ces baies et peuvent reconfigurer tout le cluster à la demande. Photonique sur silicium : pourquoi l’IA force les centres de données à abandonner le cuivre

Table des matières

• Le problème du péage
• Commuter avec des miroirs
• Pourquoi les grappes d’entraînement adorent ça
• Lightmatter veut tout le chemin de données
• Le saviez-vous
• Sources

Le problème du péage

Dans un réseau conventionnel à commutation de paquets, chaque saut est un commutateur électrique. Le signal arrive sous forme de lumière, devient électricité, voit son en-tête lue, est envoyé vers un port de sortie, puis redevient lumière pour le saut suivant. Chaque conversion consomme de l’énergie et ajoute de la latence. Multipliez cela par les milliers de sauts qu’un gros entraînement touche, et le péage devient salé.

Commuter avec des miroirs

La réponse de Google, détaillée dans son article SIGCOMM 2022 « Mission Apollo: Landing Optical Circuit Switching at Datacenter Scale », est un commutateur optique par circuit construit autour de réseaux de miroirs MEMS. La lumière entre par une fibre, frappe un miroir microscopique qui s’incline pour viser le faisceau, et ressort par la fibre que le miroir pointe. Pas d’analyse de paquets, pas de mise en mémoire tampon, pas de conversion. La route est fixée par un angle.

Quiconque a passé une nuit de vendredi à rebrancher des fibres dans une cage connaît l’attrait. Le miroir fait ce rebranchement par logiciel, et personne n’a besoin de tenir une lampe de poche entre les dents en comptant les couleurs de fibres. Franchement, c’est une phrase étrange à écrire sur le matériel réseau le plus avancé d’un centre de données hyperscale : le cœur du commutateur bouge en s’inclinant.

Pourquoi les grappes d’entraînement adorent ça

Le trafic d’entraînement est étonnamment prévisible. Les patrons de communication d’un grand modèle se répètent pendant des jours, alors la topologie peut être configurée une fois par tâche et maintenue stable. L’article sur le TPU v4 (ISCA 2023) décrit des grappes de 4 096 puces câblées en tore 3D reconfigurable, où les commutateurs optiques découpent des tranches pour différentes tâches et contournent les baies défaillantes sans qu’un technicien touche à un câble. Les auteurs situent la couche de commutation optique à moins de 5 % du coût du système et à moins de 3 % de sa consommation. C’est un chiffre rare dans cette industrie : assez modeste pour sembler banal, assez important pour compter.

Le piège, c’est la vitesse. La reconfiguration se fait à l’échelle de la milliseconde, une éternité pour un trafic qui change à la microseconde. L’approche fonctionne parce que les calendriers d’entraînement sont stables. Donnez-lui une charge d’inférence aux flux rafales et imprévisibles, et l’avantage s’évapore. La conception de Google ne remplace pas le réseau électrique; elle se place à côté, en prenant les flux longs et stables qui dominent l’entraînement.

Lightmatter veut tout le chemin de données

Google câble ses propres grappes. Lightmatter, la startup de Boston qui a passé des années sur le calcul photonique avant de se tourner résolument vers l’interconnexion, veut de l’optique partout où les données circulent. Ses produits Passage et Photonic Fabric proposent la lumière comme transport entre processeurs et mémoire, pas seulement comme lien entre les boîtiers. Si ça fonctionne, le commutateur optique devient une pièce d’un chemin entièrement photonique plutôt qu’un appareil isolé.

Le problème, c’est que le discours dépasse de loin les preuves publiques. Les tests indépendants à l’échelle d’une grappe sont minces, et « notre chiplet transporte X térabits par seconde » est une phrase beaucoup plus facile à écrire qu’à vérifier en volume. J’aimerais voir un déploiement, pas une diapositive, avant de considérer la structure photonique comme une affaire réglée.

Le saviez-vous

• Selon l’article Mission Apollo, la position des miroirs est vérifiée et corrigée par des boucles de rétroaction basées sur des caméras. Après toute cette photonique, l’un des outils les plus fiables pour aligner un faisceau s’avère être une caméra qui regarde la lumière.
• Comme le tore est reconfigurable, une baie défaillante peut être contournée par logiciel. La tâche continue de tourner pendant qu’un technicien décide quand réparer le matériel, et personne n’a besoin de débrancher quoi que ce soit à 3 h du matin.

Le verdict honnête : la commutation optique par circuit est une réponse astucieuse à une question précise, soit comment garder un cluster d’entraînement prévisible câblé comme la tâche l’exige. Tant que quelqu’un d’autre que Google ne publiera pas de chiffres à une échelle comparable, il faut considérer le centre de données entièrement optique comme une architecture prometteuse, pas comme un acquis. Les électrons ne partent pas sans bruit, mais on leur demande de faire moins.

Sources

• Google, « Mission Apollo: Landing Optical Circuit Switching at Datacenter Scale », ACM SIGCOMM 2022
• Jouppi et al., « TPU v4: An Optically Reconfigurable Supercomputer for Machine Learning with Hardware Support for Embeddings », ISCA 2023
• Lightmatter, documentation produit sur Passage et Photonic Fabric (lightmatter.co)