La croissance explosive des applications d’IA est en train de remodeler les réseaux des datacenters, du Edge et du cloud. Revue de détails.

Alors que les entreprises mettent toujours davantage d’applications à base d’IA en production, la croissance explosive de la technologie à la fois à la périphérie et dans le datacenter crée des demandes en bande passante, des contraintes de latence et de flexibilité architecturale que les réseaux traditionnels n’ont pas été conçus pour fournir.

Les dernières données du cabinet d’études Omdia indiquent que l’ensemble du trafic généré par l’IA – comprenant les nouvelles applications d’IA et les applications dopées par l’IA – représente 39 exaoctets de trafic réseau en 2024. Le trafic non lié à l’IA des applications embarquant cette technologie représentait 131 exaoctets, tandis que le trafic des applications conventionnelles pesait 308 exaoctets, selon Brian Washburn, directeur de recherche chez Omdia. Mais, dès 2025, ces 39 exaoctets de trafic IA doubleront pour atteindre 79 exaoctets, toujours selon le cabinet d’études. Et cette source d’échanges continuera de croître à un rythme bien supérieur à celui du trafic conventionnel. En 2031, le trafic provenant de l’IA dépassera le trafic conventionnel, prédit Brian Washburn.

Les nouvelles sources de trafic comprennent des cas d’usage tels que les applications basées sur le traitement visuel, la surveillance, les nouveaux jeux et médias et la génération de contenu par l’IA. Le trafic des applications améliorées par l’IA va des services de transcription intelligente aux résumés de contenu, en passant par l’assistance et la révision du code, les analytiques avancés, les requêtes en langage naturel et le filtrage de contenu. Et ces chiffres n’incluent pas les réseaux entièrement privés tels que ceux des hyperscalers, le trafic on-prem et sur les campus.

Pics lors des phases d’entraînement

Pour l’ensemble du trafic des entreprises, Zscaler a publié en mars un rapport montrant une augmentation sans précédent de 3 464 % de l’activité issue de l’IA sur une année. Selon ce rapport, au cours des 11 derniers mois de 2024, 3 624 téraoctets de données ont été transférés vers et depuis plus de 800 applications d’IA telles que ChatGPT.

Salesforce, qui a ajouté des capacités d’IA générative et d’IA agentique à sa plateforme de gestion de la relation client basée sur le cloud, est l’une des entreprises qui mesure déjà l’impact de cette technologie sur son architecture réseau. « Nous constatons une augmentation significative du traitement et du transfert des données, en particulier lorsque nous traitons des jeux de données plus importants pour l’entraînement des modèles et l’inférence en temps réel », explique Paul Constantinides, vice-président exécutif de l’ingénierie de l’éditeur. Cela se traduit par une demande de bande passante plus élevée, de latence plus faible et d’infrastructure réseau plus robuste. Cette augmentation de l’activité de l’IA amènera les entreprises à repenser la mise en réseau de leurs datacenters, de leurs services cloud, de leurs environnements de périphérie. Et la sécurité associée !

La renaissance de la commutation Ethernet

Dans les centres de données, l’IA pose deux types de défis différents en matière de réseau. D’abord, il faut considérer le trafic entre les GPU individuels et les serveurs lors des phases d’apprentissage des modèles. « La demande de quantités massives de ressources – en particulier de CPU et de GPU – est à l’origine d’une nouvelle zone au sein du datacenter de l’entreprise dédié à l’IA », explique Lori MacVittie, ingénieur et évangéliste en chef au sein du cabinet de CTO de F5 Networks, basé à Seattle. « Ces usines d’IA ont des besoins particuliers en matière de réseau liés à la direction du trafic, qui nécessitent un réseau plus intelligent, de nouvelles capacités de sécurité et la gestion de volumes de données plus importants. »

Ce qui passe par de nombreux investissements. « L’IA, et en particulier l’IA générative, est un moteur de croissance majeur pour la commutation Ethernet des datacenters », analyse Brandon Butler, directeur de recherche senior pour les réseaux d’entreprise chez IDC, dans un rapport publié en mars. Ce qui entraîne une renaissance du marché des commutateurs Ethernet dédié aux datacenters, ajoute-t-il. Le cabinet d’études prévoit une croissance de ce marché de 640 M$ en 2023 à plus de 9 Md$ en 2028.

Les inconnues des flux réseau de l’IA agentique

En outre, les entreprises commencent à expérimenter l’IA agentique. Celle-ci consiste à faire collaborer des agents individuels dotés d’IA pour exécuter des tâches complexes, créer du code ou exécuter des workflows entiers. Elle est souvent déployée sur site ou dans des cloud privés afin de réduire les coûts et la latence – et préserver la sécurité des données de l’entreprise.

Les flux de l’IA agentique devraient être radicalement différents du trafic prévisible et déterministe créé par les applications traditionnelles, bien que la nature exacte de ces différences ne soit pas encore claire. « La manière dont toutes ces connexions vont circuler sur le réseau reste inconnue », dit Lori MacVittie de F5.

L’IA dans le cloud

Une fois les modèles mis en production, cependant, le trafic circulera en dehors du datacenter dédié, entre les modèles et les utilisateurs finaux. « L’inférence nécessite une connectivité étendue et multisite solide, ce qui est différent de la topologie du réseau d’entraînement, qui nécessite des réseaux locaux denses », explique Jason Carolan, directeur de l’innovation chez Flexential, une société basée à Charlotte, en Caroline du Nord.

Et la flexibilité est essentielle, ajoute-t-il. « Étant donné que de nombreuses applications d’IA sont en mode prototype ou expérimentation pendant un certain temps, les connexions réseau, la topologie et les besoins en capacité peuvent changer en fonction des nouveaux modèles, des nouvelles données ou des nouveaux endpoint », explique Jason Carolan.

Certaines entreprises sont déjà prêtes à gérer le trafic de l’IA, affirme Derek Ashmore, directeur de la transformation des applications chez Asperitas Consulting. Cela s’explique par le fait qu’elles ont déjà commencé à s’éloigner des réseaux Legacy peu flexibles et difficiles à entretenir. Le passage à des réseaux modernes dans le cloud est en cours depuis un certain temps, note-t-il, et ce mouvement s’est accéléré lors de la pandémie de Covid. « Même sans la pandémie, cette évolution aurait eu lieu, mais à un rythme plus lent », ajoute Derek Ashmore.

Tout Harry Potter… à chaque requête

Or, cette transition prépare les entreprises à relever les défis de l’IA générative. Par exemple, les applications d’IA multimodale traitent du texte, des images, du son et de la vidéo, et les requêtes et les réponses peuvent être très volumineuses. Ainsi, le dernier modèle Gemini 2.5 de Google a une fenêtre contextuelle d’une taille d’un million de tokens, et deux millions seront bientôt disponibles. Or, deux millions de tokens représentent environ 1,5 million de mots. À titre de comparaison, tous les livres de Harry Potter réunis n’en renferment qu’environ un million. Les grandes fenêtres contextuelles permettent des conversations plus longues et plus complexes, ou permettent aux assistants de codage de l’IA d’examiner de plus grandes parties d’une base de code. En outre, les réponses de l’IA sont générées de manière dynamique, de sorte qu’il n’y a aucun moyen de mettre les demandes en cache dans la plupart des cas.

Au fur et à mesure que les éditeurs d’IA se surpassent en termes de capacités, leurs applications seront en mesure de gérer des conversations encore plus importantes – et l’IA agentique pourrait encore augmenter les besoins en bande passante de manière exponentielle et imprévisible. Selon Lori MacVittie de F5, n’importe quel site web ou application pourrait devenir une application d’IA, simplement en y ajoutant un chatbot bâti avec cette technologie. La conséquence ? Le modèle de trafic bien défini et structuré devient soudainement très différent. « Lorsque vous mettez les interfaces conversationnelles en avant, cela change la nature des flux », souligne-t-elle.

Un autre défi lié à l’IA que les gestionnaires de réseaux devront relever est lié à la complexité de multicloud. « Nous assistons à une dispersion des environnements sur des cloud hyperscale, des cloud privés et des cloud spécialisés », observe Zac Smith, ancien cadre d’Equinix et membre de la communauté de la Sustainable & Scalable Infrastructure Association, basée à New York. Par exemple, des entreprises comme CoreWeave proposent des GPU en cloud. Il y a des entreprises de bases de données et des datalake. Il y a des plateformes d’IA fournies par des hyperscalers, et il y a de l’IA fonctionnant on-prem, dans des datacenters en colocation ou dans des cloud privés. « Il s’agit de nouveaux environnements, et les gens doivent maintenant résoudre des problèmes de connectivité entre des types de cloud très différents », explique Zac Smith.

Ce dernier a récemment étudié les différents paradigmes de mise en réseau d’Amazon et de Google. « Il y a beaucoup de similitudes, dit-il. Vous pouvez vous connecter à des tiers dans les mêmes régions, faire du peering, faire du fabric – mais ils ont tous des façons différentes de le faire et l’ensemble n’est pas normalisé. »

L’IA à la périphérie

Enfin, il y a l’IA à la périphérie, qui pose sa propre série de défis en matière de réseau. La latence devient un facteur essentiel, en particulier pour les applications critiques telles que les voitures autonomes, les robots en usine et les appareils médicaux.

D’autres cas d’usage en entreprise comprennent les contrôles de sécurité alimentés par l’IA pour les caméras de vidéosurveillance et le contrôle de la qualité dans les environnements de fabrication, explique Jason Carolan de Flexential. Un magasin de produits de beauté pourrait également disposer d’une plateforme permettant aux clients d’essayer virtuellement ses produits, ajoute-t-il.

Selon Paul Constantinides de Salesforce, l’IA en Edge nécessite des capacités de traitement plus proches des sources de données afin de réduire la latence et l’utilisation de la bande passante. Les réseaux périphériques à faible latence, comme les CDN, sont alors des solutions intéressantes, ajoute-t-il.

L’IA et la sécurité des réseaux

L’IA pose toute une série de problèmes de sécurité potentiels pour les entreprises. La technologie est nouvelle et n’a pas encore fait ses preuves, et les attaquants développent rapidement de nouvelles techniques pour s’attaquer aux systèmes d’IA et à leurs composants. Ce phénomène vient se greffer à tous les vecteurs d’attaque traditionnels, explique Rich Campagna, vice-président senior du management de produits chez Palo Alto Networks. « En périphérie, les terminaux et les réseaux sont souvent distribués, ce qui entraîne des angles morts en termes de visibilité », dit-il. Résoudre les problèmes en cas d’incident devient dès lors plus difficile

Palo Alto développe ses propres applications d’IA, explique Rich Campagna, et ce depuis des années. Il en va de même pour ses clients. « Par exemple, j’ai récemment rencontré une entreprise du retail qui est en train de réorganiser ses réseaux de magasins pour prendre en charge la gestion des stocks alimentée par l’IA en Edge, illustre-t-il. Il faut s’assurer que, quel que soit l’endroit où l’actif est déployé, des mécanismes de protection sont en place, aussi près possible de cet actif. »

Et les défis en matière de sécurité sont amplifiés par l’IA agentique, un problème que Lori MacVittie (F5) observe déjà. Par exemple, lorsqu’une entreprise fonctionne sur la base du Zero Trust et du principe de moindre privilège, comment gère-t-elle les identités, les données d’identification et les privilèges des agents ? « Tous les outils traditionnels que nous utilisons pour gérer les rôles et les informations d’identification ne fonctionnent soudainement plus, souligne-t-elle. Ou alors nous donnons aux agents un accès racine, ce qui fait bondir les responsables de la sécurité. » À mesure que l’IA prolifère sur les réseaux internes, le besoin d’une sécurité plus fine devient critique, ajoute Sanjay Kalra, chef de produit chez Zscaler.

Bloquer le chargement de données sensibles

L’IA présente un autre risque en matière de sécurité : la possibilité que les employés téléchargent des données sensibles sur des plateformes ou des applications d’IA publiques. Selon Sanjay Kalra, les entreprises clientes de Zscaler ont bloqué 60% de toutes les transactions liées à l’IA. Certaines entreprises désactivent tout accès aux applications d’IA publiques, tandis que d’autres recherchent des indices indiquant qu’un employé partage des données financières, des informations d’identification personnelles, des données médicales ou du code source. Zscaler a bloqué 2,9 millions de tentatives de chargement de ce type de données sur le seul site ChatGPT. La violation de données la plus courante ? Les numéros de sécurité sociale.

Enfin, un autre usage indésirable hante ou s’apprête à hanter les réseaux d’entreprise : celui qu’en feront les pirates informatiques. Selon l’enquête annuelle de Bugcrowd, publiée en octobre, 86% d’entre eux affirment que l’IA a fondamentalement changé leur approche du piratage. Il s’agit là d’une enquête menée auprès de hackers « white hat » (chapeau blanc), c’est-à-dire avec une démarche éthique. Les pirates malveillants ne répondent pas aux sondages. Mais ils utilisent également l’IA. Selon un rapport publié en octobre par Keeper Security, 51% des DSI et RSSI affirment que les attaques basées sur l’IA constituent la menace la plus sérieuse à laquelle leur organisation est confrontée.

Les attaquants utilisent ainsi l’IA pour créer des spams de meilleure qualité et en plus grande quantité, pour deviner les mots de passe, pour faire de la reconnaissance, etc. Face à ces menaces, les responsables de la sécurité des réseaux disposent de leur propre IA, les principaux fournisseurs de sécurité investissant tous massivement dans ce domaine.