On les croyait réservées aux développeurs. Elles pourraient bientôt figurer parmi les infrastructures les plus sensibles des entreprises. Les «entrepôts de composants logiciels», par lesquels transitent chaque jour les milliers de briques utilisées pour construire les applications, sont en train de changer de statut. L’incident de sécurité révélé par OpenAI, qui est parvenu à attaquer Hugging Face, l’hébergeur des centaines de milliers de modèles d’intelligence artificielle utilisés dans le monde entier, en apporte une démonstration concrète.
L’épisode a surpris jusque dans la communauté de la cybersécurité. Pour sortir un de ses agents d’intelligence artificielle de son environnement de test pourtant fortement isolé, les chercheurs d’OpenAI ont constaté que le modèle n’avait pas attaqué un pare-feu ni un serveur exposé sur internet. Il a exploité une vulnérabilité inconnue dans un serveur interne chargé de récupérer et de stocker des composants logiciels utilisés par les développeurs, avant d’enchaîner plusieurs étapes d’élévation de privilèges.
Pour la plupart des entreprises, ce type de serveur est un outil d’administration presque invisible. Pourtant, il constitue le point de passage obligé de milliers de bibliothèques logicielles téléchargées chaque jour depuis des catalogues publics comme NPM, PyPI ou Maven Central. Son rôle est simple: vérifier, conserver et redistribuer ces composants à l’ensemble des équipes de développement.
Les IA choisissent déjà des composants vulnérables
Si cet épisode retient autant l’attention, c’est qu’il intervient au moment où les agents d’IA commencent à prendre eux-mêmes des décisions techniques.
Une étude menée par l’université Purdue, portant sur 117.062 modifications réalisées dans 2.807 dépôts GitHub, montre que les agents d’IA ne se contentent plus d’écrire du code: ils décident également quels composants logiciels utiliser et quelles versions installer.
Les chercheurs observent que, lorsqu’une IA ajoute ou met à jour un composant, elle choisit une version déjà connue comme vulnérable dans 2,46% des cas, contre 1,64% pour les développeurs humains. Plus frappant encore, dans 86,6% de ces situations, une version corrigée était déjà disponible au moment où la décision a été prise.
Le bilan global est lui aussi révélateur. Les développeurs humains éliminent davantage de vulnérabilités qu’ils n’en introduisent, tandis que les agents d’IA affichent un résultat net négatif: ils en ajoutent plus qu’ils n’en corrigent.
Une nouvelle surface d’attaque
Ces deux constats dessinent un même phénomène. D’un côté, les IA utilisent de plus en plus ces catalogues de composants logiciels pour construire automatiquement des applications. De l’autre, les serveurs internes qui distribuent ces composants deviennent suffisamment stratégiques pour servir de point d’entrée lors d’attaques sophistiquées. Autrement dit, les entreprises devront désormais protéger non seulement leurs applications, leurs bases de données ou leurs réseaux, mais aussi les infrastructures qui alimentent leurs développeurs – et bientôt leurs agents d’IA – en composants logiciels.
Pour les chercheurs de Purdue, les outils d’évaluation des agents d’IA devront évoluer. Vérifier qu’un programme fonctionne ne suffira plus. Il faudra aussi contrôler si l’agent a choisi un composant déjà présent dans l’entreprise plutôt qu’un nouveau, s’il a évité des ajouts inutiles et, surtout, s’il a retenu une version exempte de vulnérabilités connues.
Cette évolution pourrait transformer des outils jusqu’ici considérés comme de simples serveurs techniques en infrastructures critiques de cybersécurité.
À mesure que les entreprises confieront davantage de tâches de développement à des agents autonomes, ces «entrepôts de composants logiciels» deviendront l’un des principaux points de contrôle de la chaîne d’approvisionnement numérique. L’incident d’OpenAI montre qu’ils peuvent aussi devenir l’une de ses principales failles.



