Le point de départ est toujours le même: avant même de parler de conformité, une organisation doit se situer dans l’écosystème de l’intelligence artificielle. Le règlement européen distingue plusieurs rôles. Les fournisseurs, d’abord, qui développent ou font développer des systèmes d’IA ou des modèles à usage général dans l’intention de les mettre sur le marché ou en service dans l’Union. Les déployeurs, ensuite, qui utilisent ces systèmes sous leur propre autorité dans un cadre professionnel. À ces deux catégories centrales s’ajoutent les acteurs de la chaîne logistique – importateurs, distributeurs –, les fabricants qui intègrent de l’IA dans des produits déjà réglementés, ainsi que les mandataires représentant des fournisseurs établis hors de l’Union.
Enfin, il y a les «personnes concernées»: citoyens, salariés, patients, étudiants, usagers de services publics ou privés, dès lors qu’ils interagissent avec un système d’IA. À leur égard, le règlement n’impose pas d’obligations, mais consacre des droits, notamment celui d’obtenir des explications sur les décisions automatisées, dans la continuité du RGPD. L’objectif affiché de l’AI Act est clair: protéger la santé, la sécurité et les droits fondamentaux dans l’usage de ces technologies.
Un champ d’application limité
Le champ d’application du règlement n’est toutefois pas universel. Certaines activités en sont exclues. C’est le cas des systèmes d’IA à finalité militaire, de défense ou de sécurité nationale, ainsi que des développements strictement dédiés à la recherche scientifique. Les usages purement personnels échappent également au règlement: utiliser un générateur d’images ou de texte à titre privé ne crée aucune obligation. Les systèmes publiés en open source sont eux aussi exclus, sauf s’ils sont utilisés dans des domaines considérés comme critiques. Enfin, certaines coopérations internationales liées à l’application des lois ne relèvent pas du cadre de l’AI Act.
Dans la pratique, la plupart des entreprises présentes étaient appelées à se reconnaître dans le rôle de déployeur, parfois cumulativement avec celui de fournisseur lorsqu’elles font développer des outils spécifiques pour leurs propres besoins. Cette pluralité de rôles est explicitement prévue par le règlement et conditionne directement le niveau d’exigences applicables.
Une pyramide du risque
Une fois ce positionnement établi, la logique du texte repose sur une approche graduée par les risques. Les pratiques jugées à «risque inacceptable» sont purement interdites sur le marché européen. Il s’agit notamment de certains usages de la biométrie ou de la police prédictive, considérés comme contraires aux valeurs de l’Union.
Une fois le rôle identifié, le cœur du dispositif repose sur une approche fondée sur le risque. Le règlement distingue d’abord les pratiques à risque inacceptable, interdites sur le marché européen. Il s’agit notamment de certains usages de la biométrie ou de la police prédictive, considérés comme incompatibles avec les valeurs de l’Union.
Vient ensuite la catégorie clé des systèmes d’intelligence artificielle à haut risque, sur laquelle Philippe Valoggia insiste particulièrement. Un système est qualifié de «haut risque» non pas en raison de sa technologie, mais en raison de l’usage qui en est fait. Sont ainsi considérés comme à haut risque les systèmes utilisés dans des domaines tels que la gestion de l’emploi et du recrutement, l’évaluation des travailleurs, l’accès à des services essentiels, ou encore la détermination de droits sociaux ou économiques. Un outil d’IA utilisé pour trier des candidatures, évaluer des performances professionnelles ou calculer une prime d’assurance entre typiquement dans cette catégorie.
Sont également qualifiés de systèmes à haut risque tous les produits intégrant de l’IA qui relèvent déjà d’une législation harmonisée. Cela concerne notamment les dispositifs médicaux, les véhicules autonomes, l’aviation, les ascenseurs ou encore certains jouets. Dès lors qu’un tel produit est «modernisé» par l’intégration d’un système d’intelligence artificielle, il bascule automatiquement dans le régime du haut risque.
Des systèmes majoritairement à risque minimal
À l’autre extrémité du spectre, la majorité des outils d’IA utilisés aujourd’hui relèvent du «risque minimal». Il s’agit notamment des solutions visant à optimiser des processus internes: logistique, achats, organisation, production. Ces systèmes sont réputés pour ne pas présenter de danger particulier pour la santé, la sécurité ou les droits fondamentaux. Les exigences réglementaires y sont donc limitées.
Une catégorie transversale mérite néanmoins une attention particulière: les obligations de transparence. Dès lors qu’un individu interagit avec un système d’IA, il doit en être informé. De même, tout contenu généré par l’intelligence artificielle doit être signalé comme tel. Ces obligations peuvent s’appliquer aussi bien à des systèmes à haut risque qu’à des systèmes à risque minimal.
Le règlement introduit par ailleurs une distinction spécifique pour les modèles à usage général, tels que les grands modèles de langage. Certains peuvent être qualifiés de modèles à «risque systémique» lorsque leur impact potentiel dépasse l’individu pour affecter la société dans son ensemble, par exemple en matière de cybersécurité ou de prolifération d’armes. Leur classification repose sur des critères techniques, comme la puissance de calcul, mais aussi sur des critères d’usage, notamment le nombre d’utilisateurs concernés.
Une proportionnalité des obligations selon le niveau de risque
Cette hiérarchisation se traduit concrètement par une proportionnalité des obligations. Plus le risque est élevé, plus les exigences sont nombreuses. Pour un déployeur utilisant un système d’IA à risque minimal, l’obligation centrale est unique: s’assurer que les collaborateurs disposent d’une maîtrise suffisante de l’intelligence artificielle. À l’inverse, les systèmes à haut risque entraînent un ensemble d’exigences organisationnelles, techniques et documentaires beaucoup plus étoffées.
Un point d’attention concerne la possible requalification des rôles. Un acteur initialement déployeur peut devenir fournisseur s’il commercialise un système sous sa propre marque, s’il y apporte des modifications substantielles ou s’il détourne l’outil de son usage initial. Dans ce cas, les obligations correspondantes s’appliquent automatiquement.
Quel que soit le niveau de risque ou le rôle endossé, une obligation traverse l’ensemble du règlement: la maîtrise de l’IA par les personnes qui l’utilisent dans un cadre professionnel. Cette exigence, entrée en vigueur le 2 février 2025, impose aux organisations de former leurs collaborateurs afin qu’ils comprennent à la fois les opportunités et les risques liés à ces technologies. Comme l’ont souligné les intervenants de la table ronde, cette démarche peut s’appuyer sur des programmes de sensibilisation existants, notamment en matière de protection des données, et s’adresser non seulement aux employés, mais aussi aux décideurs.
Pour accompagner cette mise en conformité, des ressources sont déjà disponibles, dont l’outil de «compliance checker» développé par la Commission européenne. Un moyen, selon Philippe Valoggia, de transformer une réglementation perçue comme complexe en un cadre lisible, proportionné et opérationnel. Mais qui souffre d’un point faible assez important: il ne permet pas à celui qui l’utilise de répondre «je ne sais pas». Or la majorité des gens qui ont des questions aujourd’hui… ne savent pas.



