- Légitimité, en respectant toutes les lois et régulations en vigueur
- Robustesse technique et sociale
- Éthique, en respectant les principes et valeurs de l’Union européenne
La gouvernance, clef de voûte d’une IA performante
L’engouement grandissant des entreprises pour l’IA a fait que bon nombre de projets ont été réalisés sans gouvernance propre. On estime qu’en 2020, 85% des systèmes utilisant de l’intelligence artificielle produiront des résultats erronés.
Ainsi, pour s’en prémunir et optimiser les bénéfices de l’IA, cinq points sont à contrôler tout au long de la vie du développement d’une IA:
- Le contrôle des biais, afin de prévenir l’intégration de préjugés et inexactitudes pouvant entraîner des algorithmes sur des hypothèses erronées;
- La résilience, pour se protéger contre les accès non autorisés, la corruption et/ou des attaques visant l’IA;
- L’explicabilité, pour avoir la capacité de comprendre comment les modèles ont été entraînés et quels sont les critères impactant les décisions;
- La transparence, afin de permettre à l’utilisateur de pouvoir sélectionner son niveau d’interaction et d’avoir son consentement sur les différentes données recueillies;
- La performance, pour des résultats d’IA atteignant la précision, la cohérence et la réactivité souhaitées.
EY “EY Trusted AI Framework” (Crédit Photo: EY Luxembourg)
Comment mettre en place cette gouvernance?
EY recommande aux entreprises ces six pratiques d’excellence afin de mettre en place une gouvernance robuste répondant à ces nouveaux standards:
- Un conseil interne de l’éthique IA
Un comité consultatif multidisciplinaire fournissant des conseils et des orientations indépendants sur les considérations éthiques.
- Une conceptualisation standardisée
Des politiques et normes de conception de l’IA, prenant en compte le développement, le code de conduite et les principes de conception.
- Un inventaire et une évaluation d’impact de chaque modèle
Un inventaire de tous les algorithmes avec un descriptif fonctionnel et technique de l’IA. Chaque algorithme doit avoir une évaluation d’impact pour connaître les risques liés à son développement et son utilisation.
- Un outil de validation
Une solution permettant de suivre le fonctionnement des algorithmes et de s’assurer de leur performance optimale, ainsi que la production de résultats précis, justes et impartiaux.
- Sensibilisation à l’IA
Éduquer les dirigeants et développeurs d’IA sur les considérations et responsabilités juridiques et éthiques liées au développement d’IA.
- Des audits indépendants
Certifier les politiques et normes imposées à vos modèles et attester de l’efficacité de la gouvernance et des contrôles mis en place.
Le potentiel de l’AI à transformer notre monde et les entreprises est gigantesque. Cependant, les risques en sont complexes et évoluent rapidement. Intégrer les principes de gouvernance, de transparence et de confiance au plus tôt permet d’en tirer les bénéfices bien plus en amont.
Ajay Bali, Associate Partner, Digital Advisory Services, EY Luxembourg
Julien Weber, Manager, Digital Advisory Services, EY Luxembourg
Frantz Zizzari, Manager, Digital Advisory Services, EY Luxembourg