COMMUNAUTÉS & EXPERTISES — Expertises

#DATADRIVENTECH

Garder le contrôle sur l’IA: un enjeu éthique



269224.jpg

Garder le contrôle sur l’IA  un enjeu éthique Photo : KPMG

Le déploiement de l’intelligence artificielle va avoir d’importantes répercussions sur les organisations et sur nos vies. La technologie, pour éviter toute dérive, doit cependant être adoptée de manière responsable. Dans ce contexte, chacun doit établir un cadre, en mettant en œuvre les bonnes méthodes et les bons outils, pour s’assurer de garder le contrôle.

A l’heure actuelle, il est encore difficile d’évaluer l’impact de l’intelligence artificielle sur nos organisations, dans nos vies respectives et nos sociétés. Il ne fait cependant aucun doute que le potentiel de transformation de cette technologie, mettant en œuvre de nouveaux modèles cognitifs, aura des répercussions inattendues.

Elle nourrit d’ailleurs autant d’espoirs que de craintes. Et si la plupart relève avant tout du fantasme, notre attitude vis-à-vis des robots dotés d’intelligence traduit avant tout une mauvaise compréhension de la technologie. L’un des principaux enjeux, aujourd’hui, est justement de la démystifier. En outre, pour tirer le meilleur de l’intelligence artificielle et des possibilités qu’elle offre, il est aussi essentiel de pouvoir l’appréhender de manière responsable.

L’IA, tout prochainement au cœur de nos processus

De très nombreuses entreprises évaluent actuellement les possibilités de mettre en œuvre des solutions d’automatisation intelligentes. Très rapidement, beaucoup  vont placer des robots dotés d’intelligence au cœur de leurs processus. L’IA n’est cependant pas une solution numérique comme les autres. Dotée de la capacité d’apprendre, elle est en mesure de prendre des décisions en tenant compte d’une multitude de facteurs, et d’évoluer dans le temps en fonction des expériences du passé. Dès lors, pour garantir que le résultat obtenu grâce à l’IA corresponde à celui souhaité, elle doit être contrôlée. Pour cela, il est essentiel que chaque organisation se dote d’un cadre clairement défini, permettant à l’humain d’accompagner l’intelligence artificielle, de garder le contrôle.

Apprendre à contrôler l’IA

Débloquer le potentiel offert par la technologie implique que l’ensemble de l’organisation puisse lui faire confiance. Pour accepter de travailler avec une intelligence artificielle, comme on le ferait avec un collègue, chacun doit pouvoir en apprécier les ressorts. Les équipes, dès lors, doivent progressivement apprendre à utiliser les robots et algorithmes, pour mieux les comprendre et les superviser.

Les organisations doivent aussi adapter leurs modèles de gouvernance, instaurer les procédures, méthodes et outils pour mieux contrôler tous ces algorithmes qui, interfacés les uns avec les autres, vont travailler de concert.

Les entreprises, dès aujourd’hui, doivent s’engager dans une démarche d’apprentissage nouvelle vis-à-vis de ces nouveaux outils numériques.

Une réflexion éthique à avoir au plus haut niveau

Il est essentiel que l’IA serve les objectifs de l’entreprise. Cela implique de définir une stratégie business claire, qui intègre les nouvelles possibilités offertes par la technologie. Plus que cela, l’IA doit être placée au service du progrès, du bien collectif. Sa mise en œuvre implique donc une réflexion éthique au plus haut niveau de l’entreprise. L'éthique et la confiance sont deux éléments indissociables. Jusqu’où va-t-on dans l’utilisation de ces données, de ce qu’elles révèlent des consommateurs/concitoyens ? Comment met-on en œuvre des stratégies d’influence des comportements établies sur base de prédictions rendues possibles par l’IA ? Les entreprises doivent pouvoir préserver la confiance que des parties tierces mettent en elles en utilisant l’IA de façon responsable et éthique.

Quelles décisions laissons-nous aux machines ?

En poussant la réflexion éthique un cran plus loin, la question de la préservation de notre humanité est rapidement soulevée. Chacun doit se demander aujourd’hui quelles décisions nous acceptons de laisser aux machines et quels choix doivent rester, in fine, du ressort de l’humain. Les réponses que chacun apportera à ces questions doivent permettre de dresser les lignes de la gouvernance de l’intelligence artificielle à l’échelle d’une organisation.

Ce cadre de gouvernance et de contrôle doit être établi au plus haut niveau de l’entreprise, idéalement avant d’envisager une généralisation du recours à l’IA. Il doit permettre d’aligner les usages faits de cette technologie avec les valeurs de l’entreprise et ses objectifs. Dans cette optique, il est possible de définir une stratégie de déploiement de l’IA, de déterminer les caractéristiques des modèles cognitifs et des algorithmes utilisés.

Évaluation permanente et amélioration continue

Il est également essentiel de pouvoir évaluer les performances de ces nouveaux outils, pour apporter les améliorations nécessaires tout au long de leur cycle de vie. L’organisation, dans ce contexte, devra se doter des solutions pour évaluer en permanence la manière avec laquelle l’IA évolue et les impacts de ses décisions. Dans cette optique, il faut s’inscrire dans une démarche d’amélioration continue, permettant de mieux travailler avec l’IA, en disposant d’une visibilité complète sur les opérations menées et les décisions confiées à la machine.