Qui obtient un prêt, combien coûte une assurance ou est-ce qu’un compte bancaire peut être ouvert – beaucoup de ces décisions sont déjà déléguées à des systèmes d’IA, souvent sans que les consommateurs ne s’en rendent compte. S’adressant à Paperjam, Peter Norwood, responsable principal de la recherche et du plaidoyer chez Finance Watch, explique ce qui est en jeu à mesure que les services financiers deviennent de plus en plus automatisés et opaques. Il prévient que la loi européenne sur l’IA présente encore des lacunes importantes, tandis que des lois comme Mifid II n’abordent pas les risques spécifiques posés par l’IA. Sans réforme urgente, Norwood affirme que l’IA dans la finance risque de compromettre l’équité, la transparence et la confiance du public.
Quelle est votre impression générale sur la manière dont l’IA est actuellement utilisée dans le secteur financier?
Peter Norwood. – «L’IA est largement adoptée dans le secteur des services financiers de détail, où elle est utilisée pour tout ce qui concerne l’évaluation des crédits, la tarification des assurances, le conseil en investissement et l’accueil des clients. Si elle permet aux entreprises de gagner en efficacité et aux consommateurs de bénéficier de services potentiellement plus rapides, ces avantages s’accompagnent de risques majeurs s’ils ne sont pas contrôlés. En l’absence de garanties appropriées, l’IA peut conduire à l’exclusion, à la vente abusive et à la discrimination. Et sans un cadre de responsabilité approprié.
Où voyez-vous l’adoption la plus rapide de l’IA dans la finance de détail dans l’UE aujourd’hui?
«Selon l’Autorité européenne des assurances et des pensions professionnelles, 50% des assureurs non-vie et 24% des assureurs-vie de l’UE utilisent déjà l’IA, et ce chiffre devrait augmenter. Les cas d’utilisation qui connaissent la croissance la plus rapide sont les contrôles préalables des clients pour l’ouverture de comptes, les évaluations de la solvabilité, la tarification des risques d’assurance et le conseil robotisé en matière d’investissement.
Quels sont les principaux avantages que l’IA pourrait offrir aux consommateurs dans le domaine des services bancaires, d’assurance ou d’investissement?
«Si elle est correctement réglementée, l’IA peut améliorer l’accès et la commodité, par exemple en accélérant l’embarquement, en offrant une assistance 24 heures sur 24 et 7 jours sur 7 par l’intermédiaire de robots de conversation et en permettant éventuellement une meilleure adéquation des produits financiers aux besoins des consommateurs. Mais ces avantages dépendent entièrement de l’existence de garde-fous réglementaires adéquats.
Les systèmes d’IA décident déjà qui obtient un prêt, combien les gens paient pour l’assurance et s’ils peuvent accéder à un compte bancaire, souvent sans garanties adéquates.
Qu’est-ce qui vous préoccupe le plus dans la manière dont l’IA est appliquée à la prise de décision financière?
«Dans notre dernier rapport sur la finance de détail pilotée par l’IA et la protection des consommateurs, nous avons identifié cinq risques majeurs: l’exclusion financière, la vente abusive, l’optimisation des prix qui exploite la volonté de payer des consommateurs, le refus injuste des demandes d’assurance et l’opacité des résultats de l’IA qui rend les recours presque impossibles. Ces risques ne sont pas hypothétiques; ils existent déjà. Les systèmes d’IA décident déjà qui obtient un prêt, combien les gens paient pour l’assurance et s’ils peuvent accéder à un compte bancaire, souvent sans garanties adéquates.
Les consommateurs sont-ils correctement informés lorsque des systèmes d’IA interviennent dans des décisions concernant des prêts, des assurances ou l’accès à des comptes?
«Non, pas de manière adéquate. Les règles sectorielles actuelles n’exigent pas toujours une divulgation complète et de nombreuses décisions sont prises sans que les consommateurs comprennent que l’IA est impliquée, et encore moins qu’ils sachent quelles données ont été utilisées ou comment contester le résultat. Même lorsque la transparence est exigée, elle ne donne souvent pas aux consommateurs les moyens d’agir.
Pensez-vous que les réglementations financières actuelles de l’UE sont à la hauteur du rythme et de la complexité de l’utilisation de l’IA?
«Non. La plupart des textes législatifs pertinents ont été rédigés avant que l’IA ne devienne monnaie courante. Une partie importante du rapport montre comment les règles existantes, notamment le RGPD, Mifid II et la directive sur la distribution d’assurances (IDD), n’ont pas la portée et la spécificité nécessaires pour faire face aux risques uniques de l’IA. En outre, seul un sous-ensemble limité d’applications d’IA est classé comme ‘à haut risque’ en vertu de la loi sur l’IA. Ainsi, même lorsque la loi sur l’IA est pleinement appliquée, des lacunes subsistent dans le cadre de l’UE en matière d’IA.
Un plus grand nombre de services financiers basés sur l’IA devraient-ils être classés dans la catégorie à haut risque de l’UE?
«Le rapport plaide en faveur d’un élargissement de la liste des applications à haut risque dans la loi européenne sur l’IA afin de couvrir tous les services financiers de détail, non seulement l’évaluation du crédit et l’assurance vie/santé, mais aussi le conseil en investissement, l’identification des clients et l’assurance générale. Sans cela, la réglementation est incohérente et laisse des failles dangereuses.
Les entreprises financières qui déploient les systèmes d’IA doivent rendre des comptes.
Quels types de garde-fous sont essentiels pour protéger les consommateurs contre les décisions injustes ou opaques de l’IA?
«Les principales garanties comprennent la surveillance humaine, des règles claires sur les données pouvant être utilisées et le droit de demander un examen humain des décisions de l’IA. Le rapport recommande également d’interdire les pratiques d’optimisation des prix et de veiller à ce que les exclusions de services essentiels, tels que les comptes bancaires ou les assurances, fondées sur l’IA soient évitées.
Qui devrait être tenu pour responsable lorsque les systèmes d’IA causent des dommages aux consommateurs?
«Les sociétés financières qui déploient les systèmes d’IA doivent rendre des comptes. Mais pour que cela ait un sens, le rapport appelle à un régime de responsabilité harmonisé au niveau de l’UE, similaire à la directive sur la responsabilité en matière d’IA que la Commission européenne a retirée plus tôt cette année, et qui renverse la charge de la preuve. Il est trop coûteux et presque impossible de faire peser la charge de la preuve sur les consommateurs, car les systèmes d’IA sont complexes, opaques et inexplicables.
Quels changements réglementaires ou législatifs sont les plus urgents pour s’assurer que l’IA dans la finance sert l’intérêt public?
«Trois grandes priorités seraient de classer tous les systèmes d’IA financiers de détail comme étant à haut risque en vertu de la loi sur l’IA, d’actualiser les lois sectorielles telles que Mifid II et la directive IDD pour traiter les risques spécifiques à l’IA, et d’introduire un régime de responsabilité à l’échelle de l’UE adapté à l’IA, permettant aux consommateurs lésés d’obtenir réparation.
Il est également essentiel que les obligations de la loi sur l’IA pour les systèmes à haut risque soient appliquées à temps. Le cadre présente déjà de graves lacunes et tout retard ou dilution des règles exposerait les consommateurs au moment même où l’adoption de l’IA s’accélère.»
Cet article a été rédigé initialement en anglais, traduit et édité pour le site de Paperjam en français.





