Statistics & European Artificial Intelligence Act

Statistique & Règlement Européen des Systèmes d'IA

Philippe Besse (1)

1 IMT - Institut de Mathématiques de Toulouse UMR5219

Following the publication of the white paper for an approach to AI based on excellence and trust, the European Commission (EC) published numerous proposals for regulatory texts, including an Artificial Intelligence Act (AI Act) (2021) establishing harmonized rules on artificial intelligence (AI). What will be the consequences and impacts of the future adoption of this text from the point of view of a mathematician or rather statistician involved in the design of high-risk artificial intelligence (AI) systems? What tools and methods will make it possible to comply to the obligation of a rigorous and documented analysis of the data processed, the performances, robustness, resilience of the algorithm, its explainability, risks, for fundamental rights, of discriminatory biases? These questions are illustrated by a numerical example analogous to a credit score in search of a less bad compromise between all the constraints. We conclude on the advances and limitations of this regulation project for high-risk AI systems.

Suite à la publication du livre blanc pour une approche de l'IA basée sur l'excellence et la confiance, la Commission Européenne (CE) a publié de nombreuses propositions de textes réglementaires dont un Artificial Intelligence Act (AI Act) (2021) établissant des règles harmonisées sur l'intelligence artificielle (IA). Quels seront les conséquences et impacts de l'adoption à venir de ce texte du point de vue d'un mathématicien ou plutôt statisticien impliqué dans la conception de système d'intelligence artificielle (IA) à haut risque au sens de la CE ? Quels outils et méthodes vont permettre de répondre à l'obligation d'une analyse rigoureuse et documentée des données traitées, des performances, robustesse, résilience de l'algorithme, de son explicabilité, des risques, pour les droits fondamentaux, de biais discriminatoires ? Ces questions sont illustrées par un exemple numérique analogue à un score de crédit à la recherche d'un moins mauvais compromis entre toutes les contraintes. Nous concluons sur les avancées et limites de ce projet de règlement pour les systèmes d'IA à haut risque.

Domaines: Intelligence artificielle [cs.AI]; Statistiques [math.ST]; Droit

Philippe Besse. Statistique & Règlement Européen des Systèmes d'IA. 2021. ⟨hal-03253111v1⟩