Actualités

Intelligence artificielle: une règlementation fait son chemin, la Cnil mobilisée

La Cnil pourrait être chargée de contrôler et de sanctionner les entreprises. - STEPHANE DE SAKUTIN © 2019 AFP

La Commission européenne s'est emparée du sujet de l'intelligence artificielle et dans ce cadre, la Cnil est de la partie. Une nouvelle mission qui lui est conférée également par le Conseil d'Etat.

Les institutions publiques s'emparent du sujet de l'intelligence artificielle pour l'encadrer et éviter les dérives. En avril 2021, la Commission européenne a présenté un projet de règlement. Dans ce projet figure l'encadrement des systèmes dits "à hauts riques" relatifs notamment à la reconnaissance faciale ou à des systèmes utilisés dans les transports ou l'éducation. En cas de manquements, la Commission nationale de l'informatique et des libertés (Cnil) pourrait être chargée de contrôler et de sanctionner les entreprises.

Pour mener cette mission, la Cnil a besoin de se former et de comprendre le fonctionnement des algorithmes de l'intelligence artificielle. Le média spécialisé l'Usine Digitale rapporte que la Cnil a déjà testé deux outils d'audit: IBEX (Interactive Black-box EXplanation) et Algocate.

La Commission a travaillé avec Clément Henin, actuel conseiller référendaire en service extraordinaire de la Cour des comptes et chercheur au sein de l'équipe-projet Privatics de l'Institut national de recherche en sciences et technologies du numérique (Inria).

L'IA est comme "un algorithme qui n'a pas son comportement entièrement programmé par un humain mais est capable d'une forme d'apprentissage à partir des données (machine learning) ou d'expériences (l'apprentissage par renforcement)", détaille-t-il auprès de l'Usine digitale.

Concrètement, pour IBEX par exemple, les agents de la Cnil ont travaillé sur un cas fictif: une entreprise proposant des crédits à la consommation. Ils ont travaillé à partir d'une plateforme en ligne et on dû répondre à des questions sur des décisions algorithmiques fictives.

Encouragée par le Conseil d'Etat

Dans une étude publiée le 30 août 2022 portant sur un futur règlement sur l'IA, le Conseil d'État encourage à renforcer les pouvoirs de la Cnil.

Il semble optimiste quant à l'avenir et à l'usage de l'intelligence artificielle. Pour la jurdicition administrative, elle viendrait aider le service public dans sa mission quotidienne, aiguiller les décisions, et réduire les délais d’examen des usagers.

L'institution publique encourage donc la Cnil à devenir "responsable de la régulation des systèmes d’IA prévue par le futur règlement européen". L'étude préconise ainsi "une transformation profonde de la Cnil en autorité de contrôle nationale responsable de la régulation des systèmes d’IA, notamment publics, pour incarner et internaliser le double enjeu de la protection des droits et libertés fondamentaux, d’une part, et de l’innovation et de la performance publique, d’autre part".

Pour y parvenir, le Conseil d'Etat voudrait renforcer le pouvoir de ses institutions dans le domaine, à travers un maillage des autorités de surveillance de marché existantes, comme l'Arcep et l'Arcom.

Margaux Vulliet