8 projets sélectionnés pour tester le potentiel et les limites de l’IA dans le secteur public

La Commission nationale de l’informatique et des libertés (Cnil) a sélectionné les projets, portés par des services publics, qui bénéficieront des précieux conseils de ses experts pour déployer des cas d’usage de l’intelligence artificielle (IA) – en particulier de l’IA générative – protecteurs des données personnelles des usagers et des agents.

Alors que les administrations font la course entre elles pour déployer des outils basés sur l’intelligence artificielle (IA) dans le sillage de ChatGPT, la Commission nationale de l’informatique et des libertés (Cnil) marque un temps de pause, pour repartir sur de bonnes bases. Le gendarme des données personnelles vient en effet de sélectionner les lauréats de son appel, lancé en juillet, pour soutenir des projets innovants ayant recours à l’IA dans le service public.

Une thématique d’actualité sur laquelle s’est positionnée l’autorité indépendante depuis le début de l’année, avec la création d’un service dédié et la constitution d’un plan d’action spécifique, pour répondre notamment aux interrogations sur ce qu’il est possible de faire ou non en la matière. Acteurs publics et privés – à condition de mener le projet avec une entité publique – pouvaient postuler à cette nouvelle saison du “bac à sable” de la Cnil. Huit projets ont donc été sélectionnés, mais 4 seulement bénéficieront d’un appui renforcé et personnalisé de ses experts pendant au moins six mois. Les 4 autres pourront simplement demander quelques conseils.

Une manière, pour l’autorité indépendante, de sortir de son rôle de gendarme pour aider à développer une “IA respectueuse des droits des personnes” et “construire une régulation adaptée aux côtés des acteurs” concernés, en se confrontant à leurs problématiques les plus concrètes.
IA génératives

Sans trop de surprise, on retrouve parmi les lauréats essentiellement des expérimentations de l’IA générative. À commencer par le projet “Albert”, porté par la direction interministérielle du numérique (Dinum) depuis le printemps pour développer une IA générative de textes polyvalente, fondée sur des modèles ouverts et installée sur les serveurs sécurisés de l’État. Son utilisation est aujourd’hui expérimentée auprès d’une poignée d’agents volontaires en maisons France services.

Avec l’idée, non pas de les aider à générer des réponses toutes faites aux questions des usagers, comme pour l’expérimentation Services publics+, mais plutôt d’aider les agents à s’y retrouver dans la jungle des informations concernant la dizaine de partenaires de France services et leurs nombreuses démarches. Ce cas d’usage France services n’est toutefois qu’un premier baptême du feu, l’idée, avec “Albert”, étant de construire une sorte de “kit de déploiement” pour faciliter l’appropriation de l’IA générative par les administrations, sur leurs propres cas d’usage.

La direction de Pôle emploi mise également sur l’IA générative pour mettre à la disposition de ses conseillers un agent conversationnel censé les aider “à proposer un parcours personnalisé et adapté aux besoins des demandeurs d’emploi”, selon la description de la Cnil. “Parmi la multitude de services disponibles (formation, ateliers, job dating, etc.), l’outil facilite l’identification de celui qui sera le plus adapté à l’usager en s’appuyant sur ses données professionnelles (diplômes, compétences, etc.)”. Un projet qui repose sur le croisement de plusieurs sources de données personnelles pour entraîner le modèle de langage spécialisé.
Services personnalisés

La métropole de Nantes a également été retenue par la Cnil pour son projet “Ekonom IA”, dont l’objectif est d’offrir des conseils personnalisés aux habitants sur leur consommation d’eau. “Ce projet répond à une préoccupation majeure des collectivités locales en termes de transition écologique. S’il aboutit, il pourrait être adapté à d’autres politiques publiques, mais aussi à d’autres territoires”, se réjouit la Cnil.

Le dernier projet sélectionné est porté par la RATP. Il vise à tester de “nouvelles formes de captations vidéo”, ou comment exploiter les images captées par ses caméras de vidéosurveillance sans recourir à la reconnaissance faciale. La RATP entend expérimenter une “technologie de captation de données matricielles (c’est-à-dire des valeurs numériques) garantissant qu’aucune donnée personnelle ne soit récupérée”, afin, ensuite, d’entraîner des algorithmes à détecter et caractériser des événements prédéterminés, comme la loi sur la sécurité des jeux Olympiques l’y autorise.

Pas question de jouer les apprentis sorciers pour autant. Les lauréats devront se plier au cadre légal et réglementaire actuel. Il ne s’agit en effet pas d’un “bac à sable” réglementaire permettant de débloquer des situations en accordant des dérogations et assouplissements, comme c’est davantage le cas du dispositif “France Expérimentation” piloté par la direction interministérielle de la transformation publique (DITP). Le dispositif de la Cnil, lui, vise plutôt à accompagner les projets dans leur stade le plus précoce, afin qu’ils intègrent le plus tôt possible les questions d’éthique et de protection des données personnelles.

par Emile Marzolf
23 novembre 2023
Acteurs Publics, accéder à l’article initial