Article

Le Comité consultatif éthique de Pôle emploi sur l’intelligence artificielle veille à enrichir les réflexions

Pôle emploi est l’un des premiers acteurs publics à exploiter les potentialités de l’intelligence artificielle à une échelle aussi globale dans son organisation. La mise en place d’un Comité consultatif éthique permet d’avoir une démarche engagée continuellement réinterrogée. Éclairage avec Jean-Gabriel Ganascia, Professeur d’informatique à la faculté des sciences de Sorbonne-Université et Président de ce Comité.

Publié le  29/04/2022

Emploi, santé, logistique, commerce… L’intelligence artificielle semble être de tous les secteurs productifs et institutionnels, avec des algorithmes toujours plus performants. Un vecteur de changement, mais aussi de questions et d’appréhensions…

Jean-Gabriel Ganascia : Tout à fait, depuis sa renaissance à l’aube du millénaire, l’intelligence artificielle fascine par sa capacité à améliorer les services informatiques et numériques. Mais elle suscite en même temps des réactions et questionnements. L’une d’entre elles provient de la crainte du remplacement de l’homme par la machine, une vision heureusement bien éloignée de l’existant. Car les machines ne traiteront pas tout de façon automatique ; l’humain restera présent à tous les stades. L’enjeu lorsqu’on aborde l’intelligence artificielle, en particulier les transformations du travail, c’est de conserver l’humain au centre. 

« La création du Comité Consultatif éthique sur l’intelligence artificielle par Pôle emploi est une initiative singulière et pro-active, en vue de promouvoir une utilisation vertueuse des dispositifs technologiques proposés, et de rassurer ses usagers comme ses propres agents. »


Pôle emploi accompagne chaque jour des millions de demandeurs, primo inscrits et employeurs. Comment l’intelligence artificielle intervient-elle et pourquoi une réflexion éthique sur le sujet est-elle importante ?

Dès 2014, Pôle emploi a lancé des premières initiatives permettant d’identifier les potentialités de l’intelligence artificielle. Le programme Intelligence Emploi, qui vise un passage à l’échelle pour l’inclusion de l’IA dans les services de Pôle emploi, a été lancé en 2018.

Il inclut par exemple plus d’automatisation dans le traitement des courriels. Cela permettra aux agents de consacrer plus de temps à l’accompagnement des usagers. Les équipes IA au sein de Pôle emploi cherchent aussi à déceler, toujours avec des outils d’intelligence artificielle, les moments charnières dans la vie des demandeurs d’emploi, afin de mieux les soutenir et de leur faire des recommandations personnalisées plus adaptées.

Mais à toutes ces opérations, basées sur des analyses fines de données, doit s‘adjoindre une réflexion éthique sur la finalité des algorithmes et sur la place de l’humain. Car les agents sont face à des personnes réelles à un moment parfois difficile de leur parcours, celui de la recherche d’emploi

Intelligence artificielle, de quoi parle-t-on ?

Dit simplement, il s’agit d’une discipline scientifique qui a pour objectif de simuler sur des ordinateurs les fonctions cognitives, par exemple le raisonnement, la perception, la mémoire, la compréhension du langage naturel... Ces simulations peuvent ensuite être intégrées à des outils de traitement de flux d’information. Exemple : l’analyse par un algorithme d’un message électronique envoyé par un usager puis la génération automatique d’une réponse adaptée qui sera soumise à l’agent chargé de traiter le dossier afin de faciliter son travail.

Vous êtes Président du Comité Consultatif d’éthique de Pôle emploi sur l’Intelligence Artificielle, une structure créée par Pôle emploi mais indépendante. Comment le Comité va-t-il intervenir sur ces sujets d’éthique de l’IA ?

Le Comité éthique va émettre des recommandations en amont de la mise en œuvre de nouveaux usages de l’IA dans les services de Pôle emploi et tout au long de leur cycle de vie. Il est composé d’un panel resserré et pluridisciplinaire d’experts, à même de pouvoir mener une réflexion indépendante. Pour Pôle emploi, il s’agit là d’un gage de transparence, mais aussi d’une expertise externe précieuse.

Cette position de recul doit nous donner l’espace de liberté nécessaire pour aborder les grandes thématiques croisées de l’intelligence artificielle et de l’emploi, telles que les biais algorithmiques, l’autonomie de choix des utilisateurs, les discriminations, la place de l’humain, la sécurité … Tous ces aspects fondamentaux sont définis dans la Charte éthique de Pôle emploi, qui précise ses engagements vis-à-vis de ses agents et de ses usagers.

Le Comité Consultatif Ethique de Pôle emploi sur l’intelligence artificielle, c’est :

  • Une structure indépendante de Pôle emploi
  • 10 membres actifs, avec des profils variés incluant des universitaires, dont une juriste, deux spécialistes d’éthique et d’informatique et une informaticienne spécialiste d’algorithmique, des membres du Conseil d’Administration de Pôle emploi (représentants des syndicaux salariaux et patronaux) et enfin des personnes appartenant aux secteurs privé et associatif) – liste complète
  • Une composition paritaire 
  • Des premiers avis et recommandations opérationnels rendus depuis septembre 2021 
  • 4 rencontres par an, hors réunions exceptionnelles

Parlez-nous de l’approche éthique de Pôle emploi à l’encontre de ses agents

Nous avons vu que l’Intelligence Artificielle pouvait faire naitre l’inquiétude de voir la machine se substituer à l’homme. Pôle emploi s’engage, dans une charte pour une IA éthique revue par le comité consultatif, à ce que jamais la machine ne gère de A à Z un dossier d’usager, et que l’humain reste au centre des décisions. En clair, la charte pour une IA éthique stipule que ses agents resteront présents à tous les stades du parcours utilisateur. Et le rôle du comité d’éthique sera notamment d’apporter une réflexion sur la concrétisation de ces engagements.

Au-delà de l’approche sociale, il en va de l’efficacité même des services de Pôle emploi. Prenons l’exemple des courriels : on peut estimer que 80 % des demandes des usagers peuvent être analysées et préparées avec l’aide des algorithmes, et que 20% sont vraiment spécifiques et doivent être complètement réglées manuellement, du fait de leur singularité.

Mais sur ces 80%, Pôle emploi ne va pas, comme certaines sociétés privées, mettre en place des « chat bots » qui rendent fous les utilisateurs en étant incapables de répondre précisément à leur demande. Pôle réservera une place prépondérante à l’humain dans le traitement des demandes, tout en s’efforçant de dégager un temps via un certain degré d’automatisation utilisant des techniques d’intelligence artificielle. Cela laissera aux agents une disponibilité plus grande pour traiter les cas difficiles.

 

 

« La place de l’homme est centrale dans la relation agent-usager de Pôle emploi, et l’Intelligence Artificielle doit être mise à son service. C’est un point d’attention particulièrement saillant du Comité éthique sur l’Intelligence Artificielle. »


Qu’en est-il de l’approche éthique vis-à-vis des usagers ?

Le traitement d’énormes masses de données d’utilisateurs par des techniques d’Intelligence Artificielle aide à apparier au mieux demandes et offres d’emploi. Cette perspective ouvre un champ d’opportunités neuves : l’assortiment idoine des profils individuels aux postes proposés est le graal pour tous, employés en quête d’emploi comme employeurs.

Le rôle du Comité éthique est de s’assurer que cela s’opère sans discrimination, dans un souci constant de protection des données personnelles, notamment après-coup, lorsqu’on procède à des études statistiques sur l’emploi.

Enfin vis-à-vis des usagers, nous restons attentifs à la préservation d’une relation personnelle et directe avec les agents. Pour que les décisions soient acceptées, le demandeur doit avoir la capacité de les comprendre : elles doivent conserver une certaine explicabilité. Et ce n’est pas l’algorithme qui prendra la décision sur votre éligibilité ou un éventuel refus…

Quelles sont les prochaines échéances pour le Comité éthique ?

Après avoir travaillé sur la charte elle-même, le comité a commencé son travail sur les cas opérationnels depuis septembre 2021. Une communication de la charte pour une IA éthique a été faite dans l’intranet de Pole emploi. Ensuite, nous partagerons nos avis et nos recommandations avec la direction de Pôle emploi, afin de rassurer les utilisateurs des services de Pôle emploi et de pérenniser un climat de confiance sur le sujet.

Liens utiles

Communiqué de presse "Lancement du comité d'éthique sur l'intelligence artificielle"

Charte de Pôle emploi pour une intelligence artificielle éthique

Ailleurs sur le site

CHIFFRE-CLÉ

86,2 %

Des entreprises satisfaites concernant la pertinence des candidats présélectionnés par France Travail. Mesure de la qualité du service rendu aux entreprises sur le volet recrutement au niveau national.

L’état de l’emploi dans votre ville

Retrouvez les chiffres du marché du travail dans votre commune de plus de 5000 habitants.

Ex : 33000

Ensemble pour l'emploi

Retrouvez tous les chiffres permettant d'évaluer l'efficacité de notre action auprès des demandeurs d'emploi et des entreprises.