L'utilisation de l'IA dans l'administration a de graves conséquences sur le respect des droits
03min00
- Podcasts
- Documentaire
- Youscribe plus
4 pages. Temps de lecture estimé 03min00.
L’intelligence artificielle (IA), utilisée pour rendre plus efficace le fonctionnement du secteur public, faire des économies ou encore simplifier la tâche des usagers, a de fortes conséquences sur nos vies et celle de l’administration. Ainsi, de nombreux outils faisant appel à des algorithmes sont employés dans l’administration. Et si cette révolution n’en est qu’à ses débuts, elle suscite déjà des réserves. En France, c’est la défenseure des droits, Claire Hédon, qui exprime son inquiétude dans son rapport annuel d’activité pour 2024. La défenseure des droits, qui s’applique à protéger les droits de chacun, s’inquiète notamment de « la dématérialisation à marche forcée des services publics » et réclame plus de transparence sur l’utilisation de l’IA par l’administration. Selon le rapport, il faut donner aux usagers « la possibilité d’interagir avec l’administration par plusieurs canaux et pas seulement via le numérique. »Le cas symptomatique de l’Anef Pour aider un demandeur d’emploi à rédiger un CV, à mieux cibler un poste, à effectuer des démarches, l’IA peut être utile. Du côté de l’administration, elle peut aider à déterminer plus facilement qui a droit à une allocation ou à répondre en ligne plus efficacement aux demandes du public. Mais assez fréquemment, l’automatisation et la dématérialisation débouchent sur des dysfonctionnements, voire des impasses. L’Administration numérique pour les étrangers en France, l’Anef, est un cas symptomatique.Si le problème est désormais connu, la défenseure en détaille les conséquences : « Les ressortissants étrangers rencontrent des difficultés pour demander le renouvellement de leurs titres de séjour, à cause de nombreuses défaillances du portail par lequel ces personnes sont obligées de passer. » Le système bugge, ils ne « peuvent joindre personne », ce qui engendre des difficultés et met en péril leur intégration : la plateforme ne va pas leur sortir la preuve de leur droit au séjour. Les conséquences sont terribles : ils n’ont pas le droit de travailler, ils peuvent perdre leur emploi, leur logement, voir leurs prestations sociales suspendues ou encore avoir des difficultés d’accès aux soins. L’utilisation de l’IA, une tendance forte en EuropeL’IA est de plus en plus utilisée pour améliorer le service au citoyen, mais aussi et surtout pour faire des économies ! En Grande-Bretagne, le Premier ministre Keir Starmer a fait ses comptes : « les outils », qu’il qualifie d’archaïques, de l’administration anglaise, lui font perdre chaque année 53 milliards d’euros. Il veut donc déployer l’IA partout, en attirant les entreprises du secteur et en leur laissant tester en Angleterre leurs innovations avant toute régulation.L’Union européenne, elle, essaye précisément de mettre en place des garde-fous compte tenu des risques majeurs sur les droits et libertés individuelles que peut faire peser l’IA via la collecte et l’utilisation massives des données personnelles.À lire aussiLa course à l’intelligence artificielle, nouvel instrument de domination mondiale
