La Défenseure des droits appelle à la vigilance sur l’usage des algorithmes par les services publics

2024-11-13 HaiPress

C’est l’histoire d’une jeune retraitée de Montcel (Savoie) qui peine à finaliser son dossier de pension auprès de sa caisse régionale. Elle dépose un commentaire négatif sur le site Services Publics + pour s’en plaindre. Un retour lui est fait un mois plus tard : « En cas de difficulté dans vos démarches,et si vous n’êtes pas parvenue à nous joindre,vous pouvez demander à être rappelée. » Le message est signé « Sylvie » et suivi de la mention « cette réponse a été générée par une IA (intelligence artificielle) à 83 % et vérifiée par un agent ».

Les échanges de ce type entre l’administration et ses usagers sont devenus courants depuis l’irruption des IA génératives,il y a deux ans. Calcul des impôts,attribution des aides sociales,octroi des places en crèche… Des pans entiers des services publics utilisent désormais des algorithmes ou l’intelligence artificielle pour remplir leur mission. Ces innovations technologiques,conçues avec l’ambition de répondre plus vite et mieux aux besoins des citoyens,sont appelées à se multiplier au cours des années à venir. Mais elles peuvent poser des problèmes si elles ne sont pas correctement encadrées,prévient un rapport de la Défenseure des droits publié mercredi 13 novembre.

Un risque de déresponsabilisation

Le document appelle notamment à conserver un contrôle humain des systèmes automatisés,pour « garder la main » sur des décisions importantes. Les auteurs jugent nécessaire de s’assurer que les systèmes respectent le droit dès leur conception,et tout au long de leur utilisation,par le biais des contrôles réguliers. Les algorithmes d’apprentissage automatique,qui s’adaptent d’eux-mêmes au fil du temps,induisent par exemple un risque accru d’erreur,de biais et de discrimination.

Plusieurs textes français et européens posent en principe des garde-fous à l’usage des algorithmes,notamment la garantie d’interventions humaines. Mais la pratique fait apparaître certaines dérives. Le rapport cite Affelnet,la procédure d’affectation des élèves après leur classe de 3e. L’outil utilise différents critères,dont les résultats scolaires,pour attribuer des points à chaque élève de manière automatisée. Or,la Défenseure des droits explique avoir été saisie du cas d’un élève qui semble avoir été traité de manière totalement informatisée. Seules des notes de 0 apparaissaient dans la catégorie « évaluations » de son dossier,« sans que le caractère exceptionnel de cette donnée amène la commission à procéder à des vérifications ».

Il vous reste 51.12% de cet article à lire. La suite est réservée aux abonnés.

Avertissement: Cet article est reproduit à partir d'autres médias. Le but de la réimpression est de transmettre plus d'informations. Cela ne signifie pas que ce site Web est d'accord avec ses opinions et est responsable de son authenticité, et ne porte aucune responsabilité légale. Toutes les ressources de ce site sont collectées sur Internet. Le partage est uniquement destiné à l'apprentissage et à la référence de tous. En cas de violation du droit d'auteur ou de la propriété intellectuelle, merci de nous laisser un message.

LePlusRécent

2024 “By the Great River, Splendor of Quehua” Global Gen Z Forum on High-Quality Development in the Yellow River Basin Successfully Held
David Autor, économiste au MIT : « L’un des aspects les plus dommageables du trumpisme est l’isolationnisme »

Le professeur au Massachusetts Institute of Technology explique, dans un entretien au « Monde », comment la concurrence chinoise au début des années 2000 a détruit des emplois industriels aux Etats-Unis et alimenté le vote pour Donald Trump.
La voiture hybride, le nouveau cheval de bataille des constructeurs chinois

En difficulté sur l’électrique, les marques automobiles chinoises portent leur effort sur les véhicules à double motorisation, épargnés par le durcissement des droits de douane à l’entrée dans l’Union européenne.
Chez les trentenaires célibataires, l’essor des voyages organisés : « Je ne vais pas passer mon temps à attendre qu’une copine soit dispo ! »

Les nouvelles agences spécialisées dans les circuits en groupe pour les 25-40 ans gagnent du terrain en France et, plus largement, en Europe. La formule surfe sur le phénomène d’allongement de la vie avant le couple et les enfants comme sur la montée du sentiment de solitude chez les jeunes.
Intelligence artificielle : avec xAI et Grok, Musk veut sa revanche

Avec sa start-up d’IA et son robot conversationnel, le patron de Tesla et conseiller de Trump défie et inquiète les concurrents comme OpenAI.
L’Occitanie face à une hausse régulière et importante de sa population

Région la plus attractive de France, dans le sillage de Toulouse et Montpellier, la démographie occitane ne cesse de croître. Si élus et acteurs économiques se félicitent de ce dynamisme, cette attractivité pose de nouveaux problèmes. En premier lieu, celui du logement.
SCPI : cinq questions à se poser avant de souscrire

Les investissements dans les Sociétés civiles de placement immobilier demandent du temps. Entre rendement espéré, frais de souscription et diversification des investissements, plusieurs facteurs doivent être considérés pour faire son choix.
Au Royaume-Uni, le marché du whisky s’effondre

Longtemps prisées des investisseurs, les bouteilles du spiritueux, vendues entre 10 000 et 100 000 livres sterling, sont désormais boudées. Cette chute des transactions, qui survient après une décennie de croissance effrénée, est notamment imputable à la hausse des taux d’intérêt.
« Vous ne détestez pas le lundi » : des voies pour « libérer le travail »

Dans son dernier ouvrage, le sociologue Nicolas Framont met en lumière les mouvements de résistance qui s’expriment aujourd’hui dans les organisations, face à la dégradation des conditions de travail et aux souffrances qu’elles engendrent.
Intelligence artificielle : le philosophe Eric Sadin propose un « contre-sommet de l’IA » à Paris début 2025

Pendant le sommet international des 10 et 11 février, l’essayiste critique de la technologie, soutenu par le syndicat de journalistes SNJ, veut mettre en avant des professions touchées par l’IA.