La Défenseure des droits appelle à la vigilance sur l’usage des algorithmes par les services publics

2024-11-13 HaiPress

C’est l’histoire d’une jeune retraitée de Montcel (Savoie) qui peine à finaliser son dossier de pension auprès de sa caisse régionale. Elle dépose un commentaire négatif sur le site Services Publics + pour s’en plaindre. Un retour lui est fait un mois plus tard : « En cas de difficulté dans vos démarches,et si vous n’êtes pas parvenue à nous joindre,vous pouvez demander à être rappelée. » Le message est signé « Sylvie » et suivi de la mention « cette réponse a été générée par une IA (intelligence artificielle) à 83 % et vérifiée par un agent ».

Les échanges de ce type entre l’administration et ses usagers sont devenus courants depuis l’irruption des IA génératives,il y a deux ans. Calcul des impôts,attribution des aides sociales,octroi des places en crèche… Des pans entiers des services publics utilisent désormais des algorithmes ou l’intelligence artificielle pour remplir leur mission. Ces innovations technologiques,conçues avec l’ambition de répondre plus vite et mieux aux besoins des citoyens,sont appelées à se multiplier au cours des années à venir. Mais elles peuvent poser des problèmes si elles ne sont pas correctement encadrées,prévient un rapport de la Défenseure des droits publié mercredi 13 novembre.

Un risque de déresponsabilisation

Le document appelle notamment à conserver un contrôle humain des systèmes automatisés,pour « garder la main » sur des décisions importantes. Les auteurs jugent nécessaire de s’assurer que les systèmes respectent le droit dès leur conception,et tout au long de leur utilisation,par le biais des contrôles réguliers. Les algorithmes d’apprentissage automatique,qui s’adaptent d’eux-mêmes au fil du temps,induisent par exemple un risque accru d’erreur,de biais et de discrimination.

Plusieurs textes français et européens posent en principe des garde-fous à l’usage des algorithmes,notamment la garantie d’interventions humaines. Mais la pratique fait apparaître certaines dérives. Le rapport cite Affelnet,la procédure d’affectation des élèves après leur classe de 3e. L’outil utilise différents critères,dont les résultats scolaires,pour attribuer des points à chaque élève de manière automatisée. Or,la Défenseure des droits explique avoir été saisie du cas d’un élève qui semble avoir été traité de manière totalement informatisée. Seules des notes de 0 apparaissaient dans la catégorie « évaluations » de son dossier,« sans que le caractère exceptionnel de cette donnée amène la commission à procéder à des vérifications ».

Il vous reste 51.12% de cet article à lire. La suite est réservée aux abonnés.

Avertissement: Cet article est reproduit à partir d'autres médias. Le but de la réimpression est de transmettre plus d'informations. Cela ne signifie pas que ce site Web est d'accord avec ses opinions et est responsable de son authenticité, et ne porte aucune responsabilité légale. Toutes les ressources de ce site sont collectées sur Internet. Le partage est uniquement destiné à l'apprentissage et à la référence de tous. En cas de violation du droit d'auteur ou de la propriété intellectuelle, merci de nous laisser un message.

LePlusRécent

Transdev, opérateur historique des transport public en France, pourrait passer sous contrôle allemand

La Caisse des dépôts est sur le point de privatiser l’opérateur de transport public en cédant plus de la moitié de sa participation. Le groupe allemand Rethmann, déjà actionnaire, est sur les rangs pour prendre le contrôle du principal concurrent de la SNCF et de la RATP.
Les Pays-Bas s’inquiètent des manipulations de données GPS et de leur impact sur la sécurité des vols aériens

Selon l’inspection néerlandaise des transports, les pilotes reçoivent de plus en plus de données incorrectes et d’avertissements erronés sur la localisation de leur appareil lorsqu’ils survolent certains pays.
Au marché aux bestiaux de Laissac, l’inquiétude paysanne : « Le Mercosur, ce serait un cataclysme. Mais la catastrophe est annoncée depuis les années 1990 »

Dans les travées de ce marché parmi les plus importants de France, l’accord de libre-échange en négociations inquiète, et oblige les acteurs de la filière à revoir leurs pratiques.
Assurance-vie : ces fonds qui promettent d’allier sécurité et rendement

Les fonds d’assurance-vie « eurocroissance » et « euros dynamiques » sont conçus comme une troisième voie entre les supports en euros classiques, garantis à tout moment, et les unités de compte, non garanties. Ils pourraient profiter du reflux des taux.
En pleine crise politique, Michel Barnier poussé à détricoter son budget

Un bras de fer oppose les macronistes et le premier ministre sur les allégements de charges. L’objectif de réduction des déficits pour 2025 paraît de moins en moins ambitieux, alors que l’examen du budget débute lundi 25 novembre au Sénat.
Northvolt, géant des batteries électriques, se déclare en faillite

La société suédoise, en difficultés financières depuis le début de l’année, n’a pas réussi à lever de nouveaux financements. Elle a demandé une protection au titre du chapitre 11, la loi américaine sur les faillites.
A Toulouse, les étudiants questionnent l’avenir de l’agriculture

A l’invitation du sociologue François Purseigle, spécialiste du monde agricole, quelque 300 étudiants ont pu dialoguer, mercredi 20 novembre, avec des représentants du secteur de l’élevage.
Internet et la seconde main sapent le marché français de l’habillement

L’inflation continue de peser sur les ventes de vêtements et de chaussures. Les Français y consacrent désormais seulement 3,3 % de leur budget, moitié moins qu’il y a trente ans.
La branche américaine d’Hachette acquiert Sterling Publishing

Déjà numéro quatre aux Etats-Unis, Hachette Book Group y renforce sa présence en achetant à Barnes & Noble un éditeur de fiction, de non-fiction, de littérature jeunesse et de livres pratiques.
La mort de Jacques Labro, inventeur de l’architecture d’Avoriaz

Au début des années 1960, le jeune architecte avait imaginé, à mille lieues des « usines à ski » qui fleurissaient alors dans les Alpes, une station d’un genre nouveau, sans voiture. Il est mort le 11 novembre à 89 ans.