Retour à la fiche
Question d'oral
Faut-il rendre les algorithmes publics transparents ?
Réponse d'oral
Oui, il faut rendre les algorithmes publics transparents, surtout lorsqu’ils influencent l’accès à un droit, à une formation ou à une aide sociale. Un algorithme est une suite finie d’instructions précises et réalisables qui transforme des données en résultat. Mais, dans l’administration, cette « recette de calcul » n’est jamais seulement technique : elle applique des critères qui traduisent des choix politiques. Privilégier les notes, la proximité géographique ou les revenus ne produit pas les mêmes effets. La transparence permet donc de comprendre ces choix et de vérifier leur légitimité.Prenons Parcoursup, lancé en 2018 : lorsqu’un candidat n’obtient pas la formation souhaitée, il doit pouvoir comprendre les critères utilisés pour examiner son dossier. Sans explication, une décision peut sembler arbitraire, même si elle respecte les règles. Rendre les critères et leur importance accessibles aide à repérer les erreurs et les discriminations. C’est aussi une condition du droit de recours : comment contester une décision si personne ne peut expliquer comment elle a été prise ?Cependant, transparence ne signifie pas publication sans limites. Diffuser un code informatique ne suffit pas : la plupart des citoyens ne peuvent pas le lire. Il faut des explications compréhensibles, des contrôles indépendants et un responsable clairement identifié. Il faut aussi protéger les données personnelles et certaines informations sensibles, par exemple celles permettant de contourner un dispositif antifraude. L’objectif est donc une transparence utile, adaptée aux conséquences de chaque outil. Au fond, la question est aussi de savoir quelles décisions nous acceptons de déléguer au calcul.