Retour à la fiche
    Question d'oral

    La numérisation de l’action publique (algorithmes, IA, open data) change-t-elle la façon de contrôler l’administration ?

    Réponse d'oral

    Oui, la numérisation de l’action publique, avec les algorithmes, l’IA et l’open data, change la façon de contrôler l’administration : elle offre de nouveaux moyens de surveillance, mais rend certaines décisions plus difficiles à comprendre. Le principe reste pourtant identique : l’administration doit respecter la loi et les libertés. Une décision ne devient pas légale parce qu’un ordinateur l’a proposée. Le principe de légalité s’applique donc aussi aux outils numériques utilisés pour attribuer une aide, orienter un étudiant ou repérer une fraude.
    La numérisation peut d’abord renforcer la transparence. L’open data, c’est-à-dire la mise à disposition de données publiques, permet aux citoyens, aux journalistes et aux associations d’examiner les dépenses ou les marchés publics. Mais publier des milliers de fichiers ne suffit pas : encore faut-il pouvoir les comprendre. Les algorithmes posent une difficulté supplémentaire. Comment contester un refus si ses critères restent opaques ? En France, la loi du 7 octobre 2016 pour une République numérique prévoit qu’une décision individuelle fondée sur un traitement algorithmique doit le signaler explicitement. Certaines informations sur ce traitement peuvent être communiquées à l’intéressé sur demande, sous réserve des secrets protégés.
    Le contrôle doit donc porter sur la décision finale, mais aussi sur les données et les règles qui l’ont produite. Une donnée erronée peut entraîner un refus injustifié ; un modèle peut reproduire des discriminations. Le juge, la CNIL et le Défenseur des droits ont ici des rôles complémentaires. Préserver un recours effectif suppose aussi un accès humain, notamment pour les personnes éloignées du numérique. Jusqu’où automatiser l’administration sans rendre son pouvoir moins contestable ?