Retour à la fiche
Question d'oral
Qui est responsable d'une décision prise par un algorithme ?
Réponse d'oral
La responsabilité d’une décision prise par un algorithme revient aux personnes et aux organisations qui le conçoivent, le déploient et l’utilisent, selon leur rôle et leurs obligations. Un algorithme n’est pas une personne : il ne répond pas lui-même de ses actes. Dire « c’est la machine qui a décidé » ne suffit donc pas à dégager une responsabilité humaine. Une banque qui refuse un crédit à partir d’un score doit pouvoir justifier ce refus. Son logiciel calcule, mais c’est bien elle qui choisit de s’appuyer sur ce calcul pour accorder ou non le prêt.La difficulté consiste à répartir cette responsabilité. Le concepteur peut avoir commis une erreur de programmation. L’organisation peut avoir choisi des données inadaptées ou fixé un objectif injuste. L’utilisateur peut avoir suivi le résultat sans exercer le contrôle attendu. Imaginons un outil de recrutement entraîné sur les embauches passées d’une entreprise presque exclusivement masculine : il risque de reproduire cette inégalité. Ce sont des biais, et non une vérité mathématique sur les compétences. Il faut donc examiner toute la chaîne de décision, plutôt que chercher automatiquement un seul coupable.Pour rendre cette responsabilité réelle, il faut de la transparence, des contrôles et un droit de recours. Depuis 2018, le RGPD encadre notamment les décisions entièrement automatisées ayant des effets importants sur les personnes, avec des exceptions et des garanties. L’enjeu n’est pas de révéler chaque ligne de code, mais de permettre de comprendre et de contester une décision. Jusqu’où voulons-nous déléguer nos choix sans perdre la capacité d’en répondre ?
Autres questions
1.Comment la théorie des nombres, science « inutile », est-elle devenue la base de la sécurité numérique ?2.Faut-il permettre aux États d'ouvrir les messageries chiffrées ?3.Les mathématiciens sont-ils responsables de la crise de 2008 ?4.Qu'est-ce qu'un biais algorithmique ? Donnez un exemple.5.Parcoursup est-il juste ?