Retour à la fiche
Question d'oral
Peut-on confier une décision de justice à un algorithme ?
Réponse d'oral
On peut confier à un algorithme une aide à la décision de justice, mais pas lui abandonner le pouvoir de juger. Un algorithme applique des instructions précises pour produire un résultat à partir de données. Il peut donc comparer rapidement des dossiers, calculer une indemnité ou retrouver des décisions similaires. Cette rapidité est utile dans des tribunaux encombrés. Mais rendre justice ne consiste pas seulement à calculer : il faut écouter les personnes, apprécier les circonstances et interpréter la loi. Deux affaires apparemment semblables peuvent appeler des décisions différentes.Le risque principal est de présenter comme neutre une réponse qui dépend de choix humains. Quelles données retenir ? Quel objectif privilégier : réduire la récidive, éviter une erreur judiciaire, accélérer les procédures ? Aux États-Unis, le logiciel COMPAS évalue notamment le risque de récidive. En 2016, une enquête a mis en évidence des écarts préoccupants entre accusés noirs et blancs dans ses erreurs de prédiction. Cet exemple montre qu’un système peut reproduire des discriminations présentes dans les données. Avec l’apprentissage automatique, expliquer le résultat devient aussi parfois difficile. Or une personne jugée doit pouvoir comprendre et contester les raisons d’une décision.L’algorithme doit donc rester un outil soumis à un contrôle humain réel. Le juge doit pouvoir vérifier ses résultats, s’en écarter et motiver sa propre décision. Il doit également en assumer la responsabilité, sans se cacher derrière la machine. La question décisive est alors moins de savoir si l’algorithme juge vite que de déterminer quelle justice nous voulons rendre.