Aurlom
    Retour à la fiche
    Question d'oral

    Un algorithme peut-il être équitable ?

    Réponse d'oral

    Un algorithme peut être équitable, mais cette équité dépend des règles choisies, des données utilisées et du contrôle humain. Une formule mathématique ne garantit pas, à elle seule, une décision juste. Pour accorder un crédit, par exemple, un programme peut appliquer exactement les mêmes critères à tous les candidats. Pourtant, si ces critères pénalisent certains quartiers sans raison pertinente, il risque de reproduire des discriminations. Traiter tout le monde de façon identique ne signifie donc pas toujours traiter chacun justement.
    La difficulté consiste d’abord à définir l’équité. Faut-il donner à chaque groupe les mêmes chances d’être sélectionné, ou privilégier uniquement les capacités nécessaires à une tâche ? Ces objectifs peuvent entrer en conflit. En 2018, Amazon a abandonné un outil expérimental de recrutement qui défavorisait les candidatures féminines. Entraîné sur des candidatures passées, majoritairement masculines, il avait appris à reproduire ce déséquilibre. Supprimer la mention du sexe ne suffit pas forcément : d’autres informations peuvent permettre de le deviner. Les données portent ainsi la trace des inégalités sociales.
    Un algorithme peut néanmoins aider à réduire l’arbitraire, car ses résultats peuvent être comparés et ses erreurs mesurées. Encore faut-il tester ses effets sur différents groupes, expliquer les critères retenus et permettre un recours humain. L’enjeu n’est pas d’exiger une machine parfaite, mais de vérifier qu’elle améliore réellement les décisions sans rendre les injustices invisibles. Reste alors une question politique : qui doit décider de ce que nous appelons une décision juste ?

    Autres questions

    1.Comment la théorie des nombres, science « inutile », est-elle devenue la base de la sécurité numérique ?2.Faut-il permettre aux États d'ouvrir les messageries chiffrées ?3.Les mathématiciens sont-ils responsables de la crise de 2008 ?4.Qu'est-ce qu'un biais algorithmique ? Donnez un exemple.5.Parcoursup est-il juste ?