Retour à la fiche
Question d'oral
Un algorithme peut-il être neutre ?
Réponse d'oral
Un algorithme peut être neutre dans l’exécution d’un calcul, mais il ne l’est pas nécessairement dans ses objectifs, ses données et ses effets. C’est une suite finie d’instructions précises et réalisables, comparable à une recette. L’algorithme d’Euclide, conçu vers 300 avant notre ère, calcule ainsi le plus grand commun diviseur de deux nombres : pour 48 et 18, il trouve 6. Il ne favorise personne. Mais dès qu’un algorithme classe des candidats ou recommande des informations, il intervient dans la vie sociale. La question devient alors : selon quels critères décide-t-il ?Ces critères traduisent des choix humains. Une plateforme peut recommander une vidéo parce qu’elle est instructive, ou parce qu’elle retient longtemps l’attention. Le résultat change selon l’objectif choisi. Avec l’apprentissage automatique, les règles ne sont pas toutes écrites à l’avance : les paramètres sont ajustés à partir d’exemples. Or les données d’apprentissage peuvent contenir des inégalités. Un système de recrutement entraîné sur les embauches passées risque de reproduire une préférence ancienne pour certains profils, même sans consigne explicite de discrimination. L’absence d’intention injuste ne garantit donc pas l’absence d’effets injustes.Cela ne signifie pas que tout algorithme soit forcément partisan ou dangereux. Il peut aussi limiter des décisions arbitraires, à condition de tester ses résultats et de permettre leur contestation. La transparence compte, mais elle ne suffit pas : connaître une règle ne la rend pas juste. Plutôt que d’attendre une neutralité parfaite, ne faut-il pas décider collectivement des choix que nous acceptons de confier aux machines ?