Retour à la fiche
Question d'oral
IA : qui est responsable d’une décision automatique injuste (concepteur, État, entreprise) et selon quel principe ?
Réponse d'oral
La responsabilité d’une décision automatique injuste revient au concepteur, à l’entreprise ou à l’État selon leur rôle, leur pouvoir de contrôle et leurs obligations : une IA ne supprime jamais la responsabilité humaine. Le concepteur doit prévenir les erreurs et tester les discriminations prévisibles. L’entreprise qui utilise le système doit vérifier qu’il convient à la situation et permettre une contestation. L’État doit encadrer ces usages et garantir les droits. S’il utilise lui-même une IA pour attribuer une aide sociale, il ne peut pas se décharger sur son fournisseur. La responsabilité peut donc être partagée, sans devenir celle de personne.Selon quel principe juger ? Avec Kant, le respect de la personne interdit de traiter un individu comme un simple dossier statistique. Un refus de prêt doit pouvoir être expliqué et contesté. L’utilitarisme invite à mesurer les conséquences : automatiser peut réduire les délais, mais aussi multiplier les exclusions. Le gain collectif ne suffit toutefois pas à justifier le sacrifice d’une minorité. Avec Rawls, la justice comme équité conduit à examiner notamment les effets sur les plus défavorisés.En 2020, au Royaume-Uni, un algorithme d’attribution des notes de fin de lycée a défavorisé certains élèves, notamment dans des établissements historiquement moins performants. Face aux contestations, le gouvernement a renoncé aux notes calculées. Cet exemple montre qu’une décision techniquement cohérente peut rester socialement injuste. Le principe central est donc de rendre des comptes : prévenir, expliquer, corriger et, si nécessaire, réparer. Reste à décider quelles décisions nous ne devrions jamais déléguer entièrement à une machine.
Autres questions
1.Éthique : quelle différence entre “être moral” et “justifier moralement” ?2.Vertu (Aristote) : en quoi la morale peut-elle être une formation du caractère ?3.Kant : comment expliquer simplement l’impératif catégorique et l’idée d’universalisation ?4.Utilitarisme : comment juger une action par ses conséquences sans écraser les droits individuels ?5.Mill (1859) : quand peut-on limiter une liberté ? Donnez un exemple actuel.