Retour à la fiche
Question d'oral
IA médicale : comment garantir équité, explicabilité et responsabilité juridique (erreurs, biais) ?
Réponse d'oral
Pour garantir l’équité, l’explicabilité et la responsabilité juridique de l’IA médicale, il faut contrôler ses résultats, rendre ses recommandations compréhensibles et définir les obligations de chaque acteur. Une IA peut aider à détecter une tumeur, mais elle peut aussi reproduire les inégalités présentes dans ses données. En 2019, une étude américaine a montré qu’un algorithme sous-estimait les besoins de patients noirs : il utilisait leurs dépenses de santé comme indicateur de leur état de santé. Or, moins dépenser ne signifie pas être moins malade. Il faut donc tester les outils sur des populations variées et comparer leurs erreurs selon les groupes, avant leur utilisation puis régulièrement.L’explicabilité ne consiste pas à demander au patient de comprendre tout le programme. Elle suppose que le médecin puisse expliquer le rôle de l’outil, les éléments qui soutiennent sa recommandation et ses limites. Le patient doit savoir quand l’IA intervient de manière importante dans sa prise en charge. Cela rejoint les principes bioéthiques : respecter son autonomie, rechercher son bien, éviter de lui nuire et assurer un accès juste aux soins. Le contrôle humain doit être réel : un médecin doit pouvoir contester une recommandation, pas seulement la valider automatiquement.Enfin, en cas d’erreur, le médecin n’est ni automatiquement coupable ni automatiquement exonéré. Selon les faits et le droit applicable, la responsabilité peut concerner le fabricant, l’établissement ou le professionnel. Conserver une trace des recommandations et des décisions aide à établir les responsabilités et à indemniser les victimes. Le progrès médical ne devrait-il pas se mesurer autant à la confiance qu’il mérite qu’aux performances qu’il affiche ?
Autres questions
1.Qu’est-ce que la bioéthique : réflexion, normes, ou gouvernance ? Donne un exemple pour chacune.2.Explique le rôle du consentement : pourquoi Nuremberg (1947) est-il un repère si central ?3.Déclaration d’Helsinki (1964) : qu’ajoute-t-elle à Nuremberg dans l’éthique de la recherche médicale ?4.Quels sont les 4 principes (autonomie, bienfaisance, non-malfaisance, justice) et comment peuvent-ils entrer en conflit ?5.CNIL (1978) : pourquoi la protection des données est-elle une question bioéthique (et pas seulement technique) ?