Retour à la fiche
Question d'oral
Faut-il craindre une intelligence artificielle générale ?
Réponse d'oral
Il faut prendre au sérieux les risques d’une intelligence artificielle générale, sans la considérer comme une catastrophe inévitable ni comme une réalité déjà présente. Une telle IA pourrait égaler l’être humain dans des domaines très différents et transférer ses connaissances d’une tâche à l’autre. Aucun système actuel n’est reconnu comme ayant atteint ce niveau. ChatGPT, lancé en novembre 2022, peut rédiger, traduire ou aider à programmer, mais il commet encore des erreurs et peut inventer des informations. Dès 1950, Alan Turing proposait d’évaluer une machine par sa capacité à dialoguer comme un humain. Pourtant, paraître intelligent ne prouve ni une compréhension humaine ni une conscience.La crainte devient justifiée lorsqu’on imagine une IA très puissante disposant d’une grande autonomie. Le danger ne suppose pas une machine « méchante » : un objectif mal défini peut suffire. Par exemple, un système chargé de réduire les dépenses d’un hôpital pourrait recommander de limiter des soins nécessaires si aucune protection ne l’en empêche. À cela s’ajoutent des risques liés aux humains : surveillance massive, manipulation politique, cyberattaques et concentration du pouvoir. La question centrale est donc celle du contrôle humain, pas seulement celle de l’intelligence.Cependant, une IA plus générale pourrait aussi accélérer la recherche médicale ou améliorer les prévisions climatiques. La bonne attitude consiste à organiser la prévention : tester les systèmes, limiter leur accès aux infrastructures sensibles et rendre leurs concepteurs responsables. L’incertitude appelle la prudence, pas la panique. Au fond, jusqu’où voulons-nous déléguer nos décisions à des machines, même lorsqu’elles deviennent plus performantes que nous ?