Aurlom

    Les mathématiques au pouvoir : cryptographie, finance et algorithmes

    Notion
    8 min de lecture1900 - aujourd'hui

    Le mathématicien G. H. Hardy se félicitait en 1940 que la théorie des nombres, son domaine, fût « inutile » et ne pût « servir à la guerre ». Trente-cinq ans plus tard, elle devenait la base de la cryptographie qui protège toutes les transactions du monde (RSA, 1977) ; aujourd'hui, elle est au cœur de la guerre économique et du renseignement. Les mathématiques ne sont plus seulement une science : elles sont une infrastructure du pouvoir, dans la finance, la sécurité, le commerce, l'information et la justice.

    Trois domaines l'illustrent. La cryptographie d'abord : de Turing cassant Enigma (1941) à la cryptographie à clé publique et à la bataille sur le chiffrement entre États et plateformes, celui qui maîtrise les mathématiques du secret détient un pouvoir stratégique. La finance ensuite : depuis la thèse de Louis Bachelier (1900) et la formule de Black-Scholes (1973), les marchés sont pilotés par des modèles ; les « quants », souvent formés dans les écoles françaises, ont fait de la finance une industrie mathématique dont les krachs de 1998 et 2008 ont révélé la fragilité, et le trading à haute fréquence exécute des millions d'ordres par seconde. Les algorithmes enfin : classement des résultats de recherche (PageRank), recommandations, tarification dynamique, scores de crédit, police prédictive, sélection des étudiants (Parcoursup), décisions administratives ; des formules invisibles trient, notent et orientent des vies, avec des biais que Cathy O'Neil a baptisés « armes de destruction mathématique » (2016).
    Ce pouvoir pose trois questions : celle de la responsabilité (qui répond d'une décision algorithmique ?), de la transparence (peut-on comprendre et contester une formule ?) et de la justice (les mathématiques sont-elles neutres, ou reproduisent-elles les inégalités des données dont elles se nourrissent ?). Pour le candidat, le sujet réunit histoire des sciences, économie, droit et éthique dans une réflexion sur la technique et la démocratie.

    Définition

    La cryptographie est la science du chiffrement des messages, c'est-à-dire de leur transformation en une forme illisible sans une clé. La cryptographie symétrique utilise la même clé pour chiffrer et déchiffrer (César, Enigma, AES) et pose le problème de la transmission de la clé ; la cryptographie à clé publique (Diffie-Hellman 1976, RSA 1977) résout ce problème grâce à des fonctions faciles à calculer dans un sens et pratiquement impossibles à inverser (multiplier deux grands nombres premiers est facile, factoriser leur produit est infaisable). Elle protège les paiements en ligne, les messageries, les signatures électroniques, les cryptomonnaies.
    Les mathématiques financières sont l'ensemble des modèles probabilistes servant à valoriser les actifs, mesurer les risques et construire des produits dérivés (options, contrats à terme). Leur fondement est la modélisation des cours par des processus aléatoires (mouvement brownien, Bachelier 1900) ; leur formule la plus célèbre, Black-Scholes (1973), donne le prix d'une option. Les quants (analystes quantitatifs) sont les mathématiciens de la finance ; le trading algorithmique ou à haute fréquence confie l'exécution des ordres à des programmes.
    Un algorithme de décision est une procédure automatisée qui produit un classement, un score ou une décision à partir de données : recommandation (Netflix, YouTube), notation (score de crédit, notation des chauffeurs), sélection (Parcoursup, tri de CV), prédiction (récidive, fraude). Un biais algorithmique est une distorsion systématique de ces résultats au détriment d'un groupe, héritée des données (qui reflètent des discriminations passées), des choix de conception ou des critères d'optimisation. Le droit à l'explication (RGPD, loi pour une République numérique de 2016 pour les décisions administratives) exige que la logique d'une décision automatisée puisse être communiquée.

    Contexte

    Le secret a toujours été mathématique : le chiffre de César, les chiffres polyalphabétiques de Vigenère (XVIe siècle), le télégraphe de Zimmermann décrypté en 1917 (et qui fit entrer les États-Unis en guerre). La Seconde Guerre mondiale est la première guerre des mathématiciens : à Bletchley Park, Turing et ses équipes cassent Enigma, ce qui aurait raccourci la guerre de deux ans ; les Américains décryptent le code japonais avant Midway. Après-guerre, la cryptographie reste un monopole d'État (la NSA est créée en 1952) jusqu'à la révolution de 1976-1977 : Diffie et Hellman, puis Rivest, Shamir et Adleman (RSA) inventent la clé publique, accessible aux civils ; les « crypto wars » des années 1990 (le gouvernement américain veut interdire l'exportation du chiffrement fort) se soldent par la victoire des cryptographes, condition du commerce électronique. En France, le chiffrement n'est libéralisé qu'en 1999-2004. Le débat renaît après 2013 (Snowden) et avec les messageries chiffrées de bout en bout (Signal, WhatsApp) que les États veulent pouvoir ouvrir. L'ordinateur quantique, s'il advient, cassera RSA : la cryptographie « post-quantique » est en cours de normalisation (2024).
    En finance, Louis Bachelier soutient en 1900 devant Poincaré une thèse sur la spéculation qui modélise les cours par le mouvement brownien, cinq ans avant Einstein ; ignorée, elle est redécouverte dans les années 1950. Markowitz (portefeuille, 1952), Sharpe, puis Black, Scholes et Merton (1973) fondent la finance moderne ; le marché des options de Chicago ouvre la même année. Les années 1980-2000 voient l'explosion des produits dérivés et l'embauche massive de physiciens et de mathématiciens (les « rocket scientists ») ; la France, grâce à Nicole El Karoui (master de Paris VI-Polytechnique, 1990), fournit un tiers des quants de Londres. LTCM (1998) puis la crise des subprimes (2008), dont les CDO étaient valorisés par une formule (la copule gaussienne de Li, 2000) sous-estimant les corrélations, révèlent les limites. Le trading à haute fréquence provoque le « flash crash » du 6 mai 2010 (Dow Jones −9 % en minutes).
    Les algorithmes de décision naissent avec le scoring bancaire (FICO, 1989), explosent avec le Web (PageRank de Google, 1998, une application de l'algèbre linéaire) et les plateformes, puis gagnent l'action publique : Parcoursup (2018) et son algorithme d'appariement (issu de Gale-Shapley, 1962, prix Nobel 2012), les algorithmes de la CAF pour cibler les contrôles (dénoncés par La Quadrature du Net en 2023), COMPAS aux États-Unis pour évaluer les risques de récidive (enquête ProPublica, 2016, montrant un biais racial). Le livre de Cathy O'Neil (2016), la loi pour une République numérique (2016), le RGPD (2018) puis l'AI Act européen (2024) encadrent progressivement ces usages.

    Mécanismes

    • La fonction à sens unique : le cœur de la cryptographie moderne ; RSA repose sur la difficulté de factoriser un nombre de plusieurs centaines de chiffres ; la sécurité est une conjecture mathématique (personne n'a prouvé qu'un algorithme rapide n'existe pas), et l'ordinateur quantique (algorithme de Shor, 1994) la menace.
    • La marche aléatoire et le mouvement brownien : hypothèse fondatrice de la finance mathématique : les variations de cours sont imprévisibles et suivent une loi normale ; c'est ce que contestent Mandelbrot (années 1960, « queues épaisses ») et Taleb : les krachs sont bien plus fréquents que la loi normale ne le prévoit.
    • La couverture (hedging) : Black-Scholes montre qu'on peut annuler le risque d'une option en achetant et vendant continuellement l'actif sous-jacent ; d'où une industrie de la gestion du risque… qui crée du risque systémique quand tout le monde fait de même (1987, 2008).
    • L'appariement (matching) : l'algorithme de Gale-Shapley (« mariages stables ») affecte des candidats à des places selon des préférences classées ; utilisé par Parcoursup, pour l'affectation des internes en médecine aux États-Unis, pour les greffes de rein. Il est optimal pour l'un des deux côtés (les candidats, dans Parcoursup) : un choix politique caché dans un choix mathématique.
    • Le classement et le score : PageRank note une page selon les liens qu'elle reçoit, pondérés par la note des pages qui les émettent (un problème de valeur propre) ; un score de crédit agrège des variables corrélées à la défaillance. Le score transforme une personne en nombre ; il prédit en moyenne et se trompe sur l'individu.
    • La boucle de rétroaction : un algorithme de police prédictive envoie des patrouilles dans les quartiers où l'on a déjà constaté des délits, y constate davantage de délits, et renforce sa propre prédiction ; les « armes de destruction mathématique » sont opaques, à grande échelle et autoconfirmatrices (O'Neil).

    Enjeux & débats

    1) Les mathématiques sont-elles neutres ? Le formalisme est neutre ; les choix de variables, de données, de critères d'optimisation ne le sont pas. L'algorithme COMPAS ne contenait pas la variable « race », mais des variables corrélées (quartier, antécédents familiaux) ; il « prédisait » deux fois plus de faux positifs pour les Noirs. La neutralité mathématique peut ainsi servir d'alibi (« ce n'est pas nous, c'est l'algorithme ») ; la réponse est l'audit, la transparence et la responsabilité humaine.
    2) Le chiffrement : liberté ou impunité ? Les États demandent des « portes dérobées » pour lutter contre le terrorisme et la pédocriminalité ; les cryptographes répondent qu'une porte dérobée est une faille pour tous (y compris pour les criminels et les États hostiles) et que le chiffrement protège dissidents, journalistes et entreprises. Le débat oppose sécurité et libertés, mais aussi deux conceptions de la sécurité.
    3) La finance mathématique a-t-elle causé les crises ? Les modèles ont donné une illusion de maîtrise et permis des produits que personne ne comprenait ; mais les crises ont d'abord des causes politiques et économiques (dérégulation, incitations, dette). Michel Rocard accusait en 2008 les mathématiciens d'avoir « commis un crime contre l'humanité » ; la communauté a répondu que les modèles avaient été utilisés hors de leur domaine de validité. La question est celle de la responsabilité du savant pour l'usage de ses outils.
    4) Peut-on gouverner par algorithme ? Parcoursup a remplacé le tirage au sort et les files d'attente par une procédure explicite et équitable au sens mathématique, mais reste accusé d'opacité (les algorithmes locaux des formations ne sont pas tous publiés) et d'accentuer les inégalités (les mieux informés en tirent parti). La Cour des comptes et le Conseil constitutionnel (2020) ont imposé plus de transparence. Le débat porte sur la légitimité démocratique d'une décision qu'on ne peut discuter qu'en la comprenant, et sur l'illusion qu'une formule résout un problème politique (le manque de places).

    Exemples

    • Bletchley Park (1939-1945) : 10 000 personnes, dont Turing et des centaines de mathématiciens et de femmes opératrices, décryptent Enigma et Lorenz avec les machines « bombes » et Colossus (premier ordinateur électronique) ; secret gardé jusqu'aux années 1970.
    • RSA (1977) : Rivest, Shamir et Adleman du MIT publient le premier système à clé publique fondé sur la factorisation ; brevet expiré en 2000 ; toujours utilisé, avec des clés de 2 048 bits.
    • Louis Bachelier (1900) : « Théorie de la spéculation », thèse soutenue devant Poincaré, première modélisation mathématique des marchés ; oubliée pendant cinquante ans, elle est considérée comme l'acte de naissance de la finance mathématique.
    • Long-Term Capital Management (1998) : fonds fondé avec Scholes et Merton (Nobel 1997), effet de levier de 25, perd 4,6 milliards de dollars en quelques semaines lors de la crise russe ; sauvé par la Réserve fédérale pour éviter l'effondrement du système.
    • L'affaire COMPAS (2016) : enquête de ProPublica sur le logiciel utilisé par les tribunaux américains pour évaluer le risque de récidive : taux de faux positifs de 45 % pour les accusés noirs contre 23 % pour les blancs ; débat sur les définitions mathématiques de l'équité (impossibles à satisfaire toutes ensemble).
    • Parcoursup (depuis 2018) : algorithme national d'affectation inspiré de Gale-Shapley, traitant 900 000 candidats ; le Conseil constitutionnel (avril 2020) juge que les formations doivent publier les critères de leurs algorithmes locaux ; polémiques récurrentes sur la transparence.
    • Le « flash crash » (6 mai 2010) : en 36 minutes, le Dow Jones perd près de 1 000 points puis les regagne ; enquête pointant le trading à haute fréquence et un trader britannique manipulant les ordres depuis sa chambre ; illustration d'un marché piloté par des algorithmes plus rapides que tout humain.

    Pièges & confusions

    • Croire que la cryptographie est une affaire de « hackers » : c'est une branche des mathématiques (théorie des nombres, algèbre) et une industrie régulée par les États.
    • Confondre corrélation et discrimination intentionnelle : un algorithme peut discriminer sans qu'aucune variable interdite n'y figure ; c'est ce qui rend le biais algorithmique difficile à détecter.
    • Rendre les mathématiques responsables des crises financières : les modèles ont été mal utilisés ; la responsabilité est celle des acteurs et des régulateurs, non des formules. Mais le savant n'est pas quitte pour autant.
    • Idéaliser la transparence : publier un code source de 10 000 lignes ne rend pas une décision compréhensible ; l'explicabilité est un problème plus fin.
    • Croire qu'un algorithme « équitable » existe : plusieurs définitions mathématiques de l'équité sont incompatibles entre elles (Kleinberg, 2016) ; choisir entre elles est un choix politique.

    Usage concours / oral

    Le sujet donne une profondeur inattendue aux dissertations sur le pouvoir, la technique, la responsabilité, la justice, le secret ou la décision. La citation de Hardy sur les mathématiques « inutiles » suivie de RSA fait une accroche ironique parfaite pour tout sujet sur l'utilité de la science ou les usages imprévus des inventions. Celle de Rocard (les mathématiciens auteurs d'un « crime contre l'humanité ») lance efficacement un débat sur la responsabilité des savants.
    Cathy O'Neil (Algorithmes : la bombe à retardement, titre français de 2018) est l'auteure de référence, à connaître avec ses trois critères (opacité, échelle, boucle de rétroaction) ; l'affaire COMPAS est l'exemple canonique du biais algorithmique et l'impossibilité mathématique de satisfaire toutes les définitions de l'équité est un argument de haut niveau qui montre que la justice ne se réduit pas à une formule. Parcoursup est l'exemple français que tout jury connaît : sachez en dire les avantages (fin du tirage au sort, procédure explicite) et les limites (opacité locale, inégalités d'information).
    À l'oral, si l'on vous demande si vous feriez confiance à un algorithme pour juger, recruter ou prêter, ne répondez ni oui ni non : demandez à quelles conditions (données, audit, recours humain, explicabilité) et rappelez que la loi (RGPD, loi de 2016) impose déjà une intervention humaine pour les décisions importantes. C'est la réponse d'un futur décideur, non d'un utilisateur.

    Sources

    • Algorithmes : la bombe à retardement
    • Machine Bias
    • Histoire des codes secrets
    • Décision du Conseil constitutionnel n° 2020-834 QPC (Parcoursup)
    • Cryptographie : les enjeux du chiffrement

    Questions d'oral

    1Comment la théorie des nombres, science « inutile », est-elle devenue la base de la sécurité numérique ?2Faut-il permettre aux États d'ouvrir les messageries chiffrées ?3Les mathématiciens sont-ils responsables de la crise de 2008 ?4Qu'est-ce qu'un biais algorithmique ? Donnez un exemple.5Parcoursup est-il juste ?

    + 2 autres questions

    Continuez votre exploration

    Fiches du même thème

    Voir toutes les fiches Mathématiques

    Découvrez aussi :

    Tous les thèmesTous les quizToutes les flashcardsRechercher une fiche