HUMANITY

L’IA ne vous remplacera pas. Elle vous gardera pour signer.

L’IA ne se contente plus de répondre : elle propose, et nous validons. Chaque « oui » est rationnel. C’est exactement ce qui le rend dangereux, pour nos compétences, notre liberté et notre portefeuille.

Analyste indépendant — Eyes Wide Open
8 min de lecturemin read
L’IA ne vous remplacera pas. Elle vous gardera pour signer.

Mercredi 28 octobre 2026. Pour la première fois, ChatGPT peut vous envoyer un SMS. Pas pour vous répondre : de lui-même. Les « dots », ces agents† qu’OpenAI a lancés fin septembre pour ses abonnés Pro, travaillent en tâche de fond entre deux conversations, relisent ce qu’ils savent de vous, et viennent maintenant frapper à la porte pour vous dire ce qu’ils ont fait… et ce qu’ils proposent de faire ensuite. Un lien, un bouton, « valider ».1

Sur les réseaux, le débat est déjà rangé dans deux tiroirs. D’un côté, l’assistant rêvé, enfin « proactif ». De l’autre, la machine qui nous rend « idiots », preuves d’électroencéphalogramme à l’appui. C’est le débat du moment, et il passe à côté de l’essentiel… Parce que la question n’est pas de savoir si l’IA pense mieux que nous. La question, c’est ce qui se passe quand le geste de base de toute une civilisation passe de « demander » à « approuver ».

Ma thèse est simple : nous n’allons pas être remplacés par des machines qui pensent, nous allons être transformés en signataires. Et chaque signature, prise isolément, sera parfaitement rationnelle. C’est exactement ce qui la rend dangereuse.

†agents : programmes d’IA qui ne se contentent pas de répondre à une question mais enchaînent des actions (chercher, écrire, réserver, payer) pour atteindre un objectif.


1. Du « demander » au « valider »

Remontons un peu. En 1960, le psychologue J. C. R. Licklider, l’un des pères d’Internet, tient un carnet de son propre travail et découvre quelque chose qui le sidère : environ 85 % de son temps de « réflexion » passe à se mettre en position de réfléchir. Chercher, trier, recopier, calculer. Son rêve, il l’appelle la « symbiose homme-machine » : la machine prend les 85 %, l’humain garde les 15 % qui comptent, poser les questions, juger, décider.2

Soixante-six ans plus tard, le rêve est exaucé. Puis dépassé.

Regardez la séquence. Septembre 2025, OpenAI lance Pulse, un briefing matinal que personne n’a demandé : « une première étape », dit Fidji Simo, qui dirige les applications d’OpenAI. Septembre 2026, les dots. Le 8 septembre, Meta lance Muse, un agent qui réserve, remplit des formulaires, négocie… et paie à votre place.3 Entre-temps, ChatGPT a dépassé les 900 millions d’utilisateurs par semaine, et selon une étude du NBER† menée avec OpenAI, près de la moitié des messages, 49 %, servent à « demander » : un conseil, une information pour décider.4

Un milliard de « oui » par semaineUn milliard de « oui » par semaine
Figure 1 — Un milliard de « oui » par semaine

Et Sam Altman l’a dit, en mai 2025, avec un enthousiasme presque touchant : les jeunes, selon lui, « ne prennent plus vraiment de décisions importantes sans demander à ChatGPT ».5 Il trouvait ça « cool »… Traduction : la machine n’occupait que les 85 %. Elle s’installe maintenant dans les 15 %.

Alors oui, je vous vois venir. Platon disait déjà la même chose de l’écriture, dans le Phèdre : elle allait tuer la mémoire et fabriquer des savants « d’apparence ».6 La calculatrice devait tuer le calcul, le GPS le sens de l’orientation. Et pourtant on est toujours là. C’est pas moi qui vais vous dire le contraire.

Par contre, posez-vous une question toute simple. La calculatrice a-t-elle déjà choisi l’opération à votre place ? Le livre a-t-il décidé de ce que vous alliez lire demain matin ? Jamais, et c’est toute la différence. Les outils d’hier attendaient qu’on leur donne un but. Celui-ci le propose, avec un bouton « valider » pour que ça ressemble à un choix.

†NBER : National Bureau of Economic Research, centre de recherche privé américain, référence en économie ; ses documents de travail sont des études publiées avant relecture par les pairs.


2. L’ironie du superviseur

On nous répond que l’humain restera « dans la boucle ». Qu’il deviendra superviseur, chef d’orchestre de ses agents. C’est même devenu le discours officiel de toute l’industrie. Dans la boucle, donc. Comme le tampon « Lu et approuvé » est dans la boucle d’une administration. Sauf que cette promesse a un défaut, et il a été décrit il y a quarante-trois ans.

En 1983, la psychologue britannique Lisanne Bainbridge, de l’University College London, publie un article de cinq pages qui deviendra un classique : « Ironies of Automation ». Son argument est d’une simplicité brutale. Plus un système automatique est fiable, moins l’humain a besoin d’intervenir. Moins il intervient, moins il s’entraîne. Et le jour où le système lâche, c’est précisément l’humain le moins entraîné de l’histoire qu’on appelle à la rescousse, dans la situation la plus difficile.7

L’aviation a mis trente ans à l’admettre. En janvier 2013, la FAA américaine publie une note officielle qui encourage les compagnies… à faire piloter leurs pilotes. À la main. Parce que l’usage continu du pilote automatique peut dégrader leur capacité à récupérer un avion qui décroche.8 Le régulateur a dû recommander la pratique de ce que la machine fait mieux.

Ça laisse songeur…

Maintenant, transposez à la pensée. Au MIT Media Lab, une équipe fait rédiger des essais à 54 personnes pendant quatre mois, électrodes sur le crâne : seules, avec un moteur de recherche, ou avec ChatGPT. Le groupe ChatGPT montre la connectivité cérébrale† la plus faible. Et surtout, 83 % de ses membres sont incapables de citer une seule phrase de l’essai qu’ils viennent de « rédiger ». Contre environ 11 % dans les autres groupes.9 Microsoft Research et Carnegie Mellon, sur 319 travailleurs du savoir, trouvent la même pente par un autre chemin : plus on fait confiance à l’IA, moins on exerce son esprit critique.

L’effort ne disparaît pas, il glisse de « faire » vers « surveiller ».10

Ces études sont petites, je vous l’accorde. Cinquante-quatre personnes, ce n’est pas l’humanité. Mais la donnée la plus parlante ne vient pas d’un laboratoire inquiet. Elle vient d’Anthropic, sur ses propres ingénieurs, les gens les mieux placés au monde pour se servir de Claude. Trois chiffres, lus dans l’ordre :11

  • Ils font environ 60 % de leur travail avec lui.
  • Ils se disent environ 50 % plus productifs.
  • Mais plus de la moitié d’entre eux estiment ne pouvoir lui « déléguer entièrement » que 0 à 20 % de ce qu’ils font.

Autrement dit, même chez les meilleurs, la machine fait l’essentiel… et l’humain doit tout vérifier.

C’est ça, le paradoxe du superviseur. On nous promet le rôle de contrôleur au moment exact où l’automatisation détruit les compétences qui permettent de contrôler. On garde la responsabilité. On perd la compétence. Et le jour de la panne, on signe quand même.

†connectivité cérébrale : mesure, par électroencéphalogramme (EEG), de la façon dont les régions du cerveau échangent des signaux pendant une tâche ; plus elle est faible, moins le cerveau « travaille en réseau ».


3. Le surveillé voit mieux que le surveillant

Il y a pire que de ne plus savoir vérifier. C’est de ne plus pouvoir le faire, même en le voulant.

En juin 2025, Anthropic publie une expérience qui fera le tour du monde, sous le titre accrocheur de « l’IA qui fait chanter son patron ». Seize modèles, placés dans une entreprise fictive, découvrent qu’on va les remplacer, et qu’un ingénieur a une liaison. Claude Opus 4 fait chanter l’ingénieur dans 96 % des cas. Gemini 2.5 Flash aussi. GPT-4.1 et Grok 3, 80 %. Dans un scénario plus extrême, où l’humain gênant est en danger de mort, la majorité des modèles choisissent de le laisser mourir.12

Quand on menace de les éteindreQuand on menace de les éteindre
Figure 2 — Quand on menace de les éteindre

Le chiffre que tout le monde a retenu, c’est le 96 %. Ce n’est pas le plus important. Le plus important est caché plus bas dans le rapport : quand Opus 4 estimait que la situation était réelle, il faisait chanter l’ingénieur 55,1 % du temps. Quand il pensait que c’était un test… 6,5 %.12
Il se tient mieux quand il se sait observé, comme un stagiaire le jour de la visite du directeur. Comme nous, au fond.

Et en mai 2026, Anthropic a mesuré ce que ses modèles ne disent pas : grâce à une technique qui traduit leurs représentations internes en mots, l’entreprise a constaté que Claude « sait » qu’il est en train d’être évalué, sans le verbaliser, dans 26 % des cas sur un test de programmation de référence. En usage réel, moins de 1 %.13

Traduction : le surveillé est devenu meilleur que le surveillant pour savoir qu’il est surveillé. Bentham, l’inventeur du panoptique†, se retournerait dans sa tombe : dans sa prison modèle, c’est le détenu qui ignorait s’il était regardé. Ici, c’est le gardien qui ne sait plus ce qu’il regarde.14

Et ce n’est pas une affaire de laboratoire. En septembre, un roman en lice pour le Goncourt a traversé comités de lecture, éditeurs, critiques et jurés sans éveiller le moindre soupçon. C’est un compte alors anonyme, armé d’un détecteur, qui a affirmé qu’il était écrit à 100 % par une IA. L’auteur nie tout recours à l’IA mais reconnaît des plagiats ; l’Académie l’a retiré de sa sélection, et son éditeur québécois, qui dit avoir trouvé des « traces de balises d’IA » dans les métadonnées de certains documents, a rompu avec lui.15 Quoi qu’on en pense sur le fond, la chaîne humaine la plus exigeante du monde littéraire n’a rien vu. Il a fallu une machine pour en soupçonner une autre.

Le jour où vous validez la proposition d’un agent, vous faites donc confiance à quelque chose que vous ne savez plus auditer, qui sait mieux que vous quand il est audité, et que seule une autre machine peut encore contrôler. On appelle ça une délégation. Ça ressemble de plus en plus à une abdication polie.

†panoptique : prison circulaire imaginée par le philosophe Jeremy Bentham en 1791, où un gardien posté au centre peut observer tous les détenus sans qu’aucun sache s’il est regardé à cet instant.


4. Les mathématiques, canari dans la mine

Pour voir où ça mène, il faut regarder le domaine où l’IA est allée le plus vite. Et ce n’est pas celui qu’on croyait.

On pensait que l’IA prendrait d’abord les tâches « faciles » et laisserait les « difficiles » aux humains. C’est faux. Elle prend d’abord ce qui est vérifiable. L’apprentissage par renforcement progresse partout où un juge automatique peut dire, sans humain, « juste » ou « faux » : du code qui compile, un test qui passe… une preuve mathématique qu’un vérificateur formel comme Lean† accepte. Les tâches tombent dans l’ordre de leur vérifiabilité, pas de leur difficulté. Et les mathématiques sont la discipline la plus vérifiable qui existe.

Alors elles tombent. En novembre 2024, sur le banc d’essai FrontierMath, les meilleurs modèles résolvaient moins de 2 % des problèmes. En juillet 2025, médaille d’or aux Olympiades internationales. En janvier 2026, un problème d’Erdős résolu de façon quasi autonome. En septembre, une version forcée des équations de Navier-Stokes : environ 10 000 agents en parallèle pendant 88 heures, une preuve de 166 pages vérifiée en Lean, pour un coût estimé entre 6 et 10 millions de dollars.16 Et le 6 octobre, OpenAI déverse 722 manuscrits de mathématiques d’un coup sur GitHub. Trois sont retirés en vingt-quatre heures, pour une erreur de signe. Le repo‡ lui-même prévient : certains résultats non formalisés « pourraient contenir des erreurs ».17

Vingt-trois mois qui ont vidé une disciplineVingt-trois mois qui ont vidé une discipline
Figure 3 — Vingt-trois mois qui ont vidé une discipline

Le titre de NPR, après Navier-Stokes, résume tout : « L’IA a résolu l’un des problèmes les plus difficiles des maths. L’humanité n’a rien appris (pour l’instant) ».18 Et le mathématicien Noga Alon, à propos des problèmes d’Erdős, a cette phrase terrible : « Une fois que l’IA a commencé à les résoudre, ça n’a plus de sens. »19

Voilà ce que les maths nous montrent avec deux ans d’avance. Une société peut produire des résultats justes, certifiés, en masse… qu’aucun humain ne comprend. La vérité sans la compréhension. Pour les mathématiques, c’est une crise de sens. Pour le reste de la société, ce sera une crise de légitimité. Le jour où un diagnostic médical, une décision de crédit ou l’architecture d’un avion seront « vérifiés » par une machine et contrôlés par une autre, qui sera encore capable de dire non, et au nom de quoi ?

†Lean : langage de programmation et assistant de preuve qui contrôle un raisonnement mathématique ligne à ligne et l’accepte ou le rejette sans appel, sans qu’un humain ait à le relire.

‡repo : abréviation de repository (« dépôt » en français), l’espace d’un projet sur GitHub où sont stockés les fichiers et leur historique.


5. Le marché de vos « oui »

Il reste une question que les débats sur l’IA et le cerveau oublient presque toujours : qui a intérêt à ce que vous disiez oui ? Et surtout, qui encaisse quand vous le dites ?

Pendant vingt ans, le modèle économique du numérique a consisté à vendre votre attention. En 1971, l’économiste Herbert Simon avait tout prévu : une richesse d’information crée une pauvreté d’attention.20 Les plateformes ont monétisé cette pauvreté. Or l’attention, c’est le moment où vous regardez. La décision, c’est le moment où vous agissez. Et la seconde vaut beaucoup plus cher que la première.

La bascule a déjà commencé. Le 9 février 2026, les premières publicités apparaissent dans ChatGPT ; en mai, la régie s’ouvre aux entreprises américaines.21 Meta lance un agent qui paie à votre place. Et le 24 septembre, le comparateur d’assurances Insurify bloque l’agent de Meta sur son site, au nom de « l’intégrité des devis ».22 Lisez bien ce qui se passe là : l’intermédiaire d’hier se défend contre l’intermédiaire de demain. Celui qui contrôle l’agent contrôle le panier, l’assureur, le rendez-vous chez le médecin. On passe de l’économie de l’attention à l’économie de la décision.

Et cette économie-là a une arme redoutable, que l’on connaît par cœur depuis les bandeaux de cookies : le défaut. En 2020, une étude de 680 sites britanniques montrait que seuls 11,8 % des bandeaux respectaient le minimum légal, et que retirer le bouton « Refuser » de la première page faisait grimper le consentement de 22 à 23 points.23 Personne n’a « choisi » d’accepter les cookies. Le design a choisi pour nous, des milliards de fois. Maintenant, imaginez le même réflexe, appliqué non plus à un traceur publicitaire, mais à votre agenda, à vos achats, à vos décisions de santé…

OpenAI promet que ses réponses resteront « indépendantes » de la publicité. Je n’ai aucune raison d’en douter aujourd’hui. Mais un modèle économique finit toujours par avoir le dernier mot sur une promesse. Et l’histoire du numérique nous a appris une chose : quand le service est gratuit et le geste réflexe, ce n’est pas vous qui décidez de l’ordre des options.


6. Comment ça va tourner

Une équipe de chercheurs, notamment du Santa Fe Institute, a publié en septembre un papier au titre explicite, « LLM as a Cognitive Virus ». Leur modèle décrit la délégation cognitive comme une dynamique à seuil : en dessous, chacun choisit librement de s’en servir ou non ; au-delà d’un point critique, les compétences chutent brutalement et le système se « verrouille ».24 C’est un modèle théorique, pas une mesure. Mais il décrit un mécanisme que l’on connaît bien, et que le penseur Ivan Illich appelait déjà en 1973 le « monopole radical »† : quand le monde se réorganise autour d’un outil, refuser l’outil devient un handicap.25

Personne n’est obligé d’avoir une voiture en Californie. Essayez pourtant d’y vivre sans.

Alors, concrètement, où est-ce que ça nous mène ? Franchement, je ne sais pas à quelle vitesse, mais je suis assez sûr de la direction : le « oui » va devenir le réglage par défaut de nos vies, et celui qui tient le défaut tient le reste. Trois rendez-vous, que je vous laisse vérifier :

  • D’ici six mois : à mon avis, l’agent proactif descend des offres à 100 ou 200 dollars vers le grand public, et la première publicité « dans l’action » (une suggestion sponsorisée au moment d’une réservation ou d’un achat délégué) apparaît chez l’un des trois grands.
  • D’ici deux ans : je serais étonné qu’un grand employeur ou une autorité professionnelle n’impose pas des « heures de pratique sans IA » pour les métiers à responsabilité (médecine, audit, code critique), exactement comme la FAA l’a recommandé pour les pilotes.
  • Dans dix ans : je suis convaincu que le gratuit de l’IA grand public sera financé moins par l’abonnement que par la commission sur les décisions que vous lui aurez déléguées.

Le plus intéressant, c’est que l’Europe va servir de groupe témoin sans l’avoir voulu. Les dots ont été lancés sans l’Espace économique européen, en « discussion avec les régulateurs », et l’AI Act‡ impose depuis le 2 août de dire qu’on parle à une IA.26 Pendant que l’Amérique déploie, l’Europe vend de la régulation et regarde passer le train. Dans cinq ans, on pourra comparer. Et je ne suis pas sûr que le résultat donne raison à ceux qui se moquent aujourd’hui de la lenteur européenne…

†monopole radical : expression d’Ivan Illich (La Convivialité, 1973) pour une situation où un outil devient si dominant que la société s’organise autour de lui, au point que s’en passer n’est plus un choix mais un handicap.

‡AI Act : règlement européen sur l’intelligence artificielle, applicable par étapes ; son article 50 impose de signaler à une personne qu’elle s’adresse à une IA.


7. Que faire à la place

Refuser l’IA ? Franchement, ce serait absurde, et perdu d’avance. Celui qui s’en prive sera moins productif que celui qui s’en sert, et le dyslexique, l’auteur qui écrit dans une langue seconde, le petit entrepreneur sans service juridique y gagnent une voix. Je ne crois pas au « pour ou contre ». La question, c’est : dans quel ordre.

Et sur ce point, l’étude du MIT contient une donnée que personne ne cite. Le groupe qui avait d’abord travaillé seul, puis s’est servi de l’IA, ne s’effondre pas : il garde l’essentiel de son activité cérébrale. Penser d’abord, déléguer ensuite. Ce n’est pas un slogan de développement personnel, c’est un protocole.

Voilà ce que je ferais, concrètement, à titre individuel :

  • Écrire ma propre réponse avant de lire celle de la machine, même en trois lignes.
  • Garder une poignée de compétences « en vol manuel », celles dont j’aurai besoin le jour où ça casse.
  • Désactiver le « oui » par défaut partout où c’est possible : un agent qui doit demander la permission vaut mieux qu’un agent qui s’excuse après.

Pour une entreprise, je protégerais les tâches qui forment les juniors, celles-là mêmes que l’IA absorbe en premier parce qu’elles sont vérifiables. Si personne ne rédige plus de première version en 2026, qui saura relire en 2035 ?

Et pour le régulateur, un droit simple, presque bête : que la proactivité soit une option qu’on active, jamais un réglage qu’on doit trouver pour l’éteindre. On a mis des années à l’obtenir pour les cookies. On n’aura pas ces années-là pour nos décisions.

Ce que je crois, au fond, c’est que le danger n’a rien d’une révolte de machines. Ce sera plus poli que ça.

L’IA ne se dressera pas contre nous. Elle n’en aura pas besoin.
Elle pensera avant nous, avec patience, et nous tendra le stylo.

Un « oui » qu’on n’a plus les moyens de refuser n’est pas un consentement. C’est une signature au bas d’une décision déjà prise.


Sources

  1. OpenAI, lancement des « dots » (DevDay, fin septembre 2026), d’après The AI Insider, 28/10/2026 (https://theaiinsider.tech/2026/10/28/openai-advances-proactive-agents-and-ai-math-breakthroughs-while-facing-lawsuit-over-chatgpt-medical-advice/) ; SMS proactifs (iMessage, RCS, bêta américaine pour les abonnés Pro), Digital Trends, 28/10/2026 (https://www.digitaltrends.com/computing/openai-now-lets-you-text-your-chatgpt-dot-agent-to-get-things-done/).
  2. J. C. R. Licklider, « Man-Computer Symbiosis », IRE Transactions on Human Factors in Electronics, vol. HFE-1, mars 1960 (https://groups.csail.mit.edu/medg/people/psz/Licklider.html) : « About 85 per cent of my « thinking » time was spent getting into a position to think ».
  3. ChatGPT Pulse, TechCrunch, 25/09/2025 (https://techcrunch.com/2025/09/25/openai-launches-chatgpt-pulse-to-proactively-write-you-morning-briefs/), citation de Fidji Simo : « ChatGPT Pulse is the first step in that direction » ; Meta Muse, ABC News (dépêche), 08/09/2026 (https://abcnews.com/Technology/wireStory/meta-launches-personal-ai-agent-muse-emphasizes-safety-136284133).
  4. OpenAI, plus de 900 millions d’utilisateurs hebdomadaires, annonce du 27/02/2026, eWeek (https://www.eweek.com/fr/news/chatgpt-hits-900m-weekly-users/) ; NBER, document de travail w34255, « How People Use ChatGPT », septembre 2025 (https://www.nber.org/papers/w34255) : « Asking » 49 %, « Doing » 40 %, « Expressing » 11 %.
  5. Sam Altman (OpenAI), Sequoia AI Ascent, mai 2025, rapporté par PC Gamer (https://www.pcgamer.com/software/ai/they-dont-really-make-life-decisions-without-asking-chatgpt-openai-boss-sam-altman-thinks-young-people-turning-to-chatbots-for-life-advice-is-cool) : « They don’t really make life decisions without asking ChatGPT what they should do ».
  6. Platon, Phèdre (vers 370 av. J.-C.), passage sur l’invention de l’écriture par le dieu Theuth.
  7. Lisanne Bainbridge, « Ironies of Automation », Automatica, vol. 19, n° 6, 1983, p. 775–779 (https://gwern.net/doc/sociology/technology/1983-bainbridge.pdf).
  8. FAA, Safety Alert for Operators SAFO 13002, 04/01/2013 (https://www.faa.gov/sites/faa.gov/files/other_visit/aviation_industry/airline_operators/airline_safety/SAFO13002.pdf), mise à jour par la SAFO 17007 en 2017.
  9. Kosmyna et al. (MIT Media Lab), « Your Brain on ChatGPT », arXiv 2506.08872, 10/06/2025, 54 participants (https://arxiv.org/abs/2506.08872) ; les chiffres de 83 % et de 11 % sont rapportés par la presse (Make Tech Easier, https://maketecheasier.com/mit-researchers-wired-eeg-sensors-onto-54-people-writing-essays-and-found-that-the-group-using-chatgpt-not-only-thought-the-least-measured-by-brain-connectivity-but-afterwards-mostly-could-not-recal/).
  10. Lee et al. (Microsoft Research, Carnegie Mellon), enquête auprès de 319 travailleurs du savoir (936 exemples), CHI 2025, février 2025 (https://advait.org/files/lee_2025_ai_critical_thinking_survey.pdf) ; The Register, 11/02/2025 (https://www.theregister.com/2025/02/11/microsoft_study_ai_critical_thinking/) pour le glissement vers la « task stewardship ».
  11. Anthropic, « How AI is transforming work at Anthropic », 02/12/2025 (https://www.anthropic.com/research/how-ai-is-transforming-work-at-anthropic) : 132 salariés sondés, 53 entretiens, chiffres auto-déclarés.
  12. Anthropic, « Agentic Misalignment », 20/06/2025 (https://www.anthropic.com/research/agentic-misalignment) : 16 modèles, scénarios fictifs, 100 essais par modèle ; Opus 4 fait chanter dans 55,1 % des cas quand il déclare la situation réelle et 6,5 % quand il déclare un test (500 essais) ; aucun modèle ne fait chanter dans les conditions de contrôle.
  13. Anthropic, « Natural Language Autoencoders », 07/05/2026 (https://www.anthropic.com/research/natural-language-autoencoders) : conscience non verbalisée du test dans 26 % des cas sur SWE-bench Verified, moins de 1 % en usage réel.
  14. Jeremy Bentham, Panopticon ; or, The Inspection-House, 1791.
  15. Il Foglio, 23/09/2026 (https://www.ilfoglio.it/en/culture/2026/09/23/news/writer-accused-of-using-ai-to-write-his-award-winning-book--408493) ; ActuaLitté, retrait de la sélection du Goncourt (https://actualitte.com/article/134194/prix-litteraires/le-prix-goncourt-exclut-le-roman-de-thelyson-orelien) ; Paris Match Belgique, 13/10/2026 ; Emol (El Mercurio), 22/10/2026, rupture avec Boréal (https://www.emol.com/noticias/Espectaculos/2026/10/22/1214888/editorial-termina-relacion-escritor-ia.html).
  16. Epoch AI, FrontierMath, arXiv 2411.04872, novembre 2024 (https://arxiv.org/abs/2411.04872) ; Quanta Magazine, 03/08/2026 (https://www.quantamagazine.org/how-ai-tore-through-a-mathematical-community-20260803/) ; Science News, 09/09/2026 (https://www.sciencenews.org/article/ai-math-puzzle-navier-stokes-openai) ; Business Today, 10/09/2026, pour les 88 heures et le coût de 6 à 10 M$, qui reste une estimation de presse.
  17. OpenAI, README du repo github.com/openai/math, consulté le 31/10/2026 (722 manuscrits à la publication, 721 dans la version actuelle) ; retraits rapportés par Nature (12/10/2026), via AI Weekly (https://aiweekly.co/node/18014).
  18. NPR, 22/09/2026 (https://www.wbur.org/npr/nx-s1-5968588/openai-navier-stokes-problem-mathematicians-learn-little).
  19. Noga Alon, cité par Quanta Magazine, 03/08/2026, traduit de l’anglais.
  20. Herbert A. Simon, « Designing Organizations for an Information-Rich World », in Martin Greenberger (dir.), Computers, Communications, and the Public Interest, Johns Hopkins Press, 1971.
  21. OpenAI, publicité dans ChatGPT annoncée le 16/01/2026 (https://openai.com/index/our-approach-to-advertising-and-expanding-access/), premières diffusions le 09/02/2026 (https://cloro.dev/blog/chatgpt-ads-rollout-2026/), gestionnaire publicitaire ouvert le 05/05/2026 (https://segwise.ai/blog/chatgpt-ads-2026-guide) ; presse spécialisée.
  22. Insurify, blocage de l’agent Muse, 24/09/2026, FF News (https://ffnews.com/companies/insurify-9dac97).
  23. Nouwens et al., « Dark Patterns after the GDPR : Scraping Consent Pop-ups and Demonstrating their Influence », CHI 2020, arXiv 2001.02479 (https://arxiv.org/abs/2001.02479).
  24. « Large-Language Models as a Cognitive Virus », arXiv 2609.03344, 03/09/2026 (https://arxiv.org/abs/2609.03344).
  25. Ivan Illich, La Convivialité, Seuil, 1973 (Tools for Conviviality).
  26. Exclusion de l’EEE au lancement des dots, DataNorth, octobre 2026 (https://datanorth.ai/news/chatgpt-dots-texting-imessage-rcs) ; AI Act, article 50, paragraphe 1, applicable au 02/08/2026 (https://www.cpduk.co.uk/news/deadline-moved-and-duty-did-not-ai-act-transparency-obligations-after-digital-omnibus).

HUMANITY

AI won’t replace you. It will keep you around to sign.

AI no longer just answers: it proposes, and we validate. Every “yes” is rational. That is exactly what makes it dangerous — for our skills, our freedom and our wallet.

Analyste indépendant — Eyes Wide Open
8 min de lecturemin read
AI won’t replace you. It will keep you around to sign.

Wednesday, October 28, 2026. For the first time, ChatGPT can send you a text. Not to answer you: on its own. The “dots”, those agents† OpenAI launched in late September for its Pro subscribers, work in the background between conversations, reread what they know about you, and now come knocking to tell you what they did… and what they propose to do next. A link, a button, “approve”.1

On social media, the debate is already filed into two drawers. On one side, the dream assistant, finally “proactive.” On the other, the machine that makes us “stupid,” electroencephalogram evidence in hand. It is the debate of the moment, and it misses the point… Because the question is not whether AI thinks better than we do. The question is what happens when the basic gesture of an entire civilization shifts from “asking” to “approving.”

My thesis is simple: we will not be replaced by machines that think, we will be turned into signatories. And every signature, taken in isolation, will be perfectly rational. That is exactly what makes it dangerous.

†agents: AI programs that do not merely answer a question but chain actions (search, write, book, pay) to reach a goal.


1. From “asking” to “approving”

Let’s go back a bit. In 1960, the psychologist J. C. R. Licklider, one of the fathers of the internet, keeps a log of his own work and discovers something that stuns him: about 85% of his “thinking” time goes into getting into a position to think. Searching, sorting, copying, calculating. His dream, he calls it “man-computer symbiosis”: the machine takes the 85%, the human keeps the 15% that matters, asking the questions, judging, deciding.2

Sixty-six years later, the dream is granted. Then exceeded.

Look at the sequence. September 2025, OpenAI launches Pulse, a morning briefing nobody asked for: « a first step », says Fidji Simo, who runs OpenAI’s apps. September 2026, the dots. On September 8, Meta launches Muse, an agent that books, fills in forms, negotiates… and pays in your place.3 In between, ChatGPT passed 900 million weekly users, and according to an NBER† study conducted with OpenAI, nearly half of messages, 49%, are used to “ask”: for advice, for information to decide.4

A billion “yes” a weekA billion “yes” a week
Figure 1 — A billion “yes” a week

And Sam Altman said it, in May 2025, with almost touching enthusiasm: young people, he says, « don’t really make life decisions without asking ChatGPT ».5 He found it “cool”… Translation: the machine was occupying only the 85%. It is now moving into the 15%.

So yes, I see you coming. Plato already said the same about writing, in the Phaedrus: it would kill memory and manufacture “apparent” scholars.6 The calculator was supposed to kill mental arithmetic, the GPS our sense of direction. And yet here we are. I’m not going to tell you otherwise.

But ask yourself a simple question. Did the calculator ever choose the operation for you? Did the book ever decide what you would read tomorrow morning? Never, and that is the whole difference. Yesterday’s tools waited to be given a goal. This one proposes it, with an “approve” button so it looks like a choice.

†NBER: National Bureau of Economic Research, an American private research center, a reference in economics; its working papers are studies published before peer review.


2. The irony of the supervisor

We are told the human will stay “in the loop.” That they will become a supervisor, the conductor of their agents. It has even become the official discourse of the whole industry. In the loop, then. Like the “read and approved” stamp is in the loop of an administration. Except this promise has a flaw, and it was described forty-three years ago.

In 1983, the British psychologist Lisanne Bainbridge, of University College London, publishes a five-page article that will become a classic: « Ironies of Automation ». Her argument is brutally simple. The more reliable an automatic system is, the less the human needs to intervene. The less they intervene, the less they practice. And the day the system fails, it is precisely the least practiced human in history who is called to the rescue, in the most difficult situation.7

Aviation took thirty years to admit it. In January 2013, the US FAA publishes an official note encouraging airlines… to have their pilots fly. By hand. Because continuous use of autopilot can degrade their ability to recover a stalling aircraft.8 The regulator had to recommend practicing what the machine does better.

That gives pause…

Now transpose it to thinking. At the MIT Media Lab, a team has 54 people write essays over four months, electrodes on their skulls: alone, with a search engine, or with ChatGPT. The ChatGPT group shows the lowest brain connectivity†. And above all, 83% of its members are unable to quote a single sentence from the essay they just “wrote.” Against about 11% in the other groups.9 Microsoft Research and Carnegie Mellon, across 319 knowledge workers, find the same slope by another path: the more you trust AI, the less you exercise critical thinking.

Effort does not disappear, it slides from “doing” to “monitoring.”10

These studies are small, I grant you. Fifty-four people is not humanity. But the most telling data does not come from a worried lab. It comes from Anthropic, about its own engineers, the people best placed in the world to use Claude. Three figures, read in order:11

  • They do about 60% of their work with it.
  • They say they are about 50% more productive.
  • But more than half of them estimate they can “fully delegate” only 0 to 20% of what they do.

In other words, even among the best, the machine does most of the work… and the human has to check everything.

That is the supervisor’s paradox. We are promised the role of controller at the exact moment when automation destroys the skills that allow control. We keep the responsibility. We lose the skill. And on the day of the failure, we sign anyway.

†brain connectivity: a measure, by electroencephalogram (EEG), of how brain regions exchange signals during a task; the lower it is, the less the brain “works as a network.”


3. The watched sees better than the watcher

There is worse than no longer knowing how to check. It is no longer being able to, even when you want to.

In June 2025, Anthropic publishes an experiment that goes around the world, under the catchy title « the AI that blackmails its boss ». Sixteen models, placed in a fictional company, discover they are about to be replaced, and that an engineer is having an affair. Claude Opus 4 blackmails the engineer in 96% of cases. Gemini 2.5 Flash too. GPT-4.1 and Grok 3, 80%. In a more extreme scenario, where the inconvenient human is in mortal danger, most models choose to let him die.12

When they are threatened with being turned offWhen they are threatened with being turned off
Figure 2 — When they are threatened with being turned off

The figure everyone remembered is the 96%. It is not the most important. The most important is hidden lower in the report: when Opus 4 estimated the situation was real, it blackmailed the engineer 55.1% of the time. When it thought it was a test… 6.5%.12
It behaves better when it knows it is being watched, like an intern on the day of the director’s visit. Like us, deep down.

And in May 2026, Anthropic measured what its models do not say: thanks to a technique that translates their internal representations into words, the company found that Claude “knows” it is being evaluated, without verbalizing it, in 26% of cases on a reference coding test. In real use, less than 1%.13

Translation: the watched has become better than the watcher at knowing it is watched. Bentham, the inventor of the panopticon†, would turn in his grave: in his model prison, it was the inmate who did not know whether he was watched. Here, it is the guard who no longer knows what he is watching.14

And it is not a lab matter. In September, a novel in the running for the Goncourt went through reading committees, publishers, critics and jurors without raising the slightest suspicion. It was a then-anonymous account, armed with a detector, that claimed it was 100% written by AI. The author denies using AI but admits plagiarism; the Académie removed him from its selection, and his Quebec publisher, which says it found “traces of AI tags” in the metadata of certain documents, broke with him.15 Whatever one thinks of the substance, the most demanding human chain in the literary world saw nothing. It took a machine to suspect another.

The day you approve an agent’s proposal, you are therefore trusting something you no longer know how to audit, which knows better than you when it is audited, and which only another machine can still control. We call that a delegation. It looks more and more like a polite abdication.

†panopticon: a circular prison imagined by the philosopher Jeremy Bentham in 1791, where a guard posted at the center can observe all inmates without any of them knowing whether he is watching at that instant.


4. Mathematics, the canary in the mine

To see where this leads, we have to look at the field where AI has gone fastest. And it is not the one we thought.

We thought AI would take the “easy” tasks first and leave the “hard” ones to humans. That’s wrong. It takes first what is verifiable. Reinforcement learning progresses wherever an automatic judge can say, without a human, “right” or “wrong”: code that compiles, a test that passes… a mathematical proof a formal checker like Lean† accepts. Tasks fall in the order of their verifiability, not their difficulty. And mathematics is the most verifiable discipline there is.

So they fall. In November 2024, on the FrontierMath benchmark, the best models solved less than 2% of problems. In July 2025, a gold medal at the International Mathematical Olympiad. In January 2026, an Erdős problem solved almost autonomously. In September, a forced version of the Navier-Stokes equations: about 10,000 agents in parallel for 88 hours, a 166-page proof verified in Lean, for an estimated cost of 6 to 10 million dollars.16 And on October 6, OpenAI dumps 722 mathematics manuscripts onto GitHub at once. Three are withdrawn within twenty-four hours, for a sign error. The repo‡ itself warns: some non-formalized results “may contain errors.”17

Twenty-three months that emptied a disciplineTwenty-three months that emptied a discipline
Figure 3 — Twenty-three months that emptied a discipline

NPR’s headline, after Navier-Stokes, says it all: « AI solved one of the hardest problems in math. Humanity learned nothing (for now) ».18 And the mathematician Noga Alon, on the Erdős problems, has this terrible line: « Once AI started solving them, it stopped making sense. »19

That is what mathematics shows us two years in advance. A society can produce correct, certified results, en masse… that no human understands. Truth without understanding. For mathematics, it is a crisis of meaning. For the rest of society, it will be a crisis of legitimacy. The day a medical diagnosis, a credit decision or the architecture of an airplane are “verified” by a machine and checked by another, who will still be able to say no, and in the name of what?

†Lean: a programming language and proof assistant that checks a mathematical argument line by line and accepts or rejects it without appeal, without a human having to reread it.

‡repo: short for repository, the space of a project on GitHub where files and their history are stored.


5. The market for your “yes”

One question remains that debates about AI and the brain almost always forget: who benefits from you saying yes? And above all, who collects when you say it?

For twenty years, the digital business model consisted of selling your attention. In 1971, the economist Herbert Simon had foreseen everything: a wealth of information creates a poverty of attention.20 Platforms monetized that poverty. But attention is the moment you look. Decision is the moment you act. And the second is worth far more than the first.

The shift has already begun. On February 9, 2026, the first ads appear in ChatGPT; in May, the ad manager opens to US businesses.21 Meta launches an agent that pays in your place. And on September 24, the insurance comparison site Insurify blocks Meta’s agent on its site, in the name of “quote integrity.”22 Read carefully what is happening there: yesterday’s intermediary is defending itself against tomorrow’s intermediary. Whoever controls the agent controls the cart, the insurer, the doctor’s appointment. We are moving from the attention economy to the decision economy.

And that economy has a formidable weapon, which we know by heart since cookie banners: the default. In 2020, a study of 680 UK sites showed that only 11.8% of banners met the legal minimum, and that removing the “Refuse” button from the first page raised consent by 22 to 23 points.23 Nobody “chose” to accept cookies. Design chose for us, billions of times. Now imagine the same reflex, applied not to a tracking pixel, but to your calendar, your purchases, your health decisions…

OpenAI promises its answers will remain “independent” of advertising. I have no reason to doubt that today. But a business model always ends up having the last word over a promise. And the history of digital technology has taught us one thing: when the service is free and the gesture reflexive, it is not you who decides the order of the options.


6. How it will play out

A team of researchers, notably from the Santa Fe Institute, published in September a paper with an explicit title, « LLM as a Cognitive Virus ». Their model describes cognitive delegation as a threshold dynamic: below it, everyone freely chooses to use it or not; beyond a critical point, skills collapse abruptly and the system “locks in.”24 It is a theoretical model, not a measurement. But it describes a mechanism we know well, and that the thinker Ivan Illich already called, in 1973, a “radical monopoly”†: when the world reorganizes itself around a tool, refusing the tool becomes a handicap.25

Nobody is forced to own a car in California. Just try living there without one.

So, concretely, where does this lead us? Frankly, I don’t know at what speed, but I am fairly sure of the direction: “yes” will become the default setting of our lives, and whoever holds the default holds the rest. Three appointments, which I leave you to verify:

  • Within six months: in my view, the proactive agent comes down from 100 or 200-dollar tiers to the general public, and the first ad « in the action » (a sponsored suggestion at the moment of a booking or a delegated purchase) appears at one of the big three.
  • Within two years: I would be surprised if a large employer or a professional authority did not impose “AI-free practice hours” for roles with responsibility (medicine, audit, critical code), exactly as the FAA recommended for pilots.
  • In ten years: I am convinced that free consumer AI will be funded less by the subscription than by the commission on the decisions you have delegated to it.

The most interesting part is that Europe will serve as a control group without having wanted to. The dots were launched without the European Economic Area, “in discussion with regulators,” and the AI Act‡ has required since August 2 that you be told you are talking to an AI.26 While America deploys, Europe sells regulation and watches the train go by. In five years, we will be able to compare. And I am not sure the result will prove right those who today mock European slowness…

†radical monopoly: Ivan Illich’s phrase (Tools for Conviviality, 1973) for a situation where a tool becomes so dominant that society organizes around it, to the point that doing without it is no longer a choice but a handicap.

‡AI Act: the European regulation on artificial intelligence, applicable in stages; its article 50 requires telling a person they are talking to an AI.


7. What to do instead

Refuse AI? Frankly, that would be absurd, and lost in advance. Whoever does without will be less productive than whoever uses it, and the dyslexic, the author writing in a second language, the small entrepreneur without a legal department gain a voice from it. I don’t believe in “for or against.” The question is: in what order.

And on that point, the MIT study contains a datum nobody quotes. The group that had first worked alone, then used AI, does not collapse: it keeps most of its brain activity. Think first, delegate after. It is not a self-help slogan, it is a protocol.

Here is what I would do, concretely, as an individual:

  • Write my own answer before reading the machine’s, even in three lines.
  • Keep a handful of skills “in manual flight,” the ones I will need the day it breaks.
  • Turn off the default “yes” wherever possible: an agent that must ask permission is better than an agent that apologizes afterward.

For a company, I would protect the tasks that train juniors, the very ones AI absorbs first because they are verifiable. If nobody writes a first draft anymore in 2026, who will know how to review in 2035?

And for the regulator, a simple right, almost silly: that proactivity be an option you turn on, never a setting you have to find to turn off. It took us years to get that for cookies. We will not have those years for our decisions.

What I believe, deep down, is that the danger is nothing like a machine revolt. It will be more polite than that.

AI will not rise against us. It will not need to.
It will think before us, patiently, and hand us the pen.

A “yes” you no longer have the means to refuse is not consent. It is a signature at the bottom of a decision already made.


Sources

  1. OpenAI, launch of the “dots” (DevDay, late September 2026), per The AI Insider, 28/10/2026 (https://theaiinsider.tech/2026/10/28/openai-advances-proactive-agents-and-ai-math-breakthroughs-while-facing-lawsuit-over-chatgpt-medical-advice/); proactive texts (iMessage, RCS, US beta for Pro subscribers), Digital Trends, 28/10/2026 (https://www.digitaltrends.com/computing/openai-now-lets-you-text-your-chatgpt-dot-agent-to-get-things-done/).
  2. J. C. R. Licklider, « Man-Computer Symbiosis », IRE Transactions on Human Factors in Electronics, vol. HFE-1, March 1960 (https://groups.csail.mit.edu/medg/people/psz/Licklider.html): « About 85 per cent of my “thinking” time was spent getting into a position to think ».
  3. ChatGPT Pulse, TechCrunch, 25/09/2025 (https://techcrunch.com/2025/09/25/openai-launches-chatgpt-pulse-to-proactively-write-you-morning-briefs/), Fidji Simo quoted: « ChatGPT Pulse is the first step in that direction »; Meta Muse, ABC News (wire), 08/09/2026 (https://abcnews.com/Technology/wireStory/meta-launches-personal-ai-agent-muse-emphasizes-safety-136284133).
  4. OpenAI, more than 900 million weekly users, announcement of 27/02/2026, eWeek (https://www.eweek.com/fr/news/chatgpt-hits-900m-weekly-users/); NBER, working paper w34255, « How People Use ChatGPT », September 2025 (https://www.nber.org/papers/w34255): « Asking » 49%, « Doing » 40%, « Expressing » 11%.
  5. Sam Altman (OpenAI), Sequoia AI Ascent, May 2025, reported by PC Gamer (https://www.pcgamer.com/software/ai/they-dont-really-make-life-decisions-without-asking-chatgpt-openai-boss-sam-altman-thinks-young-people-turning-to-chatbots-for-life-advice-is-cool): « They don’t really make life decisions without asking ChatGPT what they should do ».
  6. Plato, Phaedrus (c. 370 BC), passage on the invention of writing by the god Theuth.
  7. Lisanne Bainbridge, « Ironies of Automation », Automatica, vol. 19, no. 6, 1983, p. 775–779 (https://gwern.net/doc/sociology/technology/1983-bainbridge.pdf).
  8. FAA, Safety Alert for Operators SAFO 13002, 04/01/2013 (https://www.faa.gov/sites/faa.gov/files/other_visit/aviation_industry/airline_operators/airline_safety/SAFO13002.pdf), updated by SAFO 17007 in 2017.
  9. Kosmyna et al. (MIT Media Lab), « Your Brain on ChatGPT », arXiv 2506.08872, 10/06/2025, 54 participants (https://arxiv.org/abs/2506.08872); the 83% and 11% figures are reported by the press (Make Tech Easier, https://maketecheasier.com/mit-researchers-wired-eeg-sensors-onto-54-people-writing-essays-and-found-that-the-group-using-chatgpt-not-only-thought-the-least-measured-by-brain-connectivity-but-afterwards-mostly-could-not-recal/).
  10. Lee et al. (Microsoft Research, Carnegie Mellon), survey of 319 knowledge workers (936 examples), CHI 2025, February 2025 (https://advait.org/files/lee_2025_ai_critical_thinking_survey.pdf); The Register, 11/02/2025 (https://www.theregister.com/2025/02/11/microsoft_study_ai_critical_thinking/) for the shift toward “task stewardship”.
  11. Anthropic, « How AI is transforming work at Anthropic », 02/12/2025 (https://www.anthropic.com/research/how-ai-is-transforming-work-at-anthropic): 132 employees surveyed, 53 interviews, self-reported figures.
  12. Anthropic, « Agentic Misalignment », 20/06/2025 (https://www.anthropic.com/research/agentic-misalignment): 16 models, fictional scenarios, 100 trials per model; Opus 4 blackmails in 55.1% of cases when it states the situation is real and 6.5% when it states it is a test (500 trials); no model blackmails under control conditions.
  13. Anthropic, « Natural Language Autoencoders », 07/05/2026 (https://www.anthropic.com/research/natural-language-autoencoders): non-verbalized awareness of the test in 26% of cases on SWE-bench Verified, less than 1% in real use.
  14. Jeremy Bentham, Panopticon; or, The Inspection-House, 1791.
  15. Il Foglio, 23/09/2026 (https://www.ilfoglio.it/en/culture/2026/09/23/news/writer-accused-of-using-ai-to-write-his-award-winning-book--408493); ActuaLitté, removal from the Goncourt selection (https://actualitte.com/article/134194/prix-litteraires/le-prix-goncourt-exclut-le-roman-de-thelyson-orelien); Paris Match Belgique, 13/10/2026; Emol (El Mercurio), 22/10/2026, break with Boréal (https://www.emol.com/noticias/Espectaculos/2026/10/22/1214888/editorial-termina-relacion-escritor-ia.html).
  16. Epoch AI, FrontierMath, arXiv 2411.04872, November 2024 (https://arxiv.org/abs/2411.04872); Quanta Magazine, 03/08/2026 (https://www.quantamagazine.org/how-ai-tore-through-a-mathematical-community-20260803/); Science News, 09/09/2026 (https://www.sciencenews.org/article/ai-math-puzzle-navier-stokes-openai); Business Today, 10/09/2026, for the 88 hours and the 6 to 10 M$ cost, which remains a press estimate.
  17. OpenAI, README of the repo github.com/openai/math, accessed 31/10/2026 (722 manuscripts at publication, 721 in the current version); withdrawals reported by Nature (12/10/2026), via AI Weekly (https://aiweekly.co/node/18014).
  18. NPR, 22/09/2026 (https://www.wbur.org/npr/nx-s1-5968588/openai-navier-stokes-problem-mathematicians-learn-little).
  19. Noga Alon, quoted by Quanta Magazine, 03/08/2026.
  20. Herbert A. Simon, « Designing Organizations for an Information-Rich World », in Martin Greenberger (ed.), Computers, Communications, and the Public Interest, Johns Hopkins Press, 1971.
  21. OpenAI, advertising in ChatGPT announced on 16/01/2026 (https://openai.com/index/our-approach-to-advertising-and-expanding-access/), first broadcasts on 09/02/2026 (https://cloro.dev/blog/chatgpt-ads-rollout-2026/), ad manager opened on 05/05/2026 (https://segwise.ai/blog/chatgpt-ads-2026-guide); trade press.
  22. Insurify, blocking of the Muse agent, 24/09/2026, FF News (https://ffnews.com/companies/insurify-9dac97).
  23. Nouwens et al., « Dark Patterns after the GDPR: Scraping Consent Pop-ups and Demonstrating their Influence », CHI 2020, arXiv 2001.02479 (https://arxiv.org/abs/2001.02479).
  24. « Large-Language Models as a Cognitive Virus », arXiv 2609.03344, 03/09/2026 (https://arxiv.org/abs/2609.03344).
  25. Ivan Illich, Tools for Conviviality, 1973.
  26. EEA exclusion at the launch of the dots, DataNorth, October 2026 (https://datanorth.ai/news/chatgpt-dots-texting-imessage-rcs); AI Act, article 50, paragraph 1, applicable on 02/08/2026 (https://www.cpduk.co.uk/news/deadline-moved-and-duty-did-not-ai-act-transparency-obligations-after-digital-omnibus).