De l’IA générative à l’agent IA pour tous : le nouveau et dangereux "Grand bond en avant"

Ne pas revenir sur le sujet de l'intelligence artificielle nous condamnerait à l’obsolescence, tant le rythme des développements et de leur médiatisation incessante nous submerge. Cette humeur y contribue très modestement mais en se fixant un but ambitieux : tenter de faire réfléchir. Pour information, en cette rentrée littéraire chamboulée, cet article est totalement artisanal et sa rédaction n’a eu recours à aucune machine, hormis un traitement de texte. Pas d’IA, 100% "bio".

En Chine, de 1958 à 1960, Mao pensait que le socialisme de l’URSS était un échec et qu’il ne fallait plus s’appuyer sur le monde ouvrier, mais sur les paysans pour y parvenir. Résultat : entre 15 et 50 millions de morts, principalement de famine. Ce "Grand bond en avant" décidé par un seul homme et réalisé au bord d’un précipice vient en écho à ce qui se passe aujourd’hui avec l’IA.

L’analogie est simple : quelques personnes sur la planète décident de la manière de développer l’IA sans se soucier de l’existence d’un éventuel précipice. Des optimistes béats pensent qu’il n’y en a pas. Parmi eux, les technicistes, défenseurs d’un capitalisme débridé et, comme par hasard, souvent détracteurs du changement climatique.

D’autres pensent que le passage de l’IA générative à l’agent IA est un nouveau Grand bond en avant marquant une rupture aussi radicale que celle de l’avènement de l’imprimerie avec des changements sociétaux de premier ordre. Tentons d’y voir plus clair entre les annonciateurs de l’Apocalypse et les idéologues de la technologie.

L’IA entre le "bien" et le "mal"

"Y a-t-il un bon usage de l'intelligence artificielle ?" s’interrogeaient Alain Finkelkraut et ses invités, Gaultier Bès [2] et Olivier Babeau [3] à son émission radio "Réplique" en mars dernier [1]. Ces questionnements concernent principalement les IA génératives et les premiers agents IA, et mènent à l’incertitude inhérente au futur… sauf que nous évoquons le présent puisqu’ils sont déjà massivement utilisés dans le monde de l’entreprise, de l’éducation et de la recherche, et également par les particuliers.

"Ces innovations créeront-elles de nouveaux emplois exigeant des compétences toujours plus élevées, tout en détruisant des métiers laborieux pour produire des métiers plus intéressants et plus respectueux de la dignité humaine ?"

Entre promesses ou constats de progrès et fuite aveugle dans la technologie, la question n’est pas morale mais vitale, comme l’affirme l’encyclique de Léon XIV sur l’IA. Elle doit se conceptualiser "par-delà le bien et le mal" comme dirait un certain Nietzsche.

L’exemple du monde du travail est patent. Olivier Babeau rappelle que c’est maintenant des gens extrêmement compétents – médecins, avocats, mathématiciens, spécialistes en tous genres – qui, s’aidant d’algorithmes beaucoup plus performants qu’eux dans leurs propres expertises, se retrouvent fragilisés dans leurs qualifications.

Ces innovations créeront-elles de nouveaux emplois exigeant des compétences toujours plus élevées, tout en détruisant des métiers laborieux pour produire des métiers plus intéressants et plus respectueux de la dignité humaine ? Ou bien, comme s’interroge Gaultier Bès, assisterons-nous globalement à des destructions d’emplois s’accompagnant, pour ceux qui restent ou pour les nouveaux métiers crées, de la multiplication de tâches dénuées de sens ?

Le nouveau Grand bond en avant : la "singularité"

Mi-septembre, Jacob Coxon, chercheur passé chez Open AI puis Anthropic, a dénoncé ces deux majors de l’IA qui visent à développer des IA capables de concevoir elles-mêmes et de manière autonomes des IA super intelligentes hors contrôle humain, moment de bascule baptisé "singularité" [5]. On se rapproche de la vision apocalyptique d’Elon Musk de l’avènement d’une IA devenue concurrente et agressive contre l’humain.

Pas question d’imaginer la débrancher car la machine pourrait être répartie sur des milliers de serveurs dotés de protocole d’autoconservation. La machine ne serait pas dangereuse, voire létale par hostilité consciente contre son créateur, mais simplement indifférente à notre sort d’humains.

Des spécialistes en sécurité IA utilisent l’analogie de la fourmilière : on ne hait pas les fourmis quand on coule les fondations d’un bâtiment, on ne les prend simplement pas en compte… Le prix Nobel de physique Geoffrey Hinton pense qu’il y a 10 % de "chances" que l’IA puisse potentiellement nous tuer d’ici 10 ans !

Cette séquence médiatique ranime la peur prométhéenne de l’IA. Elle rappelle la révolte de l’ordinateur HAL dans le film 2001 L’odyssée de l’espace, ou encore Matrix… Cette panique est entretenue par les majors de l’IA, qui dénoncent, comme le patron d'Anthropic AI, la fuite en avant technologique sans régulation et sans prévention contre les dangers potentiels.

Cette ambiance anxiogène centrée sur l’autonomie permet ainsi de mettre sous le tapis les problèmes concrets et urgents : "vols de données protégées par le droit d’auteur, absence de gouvernance et de concertation démocratique, défiance informationnelle et carnage écologique…" [6] L’autonomie et la singularité sont des concepts permettant aux géants de l’IA de se déresponsabiliser… c'est la faute à la machine !

Une question bien plus politique que technique

Le point d’orgue de cette mascarade s’est déroulé le 29 septembre 2026 à la Maison Blanche [8]. Donald Trump, le président des USA, a convié les grands patrons du secteur, Dario Amodei (Anthropic), Greg Brockman (OpenAI), Jensen Huang (Nvidia), Mark Zuckerberg (Meta), Elon Musk (Grok), Sundar Pichai (Google), Jeff Bezos (Amazon). Ils ont signé un accord dans lequel ils s’engagent à garantir la sécurité des technologies d’IA.

Cet accord est à la fois vague et juridiquement non contraignant. Donald Trump a déclaré : "… d’une certaine manière, ⁠c’est presque ‌comme une Constitution… Les ‌plus grandes personnalités ​du monde l’ont signé, et je l’ai signé en tant que président. C’est vraiment une forme de protection." Pour lui, l’accord est contraignant "sur le plan moral" et permettra donc aux entreprises de "s’autoréguler". Trump citant la morale ! Un comble.

Certains pensent que les dangers liés à la singularité sont à relativiser en considérant que l’IA restera limitée, notamment par son absence de réelle créativité. Si elle est capable de produire des œuvres originales, c’est sans désir, sans buts amicaux ou agressifs, sans intention. Si par exemple, une IA a pu récemment résoudre le vieux problème de l’équation de Navier-Stockes (décrivant les mouvements dynamiques dans les fluides), c’est parce qu’on lui a demandé, et non parce que le problème la chiffonnait.

"Si les algorithmes peuvent singer à l’extrême certains aspects de l’intelligence humaine, être beaucoup plus performants quantitativement, les comparaisons sont inutiles dans le champ de la création."

Le simple fait d’avoir un corps nous rend intelligent d’une manière non reproductible par des algorithmes [7]. Si ceux-ci peuvent singer à l’extrême certains aspects de l’intelligence humaine, être beaucoup plus performants quantitativement, les comparaisons sont inutiles dans le champ de la création.

Pour se rasséréner contre les risques d’une perte de contrôle, certains se réfèrent aux trois lois de la robotique définies dans les années 1950-1960 par l’écrivain de SF Isaac Asimov, lois qui préserveraient toute nuisance contre l’humain.

Une chose est claire entre ceux qui évoquent de manière sincère ou cynique la prochaine Apocalypse et les optimistes : la question des développements de l’IA n’est plus de l’ordre de la science ou de la technique, mais institutionnelle et politique. L’encyclique papale ne dit pas autre chose. Le dîner à la Maison Blanche du 29 septembre est, de ce point de vue, un très mauvais signal.

Si la singularité reste un réel sujet par l’inquiétude qu’elle engendre, il en va encore autrement de l’apparition et de l’utilisation des IA agentiques. Si on considère que l’avènement d’une Apocalypse n’est pas à exclure, alors il ne faut pas la chercher là où certains feignent de l’y trouver.

Le dernier Grand bond en avant : l’agent IA généralisé

Dans son dernier ouvrage [9], Antoine Buéno explore l’essor des IA agentiques capables d’agir à notre place et analyse le pouvoir de manipulation de ceux qui les programment. "Et si le vrai danger de l’IA n’était pas qu’elle prenne le pouvoir, mais que nous lui donnions ?" s’interroge-t-il.

Interviewé le 26 septembre dernier [10], il rappelle que l’agent IA est un modèle qui cumule une IA générative, outil généraliste fait pour le grand public (ChatGPT, Claude…) et des IA prédictives, spécialisées pour des tâches précises (reconnaissance faciale, voiture autonome…). Les agents IA sont déjà, et de plus en plus, utilisés dans les entreprises, détruisant au passage des emplois en transformant ceux qui restent.

Les développements actuels portent sur des agents IA grand public, généralisés, qui seraient capables d’agir sur le monde réel (contrairement à l’IA), par exemple en commandant des objets connectés mais aussi et surtout par leurs capacités d’initiative, de proposition, d’organisation, de commentaire du quotidien de chacun.

C’est la promesse que tout le monde pourrait disposer, à terme, comme les milliardaires ou les plus puissants, d’une "super conciergerie de luxe" : un assistant personnel avec qui on pourrait échanger en permanence et à qui on pourrait tout demander, des conseils dans tous les domaines, l’organisation de son agenda, de ses vacances, de ses relations, de ses votes…

Les impacts très contrastés du numérique

Cette aide transformerait la vie en huis-clos : chacun dans sa bulle avec son Jeremy Crocket connaissant tout de la personne qu’il sert et capable d’influencer sa conscience, son "libre" arbitre, et de prendre des initiatives à sa place.

La grande révolution de l’imprimerie a permis à chacun de lire, de se faire en conséquence sa propre opinion, de devenir son directeur de conscience. Près de six siècles plus tard, l’agent IA referme la parenthèse de l’imprimerie. Il s’agit là d’un réel Grand bond en avant d’une réelle dangerosité.

"L'IA agentique est la promesse que tout le monde pourrait disposer, à terme, d’une "super conciergerie de luxe" : un assistant personnel avec qui on pourrait échanger en permanence et à qui on pourrait tout demander, des conseils dans tous les domaines, l’organisation de son agenda…"

Pour l’expliquer, Antoine Buéno rappelle d’abord le rôle croissant du numérique et des nouvelles technologies sur l’information et le pouvoir politique, aux impacts très contrastés : le Printemps arabe grâce aux réseaux sociaux, l’emprise totalitaire kafkaïenne en Chine avec le contrôle social, le partage de l’information contrôlée collectivement comme Wikipédia, l’attente obsessionnelle de l’obtention de petites récompenses dans les réseaux sociaux avec la comptabilité des likes…

Le Jeremy Crocket de chacun, grâce à des processus d’incitations douces et discrètes (les nudges) dans tous les domaines et en permanence, pourra exercer un contrôle de la personne, non pas avec un bâton, mais avec une carotte.

Antoine Bueno cite le roman d’Aldous Huxley, écrit en 1931, "Le meilleur des mondes", et sa description prémonitoire de futures dictatures. Finies la violence, la terreur, la sanction ! Le pouvoir absolu pourrait passer par la récompense, la manipulation progressive, l’acceptation de son exercice. Une dictature molle, pernicieuse, "bisounours".

L’optimisme nécessite la vigilance

Mais rien n’est perdu. Au sujet des développements de l’IA décidés par une infime minorité d’individus avec qui l'on ne partage rien, la question décisive posée par Gaultier Bès est : "Est-ce vraiment une fatalité ? Je ne crois pas en la tragédie de l’Histoire, je crois qu’il est toujours possible de dire non." [1] Heureusement, il est loin d’être seul à le penser [11].

Malgré la fascination exercée par l’IA, des résistances se sont faites jour sur toute la planète, des petites mains au Kenya fournissant des données [12], en passant par ceux qui partout perdent leur emploi, ceux qui refusent l’implantation d’un data center dans leur entourage – un très récent sondage aux USA (New York Times-Siena [8]) montre que 61 % des Américains sont opposés à la construction de centres de données, et jusqu'à 80 % chez les moins de 30 ans –, ou encore ceux qui utilisent l’IA d’une manière autre que celle imposée par les champions de la "tech".

Il est de notre responsabilité à tous de trier les possibilités infinies des IA et de les faire tendre vers le bien public partagé.

***

[1] "Y a-t-il un bon usage de l'intelligence artificielle ?", Réplique, France Culture, 7 mars 2026

[2] "La vie machinale. Pourquoi et comment résister à l’IA ?", Gaultier Bès, Éditions Desclée de Brouwer, 2026

[3] "Ne faites plus d'études : apprendre autrement à l'ère de l'IA", Olivier Babeau et Laurent Alexandre, Éditions Buchet-Chastel, 2025

[4] "Entre 'taylorisme augmenté' et destructions d'emplois : l'IA, ce sujet ô combien politique", Bernard Sesolis, XPair, 17 juillet 2026

[5] "L’IA et le vertige de la singularité", France Culture, 12 septembre 2026

[6] "L’IA Apocalypse : le coup marketing des géants de l’IA", France Culture, 15 septembre 2026

[7] "Face à l’IA, avoir un corps change tout", Sylvie Chokron (CNRS), Le Monde, 16 septembre 2026

[8] "Trump met en scène l’autorégulation de l’IA", Piotr Smolar, Le Monde, 1er octobre 2026

[9] "Guidance : comment la technologie promet le meilleur des mondes", Antoine Bueno, Éditions Tallandier, septembre 2026

[10] "Futurologie de l’IA", Marguerite Catton, dans "L’invité des matins d’après" : Antoine Bueno, France Culture, 26 septembre 2026

[11] "Tout le monde déteste l’IA", Pierre Pimbert, Le Monde Diplomatique, juillet 2026

[12] "L’IA : au Kenya, la discrète révolte des forçats du clic", Célian Macé, Libération, 28 septembre 2026