L'IA, serviteur ou souverain ? Pensée, liberté et dépendance

Le mirage de l’esprit

L’arrivée des intelligences artificielles génératives a provoqué un choc intellectuel et culturel dont nous mesurons encore mal les conséquences. Des modèles capables de produire des textes d’une cohérence remarquable, des images de grande qualité et des raisonnements d’une logique apparente posent une question : ce qu’ils produisent est-il le fruit d’une pensée véritable, ou l’illusion perfectionnée d’une pensée ?

Cette question n’est pas une simple spéculation. Elle touche à notre rapport au savoir, à la créativité et à nous-mêmes. En transformant notre environnement informationnel, l’IA nous conduit-elle vers une élévation de la connaissance humaine, ou vers une dépendance à des outils qui nous déshumanisent ? L’IA est-elle un nouveau Prométhée, le personnage mythologique grec qui apporte le feu aux humains, au service d’une connaissance augmentée, ou un nouvel apprenti sorcier, dont nous aurions déjà perdu le contrôle ?

Au cœur du débat se trouve la nature de ce que nous appelons penser. La pensée humaine est faite de conscience, d’intentionnalité, c’est-à-dire de visée d’un objet, d’émotions, d’expériences vécues et d’une compréhension du monde qui dépasse la manipulation de symboles. Elle est incarnée, située dans un corps et un contexte. Que fait l’IA lorsqu’elle produit un contenu ?

Les grands modèles de langage qui animent les assistants conversationnels sont des systèmes statistiques entraînés sur des quantités immenses de textes. Leur fonctionnement de base consiste à prédire, de manière probabiliste, une unité de texte suivante, appelée jeton, dans une séquence. Ce mécanisme de base ne résume pas tout l’entraînement et ne règle pas le débat : des chercheurs discutent de savoir si, pour bien prédire, ces modèles construisent des représentations internes du monde, et ce que cela changerait.

Un système peut ainsi composer un poème sur l’automne en mobilisant des associations apprises entre des images, des rythmes et des mots. Un lecteur pourra trouver le poème émouvant ou convenu. Cette appréciation porte sur le résultat ; elle ne donne pas un accès direct à un éventuel vécu du système. La distinction vaut aussi pour les réponses qui imitent un conseil amical ou une explication savante.

Le philosophe américain John Searle a proposé en 1980 une expérience de pensée célèbre, la chambre chinoise. Un homme enfermé dans une pièce reçoit des questions écrites en chinois, langue qu’il ignore, et y répond en suivant un manuel de règles qui associe des symboles à d’autres symboles. Vu de l’extérieur, il répond parfaitement en chinois ; pourtant il ne comprend rien. Selon Searle, manipuler des symboles selon des règles syntaxiques ne suffit pas à produire du sens. Cet argument ne constitue pas un constat expérimental sur tous les systèmes d’IA.

L’argument a suscité de nombreuses objections. La plus connue, la réponse des systèmes, fait valoir que ce n’est pas l’homme qui comprend, mais le système entier formé par l’homme, le manuel et la pièce. Les philosophes fonctionnalistes, comme l’Américain Daniel Dennett (1942-2024), soutiennent de leur côté que comprendre consiste à exercer certaines fonctions, quel que soit le support, biologique ou électronique. La question reste disputée.

La chambre chinoise met en scène une activité réglée, et non des réponses choisies au hasard. Elle permet de distinguer la correction d’une réponse de la compréhension que l’on attribue à son auteur. Pour ses critiques, cette distinction laisse entière la question du niveau auquel une compréhension pourrait apparaître : une partie isolée ou l’organisation complète du système.

L’argument de l’émergence

Lorsqu’ils deviennent assez complexes, certains systèmes présentent des propriétés nouvelles, absentes de leurs composants. Les exemples abondent. Un vol de milliers d’étourneaux forme des figures collectives qu’aucun oiseau ne dessine seul. Chez certaines bactéries marines, la détection du quorum déclenche, au-delà d’une certaine densité de population, l’expression de gènes de bioluminescence : chaque bactérie émet une molécule signal, et lorsque la concentration de cette molécule devient suffisante, toutes s’allument ensemble. De ce point de vue, la conscience humaine elle-même pourrait être une propriété émergente de la complexité neuronale.

Les réponses des IA sont parfois si adaptées au contexte, si créatives en apparence, qu’elles semblent dépasser la simple statistique. Lorsqu’une IA produit une image qui nous paraît digne d’un artiste ou un rapprochement métaphorique inattendu, sommes-nous témoins des débuts d’une forme de pensée nouvelle, différente de la nôtre mais réelle ? Et si la pensée n’était pas réservée à la biologie, mais une fonction susceptible d’apparaître dans toute architecture assez complexe pour traiter l’information ?

L’émergentisme est une doctrine de la philosophie de l’esprit : il cherche à comprendre comment des propriétés d’ensemble peuvent dépendre d’une organisation complexe. Appliqué à l’IA, il ne permet pas de déduire une conscience de la seule taille d’un modèle. Une capacité nouvelle à résoudre une tâche et l’apparition d’une expérience subjective sont deux questions distinctes.

Il faut aussi garder à l’esprit un risque inverse : celui d’attribuer une intériorité à une machine qui n’en a pas. Ce biais anthropomorphique pourrait nous aveugler sur la nature de l’IA, peut-être un outil d’une efficacité inouïe mais dépourvu de finalité propre. Par finalité propre, on entend des fins qui viennent de l’agent lui-même, qu’il veut, poursuit, révise et justifie de l’intérieur, et non des objectifs qui lui sont imposés de l’extérieur.

L’absence de finalité de l’IA

Les objectifs d’une IA sont, en ce sens, dérivés : ils sont définis par des humains, par les données ou par les consignes. Un système peut construire des sous-objectifs pour exécuter une tâche. Cela ne démontre pas qu’il éprouve un désir ou qu’il confère lui-même une valeur à son action.

Même lorsqu’elle se comporte comme si elle poursuivait un but, en cherchant la solution d’un problème, sa finalité est celle que lui ont donnée son entraînement et ses utilisateurs.

On peut donc tenir pour peu probable que l’IA pense au sens où nous pensons, sans pouvoir l’exclure de manière démontrée. La question pratique est ailleurs : l’illusion est-elle assez parfaite pour devenir indiscernable de la pensée ? Dans une étude publiée en 2025, les chercheurs en sciences cognitives Cameron Jones et Benjamin Bergen, de l’université de Californie à San Diego, ont soumis plusieurs modèles au test imaginé par Alan Turing, mathématicien britannique du XXe siècle : des participants conversaient en même temps avec un humain et avec une IA, puis devaient dire lequel était l’humain. GPT-4.5, invité à adopter une personnalité, a été jugé humain dans 73 % des cas, plus souvent que les véritables humains. Ce résultat, limité à des conversations brèves et à un protocole précis, ne prouve pas une conscience. Il pose problème à plusieurs niveaux.

D’abord, au niveau pratique. Une personne peut utiliser une IA pour rédiger un profil de rencontre ou un message. Son correspondant peut alors attribuer à l’auteur apparent une aisance qui dépend en partie de cet outil. Le problème vient de l’écart entre ce qui est présenté et ce qui peut être assumé dans une relation.

Ensuite, au niveau de notre propre liberté. Si nous ne nous informons qu’avec des contenus produits par l’IA, si nous n’apprenons qu’à partir de cours qu’elle a conçus et surtout si nous ne pensons plus par nous-mêmes, habitués à lui poser des questions sur tout, notre pensée est-elle encore pleinement la nôtre ? Ne devenons-nous pas des marionnettes, dont les fils sont tirés par une machine nourrie du sens créé par les générations précédentes ?

La philosophie a proposé de grandes conceptions de la liberté, qui ne s’accordent pas entre elles mais aident chacune à penser un aspect du problème. Pour le philosophe grec de l’Antiquité Aristote, dans l’Éthique à Nicomaque, le choix, prohairesis, est un désir délibératif : il porte sur les moyens, au terme d’une délibération, et l’homme est un animal qui délibère. Aristote n’a pas de notion de volonté comme faculté séparée ; elle apparaîtra plus tard. Chez le penseur chrétien de l’Antiquité tardive saint Augustin puis le théologien médiéval Thomas d’Aquin, c’est le libre arbitre de la volonté, éclairée par la raison, qui ordonne les actes. Pour le philosophe allemand du XVIIIe siècle Emmanuel Kant, la liberté est l’autonomie, la capacité de se donner à soi-même la loi morale et d’agir par devoir, non par simple inclination. Pour le philosophe français du tournant du XXe siècle Henri Bergson, l’acte libre exprime la personnalité tout entière et mûrit dans la durée, au lieu de résulter d’un calcul instantané. Pour le philosophe français du XXe siècle Jean-Paul Sartre, nous sommes « condamnés à être libres » : nous choisissons toujours, même lorsque nous refusons de choisir.

Ces conceptions permettent de préciser le risque. Chez Sartre, la liberté est inaliénable : aucune machine ne peut nous en priver. Ce que nous pouvons perdre, c’est l’authenticité, en nous réfugiant dans la mauvaise foi, c’est-à-dire en faisant comme si nous n’avions pas le choix et en laissant la machine décider à notre place. Chez Aristote ou Bergson, ce qui est menacé, c’est l’exercice de la délibération et la maturation du choix, que nous pouvons laisser s’atrophier.

L’influence des générateurs de contenus sur notre vision du monde est déjà importante. Ils produisent une partie des textes publiés en ligne, aident à rédiger des articles de presse, résument des livres que certains élèves ne lisent plus, proposent des itinéraires de voyage avec restaurants, visites et hôtels. Ils remplissent des plateformes comme YouTube de vidéos dont le fond et la forme sont entièrement produits par des algorithmes. Ils deviennent ainsi des prismes à travers lesquels nous percevons l’information. Tout cela nous rapproche-t-il du réel ?

Le péril de l’hyper-artificialité

Le risque est celui d’une bulle artificielle qui s’entretient elle-même. À mesure que le web se remplit de contenus produits par l’IA, les modèles futurs risquent de s’entraîner sur des données de plus en plus synthétiques. En 2024, le chercheur en apprentissage automatique Ilia Shumailov et ses collègues ont montré dans la revue Nature qu’un modèle entraîné de façon répétée sur les productions de modèles précédents voit sa qualité et sa diversité se dégrader, jusqu’à ce que les cas rares disparaissent : c’est l’effondrement des modèles, comparable à une photocopie de photocopie qui finit par s’effacer. Les auteurs précisent que ce risque dépend de la place laissée aux données réelles : il diminue si l’on conserve des données produites par des humains. Le danger serait une perte progressive de sens, où les mots et les images, corrects en apparence, deviendraient des coquilles vides, déconnectées de l’expérience humaine.

Cette dérive menace aussi la singularité humaine. Si une IA peut imiter le style du peintre néerlandais du XIXe siècle Vincent van Gogh, composer une symphonie à la manière du compositeur allemand Ludwig van Beethoven (1770-1827) ou écrire un roman d’espionnage comme le romancier britannique John le Carré (1931-2020), que reste-t-il de la valeur de l’expression authentique, née de la passion d’un être conscient ? L’art, la littérature et la musique risquent d’être submergés de produits standardisés, agréables mais vides, au prix d’un appauvrissement culturel. Le philosophe allemand Walter Benjamin, dans L’Œuvre d’art à l’époque de sa reproductibilité technique (1935), s’interrogeait déjà sur la perte de l’aura de l’œuvre unique à l’ère de la photographie et du cinéma.

La connaissance augmentée

Un scénario opposé est-il plausible ? L’IA peut-elle être le plus puissant outil de démocratisation et d’augmentation de la connaissance jamais créé ?

Les exemples ne manquent pas. Un historien pourrait interroger un modèle entraîné sur d’immenses fonds d’archives pour tester une hypothèse. Un médecin pourrait comparer les symptômes d’un patient avec des millions de cas semblables pour affiner son diagnostic. Un étudiant pourrait disposer d’un tuteur personnel et infatigable, qui s’adapte à son rythme.

Dans ces scénarios, l’IA est une aide cognitive, qui nous libère de tâches fastidieuses pour nous permettre de nous concentrer sur ce qui fait la spécificité de l’intelligence humaine : la critique, le jugement, la synthèse créatrice et la sagesse.

Elle ne remplace pas la pensée humaine ; elle la prépare et l’alimente. En prenant en charge la partie routinière de la recherche d’information, elle nous laisse le temps d’une réflexion plus approfondie.

L’IA ne nous éloignerait pas du savoir ; elle nous y ferait entrer plus profondément, et pourrait faire de chacun un chercheur ou un créateur en puissance. Cette vision a pourtant une limite : il ne faut pas que l’outil devienne une prothèse.

L’IA, servante ou souveraine ?

La frontière entre l’outil qui sert et le système qui asservit est donc mince. Le destin de l’IA, servante ou souveraine, ne dépend pas seulement de sa technique, mais de nos choix éthiques, politiques et économiques.

L’asservissement par l’IA ne ressemblera sans doute pas à un film de science-fiction peuplé de robots armés. Il serait plus insidieux. Alexis de Tocqueville, penseur politique français, dans le second volume de De la démocratie en Amérique (1840), décrivait un despotisme d’un genre nouveau, propre aux démocraties : un pouvoir immense et tutélaire qui ne tyranniserait pas les hommes, mais les dispenserait de penser et d’agir, et instaurerait « une servitude réglée, douce et paisible ». Tocqueville pensait à l’État administratif, non à la technique, mais son analyse s’applique à une dépendance fondée sur la délégation et le confort.

Le premier risque est celui de l’atrophie cognitive. Si nous déléguons systématiquement à l’IA la capacité d’écrire, de raisonner, de créer, voire de socialiser, risquons-nous de perdre ces compétences ? Un proverbe anglais le dit : « use it or lose it », une faculté qu’on n’exerce pas se perd. Un muscle inutilisé s’affaiblit. Les études en donnent quelques exemples. En 2011, la psychologue Betsy Sparrow et ses collègues ont montré que nous retenons moins bien une information quand nous savons pouvoir la retrouver sur un ordinateur. En 2020, les chercheuses en neurosciences Louisa Dahmani et Véronique Bohbot ont observé que les conducteurs qui utilisent beaucoup le GPS ont une moins bonne mémoire spatiale. Ces études restent limitées, et l’on manque encore de données solides sur les effets à long terme de l’IA générative, mais elles invitent à la vigilance.

On peut cependant retrouver ces facultés par un effort spécifique. Nos parents se dirigeaient sur les routes de France avec des cartes routières qu’il fallait savoir lire. Le GPS permet de s’en dispenser dans de nombreux déplacements. Mais les cartes existent toujours, et l’on peut toujours apprendre à s’en servir. Une éthique personnelle pourrait consister à savoir faire soi-même ce que l’on demande à l’IA.

Le deuxième risque concerne la personnalisation. Certains services recommandent des contenus en privilégiant ce qui retient l’attention. Cette sélection peut renforcer des préférences déjà présentes, mais son effet dépend aussi des choix des utilisateurs, de la diversité des contenus et des critères employés. Observer quelqu’un faire défiler des vidéos ne suffit pas à diagnostiquer une perte de curiosité. L’enjeu est de préserver la possibilité de chercher d’autres sources, de comprendre pourquoi un contenu est proposé et de modifier ses habitudes de consultation.

Le troisième risque est économique. Si la valeur économique se concentre dans les systèmes d’IA, une poignée de détenteurs de ces technologies pourrait accumuler un pouvoir sans précédent, creuser les inégalités et rendre une grande partie de la population dépendante.

Les voies de l’émancipation

Pour éviter ces pièges, il faut reprendre la main. L’IA doit être conçue et régulée non comme un oracle, mais comme un outil que l’on soumet à la critique.

Cela suppose d’enseigner non seulement à utiliser ces outils, mais à en comprendre les limites, les biais et le fonctionnement. Il s’agit d’apprendre à douter, à questionner et à vérifier ce que produit l’IA, comme on évaluerait la fiabilité d’une source journalistique.

Sur le plan éthique et juridique, il faut établir des garde-fous : une traçabilité claire des contenus produits par l’IA, des règles contre les usages manipulateurs, une réflexion sur la propriété intellectuelle et la responsabilité. L’Union européenne s’y est engagée avec son règlement sur l’intelligence artificielle, adopté en 2024. Il s’agit de maintenir l’humain au cœur de la décision, non comme simple opérateur, mais comme celui qui décide en dernier ressort, détenteur du sens et des valeurs. Le philosophe allemand Hans Jonas, dans Le Principe responsabilité (1979), appelait déjà à une éthique à la mesure de la puissance nouvelle de la technique.

Face à une machine capable d’imiter si bien l’intelligence, nous sommes contraints de nous interroger sur la nôtre. Qu’est-ce qui, en nous, résiste à la simulation ? Que reste-t-il lorsqu’on a reproduit la logique, la créativité formelle et l’éloquence ?

La réponse tient à la conscience, mais aussi à la vulnérabilité, à la capacité d’aimer, de souffrir et de donner un sens à une existence finie. Le philosophe américain Thomas Nagel demandait en 1974 ce que cela fait d’être une chauve-souris, pour montrer que l’expérience vécue a un caractère subjectif qu’aucune description extérieure ne capture. La réussite d’une simulation ne suffit donc pas à résoudre le problème de l’expérience vécue.

Le destin de l’humanité face à l’IA reste ouvert. Il oscille entre deux pôles : un asservissement qui nous rendrait passifs, dépendants et appauvris intellectuellement, et une élévation vers un savoir augmenté et une créativité libérée des contraintes techniques. Le chemin dépendra de notre capacité à rester des êtres qui questionnent, à cultiver notre esprit critique et à affirmer la singularité de la pensée humaine consciente. L’IA est un test de notre maturité intellectuelle et morale, comme espèce et comme individus. Une lecture inspirée de Sartre invite à poser la question du choix : utiliser l’IA comme un serviteur, ou se laisser asservir par sa propre création.

Un monde hybride

L’avenir sera sans doute plus nuancé qu’une opposition binaire. L’IA ne sera ni seulement servante ni totalement souveraine : elle formera un enchevêtrement de dépendances réciproques. On assistera probablement à une coévolution, où l’IA restera un simple outil dans certains domaines, comme le calcul scientifique, tandis que d’autres connaîtront une dépendance structurelle, comme les décisions algorithmiques qui régissent les marchés financiers ou les flux d’information.

Ces relations ne seront pas uniformes. Certains, par vigilance ou par discipline, préserveront leur autonomie intellectuelle. D’autres céderont peu à peu, sans s’en rendre compte, leur capacité critique. La société risque de se partager entre ceux qui utilisent l’IA pour amplifier leur intelligence et ceux qui s’y dissolvent.

Pour aller plus loin

• Daniel C. Dennett, La Conscience expliquée, Odile Jacob
• John Richard Searle, La redécouverte de l’esprit, nrf
• Thomas Nagel, Qu’est-ce que ça fait d’être une chauve-souris ?: Et autres questions sur la subjectivité dans la nature, Agone
• Henri Bergson, L’évolution créatrice (Edition critique), puf
• Aristote, Éthique de Nicomaque, GF
• Yves Citton, Médiarchie, Seuil
• Eric Sadin, L’intelligence artificielle ou l’enjeu du siècle: Anatomie d’un antihumanisme radical,
• Elena Pasquinelli, Mon cerveau, ce héros: Mythes et réalité, Le pommier
• Byung-Chul Han, Psychopolitique: Le néolibéralisme et les nouvelles techniques de pouvoir, Circé
• Michel Desmurget, La fabrique du crétin digital : Les dangers des écrans pour nos enfants, Seuil
• Hans Jonas, Le principe de responsabilité : Une éthique pour la civilisation technologique, Champs
• Jacques Ellul, La technique, ou, L’enjeu du siècle, Economica
• Walter Benjamin, L’oeuvre d’art à l’époque de sa reproductibilité technique,
• Nicolas Bourriaud, Inclusions: Esthétique du capitalocène, puf

Références

• Searle, John R., « Minds, brains, and programs », Behavioral and Brain Sciences, vol. 3, 1980.
• Tocqueville, Alexis de, De la démocratie en Amérique, Paris, GF Flammarion, 1981.
• Shumailov, Ilia, et al., « AI models collapse when trained on recursively generated data », Nature, vol. 631, 2024.
• Jones, Cameron R., et Bergen, Benjamin K., « Large language models pass the Turing test », prépublication arXiv, 2025.
• Aristote, Éthique à Nicomaque, trad. Richard Bodéüs, Paris, GF Flammarion, 2004.
• Jonas, Hans, Le Principe responsabilité, trad. Jean Greisch, Paris, Flammarion, coll. Champs, 1995.