Éthique de la coopération homme-machine, vers une IA responsable

La coopération homme-machine, un enjeu éthique majeur

La coopération entre l’homme et la machine ne relève plus de la science-fiction. Dans les hôpitaux, des algorithmes aident les radiologues à interpréter des images. Dans certains tribunaux américains, des logiciels évaluent le risque de récidive des prévenus. Sur les routes, des véhicules dotés de systèmes d’aide à la conduite prennent des décisions en temps réel. Dans les bureaux, les assistants conversationnels rédigent, résument et traduisent.

On parle souvent de cette relation comme d’une collaboration. Le mot n’est pas neutre. Il suggère deux partenaires, alors que la machine ne poursuit pas de fins propres. Il faut donc se demander quelles valeurs doivent guider ces usages, et à qui il revient de les faire respecter.

Le philosophe italien Luciano Floridi, qui a consacré une grande partie de son œuvre à l’éthique de l’information, a proposé avec Jeff Sanders, chercheur en informatique, dès 2004, de distinguer deux notions. Un système artificiel peut être la source d’une action moralement bonne ou mauvaise, et en ce sens un agent ; il ne peut pas pour autant en être tenu responsable comme une personne. Cette distinction entre l’imputation d’une action et la responsabilité morale est au cœur des questions qui suivent.

Qui répond des erreurs ?

Quand un système d’IA commet une erreur aux conséquences graves, qui est responsable ? Le développeur qui a conçu l’algorithme, l’organisation qui l’a acheté, le professionnel qui l’a utilisé, l’autorité qui l’a autorisé ? Chaque acteur ne maîtrise qu’une partie de la chaîne, et chacun peut se défausser sur les autres.

Plusieurs philosophes contemporains, dont le Belge Mark Coeckelbergh, proposent de penser cette responsabilité comme distribuée et relationnelle. Elle ne disparaît pas, elle se répartit entre ceux qui conçoivent, déploient et utilisent les systèmes. Coeckelbergh insiste aussi sur le fait que la responsabilité a toujours un destinataire : on répond devant quelqu’un, et en particulier devant ceux que la décision affecte, qui ont droit à des explications.

Le cadre de Singapour

Certains États ont tenté de traduire cette répartition en outils concrets. Singapour a publié en 2019, puis révisé en 2020, un cadre modèle de gouvernance de l’IA. Il s’organise autour de quatre domaines : les structures de gouvernance interne des organisations, la détermination du niveau d’intervention humaine dans les décisions assistées par l’IA, la gestion des opérations, c’est-à-dire le développement et la maintenance des modèles, et la communication avec les parties prenantes. Le pays a lancé en 2022 AI Verify, une boîte à outils permettant aux entreprises de tester leurs systèmes au regard de ces principes.

Ce cadre est volontaire, et ses critiques soulignent qu’il dépend de la bonne volonté des entreprises. Il montre pourtant qu’une responsabilité partagée peut se préparer en amont, par la documentation des choix et la définition des rôles.

L’autonomie humaine à l’épreuve

L’un des principaux défis consiste à préserver l’autonomie humaine face à des machines de plus en plus performantes. Le danger le mieux documenté porte un nom : le biais d’automatisation. Les psychologues américaines Kathleen Mosier et Linda Skitka ont décrit dans les années 1990, à partir de l’aviation, cette tendance à suivre les recommandations d’un système automatisé sans les vérifier, ou à ne pas réagir à un problème que le système n’a pas signalé.

La médecine en offre des exemples récents. En 2023, une étude publiée dans la revue Radiology a montré que des radiologues lisant des mammographies étaient fortement influencés par les suggestions d’un système d’IA, y compris lorsque ces suggestions étaient délibérément erronées. Les lecteurs les moins expérimentés étaient les plus touchés, et les plus expérimentés étaient également affectés.

Ce biais menace les compétences humaines. Un professionnel qui s’habitue à valider ce que propose la machine risque de perdre l’habitude de raisonner par lui-même, et donc la capacité de repérer les erreurs de la machine. L’autonomie ne consiste pas seulement à garder le dernier mot ; elle suppose de rester capable de juger.

Les juristes et les spécialistes d’éthique parlent pour cette raison de contrôle humain significatif. Il ne suffit pas qu’un humain signe la décision proposée par la machine ; il faut qu’il dispose du temps, de l’information et de l’autorité nécessaires pour la remettre en cause. Le règlement européen sur l’IA prévoit une surveillance adaptée des systèmes à haut risque, notamment la capacité de reconnaître le biais d’automatisation. Les principales obligations correspondantes s’appliqueront en décembre 2027 ou en août 2028 selon la catégorie du système. Une signature apposée par habitude sur des centaines de décisions par jour ne remplit pas cette condition, même si elle donne l’apparence d’un contrôle.

Cette exigence rejoint une idée ancienne. Pour Emmanuel Kant, philosophe allemand du XVIIIᵉ siècle, l’autonomie est la capacité de se donner à soi-même la loi plutôt que de la recevoir du dehors. Un professionnel qui exécute ce que lui dicte un système sans pouvoir en rendre raison ne perd pas sa liberté au sens juridique, mais il cesse d’exercer cette capacité dans son travail. La question n’est donc pas seulement celle de la sécurité des décisions, mais aussi celle de la dignité de ceux qui les prennent.

La perspective de l’IA pèse aussi sur les vocations. Une enquête canadienne publiée en ligne en 2018, puis dans Academic Radiology en 2019, a recueilli les réponses de 322 étudiants en médecine. Parmi eux, 67 % pensaient que l’IA réduirait la demande de radiologues. Les auteurs étudiaient les perceptions des répondants et leur intérêt déclaré pour cette spécialité. Ces résultats renseignent sur des anticipations ; ils ne mesurent ni une baisse effective des besoins médicaux ni une perte de compétences provoquée par les logiciels.

Les implications sociétales, entre progrès et inégalités

Transformation du marché du travail

L’automatisation redessine le paysage professionnel. Dans son rapport de 2025 sur l’avenir de l’emploi, le Forum économique mondial projette, à partir d’une enquête auprès d’employeurs, la création de 170 millions de postes et la disparition de 92 millions d’autres d’ici 2030. Ces mouvements représenteraient 22 % de l’emploi formel pris comme référence. Ils résultent de plusieurs tendances : changements technologiques, démographie, transition écologique et transformations économiques. Le solde global serait positif, mais ceux qui perdent leur emploi ne sont pas ceux qui en trouvent un nouveau, ni dans les mêmes régions, ni avec les mêmes qualifications.

La Corée du Sud est souvent citée en exemple. Selon la Fédération internationale de robotique, elle occupait en 2023 le premier rang mondial avec 1 012 robots industriels pour 10 000 salariés de l’industrie manufacturière, selon les données publiées en 2024. En 2017, le gouvernement sud-coréen a réduit les avantages fiscaux accordés aux entreprises qui investissent dans l’automatisation, mesure que la presse a parfois présentée comme une première forme de taxe sur les robots. Le pays a aussi développé des programmes de formation pour accompagner les travailleurs.

La question éthique porte moins sur l’existence de ces transformations que sur leur répartition. Qui profite des gains de productivité, et qui en supporte les coûts ? Faut-il financer la reconversion par une taxation de l’automatisation, ou par d’autres moyens ? Ces choix relèvent de la délibération politique, non de la seule technique.

Santé et confidentialité des données

Dans le secteur de la santé, les bénéfices potentiels de l’IA sont réels. Des algorithmes d’analyse d’images détectent certains cancers avec une précision comparable, dans des conditions précises, à celle de spécialistes. D’autres aident à prévoir des complications ou à repérer des maladies rares.

Les promesses ont aussi connu des échecs. IBM présentait Watson for Oncology comme capable de recommander des traitements contre le cancer à partir de la littérature médicale. En 2018, le média spécialisé STAT a rapporté des documents internes faisant état de recommandations jugées dangereuses ou incorrectes. En 2022, IBM a cédé des actifs de données et d’analyse de Watson Health à Francisco Partners. Cette opération commerciale est distincte de l’évaluation clinique de Watson for Oncology. L’exemple rappelle que l’efficacité d’un système médical doit être démontrée par des essais, et non supposée.

Cette capacité d’analyse pose aussi des questions de confidentialité. Les informations médicales touchent aux aspects les plus intimes de l’existence. Agrégées et analysées, elles peuvent permettre d’inférer des risques de maladie ou des comportements. Elles intéressent les assureurs, les employeurs ou les institutions financières, ce qui crée des risques de discrimination. Le règlement général sur la protection des données classe d’ailleurs les données de santé parmi les catégories particulières, dont le traitement est en principe interdit sauf exceptions.

L’affaire Cambridge Analytica, rendue publique en 2018, a montré que des données collectées pour un usage pouvaient être détournées à d’autres fins, en l’occurrence le ciblage politique. Dans le domaine médical, la sensibilité des informations rend ce risque plus grave encore.

Les limites critiques de la coopération actuelle

Biais algorithmiques et justice

L’un des problèmes les plus documentés concerne les biais algorithmiques. Cathy O’Neil, mathématicienne américaine, docteure de l’université Harvard et ancienne analyste financière, a popularisé la question dans Weapons of Math Destruction (2016), traduit en français en 2018 sous le titre Algorithmes, la bombe à retardement. Elle y définit ces « armes de destruction mathématique » par trois traits : l’opacité, qui empêche les personnes concernées de comprendre leur fonctionnement, l’échelle, qui permet leur déploiement massif, et le dommage, qui frappe surtout les plus vulnérables.

O’Neil donne de nombreux exemples. Les modèles de recrutement apprennent des embauches passées et reproduisent leurs préférences. Les outils de police prédictive s’appuient sur les données d’interpellation, qui reflètent les lieux où la police patrouille déjà, plutôt que sur la délinquance réelle. Elle montre ainsi comment un modèle peut créer une boucle de rétroaction : en envoyant davantage de policiers dans certains quartiers, il produit davantage d’interpellations, qui confirment ensuite le modèle.

Ces analyses ont été discutées. Des chercheurs ont rappelé que les décisions humaines sont elles aussi biaisées, et qu’un algorithme audité peut parfois réduire certaines discriminations. Le débat ne porte donc pas sur le choix entre des humains parfaits et des machines biaisées, mais sur les conditions qui permettent de détecter et de corriger les biais des uns et des autres.

Cas emblématique, le système COMPAS

Le logiciel COMPAS, utilisé par des tribunaux américains pour évaluer le risque de récidive, a fait l’objet en 2016 d’une enquête du média ProPublica. Les journalistes ont analysé les scores de plus de 7 000 personnes arrêtées dans le comté de Broward, en Floride. Ils ont constaté que les prévenus noirs qui n’avaient pas récidivé avaient presque deux fois plus de chances que les prévenus blancs d’avoir été classés à haut risque, tandis que les prévenus blancs qui avaient récidivé étaient plus souvent classés à faible risque.

L’éditeur du logiciel a contesté ces résultats, en faisant valoir que ses scores avaient la même valeur prédictive pour les deux groupes. Des chercheurs ont ensuite démontré que, pour des prédictions imparfaites et des taux de base différents entre groupes, certaines exigences de calibration et d’équilibre des erreurs ne peuvent pas être satisfaites simultanément. Choisir une définition plutôt qu’une autre est un choix moral et politique, qui ne devrait pas être laissé aux seuls concepteurs.

L’absence d’empathie artificielle

Dans les domaines qui demandent une compréhension émotionnelle fine, comme la santé mentale, l’éducation ou l’accompagnement social, les machines montrent leurs limites. En 2025, une équipe de l’université Stanford associant Jared Moore, chercheur en informatique, et Nick Haber, chercheur en sciences de l’éducation, a évalué plusieurs agents conversationnels présentés comme thérapeutiques. Elle a constaté qu’ils manifestaient davantage de stigmatisation envers certains troubles, comme la dépendance à l’alcool ou la schizophrénie, qu’envers la dépression, et que les modèles plus récents ne faisaient pas mieux.

L’étude a aussi montré que certains de ces agents ne repéraient pas des signaux de détresse grave, implicites dans la question posée, et répondaient de manière factuelle là où un thérapeute aurait reconnu un risque. Les auteurs concluent que ces systèmes ne peuvent pas remplacer des professionnels, même s’ils peuvent rendre des services limités, par exemple pour des tâches administratives ou la formation des soignants.

Cette limite n’est pas seulement technique. La production de phrases empathiques ne démontre pas l’existence d’un ressenti ni d’une responsabilité comparable à celle d’un soignant. La question de savoir si l’on peut simuler l’empathie sans l’éprouver reste ouverte, mais l’on sait déjà que la simulation peut échouer précisément là où l’enjeu est le plus grave.

Principes éthiques fondamentaux

Respect de la dignité humaine

Le principe kantien de dignité humaine doit rester central dans toute coopération entre l’homme et la machine. Dans les Fondements de la métaphysique des mœurs (1785), Kant formule l’impératif catégorique sous plusieurs formes. L’une d’elles commande d’agir de telle sorte que l’on traite l’humanité, en soi-même comme en autrui, toujours en même temps comme une fin, et jamais simplement comme un moyen. L’exigence prend un sens nouveau lorsque les individus risquent d’être réduits à des points de données dans des calculs d’optimisation.

Kant précise la différence entre ce qui a un prix et ce qui a une dignité : « Ce qui a un prix peut être aussi bien remplacé par quelque chose d’autre, à titre d’équivalent ; au contraire, ce qui est supérieur à tout prix, ce qui par suite n’admet pas d’équivalent, c’est ce qui a une dignité. » Un algorithme de tri traite nécessairement les personnes comme des cas comparables. La dignité exige qu’au moins une part de la décision les considère comme irremplaçables.

Ce principe a des applications concrètes. Il fonde d’abord un droit de recours humain contre les décisions automatisées importantes. Le règlement général sur la protection des données prévoit déjà que nul ne doit faire l’objet d’une décision fondée exclusivement sur un traitement automatisé et produisant des effets juridiques ou significatifs, sauf exceptions encadrées, et qu’il peut alors obtenir une intervention humaine et contester la décision.

Il invite ensuite à préserver des espaces de relation humaine dans les domaines les plus sensibles, comme l’accompagnement en fin de vie ou la justice pénale, où la reconnaissance mutuelle ne peut pas être déléguée. Il commande enfin une transparence suffisante pour que chacun puisse comprendre et contester les décisions qui le concernent, en tant qu’être raisonnable et non en tant qu’objet de traitement.

Responsabilité et redevabilité

La mise en place de mécanismes de responsabilité clairs est indispensable. L’Union européenne a adopté en 2024 un règlement sur l’intelligence artificielle, entré en vigueur le 1er août de la même année. Il gradue les obligations selon le niveau de risque des systèmes et répartit les devoirs entre les fournisseurs, qui conçoivent les systèmes, et les déployeurs, qui les utilisent.

Certaines pratiques sont interdites depuis février 2025, notamment les formes de notation sociale répondant aux critères du règlement, qu’elles soient mises en œuvre par des acteurs publics ou privés. Les systèmes classés à haut risque, notamment dans l’emploi, l’éducation, le crédit ou la justice, devront faire l’objet d’une gestion des risques, d’une documentation, d’un contrôle humain et d’une information des personnes concernées. La réforme dite omnibus, entrée en vigueur le 27 juillet 2026 après l’accord politique de mai, a reporté les principales obligations correspondantes au 2 décembre 2027, et au 2 août 2028 pour les systèmes intégrés à des produits réglementés.

Ces règles traduisent l’idée de redevabilité, que les textes anglais appellent accountability : pouvoir rendre compte de ses choix devant une autorité ou devant les personnes concernées. Elles ne règlent pas toutes les questions morales, mais elles empêchent que la responsabilité se dissolve dans la chaîne des acteurs.

La responsabilité juridique en cas de dommage relève d’autres textes. L’Union européenne a révisé en 2024 sa directive sur la responsabilité du fait des produits défectueux, qui inclut explicitement les logiciels, y compris les systèmes d’IA, dans son champ. Les États doivent la transposer pour le 9 décembre 2026 ; elle vise les produits mis sur le marché ou en service après le 8 décembre 2026. Ce régime permet d’obtenir réparation sans prouver une faute, sous les conditions relatives au défaut, au dommage et au lien causal. En revanche, la Commission européenne a retiré en 2025 son projet de directive spécifique sur la responsabilité en matière d’IA, faute d’accord. La question de savoir comment indemniser les victimes de décisions algorithmiques qui ne relèvent pas d’un produit défectueux reste donc en partie ouverte.

Communication, transparence et participation citoyenne

L’impératif de transparence

La boîte noire algorithmique est l’un des principaux obstacles à l’acceptation sociale de l’IA. Le terme désigne des systèmes dont on peut observer les entrées et les sorties, mais dont le fonctionnement interne reste difficile à expliquer, même pour leurs concepteurs. Les réseaux de neurones modernes, avec leurs millions ou milliards de paramètres, en sont l’exemple type.

Cette opacité pose un problème démocratique lorsque ces systèmes interviennent dans l’attribution d’un crédit, la sélection d’un candidat, l’accès à une prestation sociale ou la priorité d’un soin. Sans comprendre pourquoi une décision a été prise, les personnes concernées ne peuvent pas la contester efficacement. La question se pose alors de savoir comment tenir quelqu’un responsable d’une décision que personne ne peut expliquer.

On invoque souvent un droit à l’explication inscrit dans le règlement général sur la protection des données. Son existence a été vivement discutée. En 2017, Sandra Wachter, juriste, Brent Mittelstadt, chercheur en éthique des données, et Luciano Floridi ont soutenu qu’un tel droit, au sens d’une explication de chaque décision individuelle, ne figurait pas dans les articles contraignants du texte, mais seulement dans un considérant dépourvu de force obligatoire. D’autres juristes ont défendu une lecture plus large. La Cour de justice de l’Union européenne a tranché en partie en février 2025, dans l’affaire Dun & Bradstreet Austria : le droit d’obtenir des informations utiles sur la logique d’une décision automatisée implique d’expliquer, de manière intelligible, la procédure et les principes effectivement appliqués, sans exiger la divulgation complète de l’algorithme. Le règlement sur l’IA prévoit en outre un droit à l’explication pour certaines décisions fondées sur des systèmes à haut risque.

Le cas d’Amazon montre ce que l’opacité peut cacher. En 2018, l’agence Reuters a rapporté que l’entreprise avait abandonné un outil de tri de candidatures qui défavorisait les femmes, parce qu’il avait appris à partir de dix ans de recrutements majoritairement masculins.

Des solutions techniques se développent : cartes qui montrent quelles parties d’une image ont pesé sur une décision, modèles simplifiés qui approchent localement le comportement d’un système complexe, explications contrefactuelles qui indiquent ce qu’il aurait fallu changer pour obtenir un autre résultat. Ces outils restent imparfaits, et leurs explications peuvent être trompeuses si elles simplifient trop.

La transparence peut aussi passer par l’information du public. En 2020, Amsterdam et Helsinki ont ouvert des registres publics des algorithmes utilisés par leurs services municipaux, qui décrivent leur fonction, leurs données et leur mode de supervision.

Cette exigence doit composer avec d’autres valeurs, comme la sécurité, le secret des affaires ou l’efficacité. Mais une société démocratique ne peut pas confier des décisions importantes à des systèmes dont personne ne peut rendre compte.

Participation citoyenne

L’inclusion des citoyens dans la gouvernance de l’IA ne devrait pas être symbolique. Trop souvent, la participation se limite à des consultations où les décisions importantes ont déjà été prises par des experts et des responsables politiques. Cette manière de faire est insuffisante sur le plan démocratique, et elle prive les décideurs de l’expérience des personnes qui vivent les effets concrets de ces technologies.

Des dispositifs existent pour aller plus loin. Le Danemark a développé dès la fin des années 1980, à l’initiative de son Conseil de la technologie, des conférences de consensus où des citoyens sélectionnés pour la diversité de leurs expériences, informés par des experts et libres de les interroger, rendent un avis sur une question technologique. Ce modèle a été repris dans de nombreux pays, sous des noms comme conférences de citoyens ou jurys citoyens, et appliqué à des sujets numériques.

L’expérience de ces dispositifs montre qu’un public informé peut comprendre des enjeux techniques complexes et poser des questions que les experts négligent, sur les conséquences à long terme ou les présupposés des concepteurs. Leur limite tient à leur portée : leurs avis restent consultatifs, et leur influence dépend de la volonté des pouvoirs publics de les prendre en compte.

Risques d’une coopération non éthique

Renforcement des inégalités systémiques

Sans encadrement, les technologies d’IA risquent de prolonger et d’amplifier les inégalités existantes. Le paradoxe est que des outils présentés comme plus objectifs que les humains peuvent reproduire, de manière automatisée et discrète, les préjugés que la société cherche à combattre. L’apparence de neutralité technique rend ces discriminations plus difficiles à percevoir.

Les algorithmes de recrutement en offrent l’exemple. Entraînés sur les décisions passées d’une entreprise, ils apprennent ce qui a été considéré comme une réussite. Si l’entreprise a longtemps privilégié certains profils, le système les reproduira et écartera les autres, non pour leurs compétences, mais parce qu’ils ne ressemblent pas aux modèles du passé.

Cette amplification change d’échelle. Les discriminations humaines peuvent déjà être institutionnelles et massives. Leur automatisation permet toutefois de reproduire rapidement les mêmes critères dans de très nombreuses décisions, parfois sans examen individuel. Les personnes concernées peinent en outre à prouver qu’elles ont été écartées par un algorithme, et à identifier le critère en cause. Le droit européen de la non-discrimination s’applique, mais sa mise en œuvre suppose d’avoir accès aux données et au fonctionnement des systèmes.

Surveillance et érosion des libertés

Le système de crédit social chinois est souvent cité comme exemple de dérive. Sa réalité est plus fragmentée qu’on ne le dit souvent : il s’agit surtout d’un ensemble de dispositifs d’évaluation des entreprises et de listes noires, plutôt que d’un score unique attribué à chaque citoyen. Certains effets sont pourtant documentés. Selon les autorités chinoises elles-mêmes, citées par la presse internationale, les restrictions liées aux listes noires avaient empêché plus de dix-sept millions d’achats de billets d’avion à la fin de 2018 ; ce nombre ne désigne pas autant de personnes différentes. Dans certaines villes, comme Shenzhen, des écrans ont affiché le visage de piétons ayant franchi la chaussée au feu rouge. Le pays compte plusieurs centaines de millions de caméras de surveillance, selon les estimations.

Les démocraties ne sont pas à l’abri. En 2019, San Francisco est devenue la première grande ville américaine à interdire l’usage de la reconnaissance faciale par ses services municipaux, dont la police. D’autres villes, comme Oakland et Boston, ont suivi. L’application de ces interdictions a été contestée, et plusieurs ont été assouplies depuis. Elles montrent qu’un contrôle démocratique des technologies de surveillance est possible, mais qu’il demande une vigilance constante.

En Europe, le règlement sur l’IA interdit en principe l’identification biométrique à distance en temps réel dans l’espace public à des fins répressives, sauf exceptions strictement encadrées, comme la recherche de victimes d’enlèvement ou la prévention d’une menace terroriste. Les défenseurs des libertés jugent ces exceptions trop larges, les forces de l’ordre trop étroites.

Bénéfices d’une coopération éthique

Innovation responsable et compétitivité

Les entreprises qui intègrent l’éthique dès la conception affirment souvent qu’une approche responsable n’est pas seulement un devoir moral, mais aussi un avantage stratégique. Les principes de protection des données dès la conception et par défaut, inscrits dans le règlement général sur la protection des données, ou d’équité dès la conception, consistent à traiter ces questions au début du développement plutôt qu’à la fin.

L’argument a sa part de vérité. Les scandales liés aux fuites de données ou aux biais coûtent cher, en amendes et en réputation. Mais il a ses limites : si l’éthique n’est respectée que lorsqu’elle est rentable, elle cesse d’être une obligation pour devenir un calcul. La protection des droits ne peut pas dépendre uniquement de l’intérêt commercial ; c’est la raison d’être de la régulation.

L’exemple d’Apple, la vie privée comme argument concurrentiel

Apple a fait de la protection de la vie privée l’un de ses arguments commerciaux. En 2019, une affiche publicitaire de l’entreprise à Las Vegas proclamait que ce qui se passe sur l’iPhone reste sur l’iPhone. L’entreprise met en avant le chiffrement, le traitement local de certaines données et, depuis 2021, l’obligation pour les applications de demander l’autorisation de suivre les utilisateurs entre applications.

Cette stratégie relève d’un calcul économique : se distinguer de concurrents dont le modèle repose davantage sur la publicité ciblée, et justifier des prix élevés. Elle montre que la protection de la vie privée peut coexister avec la rentabilité. Elle a aussi ses critiques. Des concurrents et des autorités de la concurrence ont reproché à Apple de favoriser ses propres services sous couvert de confidentialité, et l’entreprise a dû répondre de l’écoute de conversations par des sous-traitants chargés d’améliorer son assistant vocal. L’éthique comme argument de vente ne dispense pas du contrôle.

Amélioration de la qualité de vie

Quand elle respecte des principes stricts, l’IA peut améliorer la qualité de vie. Les outils d’aide au diagnostic précoce, les applications d’optimisation énergétique ou les aides techniques pour les personnes handicapées en sont des exemples.

Le Japon, confronté au vieillissement de sa population, est souvent présenté comme pionnier en robotique d’assistance aux personnes âgées. Des robots comme Paro, un phoque en peluche interactif, ou Pepper, un humanoïde, sont utilisés dans des établissements de soins, souvent sous la supervision du personnel. Les études de terrain, notamment celles de James Wright, anthropologue britannique contemporain, nuancent l’enthousiasme : les soignants trouvent parfois ces robots plus contraignants qu’utiles, leur efficacité reste limitée, et le consentement des personnes atteintes de démence pose des questions non résolues. L’expérience japonaise montre à la fois les possibilités de ces technologies et la nécessité de les évaluer sur le terrain.

Défis de mise en œuvre

Harmonisation internationale

La coexistence de principes internationaux et de règles nationales différentes complique la gouvernance de l’IA. Elle reflète des divergences profondes entre les grandes puissances sur le rôle de l’État, les droits individuels et les priorités économiques. Cette fragmentation crée des zones grises et permet aux entreprises de choisir les juridictions les moins exigeantes.

L’Union européenne a choisi une régulation contraignante, avec le règlement sur l’IA. Elle mise aussi sur l’influence de son marché : les entreprises mondiales qui veulent y vendre doivent en respecter les règles, ce qui peut les conduire à les appliquer ailleurs. Ses critiques lui reprochent de freiner l’innovation, ce qui explique en partie les reports décidés en 2026.

Les États-Unis privilégient une approche plus libérale, fondée sur l’autorégulation, les normes volontaires et les règles sectorielles. Le décret présidentiel adopté par l’administration de Joe Biden, président des États-Unis de 2021 à 2025, en 2023, qui imposait certaines obligations aux développeurs des modèles les plus puissants, a été abrogé en janvier 2025 par l’administration de Donald Trump, président des États-Unis entré en fonction en janvier 2025, qui a publié en juillet 2025 un plan d’action centré sur l’innovation et la compétitivité. Plusieurs États fédérés, comme la Californie ou le Colorado, ont adopté leurs propres règles.

La Chine a développé un encadrement spécifique, avec des règles sur les algorithmes de recommandation en 2022 et sur l’IA générative en 2023. Ces textes imposent des obligations de sécurité et d’étiquetage des contenus, mais aussi la conformité aux valeurs politiques définies par le pouvoir, ce qui les distingue nettement des cadres démocratiques.

Des initiatives multilatérales tentent de rapprocher ces approches : les principes de l’OCDE sur l’IA, adoptés en 2019 et révisés en 2024, la recommandation de l’UNESCO sur l’éthique de l’IA en 2021, ou la convention-cadre du Conseil de l’Europe sur l’IA, ouverte à la signature en 2024. Leur portée reste limitée face aux divergences entre puissances.

Acceptation culturelle

Les perceptions de l’IA et des robots varient selon les sociétés. On oppose souvent l’acceptation japonaise des robots humanoïdes à la méfiance européenne, et l’on explique la première par l’animisme shintoïste, qui prêterait une forme d’esprit aux objets, et la seconde par une tradition judéo-chrétienne qui sépare nettement l’homme des choses.

Cette explication est devenue un lieu commun, et la recherche l’a largement nuancée. Jennifer Robertson, anthropologue américaine, dans Robo Sapiens Japanicus (2017), montre que l’image d’un Japon naturellement ami des robots doit beaucoup aux politiques publiques et aux stratégies industrielles, qui promeuvent les robots comme réponse au vieillissement et à la réticence envers l’immigration. Les enquêtes d’opinion montrent par ailleurs des attitudes variées au sein de chaque société.

Il reste vrai que les attentes à l’égard de l’IA diffèrent selon les contextes, qu’il s’agisse de surveillance, de confiance dans les décisions automatisées ou de transparence. Les ignorer risque de produire des résistances, mais aussi d’imposer partout les valeurs d’une culture dominante. Les prendre en compte ne signifie pas pour autant renoncer à des droits fondamentaux, que les textes internationaux tiennent pour universels.

Gouvernance et régulation, vers un modèle multipartite

Cadres réglementaires adaptatifs

Les régulations classiques, dont l’élaboration prend souvent plusieurs années, peinent à suivre le rythme de l’IA, dont les capacités changent en quelques mois. Ce décalage crée des zones sans règles, mais aussi des règles inadaptées à des technologies déjà dépassées.

Pour y répondre, plusieurs pays ont développé des bacs à sable réglementaires. L’autorité financière britannique a lancé le premier en 2016 pour les technologies financières, et l’autorité britannique de protection des données a suivi en 2019. Ces dispositifs permettent à des entreprises de tester une innovation sous la supervision des autorités, dans un cadre limité et temporaire. Le règlement européen sur l’IA impose à chaque État membre d’en créer au moins un.

L’intérêt de ces dispositifs est de fonder la régulation sur l’expérience plutôt que sur des projections. Leur risque est de rapprocher excessivement régulateurs et entreprises, au point que les premiers deviennent les partenaires des secondes plutôt que leurs contrôleurs. Leur utilité dépend donc de garanties claires : critères d’entrée et de sortie, protection des personnes concernées, publication des enseignements.

Gouvernance inclusive

Une gouvernance efficace de l’IA suppose de réunir des acteurs qui ne se parlent pas toujours. Les développeurs et l’industrie connaissent les capacités et les limites des systèmes. Les responsables politiques et les régulateurs ont l’autorité pour fixer des règles contraignantes. Les chercheurs et les spécialistes d’éthique apportent un regard critique. La société civile porte la voix de l’intérêt général.

Les communautés directement affectées par ces technologies doivent aussi y être associées, car elles sont les mieux placées pour en identifier les effets réels. Cette approche multipartite est complexe à organiser, et elle risque de donner aux acteurs les plus puissants un poids disproportionné. Elle reste pourtant la meilleure manière de faire servir l’IA à l’intérêt collectif, à condition que l’autorité publique garde le dernier mot.

Recommandations concrètes

Pour les développeurs

Les concepteurs de systèmes d’IA peuvent intégrer des évaluations éthiques à chaque étape du développement. Cela suppose de tester systématiquement les biais dans les données d’entraînement et dans les résultats, de documenter les choix de conception et leurs effets prévisibles, et de réaliser des analyses d’impact sur les droits fondamentaux avant chaque mise à jour importante.

La diversité des équipes, par les formations, les expériences, les genres et les origines, aide à repérer des problèmes que des équipes homogènes ne voient pas, même si elle ne suffit pas à elle seule à garantir l’absence de biais. Les développeurs peuvent aussi concevoir des interfaces qui expliquent les décisions de manière adaptée aux différents publics, et appliquer la protection des données dès la conception : collecter le minimum nécessaire, chiffrer, prévoir la suppression effective.

Pour les régulateurs

Les autorités publiques doivent disposer d’une expertise technique suffisante pour contrôler des systèmes complexes. Cela suppose de recruter des spécialistes, de leur offrir des carrières attractives face à la concurrence du secteur privé, et de nouer des partenariats avec la recherche.

Elles peuvent favoriser la coopération internationale, par exemple au sein du Partenariat mondial sur l’IA, créé en 2020 et rapproché de l’OCDE en 2024. Elles peuvent créer des espaces d’expérimentation encadrés, et mettre en place une surveillance continue des systèmes en service, avec des procédures d’alerte en cas de dérive.

Pour les utilisateurs et citoyens

Les citoyens disposent eux aussi de leviers. Ils peuvent exercer leur droit d’accès à leurs données et aux informations sur les décisions automatisées qui les concernent, et contester celles qui leur paraissent injustes, individuellement ou par l’intermédiaire d’associations et de syndicats.

Ils peuvent participer aux consultations et aux débats publics sur l’encadrement de l’IA, et s’adresser aux autorités indépendantes, comme la Commission nationale de l’informatique et des libertés en France. Ils peuvent enfin développer une culture numérique qui leur permette de comprendre les principaux mécanismes de l’IA, de repérer les contenus générés automatiquement et de choisir leurs services en connaissance de cause. Cette responsabilité individuelle ne remplace pas la régulation, mais elle la soutient.

Perspectives d’avenir

IA générative et nouveaux défis

L’essor des IA génératives, capables de produire des textes, des images, des sons et des vidéos, ouvre des défis nouveaux. En matière de désinformation, les craintes d’un déferlement de fausses vidéos lors des élections de 2024 ne se sont pas entièrement réalisées, mais des incidents ont montré la facilité de créer des contenus trompeurs. En janvier 2024, des électeurs du New Hampshire ont reçu un appel imitant la voix de Joe Biden, alors président des États-Unis, pour les dissuader de voter aux primaires. La Commission fédérale des communications a infligé une amende de six millions de dollars au consultant politique à l’origine de l’opération.

La propriété intellectuelle est un autre enjeu. Les modèles génératifs sont entraînés sur d’immenses quantités d’œuvres, souvent sans l’autorisation de leurs auteurs. En janvier 2023, des artistes ont intenté une action collective aux États-Unis contre Stability AI, Midjourney et DeviantArt pour l’utilisation de leurs œuvres. D’autres procès ont suivi, intentés par des auteurs, des éditeurs de presse et des agences d’images. Ils posent des questions sur la notion d’auteur et sur la rémunération des créateurs.

Les effets sur le travail suscitent aussi des inquiétudes. En 2025, Dario Amodei, dirigeant américain de l’entreprise d’IA Anthropic, a averti que l’IA pourrait faire disparaître jusqu’à la moitié des emplois de bureau de premier niveau dans les années suivantes. D’autres économistes jugent ces prévisions excessives. Quelle que soit leur ampleur, ces transformations posent des questions de justice : comment assurer une transition équitable, et comment préserver la valeur du travail humain ?

Ces technologies demandent des mécanismes nouveaux : marquage des contenus générés prévu par le règlement européen, avec une période transitoire jusqu’au 2 décembre 2026 pour certains systèmes déjà commercialisés, protection des droits des créateurs, programmes de reconversion. L’enjeu n’est pas seulement technique ; il porte sur le type de société que l’on veut construire avec ces outils.

Vers une IA explicable et contrôlable

Les recherches sur l’IA explicable, souvent désignée par le sigle anglais XAI, et sur l’alignement des systèmes avec les intentions humaines comptent parmi les plus importantes du domaine. Elles cherchent à rendre compréhensibles des systèmes dont la performance tient précisément à leur complexité.

Les chercheurs ont développé des techniques variées : cartes de saillance qui montrent les parties d’une image ayant influencé une décision, méthodes d’approximation locale, explications contrefactuelles. Les travaux sur l’alignement visent à faire en sorte que les objectifs poursuivis par un système correspondent aux intentions de ceux qui l’utilisent, et qu’il n’optimise pas un indicateur au détriment de ce que cet indicateur était censé mesurer.

Ces recherches ne garantissent pas encore des systèmes à la fois très performants et entièrement compréhensibles. Les explications produites peuvent être partielles, voire trompeuses. Il serait donc imprudent d’attendre de la technique seule la confiance du public. Celle-ci dépendra aussi des institutions capables de vérifier, de sanctionner et de corriger.

La coopération, un impératif démocratique

La coopération éthique entre l’homme et la machine n’est pas seulement une question technique ou philosophique. C’est une question démocratique. Lorsque des algorithmes influencent l’accès à l’emploi, au crédit, aux soins ou à l’information, garantir qu’ils respectent des valeurs collectives devient une condition de la cohésion sociale.

Cette responsabilité incombe à tous : concepteurs, entreprises, gouvernements, chercheurs et citoyens. Elle se joue dans chaque choix de conception, chaque décision de régulation, chaque débat public.

Hannah Arendt, théoricienne politique du XXᵉ siècle, écrivait, dans son essai Sur la violence : « Le pouvoir correspond à l’aptitude de l’homme à agir, et à agir de façon concertée. » Face à l’IA, ce pouvoir d’agir ensemble reste le nôtre. Les machines peuvent calculer, recommander, produire ; elles ne peuvent pas décider à notre place de ce qu’est une société juste.

Références

• Emmanuel Kant, Fondements de la métaphysique des mœurs, trad. Victor Delbos, Paris, Delagrave, 1907.
• Hannah Arendt, Du mensonge à la violence, trad. Guy Durand, Paris, Calmann-Lévy, 1972.
• Cathy O’Neil, Algorithmes, la bombe à retardement, trad. Sébastien Marty, Paris, Les Arènes, 2018.
• Luciano Floridi et J. W. Sanders, « On the Morality of Artificial Agents », Minds and Machines, 2004.
• Sandra Wachter, Brent Mittelstadt et Luciano Floridi, « Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation », International Data Privacy Law, 2017.
• Jennifer Robertson, Robo Sapiens Japanicus. Robots, Gender, Family, and the Japanese Nation, Oakland, University of California Press, 2017.