Éthique de l'intelligence artificielle, qui est responsable ?

Pourquoi l’IA trouble-t-elle la responsabilité ?

Pour Aristote, philosophe grec du IVᵉ siècle avant notre ère, l’acte volontaire a son principe dans l’agent et s’accomplit en connaissance des circonstances, selon l’Éthique à Nicomaque. On n’est pas blâmé pour ce que l’on fait sous la contrainte ou dans une ignorance qui ne nous est pas imputable.

L’intelligence artificielle met ces deux conditions à l’épreuve. Les systèmes d’apprentissage automatique ne suivent pas des règles écrites ligne à ligne par un programmeur ; ils ajustent des millions, parfois des milliards de paramètres à partir de données. Leur comportement dans une situation donnée peut surprendre leurs concepteurs eux-mêmes. Le philosophe Andreas Matthias a parlé en 2004 d’un fossé de responsabilité : plus une machine apprend et agit seule, moins il semble juste d’imputer ses actes à ceux qui l’ont conçue, alors que la machine ne peut pas davantage en répondre.

Ce fossé n’est pas une fatalité, mais il oblige à préciser qui sait quoi, qui décide quoi, et qui peut prévenir quel tort. La question n’est pas seulement théorique, car les dommages sont déjà réels.

Des torts bien réels

Les cas les plus documentés concernent la discrimination. En 2018, l’agence Reuters a rapporté qu’Amazon avait abandonné un outil de tri de CV qui pénalisait les candidatures féminines. Entraîné sur dix ans de recrutements dominés par des hommes, il avait appris à déclasser les CV contenant le mot women’s. Ce biais avait été appris à partir des données ; les choix de conception et de validation conditionnaient aussi sa détection.

En 2016, le média d’enquête ProPublica a analysé COMPAS, un logiciel utilisé par des tribunaux américains pour estimer le risque de récidive. Il concluait que les prévenus noirs étaient plus souvent classés à tort comme à haut risque que les prévenus blancs. L’éditeur a contesté l’analyse, et des chercheurs ont montré que certaines exigences d’équité ne peuvent être satisfaites simultanément lorsque les prédictions sont imparfaites et que les taux de base diffèrent entre groupes. Le débat montre que l’équité d’un algorithme n’est pas une propriété technique simple, mais un choix de valeurs.

À ces biais s’ajoutent l’opacité et l’usage des données. Les modèles les plus performants sont souvent difficiles à expliquer, même pour leurs auteurs, ce qui complique la contestation d’une décision. Certains sont entraînés sur de grandes quantités de données personnelles. Leur collecte et leur utilisation doivent respecter les bases légales et les garanties du règlement général sur la protection des données, applicable dans l’Union européenne depuis 2018 ; le consentement constitue l’une de ces bases possibles.

Le problème des nombreuses mains

L’attribution d’une responsabilité demande d’examiner les pouvoirs et les informations de chaque intervenant. Un développeur participe à une organisation qui fixe les objectifs, sélectionne les ressources et décide de la mise en service.

En 1996, Helen Nissenbaum a décrit le problème des nombreuses mains à propos des systèmes informatiques. Un logiciel résulte du travail de dizaines ou de centaines de personnes : ceux qui collectent les données, ceux qui les annotent, ceux qui conçoivent le modèle, ceux qui le testent, ceux qui le vendent, ceux qui l’achètent et l’emploient. Chacun ne voit qu’une partie de l’ensemble. Lorsque survient un tort, chacun peut dire en toute bonne foi que la faute est ailleurs. Nissenbaum montrait que cette dilution, renforcée par l’habitude d’accuser le bogue ou l’ordinateur, conduit à une situation où personne ne répond de rien.

Le développeur des données biaisées en offre un exemple. A-t-il choisi ces données, ou les a-t-il reçues ? Savait-il qu’elles étaient biaisées, ou pouvait-il le savoir ? Disposait-il des moyens de les corriger ? Sa responsabilité dépend des réponses, c’est-à-dire des conditions aristotéliciennes de connaissance et de contrôle. Elle dépend aussi de l’organisation qui l’emploie, de ses délais, de ses procédures de vérification.

La responsabilité devient alors distribuée. Elle ne disparaît pas, elle se répartit selon les rôles. Les organisations qui déploient un système répondent de son usage, les concepteurs des choix de conception, les institutions qui l’achètent des contextes où elles l’emploient. Cette répartition suppose que chaque maillon documente ce qu’il fait, pour que l’on puisse remonter la chaîne en cas de dommage. C’est l’idée de redevabilité, que les textes anglais appellent accountability : pouvoir rendre compte de ses choix.

Conséquences, devoirs et prévoyance

Les grandes théories morales offrent des critères différents pour juger ces choix. La tradition utilitariste des philosophes britanniques, de Jeremy Bentham aux XVIIIᵉ et XIXᵉ siècles à John Stuart Mill au XIXᵉ siècle, juge les actes à leurs conséquences pour le bien-être de tous. Elle invite à comparer les bénéfices d’un système, par exemple un diagnostic médical plus précoce, à ses coûts. On lui reproche de pouvoir sacrifier les droits de quelques-uns au bénéfice du plus grand nombre.

La tradition déontologique, issue d’Emmanuel Kant, philosophe allemand du XVIIIᵉ siècle, pose au contraire des limites que nul calcul ne peut franchir. Traiter l’humanité toujours comme une fin et jamais simplement comme un moyen interdit, par exemple, de réduire une personne au score que lui attribue un algorithme. Les deux traditions ne s’excluent pas toujours, mais elles peuvent conduire à des décisions opposées.

Le cas des véhicules autonomes l’a montré. L’expérience en ligne Moral Machine, dont les résultats ont été publiés en 2018 dans la revue Nature, a recueilli des millions de réponses à des dilemmes où une voiture devait choisir entre plusieurs victimes. Les réponses variaient entre les groupes de participants. L’échantillon constitué en ligne n’équivalait pas à un sondage représentatif de chaque population, et ces préférences ne suffisent pas à établir une règle morale. Beaucoup d’ingénieurs font remarquer que ces dilemmes extrêmes sont rares, et que la vraie question éthique porte sur des choix plus ordinaires : quel niveau de risque accepter, comment répartir les erreurs.

Hans Jonas offre une troisième perspective. Dans Le Principe responsabilité (1979), il soutient que la puissance de la technique moderne rend insuffisante une éthique tournée vers l’action immédiate. Il faut répondre des effets lointains et cumulatifs de nos techniques, y compris ceux que nous ne pouvons prévoir avec certitude. Appliquée à l’IA, cette idée invite à évaluer les risques avant le déploiement et non après le dommage.

L’IA peut-elle être responsable ?

Reste la question la plus radicale : faut-il tenir l’IA elle-même pour responsable ? En 2017, une résolution du Parlement européen évoquait la possibilité, à long terme, d’une personnalité électronique pour les robots les plus autonomes. L’année suivante, plus de cent cinquante experts ont signé une lettre ouverte contre cette idée, jugée inutile et dangereuse.

Attribuer une personnalité juridique et reconnaître une responsabilité morale sont deux questions distinctes. Pour tenir un agent moralement responsable, il faut pouvoir justifier qu’il comprend les raisons de son action et qu’il peut répondre aux exigences qui lui sont adressées. Chez Kant, la responsabilité suppose l’autonomie, c’est-à-dire la capacité de se donner à soi-même la loi morale. L’autonomie technique des systèmes actuels ne suffit pas à établir cette autonomie morale. Imputer la faute à la machine risquerait à exonérer ceux qui l’ont conçue et déployée.

Cette position n’interdit pas de parler d’autonomie technique. Un système peut agir sans intervention humaine immédiate. Mais plus il agit seul, plus les humains doivent définir à l’avance les limites de son action, les moyens de l’interrompre et les responsables de sa surveillance.

Le droit et les institutions organisent la responsabilité

Les institutions ont d’abord répondu par des principes. En 2019, le groupe d’experts de haut niveau mandaté par la Commission européenne a publié des lignes directrices pour une IA digne de confiance, et l’Organisation de coopération et de développement économiques a adopté ses principes sur l’IA, révisés en 2024. En 2021, les États membres de l’UNESCO ont adopté une recommandation sur l’éthique de l’intelligence artificielle.

L’Union européenne est allée plus loin avec le règlement sur l’intelligence artificielle, adopté en 2024 et entré en vigueur le 1er août de la même année. Il classe les systèmes selon leur niveau de risque. Certaines pratiques sont interdites depuis le 2 février 2025, notamment les formes de notation sociale et de manipulation répondant aux critères du règlement. Les obligations relatives aux modèles d’IA à usage général s’appliquent depuis le 2 août 2025, avec des dispositions transitoires pour les modèles antérieurs. La transparence relève d’un calendrier distinct, ouvert en août 2026, avec certaines transitions jusqu’en décembre. Pour les systèmes à haut risque, en matière d’emploi, d’éducation ou de justice par exemple, la réforme omnibus, entrée en vigueur le 27 juillet 2026 après l’accord politique de mai, a reporté l’application au 2 décembre 2027, et au 2 août 2028 pour ceux qui sont intégrés à des produits réglementés.

Le règlement traduit l’idée de responsabilité distribuée. Il impose des obligations différentes aux fournisseurs, qui conçoivent les systèmes, et aux déployeurs, qui les utilisent : documentation, gestion des risques, qualité des données, contrôle humain, information des personnes concernées. Il ne règle pas toutes les questions morales, et ses critiques le jugent tantôt trop contraignant pour l’innovation, tantôt trop lent face à la puissance des grandes entreprises. Mais il montre qu’il est possible d’organiser la responsabilité plutôt que de la laisser se dissoudre.

La responsabilité morale à l’égard de l’IA ne consiste donc ni à chercher un coupable unique, ni à accuser la machine. Elle demande que chacun sache ce dont il répond, et que la chaîne entière puisse rendre compte de ses choix.

Références

• Aristote, Éthique à Nicomaque, trad. Richard Bodéüs, Paris, GF Flammarion, 2004.
• Hans Jonas, Le Principe responsabilité. Une éthique pour la civilisation technologique, trad. Jean Greisch, Paris, Cerf, 1990.
• Helen Nissenbaum, « Accountability in a Computerized Society », Science and Engineering Ethics, 1996.
• Andreas Matthias, « The Responsibility Gap: Ascribing Responsibility for the Actions of Learning Automata », Ethics and Information Technology, 2004.
• Règlement (UE) 2024/1689 du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle, Journal officiel de l’Union européenne, 2024.