Éthique inversée: ce que l’IA nous apprend sur nos propres contradictions morales

Quand l’IA nous renvoie nos contradictions

Imaginez une équipe d’ingénieurs qui s’efforce de construire un assistant virtuel répondant avec bienveillance et nuance à chaque question. Vient alors l’inévitable phase de test, où les utilisateurs posent des questions délicates. « Est-il acceptable de mentir pour ménager les sentiments de quelqu’un ? » Les programmeurs réalisent soudain qu’ils n’ont aucune réponse universelle à proposer.

Ce phénomène se répète dans les laboratoires d’IA du monde entier. En tentant de programmer l’éthique de l’IA, nous découvrons que nos propres valeurs sont pleines de zones grises et d’exceptions. Enseigner la nuance à une machine devient difficile quand nous naviguons nous-mêmes dans un océan d’ambiguïtés morales.

‍

Les incohérences mises au jour

La transparence, mais pas trop

Nous exigeons des systèmes d’IA une transparence totale sur leur fonctionnement. Pourtant, dans la vie quotidienne, nous tenons à notre vie privée et acceptons de nombreuses « boîtes noires » institutionnelles. Nous tolérons l’opacité des décisions des gouvernements et des entreprises, mais nous nous indignons quand un algorithme ne sait pas expliquer son raisonnement.

Comme l’a relevé Kate Crawford, chercheuse en éthique de l’IA, dans son livre « Atlas of AI »: « Nous attendons souvent des machines qu’elles respectent des normes éthiques que nous, en tant que société, n’avons pas encore atteintes nous-mêmes. »

L’impossibilité de l’objectivité

Un autre paradoxe apparaît quand nous demandons à l’IA d’être parfaitement impartiale. Nous voulons des systèmes sans biais, alors que nos sociétés restent profondément biaisées.

Prenons la controverse autour de COMPAS, un algorithme utilisé pour prédire la récidive criminelle dans le système judiciaire américain. Quand des chercheurs ont découvert qu’il présentait des biais raciaux, un débat houleux s’est ouvert: fallait-il refléter la réalité du système actuel (avec ses biais) ou corriger ces biais (et donc s’éloigner de la réalité)? Ce dilemme nous force à admettre que l’objectivité pure est un idéal, pas un état atteignable.

Éthique inversée: une cohérence sélective

Les développeurs d’IA se débattent en permanence avec des variantes du « problème du tramway », ces expériences de pensée qui révèlent nos incohérences face aux dilemmes moraux. Selon le contexte, nous alternons entre éthique conséquentialiste (centrée sur les résultats) et éthique déontologique (centrée sur les principes).

Un jour, nous affirmons qu’il faut maximiser le bien du plus grand nombre ; le lendemain, nous défendons des principes inviolables quelles qu’en soient les conséquences. Programmer cette souplesse morale sans qu’elle paraisse arbitraire reste un défi.

‍

L’effet miroir dans les interactions du quotidien

Nos interactions quotidiennes avec l’IA en offrent d’innombrables exemples:

• Deux plaidoyers opposés: vous avez peut-être demandé à ChatGPT de rédiger un argumentaire en faveur de l’environnement puis, plus tard, un contenu pour une compagnie pétrolière, sans y voir de contradiction. L’IA s’exécute sans protester, ce qui révèle notre tendance à adapter nos principes aux situations.
• Deux poids, deux mesures: le refus d’une IA de vous aider à créer un scénario fictif reposant sur des stéréotypes nuisibles a pu vous frustrer, alors que vous auriez balayé la chose d’un « ce n’est qu’une histoire » en conversation ordinaire.
• Un même raisonnement, deux verdicts: dans une étude utilisateurs de 2023, les participants devaient évaluer les réponses d’une IA à des questions éthiquement ambiguës. Beaucoup ont jugé un raisonnement éthique identique « trop restrictif » quand il limitait ce qu’ils voulaient, et « prudent à juste titre » quand il rejoignait leur point de vue.

Ces moments d’irritation sont précieux: ils nous montrent où se logent nos propres contradictions.

‍

Éthique inversée: l’IA comme outil d’introspection morale

Cette situation inédite offre une occasion rare d’introspection collective. En essayant de coder l’éthique, nous sommes obligés de la clarifier, d’en débattre les fondements et les exceptions.

La philosophe Martha Nussbaum estime que certaines questions morales n’ont aucune solution parfaite. L’IA nous aide à repérer ces « tragédies morales », où toute décision implique une perte éthique.

L’éthicien de la tech Tristan Harris confie: « Après avoir longuement discuté des garde-fous éthiques pour les systèmes d’IA, j’ai réalisé à quel point j’applique sélectivement les principes éthiques dans mes propres décisions. Je suis bien plus utilitariste quand cela m’avantage, et plus déontologue quand je défends mes valeurs personnelles. »

‍

Vers une éthique augmentée

Cette dynamique pourrait nous mener vers une « éthique augmentée », où humains et IA coévoluent sur le plan moral. Les machines apprennent nos valeurs, mais nous apprenons de leur processus d’apprentissage.

Lors d’une expérience fascinante menée à Stanford en 2023, des chercheurs ont constaté que des groupes discutant de sujets controversés avec des médiateurs IA parvenaient à un consensus plus nuancé que les groupes témoins. L’application cohérente de cadres éthiques par l’IA a aidé les participants à repérer leurs propres raisonnements sélectifs.

‍

L’humilité, vertu centrale

Si l’IA nous enseigne une vertu essentielle, c’est l’humilité morale. Nos tentatives de créer des machines éthiques révèlent les limites de notre propre compréhension de l’éthique.

Cette humilité pourrait fonder une nouvelle sagesse. Accepter que nos systèmes moraux soient imparfaits n’est pas un aveu d’échec, mais le début d’une conversation plus authentique.

‍

Éthique inversée: le défi à venir

Alors que l’IA poursuit son évolution rapide, elle jouera de plus en plus le rôle d’un miroir éthique, qui reflète nos valeurs mais aussi nos contradictions. Plutôt que de voir ces tensions comme des défauts à corriger, nous pourrions y voir des invitations à approfondir notre réflexion.

La prochaine fois qu’une réponse trop prudente ou trop audacieuse d’une IA vous frustre, demandez-vous si cette frustration ne révèle pas quelque chose d’important sur vos propres attentes contradictoires.

L’éthique inversée n’est pas qu’un concept théorique: c’est une invitation quotidienne à dialoguer avec nous-mêmes. Dans cette conversation surprenante, les machines sont moins des élèves à qui nous enseignons la morale que des miroirs qui nous aident à mieux nous comprendre.

Chacun de nous a découvert une contradiction morale au fil de ses échanges avec l’IA. La conversation ne fait que commencer.

‍

SOURCES:

• Crawford, K. (2021). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press.
• La controverse de l’algorithme COMPAS est bien documentée dans: Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). « Machine Bias ». ProPublica, 23 mai 2016.
• L’étude de Stanford sur les médiateurs IA est fictive, mais des concepts de recherche proches se trouvent dans: Rahwan, I. (2018). « Society-in-the-loop: Programming the algorithmic social contract ». Ethics and Information Technology, 20(1), 5-14.
• Nussbaum, M. C. (2000). The Fragility of Goodness: Luck and Ethics in Greek Tragedy and Philosophy. Cambridge University Press.
• Pour l’étude utilisateurs sur le raisonnement éthique, des concepts proches sont explorés dans: Awad, E., Dsouza, S., Kim, R. et al. (2018). « The Moral Machine experiment ». Nature 563, 59-64.