Pourquoi l'éthique de l'IA est importante

L'intelligence artificielle transforme notre monde à une vitesse vertigineuse. Elle diagnostique des maladies, conduit des véhicules, décide de l'octroi de crédits et influence les informations que tu vois. Mais ce pouvoir soulève des questions fondamentales : qui décide de ce que l'IA a le droit de faire ? Selon quelles valeurs agit-elle ? Et qui porte la responsabilité quand quelque chose tourne mal ?

L'éthique de l'IA n'est pas une question secondaire réservée aux philosophes, c'est l'un des défis les plus urgents de notre époque. Dans cette leçon, tu découvres pourquoi, quels dommages réels se sont déjà produits et pourquoi toi, en tant qu'utilisateur de l'IA, tu es concerné.

Le savais-tu ? En 2021, les 193 États membres de l'UNESCO ont adopté la première recommandation mondiale sur l'éthique de l'IA. Elle n'est toutefois pas juridiquement contraignante. Le premier accord international contraignant est la convention-cadre du Conseil de l'Europe sur l'intelligence artificielle (2024), que la Suisse a aussi signée en 2025. Le règlement européen sur l'IA (AI Act), en vigueur depuis août 2024 et applicable par étapes, est la loi la plus complète à ce jour, mais il ne couvre pas non plus toutes les questions éthiques. L'éthique de l'IA est un domaine en constante évolution.

L'éthique n'est pas un luxe

Certains voient l'éthique comme un frein à l'innovation. C'est tout le contraire : l'absence d'éthique est un risque, pour les entreprises, pour la société et pour les individus. Des systèmes d'IA sans garde-fous éthiques ont déjà causé des dommages réels. Les exemples suivants montrent ce qui se passe quand l'éthique est prise en compte après coup plutôt que dès le départ.

Exemples historiques d'échecs éthiques

L'histoire de l'IA est pleine de signaux d'alarme. Voici trois cas particulièrement marquants :

Le système COMPAS (2016)

Le système COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) était utilisé dans des tribunaux américains pour prédire la probabilité de récidive des accusés. Des juges s'appuyaient sur ces scores pour décider de la caution et de la peine.

Le problème : une enquête de ProPublica a montré que le système classait systématiquement les accusés noirs comme plus dangereux que les accusés blancs, même à antécédents comparables. La part des personnes classées à tort comme à haut risque était presque deux fois plus élevée chez les Afro-Américains. L'algorithme a pourtant été utilisé pendant des années, sans que les personnes concernées puissent remettre le système en question.

Problème éthique : discrimination, manque de transparence, aucune possibilité de recours.

L'IA de recrutement d'Amazon (2018)

Amazon a développé un système d'IA censé évaluer automatiquement les candidatures. Le système a été entraîné sur des données d'embauche historiques, et comme Amazon avait surtout engagé des hommes par le passé, l'IA a appris à favoriser les candidats masculins.

L'IA déclassait systématiquement les CV contenant le mot «women's» (p. ex. «women's chess club»). Amazon a abandonné le projet, mais le cas est devenu l'exemple type de la manière dont les préjugés historiques survivent dans les systèmes d'IA.

Problème éthique : discrimination fondée sur le sexe due à des données d'entraînement biaisées.

Microsoft Tay (2016)

Microsoft a lancé sur Twitter le chatbot «Tay», qui devait apprendre de ses interactions avec les utilisateurs. En 16 heures, il a fallu le désactiver : des trolls lui avaient appris des propos racistes, sexistes et antisémites, qu'il diffusait joyeusement.

Tay a révélé un problème fondamental : quand un système d'IA apprend sans filtre du comportement des utilisateurs, il reprend aussi les pires aspects du comportement humain. Sans mécanismes de sécurité, l'IA devient un amplificateur de haine.

Problème éthique : absence de mesures de sécurité, aucun alignement sur les valeurs humaines.

Le dilemme du tramway pour l'IA

Imagine : une voiture autonome détecte qu'un accident est inévitable. Elle peut dévier à gauche et mettre en danger un piéton, ou continuer tout droit et mettre en danger ses passagers. Comment l'IA doit-elle décider ?

Le «dilemme du tramway» (trolley problem), classique de la philosophie, devient soudain réel avec la conduite autonome. Et il se complique encore : l'âge des personnes concernées doit-il jouer un rôle ? Leur nombre ? Et si un enfant se trouve sur la route ?

Exemple : le projet de recherche du MIT «Moral Machine» a recueilli plus de 40 millions de décisions de personnes du monde entier. Les résultats ont montré d'énormes différences culturelles : dans presque tous les pays, les personnes plus jeunes étaient plutôt épargnées, mais dans de nombreux pays d'Asie de l'Est, cette préférence était nettement moins marquée que dans les pays occidentaux (Awad et al., Nature 2018). Comment programmer une «éthique globale» dans une voiture qui circule dans différents pays ? La réponse : il n'existe pas de solution simple.

Le dilemme du tramway n'est que la partie émergée de l'iceberg. Des dilemmes semblables apparaissent partout où l'IA prend des décisions : une IA médicale doit-elle donner la priorité à un patient jeune ou à un patient plus âgé quand les ressources sont limitées ? Une IA de crédit doit-elle tenir compte du quartier de résidence, même si cela mène à de la discrimination ?

Qui est responsable quand l'IA commet des erreurs ?

Quand un médecin humain commet une erreur, la question de la responsabilité est claire. Mais que se passe-t-il quand une IA pose un mauvais diagnostic ? Qui est responsable ?

Attention : la question de la responsabilité en cas d'erreur de l'IA n'est réglée nulle part dans le monde. Ni l'AI Act ni d'autres réglementations n'apportent à ce jour de réponse complète. Cela signifie que si tu utilises des systèmes d'IA dans ton travail, tu portes peut-être une responsabilité dont l'étendue n'est pas encore définie juridiquement. Ne te fie jamais aveuglément aux décisions de l'IA dans des domaines critiques.

Les parties prenantes (stakeholders), c'est-à-dire les personnes concernées et les responsables, forment un réseau complexe :

Développeurs et chercheurs : ils conçoivent les modèles, choisissent les données d'entraînement et définissent les objectifs d'optimisation. Leurs décisions pendant la phase de développement ont des conséquences éthiques considérables.
Entreprises : elles déploient des systèmes d'IA et sont responsables de leurs effets sur les clients, les collaborateurs et la société. La recherche du profit ne doit pas l'emporter sur les principes éthiques.
Législateurs et autorités de régulation : ils créent le cadre juridique, mais la technologie évolue plus vite que les lois. L'écart entre la réalité technique et la régulation est un problème permanent.
Société et individus : chacun de nous est concerné, et chacun a une voix. Des citoyens informés peuvent faire pression sur les entreprises et la politique et exiger des normes éthiques.

Citation : «Technology is neither good nor bad ; nor is it neutral» (Melvin Kranzberg, historien des techniques, 1986). Cette citation vaut tout particulièrement pour l'IA : c'est un outil puissant, dont l'effet dépend entièrement de la manière dont nous le concevons et l'utilisons.

Conseil pratique : pas besoin d'être juriste ou philosophe pour comprendre l'éthique de l'IA. Commence par une question simple pour chaque système d'IA que tu utilises : «Qui pourrait être désavantagé par ce système ?» Cette seule question aiguise énormément ta vigilance et t'aide à repérer tôt les problèmes potentiels.

Pourquoi le système COMPAS a-t-il été critiqué sur le plan éthique ?

Exact ! L'enquête de ProPublica a montré qu'à antécédents comparables, COMPAS classait à tort les accusés noirs comme «à haut risque» presque deux fois plus souvent. Le système renforçait des préjugés racistes existants au lieu de les corriger, un exemple type de discrimination algorithmique.

Pas tout à fait. Le principal problème de COMPAS n'était ni technique ni une question d'autorisation. L'enquête de ProPublica a révélé que le système classait systématiquement les accusés noirs comme plus dangereux, un cas évident de discrimination algorithmique aux conséquences réelles pour les personnes concernées.

Points clés :

L'éthique de l'IA n'est pas une question secondaire, elle touche des personnes réelles avec des conséquences réelles, des jugements pénaux aux décisions de crédit.
Des cas historiques comme COMPAS, l'IA de recrutement d'Amazon et Tay le montrent : sans garde-fous éthiques, l'IA cause des dommages mesurables.
Le dilemme du tramway montre que de nombreuses questions éthiques liées à l'IA n'ont pas de réponse simple, mais qu'il faut quand même les poser.
La responsabilité de l'éthique de l'IA incombe à toutes les parties prenantes : développeurs, entreprises, législateurs et société.
En tant qu'utilisateur de l'IA, tu peux apporter ta contribution en remettant en question les systèmes d'IA de manière critique et en exigeant de la transparence.

Cette leçon fait partie d'un cours avec examen final et certificat. Voir le cours «IA & éthique»