Perché l'etica dell'IA è importante
Perché l'etica dell'IA è importante
L'intelligenza artificiale sta cambiando il nostro mondo a una velocità mozzafiato. Diagnostica malattie, guida veicoli, decide sulla concessione di crediti e influenza le notizie che vedi. Ma con questo potere arrivano domande fondamentali: chi decide che cosa può fare l'IA? Secondo quali valori agisce? E chi si assume la responsabilità quando qualcosa va storto?
L'etica dell'IA non è una questione secondaria per filosofi, è una delle sfide più urgenti del nostro tempo. In questa lezione scopri perché è così, quali danni reali si sono già verificati e perché la cosa riguarda anche te come utente dell'IA.
L'etica non è un optional
Alcuni considerano l'etica un freno all'innovazione. È vero il contrario: la mancanza di etica è un rischio, per le aziende, per la società e per i singoli. Sistemi di IA senza limiti etici hanno già causato danni reali. Gli esempi che seguono mostrano che cosa succede quando l'etica viene presa in considerazione solo a posteriori invece che fin dall'inizio.
Esempi storici di fallimenti etici
La storia dell'IA è piena di segnali d'allarme. Tre casi particolarmente significativi:
Il sistema COMPAS (2016)
Il sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) veniva usato nei tribunali statunitensi per prevedere la probabilità di recidiva degli imputati. I giudici usavano questi punteggi per decidere sulla cauzione e sull'entità della pena.
Il problema: un'inchiesta di ProPublica ha mostrato che il sistema classificava sistematicamente gli imputati neri come più pericolosi dei bianchi, anche a parità di contesto. La quota di persone classificate erroneamente ad alto rischio era quasi doppia tra gli afroamericani. Nonostante ciò, l'algoritmo è stato usato per anni senza che le persone interessate potessero mettere in discussione il sistema.
Problema etico: discriminazione, mancanza di trasparenza, nessuna possibilità di ricorso.
L'IA di Amazon per la selezione del personale (2018)
Amazon ha sviluppato un sistema di IA che doveva valutare automaticamente le candidature. Il sistema è stato addestrato con dati storici sulle assunzioni e, poiché in passato Amazon aveva assunto soprattutto uomini, l'IA ha imparato a preferire i candidati di sesso maschile.
L'IA declassava sistematicamente i curriculum che contenevano la parola «women's» (ad es. «women's chess club»). Amazon ha abbandonato il progetto, ma il caso è diventato un esempio emblematico di come i pregiudizi storici sopravvivano nei sistemi di IA.
Problema etico: discriminazione di genere dovuta a dati di addestramento distorti.
Microsoft Tay (2016)
Microsoft ha lanciato su Twitter il chatbot «Tay», che doveva imparare dalle interazioni con gli utenti. Nel giro di 16 ore è stato necessario disattivarlo: alcuni troll gli avevano insegnato affermazioni razziste, sessiste e antisemite, che il chatbot diffondeva allegramente.
Tay ha messo in luce un problema fondamentale: quando un sistema di IA impara dal comportamento degli utenti senza filtri, ne assorbe anche gli aspetti peggiori. Senza meccanismi di sicurezza, l'IA diventa un amplificatore dell'odio.
Problema etico: mancanza di misure di sicurezza, nessun allineamento (alignment) con i valori umani.
Il dilemma del carrello per l'IA
Immagina: un'auto a guida autonoma riconosce che un incidente è inevitabile. Può sterzare a sinistra e mettere in pericolo un pedone oppure proseguire dritto e rischiare la vita degli occupanti. Come deve decidere l'IA?
Il classico «dilemma del carrello» (trolley problem) della filosofia diventa improvvisamente reale con la guida autonoma. E si complica ulteriormente: l'età delle persone coinvolte deve avere un ruolo? Il loro numero? E se sulla strada c'è un bambino?
Il dilemma del carrello è solo la punta dell'iceberg. Dilemmi simili nascono ovunque l'IA prenda decisioni: un'IA medica deve dare la precedenza a un paziente giovane o a uno più anziano quando le risorse scarseggiano? Un'IA per i crediti deve tenere conto del quartiere di residenza, anche se questo porta a discriminazioni?
Chi è responsabile quando l'IA sbaglia?
Quando un medico in carne e ossa commette un errore, la questione della responsabilità è chiara. Ma che cosa succede se è un'IA a fare una diagnosi sbagliata? Chi ne risponde?
Le parti interessate (stakeholder), cioè i soggetti coinvolti e i responsabili, formano una rete complessa:
- Sviluppatori e ricercatori: progettano i modelli, scelgono i dati di addestramento e definiscono gli obiettivi di ottimizzazione. Le loro decisioni nella fase di sviluppo hanno conseguenze etiche di vasta portata.
- Aziende: impiegano i sistemi di IA e sono responsabili dei loro effetti su clienti, collaboratori e società. La ricerca del profitto non deve prevalere sui principi etici.
- Legislatori e autorità di regolamentazione: creano il quadro giuridico, ma la tecnologia si evolve più in fretta delle leggi. Il divario tra la realtà tecnica e la regolamentazione è un problema permanente.
- Società e individui: ognuno di noi è coinvolto e ognuno ha voce in capitolo. Cittadini informati possono fare pressione su aziende e politica ed esigere standard etici.
- L'etica dell'IA non è una questione secondaria: riguarda persone reali con conseguenze reali, dalle sentenze penali alle decisioni sui crediti.
- Casi storici come COMPAS, l'IA di Amazon per la selezione del personale e Tay mostrano che senza limiti etici l'IA causa danni misurabili.
- Il dilemma del carrello mostra che per molte questioni etiche legate all'IA non esistono risposte semplici, ma le domande vanno comunque poste.
- La responsabilità per l'etica dell'IA spetta a tutte le parti interessate: sviluppatori, aziende, legislatori e società.
- Come utente dell'IA puoi dare il tuo contributo mettendo in discussione in modo critico i sistemi di IA ed esigendo trasparenza.
Questa lezione fa parte di un corso con esame finale e certificato. Vedi il corso «IA & etica»