Etica dell'IA: cosa hanno scelto 40 milioni di persone sugli incidenti delle auto autonome

Quando i freni di un'auto a guida autonoma cedono e un incidente è inevitabile, chi deve proteggere l'algoritmo — il passeggero a bordo o il pedone fuori? La domanda sembra astratta, finché non ci si rende conto che gli ingegneri stanno codificando una risposta proprio in questo momento, in modo invisibile, in ogni veicolo autonomo sulle strade.

Nel 2018, un gruppo di ricercatori del MIT ha condotto un esperimento su larga scala per studiare cosa credono davvero le persone riguardo a queste scelte. Hanno costruito una piattaforma chiamata Moral Machine e raccolto oltre 40 milioni di decisioni da persone in 233 paesi — il più grande sondaggio morale cross-culturale mai realizzato.

Cosa ha scoperto il Moral Machine

Ai partecipanti venivano mostrate variazioni dello stesso scenario: un veicolo autonomo di fronte a un incidente inevitabile, con diversi gruppi a rischio. I ricercatori variavano chi si trovava all'interno dell'auto, chi era fuori, quante persone erano coinvolte, se i pedoni attraversavano con il semaforo verde, e altri fattori.

Analizzando quei 40 milioni di risposte, Awad e colleghi (Nature, 2018) hanno identificato diverse preferenze che emergevano con una certa coerenza tra le culture.

• –Salvare più vite quando i numeri differiscono — la maggior parte delle persone preferiva gli esiti che minimizzavano il numero totale di morti
• –Risparmiare i più giovani — la preferenza per salvare bambini rispetto agli adulti, e adulti rispetto agli anziani, era presente nella maggior parte dei paesi
• –Premiare il comportamento rispettoso delle regole — i pedoni che attraversavano con semaforo verde erano più spesso salvati rispetto a chi attraversava fuori dalle strisce
• –Risparmiare gli esseri umani rispetto agli animali — uno dei risultati più costanti e trasversali dell'intero dataset

Dove il mondo si divide

Il dato più rilevante non era il consenso — era la variazione. I ricercatori hanno identificato tre distinti cluster culturali. I paesi occidentali (gran parte di Europa e Nord America) mostravano una preferenza più marcata per proteggere i pedoni rispetto ai passeggeri. I paesi dell'Asia orientale attribuivano maggiore peso al risparmio degli anziani rispetto ai partecipanti occidentali. I paesi del Sud del mondo formavano un terzo cluster, con una tendenza a privilegiare la minimizzazione del numero totale di vittime indipendentemente da altre caratteristiche.

Questa variazione ha implicazioni enormi per le politiche pubbliche. Un'auto a guida autonoma programmata in California incorporerà le preferenze morali degli ingegneri e dei regolatori californiani — ma poi verrà venduta a Tokyo, São Paulo e Berlino. Il Moral Machine ha dimostrato che non esiste una risposta globale univoca su chi l'algoritmo debba proteggere.

Il problema più profondo: chi decide?

Anche se ci fosse un consenso cross-culturale chiaro, resterebbe irrisolta una seconda domanda: le preferenze di chi dovrebbe seguire l'auto? Del passeggero che l'ha pagata? Della maggioranza della società? Di un regolatore nazionale? Di un organismo internazionale di standardizzazione? Nessuna di queste risposte è ovvia.

Non sono domande tecniche. Sono domande politiche e filosofiche — sulla responsabilità, sulla responsabilità legale e sulla legittimità di codificare scelte morali in algoritmi. Quando un guidatore umano prende una decisione in una frazione di secondo, possiamo tenerlo responsabile. Quando lo fa un algoritmo, la catena di responsabilità si spezza. È colpa dell'ingegnere del software? Dell'azienda? Del governo che ha approvato il veicolo?

Tre dilemmi su cui puoi votare adesso

Il crash dell'auto autonoma non è l'unico contesto in cui l'IA prende oggi decisioni morali. La stessa logica si applica agli strumenti automatizzati di sentencing, ai sistemi di moderazione dei contenuti e agli algoritmi di selezione del personale. Ecco tre dilemmi che mettono le domande direttamente al centro — vota e scopri come ti compari con persone da tutto il mondo.

Se un'IA è dimostrata accurata il 30% in più rispetto ai giudici umani nei processi penali, dovremmo sostituire i giudici umani con l'IA? L'argomento dell'accuratezza è convincente. Lo è anche quello della responsabilità.

Quando si prevede che l'IA eliminerà il 30% dei posti di lavoro in un decennio, i governi dovrebbero rallentarne l'adozione o lasciare che i mercati e i programmi di riqualificazione si adattino?

Perché il tuo voto conta

I sondaggi sull'etica astratta spesso ci dicono cosa le persone pensano di credere. I dilemmi morali in un contesto di voto dal vivo — dove vedi in tempo reale i risultati di migliaia di altri — rivelano qualcosa di più vicino alle preferenze reali. Quando vedi che il 58% dei votanti ha scelto di proteggere il pedone, o che la divisione nella tua area geografica è molto diversa dalla media globale, il modo in cui tieni la domanda cambia.

I 40 milioni di dati del Moral Machine provengono da partecipanti che si sono iscritti volontariamente — non un campione rappresentativo dell'umanità. I voti di SplitVote vengono dallo stesso tipo di pubblico. Ma le preferenze morali aggregate, anche imperfette, hanno peso: fanno parte del modo in cui le società formano le norme, e le norme alla fine modellano le leggi.

SplitVote presenta dilemmi etici per la riflessione e il confronto. I risultati rappresentano i voti della nostra community, non conclusioni scientifiche. Fonte: Awad et al., 'The Moral Machine experiment', Nature 558, 59–64 (2018).