Un algoritmo di selezione del personale, sviluppato da una grande azienda tech, esclude sistematicamente candidati di una certa provenienza geografica senza che nessun programmatore lo abbia esplicitamente programmato così. L'azienda dovrebbe essere legalmente responsabile dei danni economici subiti dai candidati esclusi, anche se nessun essere umano ha preso consapevolmente quella decisione?

Perché questo dilemma conta

Nessuna risposta legale equivale automaticamente a una risposta morale: entrambe vanno argomentate. Scegliere “Sì: le aziende devono rispondere legalmente dei danni causati dai propri sistemi autonomi, indipendentemente dall'intenzionalità umana” privilegia la regola rigida; scegliere “No: attribuire responsabilità legale per comportamenti emergenti non intenzionali di un algoritmo scoraggerebbe l'innovazione e sarebbe giuridicamente arbitrario” dà più peso a l’eccezione legata al contesto.

Domande da farti

• Applicheresti lo stesso standard a te stesso?
• Il contesto scusa il gesto o solo lo spiega?