← All dilemmas
⚖️justice
Un algoritmo di selezione del personale, sviluppato da una grande azienda tech, esclude sistematicamente candidati di una certa provenienza geografica senza che nessun programmatore lo abbia esplicitamente programmato così. L'azienda dovrebbe essere legalmente responsabile dei danni economici subiti dai candidati esclusi, anche se nessun essere umano ha preso consapevolmente quella decisione?
Vote to reveal how SplitVote voters split.
YOUR CHOICE
OR
Anonymous voting. No account required. Results update in real time.
Why this dilemma matters
No legal answer is the same as a moral answer here — both have to be argued. Choosing “Sì: le aziende devono rispondere legalmente dei danni causati dai propri sistemi autonomi, indipendentemente dall'intenzionalità umana” prioritises the strict rule; choosing “No: attribuire responsabilità legale per comportamenti emergenti non intenzionali di un algoritmo scoraggerebbe l'innovazione e sarebbe giuridicamente arbitrario” gives more weight to a context-aware exception.
Worth asking yourself
- Would you apply the same standard to yourself?
- Does context excuse the act, or just explain it?
More Justice Dilemmas
- A new tax would halve the income of the top 1% and double the income of the bottom 20%. The total wealth in society stays the same.
- An AI sentencing tool is more consistent than human judges across similar cases, but cannot explain its reasoning. Should it be used?
- You are a juror. Every piece of evidence says guilty — but your gut tells you the defendant is innocent. The jury must be unanimous.
- DNA evidence exonerates an innocent person after 25 years on death row. The real killer is 85, frail, and dying. Do they go to prison?