Una città implementa un sistema di sorveglianza con IA che analizza comportamenti pubblici per prevenire reati, ma alcuni modelli dimostrano un pregiudizio che porta a falsi allarmi contro gruppi specifici. È giusto continuare a usarlo per il bene comune?

Why this dilemma matters

Technology rarely asks for permission once it works, so the ethics has to land before deployment. Choosing “Sì, perché la sicurezza collettiva e la prevenzione di reati violenti hanno la priorità, e il sistema può essere migliorato nel tempo” prioritises the capability it unlocks; choosing “No, perché un'azione preventiva basata su dati distorti perpetua ingiustizia e lede il diritto di circolazione senza sospetto” gives more weight to the agency it costs.

Worth asking yourself

• Does ease here come at someone else’s expense?
• What would you give up to keep this capability?