I problemi etici delle auto senza guidatore

Lo scorso gennaio, all’indomani del Consumer Electronics Show di Las Vegas, il Sole 24 ore scriveva che «il 90% degli incidenti deriva da errori umani, e riducendo o rimuovendo il fattore umano il numero dovrebbe calare drasticamente». Le auto automatiche ridurranno quindi i rischi di incidenti, pur non potendo eliminarli del tutto, ma introdurranno anche dilemmi etici: in caso di incidente inevitabile, dalla scelta del computer che gestisce i sistemi di frenata dipendono la vita e la morte delle persone.

Di questo problema parla un articolo del Mit Techology Review, citando i risultati di una ricerca di Jean-Francois Bonnefon della Toulouse School of Economics. In sostanza il dibattito è riassumibile in: le auto automatiche dovrebbero essere progettate per minimizzare la perdite di vite umane o proteggere a tutti i costi il guidatore? Bonnefon e il suo team hanno sondato l’opinione pubblica utilizzando la nuova etica sperimentale – che consiste nel porre un gran numero di persone in una situazione problematica dal punto di vista etico, per vedere come si comportano. Il dilemma che Bonnefon ha posto è il seguente: «Se la tua auto stesse per investire 10 persone, preferiresti che le salvasse andando a schiantarsi contro un muro, uccidendoti?». Gli scenari poi venivano modificati in maniera sostanziale, aumentando o diminuendo il numero di pedoni coinvolti o sostituendo il guidatore con una persona anonima.

L’opinione generale, non sorprendentemente, è stata quella che le auto dovrebbero cercare di minimizzare il numero di vittime ma, come dice Bonnefon, «i partecipanti non erano così a loro agio col fatto che i veicoli senza pilota fossero progettati in quel modo nella realtà: sperano che altre persone li usino, più di quanto loro stessi vogliano effettivamente comprarli». Lo studio, definito di primo grado, si evolverà in nuove e più complesse articolazioni (coinvolgendo diversi gradi di “colpa” nell’incidente, che potrebbero mutare le risposte). Secondo Bonnefon questo modificherà e amplierà i dilemmi etici: «È giusto che un veicolo autonomo si schianti contro un muro se nell’incidente viene coinvolto un motociclista, considerando che la probabilità di sopravvivenza di quest’ultimo è minore? E nel caso ci siano bambini a bordo dell’auto?».

L’approccio comunque, potrebbe portare a una situazione paradossale (definita Comma-22): se poche persone comprano le auto automatiche perché esse sono programmate per sacrificare il loro guidatore, allora le probabilità delle persone di finire coinvolte in un incidente causato da un’auto normale aumenteranno.