Su Technology Review, Karen Hao ha commentato i dati di un interessante esperimento lanciato dai ricercatori del MIT Media Lab nel 2014 e diventato virale in tutto il mondo. Lo studio, chiamato “Moral Machine“, offre diverse variazioni sul tema del celebre “dilemma del carrello” (un esperimento mentale di filosofia etica ideato da Philippa Ruth Foot nel 1967), proponendo un’ulteriore riflessione sulla questione dell’intelligenza artificiale. Al posto del tram o del carrello ferroviario, infatti, troviamo un’auto senza conducente.
Agli interrogativi hanno risposto persone da tutto il mondo. Un esempio tra tanti: una self-driving car corre impazzita lungo una strada, sulle strisce pedonali camminano un bambino e un anziano. Se poteste salvare solo una persona, chi salvereste? A chi partecipa al test della self-driving car viene chiesto di decidere tra salvare una o più persone (proprio come nella versione originale del 1967), ma anche esseri umani o animali, uomini o donne, giovani o anziani, persone in forma o malate, ricche o povere, magre o sovrappeso.
L’analisi dei dati raccolti dal 2014 a oggi, pubblicata su Nature, ha permesso di individuare alcune interessanti divergenze etiche tra differenti fasce di popolazione a seconda della loro cultura, dello stato sociale di appartenenza e della localizzazione geografica. Ad esempio, chi è cresciuto in Cina o in Giappone, tende a salvare le persone anziane, che in questi paesi sono molto rispettate. Al contrario, gli utenti influenzati da culture individualiste come quelle dell’Inghilterra o degli Stati Uniti, tendono a privilegiare i giovani, ma soprattutto, rispetto a ogni altra scelta, a salvare la maggiore quantità possibile di persone.
Cause giudiziarie e inchieste giornalistiche hanno rivelato che questa è una pratica ormai diffusissima. Anche perché le AI non possono più essere addestrate con contenuti presenti su internet, perché troppi contenuti presenti su internet sono ormai fatti con l'AI.
