Chi salvi in caso di incidente? Così programmeremo le auto a guida autonoma
n team di ricercatori ha chiesto a milioni di persone in tutto il mondo cosa dovrebbe fare un veicolo driverless: ad esempio, mettere in salvo due pedoni anziani e sacrificare un bambino o viceversa? Alla ricerca di uno standard etico per le macchine del futuro
I FRENI dell’auto a guida autonoma che procede spedita si rompono proprio una ventina di metri prima di un passaggio pedonale, e il computer di bordo affronta, rapidissimo, un dilemma: procedere in linea retta e investire un gruppo di pedoni che stanno attraversando col verde, oppure sterzare a sinistra, salvare quei pedoni e investire un altro gruppo di pedoni che invece sta attraversando col rosso. Quali vite valgono di più? Per esplorare il modo in cui l’opinione pubblica valuta i nuovi dilemmi etici legati ai comportamenti delle auto driverless, un gruppo di scienziati del MIT e della University of British Columbia ha condotto un esperimento che ha coinvolto oltre due milioni di persone da 233 Paesi. E’ stato allestito, sul sito moralmachine.mit.edu, un sondaggio che presenta 13 situazioni dove l’auto è chiamata a decidere chi sacrificare, in caso di inevitabilità di un incidente, tra i suoi passeggeri e una serie di pedoni con caratteristiche differenti (donne, uomini, anziani, ragazzini, infanti in passeggino, grassi, magri, cani, gatti).
Do people want autonomous machines making moral decisions?
Nine studies suggest that that the answer is ‘no’-in part because machines lack a complete mind.
ft. @kurtjgrayhttps://t.co/Xp74GkIIJ8 pic.twitter.com/wfHQyUeRHw— Indrajeet Patil (@patilindrajeets) 2 agosto 2018
•LE MACCHINE “MORALI” DEL FUTURO
I risultati dell’esperimento, pubblicati su Nature, offrono uno spaccato senza precedenti sulle analogie e le diversità di vedute tra gli abitanti delle varie nazioni riguardo alle regole che – come le tre leggi della robotica di Asimov – dovranno essere codificate nelle auto a guida driverless per minimizzare i danni alla società. «Non possiamo permetterci il lusso di trascurare la ricerca sulle “macchine morali”, perché queste auto saranno presto sulle nostre strade, e sarà necessario trovare un accordo sui principi da applicare in situazioni di emergenza» spiega uno degli autori dello studio, Azim Shariff, ricercatore in psicologia morale all’University of British Columbia di Vancouver.
Abbiamo raccolto 39,6 milioni di risposte sui nostri quesiti perché questa è una discussione che deve coinvolgere tutta la società: non possiamo lasciarla soltanto agli ingegneri o agli esperti d’etica», spiega Shariff. Anche perché, come mostrano i risultati dello studio, tra gli esperti e la persona media c’è una certa diversità di opinioni. Soprattutto sui temi che in questi anni sono stati più dibattuti nel mondo accademico: «Molti tra filosofi e tecnologi concordano sul fatto che un auto driverless, a impatto imminente, non dovrebbe cambiare traiettoria per coinvolgere persone che non c’entrano. Ad esempio non dovrebbe cambiare intenzionalmente direzione per salvare due persone uccidendone una terza» spiega Shariff. «Ma abbiamo constatato che in realtà le persone che hanno risposto al nostro test non danno un grande peso alla dimensione morale di questo dilemma». Un’altra questione che divide gli esperti e la pubblica opinione è la priorità di salvataggio dei passeggeri dell’auto rispetto ai pedoni. «Anche in questo caso i partecipanti al sondaggio non hanno espresso una preferenza netta, mentre gli esperti d’etica tendono a privilegiare il salvataggio dei passeggeri» osserva Shariff.
Il questionario MIT-University of British Columbia
«Può sorprendere, però bisogna tenere presente che il test è formulato in modo che a chi risponde non è chiesto di immedesimarsi in un passeggero dell’auto. In uno studio del 2016 abbiamo visto che quando le domande sono del tipo “Cosa vorresti che facesse la tua auto driverless?”, poi le persone danno risposte diverse: ad esempio asseriscono di non voler acquistare un’auto “etica”, ma solo un’auto che li protegga anche a scapito della vita di un maggior numero di persone».
•LA MAPPA DELLE PRIORITA’
Le scelte su cui a livello globale si è raccolto più consenso sono, nell’ordine: salvare gli umani invece degli animali, salvare un gruppo più numeroso invece che uno più sparuto, salvare i giovani rispetto agli anziani, salvare chi rispetta la legge (ad esempio attraversando col verde). Salvare le donne invece degli uomini. «Una cosa che ci ha stupito è notare quanti ritengono preferibile salvare le persone con più alto status sociale. Questa preferenza si è rivelata più radicata nei Paesi con società più diseguali». Un’altra singolare preferenza morale espressa dai due milioni di partecipanti al test è salvare persone in forma piuttosto che persone obese. Forse è proprio per evitare questo tipo di arbitrio che nel 2017 il comitato etico tedesco sulla guida autonoma ha stilato linee guida che prescrivono di ignorare, in queste decisioni di vita e di morte prese da un computer, di non fare distinzioni tra le persone coinvolte in base a caratteristiche come l’età, il sesso e altri attributi fisici.
•LE DIFFERENZE: ORIENTE, OCCIDENTE E SUD
Lo studio ha permesso di identificare tre macro-gruppi culturali: l’Occidente, l’Oriente e il Sud (costituito soprattutto dai Paesi dell’America latina). Divisi soprattutto su certe questioni: «La preferenza nel salvare i più giovani e nel salvare le persone con maggiore status sociale è molto più marcata nelle nazioni del Sud piuttosto che in quelle dell’Oriente» spiega Shariff. «Inoltre le nazioni del Sud mostrano una minore propensione, rispetto a Occidente e Oriente, nel salvare le persone a scapito di cani e gatti, e una maggiore preferenza verso il salvare persone in forma».
•ALLA RICERCA DI UNO STANDARD ETICO
I risultati dello studio suggeriscono che anche i produttori di auto driverless si troveranno di fronte a un dilemma: codificare nel software di guida regole etiche diverse a seconda dei diversi mercati, o attendere l’approvazione di uno standard universale? E per gli esperti nasceranno anche nuove questioni sociali e politiche: «I produttori potrebbero programmare le auto per ridurre la velocità nei quartieri più ricchi, in modo da minimizzare i rischi di risarcimenti milionari» spiega Mary-Anne Williams, direttore del dipartimento innovazione dell’Università di Sydney. «E magari potrebbero offrire auto disposte a sacrificare i passeggeri a prezzi molto inferiori rispetto a quelli delle auto “egoiste”, che sarebbero la prima scelta dei più agiati».