Dilemma del tram: Mercedes-Benz salva il conducente

Se un'auto autonoma deve scegliere chi uccidere e chi salvare, per Mercedes salverà il conducente.



[ZEUS News - www.zeusnews.it - 14-10-2016]

esedan 04

Il dilemma del tram (trolley problem) è un esperimento mentale molto semplice: un tram corre sul proprio binario. Il conducente del tram non può vedere che sul binario ci sono cinque operai: quando li vedrà non ci sarà tempo di frenare e quando loro vedranno il tram che incombe sarà troppo tardi per scansarsi.

Per fortuna ci siete voi, accanto alla leva che aziona uno scambio lungo il percorso del tram. Potreste quindi deviare la corsa del veicolo e salvare i cinque operai; ma sul binario alternativo c'è un altro operaio, che non si aspetta che gli piombi addosso un tram e non avrà tempo di accorgersene. Cosa fate?

Se non fate niente, moriranno cinque persone. Se azionate lo scambio, ne morirà una sola, ma sarà stato il vostro intervento diretto a scegliere di farla morire.

Questo dilemma è tornato di moda di recente con l'inizio della sperimentazione delle automobili a guida autonoma, dove il conducente si lascia trasportare dal computer di bordo e non è più responsabile delle azioni dell'auto, come un passeggero su un treno. Cosa deve fare il computer di bordo se si trova nella situazione di dover decidere, per esempio, se restare in strada e investire un gruppo di bambini che stanno attraversando su una curva cieca oppure uscire volontariamente di strada e uccidere i propri passeggeri?

Il guaio di questo dilemma (incubo di tanti automobilisti) è che non esiste una risposta accettabile. Chi vende automobili, di fronte a questo dilemma, deve decidere se dire al cliente che la sua auto sceglierà di ucciderlo o se dirgli che l'auto ucciderà freddamente chiunque incontri sul proprio percorso. Nessuno comprerà un'auto programmata per ammazzarlo. Per cui venditori e fabbricanti finora hanno cercato in tutti i modi di glissare.

Sondaggio
Immaginiamo un mondo popolato dalle auto di Google: senza pilota, senza sterzo e senza pedali. Qual è il maggior svantaggio? (vedi anche i vantaggi)
L'auto di Google è veramente brutta! Più che un auto è un'ovovia.
Ci toglierà il piacere di guidare e la nostra vita sarà un po' più triste.
Avrà un costo non sostenibile per la maggior parte degli utenti.
Ci sarà maggior traffico: con un'auto senza pilota il trasporto privato verrebbe incentivato rispetto al trasporto pubblico.
Il Gps incorporato potrebbe non essere efficiente, costringendoci a fare percorsi più lunghi o più lenti o addirittura non portandoci mai a destinazione.
Ho timori soprattutto per la privacy: le auto di Google potranno collezionare dati su come mi sposto e quando.
In caso di incidente con nessuno al volante, non è chiaro di chi sarà la responsabilità civile. E a chi tocca pagare l'assicurazione? All'utente o a Google? O allo Stato?
Sarà esposta ad attacchi hacker o terroristici: di fatto avremo minore sicurezza sulle strade.
Se il sistema prevede un urto inevitabile, potrebbe trovarsi di fronte a scelte etiche insormontabili. Uccidere un anziano o un bambino? Due uomini o un bambino? Un uomo o una donna? Uscire di strada o urtare altri veicoli o pedoni? Andare addosso a un SUV o a un'utilitaria?
Rispetto alle auto tradizionali impiegheranno troppo tempo ad arrivare a destinazione, non potendo superare i limiti di velocità o fare manovre azzardate.
I tassisti non esisteranno più: già immagino le loro legittime proteste.

Mostra i risultati (2292 voti)
Leggi i commenti (25)

In questo pantano morale ed etico si è invece tuffato di recente Christoph von Hugo, il direttore della Mercedes-Benz per i sistemi di assistenza al conducente e di sicurezza attiva. In un'intervista alla rivista Car and Driver, von Hugo ha dichiarato che le future auto autonome della casa automobilistica saranno programmate per dare sempre la priorità alla sicurezza dei passeggeri. "Se sai che puoi salvare almeno una persona, almeno salva quella. Salva quella nell'auto. Se tutto quello che sai con certezza è che puoi evitare una morte, allora quella è la tua priorità."

Ragionamento da brivido, giustificato però da alcune considerazioni: "Potresti sacrificare l'auto, ma non sai cosa succederà poi alle persone che hai salvato inizialmente in situazioni spesso molto complesse", ha aggiunto von Hugo. Se l'auto sterza per evitare dei bambini, potrebbe perdere il controllo e centrare un altro gruppo di pedoni o uno scuolabus che arriva nell'altro senso di marcia. Le conseguenze sono troppo imprevedibili. Ma von Hugo ha chiarito che in realtà la ricerca sulle auto autonome ha l'obiettivo di evitare che si trovino in situazioni indecidibili come quella del dilemma del tram: "il 99% del nostro lavoro tecnico consiste nel prevenire in partenza queste situazioni."

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
 

Paolo Attivissimo

(C) by Paolo Attivissimo - www.attivissimo.net.
Distribuzione libera, purché sia inclusa la presente dicitura.

Commenti all'articolo (ultimi 5 di 18)

io, per non farmi male, son disposto a schiacciare anche 50 bambini....e voglio un'auto che ragioni allo stesso modo. in famiglia abbiam sempre avuto mercedes,e sembra che continueremo :-)
16-11-2016 19:02

A parte le minuzie matematiche necessarie, ho semplicemente dimostrato, adducendo dati sperimentali, che per prendere una decisione complessa, come quella di cui si parla, ci vuole almeno mezzo secondo. Quindi secondo me nel tuo episodio hai avuto più di mezzo secondo per capire che evitando il bambino avresti messo a rischio la tua... Leggi tutto
6-11-2016 02:30

Non posso che congratularmi per la tua smisurata passione per la matematica, ma nel mondo reale le cose non funzionano proprio così: se Tizio dice «Oggi non ho investito una vecchietta per un pelo!» non significa che tra l'ultima propaggine anteriore del suo veicolo e il primo lembo di cute dell'anziana in questione intercorressero 80... Leggi tutto
5-11-2016 01:57

Se il tuo commento significa che tu sei uno che per non investire una vecchietta farebbe morire la propria famiglia, be', allora hai proprio ragione e mi unisco a te nel ringraziare il cielo che non siamo fatti con lo stampo, poiché come te ce ne saranno pochissimi, per fortuna. Mi spiace solo per la tua famiglia. Leggi tutto
5-11-2016 00:30

Se sono io a provocare l'incidente non voglio che siano altri a pagare.
23-10-2016 00:22

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Quali sono i rischi maggiori del cloud computing?
Distributed Denial of Service (DDoS): cresce l'impatto dei tempi di indisponibilità di un sito web, che possono costare perdite di milioni di euro in termini di introiti, produttività e immagine aziendale.
Frode: perpetrata da malintenzionati con l'obiettivo di trafugare i dati di un sito e creare storefront illegittimi, o da truffatori che intendono impadronirsi di numeri di carte di credito, la frode tende a colpire - prima o poi - tutte le aziende.
Violazione dei dati: le aziende tendono a consolidare i dati nelle applicazioni web (dati delle carte di credito ma anche di intellectual property, ad esempio); gli attacchi informatici bersagliano i siti e le infrastrutture che le supportano.
Malware del desktop: un malintenzionato riesce ad accedere a un desktop aziendale, approfittandone per attaccare i fornitori o le risorse interne o per visualizzare dati protetti. Come il trojan Zeus, che prende il controllo del browser dell'utente.
Tecnologie dirompenti: pur non essendo minacce nel senso stretto del termine, tecnologie come le applicazioni mobile e il trend del BYOD (bring-your-own-device) stanno cambiando le regole a cui le aziende si sono attenute sino a oggi.

Mostra i risultati (1427 voti)
Maggio 2026
Password in chiaro nella memoria di Edge
Google Chrome scarica un modello AI da 4 GB senza avvisare gli utenti
Ubuntu spinge sull'IA e divide gli utenti
Disastro PocketOS: l'agente IA cancella database e backup in pochi secondi senza supervisione
Aprile 2026
Telemarketing, arrivano i numeri brevi: identificheranno i servizi legittimi
Windows 11 cambia rotta: Microsoft ricostruisce il sistema attorno alle richieste degli utenti
Firefox 150, scovate 271 vulnerabilità con l'IA
IPv6 supera IPv4 per un giorno
Verifica dell'età, l'app UE si buca in meno di due minuti
Alexa+ debutta in Italia: conversa, agisce e si integra nella smart home
Verbatim e I-O Data puntano sul Blu-ray: rinasce un mercato dato per morto
La Francia abbandona Windows
Router TP-Link compromessi in tutto il mondo: così gli hacker russi sottraggono le credenziali
Attività sessuali, persone svestite o alla toilette, carte di credito
Oracle licenzia 30.000 dipendenti via email
Tutti gli Arretrati
Accadde oggi - 9 maggio


web metrics