Dilemma del tram: Mercedes-Benz salva il conducente

Il dilemma del tram (trolley problem) è un esperimento mentale molto semplice: un tram corre sul proprio binario. Il conducente del tram non può vedere che sul binario ci sono cinque operai: quando li vedrà non ci sarà tempo di frenare e quando loro vedranno il tram che incombe sarà troppo tardi per scansarsi.

Per fortuna ci siete voi, accanto alla leva che aziona uno scambio lungo il percorso del tram. Potreste quindi deviare la corsa del veicolo e salvare i cinque operai; ma sul binario alternativo c'è un altro operaio, che non si aspetta che gli piombi addosso un tram e non avrà tempo di accorgersene. Cosa fate?

Se non fate niente, moriranno cinque persone. Se azionate lo scambio, ne morirà una sola, ma sarà stato il vostro intervento diretto a scegliere di farla morire.

Questo dilemma è tornato di moda di recente con l'inizio della sperimentazione delle automobili a guida autonoma, dove il conducente si lascia trasportare dal computer di bordo e non è più responsabile delle azioni dell'auto, come un passeggero su un treno. Cosa deve fare il computer di bordo se si trova nella situazione di dover decidere, per esempio, se restare in strada e investire un gruppo di bambini che stanno attraversando su una curva cieca oppure uscire volontariamente di strada e uccidere i propri passeggeri?

Il guaio di questo dilemma (incubo di tanti automobilisti) è che non esiste una risposta accettabile. Chi vende automobili, di fronte a questo dilemma, deve decidere se dire al cliente che la sua auto sceglierà di ucciderlo o se dirgli che l'auto ucciderà freddamente chiunque incontri sul proprio percorso. Nessuno comprerà un'auto programmata per ammazzarlo. Per cui venditori e fabbricanti finora hanno cercato in tutti i modi di glissare.

In questo pantano morale ed etico si è invece tuffato di recente Christoph von Hugo, il direttore della Mercedes-Benz per i sistemi di assistenza al conducente e di sicurezza attiva. In un'intervista alla rivista Car and Driver, von Hugo ha dichiarato che le future auto autonome della casa automobilistica saranno programmate per dare sempre la priorità alla sicurezza dei passeggeri. "Se sai che puoi salvare almeno una persona, almeno salva quella. Salva quella nell'auto. Se tutto quello che sai con certezza è che puoi evitare una morte, allora quella è la tua priorità."

Ragionamento da brivido, giustificato però da alcune considerazioni: "Potresti sacrificare l'auto, ma non sai cosa succederà poi alle persone che hai salvato inizialmente in situazioni spesso molto complesse", ha aggiunto von Hugo. Se l'auto sterza per evitare dei bambini, potrebbe perdere il controllo e centrare un altro gruppo di pedoni o uno scuolabus che arriva nell'altro senso di marcia. Le conseguenze sono troppo imprevedibili. Ma von Hugo ha chiarito che in realtà la ricerca sulle auto autonome ha l'obiettivo di evitare che si trovino in situazioni indecidibili come quella del dilemma del tram: "il 99% del nostro lavoro tecnico consiste nel prevenire in partenza queste situazioni."