1val (1)

Le soluzioni sono molteplici, ma tutte contengono una parte ingiusta

1val (1)

Pubblichiamo un intervento di Silvio Valpreda: è l’autore di Capitalocene, uscito per Add Editore.

di Silvio Valpreda

Il problema principale nello sviluppo dei sistemi di guida autonoma per veicoli è la risoluzione dei conflitti. Quando un’automobile controllata dall’intelligenza artificiale si trova di fronte a un ostacolo, il software deve trovare una soluzione. Quasi sempre però non c’è una sola soluzione possibile, ma ve ne sono molteplici. E sono tutte, in qualche modo sbagliate. O meglio contengono in sé una parte ingiusta.

Se, per esempio, il veicolo sta percorrendo una strada urbana a media velocità trasportando una persona anziana e improvvisamente un bambino attraversa la carreggiata senza che vi sia il tempo, considerate la massa, la velocità e l’aderenza dell’asfalto, di arrestare il mezzo in sicurezza, occorre scegliere tra due possibili soluzioni entrambe terribilmente ingiuste: investire il bambino o far uscire di strada l’anziano facendo andare il mezzo a cozzare contro un ostacolo.

In ognuno dei casi possibili, gli esiti sono potenzialmente mortali per uno dei due esseri umani coinvolti nell’inevitabile incidente.

La situazione potrebbe essere ancora più complessa: l’unica via di fuga del veicolo, per evitare il bambino, potrebbe essere occupata da un passaggio pedonale proprio in quel momento attraversato da un criminale recidivo che si è macchiato di terribili azioni di violenza mentre l’occupante dell’auto è uno scienziato che sta contribuendo allo sviluppo di importanti medicinali. E il veicolo potrebbe avere tutte queste informazioni attraverso un software di riconoscimento facciale.

Isaac Asimov, lo scrittore di fantascienza russo del ventesimo secolo, ipotizzò le cosiddette leggi della robotica, la più importante delle quali imponeva che un robot dovesse essere programmato in modo da non arrecare mai danno a un umano, scegliendo piuttosto di autodistruggersi.

Nel caso dell’autoveicolo a guida autonoma, che tecnicamente è un robot, l’unica soluzione, non in conflitto con le leggi di Asimov, ai problemi che potenzialmente potrebbe incontrare nello svolgimento dei suoi compiti di trasporto è quella di rifiutarsi di uscire dal garage e restare perennemente immobile.

A volte gli esseri umani si comportano allo stesso modo. Però, una persona che si rifiuti di guidare per la paura di recare danno a qualcuno è considerato affetto da una fragilità emotiva e viene assistito da uno psicologo.

Ma non si tratta, in realtà, di un fenomeno marginale se considerato in uno scenario più ampio.

L’uomo moderno ha acquisito, rispetto ai suoi antenati, una certa confidenza nella gestione dei pericoli che lo circondano attraverso una serie di artifici scientifici e tecnologici. Dal riscaldamento centralizzato alla penicillina, dall’ombrello ai sistemi di navigazione e mappatura tantissime invenzioni ci hanno permesso di porre sotto controllo ciò che potrebbe danneggiarci, farci ammalare o smarrire.

Gran parte dell’umanità invece ha dovuto, nel passato, o deve, in alcuni luoghi del nostro pianeta oggi, confrontarsi quotidianamente con il rischio.

Ciò non ostante il desiderio o l’illusione di poter controllare tutti i pericoli è sempre e ovunque stata una pulsione umana fortissima. Nella modernità, però, forse ci si è illusi di essere riusciti nell’intento di porsi completamente al sicuro.

Poi, all’improvviso, è arrivato il virus.

Non lo si può combattere con le medicine, non se ne possono limitare i danni con un airbag, non lo si può tenere a distanza con una porta blindata. Nemmeno le preghiere sembrano avere effetto.

Insieme al virus è arrivata la coscienza che esiste una minaccia priva di soluzioni completamente corrette. E l’essere umano si è comportato come il sistema automatico ideale che contemporaneamente deve guidare un veicolo in mezzo al traffico e deve rispettare le leggi della robotica: cioè si è bloccato. Bloccata la società, chiusi in casa gli individui, in stand by.

Ovviamente il virus è estremamente contagioso e mortale, quindi la soluzione più prudente è certamente quella di restare isolati. Ma il rischio di venire sbranati da una tigre dai denti a sciabola era, in percentuale statistica, maggiore per i nostri antenati, i primi homo sapiens. Per evitare questo rischio gli uomini primitivi avrebbero potuto, in assenza di una soluzione completamente sicura, asserragliarsi nelle loro caverne. Non lo facevano e, di conseguenza, la loro vita media durava poco più di vent’anni. Se però avessero escluso tutte le opzioni non completamente sicure e fossero rimasti fermi, quel blocco probabilmente non avrebbe portato a una estinzione delle tigri per mancanza di prede, ma più realisticamente a una triste morte nel buio delle caverne dei primi esemplari della nostra specie.

Il ragionamento fatto fino a ora ha un significato e una valenza se si pensa alla sopravvivenza dei singoli individui.

Chi non esce dalla caverna non incontra la tigre e si salva, ma soltanto se non tutti fanno la stessa scelta.

Se non esiste qualche coraggioso, o imprudente, membro della tribù che esca per raccogliere qualche tubero rischiando di diventare un boccone nelle fauci del felino, nessuno sopravvive.

Chi #iorestoacasa sopravvive se i medici, gli infermieri, gli addetti dei supermercati, i ragazzi delle consegne in bici, e altri ancora scelgono una soluzione non completamente sicura per loro stessi.

I veicoli a guida autonoma esistono e circolano nel traffico anziché bloccarsi in garage. Gli ingegneri che li stanno progettando mirano a un grado di sicurezza tale per cui sia innocuo il 98% degli incidenti, la soluzione 100% significherebbe non muoversi.

L’unica scelta che permetta la sopravvivenza passa quindi attraverso l’accettazione di una perdita di sicurezza. Il sacrificio di una parte senza l’illusione che #andratuttobene per tutti. Per qualcuno andrà molto male e negarlo è un inganno della parte più egoista di noi stessi.

Oppure non usciremo mai dal nostro garage.

Aggiungi un commento