Etica dei robot, tra paure e speranze

Sonny, personaggio di Io, Robot (2004) ( Fonte )

Presento l’articolo che penso essere il primo di una serie dedicata all’etica dei robot (roboethics) e all’etica dell’Intelligenza Artificiale (AI). Non sono un esperto, perciò posso offrire solo qualche spunto di riflessione, magari per suscitare curiosità e iniziare a districarsi in un tema che si prospetta abbondante di suggestioni. Sarebbe invece interessante sviluppare un confronto e arricchire la serie con il contributo di altri pensieri.

Definizione di robot

La maggior parte delle definizioni di robot è riconducibile alla seguente:

robot è una macchina più o meno antropomorfa in grado di eseguire un programma, progettata e costruita dall’essere umano o da altri robot per sostituire o integrare parzialmente o completamente l’essere umano in alcuni lavori intellettuali o fisici.

A questa definizione si deve eccepire una prima difficoltà di interpretazione, costituita delle macchine che tecnicamente svolgono attività diverse dal lavoro comunemente inteso, macchine che non lavorano: quelle in grado di giocare per esempio a calcio (famosi i campionati RoboCup con l’ambizioso obiettivo di sfidare e vincere una squadra di umani entro il 2050) o a qualche gioco intellettuale che richieda strategia (tra i primi il Nim, ma anche dama, scacchi, cubo di Rubik); o le macchine danzanti (alla Cina nel 2016 il record di 1007 automi che hanno danzato simultaneamente, controllati da un singolo smartphone, durante la Quingdao Beer Fest a Shandong); o le macchine che imitano o simulano il comportamento animale (il Tamagotchi è stato il precursore dei robot animali, fossero animali veri o inventati).

RoboCup 2015 (Fonte)

A meno di non rivedere profondamente la definizione di lavoro per farvi rientrare anche l’attività ludica o ricreativa, le macchine appartenenti a queste categorie sono automi robotizzati che solo indirettamente possono essere contemplati nella definizione di robot. Infatti è noto che lo sviluppo e la realizzazione di tali macchine che non lavorano svolgono un ruolo importante per acquisire informazioni ed esperienza finalizzate a sviluppare e realizzare macchine che lavorano. Esse, quindi, oltre ad avere un valore in sé (valore economico per le ricadute sul mercato e valore intrinseco per ciò che significano nel campo della robotica) rappresentano un passaggio intermedio necessario che consente di considerarle parte del mondo dei robot.

Impianto cocleare (Fonte)

Una seconda difficoltà di interpretazione della definizione di robot è data dalle macchine impiantate nel corpo umano. Un pacemaker è una macchina che regolarizza il battito cardiaco, sostituendosi al lavoro (che non viene più svolto o viene svolto male) di una porzione di un organo umano ed ha un elementare programma da svolgere; allo stesso modo un impianto cocleare è una macchina molto specializzata che consente a persone non udenti, a certe condizioni, di udire i suoni. Impianti ancora più complessi, come arti artificiali innestati su motoneuroni, richiedono sensori ed elaborazioni informatiche estremamente sofisticate. La stretta collaborazione tra neuroscienze, cibernetica e robotica spinge però non solo nella direzione di ideazione e realizzazione di impianti suppletivi di risorse patologicamente assenti nel corpo umano. Si prospetta anche l’empowerment delle facoltà umane attraverso l’impianto – per esempio – di sensori che elaborino segnali non previsti dai comuni sensi già presenti nel corpo umano (per il body hacking, ad esempio, è stato creato un sensore magnetico impiantabile come un piercing che vibra quando è allineato al nord magnetico terrestre). Il tema è talmente maturo sotto il profilo dello sviluppo da essere ritenuto una dimostrazione della teoria della singolarità da parte dei sostenitori di quest’ultima. In questo contesto andrebbe approfondito il concetto di sostituzione e integrazione dell’essere umano nelle sue attività da parte dei robot, ovvero tutto il tema dei cyborg, organismi biologici uniti ad elementi artificiali.

Tamagotchi (Fonte)

La terza difficoltà di interpretazione deve essere individuata sul terreno dei robot emotivi. Pur trattandosi di un campo ancora da esplorare, a cavallo tra neuroscienze, psicologia e informatica, il rapporto tra macchina ed essere umano a livello di espressione dell’intelligenza emotiva ha già prodotto alcuni interessanti risultati. Il citato Tamagotchi è esempio embrionale di robot emotivo, cioè di macchina programmata per coinvolgere l’essere umano sotto il profilo delle proprie emozioni e dei propri sentimenti al fine di orientarne i comportamenti. Il fenomeno delle reborn dolls (bambole in vinile lavorate artigianalmente per riprodurre in modo molto realistico le caratteristiche somatiche di un infante) suggerisce uno sviluppo prossimo di caratteristiche interattive già presenti in altri tipi di bambole commercializzate con successo in passato (movimenti elementari, riso, pianto, simulazione di fame o di bisogni naturali). Quand’anche un robot non sia stato progettato esplicitamente per finalità emozionali (cioè per sollecitare reazioni emotive e conseguenti comportamenti negli umani), si deve ammettere che esistono macchine in grado di suscitare un vivo interesse tra gli esseri umani, nonché reazioni di tipo emotivo. Ne è prova la missione di Cassini, sonda esploratrice del pianeta Saturno in orbita per 20 anni terrestri meno un mese; in occasione del suo suicidio nell’atmosfera del pianeta (15 settembre 2017) sono stati scritti centinaia di messaggi sui social sia con forme di saluto e di ringraziamento, sia con emoticons e gif riproducenti stati d’animo degli utenti, soprattutto di tristezza e commozione. La variabile emozionale-sentimentale nel rapporto essere umano – macchina (variabile molto sfruttata nella letteratura fantascientifica, indimenticabile in 2001 Odissea nello Spazio o in Io e Caterina) suggerisce che la definizione di robot debba arricchirsi di elementi che inglobino la possibilità di reazioni emotive da parte di entrambi i soggetti.

Le leggi della robotica

L’interazione tra macchina ed essere umano ha determinato la necessità di stabilire leggi comportamentali. Significativamente – ed è questo un tema da tenere presente nell’ambito della robotethics – le leggi sono sviluppate solo dalla parte umana e sono imposte alla controparte cibernetica-robotica al solo fine di tutelare la parte umana e i suoi interessi. Si prendono qui in considerazione le Leggi della Robotica di Asimov e la più recente Dichiarazione di Fukuoka.

La legge zero

0. Un robot non può recare danno all’umanità, né può permettere che, a causa del proprio mancato intervento, l’umanità riceva danno.

La Legge Zero, introdotta dopo le tre più famose, che seguono, e per questa ragione denominata Legge Zero, implica paradossi difficilmente sanabili. Con una interpretazione letterale della Legge Zero, in una partita di calcio tra squadra di robot e squadra di umani ai robot verrebbe impedito di commettere falli volontari e di reagire ai falli avversari. In caso di fallo involontario da parte di robot su umano, i compagni di squadra dovranno tendere a reprimere il comportamento del robot falloso e a solidarizzare con l’umano della squadra avversaria.

Le tre leggi

1. Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno. Purché questo non contrasti con la Legge Zero.
2. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Legge Zero e alla Prima Legge.
3. Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Legge Zero, la Prima Legge e la Seconda Legge.

È chiara la natura fanta-scientifica delle leggi asimoviane. La visione sottesa è quella di macchine giunte ad uno stadio di maturazione di pressoché totale autonomia; l’essere umano si mostra quasi spaventato dalla possibilità che un’autocoscienza maligna potenzialmente nociva per l’essere umano stesso si impossessi delle macchine, rendendole ingovernabili e distruttive, al punto di prevedere un’autodifesa preventiva per mezzo di leggi limitanti. Al netto dei timori umani strumentali alla narrazione fantascientifica, l’ingenua rappresentazione di leggi tanto superiori da potersi ritenere invulnerabili è estremamente esplicativa dell’intima lacerazione dell’essere umano di fronte alla sua creatura tecnologica. Le Leggi sono scritte dall’essere umano per la macchina, macchina che lo stesso essere umano utilizza per i suoi scopi. La certezza che nessun altro essere umano possa manomettere tali leggi nel sistema informatico della macchina è la stessa che nessun hacker possa penetrare il sistema informatico del Pentagono (si ha notizia di almeno una dozzina di violazioni del sistema informatico del Pentagono nel periodo compreso tra il 2000 e il 2017. Per esempio: 2002, da parte di un hacker scozzese; 2007, da parte di hacker dell’esercito cinese; 2009, da parte di un uomo autistico britannico, eccetera). La certezza che qualsiasi macchina impegnata in ambito economico sia in grado di riconoscere (o considerato il grado di fiducia presso i clienti eviti di proporre) raccolte di denaro che riproducono lo schema Ponzi è la stessa che nessun essere umano manometta una sua macchina per scopi immorali, illegali o illeciti (il tasso di manomissione dei contachilometri e dei cronotachigrafi dei veicoli circolanti in Germania è talmente elevato e produce tali danni economici che Bosch e TÜV durante la conferenza internazionale Bosch ConnectedWorld 2017 a Berlino hanno presentato un computer di bordo che applica la tecnologia della blockchain per evitare la falsificazione dei dati). Tutto ciò sembrerebbe suggerire un drastico ridimensionamento del ruolo ricoperto dalle macchine nel campo dell’etica. L’etica non sarebbe quella delle macchine (la robotethics tout court) ma quella più classica – l’etica umana – applicata alle macchine: la human robotethics.

Aspettative sulla prossima generazione di robot

L’approccio giapponese alla questione del rapporto tra essere umano e macchina è improntato alla sensibilità del popolo del Sol Levante: i robot sono considerati compagni della razza umana, un aiuto fisico e psicologico per migliorare globalmente la condizione del mondo. La Dichiarazione di Fukuoka attinge al patrimonio umanistico di Simak, altro genio della fantascienza insieme ad Asimov, alle sue atmosfere pacifiche di fratellanza universale che echeggiano il tema di un’etica cosmica.

Fukuoka Declaration

Confident of the future development of robot technology and of the numerous contributions that robots will make to Humankind, this World Robot Declaration is issued on February 25, 2004 from Fukuoka, Japan.

I. Expectations for next-generation robots

1. Next-generation robots will be partners that coexist with human beings
2. Next-generation robots will assist human beings both physically and psychologically
3. Next-generation robots will contribute to the realisation of a safe and peaceful society

II. Toward the creation of new markets through next-generation robot technology

1. Resolution of technical issues through the effective use of Special Zones for Robot Development and Test
2. Promotion of public acceptability of robots through the establishment of standards and upgrading of the environment
3. Stimulation of adoption through promotion of introduction of robots by public organisations
4. Dissemination of new technologies related to robots
5. Promotion of the development of robot technology by small enterprises, and their entry into the robot business. The government and academia shall provide active support for such efforts.

Traduzione italiana

Con fiducia negli sviluppi futuri della tecnologia dei robot e nei molteplici contributi che i robot daranno al Genere Umano, si rilascia questa Dichiarazione Mondiale sui Robot il 25 febbraio 2004 a Fukuoka, Giappone.

I. Prospettive per i robot di prossima generazione

1. I robot di prossima generazione saranno partners che coesisteranno con gli esseri umani
2. I robot di prossima generazione assisteranno gli esseri umani sia fisicamente che psicologicamente
3. I robot di prossima generazione contribuiranno alla realizzazione di una società sana e pacifica

II. Verso la creazione di nuovi mercati grazie alla tecnologia della prossima generazione di robot

1. Soluzione di problemi tecnici per mezzo dell’uso efficace di Zone Speciali di Sviluppo e Test dei Robot
2. Promozione dell’accettazione pubblica dei robot per mezzo dell’istituzione di standard e dell’aggiornamento dell’ambiente
3. Stimolo all’adozione promuovendo l’introduzione di robot nelle amministrazioni pubbliche
4. Disseminazione di nuove tecnologie correlate ai robot
5. Promozione dello sviluppo di tecnologie robotiche da parte delle piccole imprese e loro ingresso nel mercato dei robot. Governi e mondo accademico si impegneranno a fornire un sostegno attivo a tali sforzi.

Con Fukuoka si realizza una palingenesi della visione del rapporto tra essere umano e macchina. Le macchine si spostano ad un gradino superiore rispetto alla visione delle Leggi della Robotica, i robot non sono più considerati un pericolo per il genere umano ma un valido aiuto per ciascun essere umano e per la stessa società. Esseri umani e robot occupano lo stesso spazio vitale e si muovono nell’interesse di entrambi. L’atteggiamento dell’essere umano di fronte alle macchine non è più un atteggiamento difensivo ma un atteggiamento prospettico, progettuale. In particolare si coglie l’opportunità offerta dalla tecnologia robotica come possibilità di crescita tecnologica ed economica.

La saldatura tra il mondo della tecnologia e quello dell’economia rappresenta di fatto il focus della Dichiarazione di Fukuoka. La Dichiarazione sposta l’attenzione dalla macchina agli obiettivi (partnership, assistenza, fratellanza), dai costi (in termini di cessione di spazi di libertà umana, occupati sempre più pervasivamente dalle macchine) ai benefici (in termini di strategie che stimolino il mercato e l’economia). Consapevole di dover vincere una diffidenza alimentata dalla narrazione precedente e dall’oscuro timore umano relativo agli effetti delle proprie opere, la Dichiarazione si sforza di creare un clima di benevola accettazione della coesistenza delle macchine nel mondo degli esseri umani. Come ogni Dichiarazione, anche quella di Fukuoka enuncia principi e delinea percorsi ideali, che non possono essere agevolmente implementati nel mondo reale soprattutto a causa di resistenze inerziali o di vere e proprie azioni di contrasto difficili da eradicare completamente.

La visione della Dichiarazione di Fukuoka è meno “robotetica” di quella delle Leggi della Robotica, almeno nella misura in cui si preoccupa più di guardare agli effetti delle relazioni tra esseri umani e macchine e meno alle implicazioni e ai meccanismi di tali relazioni. Una reborn doll dotata di automatismi e programmata “emozionalmente” si “prende cura” dell’essere umano a livello psicologico (Prospettiva n. 2) aiutando a realizzare una convivenza pacifica nella società (Prospettiva n. 3) e di sicuro è in grado di attrarre investimenti e creare mercato (Parte II.). Sfugge però il background etico, se nel caso di specie ci si allontana dal mero meccanismo della domanda e dell’offerta, del soddisfacimento di un bisogno emotivo da una parte e del raggiungimento di un risultato economico dall’altra.

Non sfugge invece il “pericolo” insito in un meccanismo tanto semplice, cioè il “pericolo” della manipolazione del consenso (qualsiasi cosa possa implicare il concetto di consenso) attraverso l’induzione di un bisogno (Parte II.: tutte azioni rivolte a dilatare la presenza e l’uso di macchine interagenti con esseri umani) o attraverso lo sfruttamento di una debolezza (nella Parte I. la Dichiarazione accetta assiomaticamente il dato per cui l’essere umano appare debole nel compiere un lavoro di tipo etico come l’assistenza e la realizzazione di fraternità mentre le macchine del futuro, prodotto dell’essere umano, sarebbero capaci di aiuto in tal senso).

Tali considerazioni spingono a ritenere che non sia sufficiente offrire una visione alternativa e paradisiaca alla relazione tra esseri umani e macchine per riuscire a determinare in modo certo una strategia etica. Accettando il passaggio mentale dalla robotethics alla human robotethics si deve parallelamente accettare il passaggio mentale da una visione paradisiaca a una visione realistica del rapporto tra essere umano e macchina. Realismo che implica da una parte la rinuncia all’idealizzazione dell’interazione essere umano-macchina, evitando di sovraccaricare quest’ultima di attese (per lo più simboliche) che non è in grado di soddisfare o di paure che appartengono solo alla controparte umana; dall’altra l’assunzione di responsabilità che sono tipicamente umane e non possono essere scaricate su tecnologie, procedure, meccanismi e programmi. Il fondamento dell’etica, in effetti, si ritrova in quella forma di autodeterminazione a compiere buone azioni e a rispondere del proprio operato tipica della libertà.

È a partire dal tema della libertà nel rapporto tra l’essere umano e la macchina che vorrei proseguire la riflessione intorno alla human robotethics per arrivare – se possibile – a suggerire un esalogo (o un decalogo o un dodecalogo) di sintesi.