Repubblica 28.4.15
Molti studiosi chiedono di valutare criticamente tecnoscienza e robotica
Così l’umano può difendersi dal postumano
di Stefano Rodotà

Pubblichiamo una sintesi della lezione tenuta il 23 aprile da Stefano Rodotà all’università di Perugia in occasione dell’inaugurazione dell’anno accademico

NEL 1950 Norbert Wiener pubblica le sue riflessioni su cibernetica, scienza e società, e sceglie come titolo L’uso umano degli esseri umani . Parole in cui si coglie l’eco di un tempo cambiato dalla bomba atomica, che indurrà nel 1956 Guenther Ander a dire che L’uomo è antiquato, e a scrivere: «Come un pioniere, l’uomo sposta i propri confini sempre più in là, si allontana sempre più da se stesso; si “trascende” sempre di più — e anche se non s’invola in una regione sovrannaturale, tuttavia, poiché varca i limiti congeniti della sua natura, passa in una sfera che non è più naturale, nel regno dell’ibrido e dell’artificiale». Questo congedo dall’umano era cominciato almeno un quarto di secolo prima.
Quando Julien Huxley aveva inventato il termine “transumanismo”, riferito poi alla «tecnologia che permette di superare i limiti della forma umana». Molte trasformazioni sono già visibili, si parla del corpo come un nuovo “oggetto connesso”, una “nanobio- info-neuro machine”, che annuncia la fine dell’età umana. Quale spazio rimarrebbe per quell’attività umana che consiste nell’agire libero e nel dare regole all’agire? Scomparirebbero i diritti “umani”, e con essi i principi di dignità e eguaglianza? L’orizzonte si è dilatato, la definizione del postumano non è riferita solo alle innovazioni legate a biologia e genetica, ma è il risultato della convergenza di elettronica, intelligenza artificiale, robotica, nanotecnologie, neuroscienze. Alla realtà “aumentata” dall’elettronica si accompagna la prospettiva dell’uomo “aumentato”.
O piuttosto spossessato di tratti dai quali riteniamo che l’umanità non possa essere separata? Verrà un giorno, dicono i più radicali tra i transumanisti, in cui l’uomo non sarà più un mammifero, si libererà del corpo, sarà tutt’uno con il computer, dal suo cervello potranno essere estratte informazioni poi replicate appunto in un computer, e potrà accedere all’immortalità. E l’intelligenza artificiale viene presentata come quella che ci libererà da malattie e povertà. Perché, allora, quattrocento scienziati chiedono di valutarla con attenzione critica?
In quel documento si parla di sistemi autonomi, veicoli autonomi, forme autonome di produzione, armi letali autonome. Ma autonomia rispetto a che cosa? La comparazione è con situazioni in cui le decisioni sono affidate alla consapevolezza delle persone. Ora, invece, l’autonomia sembra abbandonare l’umano e divenire carattere delle cose, capovolgendo la prospettiva di un postumano come “meglio dell’umano”, finendo con il presentarsi piuttosto come ideologia della tecnoscienza.
Ma già viviamo l’eclisse dell’autonomia della persona nel tempo del capitalismo “automatico”, dove una ininterrotta raccolta di informazioni sulle persone affida ad algoritmi la costruzione dell’identità. «Tu sei quel che Google dice che tu sei»: su questa base la persona viene classificata e rischia d’essere valutata per le sue propensioni e non per le sue azioni.
Sono continui gli scambi tra l’umano, il postumano e un mondo delle cose sempre più autonomo. Passiamo dall’Internet 2.0, quello delle reti sociali, all’Internet 3.0, quello delle cose. E il mondo delle cose è trasformato dalla presenza dei robots. Anche robot virtuali, appunto gli algoritmi che consentono il funzionamento dei computers che governano determinate attività, e sociali, ai quali dovrebbe essere riconosciuta “una piccola umanità”. Piccola come unica possibilità o primo passo verso una integrale “umanità” della macchina?
Si annuncia una sfida definitiva. Non solo l’assunzione di sembianze di macchina da parte dell’umano. Ma la creazione di sistemi artificiali in grado di imparare, dotati di una forma di intelligenza propria che li metterebbe in grado di sopraffare l’intelligenza umana, di creare una simbiosi macchina/uomo influente appunto sull’evoluzione della specie. In questo intreccio tra dati del presente e proiezioni nel futuro si colloca la faticosa costruzione di un contesto di regole e principi, di una RoboLaw in grado di massimizzare i benefici della seconda rivoluzione delle macchine.
Una nuova forma sociale si manifesta. Una società liberata dal lavoro o insidiata da più profonde servitù? Trasformazioni guidate dal profitto o dall’interesse per le persone? Interrogativi che mostrano come le risposte non possano essere affidate all’intelligenza artificiale, ma a quella collettiva. Il vero rischio, infatti, non è quello di una politica espropriata dalla tecnoscienza. È il suo abbandonarsi a una deriva che la deresponsabilizza, e induce a concludere che davvero malattia e povertà siano affari ormai delegabili alla tecnica e non problemi da governare con la consapevolezza civile e politica.
Tornano i principi di riferimento. Lo human enhancement, il potenziamento dell’umano non evoca soltanto rischi, ma descrive recuperi di funzioni perdute, accesso ad opportunità nuove, arricchimento di legami sociali. Si incontra il tema della libertà e dell’autonomia, poiché il potenziamento non può risolversi nella disponibilità del corpo altrui. Né può essere violato il principio d’eguaglianza. Quale criterio governerà l’accesso alle opportunità offerte dalla tecnoscienza? Il potenziamento dell’intelligenza sarà riservato a chi dispone delle risorse necessarie per comprarlo sul mercato? E la dignità scompare quando gli interventi sul corpo determinano dipendenza dall’esterno.
Queste vicende dell’umano rinviano a due processi: l’ominizzazione, dunque l’evoluzione biologica, con l’emersione di una sola specie umana, con un processo di unificazione tendente all’universalismo; e l’umanizzazione, dunque l’evoluzione che si è articolata attraverso le culture, con un processo di diversificazione tendente al relativismo. Oggi l’accento dovrebbe cadere piuttosto sull’ominizzazione, poiché la profondità del mutamento dei processi biologici e il loro intersecarsi con la tecnoscienza sembrano portare ad una diversificazione della specie umana, fino alla creazione di nuove specie. Nei processi di umanizzazione, al contrario, si colgono significativi segni di un movimento verso l’unificazione, di cui è testimonianza il diffondersi di norme giuridiche comuni nei settori in cui l’umano è messo più visibilmente alla prova dalla tecnoscienza.
Possiamo fermarci alla contemplazione di questo orizzonte, che può apparirci smisurato? O dobbiamo guardare oltre, tornando a quell’uso umano degli esseri umani citato all’inizio? Chi ne porta la responsabilità? La diffusione della robotica, come già per l’elettronica, concentra potere nelle mani di chi controlla la dimensione tecnica. Con l’esasperata enfasi sul potere individuale il progetto transumanista finisce con l’incarnare la logica di una competitività senza confini. Se qualcuno soccombe, è solo perché non è stato capace di cogliere le opportunità offerte dalla tecnoscienza.
L’umano, e la sua custodia, si rivelano allora non come una resistenza al nuovo, al timore del cambiamento o come una sottovalutazione dei suoi benefici. Si presentano come consapevolezza critica di una transizione che non può essere separata da principi nei quali l’umano continua a riconoscersi. Non è impresa da poco, né di pochi. Esige un mutamento culturale, un’attenzione civile diffusa, una coerente azione pubblica. Parlare di una politica dell’umano, allora, è esattamente l’opposto di pratiche che vogliono appropriarsi d’ogni aspetto del vivente.