Decartes
il manifesto 21.3.18
Il capitalismo e la banalità dell’algoritmo
Facebook e Uber poco smart. Il mito dell’Intelligenza artificiale risale ai tempi di Cartesio. Ma da anni scienziati come Damasio o Cini hanno descritto quell’«impasto» di ragione e sentimento che è l’uomo
di Enzo Scandurra
Quello dell’Intelligenza Artificiale è un vecchio mito che sopravvive almeno dai tempi di Cartesio in poi.
La metafora del calcolatore moderno è infatti basata sulla distinzione tra corpo e mente.
Sulla distinzione cioè tra emozione e intelletto, sentimenti e capacità raziocinante. Secondo questo approccio riduzionista, il corpo dell’uomo, deteriorabile e imperfetto, ospiterebbe, proprio come l’hardware di un pc, una mente perfetta, il software, la parte nobile dell’essere umano.
Tra le due parti non ci sarebbe alcun rapporto: una rappresenta il contenitore, l’altra il contenuto. Peccato che l’avanzamento della scienza abbia smentito da tempo questo luogo comune.
Già nel 1984 il neurobiologo Antonio Damasio sconfessò questo mito con il suo celebre libro, L’errore di Cartesio, partendo dal famoso incidente capitato a Phineas Gage, l’operaio che sopravvisse alla ferita infertagli da un’asta metallica che gli trapassò il cranio da una parte all’altra.
GRAN PARTE dei sentimenti umani originano da uno stato corporeo. Il rapporto indissolubile corpo-mente è l’esito di un lungo processo evolutivo durato milioni di anni. La scienza e la medicina occidentale, invece, trattano separatamente i due elementi, il corpo e la mente, come fossero indipendenti, come fossero parti separate, parti di una macchina banale, per usare l’espressione di von Foerster che chiamava medici e chirurghi semplici banalizzatori, al pari dei meccanici che riparano le auto.
Una macchina è banale se è caratterizzata da una relazione uno-a-uno tra input e output, se, dato uno stimolo A, produce sempre la risposta B. Se fa sempre la stessa cosa, insomma. Schiaccio il pulsante, e vien fuori l’aria calda, giro la chiave e si accende il motore.
Secondo la (falsa) tradizione occidentale meccanicistica, l’essere umano sarebbe più o meno una macchina banale le cui parti risultano non connesse e pertanto sostituibili a piacere.
LE EMOZIONI o i sentimenti influenzano le nostre capacità raziocinanti e meno male che sia così! Quella intelligenza (semmai ci fosse) che non si fa condizionare dai sentimenti sarebbe una intelligenza fredda, incapace di comunicare con altri, astratta, incapace di comprendere il dolore, l’altruismo, la solidarietà, l’amore: l’algoritmo appunto.
Diceva Marcello Cini: «Il soggetto acquista “conoscenza” dell’oggetto di natura diversa perché non è più soggetto esterno, ma diventa un soggetto “interno” a un metasistema che lo comprende insieme all’oggetto, e questo coinvolgimento induce in lui, in quanto organismo integrato di cervello e visceri, un insieme di reazioni fisiche e mentali diverse da quelle che provoca in lui l’esperienza di chi descrive dall’esterno in modo che altri soggetti interagiscono con gli oggetti con i quali sono a loro volta coinvolti attraverso esperienze emotive» (Cini, 1999). Se fosse vera la dicotomia tra sentimenti e ragione, sarebbe una dicotomia allucinante che genererebbe mostri. Siamo invece un «impasto» evolutivo complesso tra capacità raziocinante e sentimenti, meschini o nobili che siano.
Queste semplici considerazioni mi sono venute leggendo l’articolo di Roberto Ciccarelli, Anche la-macchina-che-si-guida-sola di Uber uccide (il manifesto del 19 marzo) che descrive l’uccisione di un pedone che stava attraversando la strada da parte di un veicolo autoguidato, a Tempe, periferia di Phoenix.
Ancora sopravvive il mito che una mente infallibile basata su un algoritmo sia più sicura di un’auto guidata da un umano, perché – dicono le ditte produttrici di tali veicoli – una distrazione umana può causare un incidente mortale.
QUESTO FALLACE MITO è mantenuto in vita dalle grandi Corporation per battere la concorrenza degli avversari e mantenere alti i profitti. In quello che è il suo ultimo libro (Il supermarket di Prometeo, la scienza nell’era dell’economia della conoscenza, Codice edizioni, 2006), Marcello Cini si occupava di questo tema a lui caro, affermando che: «Il XXI secolo si sta sempre più caratterizzando come l’epoca in cui, grazie agli strumenti forniti dalla scienza e dalla tecnologia, la produzione e la distribuzione di beni materiali viene progressivamente sostituita dalla produzione e dalla distribuzione di un bene collettivo e non tangibile: la conoscenza, sia essa l’ultima frontiera della ricerca piuttosto che l’intrattenimento di massa. Tutto questo in nome di una presunta democratizzazione del sapere che però risponde ed è soggetta unicamente alle leggi di mercato imposte da un’economia capitalistica e sempre più invasiva. Ma c’è una contraddizione profonda fra la produzione di conoscenza frutto al tempo stesso di una creatività e del patrimonio culturale comune all’umanità intera attraverso un processo evolutivo non finalistico, e la crescita dell’economia che è finalizzata alla produzione di profitto».