La Stampa TuttoScienze 6.9.17
Le nostre vite in balìa degli algoritmi
È ora di inventare nuove idee e nuove leggi
Le macchine ci osservano, ma questo rapporto senza precedenti non è privo di pericoli
di Nello Cristianini

A 13 anni passavo molto tempo al computer e questo non sarebbe strano se non fosse stato il 1981. Il massimo che potevo fare con il mio ZX80 era scrivere programmi di poche righe, giochi semplici o piccole formule matematiche, che poi si perdevano quando lo spegnevo.
Giunto al ginnasio, un vecchio salesiano del convento vicino mi dava ripetizioni di greco. Si chiamava don Antonio e un giorno venne a sapere del mio strano passatempo e mi chiese di poter vedere un computer, di cui aveva tanto sentito parlare alla televisione. Così organizzammo una visita a casa mia e, non appena vide la piccola scatolina bianca con la tastiera blu, collegata a un televisore in bianco e nero, la guardò con aria sospettosa.
Chiedigli: «Quando è nato Alessandro Magno?». Cercai di spiegare che non era quello il modo di usare un computer, ma lui insistette e mi fece scrivere la domanda per esteso. La risposta fu inevitabile: «Syntax error». Deluso, don Antonio fece per andarsene, quando gli proposi: «Se aspetta cinque minuti, posso programmarlo». Era una cosa semplice. A qualsiasi domanda scritta rispondeva sempre: «356 avanti Cristo».
La reazione non fu quella che mi aspettavo. Vista la risposta corretta, disse quasi arrabbiato: «Per forza adesso lo sa, glielo hai detto tu. Lo saprebbe anche un bambino, adesso». Mentre spiegavo che i computer non possono sapere cose che nessuno gli ha detto, il prete si voltò concludendo: «Queste cose non saranno mai meglio di noi».
Anni dopo, quando vidi Siri per la prima volta, fu questa la mia prima domanda e la risposta giunse puntuale: «Alessandro Magno è nato a Pellas nel 356 a.C.». Don Antonio era morto da decenni e io ero diventato un ricercatore nel campo dell’Intelligenza Artificiale, avevo lavorato in California e in Inghilterra, avevo scritto libri importanti e capivo abbastanza bene come Siri avesse risposto a quella domanda. Mi venne voglia di andare indietro nel tempo, anche per poco, per spiegare a don Antonio quella meraviglia. Ma, se anche fosse stato possibile, come sarebbe andata quella conversazione? Pensiamoci un attimo.
«Tra circa tre anni qualcuno inventerà Windows che consentirà a tutti di usare i computer; tra 13 anni tutti avranno un computer e si inventerà un modo semplice di collegarli alle linee telefoniche per scambiarsi informazioni; tra 15 anni migliaia di persone collaboreranno per creare un’enciclopedia alla quale si può accedere solo mediante questa rete di computer. E tra 25 anni tutto questo si farà mediante computer potentissimi ed economici, contenuti nel telefono, solo che i telefoni saranno collegati alla rete via radio e li terremo in tasca. E tra 30 anni - usando metodi di statistica - dei supercomputer riusciranno a comprendere le domande ed estrarre le risposte appropriate. In particolare, la data di nascita di Alessandro Magno, che qualcuno avrà già scritto nell’enciclopedia online».
Chi mi avrebbe creduto, nel 1981? Un computer nel telefono che legge un’enciclopedia accessibile via telematica e che comprende il linguaggio? È stata un’evoluzione rapidissima, in una direzione interamente improbabile. Avendo preso parte alla ricerca in «machine learning» e Intelligenza Artificiale per oltre 20 anni, posso garantire che tutti sono stati sorpresi dall’accelerazione degli ultimi anni.
La chiave dell’Intelligenza Artificiale moderna è proprio nel «machine learning», la mia disciplina, che crea algoritmi in grado di imparare dagli esempi. Ma il vero ingrediente essenziale sono gli esempi stessi, i dati. Le macchine intelligenti di oggi possono imparare a tradurre, a trascrivere, a riconoscere i volti, a raccomandare i libri o a bloccare email moleste, se hanno accesso a milioni di esempi. E qui la storia dell’«AI» - l’«Artificial Intelligence» - si combina con la storia di Internet e della convergenza che ha consentito tra servizi bancari, telefonici, postali e di intrattenimento. È mediante questa infrastruttura che le macchine intelligenti possono osservarci e imparare a comportarsi: quali raccomandazioni sono appropriate, quali lettere sono sgradite, quali pagamenti sono improbabili e quindi le possibili frodi e avanti così.
E qui nascono anche i problemi legati a questo spettacolare successo: il combustibile che consente agli algoritmi intelligenti di funzionare è rappresentato da masse enormi di dati e spesso questi sono dati personali. Solo lavorando a stretto contatto con noi, e osservandoci continuamente, queste macchine possono imparare. Questo è possibile perché i servizi online (motori di ricerca, reti sociali, negozi) si propongono come mediatori di tutte le nostre interazioni - osservandole da vicino - e ricordano tutto.
Questo fatto apre la porta a un nuovo tipo di problemi, che abbiamo incominciato a vedere. Da un lato ha reso possibile la sorveglianza di massa, come abbiamo scoperto con il caso Snowden, su una scala che sarebbe stata impensabile prima. E dall’altro ha creato opportunità commerciali: lo scorso anno la compagnia assicuratrice Admiral ha proposto di usare quello che scriviamo su Facebook per inferire aspetti della nostra personalità e poi calcolare se abbiamo diritto a uno sconto; la compagnia Cambridge Analytica ha usato le stesse informazioni per scegliere i più efficaci messaggi elettorali per convincere ciascun utente; notizie false sono state diffuse durante le elezioni americane da algoritmi che possono capire se una storia diventerà popolare, ma non se è vera; sempre negli Stati Uniti degli algoritmi vengono usati per decidere quali detenuti possono essere rilasciati, per esempio con il sistema «Compas» usato in Wisconsin. Tutto grazie al «machine learning» e ai dati.
Questo è avvenuto così rapidamente che non abbiamo fatto in tempo a maturare dei concetti etici, culturali e legali. Ci sono molte domande a cui dovremmo rispondere prima di poter usare con fiducia queste nuove tecnologie. Che cosa facciamo se un algoritmo ci nega la libertà su cauzione, o un mutuo, o l’ammissione a una scuola? E che cosa facciamo se l’opinione pubblica viene influenzata da algoritmi che decidono che notizie leggiamo?
La risposta non è chiara, ma dovrà venire da tutti, non solo dagli ingegneri, ed è giunto il momento di coinvolgere studiosi di ogni disciplina. Qui, almeno, don Antonio avrebbe saputo dire la sua, da buon classicista: qualunque soluzione troviamo dovrà mettere l’Uomo al centro di questi nuovi meccanismi.