Digital, Interviste, Interviste in primo piano, Scrittori
Leave a comment

Evgeny Morozov: «i Big Data e l’AI dovrebbero essere un bene comune. Ecco perché»

«Pensiamo che i Big Tech vogliano i nostri click per inondarci di pubblicità. Ma è per allenare le macchine con il Deep Learning e avere il monopolio sui servizi di AI. Con i quali terranno stati e città alla loro mercé». Una chiacchierata con l’attivista sociologo Evgeny Morozov

Parlare con Evgeny Morozov è affascinante e terrificante allo stesso tempo. Perché il politologo e attivista bielorusso, incontrato alla Fondazione Feltrinelli, legge le piccole azioni quotidiane come tessere di un puzzle. Cose come mettere un like a un post, registrarsi su facebook in una città da sogno, sbloccare una bicicletta con una app, correggere una traduzione su Google… Tutto questo, dice Morozov, viene usato per dare forma a un possibile (secondo lui molto probabile) futuro. Non roseo.

Questa intervista è stata pubblicata su D la Repubblica il 22 settembre 2018

«Quelle piccole azioni allenano i sistemi di intelligenza artificiale (AI) che hanno bisogno di input umani per crescere. Quando avremo fornito dati a sufficienza – tra 5 forse 10 anni al massimo – non ci sarà più bisogno di noi. E la pacchia del tutto gratis sulla rete sarà un ricordo».

Che, di per sé, sarebbe già un bel problema: un recente studio dell’MIT ha calcolato che se fossero a pagamento, i servizi attualmente gratuiti online ci costerebbero tra i 15 e i 18mila dollari a testa. Ma è lungi da essere il vero lato spaventoso del racconto di Morozov.

«L’AI, artificial intelligence, può risolvere tanti dei grandi problemi del mondo e tutti la vogliono. Le grandi aziende per produrre meglio spendendo meno. Gli stati per gestire consumo energetico, welfare, traffico, sicurezza. I medici per sconfiggere il cancro. E un po’ tutti per contrastare le fake news. Il problema è che gli unici in grado di creare sistemi di AI sono un pugno di aziende: prevalentemente americane (Google, Facebook, Amazon, Microsoft) ma in parte cinesi (AliBaba, JD, Tencent).

«Da quando i dati servono ad allenare l’AI ogni servizio è progettato per generare sempre più click»

Perché sono loro ad avere accesso ai dati che da quasi 10 anni usano per affinare il Deep Learning. Cioè allenare le macchine attraverso decisioni prese da umani. Saremo insomma tutti – stati, aziende, individui – alla loro mercé».

Si pensa che i servizi online siano gratuiti perché le aziende guadagnano con la pubblicità. Invece lo sono per usarci come personal trainer dei robot?

«La pubblicità fa guadagnare. Ma la costruzione di un monopolio sui servizi di AI molto di più. I due scopi coesistono dal 2009, da quando è stata velocizzata la capacità di Deep Learning (apprendimento profondo) dei computer».

Come funziona il Deep Learning?

«Lo spiego con un esempio. Per far tradurre un testo a una macchina, è sempre stato necessario fornirle dizionari e grammatiche di tutte le lingue. Poi si è scoperto che sfruttando quantità enormi di testi già tradotti era possibile – trasformando le parole in numeri – costruire modelli computistici che rappresentano le relazioni tra le parole per come appaiono in frasi corrette. Quindi non serve che il computer sappia cosa significa la frase: deve solo assicurarsi che la rappresentazione numerica del periodo compiuto corrisponda a quella nell’altra lingua. Cosa che può fare istantaneamente dopo aver digerito miliardi di frasi».

LEGGI: Le Smart City non sono smart, intervista a Bruce Sterling

E ora abbiamo un servizio di traduzione gratuito più performante. Cosa c’è di male?

«Innanzi tutto è gratuito ora ma in futuro chissà. Poi va ricordato che lo abbiamo pagato. Perché Google ha utilizzato i testi scritti dai traduttori delle Nazioni Unite e della Commissione Europea (finanziati con le nostre tasse) per iniziare questo processo a cui contribuiamo ogni volta che correggiamo il sistema. E ricordiamoci che da quando i dati servono ad allenare l’AI ogni servizio è progettato per generare sempre più click. E quanto ci costano fenomeni come la dipendenza da internet (studiata a tavolino) o le fake news? Ma forse non dovremmo preoccuparci, perché alla fine l’AI ci salverà sia dall’addiction che dalle bufale. Così ci dicono quelli che hanno creato entrambi».

Cosa dovremmo fare allora?

«È come chiedere cosa dovremmo fare sul cambiamento climatico. Come individui, di fronte a problematiche strutturali come queste, direi nulla. Anche perché quando qualcuno suggerisce atti individuali di solito si finisce con trovate che rinforzano il nostro ruolo di consumatori invece che di cittadini. A partire dai pensatori neo-liberisti degli anni 40 e 50 è conveniente alle aziende farci credere che con le nostre scelte di acquisto possiamo cambiare il mondo. Spostando così l’attenzione dal fatto che la soluzione dovrebbe essere politica. Possiamo quindi fare qualcosa con le nostre scelte in quanto cittadini, non consumatori».

Nello specifico da cosa pensa potrebbe iniziare il cambiamento?

«Negli Stati Uniti si parla molto di imporre una suddivisione dei server – il cosiddetto “break up Google”. Si pensa che quello che ha funzionato nel primo Novecento per bloccare il monopolio del petrolio fuzioni ora con i dati. Che però quando sono suddivisi perdono gran parte del valore. E lo scopo non deve essere distruggere l’iAI. Non vogliamo rinunciare a utilizzarla per sconfiggere il cancro o ottimizzare l’energia ma far sì che per farlo gli stati e le città non debbano dipendere da enti privati.

Invece di fare a pezzi i giganti del tech, meglio quindi costringerli a riconoscere che i dati non gli appartengono, a renderli anonimi e accessibili alla collettività.

Il loro uso andrebbe poi regolamentato (per esempio gratuito per chi progetta servizi di pubblica utilità, a pagamento per chi ha scopi commerciali). Ma tutto questo dovrebbe accompagnarsi a una strategia industriale robusta e proattiva che permetta a chi è finora rimasto solo a guardare (l’Europa) di sfruttare il talento che esiste in abbondanza nelle sue università per costruire sistemi di AI per il beneficio della collettività».

Alcune città, come Barcellona, si stanno muovendo in questa direzione…

«Nessuna città può competere con la potenza di calcolo di Google, Facebook o perfino Uber, e probabilmente nemmeno una coalizione di città. Anche perché i loro modelli politici ed economici vengono determinati a livello nazionale o globale. Per questo la loro capacità di implementare politiche indipendenti ed efficaci è sotto costante attacco. Nel caso di Barcellona aiuta la spinta alla creazione di una “sovranità tecnologica”, cioè mettere i cittadini in grado di avere voce in capitolo su come operano e qiali finalità perseguono le infrastrutture tecnologiche.

Leggi: Francesca Bria sulla sovranità tecnologica di Barcellona

Ma tante città hanno sbagliato strada del tutto, credendo a promesse di maggiore efficienza garantita dalle start up, di maggiore creatività generata dagli hackleton e di maggior trasparenza attraverso iniziative di open government. Le quali però invece di eradicare le corruttele del pubblico forniscono motivazioni per tagliare anche comparti che in realtà funzionano piuttosto bene. Invece sarebbe utile riformulare il diritto alla città come un “diritto di tutti i diritti”. Perché l’alternativa consiste nel rischio che i giganti digitali continuino a definire ogni diritto come un servizio. Che sarà gratuito finché sarà loro possibile raccogliere e accumulare dati».

Se le città hanno un potere troppo limitato, chi dovrebbe iniziare questo movimento?

«Gli stati o, ancora meglio, l’Unione Europea, perché serve coraggio, coesione e potenza di fuoco».

Dobbiamo essere ottimisti?

«È sempre bello esserlo. Ma francamente come si può pensare che i paesi d’Europa si mettano d’accordo su una tematica che genere quando non riescono nemmeno a trovare punti in comune per quanto riguarda la politica fiscale?»

Evgeny Morozov ha appena pubblicato, insieme a Francesca Bria, Ripensare le Smart City (Codice Edizioni)

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *