In Estonia è legale testare le auto che si guidano da sole in strada. La nazione più digitalizzata al mondo punta aprovarne tra le 3 mila e le 5 mila l’anno prossimo. “Qui – spiega Marten Kaevats, biondo ragazzone di 33 anni con gli occhiali da sole in testa e un completo con le toppe ai gomiti, che è consigliere del primo ministro per il digitale ma anche responsabile dei progetti di Intelligenza Artificiale – stiamo avviando una task force che si occupi della cosiddetta ‘responsabilità dell’algoritmo’”. Il concetto è il seguente: quando si sperimenta un prototipo, una innovazione tecnologica, qualcosa può andare storto. E quando quel qualcosa va storto, la responsabilità ricade sull’azienda che sta effettuando la sperimentazione. Con il rischio, secondo chi teorizza la “responsabilità dell’algoritmo”, che l’evoluzione tecnologica si areni per il timore del danno.
Ad esempio è stato svelato che l’incidente di Uber (una donna investita da una delle auto in test per la guida autonoma) era dipeso da un cosiddetto “falso positivo”: i sensori dell’auto avevano rilevato la presenza di qualcosa, ma avevano deciso di ignorarla forse scambiandola per un ostacolo non rilevante come una busta di plastica. “Per le auto – spiega Kaevats – di solito i governi intervengono modificando le leggi stradali. Noi non vogliamo risolvere il problema della responsabilità in ogni singolo settore ma a livello generale. È una questione filosofica, morale, etica”.
Non solo posti di lavoro, quindi. Se le auto a guida autonoma sono troppo poco umane, c’è anche il problema opposto: a inizio maggio, alla conferenza degli sviluppatori di Google è stato presentato Duplex, una evoluzione dell’assistente vocale di Mountain View in grado di telefonare con una voce fin troppo umana. Riproduceva esitazioni, mugugni, battutine di spirito, intercalari. Aveva prenotato un tavolo al ristorante e una pedicure. Docenti universitari, opinionisti, analisti, si erano indignati. “Orripilante – aveva twittato Zeynep Tufekci, professoressa alla University of North Carolina studiosa dell’impatto delle tecnologie sulla società – Google Assistant che fa telefonate fingendo di essere umano e non dicendo di essere un bot… La Silicon Valley è eticamente persa, alla deriva”. Il confine tra intelligenza artificiale e umanità si assottiglia: che l’innovazione di Google&C. rischi di arenarsi proprio sul tema etico?
In gioco c’è molto. Secondo BoAML Research (della banca d’investimento Bank of America Merrill Lynch), data la grande quantità di informazioni digitali globali acquisite in volumi sempre crescenti – il 90% di tutti i dati digitali è stato creato negli ultimi due anni – ci sono enormi opportunità di mercato per l’Intelligenza artificiale e si dovrebbero raggiungere 127 miliardi di dollari nel 2025, rispetto ai 3,6 miliardi nel 2016. L’anno scorso, 12 miliardi di dollari sono stati investiti su hardware, software e servizi focalizzati sull’Intelligenza artificiale, una cifra che potrebbe raggiungere quasi 60 miliardi di dollari entro il 2021. I big della tecnologia, poi, da Google ad Apple, Facebook, Twitter, Intel e Microsoft hanno acquisito dal 2012 oltre 250 aziende private che utilizzano algoritmi per l’Intelligenza artificiale, 37 solo nel primo trimestre del 2017. Inoltre, a fine aprile la Commissione europea ha presentato una serie di misure per promuovere ricerca e sviluppo: 2 miliardi di euro entro il 2020 per favorire un investimento da parte dei settori pubblico e privato di almeno 20 miliardi di euro.
Inoltre, la Commissione europea ha nominato 52 persone – 30 uomini e 22 donne – selezionate da un pool di 500 esperti di Bosch, Bmw, Bayer e Axa e ricercatori di Google, Ibm, Nokia, Zalando e Santander per l’High level group on artificial intelligence (Hlg AI) per un gruppo di esperti di alto livello che si riunirà per la prima volta il 27 giugno e che dovrà formulare le linee guida etiche sull’uso dell’AI e le raccomandazioni sui principi da seguire nello sviluppo di questa tecnologia. Quattro gli italiani: Stefano Quintarelli, ex parlamentare e presidente del comitato di indirizzo dell’Agenzia per l’Italia digitale, Luciano Floridi, docente di filosofia ed etica dell’informazione a Oxford, Andrea Renda, ricercatore del Ceps esperto di innovazione digitale, e la ricercatrice dell’Ibm sull’intelligenza artificiale Francesca Rossi, docente in congedo dell’Università di Padova.
Sul tema, non c’è solo la questione della responsabilità. L’altra sfida fondamentale sarà lottare per rendere gli algoritmi trasparenti, permettere a chiunque di capire come funzionano: come spiega l’accademico e data scientist di Microsoft, Miguel González-Fierro in un suo paper dal titolo Le dieci questioni etiche dell’Intelligenza artificiale e i robot, gli algoritmi elaborano i loro risultati sulla base della qualità dei dati che vengono utilizzati per addestrare e far funzionare il software. Software a cui vengono affidati incarichi spesso delicati, proprio in virtù della loro presunta oggettività, dalla selezione del personale alla elaborazione di turni. Il rischio, spiega Fierro, è che i dati siano intrisi degli stessi pregiudizi umani e che dovrebbero invece essere in grado di superare.
“Quando programmiamo questi algoritmi, dobbiamo essere consapevoli dei loro limiti, trasparenti con gli utenti, spiegando come funziona l’algoritmo”. Nella speranza che qualcuno sia in grado di capirlo.