Arte e tecnologia, due poli solo apparentemente opposti: l’uno può amplificare infatti le potenzialità dell’altro, dal loro incontro il mondo può beneficiare. In questo articolo è l’arte – ed in particolare le due artiste Sinders e Buolamwini – che si fa portavoce di una necessaria inclusività all’interno del dominio della Data Science, per garantire una tecnologia più democratica, giusta e di conseguenza un futuro più equo ed etico.
Che ogni artefatto riproducesse e rinforzasse specifici pregiudizi sociali era già un dato di fatto prima dell’avvento del Machine Learning. Se gli airbag delle macchine furono inizialmente pensati e testati per essere compatibili con il corpo maschile finendo per causare tragici incidenti a donne incinta, le tecnologie domestiche dello scorso secolo furono progettate primariamente per le casalinghe. Sono da sempre le norme sociali a designare una tecnologia ad un genere specifico e ad una provenienza precisa: oggi la priorità viene evidentemente assegnata all’uomo occidentale.
Crolla il mito dell’oggettività degli algoritmi per via dei sempre più frequenti, vari ed ormai noti eventi discriminatori verificatisi negli ultimi anni e dipendenti proprio dagli algoritmi di Machine Learning: ad esempio, nel 2015 i risultati della ricerca su Google Image di “CEO” ritraevano principalmente uomini bianchi ed il riconoscimento facciale di Flickr etichettava persone di colore con nomi di certi animali.
Risulta dunque chiaro come le nuove tecnologie contribuiscano a rafforzare le attuali strutture di potere e determinino il protrarsi di quei pregiudizi razzisti e sessisti tipici dell’Occidente nei confronti di donne e minoranze.
L’origine dei bias che caratterizzano problematicamente gli algoritmi di Machine Learning è riscontrata nelle primissime fasi della loro creazione: specificamente nell’immissione di dati che alimentano gli algoritmi. È dunque l’uomo stesso a trasferire i pregiudizi sociali esistenti, i propri valori e vedute – sia volontariamente che non – a tale tecnologia, in fase di collezione, selezione e categorizzazione dei dati.
Questa circostanza dipende principalmente dalla preponderante presenza di uomini occidentali bianchi a discapito della componente femminile nei team di design degli algoritmi. La carenza di una prospettiva differente in fase di programmazione comporta una conseguente mancanza di diversità nei data sets che produce un’amplificazione delle sistematiche discriminazioni sociali esistenti.
L’artista, già definito da McLuhan nel 1967 come “l’uomo dalla conoscenza integrale”, rappresenta tuttavia una figura che attraverso un’attitudine più aperta e creativa e una vocazione solitamente inclusiva potrebbe entrare nel campo della Data Science e fronteggiare queste attuali delicate condizioni. Infatti, vari artisti hanno già avanzato brillanti proposte risolutive, due fra tutti: Sinders e Boulamwini.
Caroline Sinders, artista ed esperta di Machine Learning design, propone l’integrazione della prospettiva del femminismo intersezionale nella costruzione dei dataset che allenano gli algoritmi di Machine Learning attraverso il suo progetto The Feminist Data Set.
Questo approccio alla Data Science, teorizzato da D’Igniazio e Klein, prevede la considerazione di tutti quei tasselli che contribuiscono alla formazione dell’identità di ciascuno: non fermandosi perciò soltanto al genere, ma tenendo presente al contempo fattori come la classe e la provenienza.
Lo scopo dell’artista è quello di portare avanti un progetto pluriennale (dal 2017 a data da definirsi poiché tuttavia in corso), in cui in ogni step della costruzione di algoritmi di Machine Learning preveda l’adozione del femminismo intersezionale per rimuovere ogni bias e per giungere infine alla concreta realizzazione di un’AI femminista.
Questo processo dalla creazione all’archiviazione dei dati rappresenta un atto di protesta sia artistico che politico contro l’attuale amplificazione da parte degli strumenti tecnologici della supremazia occidentale maschile. Sinders definisce il suo progetto proprio come una risposta ai “casi documentati dei problemi nella tecnologia e dei bias nel Machine Learning” e un punto di partenza verso un futuro complessivamente più equo ed etico.
L’intento, seppur perseguito in maniera differente, corrisponde a quello esplicitato dalla poetessa ed accademica Joy Buolamwini in AI, Ain’t I A Woman. Nella sua performance poetica, l’artista denuncia l’incapacità degli algoritmi di Machine Learning di riconoscere le donne di colore, persino fallendo con le più famose come Serena Williams o Oprah Winfrey. Buolamwini attraverso l’arte, specificamente The poetry of code, si propone di esplorare le implicazioni sociali degli algoritmi di Machine Learning e risolvere i risvolti ingiusti ed iniqui.
L’artista ha inoltre fondato a tal scopo un’organizzazione per la “giustizia algoritmica” dove coloro che hanno esperito discriminazioni legate all’intelligenza artificiale si ritrovano e contribuiscono alla creazione di data sets più inclusivi.
Buolamwini sostiene che, per creare un ambiente in cui la tecnologia sia destinata e funzioni per tutti, il fattore cruciale sia l’inclusione di individui diversi per background e identità nei team di programmazione, così che ognuno possa rimediare ai potenziali bias dell’altro.
La capacità degli artisti di abbracciare la diversità li rende attori imprescindibili per la lotta contro le ingiustizie perpetuate dagli strumenti che incorporano la tecnologia di Machine Learning: dalle precedentemente citate ai software di associazioni di parole, dalle pubblicità online a certe app di Photo Shopping come FaceApp.
Il vortice creativo pare muoversi propositivamente verso una direzione sia critica che risolutiva. Infatti, oltre a Sinders e Buolamwini, svariati altri artisti hanno apportato il loro contributo e preso parte ad un’organizzazione internazionale di artisti che esplorano l’Intelligenza Artificiale chiamata AIArtists.
Il ruolo dell’artista storicamente è quello dell’esplorazione, dello spostamento dei limiti o della loro stessa cancellazione, l’immaginazione e la creazione anche concreta di universi inediti e nello specifico incontro con la tecnologia solitamente sono gli attori che conducono alla sua democratizzazione. Difatti, sin dalla sua riproducibilità tecnica, gli artisti sono stati in grado di allargare la partecipazione al processo tecno-scientifico, diffondendo e conseguentemente democratizzando la conoscenza degli strumenti tecnologici.
Relativamente al preciso caso degli algoritmi di Machine Learning, gli artisti potrebbero contribuire al concepimento di dataset più inclusivi da cui successivamente l’algoritmo apprende.
Marie Benney, la fondatrice dell’associazione AIArtists sostiene infatti che vi sia la necessità di incanalare la creatività di artisti, poeti, musicisti e filosofi da tutto il mondo nell’investigazione delle nuove tecnologie al fine di rendere le loro performance etiche, eque e giuste.
Sinders e Buolamwini stanno già combattendo contro i bias e le discriminazioni algoritmiche predisponendo le loro azioni artistiche come proteste, come atti volti a intaccare l’attuale supremazia maschile ed occidentale, con approcci innovativi basati primariamente sull’inclusione delle diversità.
Per ovviare all’incorporazione di pregiudizi negli algoritmi di Machine Learning occorre perciò che i team di programmazione siano rappresentativi di un ampio spettro di prospettive, generi, provenienze, background e valori cosicché sia garantita la rappresentatività all’interno dei dataset che alimentano gli algoritmi. Ogni artista che si fa portavoce dell’inclusione di ogni forma di diversità in nome di una maggiore giustizia tecnologica e sociale rappresenta un soggetto chiave che il dominio della Data Science dovrebbe considerare.
L’arte è in grado di rivoluzionare la tecnologia e al contempo lasciarsi influenzare da essa, come il Mar Baltico e quello del Nord si incontrano seppur senza mischiarsi, e dal loro combaciare può scaturire meraviglia che beneficia la società ed ogni suo membro.
