Questo articolo prosegue da un precedente dello stesso redattore, clicca qui per leggerlo.
Ad oggi i bias nelle IA ci sono. E possono fare danni. E quando il danno è fatto? A chi dare la colpa? L’Accountability nell’intelligenza artificiale rappresenta una sfida cruciale: chi è responsabile quando un sistema di IA causa danni o prende decisioni problematiche? Ad esempio, se un algoritmo di riconoscimento facciale usato dalla polizia identifica erroneamente un innocente come sospetto, causando un arresto ingiustificato, chi ne risponde? Lo sviluppatore del software, l’agenzia che l’ha implementato, o chi ha addestrato il sistema? Purtroppo non è facile definire quadri normativi specifici; l’Explainable AI e l’istituzione di enti che possano certificare i sistemi di IA non risolvono il problema, solo un aperto dibattito e un allineamento etico tra le parti sociali può avvicinarci ad una soluzione, ma fino ad allora vale ciò che c’era scritto sui manuali dei computer IBM degli anni ‘70: «A computer can never be held accountable, therefore a computer must never make a management decision».
Supponiamo però di riuscire ad allineare una IA con dei valori etici universalmente condivisi (dove il problema principale è quell’«universalmente»), rimane la questione di cosa farsene, di queste IA.
Dopo qualche esperimento goliardico il pensiero va subito alle possibili applicazioni nel nostro lavoro, qualsiasi esso sia, ed è qui che la potenza trasformativa dell’IA presenta nuove sfide sociali.
L’avvento di fabbriche completamente automatizzate (note come Dark Factory, come quella di Xiaomi), la possibilità di scrivere un codice ricorrendo ad un numero ristretto di programmatori (come pare essere l’intenzione di Meta), la semplificazione del distant reading in campo umanistico (ad esempio per lo studio delle fonti filologiche) sono esempi di pratiche che offrono la possibilità di ridurre significativamente il carico di lavoro e dunque la necessità di manodopera umana. Le conseguenze che questo può avere sul versante sociale dipende molto da come verrà gestita questa “liberazione” dal lavoro: bilanciare le opportunità e i rischi in questo ambito è una responsabilità congiunta di governi, datori di lavoro e sindacati; si andrà verso una crisi occupazionale ed una conseguente estremizzazione delle disuguaglianze sociali? Finiremo come i personaggi umani del film WALL•E, obesi e annoiati davanti a degli schermi senza nessuna forma di arricchimento ambientale? O riusciremo a realizzare un sistema produttivo equo e solidale?
Per ora pare che con la scusa dell’IA si lavori di più, perché «tanto c’è chat gpt che aiuta».
Dopo la goliardia e il lavoro, ovviamente l’essere umano non può che pensare all’uso dell’IA per fini malevoli (e in questo caso, per citare un poeta del secolo scorso, non posso che riconoscerne una valenza «positiva perché è formativa come esperienza negativa»).
Ad esempio le capacità persuasive dell’IA possono essere sfruttate per la manipolazione dell’opinione. Attori malintenzionati possono generare contenuti altamente persuasivi e ingannevoli su larga scala, condizionando le idee degli utenti su temi sensibili. Un esperimento (non autorizzato) svolto su Reddit da dei ricercatori di Zurigo ha dimostrato come dei bot possano personalizzare i commenti basandosi sui dati degli utenti e influenzare con successo le loro opinioni, evidenziando i rischi della manipolazione psicologica su vasta scala. La vigilanza degli utenti e gli interventi normativi sono cruciali per contrastare questi fenomeni.
La violazione della privacy è poi un altro rischio intrinseco dell’IA, che sorge sia durante la raccolta dei dati di addestramento (spesso ottenuti attraverso lo scraping di informazioni personali dal web) sia dall’output dell’IA generativa, che potrebbe rivelare dati personali.
Proteggere i diritti dei consumatori, inclusa la protezione dei dati e la privacy, è fondamentale nell’uso dell’IA. Le politiche di condivisione dei dati devono essere rigorose e i dati resi difficili da diffondere. Anche affidarsi all’uso di modelli locali (cioè eseguiti non dal web ma dal proprio computer, come è possibile fare con Llama di Meta) può essere una contromisura efficace.
Ci sarebbe molto da dire anche sugli aspetti di sicurezza tecnica: Adversarial attacks, Dataset poisoning, Prompt Hacking, tutte tecniche con cui è possibile per un umano “attaccare” una IA, in modo da farla comportare in modi malevoli e non in linea con le intenzioni degli sviluppatori. Tutti temi sui cui è bene investire in termini di ricerca, sia per difenderci da malintenzionati, sia (nel caso siate paranoici) per difenderci dalla stessa IA nel caso di un’apocalisse in stile Matrix.
Altre insidie più concrete, e per certi versi ancora collegate col mondo del lavoro, sono quelle relative allo sfruttamento del lavoro creativo.
La raccolta di dati dal web per l’addestramento di modelli (ad esempio per la generazione di immagini, testi o musica) può includere materiale protetto da copyright, sollevando problemi di plagio e violazione dei diritti. C’è il timore che l’IA addestrata su opere creative possa poi generare contenuti che competono o addirittura sostituiscono gli autori originali. Manifestazioni e cause legali nell’industria creativa (come l’emblematica causa di Getty Images vs. Stability AI, o il più recente caso ChatGPT vs. Studio Ghibli o ancora le proteste di Hollywood del 2023) evidenziano questa tensione. La legge è spesso in ritardo rispetto allo sviluppo tecnologico, e sebbene l’AI Act europeo menzioni eccezioni per il data mining e la necessità di fornire riassunti dei contenuti di addestramento, non affronta direttamente la questione della proprietà delle opere create tramite IA generativa. Su questo versante si esorta l’esplorazione di vie normative che richiedano il consenso esplicito dei creatori per l’uso del loro materiale nell’addestramento e la ricerca per tracciare l’origine dei dati. Nel contempo anche una riflessione più profonda sul concetto stesso di diritto d’autore può apportare nuovi quadri di riferimento normativo, ma anche nuove riflessioni di natura filosofica su cosa significhi essere l’autore di un’opera.
In qualche modo questo fa pensare allo scenario ipotetico noto come Dead Internet theory e della sua possibile estensione Dead-AI, rilevante sia nel contesto della generazione di contenuti originali che nel contesto della manipolazione online:
l’idea è che in futuro gran parte del web possa essere popolata da contenuti e interazioni generate da IA. Questo porta al rischio che le future IA vengano allenate su questi dati “artificiali”, perpetuando vecchi problemi o deteriorandosi. Diventa cruciale esercitare scetticismo critico verso i contenuti online (buona pratica anche nella vita reale), cercare di distinguere ciò che è umano da ciò che non lo è, e soprattutto assicurare che i dati utilizzati per l’addestramento delle IA siano di alta qualità e verificati come generati da esseri umani, implementando processi per rilevare contenuti creati da altre IA.
Per questi ed altri motivi, si sta lentamente delineando una tendenza allo sviluppo di IA “responsabili”, un tema che verrà approfondito molto presto su Vulcano Statale.
Collaborazione esterna di Giorgio Presti
Lascia un commento