Oggi le intel­li­gen­ze arti­fi­cia­li appa­io­no sem­pre più com­ples­se e miste­rio­se. Sia­mo con­sa­pe­vo­li che si trat­ta di algo­rit­mi, reti neu­ra­li costrui­te da men­ti uma­ne, basa­te su infra­strut­tu­re mate­ria­li e logi­che mate­ma­ti­che. Eppu­re, nell’esperienza comu­ne, la per­ce­zio­ne spes­so scon­fi­na nel magi­co. L’IA anti­ci­pa i nostri desi­de­ri e rispon­de alle doman­de con una rapi­di­tà qua­si sopran­na­tu­ra­le. Non ci tro­via­mo di fron­te a un ora­co­lo, ma in cer­ti momen­ti di stu­po­re, pro­via­mo una sor­ta di reve­ren­za. Non è fede reli­gio­sa, ma qual­co­sa di con­ti­guo: un’affi­da­bi­li­tà per­ce­pi­ta come supe­rio­re, un pote­re che sem­bra al di sopra dell’umano.

La cosa inquie­tan­te è che non ci cre­dia­mo vera­men­te. Sap­pia­mo che non sono divi­ni­tà. Ma ci com­por­tia­mo come se lo fossero.

In quest’ottica sem­bra una for­tu­na che in que­sti mil­len­ni un dio non abbia mai rispo­sto alle nostre doman­de. È pro­prio nel silen­zio che abbia­mo impa­ra­to a pen­sa­re. L’assenza di una voce supre­ma, il vuo­to divi­no che non rispon­de­va alle nostre invo­ca­zio­ni, ci ha costret­to a inter­ro­gar­ci, a sca­va­re den­tro di noi, a ragio­na­re, a far nasce­re la filo­so­fia, la scien­za, il dirit­to. L’uomo ha impa­ra­to a chie­der­si cosa fos­se giu­sto o sba­glia­to pro­prio per­ché nes­su­no pote­va dir­glie­lo con certezza.

È stato il silenzio degli dèi, più della loro eventuale presenza, a renderci umani. A scegliere senza garanzie, a essere liberi.

Oggi ci tro­via­mo davan­ti a una pre­sen­za che, a dif­fe­ren­za del­le “vec­chie” divi­ni­tà, rispon­de sem­pre. Le intel­li­gen­ze arti­fi­cia­li non sono divi­ni­tà ma sem­bra­no ave­re tut­te le carat­te­ri­sti­che che nel nostro imma­gi­na­rio esse pos­sie­do­no. Ci resti­tui­sco­no risul­ta­ti imme­dia­ti, pre­ci­si, for­mal­men­te razio­na­li. Que­ste mac­chi­ne rischia­no di eso­ne­rar­ci dal ragionare. 

Se ieri il silen­zio del­le divi­ni­tà ci costrin­ge­va a ragio­na­re, oggi la voce del­le mac­chi­ne rischia di nar­co­tiz­za­re la coscien­za.

Per ren­de­re più con­cre­ta que­sta inquie­tu­di­ne vale la pena ricor­da­re un rac­con­to di Fre­dric Bro­wn, La rispo­sta, che cat­tu­ra bene l’angoscia di affi­da­re a una mac­chi­na il ruo­lo di Dio:

«L’onore di por­re la pri­ma doman­da spet­ta a te, Dwar Reyn.»

«Gra­zie», dis­se Dwar Reyn. «Sarà una doman­da cui nes­su­na mac­chi­na ciber­ne­ti­ca ha potu­to, da sola, rispondere.»

Tor­nò a vol­tar­si ver­so la macchina.

«C’è Dio?»

L’immensa voce rispo­se sen­za esi­ta­zio­ne, sen­za il mini­mo cre­pi­tìo di val­vo­le o condensatori.

«Sì: ades­so, Dio c’è.»

Il ter­ro­re scon­vol­se la fac­cia di Dwar Ev, che si slan­ciò ver­so il qua­dro di comando.

Un ful­mi­ne sce­so dal cie­lo sen­za nubi lo ince­ne­rì, e fuse la leva inchio­dan­do­la per sem­pre al suo posto.

Que­sta sto­ria, con il suo tono pun­gen­te, sot­to­li­nea il ter­ro­re e il fasci­no ver­so una divi­ni­tà digi­ta­le onni­scien­te, che potreb­be sosti­tui­re la nostra abi­li­tà di met­te­re in discus­sio­ne e riflettere.

Il peri­co­lo non è tan­to che ci fidia­mo del­le IA, ma che smet­tia­mo di fidar­ci di noi stessi.

Perché perdersi nello sforzo del dubbio se basta chiedere a un sistema informatico e ottenere una risposta ben confezionata?

Byung-Chul Han nel­le sue ope­re descri­ve que­sto feno­me­no per­fet­ta­men­te: la socie­tà in cui sia­mo immer­si è una socie­tà del­la pre­sta­zio­ne, del­la velo­ci­tà, dove la len­tez­za è un difet­to e l’efficienza è il nuo­vo cri­te­rio di veri­tà. In que­sto con­te­sto, l’IA occu­pa la sce­na come per­fet­to stru­men­to: è effi­cien­te, rapi­da, non dubi­ta: Risponde.

E in que­sta rispo­sta con­ti­nua e imme­dia­ta, si per­de ciò che è essen­zia­le al giu­di­zio uma­no: il tem­po dell’incertezza, la fati­ca del con­fron­to, il peso del­la respon­sa­bi­li­tà. Il dub­bio non è più neces­sa­rio, l’empatia diven­ta un osta­co­lo. Nel tem­po del «tut­to subi­to», anche la giu­sti­zia rischia di esse­re tra­sfor­ma­ta in un pro­ces­so pre­con­fe­zio­na­to, auto­ma­ti­co, asettico.

Non si trat­ta di ido­la­tria nel sen­so clas­si­co. Nes­su­no pre­ga un algo­rit­mo. Eppu­re, nei fat­ti, esi­ste una nuo­va for­ma di fede:seco­la­riz­za­ta, incon­sa­pe­vo­le, ma poten­te. Una fede nel­la mac­chi­na come stru­men­to supe­rio­re, per­ché infal­li­bi­le (o per­ce­pi­ta come tale), onni­pre­sen­te, e sem­pre pron­ta a for­ni­re una rispo­sta. È la fede nell’efficienza.

Abbia­mo rifiu­ta­to l’infallibilità divi­na, ma accet­tia­mo quel­la pre­dit­ti­va del cal­co­lo algoritmico.

Non cre­dia­mo che l’IA sia un dio, ma ci com­por­tia­mo come se lo fos­se, dan­do­gli una dele­ga silenziosa.

Il parallelo più inquietante si trova proprio nel mondo del diritto.

In pas­sa­to, con le orda­lie medie­va­li, pro­ve fisi­che in cui si affi­da­va a Dio la mani­fe­sta­zio­ne del­la veri­tà, l’umanità cer­ca­va di risol­ve­re i con­flit­ti facen­do appel­lo a for­ze supe­rio­ri. La moder­ni­tà ha rove­scia­to que­sto para­dig­ma: il giu­di­zio è diven­ta­to uma­no, razio­na­le, respon­sa­bi­le. Eppu­re oggi, con l’avvento dell’intelligenza arti­fi­cia­le nei siste­mi giu­di­zia­ri, para­dos­sal­men­te si rischia l’involuzione.

Già da anni, in diver­si Pae­si l’IA è uti­liz­za­ta nei pro­ces­si pena­li, con un impie­go più o meno este­so a secon­da del con­te­sto. In Cina, ad esem­pio, vie­ne appli­ca­ta in nume­ro­se fasi del pro­ce­di­men­to giu­di­zia­rio, secon­do logi­che spes­so opa­che e algo­rit­mi­ca­men­te indi­mo­stra­bi­li. I risul­ta­ti for­ni­ti dal­le mac­chi­ne sono trat­ta­ti come affi­da­bi­li, se non addi­rit­tu­ra come veri­tà. In Euro­pa, inve­ce, vin­co­li nor­ma­ti­vi come l’AI Act impon­go­no mag­gio­re cau­te­la: la tec­no­lo­gia è impie­ga­ta solo in alcu­ne fasi del pro­ces­so, evi­tan­do auto­ma­ti­smi totali.

Come osser­va Caro­li­na Tere­si, in un arti­co­lo pub­bli­ca­to su Pena­le Dirit­to e Pro­ce­du­ra, le mag­gio­ri riser­ve emer­go­no nel momen­to del­la deci­sio­ne giu­di­zia­le. È qui che il ricor­so ai model­li com­pu­ta­zio­na­li susci­ta le per­ples­si­tà più for­ti. Mol­ti stu­dio­si riten­go­no che solo un esse­re uma­no pos­sa assu­mer­si la respon­sa­bi­li­tà di deci­de­re su que­stio­ni così gra­vi come quel­le pena­li. La sen­ten­za si basa su un com­ples­so equi­li­brio tra valu­ta­zio­ne del­le pro­ve, rispet­to dei dirit­ti del­le par­ti e garan­zie processuali.

Nono­stan­te i pro­gres­si dell’IA, non si può ridur­re il giu­di­zio a un cal­co­lo mate­ma­ti­co, pre­ve­di­bi­le e mec­ca­ni­co. La deci­sio­ne con­tie­ne sem­pre una com­po­nen­te opa­ca e crea­ti­va, che si mani­fe­sta soprat­tut­to nel­la reda­zio­ne del­la motivazione. 

Come un tempo accadeva con le ordalie, oggi rischiamo di considerare infallibile il giudizio solo perché proviene da una fonte percepita come superiore, non più Dio, ma l’algoritmo.

Tut­ta­via, il dirit­to non è solo cal­co­lo. Giu­di­ca­re è un atto uma­no, per­ché richie­de empa­tia, ascol­to, com­pren­sio­ne del con­te­sto. La veri­tà pro­ces­sua­le non è un nume­ro, ma un per­cor­so. Una sen­ten­za non è sol­tan­to l’output fina­le, ma l’esito di un dub­bio vis­su­to, discus­so e motivato.

I pre­sup­po­sti per l’implementazione dell’IA nel set­to­re pena­le ci sono, ma occor­re indi­vi­dua­re un giu­sto pun­to di cadu­ta, rifug­gen­do tan­to da tesi di appli­ca­zio­ne illi­mi­ta­ta quan­to da teo­rie post-apo­ca­lit­ti­che di gover­no del­le macchine.

Natu­ral­men­te, il dibat­ti­to giu­ri­di­co è più com­ples­so, con dif­fe­ren­ti sfu­ma­tu­re, vin­co­li nor­ma­ti­vi, limi­ti tec­ni­ci e ovvi pro­ble­mi eti­ci. Non è solo un pro­ble­ma di por­re o meno fidu­cia nel­le IA, ma di come inte­gra­re stru­men­ti diver­si man­te­nen­do respon­sa­bi­li­tà, tra­spa­ren­za e giu­sti­zia sostanziale. 

Auto­ma­tiz­za­re que­sto per­cor­so non signi­fi­ca solo esse­re più velo­ci: signi­fi­ca smet­te­re di esse­re uma­ni.

La vera giustizia non è trovare la verità in modo perfetto, ma cercarla in modo giusto.

Affi­dar­si all’IA per deci­de­re chi ha ragio­ne, chi è col­pe­vo­le, chi è peri­co­lo­so, non è solo rischio­so tec­ni­ca­men­te è soprat­tut­to deva­stan­te eti­ca­men­te. In veri­tà, si può affer­ma­re che natu­ral­men­te le IA sono uno stru­men­to che miglio­re­rà ed ha già miglio­ra­to mol­ti aspet­ti del­le nostre vite, il pro­ble­ma risie­de nel suo cor­ret­to uti­liz­zo. Si pos­so­no uti­liz­za­re le IA anche per tro­va­re rispo­sta alle doman­de più com­ples­se ma que­sto stru­men­to non deve sosti­tui­re la coscien­za. La que­stio­ne, in fon­do, non è tan­to il cer­ca­re rispo­ste: ma che abbia­mo smes­so di cer­car­le den­tro di noi. Oggi cor­ria­mo il rischio di pen­sa­re che la veri­tà sia fuo­ri, in un’entità più in alto, più poten­te, più pre­ci­sa, sia essa divi­na o digi­ta­le. Ma la vera rivo­lu­zio­ne dell’umano è sta­ta pro­prio il con­tra­rio: capi­re che tut­to ciò che con­ta è già den­tro di noi. Non con­ta solo la rispo­sta, ma il modo in cui ci arri­via­mo. Non con­ta solo tro­va­re la veri­tà, ma cer­ca­re la giu­sti­zia. E fin­ché sare­mo capa­ci di dubi­ta­re, di ascol­ta­re, di sce­glie­re, allo­ra ci sarà anco­ra spa­zio per l’umano. Anche nel tem­po del­le mac­chi­ne divine.

Arti­co­lo di Joel Cangemi