NUOVO BOLLETTINO UPI SETTORE INNOVAZIONE E DIGITALIZZAZIONE: PILLOLE DI INNOVAZIONE INTELLIGENZA ARTIFICIALE E DECISIONI ALGORITMICHE NELLA PUBBLICA AMMINISTRAZIONE

Pubblichiamo  su Pi.Co. il diciottesimo numero della collana di Bollettini UPI, a cura dell’esperto nel settore Innovazione e Digitalizzazione nell’ambito del progetto strategico “Province&Comuni”, dal titolo: “Pillole di innovazione: Intelligenza Artificiale e decisioni algoritmiche nella Pubblica Amministrazione”.

La Pubblica Amministrazione ha iniziato a fare i conti con il concetto di “decisione algoritmica” molto prima che l'Intelligenza Artificiale (IA) diventasse un tema di dibattito pubblico. Per anni gli algoritmi tradizionali hanno gestito graduatorie, assegnazioni, calcoli di punteggio e procedure selettive. In questi sistemi nessun funzionario era in grado di spiegare perché un determinato esito fosse stato prodotto, perché nessuno aveva davvero governato la scrittura delle regole che lo avevano generato. Fu proprio da questa frattura — tra automatismo e responsabilità — che la giurisprudenza amministrativa cominciò a elaborare i principi oggi fondamentali: conoscibilità dell'algoritmo, comprensibilità della sua logica, non esclusività della decisione automatizzata.

Con l'avvento dei sistemi di IA (modelli di apprendimento automatico, reti neurali, grandi modelli linguistici) il problema si è fatto strutturalmente più profondo. L'algoritmo tradizionale applicava regole scritte da esseri umani: era opaco per ragioni organizzative e gestionali, ma in linea di principio spiegabile. Il sistema di IA, invece, inferisce autonomamente pattern dai dati su cui è stato addestrato, producendo esiti che talvolta nemmeno i suoi progettatori sono in grado di motivare compiutamente. La "scatola nera" non è più una metafora organizzativa: è una caratteristica tecnica intrinseca. Questo cambia profondamente la posta in gioco per la PA: non si tratta più solo di rendere conoscibile una regola che esiste, ma di garantire la piena “spiegabilità” in un contesto nel quale la regola, in senso tradizionale, non esiste più.

Scopo documento in allegato è presentare alcuni punti fondamentali che le PA devono tener presente quando decidono di adottare dei sistemi di IA a supporto dei procedimenti amministrativi.

Redattore: Redazione UPI