Quando la macchina giudica: il potere oscuro degli algoritmi nei servizi pubblici italiani

C'è un momento preciso in cui il futuro di una persona viene deciso senza che lei lo sappia. Non in un'aula di tribunale, non nello studio di un medico, non in una riunione di commissione scolastica. Accade in un datacenter, dentro un sistema automatizzato che nessuno ha eletto, che nessuno può interrogare, e che risponde a logiche commerciali prima ancora che a valori pubblici. Questo è il presente dell'intelligenza artificiale nei servizi essenziali italiani. E questo è il problema che la sinistra liberale non può più permettersi di ignorare.

Un potere che si è insediato in silenzio

Nell'ultimo decennio, gli algoritmi hanno colonizzato in modo progressivo i gangli del welfare state. In sanità, strumenti di supporto decisionale sviluppati da multinazionali del software orientano già la priorità nelle liste d'attesa, suggeriscono diagnosi differenziali e, in alcuni contesti ospedalieri sperimentali, contribuiscono a valutare la probabilità di successo di determinati trattamenti. Nel sistema giudiziario, sebbene l'Italia non abbia ancora adottato strumenti predittivi tanto invasivi quanto quelli tristemente noti negli Stati Uniti — come il sistema COMPAS — la pressione per automatizzare la valutazione del rischio di recidiva è già presente nel dibattito istituzionale europeo. Nelle scuole, piattaforme digitali proprietarie raccolgono dati sulle performance degli studenti, costruiscono profili comportamentali e alimentano sistemi di raccomandazione che possono influenzare percorsi formativi e opportunità future.

Il denominatore comune di tutte queste applicazioni è uno solo: opacità. Gli algoritmi che incidono sulla vita dei cittadini italiani sono, nella stragrande maggioranza dei casi, proprietà intellettuale di aziende private. I loro parametri, i loro pesi, i criteri con cui ponderano variabili spesso socialmente sensibili — reddito, provenienza geografica, storico clinico — sono segreti industriali. Nessuna commissione parlamentare li ha approvati. Nessun garante li ha auditato con strumenti adeguati. Nessun cittadino ha il diritto, oggi, di chiedere: «Perché il sistema ha deciso questo di me?»

Il mito della neutralità tecnica

Uno degli argomenti più insidiosi usati per difendere questa deriva è quello della neutralità algoritmica: la macchina, si dice, non ha pregiudizi, non si stanca, non è corruttibile. È un argomento che suona razionale ma che nasconde una mistificazione profonda. Gli algoritmi non nascono nel vuoto: vengono addestrati su dati storici che riflettono disuguaglianze strutturali già esistenti. Un sistema che apprende dai ricoveri ospedalieri del passato imparerà anche che certi quartieri, certi cognomi, certe storie familiari sono statisticamente associati a certi esiti. Non perché sia naturale, ma perché lo era il mondo che li ha prodotti.

La neutralità tecnica è, in realtà, una forma sofisticata di conservatorismo sociale. Automatizzare le disuguaglianze significa renderle invisibili, naturali, inevitabili. E quando l'ingiustizia non ha un volto umano su cui fare ricorso, diventa molto più difficile da contestare. Il liberal socialismo, che ha sempre riconosciuto come il mercato lasciato a sé stesso tenda a cristallizzare i privilegi, deve applicare la stessa lucidità analitica ai mercati digitali e alle infrastrutture algoritmiche.

Cosa significa riprendere il controllo

Rivendicare il controllo pubblico sugli algoritmi decisionali non significa rifiutare l'innovazione tecnologica. Significa esattamente il contrario: significa che l'innovazione deve essere messa al servizio del bene comune, non del profitto di pochi. Ci sono proposte concrete, già discusse a livello europeo e in alcuni casi già parzialmente normativizzate dall'AI Act, che l'Italia dovrebbe fare proprie con convinzione politica e non solo con recepimento burocratico.

Algoritmi open-source per i servizi pubblici. Ogni sistema automatizzato che incide su diritti fondamentali — salute, istruzione, accesso al welfare, libertà personale — dovrebbe essere sviluppato con codice aperto, verificabile da chiunque abbia le competenze necessarie, e mantenuto da enti pubblici o da consorzi no-profit sotto supervisione democratica. Il modello esiste già in altri ambiti del software pubblico: è ora di estenderlo alle infrastrutture decisionali.

Auditing esterno e indipendente. Non basta che le aziende si autocertifichino. Serve un sistema di verifica terza, condotta da organismi pubblici dotati di risorse adeguate, con accesso pieno ai dati di addestramento e ai parametri dei modelli. L'Autorità Garante per la Protezione dei Dati Personali dovrebbe essere rafforzata con mandato e mezzi specifici per questa funzione, non lasciata a operare con strumenti pensati per un'epoca analogica.

Il diritto alla spiegazione come diritto fondamentale. Ogni cittadino che subisce una decisione automatizzata rilevante — il rifiuto di una prestazione sanitaria, una valutazione scolastica negativa, un punteggio di accesso a un beneficio sociale — deve avere il diritto legale di ricevere una spiegazione comprensibile, non tecnica, delle ragioni di quella decisione. E deve avere il diritto di contestarla davanti a un essere umano responsabile.

Il nodo politico che la sinistra non può eludere

C'è una dimensione di questa questione che riguarda direttamente l'identità della sinistra italiana. Per troppi anni, una parte del centrosinistra ha abbracciato acriticamente la narrativa della modernizzazione digitale, confondendo l'efficienza tecnologica con il progresso sociale. Il risultato è stato che molte delle infrastrutture digitali del welfare italiano sono state costruite attraverso appalti a grandi player privati, senza clausole di trasparenza, senza impegni di interoperabilità, senza garanzie per i lavoratori del settore.

Oggi paghiamo quel deficit di visione. Le aziende che gestiscono questi sistemi hanno acquisito una posizione di dipendenza strutturale nei confronti delle pubbliche amministrazioni: cambiare fornitore è costoso, migrare i dati è complesso, riscrivere i processi è lungo. È il lock-in digitale applicato al cuore dello stato sociale.

Uscire da questa trappola richiede una scelta politica netta: gli strumenti che decidono della vita dei cittadini non possono essere proprietà privata. Possono essere sviluppati in collaborazione con il settore privato, possono avvalersi di competenze esterne, ma la governance, i dati, il codice devono rimanere nella sfera pubblica. Non è statalismo: è sovranità democratica nell'era digitale.

Una proposta per il dibattito

Liberali Socialisti ritiene che sia giunto il momento di includere nei programmi politici progressisti una vera e propria Carta dei Diritti Algoritmici, che sancisca in modo esplicito il diritto alla trasparenza dei sistemi automatizzati, il diritto alla contestazione umana delle decisioni algoritmiche, il divieto di utilizzo di algoritmi opachi in contesti che incidono su diritti fondamentali, e l'obbligo per le pubbliche amministrazioni di privilegiare soluzioni open-source nei processi di appalto digitale.

Non si tratta di fantascienza né di utopia. Si tratta di applicare ai nuovi strumenti del potere gli stessi principi che la tradizione liberale e socialista ha sempre difeso per i vecchi: responsabilità, trasparenza, diritto di ricorso, interesse generale. La macchina non ha coscienza. Ma chi la costruisce, chi la compra, chi la lascia operare senza controllo — loro sì, hanno una responsabilità politica. Ed è su quella responsabilità che dobbiamo tornare a fare pressione.