← Tous les textes

Chi decide per l'algoritmo?

Niveau C2 · scienza_tecnologia · documentario · ~367 mots

Ogni giorno, senza quasi accorgercene, deleghiamo a un algoritmo decisioni che un tempo spettavano a un funzionario, a un giudice o a un selezionatore del personale.

Un sistema di scoring stabilisce se meritiamo un prestito bancario; un software analizza migliaia di curriculum prima che un occhio umano ne legga uno solo; in alcuni tribunali americani, un punteggio calcolato da un programma suggerisce persino la probabilità che un imputato torni a delinquere.

Il problema non è tanto la velocità con cui queste decisioni vengono prese, quanto la loro opacità: raramente sappiamo su quali dati si fondino, quali variabili pesino di più, quali correlazioni siano state considerate significative.

Numerosi studi hanno dimostrato che questi sistemi ereditano, e talvolta amplificano, i pregiudizi presenti nei dati storici con cui sono stati addestrati.

Un algoritmo di credito addestrato su decenni di prestiti concessi prevalentemente a una certa categoria di richiedenti tenderà a penalizzare chi non appartiene a quella categoria, anche quando la legge vieta esplicitamente ogni discriminazione.

Da qui nasce una domanda scomoda: chi è responsabile quando una decisione automatizzata produce un danno?

L'azienda che ha sviluppato il software, l'ente che lo ha adottato, il programmatore che ha scritto il codice, o nessuno di questi, dal momento che il sistema si limita a eseguire calcoli statistici?

Va sfatato, in ogni caso, il mito della neutralità tecnica: ogni algoritmo incorpora scelte di progettazione, priorità implicite, definizioni di ciò che conta come «rischio» o come «merito», e queste scelte non sono mai politicamente innocenti.

L'Unione Europea ha tentato di affrontare la questione con l'AI Act, che impone obblighi di trasparenza e valutazioni di rischio per i sistemi considerati ad alto impatto, come quelli usati nella selezione del personale o nella giustizia predittiva.

Restano tuttavia margini di ambiguità considerevoli: la normativa fatica a tenere il passo con l'evoluzione tecnica, e le sanzioni previste rischiano di risultare irrisorie per le grandi aziende tecnologiche.

Si ripete spesso che l'essere umano debba rimanere «nel ciclo» delle decisioni automatizzate, con potere di verifica e di correzione.

Ma di quale essere umano parliamo, e con quale margine reale di intervento, se spesso quell'operatore si limita a confermare, in pochi secondi e sotto pressione, ciò che la macchina ha già deciso?

Traduction française au clic et lecture audio disponibles dans la version interactive ci-dessus.