Ho una regola che mi porto dietro da quando indossavo il basco amaranto: quando il quadro della situazione è troppo pulito, qualcosa manca. In pattuglia era il dettaglio che non tornava a dirti che eri vivo.
Ho aperto “Spionaggio 6.0” di Antonio Teti (Rubbettino, prefazione del generale Alessandro Ferrara) pensando di trovare il solito elenco di meraviglie tecnologiche. Ho trovato invece un libro che spiega, senza gergo, come l’intelligenza artificiale sta entrando nei servizi, e che ha il merito di dire anche dove può andare storto.
Teti parte da lontano, dall’Eniac fino ai social, e questo aiuta chi non è del settore. Le note a piè di pagina spiegano termini come honeypot, LSTM o privilege escalation in modo che un ufficiale senza formazione tecnica li capisca. È un libro che si può dare a un decisore senza doverglielo tradurre.
Il punto centrale è semplice. Per secoli il problema dell’intelligence era trovare le informazioni. Oggi ce ne sono troppe, e l’IA serve a filtrarle. Tra le cose che sa fare, Teti scrive che può “selezionare automaticamente ciò che ha rilevanza operativa o strategica”. Qui mi sono fermato. Un filtro ha dei criteri, e i criteri li scrive qualcuno. Chi decide cosa è segnale e cosa è rumore decide, di fatto, cosa vedrà lo Stato.
I cinque casi di studio danno concretezza ai concetti: il ragazzo che si radicalizza online e supera una soglia di rischio, il gruppo di hacker di uno Stato estero fermato in sei minuti nei sistemi del Ministero della Difesa, una manifestazione seguita con modelli predittivi, l’early warning nel Sahel, una campagna di disinformazione contro le misure economiche europee.
Spionaggio 6.0. Intelligence, intelligenza artificiale e nuove dinamiche del potere globale.
Autore : Antonio Teti
Editore : Rubbettino
Acquistabile con Carta Cultura Giovani, Carta del Merito, Carta del Docente e/o Carta della Cultura
Teti non nasconde i rovesci della medaglia: chiudendo il caso del controspionaggio digitale avverte che un sistema che blocca account da solo può isolare server critici, e più avanti ricorda che un avversario può insegnare alla macchina a vedere un attacco dove non c’è. Non serve rubare il segreto, basta far interpretare male i dati.
La rilettura di otto attentati, dall’11 settembre 2001 allo Sri Lanka del 2019, mostra bene quali segnali erano disponibili e come l’IA avrebbe potuto collegarli. Teti stesso avverte che si tratta di letture retrospettive, e fa bene: il giorno prima quei segnali erano sepolti tra migliaia identici. Vale la stessa cautela per l’idea che l’IA riduca i pregiudizi “concentrandosi sui dati”. I dati portano dentro le scelte di chi li ha raccolti, e il modello le restituisce con l’autorità di un numero.
Il libro evidenzia i lati oscuri dell’intelligenza artificiale usata senza controlli umani, perchè se l’analista non può guardare dentro il sistema, conoscere i dati di addestramento, capire perché un’ipotesi è stata scartata e avere l’autorevolezza per contraddire un punteggio, l’errore è dietro l’angolo.
La domanda finale non riguarda solo i servizi: chi sorveglia le macchine che sorvegliano? Il rischio non è che l’IA diventi più intelligente dell’analista. È che l’analista smetta di interrogare il mondo e si limiti a interrogare l’IA.
Non è un libro da finire in una sera. È un libro da tenere sulla scrivania, con la matita, da riaprire ogni volta che qualcuno propone di affidare a un sistema una decisione che fino a ieri richiedeva una firma. Costa meno di una cena e vale più di molti corsi…
