Quando si parla di sviluppo e impiego dei sistemi d’arma autonomi, spesso si fa riferimento al concetto di “human-in-the-loop”, dunque al fatto che ogni sistema LAW (Lethal Autonomous Weapon) debba essere azionato da un operatore umano per poter svolgere la propria missione. Tuttavia, il grado della presenza del decisore militare “in the loop” ha confini abbastanza laschi, perché diverse sono le interpretazioni su cosa significhi prendere una decisione quando si utilizza un sistema d’arma autonomo sul campo.
Nella Direttiva 3000.09 del Dipartimento della Difesa statunitense un sistema d’arma autonomo è definito tale se “una volta attivato, può selezionare e ingaggiare bersagli senza ulteriore intervento da parte di un operatore umano”, mentre i britannici hanno aggiunto che un LAW deve essere “in grado di decidere una linea d’azione, tra diverse alternative” senza che l’intervento umano obbligatorio. Nei fatti, quando si parla di “human-in-the-loop” non è per nulla scontato che il controllo di un operatore umano in tutte le fasi dell’azione condotta dall’arma autonomia debba essere garantito.
Gli statunitensi si sono limitati a spiegare che la presenza del decisore/operatore “in-the-loop” sia espressione di “un livello adeguato di giudizio umano in merito all’impiego della forza”, dunque che il controllo umano si esaurisca al momento di decidere l’azione e di avviare la LAW, che deve, poi, raggiungere il suo obiettivo in autonomia. L’impiego in modalità di fuoco automatico di un cannone navale come il Phalanx CIWS, il lancio di un missile aria-aria dotato di IA o di una munizione circuitante, implicano che alla base dell’azione autonoma vi siano l’autorizzazione all’uso della forza da parte di un comandante e una scelta tattica da parte dell’operatore, facendo salva la responsabilità umana sull’impiego del sistema d’arma autonomo.
Nel dibattito odierno sull’intelligenza artificiale applicata alla dimensione militare, dunque anche ai sistemi d’arma autonomi, una parte della teoria chiede che essi siano sottoposti sempre ad un “controllo umano significativo”. Tuttavia, come ha spiegato Michael C. Horowitz su “War on the Rocks”, il “meaningful human control” implicherebbe un livello irrealistico di supervisione umana, impossibile da attuare su molti sistemi d’arma a guida di precisione semi-autonomi esistenti, per non parlare delle armi non guidate. Ecco perché è più realistico pensare che il “controllo umano significativo” possa essere legato alla fase decisionale sull’uso della forza, ma non sulle dinamiche operative del singolo sistema d’arma.
Il tema del controllo umano sui LAW si rispecchia anche sul fronte prettamente operativo e dello sviluppo, perché tanto più è “non congestionato” lo scenario, tanto maggiore sarà la capacità di controllo. Ecco perché, ad esempio, i sistemi autonomi nel dominio aereo (compresi i “loyal wingman”) sono considerati più adatti allo “human-in-the-loop” di quanto non possano essere gli UGV in quello terrestre.
