Se ne sta discutendo parecchio in questi giorni[1], ma in effetti è vero: il silenzio totale in sala, al termine della proiezione di Naza, fa più male di tante parole e didascalie. Ci si sente fortemente impotenti, con il sospetto di essere anche complici di un genocidio che accade nel presente e sotto i nostri occhi: abbiamo tutti i mezzi per sapere che sta accadendo (il film è uno di questi), eppure restiamo a guardare, in un immobilismo che il ritorno alle occupazioni quotidiane rende ancora più penoso.
La lingua che rende amministrabile la morte
Il documentario di Yuval Abraham e Rachel Szor ci conduce dentro i meccanismi della devastazione di Gaza attraverso le testimonianze di militari e agenti dell’intelligence israeliana, figure che, protette dall’ombra della notte sui tetti di Tel Aviv, raccontano, spesso con la dimestichezza di chi descrive una giornata di lavoro, come si organizza la morte a distanza.
Già il titolo, efficacissimo, si presenta come un inappellabile, micidiale, autogol linguistico: naza è la sigla, ricavata dall’espressione ebraica nezek agavi (נזק אגבי, «danno collaterale»), usata, nel vocabolario militare israeliano, per indicare i civili di cui si prevede l’uccisione durante un attacco. Nella contrazione, l’assonanza diventa clamorosa, e la lingua incaricata di rendere amministrabile la strage finisce per denunciarla.
Di fronte a queste voci torna inevitabilmente in mente la «banalità del male», espressione così abusata che verrebbe da parlare, perdonate il bisticcio, di «banalità della banalità del male». Hannah Arendt la elaborò seguendo il processo, celebrato a Gerusalemme nel 1961, ad Adolf Eichmann, tra i principali organizzatori delle deportazioni degli ebrei.
La filosofa si interrogava, allora, sulla sproporzione fra l’enormità dei crimini e la mediocrità di un uomo che si rifugiava nel linguaggio burocratico, incapace di pensare dal punto di vista altrui e di giudicare autonomamente il significato delle proprie azioni. Ripetere la sua formula, senza rinnovarne la domanda, rischia di trasformare un’intuizione decisiva in una comoda etichetta. Il problema dell’obbedienza, del resto, attraversa da molto prima l’organizzazione militare.
Già nella Repubblica, Platone pone la distinzione fra governanti e soldati: a questi ultimi è affidato il compito di difendere l’ordine della città, conservando i principi trasmessi dalla paideia; la conoscenza che deve orientare il governo compete invece ai filosofi. Questa separazione dei compiti ci ricorda quanto possa essere antica la distanza fra chi stabilisce i fini e chi è chiamato a eseguirli. D’altronde, in ambito marziale si parla non a caso di «ordini»: prescrizioni che tengono insieme un’organizzazione e ne scongiurano il caos.
La disciplina abitua a considerare il rifiuto come una rottura, che può estendersi fino all’ammutinamento e mettere in discussione l’intera gerarchia. Il diritto impone di disobbedire agli ordini manifestamente illegittimi, ma, nella pratica, una struttura fondata sull’esecuzione deve rendere quel rifiuto un’eccezione. È in questa difficoltà che il giudizio personale rischia di essere abbandonato, un compito dopo l’altro.
L’arte della guerra ai tempi dell’IA
Naza però non si ferma a questo livello di denuncia, e ci dice molto anche su un modo nuovo di fare la guerra. L’ars militaris è evidentemente in continua trasformazione, ma anche segnata da alcune accelerazioni che ne hanno accresciuto la capacità distruttiva: il passaggio dall’arco alle armi da fuoco ha cambiato la relazione fra i combattenti; gli arsenali nucleari e chimici hanno esteso la minaccia fino alla possibilità di annientare intere popolazioni.
Oggi, l’intelligenza artificiale introduce una discontinuità ulteriore, e siamo chiamati a tenerne conto, perché interviene nella selezione di chi dovrà essere colpito e permette di estendere questa attività a una scala difficilmente gestibile con il solo lavoro umano. Al campo di battaglia, dove si continua a combattere e morire, si affianca e acquisisce un peso sempre maggiore una guerra telematica, condotta direttamente negli uffici dell’intelligence. I droni, a Gaza come in Ucraina, possono raggiungere luoghi dai quali chi li comanda rimane fisicamente lontano. Una parte dei militari lavora così dietro a uno schermo, a decine di chilometri dalla devastazione che contribuisce a produrre – e alla fine del turno si torna a casa.
Durante l’intervista, un agente racconta che, conclusa l’ennesima operazione distruttiva, è solito andare a prendere l’aperitivo con gli amici. È difficile liberarsi del peso di questo dettaglio, apparentemente poco significativo, anche per la familiarità di Tel Aviv, una città nella quale riconosciamo senza fatica abitudini simili alle nostre (e questo meriterebbe una riflessione a parte). L’orrore si accomoda dentro una scansione del tempo che conosciamo benissimo e che, «normalmente» fa seguire alla fine dell’orario di lavoro, una serata fuori con i propri cari.
Come è possibile tutto questo? La risposta andrebbe articolata lungamente, ma è evidente che un ruolo cruciale è giocato dallo schermo, che rende tutto vicino e, contemporaneamente, ci distanzia dalla realtà dei fatti: un’esperienza ormai quotidiana per ciascuno di noi, qui spinta fino alla possibilità di decidere della vita altrui. Per chi la dirige, la guerra può restare confinata in una centrale operativa; per chi la subisce, penetra in ogni interstizio dell’esistenza. Il fronte e le trincee continuano a esserci, ma la sorveglianza estende il conflitto ben oltre i loro confini, fino all’intimità domestica. Il telefonino, attraverso il quale si mantengono i rapporti con le persone care e si organizza la propria routine, diventa strumento di un monitoraggio minuzioso: nelle testimonianze raccolte dai due registi, la ricerca dei membri di Hamas passa anche attraverso sistemi di AI in grado di ricostruire reti di relazioni a partire da indizi, anche minimi.
È emblematico il caso del panettiere segnalato come soggetto pericoloso perché conserva i numeri di diversi clienti, fra i quali figurano persone legate all’organizzazione. Avere rapporti commerciali con qualcuno viene così assunto come indizio di appartenenza alla sua rete. Il contesto che dà senso a una relazione scompare nel passaggio alla classificazione, e una rubrica diventa un elemento, a carico del suo proprietario, che può costargli la vita.
Estesa a una popolazione intera, questa logica finisce per moltiplicare i sospetti proprio attraverso gli intrecci ordinari della vita sociale. La precisione del risultato rende ancora più difficile accorgersi dell’equivoco che lo ha prodotto e ardua l’individuazione del responsabile, anche perché si tratta di un algoritmo.
Vale la pena, quindi, spendere qualche parola sul ruolo che l’AI ha assunto nel conflitto. Per farlo, possiamo citare un contesto apparentemente più neutrale, il cui rischio è stato illustrato dal filosofo Nick Bostrom attraverso il celebre esperimento mentale delle graffette. Immaginiamo di affidare a una superintelligenza artificiale, assai più potente dei sistemi attuali, l’obiettivo di ottimizzarne a ogni costo la produzione. Se quell’obiettivo fosse perseguito senza vincoli adeguati, la macchina potrebbe arrivare a consumare tutte le risorse disponibili, arrivando perfino a distruggere l’umanità pur di fabbricare altre graffette. L’esito catastrofico deriverebbe dalla coerenza con cui essa è stata progettata per portare a termine il compito: la conservazione delle vite umane, se esclusa dai criteri che ne orientano l’attività, non avrebbe alcuna ragione di prevalere. Il paradosso mette a fuoco la distanza possibile fra le intenzioni di chi assegna un obiettivo e le conseguenze della sua realizzazione.
Applicato al sistema raccontato in Naza, invita a guardare con attenzione a ciò che viene chiesto agli algoritmi e ai limiti entro i quali dovrebbero essere autorizzati a operare. Il film aggiunge un elemento che rende il quadro ancora più grave: la presenza di vittime civili viene prevista e accettata prima dell’attacco in quanto «danni collaterali». La devastazione può dunque derivare da decisioni perfettamente consapevoli, inserite in un apparato che ne accelera e amplifica a dismisura l’esecuzione. La sempre più elevata efficienza tecnica rende oggi urgente interrogare la finalità per cui essa viene impiegata e il prezzo che qualcuno ha già stabilito di poter far pagare agli altri.
Ripartire dalle emozioni
L’essere umano, allo schermo, ha una responsabilità enorme, che comincia ben prima dell’ultimo comando e va ben oltre l’addestramento del software. Fornire alla macchina gli input giusti significa anzitutto chiedersi quali informazioni le stiamo affidando e che cosa le chiediamo di ricavarne, ma vuol dire anche valutare le conseguenze possibili di quelle istruzioni, predisponendo controlli capaci di fermarne l’applicazione.
Per l’IA si parla spesso di black box, di «scatola nera», quando diventa difficile ricostruire i passaggi attraverso i quali un sistema arriva, da certi dati, a un determinato risultato. Questa opacità merita tutta l’attenzione che le viene dedicata, ma sarebbe necessario affiancarne altrettanta alle scelte che precedono quel calcolo.
A Gaza, stabilire quali relazioni contino come indizi e quanto sia tollerabile sbagliare sulla vita di una persona significa assumere disposizioni morali imprescindibili. Chi progetta un sistema risponde di scelte diverse rispetto a chi ne autorizza l’impiego, in una catena di responsabilità che l’automazione rischia di rendere meno visibile: quando una raccomandazione algoritmica viene accolta senza una verifica effettiva, la presenza di un operatore può ridursi a un mero passaggio formale. La delega alla macchina prolunga allora quella rinuncia al giudizio che avevamo incontrato nell’obbedienza alla gerarchia, rivestendola dell’autorità di un risultato tecnico.
Resta, nel racconto, uno scarto significativo, che il documentario lascia affiorare attraverso i corpi degli agenti intervistati, quasi loro malgrado. Se, da un lato, è evidente che la potenza degli strumenti tecnici cresce a un ritmo esponenziale, ad essa non corrisponde un’analoga capacità umana di assorbire gli effetti del proprio operato. Di fronte alla sofisticazione di computer e intelligenza artificiale, la nostra vulnerabilità emotiva rappresenta l’indizio di un primitivismo imbarazzante, ma persistente: negli agenti si manifestano, affiorano, reazioni che nessun addestramento garantisce di eliminare, anche quando la chirurgica organizzazione del lavoro e la schermatura della guerra a distanza cercherebbero di tenerle ai margini.
Se l’agente, alla fine della giornata, dorme a casa sua anziché in una tenda da campo, ciò non significa che gli sia più semplice convivere pacificamente con la sofferenza che ha contribuito a generare. Le ombre semoventi degli intervistati lasciano intravedere questa fatica anche quando sembrano volerla nascondere; la si coglie nelle mani incerte che illustrano su carta le operazioni, nelle esitazioni di alcuni racconti.
Un agente narra dell’accesso che ha avuto all’intera galleria fotografica del cellulare di un «bersaglio»: gli tornava utile scrollare tutte quelle scene di vita domestica e quotidiana, per riuscire a ricostruire la disposizione della sua abitazione. Grazie anche a questa perlustrazione a distanza, veniamo aggiornati sul fatto che il «bersaglio» viene effettivamente colpito, insieme ai figli contabilizzati fra i naza, ma chi ce lo racconta non nasconde quanto sia stato difficile accettare l’azione: quelle fotografie gli avevano consentito di entrare, seppure virtualmente, nella casa di un altro, mostrando una vita familiare e dei legami destinati a essere brutalmente recisi.
La stessa tecnologia ha reso prima possibile un controllo capillare e poi dischiuso un mondo di affetti, rendendo riconoscibili le persone che il linguaggio operativo imponeva di ridurre a danno collaterale. Inevitabilmente, per quell’agente, la prossimità conoscitiva è diventata anche emotiva.
Allora, è forse da una rinnovata attenzione alle emozioni che proviamo, e che, diversamente da un software di AI, non possiamo non sentire, che possiamo ripartire. Nel film il turbamento convive con l’esecuzione degli ordini: provare qualcosa lascia ancora aperta la questione di che cosa fare di quel sentimento. Prenderlo sul serio significa riconoscere la possibilità di intervenire nelle scelte, fino al rifiuto di un’azione che si comprende essere intollerabile. Fra l’empatia e la responsabilità esiste un passaggio che nessun dispositivo compirà al nostro posto.
Anche per chi guarda dalla platea, il riconoscimento della sofferenza altrui può diventare un modo di sottrarsi all’abitudine, di tornare a interrogare ciò che viene presentato come necessario. Nell’era di macchine capaci di classificare le vite senza condividerne la vulnerabilità, l’attenzione a questa fragilità comune rappresenta una forza importante, che è anche politica. Il silenzio all’uscita dal cinema ci lascia il peso di averla avvertita e la responsabilità di darle un seguito.
Note
[1] Le ricostruzioni del film sono state contestate dall’esercito israeliano, che ne respinge diversi elementi relativi alle procedure di individuazione e autorizzazione degli obiettivi; i registi sostengono di averle verificate attraverso più di cento fonti, documenti e riscontri giornalistici, N.d.R.
