Le operazioni speciali statunitensi vogliono utilizzare i deepfake per le operazioni psicologiche

Comando delle operazioni speciali degli Stati Uniti, responsabile di alcuni degli sforzi militari più segreti del paese, si sta preparando a condurre campagne di propaganda e inganno su Internet utilizzando video deepfake, secondo i documenti contrattuali federali esaminati da The Intercept.

I piani, che descrivono anche l’hacking di dispositivi connessi a Internet per intercettare al fine di valutare la suscettibilità delle popolazioni straniere alla propaganda, arrivano in un momento di intenso dibattito globale sulle campagne di “disinformazione” tecnologicamente sofisticate, sulla loro efficacia e sull’etica del loro utilizzo.

Mentre il governo degli Stati Uniti mette regolarmente in guardia contro il rischio di deepfake e sta apertamente lavorando per costruire strumenti per contrastarli, il documento dello Special Operations Command, o SOCOM, rappresenta un’istanza quasi senza precedenti del governo americano – o di qualsiasi governo – che segnala apertamente il suo desiderio utilizzare la tecnologia altamente controversa in modo offensivo.

Le aspirazioni propagandistiche di nuova generazione di SOCOM sono delineate in un documento di approvvigionamento che elenca le capacità che sta cercando per il prossimo futuro e sollecita proposte da parti esterne che credono di essere in grado di costruirle.

“Quando si tratta di disinformazione, il Pentagono non dovrebbe combattere il fuoco con il fuoco”, ha detto a The Intercept Chris Meserole, capo dell’Artificial Intelligence and Emerging Technology Initiative della Brookings Institution. “In un momento in cui la propaganda digitale è in aumento a livello globale, gli Stati Uniti dovrebbero fare tutto il possibile per rafforzare la democrazia creando supporto per nozioni condivise di verità e realtà. I deepfake fanno il contrario. Mettendo in dubbio la credibilità di tutti i contenuti e le informazioni, siano esse reali o sintetiche, alla fine erodono le fondamenta della democrazia stessa”.

Meserole ha aggiunto: “Se i deepfake verranno sfruttati per operazioni militari e di intelligence mirate, il loro utilizzo deve essere soggetto a revisione e supervisione”.

Il documento di lancio, pubblicato per la prima volta dalla Direzione della Scienza e della Tecnologia di SOCOM nel 2020, ha stabilito una lista dei desideri di giocattoli di nuova generazione per il commando delle forze speciali del 21° secolo, una litania di gadget e strumenti futuristici che aiuteranno i soldati più d’élite del paese in modo più efficace cacciare e uccidere i loro bersagli usando laser, robot, olografi e altro hardware sofisticato.

Lo scorso ottobre, SOCOM ha rilasciato silenziosamente una versione aggiornata della sua lista dei desideri con una nuova sezione: “Tecnologie avanzate da utilizzare nelle operazioni di supporto alle informazioni militari (MISO)”, un eufemismo del Pentagono per la sua propaganda globale e gli sforzi di inganno.

Il paragrafo aggiunto esplicita il desiderio di SOCOM di ottenere mezzi nuovi e migliorati per eseguire “operazioni di influenza, inganno digitale, interruzione della comunicazione e campagne di disinformazione a livello tattico e operativo”. SOCOM sta cercando “una capacità di nuova generazione per raccogliere dati disparati attraverso flussi di informazioni pubblici e open source come social media, media locali, ecc. Per consentire a MISO di creare e influenzare direttamente le operazioni”.

SOCOM in genere combatte nell’ombra, ma la sua reputazione pubblica e la sua presenza globale incombono. Composto dalle unità d’élite dell’esercito, del corpo dei marine, della marina e dell’aeronautica, SOCOM guida le operazioni militari più delicate della nazione più letale del mondo.

Mentre le forze speciali americane sono ampiamente conosciute per exploit vistosi come l’uccisione di Osama bin Laden da parte dei Navy SEALs, la loro storia è una storia di missioni segrete, sotterfugi, sabotaggi e campagne di interruzione. Le ambizioni di disinformazione della “prossima generazione” di SOCOM sono solo una parte di una lunga e vasta storia di tentativi di inganno da parte degli apparati militari e di intelligence statunitensi.

Il comando delle operazioni speciali, che accetta proposte su queste capacità fino al 2025, non ha risposto a una richiesta di commento.

Sebbene il comando delle operazioni speciali ha coordinato per anni “operazioni di influenza” straniere, queste campagne di inganno sono state oggetto di un rinnovato controllo. A dicembre, The Intercept ha riferito che SOCOM aveva convinto Twitter, in violazione delle sue politiche interne, a consentire una rete di account fittizi che diffondevano notizie fasulle di dubbia accuratezza, inclusa l’affermazione secondo cui il governo iraniano stava rubando gli organi di civili afgani. Sebbene l’offensiva di propaganda basata su Twitter non abbia utilizzato deepfake, i ricercatori hanno scoperto che gli appaltatori del Pentagono hanno utilizzato avatar generati dall’apprendimento automatico per conferire agli account falsi un certo grado di realismo.

In modo provocatorio, il documento sulle capacità aggiornato rivela che SOCOM vuole potenziare questi sforzi di inganno su Internet con l’uso di video deepfake di “prossima generazione”, un metodo sempre più efficace per generare falsi video digitali realistici utilizzando l’apprendimento automatico. Le forze speciali userebbero questo filmato falso per “generare messaggi e influenzare le operazioni tramite canali non tradizionali”, aggiunge il documento.

Mentre i deepfake sono rimasti in gran parte foraggio per l’intrattenimento e la pornografia, il potenziale per applicazioni più terribili è reale. All’inizio dell’invasione russa dell’Ucraina, un scadente deepfake del presidente ucraino Volodymyr Zelenskyy che ordinava alle truppe di arrendersi iniziò a circolare sui canali dei social media. Considerazioni etiche a parte, la legalità dei deepfake militarizzati in un conflitto, che rimane una questione aperta, non è affrontata nel documento SOCOM.

Come per le campagne di “disinformazione” del governo straniero, gli Stati Uniti hanno passato diversi anni a mettere in guardia contro la potente minaccia alla sicurezza nazionale rappresentata dai deepfake. L’uso di deepfake per ingannare deliberatamente, avvertono regolarmente le autorità governative, potrebbe avere un effetto profondamente destabilizzante sulle popolazioni civili ad essi esposte.

A livello federale, tuttavia, la conversazione ha ruotato esclusivamente attorno alla minaccia che i deepfake di fabbricazione straniera potrebbero rappresentare per gli Stati Uniti, non viceversa. Documenti contrattuali riportati in precedenza mostrano che SOCOM ha cercato tecnologie per rilevare campagne Internet potenziate da deepfake, una tattica che ora vuole scatenare da sola.

Forse provocatoria quanto la menzione dei deepfake è la sezione che segue, in cui si nota che SOCOM desidera mettere a punto la sua propaganda offensiva apparentemente spiando il pubblico previsto attraverso i loro dispositivi connessi a Internet.

Descritta come una “capacità di nuova generazione di ‘acquisire’ i dispositivi Internet of Things (loT) per la raccolta [sic] dati e informazioni dalle popolazioni locali per consentire la scomposizione di quali messaggi potrebbero essere popolari e accettati attraverso il vaglio dei dati una volta ricevuti”, il documento afferma che la capacità di intercettare obiettivi di propaganda “consentirebbe a MISO di creare e promuovere messaggi che potrebbero essere più prontamente ricevuto dalla popolazione locale”. Nel 2017, WikiLeaks ha pubblicato file della CIA rubati che rivelavano una capacità più o meno simile di dirottare dispositivi domestici.

La tecnologia alla base dei video deepfake è arrivata per la prima volta nel 2017, stimolata da una combinazione di hardware per computer economico e potente e scoperte di ricerca nell’apprendimento automatico. I video deepfake vengono generalmente realizzati inviando immagini di un individuo a un computer e utilizzando l’analisi computerizzata risultante per incollare essenzialmente un simulacro altamente realistico di quella faccia su un’altra.

Una volta che il software è stato sufficientemente addestrato, il suo utente può produrre filmati realistici fabbricati di un bersaglio che dice o fa praticamente qualsiasi cosa. La facilità d’uso della tecnologia e la crescente precisione hanno suscitato i timori di un’era in cui il pubblico globale non può più credere a ciò che vede con i propri occhi.

Sebbene le principali piattaforme social come Facebook abbiano regole contro i deepfake, data la natura intrinsecamente fluida e interconnessa di Internet, i deepfake diffusi dal Pentagono potrebbero anche rischiare di tornare nella patria americana.

“Se si tratta di un ambiente mediatico non tradizionale, posso immaginare che la forma di manipolazione vada molto lontano prima di essere fermata o rimproverata da una sorta di autorità locale”, ha detto a The Intercept Max Rizzuto, ricercatore di deepfake presso il Digital Forensic Research Lab dell’Atlantic Council. “La capacità di danneggiare la società è certamente lì.

L’interesse di SOCOM per l’implementazione di campagne di disinformazione deepfake segue gli ultimi anni di ansia internazionale per i video contraffatti e l’inganno digitale da parte di avversari internazionali. Sebbene ci siano scarse prove che gli sforzi della Russia per influenzare digitalmente le elezioni del 2016 abbiano avuto un effetto significativo, il Pentagono ha espresso interesse a raddoppiare le sue capacità di propaganda digitale, per non rimanere indietro, con SOCOM che assume un ruolo cruciale.

In un’udienza dell’aprile 2018 del Comitato per i servizi armati del Senato, il generale Kenneth Tovo del Comando per le operazioni speciali dell’esercito ha assicurato ai senatori riuniti che le forze speciali americane stavano lavorando per colmare il divario di propaganda.

“Abbiamo investito abbastanza pesantemente nei nostri operatori di operazioni psicologiche”, ha affermato, “sviluppando nuove capacità, in particolare per gestire lo spazio digitale, l’analisi dei social media e una varietà di strumenti diversi che sono stati messi in campo da SOCOM che ci consentono di valutare lo spazio dei social media, valutare il dominio informatico, vedere l’analisi delle tendenze, dove si sta muovendo l’opinione e quindi come influenzare potenzialmente quell’ambiente con i nostri prodotti.

Mentre la propaganda militare è vecchia quanto la guerra stessa, i deepfake sono stati spesso discussi come un pericolo tecnologico sui generis, la cui esistenza rappresenta una minaccia per la civiltà.

In un’audizione del Senato Intelligence Committee del 2018 che discuteva della nomina di William Evanina a dirigere il National Counterintelligence and Security Center, il senatore Marco Rubio, R-Fla., ha detto dei deepfake: “Credo che questa sia la prossima ondata di attacchi contro l’America e l’Occidente democrazie”. Evanina, in risposta, ha rassicurato Rubio che la comunità dell’intelligence statunitense stava lavorando per contrastare la minaccia dei deepfake.

Secondo quanto riferito, anche il Pentagono è al lavoro per contrastare la minaccia straniera del deepfake. Secondo un rapporto di notizie del 2018, la Defense Advanced Research Projects Agency, la divisione di ricerca tecnologica dell’esercito, ha speso decine di milioni di dollari per sviluppare metodi per rilevare immagini deepfake. Sforzi simili sono in corso in tutto il Dipartimento della Difesa.

Nel 2019, Rubio e il senatore Mark Warner, D-Va., hanno scritto a 11 società Internet americane esortandole a redigere politiche per rilevare e rimuovere i video deepfake. “Se il pubblico non può più fidarsi di eventi o immagini registrati”, si legge nella lettera, “avrà un impatto corrosivo sulla nostra democrazia”.

All’interno del National Defense Authorization Act for Fiscal Year 2021 c’era una direttiva che ordinava al Pentagono di completare una “valutazione dell’intelligence della minaccia rappresentata da governi stranieri e attori non statali che creano o utilizzano media manipolati dalla macchina (comunemente indicati come ‘deep fakes’). ‘), “incluso” come tali media sono stati usati o potrebbero essere usati per condurre una guerra dell’informazione “.

Solo un paio d’anni dopo, le forze speciali americane sembrano prepararsi a comportarsi allo stesso modo.

“È una tecnologia pericolosa”, ha detto Rizzuto, il ricercatore dell’Atlantic Council.

“Non puoi moderare questa tecnologia nel modo in cui ci avviciniamo ad altri tipi di contenuti su Internet”, ha affermato. “I deepfake come tecnologia hanno più in comune con le conversazioni sulla non proliferazione nucleare”.