L’esercito israeliano Secondo quanto riferito, ha implementato una rete di riconoscimento facciale attraverso la Striscia di Gaza, scansionando i palestinesi comuni mentre si spostano attraverso il territorio devastato, tentando di fuggire dai bombardamenti in corso e cercando sostentamento per le loro famiglie.
Secondo il New York Times, il programma si basa su due diversi strumenti di riconoscimento facciale: uno realizzato dall’appaltatore israeliano Corsight e l’altro integrato nella popolare piattaforma di organizzazione delle immagini dei consumatori offerta tramite Google Foto. Un anonimo funzionario israeliano ha detto al Times che Google Foto ha funzionato meglio di qualsiasi altra tecnologia alternativa di riconoscimento facciale, aiutando gli israeliani a stilare una “lista dei risultati” dei presunti combattenti di Hamas che hanno partecipato all’attacco del 7 ottobre.
La sorveglianza di massa dei volti palestinesi derivante dagli sforzi di Israele per identificare i membri di Hamas ha coinvolto migliaia di residenti di Gaza dopo l’attacco del 7 ottobre. Molti di coloro che sono stati arrestati o imprigionati, spesso con poche o nessuna prova, hanno poi affermato di essere stati brutalmente interrogati o torturati. Nel suo articolo sul riconoscimento facciale, il Times ha citato il poeta palestinese Mosab Abu Toha, il cui arresto e pestaggio per mano dell’esercito israeliano è iniziato con l’uso del riconoscimento facciale. Abu Toha, successivamente rilasciato senza essere accusato di alcun crimine, ha detto al giornale che i soldati israeliani gli avevano detto che il suo arresto grazie al riconoscimento facciale era stato un “errore”.
Mettendo da parte le questioni di accuratezza – i sistemi di riconoscimento facciale sono notoriamente meno accurati sui volti non bianchi – l’uso delle funzionalità di analisi basate sull’apprendimento automatico di Google Foto per sottoporre i civili sotto controllo militare, o peggio, è in contrasto con le regole chiaramente stabilite dall’azienda. Sotto l’intestazione “Attività pericolose e illegali”, Google avverte che Google Foto non può essere utilizzato “per promuovere attività, beni, servizi o informazioni che causano danni gravi e immediati alle persone”.
“La sorveglianza del riconoscimento facciale di questo tipo mina i diritti sanciti dal diritto internazionale sui diritti umani”.
Alla domanda su come il divieto di utilizzare Google Foto per danneggiare le persone fosse compatibile con l’uso di Google Foto da parte dell’esercito israeliano per creare una “lista dei risultati desiderati”, il portavoce dell’azienda Joshua Cruz ha rifiutato di rispondere, affermando solo che “Google Foto è un prodotto gratuito ampiamente diffuso disponibile al pubblico che ti aiuta a organizzare le foto raggruppando volti simili, così puoi etichettare le persone per trovare facilmente le vecchie foto. Non fornisce identità a persone sconosciute nelle fotografie”. (Cruz non ha risposto ai ripetuti tentativi successivi di chiarire la posizione di Google.)
Non è chiaro come tali divieti – o gli impegni pubblici di lunga data dell’azienda nei confronti dei diritti umani – vengano applicati all’esercito israeliano.
“Dipende da come Google interpreta ‘danno grave e immediato’ e ‘attività illegale’, ma la sorveglianza del riconoscimento facciale di questo tipo mina i diritti sanciti dalla legge internazionale sui diritti umani: privacy, non discriminazione, diritto di espressione, diritto di riunione e altro ancora”, ha affermato Anna Bacciarelli, direttore tecnico associato di Human Rights Watch. “Dato il contesto in cui questa tecnologia viene utilizzata dalle forze israeliane, in un contesto di negazione diffusa, continua e sistematica dei diritti umani delle persone a Gaza, spero che Google intraprenda le azioni appropriate”.
Fare del bene o fare Google?
Oltre ai termini di servizio che vietano l’utilizzo di Google Foto per causare danni alle persone, l’azienda afferma da molti anni di abbracciare vari standard globali sui diritti umani.
“Fin dalla fondazione di Google, abbiamo creduto nello sfruttamento del potere della tecnologia per promuovere i diritti umani”, ha scritto Alexandria Walden, responsabile globale dei diritti umani dell’azienda, in un post sul blog del 2022. “Ecco perché i nostri prodotti, le nostre operazioni aziendali e il processo decisionale relativo alle tecnologie emergenti sono tutti basati sul nostro Programma sui diritti umani e sul nostro profondo impegno per aumentare l’accesso alle informazioni e creare nuove opportunità per le persone in tutto il mondo.”
Questo profondo impegno include, secondo l’azienda, il sostegno alla Dichiarazione universale dei diritti umani – che vieta la tortura – e ai Principi guida delle Nazioni Unite su imprese e diritti umani, che rilevano che i conflitti sul territorio producono alcuni dei peggiori abusi dei diritti.
L’uso da parte dell’esercito israeliano di un prodotto Google gratuito e disponibile al pubblico come Photos solleva interrogativi su questi impegni aziendali sui diritti umani e sulla misura in cui l’azienda è disposta a metterli effettivamente in pratica. Google afferma di sostenere e sottoscrivere i Principi guida delle Nazioni Unite su imprese e diritti umani, un quadro che invita le aziende a “prevenire o mitigare gli impatti negativi sui diritti umani che sono direttamente collegati alle loro operazioni, prodotti o servizi attraverso i loro rapporti commerciali, anche se non hanno contribuito a tali impatti”.
Walden ha anche affermato che Google sostiene la Due Diligence sui diritti umani sensibili ai conflitti per le aziende ICT, un quadro volontario che aiuta le aziende tecnologiche a evitare l’uso improprio dei loro prodotti e servizi nelle zone di guerra. Tra le molte raccomandazioni del documento figurano quelle che aziende come Google dovrebbero prendere in considerazione “L’uso di prodotti e servizi per la sorveglianza governativa in violazione delle norme internazionali sui diritti umani che causano impatti immediati sulla privacy e sulla sicurezza fisica (ad esempio, per localizzare, arrestare e imprigionare qualcuno)”. (Né JustPeace Labs né Business for Social Responsibility, coautori del quadro di due diligence, hanno risposto a una richiesta di commento.)
“Google e Corsight hanno entrambi la responsabilità di garantire che i loro prodotti e servizi non causino o contribuiscano ad abusi dei diritti umani”, ha affermato Bacciarelli. “Mi aspetto che Google prenda provvedimenti immediati per porre fine all’uso di Google Foto in questo sistema, sulla base di questa notizia.”
I dipendenti di Google che prendono parte alla campagna No Tech for Apartheid, un movimento di protesta guidato dai lavoratori contro il progetto Nimbus, hanno chiamato il loro datore di lavoro per impedire all’esercito israeliano di utilizzare il riconoscimento facciale di Photos per portare avanti la guerra a Gaza.
“Il fatto che l’esercito israeliano stia addirittura utilizzando come arma la tecnologia di consumo come Google Foto, utilizzando il riconoscimento facciale incluso per identificare i palestinesi come parte del loro apparato di sorveglianza, indica che l’esercito israeliano utilizzerà qualsiasi tecnologia messa loro a disposizione – a meno che Google non prenda provvedimenti per garantire la loro i prodotti non contribuiscono alla pulizia etnica, all’occupazione e al genocidio”, ha affermato il gruppo in una dichiarazione condivisa con The Intercept. “Come lavoratori di Google, chiediamo che la società abbandoni immediatamente il Progetto Nimbus e cessi ogni attività che supporti il programma genocida del governo israeliano e dell’esercito per decimare Gaza”.
Progetto Nimbus
Questa non sarebbe la prima volta che i presunti principi dei diritti umani di Google contraddicono le sue pratiche commerciali, anche solo in Israele. Dal 2021, Google ha venduto all’esercito israeliano strumenti avanzati di cloud computing e apprendimento automatico attraverso il suo controverso contratto “Project Nimbus”.
A differenza di Google Foto, un prodotto di consumo gratuito disponibile per chiunque, Project Nimbus è un progetto software su misura adattato alle esigenze dello stato israeliano. Sia l’abilità di Nimbus che quella di Google Foto nell’abbinamento dei volti, tuttavia, sono il prodotto delle immense risorse di apprendimento automatico dell’azienda.
La vendita di questi sofisticati strumenti a un governo così regolarmente accusato di commettere violazioni dei diritti umani e crimini di guerra è in contrasto con i principi di intelligenza artificiale di Google. Le linee guida vietano gli usi dell’IA che potrebbero causare “danni”, inclusa qualsiasi applicazione “il cui scopo contravviene ai principi ampiamente accettati del diritto internazionale e dei diritti umani”.
Google ha precedentemente suggerito che i suoi “principi” sono in realtà molto più ristretti di quanto appaiano, applicandosi solo al “lavoro di intelligenza artificiale personalizzato” e non all’uso generale dei suoi prodotti da parte di terzi. “Significa che la nostra tecnologia può essere utilizzata in modo abbastanza ampio dai militari”, ha detto a Defense One un portavoce dell’azienda nel 2022.
Come, o se, Google trasformerà mai le sue assicurazioni pubblicate sul blog dei dirigenti in conseguenze nel mondo reale, rimane poco chiaro. Ariel Koren, un’ex dipendente di Google che ha affermato di essere stata costretta a lasciare il lavoro nel 2022 dopo aver protestato contro il progetto Nimbus, ha collocato il silenzio di Google sulla questione Foto in uno schema più ampio di evitare la responsabilità per il modo in cui viene utilizzata la sua tecnologia.
“È un eufemismo dire che aiutare e favorire un genocidio costituisce una violazione dei principi e dei termini di servizio dell’intelligenza artificiale di Google”, ha detto a The Intercept Koren, ora un organizzatore di No Tech for Apartheid. “Anche in assenza di commenti pubblici, le azioni di Google hanno reso chiaro che i principi etici pubblici dell’azienda in materia di intelligenza artificiale non hanno alcuna influenza o peso nelle decisioni aziendali di Google Cloud e che anche la complicità nel genocidio non costituisce un ostacolo alla spietata ricerca del profitto da parte dell’azienda. ad ogni costo.”
Origine: theintercept.com
