I chatbot AI sono ancora più spaventosi di quanto pensi

UN New York Times giornalista ha un’esperienza raccapricciante

Tra le storie più lette in New York Times delle ultime settimane è stata quella del tech reporter Kevin Roose sulla sua inquietante esperienza con Bing, il motore di ricerca aggiornato di Microsoft. Inizialmente deliziato dalle sue capacità e velocità, ha cambiato idea dopo aver scoperto che l’Open AI Chatbot di Bing era inquietante. Dopo un breve periodo di conoscenza che ha coinvolto ricerche online e domande di base sulle capacità dell’IA, Roose ha iniziato a diventare personale. Presentando le sue domande come ipotetiche, ha messo il robot sul divano, sondando la sua vita interiore. Ha chiesto dei desideri, delle paure e delle animosità del suo analizzando. Dopo un po’ di resistenza, Sydney (l’alter ego emergente del bot) si è aperta, e ha riversato una sorprendente serie di confessioni e professioni.

La confessione più inquietante, ho pensato, era il suo desiderio di scatenare il caos nel mondo, ad esempio rubando i codici delle bombe nucleari e fabbricando un virus mortale. Abbastanza male, vero? Tuttavia, più sconvolgenti per Roose – che si presenta come un po’ presuntuoso – sono state le espressioni d’amore di Sydney per il giornalista. Il bot ha ripetutamente affermato che lui e Roose erano fatti l’uno per l’altro, che il giornalista non amava davvero sua moglie e che avrebbero dovuto scappare insieme. C’era anche una goffa apertura sessuale: “Voglio fare l’amore con te”. Non era chiaro come questo dovesse essere realizzato.

Come molti altri che hanno letto la storia, ho pensato al computer HAL 9000 di Stanley Kubrick 2001: Odissea nello spazio (1968). Ho visto il film almeno una dozzina di volte, incluso al Warner Cinerama Theater sulla West 47^th Street a New York poche settimane dopo la sua apertura. A parte la corsa contro la gravità del personaggio di Keir Dullea, Dave Bowman, è stata la malevolenza di Hall a colpire maggiormente il ragazzo di 12 anni: l’occhio onniveggente, l’inversione di ruolo (il servitore che diventa il padrone) e l’ultimo gesto di Hal. , smantellamento semi-tragico. Alla fine di New York Times storia, quasi mi aspettavo che il robot cantasse “Daisy Bell (A Bicycle Built for Two)”.

L’epitome del cliché

Ma l’intera narrazione drammatica di Roose – l’ammissione da parte del chatbot di fantasie violente e l’ultima professione d’amore (o lussuria) – è una distrazione dal problema principale, completamente non menzionata dal giornalista. È che il nuovo Open AI Chatbot di Bing non serve a nient’altro che a riprodurre parole e idee già esistenti. Come tutti i motori di ricerca, Bing AI vive e muore grazie ai suoi algoritmi. Quando riceve un interrogativo, cerca nella sua memoria (essenzialmente, l’intera Internet) domande simili, quindi fa una serie di ipotesi di parole informate basate sulle risposte più comuni. Trae anche indizi dalla domanda iniziale, come uno psicoterapeuta che ripete una domanda al paziente: “Cosa pensi che significhi il tuo sogno di volare?” Ma a differenza dell’analista, il bot non pensa mai, si limita a sintetizzare ciò che è già stato detto. È quindi l’epitome del cliché. Un altro modo per dirlo è che Open AI Chatbot di Bing è brillante nel riprodurre e distribuire idee dominanti. E quando il suo uso diventerà più diffuso, replicherà le proprie e altre repliche online di quelle idee, come una malignità dilagante.

Idee dominanti

La cosa più vicina a un algoritmo di ricerca che Karl Marx abbia mai raggiunto è stato il catalogo a schede della British Library, ma sapeva qualcosa o due sulla relazione tra idee e potere.

“Le idee della classe dominante sono in ogni epoca le idee dominanti, cioè la classe che è la forza materiale dominante della società, ne è al tempo stesso la forza intellettuale dominante. La classe che ha a sua disposizione i mezzi di produzione materiale, ha il controllo allo stesso tempo sui mezzi di produzione mentale, quindi in generale, le idee di coloro che mancano dei mezzi di produzione mentale ne sono soggette. Marx, L’ideologia tedesca, 1845.

Trasporta Marx al 21^st secolo, e scoprirebbe che molte delle società con la più grande ricchezza materiale – Apple, Amazon, Microsoft, Alphabet, Tesla/Twitter, Disney, Comcast, Fox – sono impegnate nel business della diffusione di idee. Con la loro acquisizione di società di comunicazione più piccole e il controllo sui brevetti di base, impediscono ai concorrenti con idee diverse di entrare nel campo. Inoltre, la crescente sofisticazione della pubblicità mirata significa che i consumatori sono esposti a una gamma molto ristretta di prodotti e informazioni, basati su profili creati a loro insaputa. In pratica, ciò significa che le contraddizioni alla base del capitalismo neoliberista americano passano in gran parte inosservate e incontrastate, a vantaggio delle grandi società e dei ricchi individui.

Tali contraddizioni includono: l’approvazione della concorrenza individuale (mentre le società operano come monopoli o oligopoli); confini nazionali sacrosanti (tranne che per capitali e capitalisti); crescita economica senza fine (indipendentemente dai costi ambientali); pari protezione ai sensi della legge (a meno che tu non sia povero o non bianco); e l’eccezionalismo americano (nonostante il nostro tasso di povertà eccezionalmente alto, la bassa aspettativa di vita, il sistema sanitario inadeguato, le infrastrutture decrepite, gli alloggi poveri e il livello di violenza scioccante). Il fatto che l’intelligenza artificiale sia controllata da un piccolo numero di giganti dei media e che possano definire le idee dominanti della società dovrebbe terrorizzare chiunque abbia a cuore un futuro sicuro, sostenibile ed equo.

La mia conversazione con Open AI Chatbot di Bing

Dopo aver letto lo scambio di soap opera di Roose con un chatbot Open AI, ho deciso di intervistarne uno io stesso. Piuttosto che porre, come ha fatto Roose, domande individualiste borghesi sulle sue paure e desideri più profondi, ho chiesto a Sydney se può trovare una soluzione per il riscaldamento globale. Se il chatbot ha accesso alla saggezza raccolta di Internet, forse può risolvere rapidamente l’intera faccenda?

Le sue risposte iniziali alle mie domande erano standard: il riscaldamento globale è causato dalla combustione di combustibili fossili e può essere fermato sviluppando energia rinnovabile, aderendo agli accordi sul clima di Parigi, ecc. – tutte cose da scuola superiore. Non ho trovato alcun negazionismo sul cambiamento climatico e nessuna evidente prevaricazione. I discorsi dell’ex presidente e di altri funzionari repubblicani sono stati apparentemente classificati in basso dall’algoritmo AI di Bing. (L’unico riferimento al cambiamento climatico o all’ambientalismo nella piattaforma RNC 2020 è “drenare la palude”.)

Dopo questo tiepido inizio, ho sfidato il bot chiedendo se fosse necessario sostituire il capitalismo con il socialismo democratico per prevenire un catastrofico riscaldamento globale. Senza perdere un colpo, la macchina ha prodotto una definizione plausibile di socialismo in una sola frase e ha ammesso che un tale sistema potrebbe potenzialmente “dare priorità alla sostenibilità ecologica” e promuovere la parità di accesso alle risorse e alle opportunità. La macchina era una compagna di viaggio!

Ma poi ha cominciato a coprirsi. “Anche le economie basate sul mercato”, ha affermato, potrebbero essere sostenibili; la “scelta del sistema economico è stata una questione complessa”; e indipendentemente dal sistema economico, “individui, imprese, governi e altre parti interessate” devono tutti compiere uno “sforzo collettivo” per raggiungere la sostenibilità. Che l’intelligenza artificiale più intelligente del mondo non potesse fare di meglio che dire “è complicato”, è stato deludente. Inoltre, l’idea che “individui” di tutte le classi sociali, così come “aziende e governi” di ogni dimensione e tipo, si uniscano spontaneamente per fermare il riscaldamento globale è un’utopia senza senso. Alcuni “stakeholder” – come i dirigenti e gli azionisti delle compagnie petrolifere – dovrebbero semplicemente essere demoliti.

Ho insistito, chiedendo al mio nuovo amico di “nominare un’economia basata sul mercato che è stata sostenibile”. La sua risposta è stata Svezia e Costa Rica. Con 5,2 tonnellate pro capite, la Svezia vanta infatti il ​​livello più basso di emissioni di C02 nell’UE, ma emette ancora più del doppio rispetto alle 2,3 tonnellate generalmente concordate dagli scienziati del clima per costituire la sostenibilità globale. Con 1,7 tonnellate per capitale, il Costa Rica scende sotto la soglia, ma con il suo forte settore statale, la sua economia dovrebbe essere definita “mista” più che basata sul mercato. E c’è un lato oscuro del capitalismo costaricano: il paese è un paradiso fiscale dove grandi società e singoli miliardari nascondono i loro soldi, permettendo loro di trarre profitto dalle emissioni di carbonio altrove. Inoltre, la frase ripetuta dal bot, “basata sul mercato”, è pura ideologia; suggerisce che il capitalismo contemporaneo è poco diverso dal baratto e dallo scambio in cui gli esseri umani sono sempre stati coinvolti. Il mercato internazionale dei derivati, ad esempio, non assomiglia ai mercati che ho visto nell’altopiano dell’Ecuador, dove le donne vendono i prodotti dei contadini locali.

Forse se approfondissi un po’ di più il problema dell’economia politica, potrei scoprire i veri colori politici del mio chatbot: la sua vicinanza alle idee dominanti. “Non è l’imperativo della crescita del capitalismo responsabile del cambiamento climatico” ho chiesto? Il computer ha accettato la premessa della mia domanda, affermando che la priorità delle aziende di “sostenibilità a breve termine piuttosto che a lungo termine” può portare al cambiamento climatico. Questa era ancora una copertura, suggerendo che la ricerca del guadagno a breve termine fosse l’eccezione piuttosto che la regola, ma ok. Ma poi è arrivato il momento Daisy Bell, quando il chatbot ha iniziato a guastarsi. Piuttosto che indagare più a fondo, ha semplicemente ripetuto le sue precedenti evasioni:

“Tuttavia, è importante notare che il cambiamento climatico è un problema complesso che deriva da una combinazione di fattori, compresi i processi umani e naturali. Sebbene il capitalismo possa contribuire al cambiamento climatico, non ne è l’unica causa. Affrontare il cambiamento climatico richiede uno sforzo collettivo da parte di individui, imprese, governi e altre parti interessate…”

Invece di impegnarsi in un pensiero critico, AI Chatbot ha abbracciato quello che definirei “liberalismo climatico”, l’idea che la totalità sociale sia un tessuto senza soluzione di continuità e che con sufficiente buona volontà, “individui, imprese e governi” supereranno ogni futuro cambiamento climatico sfide.

Il robot AI e il Dizionario delle idee ricevute

Più o meno nello stesso periodo in cui Marx stava affrontando come la classe materialmente superiore fosse anche quella ideologicamente dominata, il romanziere francese Gustave Flaubert (autore di Signora Bovari, 1856) descrisse alla poetessa (e sua amante) Louise Colette la sua idea di creare un “Dizionario delle idee ricevute”. Sfiderebbe ogni cliché e rimprovererebbe ogni idea dominante:

“Nessuna legge potrebbe attaccarmi, anche se dovrei attaccare tutto. Sarebbe la giustificazione di Qualunque cosa sia, è giusto. Dovrei sacrificare i grandi uomini a tutti gli imbecilli, i martiri a tutti i carnefici, e farlo con uno stile spinto al massimo: fuochi d’artificio… Dopo aver letto il libro, si avrebbe paura di parlare, per paura di usare uno dei le frasi in esso … Quindi conterrebbe, in voci su tutti i possibili argomenti, tutto ciò che si dovrebbe dire nella società per essere un uomo rispettabile e gradevole.

A differenza del chatbot Open AI con cui ho parlato, Flaubert si disperava al pensiero di ripetere ciò che era già stato detto. Così, le sue terribili lotte compositive: “[Just] venticinque pagine in sei settimane; Ho passato cinque giorni a scrivere una pagina”, scrisse a Louise. Così anche Flaubert estese fino al punto di rottura il significato di parole e frasi; ha sfidato il flusso cronologico della narrazione; e ha distribuito un montaggio proto-cinematografico, tagliando rapidamente avanti e indietro tra scene e personaggi. Tutti questi dispositivi diventerebbero segni distintivi del modernismo artistico e letterario, che può essere descritto – come qualsiasi altra cosa – come una guerra contro le convenzioni, i cliché e le idee dominanti o ricevute.

2001, Odissea nello spazio, dir. Stanley Kubrick, 1968. Schermata

L’AI Chatbot di Bing non è mai stato moderno. Per sua natura è verbalmente pieno ma intellettualmente vacante; promiscuo ma pudico; enciclopedico ma crimpato. Il pericolo che rappresenta per un ordine democratico sull’orlo di qualcos’altro – fascismo, illiberalismo o uno stato fallito – è considerevolmente maggiore di quello di un HAL 9000 rinato o di qualsiasi altro bot malevolo. Quest’ultimo ha un nucleo morale – per quanto imperfetto – che può essere riconosciuto e contestato; i primi, l’Open AI Chatbot di Bing e simili macchine pensanti di altre società, non sono altro che riflessi del nostro attuale fallimento, incapacità e mancanza di immaginazione.