“Spaziando tra mondi, storie, futuri e modelli fondativi diversi, Machine Decision is Not Final non è solo una rivalutazione tempestiva della posta in gioco nello sviluppo dell’IA, ma anche uno strumento per costruire immaginari più globali per il suo futuro”. Il 14 novembre uscirà Machine Decision is Not Final, una raccolta interdisciplinare e interculturale curata da Benjamin Bratton, Anna Greenspan e Bogna Konior. In cerca di una nuova prospettiva su ciò che l’intelligenza artificiale è oggi e su ciò che potrebbe diventare, Chaosmotics, in collaborazione con Urbanomic, durante il corso della settimana, pubblica una serie di estratti in anteprima.
_____________________
Invidiare la macchina
Wang Xin
A partire dal 2018, la piattaforma di social media Weibo ha registrato un curioso aumento dei bot: con questo termine non intendo account zombie automatizzati a pagamento o eserciti di troll coordinati, ma esseri umani che creano account sulla falsariga di quelli gestiti da bot. […] Il “bot Lu Xun” prende il nome da uno dei più formidabili e incandescenti scrittori della Cina moderna (1881-1936), la cui critica serrata ai mali dell’imperialismo e del conservatorismo confuciano continua a risuonare sia nei libri di testo nazionali che all’interno del discorso pubblico. Le sue idee culturali e politiche sono state ampiamente poste in essere e, cosa più importante, promosse dalle autorità come rappresentative dei loro valori centrali. Si può sostenere che l’opera di Lu Xun costituisca l’insieme di dati essenziali su cui si sono formate generazioni di cinesi moderni, fatto che ha reso le sue parole particolarmente potenti e problematiche quando vengono utilizzate per criticare i mali sociali di oggi. […] Una delle implicazioni radicali del “Lu Xun bot” sta nel potenziale futuro di riportare in “vita” i fari della cultura utilizzando un sistema avanzato di intelligenza artificiale. Sebbene artisti leggendari, come il compianto Hibari Misora, siano stati riportati in vita attraverso performance straordinarie grazie a VOCALOID:AI, la prospettiva di una critica culturale abilitata dall’IA sembra ancora lontana, dacché la sua necropolitica, la sua etica e la sua ontologia rimangono piuttosto oscure. D’altra parte, “Lu Xun bot” finge un senso di oggettività e casualità indotta dalla macchina, in tal modo sfuggendo alle responsabilità e alle conseguenze politiche che sarebbero attivate dalla presenza di una concessione da parte dell’agency umana. Questo gesto satirico, autoironico ma provocatorio, nasconde un senso di rassegnazione che la dice lunga sullo stato attuale dell’agency umana, la quale cerca l’anonimato e il rifugio attraverso un camuffamento non-umano all’interno della condizione di sorveglianza di massa. Poiché gli abitanti di internet [netizens] cinesi fanno dell’elusione creativa della censura un passatempo nazionale – potremmo sostenere che ciò rappresenti una delle punte di diamante della produzione culturale – la rapida e costante cancellazione di queste strategie, dei data point e delle nuove semantiche rende impraticabile il deep learning, oltre che una scrittura della storia che contempli una qualche continuità o validità pratica. Ci si chiede non solo come questo Zeitgeist possa essere compreso o modellato, ma anche trasformato, mentre le persone si adattano intuitivamente al discorso codificato nel cyberspazio cinese. Ciò che risulta profondamente singolare e ironico è un senso palpabile di invidia per le macchine, dove la tecnologia avanzata non incarna necessariamente i tropi familiari della servitù o della minaccia esistenziale, ma presenta piuttosto un modello praticabile e ambizioso di come essere. L’artificialità non solo sembra più desiderabile, ma anche più tangibile del reale.
La teoria della foresta oscura dell’intelligenza
Bogna Konior
In Remembrance of the Earth’s Past, la trilogia fantascientifica del primo contatto di Liu Cixin, gli extraterrestri scoprono con sorpresa che per gli umani “pensare” e “dire” non sono sinonimi. Nel nascondere le informazioni, gli umani hanno un vantaggio sleale perché possono manipolare l’espressione dei loro pensieri: “È proprio l’espressione di pensieri deformati che rende lo scambio di informazioni nella società umana… così simile a un labirinto contorto”[1]. L’intelligenza di “livello umano” è quindi la capacità di controllare lo scambio di comunicazioni complesse, soprattutto attraverso l’occultamento. Al contrario, l’intelligenza aliena è descritta come radicalmente esplicita: gli alieni comunicano senza riflessi e in modo trasparente, come se fossero semplici tecnologie di visualizzazione: “Non hanno organi di comunicazione, i loro cervelli mostrano i loro pensieri al mondo esterno; il pensiero e i ricordi sono trasparenti come un libro esposto al pubblico o un film proiettato in una piazza… totalmente esposti”[2]. Questo esibizionismo dei propri processi di ragionamento è il modo in cui i celebri esperimenti di pensiero americani sull’IA hanno concettualizzato l’intelligenza informatica: averla è mostrarla. Dal “gioco dell’imitazione” di Alan Turing alla “stanza cinese” di John Searle, l’intelligenza informatica è stata incentrata sulla dimostrazione di “abilità” linguistiche. Sia Turing che Searle ipotizzano che un computer possa conversare fluentemente con gli esseri umani, ma in nessuno di questi esperimenti di pensiero si presume che i computer mentano. Le comunicazioni del computer sono giudicate al valore nominale come semplicemente il meglio che un computer può fare. Anche se un computer intelligente dovrebbe “essere in grado di alterare le proprie istruzioni”[3], non si immagina che agisca in modo ingannevole o manipolativo. Nella storia degli esperimenti di pensiero sull’IA, è stato insolito ipotizzare che un computer intelligente potesse apparire non intelligente per i suoi stessi scopi. Proprio come nel caso degli alieni di Liu, l’intelligenza del computer è immaginata come trasparente: se ci fosse, dovrebbe comunicarsi senza riflessi, perché un computer non può decidere di negare le proprie capacità. Tuttavia, la descrizione di Liu dell’intelligenza come abile uso della comunicazione, come “trucco, camuffamento, inganno”[4], suggerisce anche che non tutti gli approcci all’intelligenza devono essere esibizionisti. Se l’intelligenza è definita come inganno, trucco e mimetismo, averla significa nasconderla […]. Potremmo quindi passare dalla domanda “quanto efficacemente potrebbe comunicare un computer intelligente con gli esseri umani” a “perché un computer intelligente dovrebbe comunicare la propria intelligenza”?
________________________________________________________________________
[1] Liu Cixin, The Dark Forest, tr. Joel Martinsen (New York: Tor, 2015) epub.
[2] Liu, The Dark Forest.
[3] Turing sottolinea qui l’importanza di agire in modo intelligente piuttosto che di avere intelligenza. The Essential Alan Turing, ed. B J Copeland (Oxford: Oxford University Press), 375.
[4] Liu, The Dark Forest.
