Machine Decision is Not Final – I.

by / 27 Maggio 2023

Traduzione a cura di Filippo Scafi e Tommaso Garavaglia.

“Spaziando tra mondi, storie, futuri e modelli fondativi diversi, Machine Decision is Not Final non è solo una rivalutazione tempestiva della posta in gioco nello sviluppo dell’IA, ma anche uno strumento per costruire immaginari più globali per il suo futuro”. Questo Autunno, Urbanomic pubblicherà Machine Decision is Not Final, una raccolta interdisciplinare e interculturale curata da Benjamin Bratton, Anna Greenspan e Bogna Konior. In cerca di una nuova prospettiva su ciò che l’intelligenza artificiale è oggi e su ciò che potrebbe diventare, Chaosmotics, in collaborazione con Urbanomic, durante il corso della settimana, pubblica una serie di estratti in anteprima.

_____________________

Tradurre l’intelligenza artificiale cinese: da “intelligenza prodotta dall’uomo” a “tecnologia nera”

Shuang Frost

Il termine cinese per indicare l’intelligenza artificiale, rengong zhineng (人工智能), è stato originariamente introdotto in Cina attraverso il Giappone, a metà del XX secolo, come appropriazione del termine giapponese jinkō chinō (人工知能). Mentre il primo elemento del composto inglese Artificial Intelligence implica chiaramente l’artificialità e forse anche l’artificio — l’IA come qualcosa di estraneo all’umanità — le locuzioni in cinese e giapponese non presentano tale associazione. Rengong zhineng jinkō chinō si traducono più fedelmente come “intelligenza creata dall’uomo”. La prima metà di ogni doppio composto è formata da due caratteri: 人, letteralmente persona o umano, e 工, lavoro o fatica. Questi caratteri definiscono l’IA come un prodotto della creazione umana e la collegano a una costellazione di associazioni completamente diversa [da quella occidentale]. Possiamo percepire l’effetto di questo cambiamento di orientamento nel discorso popolare. Esiste, ad esempio, un detto cinese che afferma che molti dei prodotti attualmente commercializzati come IA comportano più rengong, lavoro manuale, che zhineng, intelligenza (molte “tecnologie dotate di IA”, ad esempio, si affidano attualmente a eserciti di lavoratori umani per codificare manualmente i dati ed elaborare le informazioni, anziché ad algoritmi di apprendimento automatico) [1]. Questo linguaggio giocoso è profondamente rivelatore: mostra come il concetto di rengong zhineng in cinese sia intrinsecamente incentrato sull’uomo. […] In un recente episodio di Qipashuo, un popolare programma di dibattito cinese, ai concorrenti è stata presentata la seguente domanda: “Se esistesse una ‘tecnologia nera’ in grado di permettere a una persona di scambiare una parte della propria vita per denaro, dovremmo consentirne collettivamente l’utilizzo?”[2]. […] In inglese il termine “tecnologia nera” evoca immagini di mercati digitali per transazioni non tracciabili, onnipresenti sistemi di controllo e altre tecnologie distopiche messe al servizio di fini immorali. Ma nella Sinosfera (lo spazio linguistico del discorso in lingua cinese), la “tecnologia nera” è un concetto con connotazioni prevalentemente positive. Diffuso per la prima volta intorno al 2016, anno in cui AlphaGo ha sconfitto il maestro di Go, Lee Sedol, nella leggendaria partita uomo-macchina, il termine si riferisce a quelle tecnologie trasformative — prima fra tutte l’intelligenza artificiale — che si ritiene abbiano il potenziale per rimodellare radicalmente la società nei modi desiderati dalla collettività. […] Per dare un senso a questo termine evocativo e alle sue associazioni controintuitive, è utile esplorare come la “tecnologia nera” sia stata introdotta e reinventata nel contesto culturale cinese. La frase è apparsa per la prima volta in giapponese come burakku tekunoroji, ブラックテクノロジ, una resa in Romanji delle parole inglesi black technology. Questo composto è stato coniato da Shoji Gatoh, autore di Full Metal Panic!, una serie di light novel e anime [3]. Nel mondo immaginario di Full Metal Panic!burakku tekunoroji si riferisce a una classe di tecnologie così avanzate da superare l’attuale comprensione umana. Queste includono sia forme futuristiche di tecnologie del mondo reale, come l’intelligenza artificiale, sia forme mitiche, come l'”Occhio di fata” e il “Sistema di occultamento elettronico” [4]. Gatoh accosta al termine burakku tekunoroji il termine haiteku ハイテク, dall’inglese high-tech, per distinguerlo dalle tecnologie ordinarie che esistono ai margini dell’attuale frontiera tecnologica. L’haiteku, high-tech, ha un orientamento presentista. Sia in inglese che in giapponese, l’espressione è generalmente invocata in riferimento alle forme più avanzate di tecnologia attualmente disponibili o a quelle tecnologie che esistono da molti decenni, ma che iniziano solo ora a trovare un’applicazione diffusa (ad esempio i nanotubi di carbonio, che sono stati scoperti nel 1952, ma sono stati utilizzati solo di recente per produrre oggetti in fibra di carbonio destinati al consumo di massa). Il burakku tekunoroji, invece, sposta il quadro di riferimento dal presente al futuro. Viene utilizzato per trasmettere il potere incomprensibile di tecnologie inconoscibili, quasi mistiche, e il loro potenziale illimitato di creazione e distruzione. Il termine cinese heikeji (黑科技), traduzione diretta di burakku tekunoroji, conserva dal suo progenitore giapponese le connotazioni di potere ineffabile, ma queste sono private delle corrispondenti preoccupazioni esistenziali. Come spiega il rapporto annuale 2018 del Comitato Linguistico Nazionale Cinese (un’intera sezione del quale è stata dedicata all’esplicitazione del significato di “tecnologia nera”), l’hei (nero) in heikeji (tecnologia nera) non rientra in nessun significato esistente del termine “nero” nel cinese moderno, che va da “oscuro” e “nascosto” a “illecito” e “malvagio”. Al contrario, segnala una visione intensamente positiva verso il futuro; heikeji si riferisce a tecnologie concettuali con un immenso potenziale di trasformazione che sono “difficili da realizzare al momento attuale, ma che potrebbero essere realizzate in futuro” [5].

________________________________________________________________________

[1] Durante il mio lavoro sul campo in Cina, ho sentito spesso esperti del settore invocare il detto “rengong zhineng doushi rengong, meiyou shenme zhineng” (人工智是人工,有什么智能), che si traduce come “L’intelligenza artificiale [Rengong zhineng] è tutta lavoro umano [rengong] e nessuna intelligenza [zhineng]”.
[2] Qipashuo è un programma televisivo prodotto da Ma Dong, fondatore e CEO di Mewe. Sono state trasmesse sette stagioni dal 2014 al 2021. Lo show è diventato un fenomeno culturale in Cina: ha prodotto 1.179 frasi di tendenza classificate come “top search” su Internet in Cina. Inoltre, ha raggiunto la posizione numero 1 nella classifica degli spettacoli linguistici e la terza in quella degli spettacoli di intrattenimento generale. I dati di “Data Will Tell You: The Cultivation of Qipashuo in Seven Years” [数据告诉你,《奇葩说》的七年之’养], 9 marzo 2021 .
[3] フルメタル・パニック! [Full Metal Panic!], scritto da Shoji Gatoh e illustrato da Shiki Douji, pubblicato tra il 1998 e il 2011.
[4] Nella serie, gli haiteku sono stati creati da una sotto-razza di umani, noti come “Whispered”, che sono stati generati come risultato di esperimenti scientifici e la cui esistenza è sconosciuta alla popolazione. Alcuni Haiteku sono poi entrati nel mondo e sono diventati comuni senza che i civili conoscessero le loro origini come “tecnologia nera”.
[5] Comitato di lavoro per la lingua nazionale [国家语言文字工作委员], “Rapporto sulla vita linguistica cinese”, 2018 [中国语言生活状况报告2018].

Mou Zongsan e l’etica AI

Anna Greenspan

Norbert Wiener, riflettendo sulle conseguenze culturali della nuova scienza della comunicazione e del controllo, nel suo ultimo libro God & Golem, Inc: A Comment on Certain Points Where Cybernetics Impinges on Religion, avvertiva che la mentalità letterale delle macchine cibernetiche era analoga ai pericoli demoniaci della magia. “La riprovazione che in epoche passate era legata al peccato della stregoneria”, scrisse, “ora è legata da molte persone alle speculazioni della cibernetica” [1]. Wiener lo illustra facendo riferimento al poema di Goethe L’apprendista stregone, in cui un mago inesperto evoca una scopa magica in grado di aiutarlo nelle sue faccende. Il giovane stregone attiva il suo oggetto incantato, fiducioso di potersi rilassare, perché ora ha uno strumento che obbedisce a tutti i suoi comandi. Tuttavia, viene preso da una crisi di panico quando il pulitore automatico, per il quale una stanza non è mai abbastanza pulita, inizia ad inondare la casa di torrenti d’acqua. Wiener riflette in modo preoccupato sull’idea inquietante che la magia “ti concede ciò che chiedi, non ciò che avresti dovuto chiedere o ciò che intendi” [2]. Si rivolge alla classica favola horror La zampa di scimmia, in cui a una famiglia povera vengono concessi tre desideri. Per prima cosa desiderano del denaro, che arriva sotto forma di assicurazione per il figlio morto tragicamente. Poi desiderano che il figlio ritorni, ma quando torna a casa è solo per perseguitarli sotto forma di fantasma. Terrorizzati, usano l’ultimo desiderio per scacciare il fantasma del figlio perduto [3]. Le macchine cibernetiche, avverte, funzionano in modo simile: “Se si imposta una macchina da gioco per perseguire la vittoria, si otterrà quest’ultima [senza] la minima attenzione per nient’altro che la vittoria secondo le regole poste” [4]. Come suggerisce il titolo del suo libro, questi racconti morali che turbano Wiener, intimamente legati a questioni di disciplina e restrizione, sono inseriti in un ambito filosofico e concettuale molto specifico: quello della religione abramitica. Nei culti abramitici, dal momento in cui Adamo ed Eva mangiano la mela, il problema della conoscenza e della disobbedienza si intrecciano. Per Weiner, il conseguente dilemma di come bilanciare intelligenza e controllo è una caratteristica, e non un difetto, della tradizione monoteistica. Ma cosa succede alle questioni di etica dell’IA se, seguendo l’esempio di filosofi come Yuk Hui, cambiamo prospettiva e utilizziamo un approccio cosmologico completamente diverso? [5]

________________________________________________________________________

[1] Norbert Weiner, God & Golem, Inc.: A Comment on Certain Points Where Cybernetics Impinges on Religion (Cambridge Massachusetts: MIT Press, 1964)60.
[2] Weiner, God & Golem, 71.
[3] Nel suo saggio “Y2K Positive”, Mark Fisher descrive questa letteralità con riferimento al millenario glitch informatico Y2K. Mark Fisher, “Y2K Positive”, Mute (gennaio 2004), <https://www.metamute.org/editorial/articles/y2k-positive>.
[4] Wiener, God & Golem, 71
[5] Si veda Yuk Hui, “On the Limit of Artificial Intelligence”, Philosophy Today 65 (2):339-357 e The Question Concerning Technology in China (Falmouth: Urbanomic, 2016). Si veda anche Bing Song, “Introduction: How Chinese Philosophers Think About Artificial Intelligence?” in Intelligence and Wisdom (Singapore: Springer, 2021), 1-14.
Condividi:

Ti è piaciuto l'articolo?