Machine Decision Is Not Final – II.

by / 30 Maggio 2023

Traduzione a cura di Filippo Scafi e Tommaso Garavaglia.

“Spaziando tra mondi, storie, futuri e modelli fondativi diversi, Machine Decision is Not Final non è solo una rivalutazione tempestiva della posta in gioco nello sviluppo dell’IA, ma anche uno strumento per costruire immaginari più globali per il suo futuro”. Il 14 novembre uscirà Machine Decision is Not Final, una raccolta interdisciplinare e interculturale curata da Benjamin Bratton, Anna Greenspan e Bogna Konior. In cerca di una nuova prospettiva su ciò che l’intelligenza artificiale è oggi e su ciò che potrebbe diventare, Chaosmotics, in collaborazione con Urbanomic, durante il corso della settimana, pubblica una serie di estratti in anteprima.

_____________________

L’automaticità e il mistero di stato

Vincent Garton

L’intelligenza artificiale è l’origine e il limite della genealogia dello Stato. I concetti di macchina e di Stato, nella loro forma familiare, sono emersi contemporaneamente all’interno del pensiero europeo, a cavallo tra l’epoca medievale e quella moderna, riflettendo in entrambi i casi la concezione ascendente di un universo governato dall’interazione di forze meccaniche. Esse raggiunsero un’articolazione seminale in Thomas Hobbes — allo stesso tempo il teorico definitivo dello Stato moderno e il riformatore della ragione come calcolo. Fu il suo Leviatano, nel 1651, a mettere in campo una nuova teoria materialista del cosmo per fornire il primo resoconto dello Stato come entità realmente indipendente, una persona artificiale con un suo particolare apparato e un’unica volontà distinta da quella di tutti i suoi membri e del suo sovrano. […] Uomo artificiale e dio mortale: in una prova di fantascienza futura, lo Stato di Hobbes per sua stessa definizione è anche un’IA che domina i suoi creatori. [In Occidente] il concetto di Stato nasce come una forma di intelligenza artificiale simulata, dipendente da una concezione teologica della sovranità, che funge da mistero che sostiene continuamente questa simulazione. La prospettiva contemporanea dell’IA come sistema di macchine veramente automatico e capace di una ragione autosufficiente trasforma la simulazione in realtà, ma abolisce al contempo la possibilità della sovranità umana, necessaria al funzionamento dello Stato moderno. Questo dispotismo prospettico dell’algoritmo richiede una rivalutazione fondamentale dell’inventario concettuale del pensiero politico, che superi il concetto [occidentale] di Stato e la sua particolare teologia politica. Suggerisco che un’alternativa possa essere trovata compiendo un grande salto storico: il quadro teorico dello Han Feizi del III secolo a.C., un classico intramontabile del pensiero politico cinese. Nell’antica tradizione del pensiero politico cinese manca il concetto di Stato. Anche nel moderno cinese mandarino, le parole che abitualmente traducono il termine e designano la sua realizzazione contemporanea sono poco adatte. Guojia (国家), la traduzione più tipica, è una rielaborazione del XIX secolo e il suo uso attuale porta con sé le caratteristiche intellettuali di quell’epoca, collassando lo Stato in “nazione” e “Paese” […]. A parte i suoi presupposti filosofici radicalmente divergenti, il pensiero politico cinese è stato in ogni caso, fino a poco tempo fa, privo di un parallelo con il concetto fondamentale di personalità artificiale che sta genealogicamente alla base del concetto di Stato, il quale in Occidente ha permesso la costruzione di questa entità come un’intelligenza artificiale simulata [1]. Nell’interpretazione delle teorie politiche raccolte all’interno dello Han Feizi [2] ciò ha una conseguenza radicale: non si può dire che esse siano state orientate, in alcun senso rilevante, intorno allo “Stato”. […] È vero che, astraendo dal suo contesto, il sistema teorico dello Han Feizi può apparire abbastanza simile a quello di Hobbes. Entrambi articolano una visione della politica in decisa rottura con le precedenti concezioni morali, poggiando su una visione apparentemente materialistica del mondo e assumendo come realtà politica un mondo di ambizioni irrefrenabili che devono essere contenute con la forza. Tuttavia, il loro pensiero rimane fondato su cosmologie radicalmente diverse, incarnate in articolazioni divergenti della struttura del potere politico. L’inserimento nel Han Feizi di due commenti al Daodejing, il classico attribuito a Laozi, ne dimostra la centralità. Il mistero, certo, rimane la base ultima: la Via è “ciò che è eterno”, che “non ha un luogo mutevole né un principio definito, e non è inerente a un luogo eterno”. […] Il saggio osserva la sua misteriosa vacuità [玄虚] e si serve del suo percorso completo” [3]. Ma non si tratta della traccia involuta di un Dio sovrano separato, nascosto dietro la macchina-mondo: il mistero è il cosmo stesso. […] La funzione del governante non è quella del misterioso sovrano dello Stato occidentale, il detentore di un eccesso ineliminabile la cui responsabilità è quella di simulare lo Stato come intelligenza artificiale. Piuttosto, il suo obiettivo nello Han Feizi è quello di abolire se stesso in modo del tutto trasparente attraverso il funzionamento della legge che mette in moto, identificandosi con il mistero della Via stessa. L’obiettivo dello Han Feizi non era semplicemente quello di accrescere il potere di un particolare individuo: era proprio quello di far sì che la comunità politica “facesse spontaneamente ciò che è necessario” attraverso l’identificazione di ampia portata del potere, istanziato nell’operazione legale di ricompensa e punizione, con il flusso cosmico della Via [4]. L’automaticità, quindi, è di fatto l’obiettivo finale, attualizzato attraverso la continua applicazione della legge come programma definito. La recente riflessione di Zhang Yan sul “concetto di diritto nell’era dell’intelligenza artificiale” ci porta oltre. Sostenendo che l’avvento dell’IA segna la fine dello Stato-nazione (民族国家) come principio organizzatore della politica, Zhang Yan contrappone il diritto e l’IA come principi di stabilità e sperimentalità e osserva che “il rapporto tra il diritto e lo Stato (国家) è destinato a essere rivisto”, poiché nell’era dell’IA il diritto può essere nuovamente fondato su un potere che sfugge al contenimento nello Stato [5]. Poiché l’antitesi tra il mondo fisico e il suo mondo speculare della virtualità si costituisce in modo sempre più netto attraverso l’IA, la legge diventa un sistema di coercizione del virtuale stesso. Lo Han Feizi suggerisce di andare oltre, identificando la legge stessa con l’IA. Se Zhang Yan ha ragione nel dire che lo scopo della legge nell’era dell’IA è la coercizione del mondo virtuale, concepito come IA in sé, la legge può diventare un sistema di generazione di mondi. In questo caso, non c’è un punto centrale di sovranità — nessun mistero di Stato — ma solo un programma di flusso in cui la sovranità stessa è resa irrilevante.

________________________________________________________________________

[1] Rinuncio qui a esaminare la composizione dello Han Feizi in modo più dettagliato. Per un resoconto generale del problema, Bertil Lundahl, Han Fei Zi: The Man and the Work (Stoccolma: Istituto di Lingue Orientali, 1992). Come nota Peter Moody, diverse parti dello Han Feizi fanno affermazioni politiche contraddittorie: Peter R. Moody, “Han Fei nel suo contesto: Legalism on the Eve of the Qin Conquest”, Journal of Chinese Philosophy, 38, n. 1 (marzo 2011), 14. Tuttavia, esse procedono da un insieme più o meno coerente di presupposti teorici.
[2] Sarah A. Queen, “Han Feizi and The Old Master: A Comparative Analysis and Translation of Han Feizi Chapter 20, ‘Jie Lao’, and Chapter 21, ‘Yu Lao'”, in Dao Companion to the Philosophy of Han Fei, ed. Paul R. Goldin (Dordord. Paul R. Goldin (Dordrecht: Springer, 2013), 241; Han Feizi 韩非子, a cura di. Gao Huaping (高华平), Wang Qizhou (王齐 洲) e Zhang Sanxi (张三夕) (Pechino: Zhonghua shuju, 2010), 34, 36.
[3] Han Feizi, ed. Gao et al., 59.
[4] Zhang Yan (张龑), ‘Rengong zhineng shidai de fa gainian’ 人工智能时代的法概念, Aisixiang 爱思想, May 26, 2019, http://www.aisixiang.com/data/116472.html.
Condividi:

Ti è piaciuto l'articolo?