Anomalie, allucinazioni e visioni dell’Intelligenza Artificiale.

Nel corso degli ultimi anni lo sviluppo tecnologico ha permesso l’emergenza di forme innovative di generazione di contenuti, attraverso operazioni di co-enunciazione tra umani e modelli di IA. Si tratta di una rivoluzione tecnologica e culturale, accolta in modalità talvolta critiche, talvolta utopiche o apocalittiche; questo accade soprattutto perché i modelli di IA non si comportano sempre come ci si aspetterebbe, talvolta producono risultati errati, inaspettati, o palesemente insensati, denominati “allucinazioni” delle IA. Si cercherà innanzitutto di comprendere le ragioni alla base di questa analogia: se l’allucinazione negli umani consiste generalmente in una percezione in assenza di oggetto, o in un’alterazione degli oggetti percepiti, con “allucinazione” nelle IA ci si riferisce principalmente a un malfunzionamento, o un funzionamento imprevisto, che può causare la generazione di informazioni false; tuttavia la catena causale del malfunzionamento-allucinazione spesso risulta incomprensibile, anche e soprattutto a causa dell’opacità (black box) che caratterizza i modelli di IA. Attraverso l’analisi di diversi casi studio, si cercherà di dimostrare come l’allucinazione, il caso anomalo, non consista necessariamente in un errore da evitare, ma in certi casi possa rivelarsi una soluzione euristica. Verrà dunque sottolineata la variabilità interpretativa dell’idea di allucinazione, la quale può essere valorizzata e interpretata diversamente, come evento euforico o disforico, da correggere o da accogliere. La teoria semiotica dell’interpretazione si rivela utile a spiegare questa variabilità interpretativa dell’evento anomalo, l’allucinazione, che assume significato sempre e soltanto all’interno di una certa enciclopedia di riferimento (Eco 1975; Paolucci 2010, 2020).

Il fenomeno dell’allucinazione di un’IA stimola da un lato l’esplorazione di traiettorie di senso impreviste, che sfidano i codici e i limiti dell’interpretazione umana, e dall’altro lo studio critico del funzionamento della percezione e dell’enunciazione artificiale, della sua retorica discorsiva, e dei suoi presupposti ideologici. Diversi artisti e studiosi si stanno interessando a tali questioni: attraverso “allucinazioni indotte” nei modelli IA, per sondare nuove frontiere dell’esperienza artistica e dell’enunciazione visiva (come l’artista Refik Anadol con la serie “Machine hallucinations”), o attraverso una critica delle dinamiche semiotiche, economiche e politiche che presiedono al training di un IA (come Trevor Paglen in “From apple to anomaly”). Infine, anche in ambito scientifico la possibilità di “allucinare” un modello di IA sembra rivelarsi utile, nel mostrare qualcosa di invisibile, nel costruire qualcosa di inesistente, come nel caso della generazione di proteine artificiali (Anishchenko et. al. 2021).
In questo contesto proporremo di comprendere la percezione all’opera nei modelli di IA, definita da alcuni studiosi come “percezione archivistica” (D’Armenio, Daliège, Dondero 2024), in relazione alla teoria semiotica-cognitiva della percezione come “allucinazione controllata” (Paolucci 2021, Seth 2023); in questo modo l’allucinazione verrà considerata non (solo) come caso anomalo, bensì come struttura della percezione tout court.

Ciclo di Seminari: Conservazione e trasformazione nell’etica e nella religione

Coordinamento scientifico: Massimo Leone, FBK-ISR