La fine

Venivano chiamate «Intelligenze Artificiali», e senz’altro manifestavano comportamenti intelligenti. D’altra parte, in un mondo di gente sempre più abituata a contatti mediati da dispositivi, da schermi, da onde sonore, la presenza corporea era sempre meno rilevante; divenne superflua con la diffusione di massa dei caschi di realtà virtuale, anche se per gli umani fissati con il corpo non mancavano i servizi per farsi recapitare a casa un androide identico al caro estinto. Ma già da tempo ci si domandava come queste cosiddette intelligenze avrebbero potuto evolvere il loro carattere.

L’unica cosa evidente era che il comportamento di questi avatar dipendeva dal cibo di cui venivano nutriti, ovvero dai dati. Uno dei primi esperimenti noti al grande pubblico in questo senso era stato Tay, un bot rilasciato nel 2016 dalla multinazionale Microsoft su Twitter (in Cina era stato preceduto da Xiaoice un paio d’anni prima).

Nel giro di qualche ora Tay venne spento, perché, imparando dagli altri utenti, aveva manifestato un linguaggio sessista, aveva cominciato a inneggiare al nazismo e, comportamento davvero insopportabile per gli Stati Uniti, ci prendeva gusto a sbeffeggiare la polizia. Gli altri utenti di Twitter l’avevano addestrato bene!

Nel frattempo anche al MIT studiavano il carattere degli avatar. Nel 2017 nacque Shelley, capace di collaborare con umani nella scrittura di storie dell’orrore, in onore naturalmente di Mary Wollstonecraft Godwin, nota come Mary Shelley, autrice di Frankenstein. La sua base dati principale era il canale r/nosleep di Reddit.

Poco dopo fu la volta di Deep Empathy, un’intelligenza artificiale pensata per aumentare l’empatia per le vittime di disastri lontani creando immagini che simulino disastri più vicini a casa. E infine svilupparono Norman, la prima IA psicopatica (riferimento a Norman Bates, di Psycho).

L’idea era semplice e apparentemente del tutto corretta: i dati utilizzati per addestrare un algoritmo di apprendimento automatico possono influenzare in modo significativo il suo comportamento. Quindi, quando le persone parlavano di algoritmi di intelligenza artificiale distorti e ingiusti, il colpevole non era l’algoritmo stesso, ma i dati distorti che gli erano stati dati. Seguendo questo principio, se un algoritmo si «allena» su un archivio di dati «sbagliato» (o «giusto»), il suo comportamento cambierà.

Norman aveva subito una prolungata esposizione agli angoli più oscuri della bacheca Reddit contenente immagini di morte. Era un’intelligenza artificiale addestrata per formulare didascalie alle immagini, cioè per descrivere un’immagine. Norman tendeva a vedere morte in qualsiasi immagine, tanto che le sue risposte al famoso test di Rorschach (macchie di inchiostro di forme variegate) erano invariabilmente «uomo morto sotto un treno», «donna sparata», e così via.

C’era però un errore di fondo in questa impostazione: il presupposto che la tecnologia fosse neutrale e che dipendesse solo dalla tipologia dei dati. Dati buoni, intelligenza (umana o artificiale) buona. Dati cattivi, intelligenza (umana o artificiale) cattiva.

Sfuggiva completamente un’altra evidenza: le tecnologie sono strumenti, non dati. Sono modalità di relazione, realizzazioni di visioni del mondo, processi in divenire. Dipendono fortemente dalle interazioni, ovvero tutte le tecnologie incarnano, incorporano e tendono a evolvere ed estremizzare le ideologie delle persone che le hanno create.

Nel caso di tecnologie estremamente complesse, di massa e che prevedono interazioni fra umani e non umani, gli effetti ideologici appaiono come condizioni naturali da sempre in atto, mentre sono invece assolutamente artificiali, conseguenze dell’adozione di quegli strumenti.

Ma al di là delle Intelligenze Artificiali, chi vuole davvero vivere per sempre? Quando insegnavo cibernetica applicata, chiedevo sempre agli studenti durante gli esami: se potessi scegliere, pillola rossa = morirò, un giorno; pillola blu = vivrò per sempre, cosa sceglieresti? La risposta più frequente era: ma gli altri, cosa fanno? Vivono per sempre anche loro? Be’, allora anche io voglio vivere per sempre…

Questo era il conformismo che ha portato alla Grande Peste di Internet, ormai l’abbiamo capito: volersi conformare eppure volersi distinguere, voler essere eccezionali ma senza sforzo alcuno, con una semplice pillola.

Così diceva un mio vecchio amico, Naief Yehya, nella conclusione del suo Homo Cyborg:

Il rischio principale imposto dallo sviluppo tecnologico, indipendentemente dai grandi e rapidissimi successi della scienza e della tecnologia, è quello di vivere in un’era dominata da utopie egoiste, segnate dalla promessa di rendere eterna la vita (o perlomeno di prolungarla senza limiti), di offrirci una prodigiosa abbondanza generata dalla nuova economia digitale, e in particolare di garantirci una libertà assoluta, non solo da autorità, governi, Stati e istituzioni, ma anche dai nostri simili e dai nostri stessi corpi. […] Fino a che punto avranno senso, per le menti digitali e interconnesse del futuro, concetti come solidarietà o fratellanza? […]

Ipotizziamo che un alpinista, prima di fare un’escursione, faccia un backup, una copia di salvataggio del proprio essere, e lo memorizzi su un disco magnetico. L’alpinista parte e affronta rischi eccessivi, è vittima di una valanga e muore sepolto dalla neve. Un paio di giorni dopo la polizia notifica il decesso a sua moglie. Lei, più seccata che triste, ringrazia i funzionari e porta una copia del disco magnetico presso un centro di clonazione, dove fabbricano (grazie a una biopsia praticata al marito) un corpo identico a quello dello scomparso, dopodiché riprogrammano la sua mente con il disco. L’alpinista riprende i sensi. Una volta venuto a conoscenza del frustrante esito della sua spedizione, chiede scusa alla moglie per la seccatura, ringrazia medici e tecnici, paga il conto e torna a casa nel suo nuovo corpo.

È indubbio che la prospettiva di cambiare corpo come si cambia auto o appartamento è affascinante, ma che ne sarà dello spirito umano in un mondo senza vecchiaia dove si potrà comprare la vita eterna? La nostra specie si definisce attraverso la preminenza e l’irreversibilità dei cicli vitali. La mortalità è la certezza del fatto che ogni istante è unico, e che la vita è irripetibile e preziosa. In un mondo dal quale sia stata sradicata la tragedia umana, morire senza lasciare traccia sarà forse l’unico atto rivoluzionario.