Vita da bot

Quando gli umani lavorano insieme agli esseri tecnici (tecnologie analogiche o digitali) devono acquisire comportamenti automatici, come ad esempio: sollevare una leva in modo ripetitivo, premere un bottone, schiacciare un pedale (pensate alle antiche macchine da cucire, ai telai o alle catene di montaggio). Così anche per lavorare con le tecnologie digitali è necessario acquisire i necessari automatismi.

Nei primi anni Venti del nuovo millennio, con l'accelerazione della cosiddetta intelligenza artificiale, gli umani entravano nel regno dell'automazione mentre le macchine assumevano sempre più caratteristiche umane che eravamo noi stesse a proiettare su di loro. Un fenomeno che più che intelligenza artificiale sarebbe stato il caso di chiamare automazione industriale.

Lo sviluppo dell'intelligenza artificiale a quell'epoca si basava sul modello connessionista, una branca delle scienze cognitive che proponeva un'ipersemplificazione del cervello umano. Semplificazione e quantificazione erano i metodi con i quali venivano addestrati i sistemi di machine learning per far sì che simulassero il linguaggio naturale. Ma per semplificare e quantificare il linguaggio era necessario l'intervento di umani che classificassero le parole e assegnassero pesi ed etichette: lavoratori e lavoratrici in carne e ossa, impegnate in microtask ripetitivi ed estenuanti, trascorrevano la loro giornata di fronte a uno schermo in un loop cibernetico con le macchine, realizzando traduzioni o notazioni di dati, oppure mettendo tag sulle immagini. Più invisibile era il lavoro sotto la superficie liscia e lucida dei nostri furbofoni, più era stupefacente la tecnomagia dell'Ai.

Tutte avevamo dei rituali digitali quotidiani, come scrollare il nostro social media preferito mentre facevamo colazione, chiedere aiuto a Google Maps per uno spostamento in città, impostare il risponditore automatico di Gmail quando andavamo in ferie. Più ci rivolgevamo ai dispositivi in modo meccanicamente semplice e non ambiguo, andando incontro alla tendenza degli algoritmi a semplificare e quantificare, più le macchine operavano “automaticamente” sembrando “intelligenti”. I nostri rituali digitali apparentemente innocui facevano di noi dei piccoli ingranaggi di un meccanismo ben più grande.

Il caso dell'utente che pensa di chattare con un'entità senziente e non con una macchina era piuttosto comune. Non ne era immune neanche chi progettava questi sistemi. Nel 2022 Google licenziò l'ingegnere Blake Lemoine convinto che LaMDA, il modello linguistico generativo su cui lavorava, avesse sviluppato un'anima e una coscienza. Sviluppare relazioni sintetiche significative con tecnologie digitali che erano state progettate e rilasciate sul mercato dalle Big Tech provocò manipolazione sociale su larga scala. I bot che accumulavano dati sul nostro modo di pensare, di parlare e di conversare diedero un durissimo colpo alla privacy usando contro di noi tutte le nostre vulnerabilità, le nostre confessioni più intime, le nostre paure e i nostri desideri e influenzando così le nostre scelte individuali, sociali e politiche. Ovvio, non era colpa delle macchine, ma responsabilità dei padroni che ne avevano ispirato la progettazione e di noi che volontariamente ci eravamo abbandonate a relazioni sintetiche con macchine… poco raccomandabili!

Noi hacker spesso diamo un nome alle macchine con cui entriamo in relazione. Ad esempio, l'hard disk con cui opero si chiama hc010. Non lo facciamo per umanizzarle quanto piuttosto per essere sempre consapevoli che ci troviamo in una relazione cibernetica con un “essere tecnico” che ha le sue proprie routine e le sue proprie caratteristiche “da progetto”. Conoscere il funzionamento della macchina con cui lavoriamo o che ci accompagna nelle nostre attività quotidiane ci aiuta a ridurre l'alienazione tecnica e a colmare il fossato scavato fra noi e il mondo tecnologico in cui viviamo. Sono le storie che ci raccontiamo a dare forma al mondo in cui ci relazioniamo. La storia dell'Ai di inizio millennio non era una storia che curava, ma una storia che avvelenava, una fiction fatta di prevaricazione, sfruttamento, spossessamento e asservimento del pianeta, delle sue risorse e delle sue abitanti.

Se proprio dovevamo usare l'Ai generativa, avremmo potuto almeno ricordarci che non eravamo di fronte a qualcuno che ne sapeva parecchio! La macchina commetteva moltissimi “errori” e formulava risultati imprecisi che saremmo dovute sempre andare a controllare con attenzione. L'Ai non poteva funzionare senza la supervisione umana. Fare una domanda a un chatbot o chiedergli di svolgere un compito era come un lancio di dadi. Trattandosi di macchine probabilistiche, vista la gran quantità di dati su cui venivano addestrate c'erano probabilità che il risultato del “lancio di dadi” ci tornasse utile, ma c'era anche la possibilità che fosse addirittura dannoso.

“Intelligenza artificiale” era in realtà una locuzione molto vaga che poteva indicare numerose tecnologie. In comune avevano la caratteristica di “simulare l'intelligenza umana”. A chi investiva in capitale di rischio non serviva che una tecnologia fosse utile o che funzionasse: serviva soltanto che le persone credessero che funzionasse, per un tempo sufficientemente lungo da rendere possibile un ritorno sugli investimenti.

Con un approccio femminista hacker potevamo sollevare gli strati delle interazioni di potere e situarci in quelle reti di saperi. Potevamo disertare la narrazione e le pratiche egemoniche delle tecnologie del dominio, ad esempio scegliendo di limitare o evitare del tutto l'utilizzo di applicazioni di messaggistica o di social media che tracciavano grafi delle nostre relazioni e osservavano i nostri comportamenti online. Potevamo usare motori di ricerca alternativi, conservare i nostri dati su cloud indipendenti. Potevamo utilizzare il meno possibile i large language model offerti gratuitamente da servizi proprietari online e installare piuttosto sui nostri computer modelli open source per sperimentare utilizzi diversi da quelli su cui si concentrava il marketing di allora.