Nella stanza c'è un cilindro. È impassibile, liscio, semplice e di piccole dimensioni. È alto circa 14.8 cm e una luce circolare blu-verde segna il suo bordo superiore. Attende in silenzio. Una donna entra con un bambino addormentato tra le braccia e si rivolge al cilindro. “Alexa, accendi tutte le luci”. Il cilindro prende vita. “OK”. La stanza si illumina. La donna fa un lieve cenno di assenso e porta il bambino al piano di sopra.
Questo è un esempio di interazione con un dispositivo Amazon Echo . La forma di relazione più comune con questo assistente vocale è quella del comando breve e risposta. Ma in questo rapido momento di interazione viene attivata una vasta rete di competenze: un meccanismo complesso di sfruttamento di risorse, di lavoro umano e di computazione algoritmica in cui si intrecciano attività minerarie, logistica, distribuzione, previsione e ottimizzazione. La scala di questo sistema va quasi al di là della comprensione umana. Come possiamo iniziare a vederlo, a cogliere le dimensioni e la complessità della sua struttura interconnessa? Iniziamo delineandone il contorno: la sezione esplosa di un sistema planetario che attraversa le tre fasi di nascita, vita e morte, accompagnata da un saggio in 21 parti, diventa la tavola anatomica di un singolo sistema di intelligenza artificiale.
La scena della donna che parla con Alexa è tratta da un video promozionale del 2017 che pubblicizza l’ultima versione di Amazon Echo. Il video inizia così: “Salutate il nuovissimo Echo”, e spiega che Echo si connette ad Alexa (l’intelligenza artificiale) per “riprodurre musica, chiamare amici e famigliari, controllare gli elettrodomestici intelligenti e altro ancora”. Il dispositivo contiene sette microfoni direzionali, che gli permettono di sentire l’utente anche quando sta riproducendo della musica. É disponibile in diversi stili, quali il grigio canna di fucile o il beige, ed è progettato per “mimetizzarsi o distinguersi”. Anche il design dell’oggetto riproduce una sorta di vuoto di informazione: il suo proprietario non si accorgerà della vasta rete nascosta che mette in moto le sue capacità interattive. Il video promozionale dichiara semplicemente che la gamma di servizi che si possono richiedere ad Alexa è in continua espansione. “Poiché Alexa è nel cloud, diventa sempre più intelligente e acquisisce nuove caratteristiche”.
Come funziona? Alexa è una voce priva di corpo che rappresenta l'interfaccia di interazione uomo-AI per un insieme straordinariamente complesso di livelli di elaborazione delle informazioni. Questi livelli sono alimentati da maree costanti: i flussi di voci umane, che vengono tradotti in domande sotto forma di testo, utilizzate poi per interrogare dei database che contengono possibili risposte; e il corrispondente riflusso delle repliche di Alexa. L’efficienza delle reazioni di Alexa dipende da cosa accade a seguito di un’interazione:
Viene ripetuta la stessa domanda?
L'utente si è sentito ascoltato?
La domanda è stata riformulata?
L'utente ritiene che la domanda sia stata compresa?
C'è stata un'azione in seguito alla domanda?
L'interazione ha prodotto una risposta tracciata: una luce accesa, un prodotto acquistato, un brano riprodotto?
Ad ogni interazione Alexa si allena per ascoltare meglio, per interpretare in modo più preciso, per attivare azioni che sappiano mappare i comandi dell'utente in modo più accurato, e per creare un modello più completo delle sue preferenze, abitudini e desideri. Cosa è necessario affinché questo avvenga? Semplificando: ogni istante in cui il dispositivo si dimostra utile – che si tratti di rispondere a una domanda, accendere una luce o suonare una canzone – richiede una vasta rete che agisce su scala planetaria, alimentata dall'estrazione di risorse non rinnovabili, manodopera e dati. La scala delle risorse richiesta è estremamente più grande dell'energia e dello sforzo fisico che occorrerebbero a un essere umano per far funzionare un elettrodomestico o per premere un interruttore. È quasi impossibile effettuare un calcolo complessivo di questi costi, ma se vogliamo comprendere e padroneggiare le infrastrutture tecniche che attraversano le nostre vite, diventa sempre più importante coglierne la dimensione e la portata.
Il Salar, la più grande superficie piatta del mondo, è un altopiano localizzato nel sud-ovest della Bolivia a 3.656 metri sul livello del mare. É coperto da una crosta di sale di alcuni metri ricchissima di litio: contiene tra il 50% e il 70% delle riserve del pianeta di questo materiale . Insieme alle regioni confinanti dell’Atacama in Cile e dell’Argentina, il Salar è tra i più importanti siti di estrazione di litio. Questo metallo, morbido e argenteo, è attualmente il materiale principale utilizzato per la produzione di batterie agli ioni di litio per dispositivi mobili connessi. È conosciuto come “oro grigio”. Le batterie di uno smartphone, per esempio, contengono solitamente meno di 8 grammi di questo materiale . La batteria di una Tesla necessita invece di circa 7 chilogrammi di litio . Tutte queste batterie hanno una durata limitata, e una volta esaurite vengono buttate come rifiuti.
Le leggende Aymara sulla creazione della Bolivia raccontano come le montagne vulcaniche dell'altopiano delle Ande siano la materializzazione di una tragedia . Molto tempo fa, quando i vulcani erano esseri viventi e scorrazzavano liberamente per le pianure, Tunupa – l’unico vulcano femmina – generò un figlio. Gelosi, i vulcani maschi rapirono il bambino e lo esiliarono in un luogo lontano. Per questo gesto, gli dèi punirono i vulcani ancorandoli alla terra. Profondamente addolorata per la lontananza del figlio, Tunupa invece scoppiò a piangere. Le sue lacrime e il latte materno crearono un grande lago salato: Salar de Uyuni. Come osservano Liam Young e Kate Davies, “i vostri smartphone funzionano sfruttando le lacrime e il latte materno di un vulcano. Questo paesaggio è connesso con ogni parte del mondo attraverso i telefoni che ci portiamo nelle tasche; ci connettono gli uni agli altri attraverso un filo invisibile di commercio, scienza, politica e potere” .
La nostra mappa anatomica combina e visualizza tre processi estrattivi cruciali per far funzionare un sistema AI di grande scala: quello delle risorse materiali, quello della forza lavoro e quello dei dati. Consideriamo questi tre elementi nel tempo – rappresentandoli come una descrizione visiva della nascita, della vita e della morte di una singola unità Amazon Echo. È necessario andare oltre una semplice analisi della relazione tra individui, i loro dati e ogni singola azienda tecnologica per poter comprendere la scala planetaria dei fenomeni di estrazione. Vincent Mosco ha mostrato come la metafora eterea del “cloud” per la gestione e l’elaborazione di dati in remoto sia in completa contraddizione con la realtà fisica delle estrazioni minerarie e dell’espropriazione di intere popolazioni che la rendono possibile . Sandro Mezzadra e Brett Nielson usano il termine “estrattivismo” per indicare il rapporto tra le diverse forme di operazioni estrattive del capitalismo contemporaneo che vediamo ripetersi nel contesto dell’industria delle AI . Ci sono profonde interconnessioni tra lo svuotamento letterale della terra e della biosfera dalle materie prime, e i dati catturati e monetizzati dalle pratiche umane di comunicazione e socializzazione tramite AI. Mezzadra e Nielson notano che la forza lavoro è essenziale in questa relazione estrattiva; una relazione che si è ripetuta nel corso della storia: dal modo in cui l’imperialismo europeo usava il lavoro degli schiavi, ai detenuti condannati ai lavori forzati nelle piantagioni di gomma in Malesia, alle popolazioni indigene boliviane impegnate nell’estrazione dell’argento a seguito dell’utilizzo di questo materiale come prima moneta globale. Pensare all’estrazione vuol dire pensare contemporaneamente a forza lavoro, risorse e dati. Questa è una sfida alla comprensione, sia critica che collettiva, dell’AI: è difficile “vedere” ciascuno di questi processi sia in modo individuale che nel loro insieme. Abbiamo quindi bisogno di una visualizzazione che sappia rappresentare questi processi, connessi ma dispersi, su una stessa mappa.
Se leggete la nostra mappa da sinistra a destra, la storia inizia e finisce con la Terra, e con i processi geologici del tempo profondo. Leggendola invece dall’alto al basso, si vede una storia che inizia e finisce con un essere umano. La parte superiore rappresenta l’agente umano, che interroga Echo e fornisce ad Amazon i dati del training relativi alle domande e alle risposte dell’utente, che vengono poi utilizzati per rifinire ulteriormente le loro AI a comando vocale. Nella parte inferiore della mappa c’è un altro tipo di risorsa umana: la storia della conoscenza e delle capacità umane, anch’essa utilizzata per allenare e ottimizzare i sistemi AI. Ciò rappresenta una differenza chiave tra questi sistemi e altre forme di tecnologia consumistica: le AI dipendono dall’ingestione, dall’analisi e dall’ottimizzazione di un’enorme quantità di immagini, testi e video generati da esseri umani.
Quando si interagisce con un dispositivo Echo, o un’altra AI a comando vocale, si agisce in un modo che va al di là del comportamento attuato da un qualsiasi utente di un prodotto finito. È difficile posizionare gli utenti di un sistema AI in una singola categoria: vanno, piuttosto, considerati come casi ibridi. Così come la chimera greca era un animale mitologico in parte leone, capra, serpente e mostro, gli utenti di Echo sono simultaneamente consumatori, risorse, lavoratori e prodotti. Questa identità multipla caratterizza gli utenti di numerosi sistemi tecnologici. Nel caso specifico di Amazon Echo, l’utente ha acquistato un dispositivo di consumo che gli offre un set di comode affordance. Ma gli utenti sono anche una risorsa, dato che i loro comandi vocali vengono raccolti, analizzati e conservati per ampliare ulteriormente il corpus di voci e istruzioni umane del dispositivo. Sono inoltre una forza lavoro, visto che svolgono continuamente il prezioso servizio di contribuire ai meccanismi di feedback migliorandone la precisione, l’utilità e, in generale, la qualità delle risposte date da Alexa. In sostanza, essi aiutano ad allenare le reti neurali dell’infrastruttura stack di Amazon.
Tutto ciò che esula dalle limitate interfacce fisiche e digitali del dispositivo è fuori dal controllo dell’utente. Il dispositivo si presenta con una superficie completamente liscia, che non può essere aperta, riparata o modificata nel suo funzionamento. L’oggetto stesso è un semplice elemento di plastica che racchiude dei sensori: la sua vera potenza e complessità sono ubicate altrove, lontani dal nostro sguardo. Echo è un orecchio nello spazio domestico: un agente privo di corpo, che ascolta ma che non mostra mai le sue connessioni profonde con i sistemi remoti.
Nel 1673 l’eclettico gesuita Athanasius Kircher inventò una “statua citofonica” – cioè una statua parlante. Kircher era uno straordinario studioso interdisciplinare e un inventore. Nel corso della sua vita pubblicò quaranta opere di medicina, geologia, religioni comparate e musica. Inventò il primo orologio magnetico, molti dei primi automi e il megafono. La sua statua parlante fu uno dei primi sistemi di ascolto: un microfono costituito da un tubo a spirale di grandi dimensioni, capace di captare le conversazioni di una piazza e di incanalarle fino alla bocca di una statua custodita nelle stanze private di un aristocratico. Kircher scrisse:
“Questa statua deve essere collocata in un luogo tale da permettere che la sezione finale del tubo a spirale corrisponda precisamente all’apertura della sua bocca. In questo modo, sarà perfettamente capace di emettere chiaramente qualsiasi tipo di suono. Infatti, la statua sarà in grado di comunicare in continuità, producendo sia voci umane che versi animali: riderà o sogghignerà; sembrerà piangere o gemere; a volte, con grande stupore, soffierà con forza. Se l’apertura del tubo a spirale è collocata in corrispondenza di uno spazio pubblico aperto, tutte le parole pronunciate e canalizzate nel condotto verranno riprodotte attraverso la bocca della statua” .
Il sistema di ascolto permetteva di spiare le conversazioni comuni che avevano luogo nelle piazze e di riportarle agli oligarchi italiani del XVII secolo. La statua parlante di Kircher era una prima forma di estrazione di informazioni a vantaggio delle élite – le persone in strada non avevano alcuna idea del fatto che le loro conversazioni fossero incanalate verso chi le avrebbe strumentalizzate per consolidare il proprio potere, e per trarne intrattenimento e ricchezza. Gli astanti nelle case degli aristocratici non immaginavano come la magica statua riuscisse a parlare e trasmettere tutte queste informazioni. Lo scopo era quello di celarne il funzionamento: tutto quello che si vedeva era un’elegante statua. I sistemi di ascolto, anche in questo stadio iniziale del loro sviluppo, hanno a che fare con il potere, la classe sociale e la segretezza. Ma l’infrastruttura necessaria per il sistema di Kircher era talmente costosa da risultare proibitiva – quindi disponibile solo per pochi. E così la domanda rimane: quali sono le implicazioni della costruzione di tali sistemi in termini di risorse? Questo ci porta alla materialità dell'infrastruttura che li sottende.
Nel suo libro A geology of media, Jussi Parikka suggerisce di provare a guardare ai media non come prolungamento dei sensi umani – come nella prospettiva di Marshall McLuhan – ma come un’estensione della Terra . Le tecnologie dei media dovrebbero essere comprese nel contesto dei fenomeni geologici, dai processi di trasformazione e creazione, ai movimenti degli elementi naturali con cui i media vengono fabbricati. Pensare ai media nella prospettiva dei processi geologici ci consente di considerare il profondo sfruttamento di risorse non rinnovabili necessario per far funzionare le tecnologie del presente. Ciascun elemento dell’enorme network di un sistema AI, dai router della rete alle batterie e ai microfoni, è costruito usando materiali che richiedono miliardi di anni per essere prodotti. Dal punto di vista delle temporalità geologiche, estraiamo la storia della Terra per utilizzarla per tempi brevi quanto una frazione di secondo del tempo tecnologico, e per costruire dispositivi che vengono utilizzati per poco più di qualche anno. Per esempio, la Consumer Technology Association ha notato che la vita media di uno smartphone è di 4.7 anni . Questo ciclo di obsolescenza alimenta l’acquisto di nuovi dispositivi, fa crescere i profitti e aumenta gli incentivi per l'uso di pratiche di estrazione non sostenibili. Dopo un lento processo di sviluppo, questi elementi e materiali attraversano un periodo straordinariamente rapido di estrazione, fusione, miscelazione e trasporto logistico – attraversando, nella loro trasformazione, migliaia di chilometri. Processi geologici segnano sia l’inizio che la fine di questo periodo, dall'estrazione del minerale al deposito in una discarica di materiale elettronico. Per questo motivo, la nostra mappa inizia e finisce con la crosta terrestre. Tuttavia, tutte le trasformazioni e i movimenti che abbiamo rappresentato sono soltanto uno schema anatomico essenziale: sotto queste connessioni si trovano molti altri strati, costituiti da catene frattali di approvvigionamento, di sfruttamento delle risorse umane e naturali, di concentrazioni di potere aziendale e geopolitico, e di consumo energetico continuo.
Tracciare le connessioni tra risorse, forza lavoro ed estrazione di dati ci porta inevitabilmente alle strutture tradizionali di sfruttamento. Ma come viene generato valore attraverso questi sistemi? Uno strumento concettuale utile per investigare questo punto si può trovare nel lavoro di Christian Fuchs e di altri autori che esaminano e descrivono il lavoro digitale. La nozione di lavoro digitale, che era stata inizialmente collegata alle varie forme del lavoro immateriale, anticipa la vita dei dispositivi e dei sistemi complessi come l’intelligenza artificiale. Il lavoro digitale – il lavoro di costruzione e manutenzione dello stack dei sistemi digitali – non è per niente un lavoro effimero o virtuale, ma si materializza in numerose attività . La sua portata è enorme: dalla servitù debitoria delle miniere per l'estrazione dei minerali, che costituiscono la base fisica delle tecnologie dell'informazione; al lavoro, fortemente controllato e talvolta pericoloso, di fabbricazione e assemblaggio delle componenti hardware nelle fabbriche cinesi; ai lavoratori cognitivi esternalizzati e sfruttati nei paesi in via di sviluppo che classificano dataset per il training delle AI; ai lavoratori informali che ripuliscono le discariche di rifiuti tossici. Questi processi creano nuovi depositi di ricchezza e potere, che sono concentrati in uno strato molto sottile della società.
Questo triangolo di estrazione e produzione di valore rappresenta uno degli elementi base della mappa: dalla nascita attraverso un processo geologico, passando per la vita da prodotto di consumo di un’AI, alla morte in una discarica di rifiuti elettronici. Come nel lavoro di Fuchs, i nostri triangoli non sono isolati, ma connessi gli uni agli altri nel processo produttivo. Essi formano un flusso ciclico in cui il prodotto del lavoro viene trasformato in una risorsa, che a sua volta è trasformata in un prodotto, che è trasformato in una risorsa, e così via. Ciascun triangolo rappresenta una fase all’interno di un processo produttivo. Sebbene questo appaia sulla mappa come un percorso di trasformazione lineare, una diversa metafora visiva potrebbe rappresentare più efficacemente la complessità dell’estrattivismo: la struttura frattale conosciuta come il triangolo di Sierpinski.
Una visualizzazione lineare non permette di mostrare ogni fase del processo di produzione e sfruttamento contenuto nelle fasi precedenti. Se invece guardiamo al sistema di produzione e sfruttamento attraverso una struttura visiva frattale, il triangolo più piccolo rappresenta risorse naturali e mezzi di lavoro, per esempio il minatore come lavoro e il minerale come prodotto. Il triangolo successivo e più ampio comprende la lavorazione dei metalli; quello ancora successivo rappresenta il processo di fabbricazione di componenti, e così via. L’ultimo triangolo nella nostra mappa, la produzione di un’unità di Amazon Echo, include tutti questi livelli di sfruttamento – dal basso fino al vertice di Amazon Inc, una posizione occupata da Jeff Bezos in qualità di CEO di Amazon. Come un faraone dell'antico Egitto, Bezos si trova in cima alla più grande piramide di estrazione di valore dell’AI.
Per tornare agli elementi base di questa visualizzazione – una variante del triangolo della produzione di Marx – ciascun triangolo produce un surplus di valore per creare profitto. Se guardiamo alla scala di profitto medio per ciascuna attività nel processo di produzione di un dispositivo – mostrato nella parte sinistra della mappa – vediamo la drammatica differenza di reddito guadagnato. Sulla base di una ricerca di Amnesty International, nel settore dell’estrazione del cobalto – anch’esso un elemento utilizzato per le batterie al litio di 16 brand multinazionali – i lavoratori sono pagati l’equivalente di un dollaro americano per un’intera giornata di lavoro in condizioni che mettono a rischio la loro vita e la loro salute e sono spesso soggetti a violenze, estorsioni e intimidazioni . Amnesty ha documentato la presenza di bambini di circa sette anni al lavoro nelle miniere. Al contrario, il CEO di Amazon Jeff Bezos, al vertice della nostra piramide frattale, ha guadagnato una media di 275 milioni di dollari al giorno durante i primi cinque mesi del 2018, come riporta Bloomberg Billionaires Index . Un bambino che lavora in una miniera del Congo avrebbe bisogno di più di 700.000 anni di lavoro ininterrotto per guadagnare la stessa cifra che Bezos guadagna in un giorno.
Molti dei triangoli rappresentati in questa mappa nascondono storie di sfruttamento e di lavoro in condizioni disumane. Il prezzo ecologico della trasformazione degli elementi e le disparità di reddito sono solo uno dei modi possibili con cui rappresentare la profonda ingiustizia del sistema. Abbiamo indagato diverse forme di black box, intese come processi algoritmici , ma questa mappa indica un’altra forma di opacità: il processo stesso di creazione, training e funzionamento dei dispositivi come Amazon Echo è esso stesso una specie di scatola nera, molto difficile da esaminare e rintracciare nel suo complesso, visti i molteplici livelli di appaltatori, distributori e partner logistici sparsi in tutto il mondo. Come scrive Mark Graham, “il capitalismo contemporaneo nasconde ai consumatori le storie e le geografie di buona parte dei prodotti di consumo. Spesso gli utenti possono conoscere le merci in un ‘qui e ora’ di tempo e spazio, e raramente hanno l’opportunità di guardare dietro le quinte delle catene di produzione per conoscere i luoghi in cui vengono prodotti, trasformati e distribuiti i beni di consumo” .
Le difficoltà che si incontrano nell’investigare e rintracciare la catena produttiva contemporanea sono esemplificate dal fatto che ci sono voluti più di quattro anni affinché Intel potesse ricostruire a sufficienza la sua catena di fornitura per riuscire a garantire che nei suoi microprocessori non venisse utilizzato tantalio proveniente dal Congo. Intel produce chip semiconduttori e fornisce i processori ad Apple. Per far questo ha una propria catena di fornitura a più livelli: si avvale di più di 19.000 fornitori localizzati in più di 100 paesi che garantiscono direttamente i materiali per i loro processi produttivi, gli strumenti e i macchinari per le loro fabbriche, e i servizi logistici e di packaging . Il fatto che ci siano voluti più di quattro anni ad un’azienda leader nella produzione di tecnologie per comprendere la propria filiera dimostra quanto possa essere difficile cogliere questo processo dall’interno, figuriamoci per ricercatori, giornalisti e accademici esterni. Philips, con base in Olanda, ha dichiarato che sta provvedendo a rendere la sua filiera “priva di conflitti”. L’azienda ha decine di migliaia di fornitori, ciascuno dei quali procura diversi componenti per i processi di lavorazione . I fornitori lavorano con altrettanti produttori di componenti che acquisiscono i materiali da centinaia di raffinerie; queste a loro volta acquistano gli elementi da numerose fonderie, rifornite da un numero imprecisato di commercianti che si occupano direttamente di operazioni minerarie, legali e illegali. In The elements of power, David S. Abraham descrive le invisibili reti di commercianti di metalli rari all’interno delle catene di fornitura di elettronica globale: “Il network che porta i metalli rari da una miniera al laptop di ciascuno di noi viaggia attraverso una rete oscura di commercianti, macchinari e produttori di componenti. I commercianti sono intermediari che fanno molto più che comprare e vendere metalli rari: regolano le informazioni e sono il collegamento nascosto che aiuta a navigare il network che collega gli impianti per la lavorazione dei metalli e le componenti dei nostri laptop” . Secondo la società produttrice di computer Dell, la complessità della filiera del metallo pone sfide quasi insormontabili . L'estrazione avviene molto prima che un prodotto finale venga assemblato, rendendo estremamente difficile risalire all'origine dei minerali. Inoltre, molti dei minerali di più recente estrazione vengono fusi con metalli riciclati, rendendo praticamente impossibile risalire alla loro fonte. È chiaro che il tentativo di comprendere l'intera filiera è un compito titanico: esso rivela tutta la complessità della produzione globale di prodotti tecnologici del XXI secolo.
Le filiere sono spesso stratificate l'una sull'altra, in una rete tentacolare. Secondo il programma di approvvigionamento di Apple ci sono decine di migliaia di componenti individuali incorporate nei loro dispositivi, che sono a loro volta forniti da migliaia di compagnie diverse. Affinché ciascuna di queste componenti arrivi sulla linea di assemblaggio finale – dove verrà montato da lavoratori negli impianti della Foxconn – le varie componenti hanno bisogno di essere fisicamente trasferite da più di 750 rifornitori che si trovano in 30 paesi diversi . Tutto ciò costituisce una filiera con una complessa struttura, uno zoom frattale di decine di migliaia di fornitori, milioni di chilometri di materiali spediti e centinaia di migliaia di lavoratori coinvolti nel processo, prima ancora che il prodotto sia assemblato.
Visualizzando questo processo come un network globale e pan-continentale attraverso cui materiali, componenti e prodotti sono in movimento, è possibile scorgere un’analogia con la rete globale delle informazioni. Per ogni pacchetto trasmesso via internet verso un dispositivo Amazon Echo, possiamo immaginare un container . Il vertiginoso spettacolo della logistica e della produzione globale non sarebbe possibile senza questo semplice oggetto metallico standardizzato. I container cargo standard hanno consentito l’esplosione della moderna industria delle spedizioni, che, a sua volta, ha modellato il pianeta come se fosse un’unica grande fabbrica. Nel 2017, il commercio marittimo reso possibile dalle navi portacontainer ha quasi raggiunto i 250 milioni di tonnellate di carico lordi – un’attività dominata da colossali compagnie di navigazione quali la danese Maersk, la svizzera Mediterranean Shipping Company e il gruppo francese CMA CGM, ciascuna proprietaria di centinaia di navi portacontainer . Per queste iniziative commerciali, la spedizione di cargo è un modo relativamente economico di navigare il sistema commerciale vascolare dell'industria globale, ma nasconde costi esterni molto più elevati.
Recentemente, le navi da spedizione hanno prodotto il 3.1% delle emissioni globali totali di CO2, più dell’intera Germania . Per minimizzare i loro costi interni, la maggior parte delle compagnie che usano questi container consumano enormi quantità di carburante di qualità molto bassa, causando l’aumento di sostanze tossiche nell’aria, tra cui il solfuro. Si stima che una nave portacontainer inquini tanto quanto 50 milioni di autovetture e ogni anno 60.000 morti nel mondo possano essere attribuite direttamente a problemi legati all'inquinamento dell’industria delle navi da carico . Anche fonti a favore di questa industria, come il World Shipping Council, ammettono che migliaia di container vengono smarriti ogni anno sul fondo dell’Oceano o finiscono alla deriva . Alcuni portano con sé sostanze tossiche che fuoriescono negli oceani. Solitamente, gli impiegati del settore trascorrono tra i nove e i dieci mesi in mare, spesso con lunghi turni di lavoro e senza contatti con l’esterno. I lavoratori provenienti dalle Filippine rappresentano più di un terzo dell’intera forza lavoro nel sistema della spedizione globale . I costi più gravosi della logistica globale sono pagati dall’atmosfera, dall’ecosistema oceanico e dalla forza lavoro sottopagata.
La crescente complessità e la miniaturizzazione della nostra tecnologia dipendono da un processo che curiosamente ricorda le aspirazioni dell’alchimia dell’Alto Medioevo. Gli alchimisti medievali si proponevano di trasformare metalli base in metalli nobili. Oggi i ricercatori usano le “terre rare” per migliorare le prestazioni di altri minerali. Nei computer portatili e negli smartphone vengono integrate diciassette terre rare, affinché questi apparecchi possano essere più piccoli e leggeri. Vengono anche utilizzate negli schermi a colori, negli altoparlanti, nelle lenti degli apparecchi fotografici, nei sistemi GPS, nelle batterie ricaricabili, nei dischi rigidi e in molti altri componenti. Sono elementi essenziali nei sistemi di comunicazione – dai cavi in fibra ottica, all'amplificazione del segnale nelle torri di comunicazione mobile, dai satelliti, fino alla tecnologia GPS. Ma l’esatta configurazione e l’utilizzo di questi minerali sono difficili da verificare. Così come gli alchimisti medievali nascondevano le loro ricerche adottando simbolismi cifrati e criptici, l’odierno utilizzo dei minerali nei dispositivi è protetto da NDA (Non-Disclosure Agreement) e segreti commerciali.
Le caratteristiche elettroniche, ottiche e magnetiche delle terre rare sono uniche e non possono essere eguagliate da altri metalli o da alternative sintetiche ad oggi a noi conosciute. Seppur siano chiamati “terre rare”, alcuni di questi elementi sono relativamente abbondanti sulla crosta terrestre, ma è l’estrazione ad essere costosa e altamente inquinante. David Abraham descrive l'estrazione del disprosio e del terbio, elementi utilizzati in numerosi apparecchi hi-tech, nel distretto di Jianxi in Cina. Abraham scrive che “solo il 0.2% dell’argilla estratta contiene il prezioso elemento. Questo significa che il 99.8% della terra rimossa nell’estrazione è scartato come ‘materiale di risulta’ che viene scaricato sulle colline e nei torrenti”, creando nuovi agenti inquinanti come l’ammonio . Per raffinare una tonnellata di terre rare, “la Chinese Society of Rare Earths stima che il processo produca 75.000 litri di acque acide e una tonnellata di residuo radioattivo” . Inoltre, le attività di estrazione e raffinazione consumano grandi quantità di acqua e generano consistenti emissioni di CO2. Nel 2009 la Cina ha prodotto il 95% della fornitura mondiale di questi elementi e si è stimato che la sola miniera Bayan Obo ne contenga il 70% delle intere riserve mondiali .
Un’immagine satellitare della piccola isola indonesiana di Bangka racconta la storia del costo umano e ambientale della produzione di semiconduttori. Su questa minuscola isola, minatori – per lo più lavoratori informali – lavorano su pontili improvvisati, usando aste di bambù per raschiare il fondo del mare, per poi immergersi sott'acqua e aspirare stagno attraverso giganteschi tubi. Come scrive un giornalista del Guardian “l’estrazione dello stagno è un commercio lucrativo ma distruttivo, che ha sfregiato il paesaggio dell’isola, ha demolito le sue fattorie e distrutto le foreste, ha ucciso le sue riserve di pesce e le barriere coralline, e ha intaccato il turismo di queste bellissime spiagge costeggiate da filari di palme. I danni sono maggiormente visibili dal cielo, da cui si vedono sacche di foresta rigogliosa soffocate da enormi distese di arida terra arancione. Dove non dominano le miniere, [l’isola] è piena di tombe, molte delle quali custodiscono i corpi di minatori morti nel corso dei secoli scavando alla ricerca dello stagno” . Due piccole isole, Bangka e Belitung, producono il 90% dello stagno indonesiano, e l'Indonesia è il secondo esportatore mondiale di questo metallo. La società nazionale indonesiana di stagno, PT Timah, fornisce direttamente aziende come la Samsung, così come i produttori di saldature Chernan e Shenmao, che a loro volta riforniscono Sony, LG e Foxconn .
Nei centri di distribuzione Amazon, vaste collezioni di prodotti sono organizzate su milioni di scaffali secondo un ordine computazionale. La posizione di ciascun articolo in questo spazio è determinata con precisione da complesse funzioni matematiche che processano le informazioni degli ordini e creano relazioni tra i prodotti. Lo scopo è ottimizzare i movimenti dei robot e degli umani che lavorano insieme in questi magazzini. Con l’aiuto di un braccialetto elettronico, il lavoratore è guidato attraverso magazzini dalle dimensioni di hangar pieni di oggetti organizzati in un opaco ordine algoritmico .
Nascosto tra le migliaia di altri brevetti pubblici di proprietà di Amazon, il brevetto statunitense numero 9.280.157 mostra in modo straordinario l’alienazione del lavoratore, in un momento cruciale del rapporto tra uomini e macchine . È una gabbia di metallo concepita per il lavoratore, equipaggiata con varie componenti cibernetiche aggiuntive, che può essere spostata negli spazi del magazzino dallo stesso sistema motorizzato che muove gli scaffali riempiti di merce. Qui il lavoratore diventa parte di una coreografia meccanica, una danza in cui la gabbia lo costringe a mantenere una posizione verticale e ne determina e limita il movimento.
Come abbiamo visto più e più volte nel corso della ricerca per la nostra mappatura, futuri distopici – costruiti su regimi distopici del passato e del presente – sono distribuiti in modo non uniforme e disseminati nelle catene di produzione di diversi dispositivi tecnologici. I pochi in cima alla piramide frattale dell'estrazione del valore vivono in condizioni straordinarie di lusso e benessere. Ma la maggior parte delle piramidi è costituita da tunnel oscuri fatti di miniere, laghi di rifiuti radioattivi, container abbandonati e dormitori di fabbriche aziendali.
Alla fine del XIX secolo, un particolare albero del sud est asiatico, il palaquium gutta, è diventato il centro di un boom tecnologico. Questi alberi, che si trovano soprattutto in Malesia, producono un lattice naturale di colore bianco chiamato gutta percha. Dopo la pubblicazione nel 1848 sul Philosophical Magazine di uno studio dello scienziato inglese Michael Faraday sull’uso di questo materiale come isolante elettrico, il gutta percha è diventato rapidamente un tesoro per il mondo dell’ingegneria. Venne visto come la soluzione al problema dell’isolamento dei cavi telegrafici, affinché questi potessero sopportare le condizioni del fondo oceanico. Con la crescita del mercato mondiale dei sottomarini, aumentò anche la domanda di tronchi d'albero di palaquium gutta. Lo storico John Tully descrive come i lavoratori malesi, cinesi e Dayak fossero estremamente sottopagati per svolgere le pericolose mansioni di abbattimento degli alberi e di raccolta del lattice . Il lattice veniva lavorato e successivamente venduto a Singapore sul mercato britannico. Qui veniva trasformato, tra le altre cose, in chilometri e chilometri di guaine per cavi sottomarini.
Un palaquium gutta di età matura poteva rendere circa 300 grammi di lattice. Ma nel 1857, il primo cavo transatlantico misurava circa 3.000 km e pesava 2.000 tonnellate – richiedendo circa 250 tonnellate di gutta percha. Per produrre una sola tonnellata di questo materiale erano necessari circa 900.000 tronchi. La Malesia e Singapore vennero spogliate delle proprie giungle, e all’inizio degli anni ’80 dell’Ottocento il palaquium gutta è scomparso. In un ultimo disperato tentativo di salvare la loro catena di approvvigionamento, nel 1883 gli inglesi approvarono un divieto affinché si interrompesse la raccolta del lattice, ma l'albero era già estinto .
Il disastro ambientale del gutta percha in età vittoriana, alle origini della società dell’informazione globale, mostra come la tecnologia e la sua materialità, i contesti ambientali e le varie forme di sfruttamento ad essi connesse siano strettamente intrecciate. Così come i vittoriani parteciparono al disastro ecologico per i loro primi cavi, l’estrazione di terre rare e la catena di approvvigionamento globale mettono ulteriormente in pericolo il delicato equilibrio ecologico del nostro tempo. Dal materiale usato per costruire una tecnologia alla base dell’odierna società delle reti, all’energia necessaria per trasmettere, analizzare e conservare i dati che scorrono attraverso gigantesche infrastrutture, alla loro stessa materialità: queste connessioni profonde e i loro costi sono molto più significativi e hanno una storia molto più lunga di quanto sia solitamente rappresentata negli immaginari aziendali dell’AI .
Sistemi AI di vaste dimensioni consumano enormi quantità di energia. Ma i dettagli materiali di questi costi rimangono indefiniti nell’immaginario sociale. È difficile ottenere dettagli precisi sulla quantità di energia consumata dai servizi del Cloud. Secondo un report di Greenpeace, “uno dei più grandi ostacoli alla trasparenza del settore è Amazon Web Services (AWS). La più grande azienda di computer Cloud al mondo resta quasi completamente non trasparente riguardo l’impatto energetico delle sue operazioni su grande scala. Tra i fornitori globali del Cloud, solo AWS si rifiuta ancora di rendere pubblici i dettagli elementari relativi alle performance energetiche e all’impatto ambientale associato alle sue operazioni” .
Come agenti umani, siamo visibili in quasi ogni nostra interazione con le piattaforme tecnologiche. Siamo continuamente tracciati, quantificati, analizzati e mercificati. In contrasto con la visibilità dell’utente, i dettagli precisi di nascita, vita e morte dei dispositivi in rete sono nascosti. Con l’affermarsi dei dispositivi come Echo, che si affidano ad infrastrutture centralizzate di AI lontane dallo sguardo dell’utente, i dettagli di questo tipo che svaniscono nell’ombra sono ancora più numerosi.
Mentre i consumatori si abituano alla presenza di piccoli dispositivi hardware nei loro salotti, ad un’applicazione sul telefono o alle autovetture semiautomatiche, il lavoro reale si svolge all’interno di sistemi di machine learning generalmente distanti dall’utente e completamente invisibili. In molti casi, la trasparenza non sarebbe di grande aiuto – senza reali possibilità di scelta e responsabilità aziendale, la sola trasparenza non riuscirebbe a cambiare segno alle attuali asimmetrie di potere .
Gli output dei sistemi di machine learning sono prevalentemente inspiegabili e ingovernabili, mentre gli input sono enigmatici. Ad un osservatore qualunque sembrerebbe che non sia mai stato tanto facile costruire AI o sistemi basati sul machine learning quanto oggi. La disponibilità di strumenti open source che ne consentono la realizzazione, in combinazione con una redditizia potenza di calcolo messa a disposizione dai colossi del cloud come Amazon (AWS), Microsoft (Azure) o Google (Google Cloud), stanno dando vita ad un’idea sbagliata, quella di una “democratizzazione” dell’AI. Mentre gli strumenti di machine learning “pronti all'uso”, come TensorFlow, stanno diventando più accessibili poiché consentono la configurazione di un proprio sistema, le logiche che sottendono questi stessi sistemi e i dataset necessari per allenarli sono accessibili e controllati da pochissime entità. Nella creazione di dataset che avviene attraverso piattaforme come Facebook, gli utenti alimentano e allenano le reti neurali con dati comportamentali, voci, immagini e video con tag o dati medici. In un'epoca di estrattivismo, il valore reale dei dati è controllato e sfruttato dai pochi che siedono al vertice della piramide.
Quando vengono utilizzati dei grandi dataset per allenare sistemi AI, le singole immagini e i video coinvolti nel processo vengono solitamente taggati e classificati . Ci sarebbe molto da dire sul modo in cui questi processi di classificazione abrogano e cristallizzano i significati, e su come questo processo sia sostenuto da clickworker pagati frazioni di centesimi per questo lavoro digitale a cottimo.
Nel 1770 l’inventore ungherese Wolfgang von Kempelen ha costruito un automa per giocare a scacchi noto come il Turco Meccanico. Il suo scopo era, in parte, quello di far colpo sull’imperatrice Maria Teresa d’Austria. Questo dispositivo era capace di giocare a scacchi contro un avversario umano ed ebbe un successo strepitoso, vincendo la maggior parte delle partite giocate durante le dimostrazioni svoltesi in tutta Europa e nelle Americhe nel corso di quasi nove decadi. Ma il Turco Meccanico era un’illusione che permetteva a un maestro di scacchi di azionare la macchina nascondendovisi dentro. Centosessant'anni più tardi, Amazon.com ha commercializzato la sua piattaforma di crowdsourcing basata su micropagamenti utilizzando lo stesso nome. Secondo Ayhan Aytes, la motivazione iniziale di Amazon nel costruire un proprio “Turco Meccanico” è nata dal fatto che i suoi programmi di intelligenza artificiale non riuscivano a identificare sul proprio sito i doppioni delle pagine dei prodotti . A seguito di una serie di tentativi inutili e costosi, gli ingegneri del progetto si sono rivolti a persone per lavorare ai computer entro un sistema web ottimizzato . Il laboratorio digitale di “Amazon Mechanical Turk” emula i sistemi di intelligenza artificiale controllando, valutando e correggendo i processi di machine learning con il cervello umano. Con “Amazon Mechanical Turk”, agli utenti sembra di utilizzare un’AI avanzata per svolgere dei compiti. Ma si tratta piuttosto di una forma di “intelligenza artificiale artificiale”, guidata da una forza lavoro in remoto, dispersa e sottopagata di clickworker che aiutano il cliente a raggiungere i propri obiettivi aziendali. Come osserva Aytes, “in entrambi i casi [nel Turco Meccanico del 1770 e nella versione contemporanea di Amazon] la performance dei lavoratori che animano l’artificio è oscurata dallo spettacolo della macchina .
Questo tipo di lavoro invisibile e nascosto, esternalizzato e collettivizzato, celato dietro interfacce e camuffato all'interno di processi algoritmici è ormai un luogo comune – basta pensare ad esempio al processo di migliaia di ore con cui vengono applicati tag e classificati gli archivi digitali per alimentare le reti neurali. Talvolta questo lavoro è interamente non pagato, come nel caso di reCAPTCHA di Google. All’interno di un paradosso di cui molti di noi hanno esperienza, per dar prova di non essere un agente artificiale, siamo costretti ad allenare il sistema AI di riconoscimento delle immagini di Google gratuitamente, selezionando le caselle che contengono numeri civici, automobili o case.
Come vediamo ripetuto in tutto il sistema, dopotutto le forme contemporanee di AI non sono poi così artificiali. Possiamo parlare del duro lavoro fisico dei minatori e di quello ripetitivo in fabbrica sulla catena di montaggio; del lavoro cibernetico nei centri di distribuzione e delle fabbriche cognitive che sfruttano programmatori esternalizzati in tutto il mondo; del lavoro in crowdsourcing a basso costo dei lavoratori del Turco Meccanico, o del lavoro immateriale non retribuito degli utenti. Ad ogni livello la tecnologia contemporanea è profondamente radicata nei corpi umani e si fonda sul loro sfruttamento.
Fig. 10 – Il Turco Meccanico.
Nel suo racconto breve di un solo paragrafo intitolato Sull’esattezza della Scienza, Jorge Luis Borges ci presenta un impero immaginario in cui la scienza della cartografia diventa così sviluppata e precisa da aver bisogno di una mappa che abbia la stessa scala dell’impero .
“…In quell'Impero, l'Arte della Cartografia raggiunse tale Perfezione che la mappa di una sola Provincia occupava un'intera Città, e la mappa dell'Impero un'intera Provincia. Col tempo, queste Mappe Smisurate non soddisfecero più e i Collegi dei Cartografi crearono una Mappa dell'Impero che aveva la grandezza stessa dell'Impero e con esso coincideva esattamente. Meno Dedite allo Studio della Cartografia, le Generazioni Successive capirono che quella immensa Mappa era Inutile e non senza Empietà l'abbandonarono alle Inclemenze del Sole e degli Inverni. Nei deserti dell'Ovest restano ancora lacere Rovine della Mappa, abitate da Animali e Mendicanti; nell'intero Paese non vi sono altre reliquie delle Discipline Geografiche.
Suarez Miranda, Viajes de varones prudentes, Libro Quarto, cap. XLV, Lérida, 1658”
Gli attuali approcci di machine learning sono caratterizzati dall’aspirazione a mappare il mondo, una quantificazione completa dei regimi visivi, uditivi e di riconoscimento della realtà. Dai modelli cosmologici per l’universo al mondo delle emozioni umane interpretate attraverso i movimenti dei più piccoli muscoli del volto, tutto diventa oggetto di quantificazione. Jean-François Lyotard introdusse la frase “affinità verso l’infinito” per descrivere come l’arte contemporanea, le tecno-scienze e il capitalismo condividono la stessa aspirazione a spostare i confini verso orizzonti potenzialmente infiniti . La seconda metà del XIX secolo, con il suo focus sulla costruzione di infrastrutture e l’irregolare transizione a una società industrializzata, generò un’enorme ricchezza per un piccolo numero di magnati industriali che monopolizzarono lo sfruttamento di risorse naturali e dei processi produttivi.
Il nuovo orizzonte infinito è l’estrazione dei dati, il machine learning e la riorganizzazione delle informazioni attraverso sistemi AI che combinano il lavoro umano con quello delle macchine. I territori sono dominati da poche mega-compagnie globali che stanno creando nuove infrastrutture e meccanismi per l’accumulo di capitale e lo sfruttamento delle risorse umane e del pianeta.
Questa sfrenata sete di nuove risorse e di campi di sfruttamento cognitivo è guidata dalla ricerca di layer di dati sempre più profondi che possano essere utilizzati per quantificare la psiche umana, il conscio e l’inconscio, il privato e il pubblico, l’idiosincratico e il generale. In questo modo abbiamo visto nascere diverse economie cognitive: l’economia dell’attenzione , l’economia della sorveglianza, l’economia della reputazione e l’economia dell’emozione – così come la quantificazione e la mercificazione della fiducia e delle tracce attraverso le criptovalute.
Il processo di quantificazione sta raggiungendo sempre di più i mondi affettivi, cognitivi e fisici dell’umano. Esistono dataset per allenare le AI a rilevare le emozioni o la somiglianza familiare, a seguire l’invecchiamento degli individui e a riconoscere azioni umane come sedersi, salutare, alzare un bicchiere o piangere. Ogni biodata (informazione biografica) – incluse le informazioni forensi, biometriche, sociometriche e psicometriche – viene catturato e inserito in dataset per l’AI. La quantificazione spesso avviene su basi molto limitate: il dataset AVA, ad esempio, mostra le donne principalmente nella categoria “mentre giocano con bambini”, e gli uomini nella categoria “mentre prendono a calci una persona”. Si dice che i dataset per l’AI riescano ad insinuarsi nella natura a grana fine della vita quotidiana, ma ripetono i più stereotipati e ristretti modelli sociali, riscrivendo una visione normativa del passato e proiettandola nel futuro umano.
“La limitazione della biodiversità della conoscenza è l’ultima fase di una serie di restrizioni che sono iniziate con l’ascesa del colonialismo. La terra e le foreste erano state le prime risorse ad essere recintante e ad essere convertite da commons (‘beni collettivi’) a merci. Più tardi, le risorse idriche vennero ‘recintate’ utilizzando le dighe, attraverso l’estrazione di acque sotterranee e adottando strategie di privatizzazione. Ora sono la biodiversità e la conoscenza ad essere ‘recintate’ attraverso i diritti di proprietà intellettuale”, spiega Vandana Shiva . Nelle parole di Shiva, “la distruzione dei commons è stata essenziale per la rivoluzione industriale, perché ha rifornito le industrie con risorse naturali in qualità di materie prime. Un sistema di supporto vitale può essere condiviso, ma non può essere di proprietà privata o sfruttato per il profitto privato. I commons sono quindi stati privatizzati e il sostentamento che le persone trovavano in essi è stato espropriato e dato in pasto ai meccanismi del progresso industriale e dell’accumulo del capitale” .
Se Shiva fa riferimento alla “recinzione” della natura attraverso i diritti di proprietà intellettuale, si può riconoscere che un simile processo si sta verificando con il machine learning – un’intensificazione di natura quantificata. La nuova corsa all’oro nel contesto dell’intelligenza artificiale consiste nel recintare i campi umani della conoscenza, del sentire e dell’agire, per catturarli e privatizzarli. Quando nel novembre 2015 DeepMind Technologies Ltd ha avuto accesso alle cartelle cliniche di 1.6 milioni di pazienti identificabili del Royal Free Hospital, abbiamo assistito a una forma particolare di privatizzazione: l’estrazione del valore-conoscenza . Un dataset può essere ancora di proprietà pubblica, ma il meta-valore del dato – il modello da esso creato – è di proprietà privata. Mentre ci sono numerose buone ragioni per cercare di migliorare il sistema sanitario pubblico, c’è il rischio reale che questo avvenga al prezzo di un’invisibile privatizzazione dei servizi medici. Si tratta di un futuro in cui il lavoro umano specializzato e locale del sistema pubblico sarà incrementato e talvolta rimpiazzato da sistemi AI aziendali centralizzati e privati, che usano dati pubblici per generare un’enorme ricchezza per pochi.
A questo punto del XXI secolo vediamo una nuova forma di estrattivismo giunta ormai in uno stadio già avanzato: una forma capace di raggiungere gli angoli più remoti della biosfera e i livelli più profondi dell’essere cognitivo e affettivo umano. Numerose delle ipotesi sulla vita umana avanzate dai sistemi di machine learning sono circoscritte, normative e piene di errori. Tuttavia, questi sistemi stanno inscrivendo e costruendo queste ipotesi in un nuovo mondo, e giocheranno un ruolo sempre più importante nel modo in cui saranno distribuite opportunità, benessere e conoscenza.
Ciò che è necessario per interagire con Amazon Echo va ben oltre lo stack tecnico di modellazione dei dati, hardware, server e reti. Lo stack si spinge molto più in là in termini sia di capitale, che di forza lavoro e di natura, richiedendo un’enorme quantità di ciascuno di questi. I veri costi di questi sistemi – sociali, ambientali, economici e politici – rimangono nascosti e potranno restare in questa condizione per molto tempo ancora.
Questa mappa e questo saggio sono un modo per iniziare a vedere attraverso la vasta gamma di estrazioni del sistema. Al momento, la scala richiesta per costruire sistemi di intelligenza artificiale è troppo complessa, troppo schermata dalle leggi di proprietà privata e troppo invischiata nella complessità logistica per comprenderla interamente. Tuttavia, si attinge ad essa tutte le volte che pronunciate un semplice comando vocale rivolto ad un piccolo cilindro nel vostro salotto: “Alexa, che ore sono?”.
E così il ciclo continua.
Testo originariamente pubblicato da SHARE Foundation e The AI Now Institute (NYU) sul sito anatomyof.ai (settembre 2018), con il titolo “Anatomy of an AI system. The Amazon Echo as an anatomical map of human labor, data and planetary resources”.
