I nostri occhi sono cose carnose e, nell’evoluzione umana, anche la cultura visiva è stata per lo più fatta di cose carnose. La storia delle immagini è una storia di pigmenti e tinture, oli, acrilici, nitrato d’argento e sostanze a base di gelatina utili per dipingere una caverna, una chiesa o una tela, per fare una fotografia o stamparne una sulle pagine di una rivista. L’arrivo dei media su schermo nella seconda metà del XX secolo non fa eccezione: tubi catodici e schermi a cristalli liquidi emettono luce a frequenze che i nostri occhi vedono come colore e densità che percepiamo come forma.
Siamo diventati abbastanza bravi a comprendere i capricci della visione umana, i modi sinuosi attraverso cui le immagini si infiltrano e influenzano la cultura, il loro tenue legame con la vita quotidiana e la verità, i mezzi tramite i quali sono sfruttate per servire il – e resistere al – potere. I concetti teorici che usiamo per analizzare la cultura visiva classica sono ormai solidi: rappresentazione, significato, spettacolo, semiosi, mimesi, eccetera. Per secoli ci hanno aiutato a orientarci nei meccanismi della cultura visiva classica.
Ma nell’ultimo decennio si è verificato qualcosa di molto significativo: la cultura visiva ha cambiato forma, si è separata dalla visione umana ed è diventata in larga parte invisibile. La cultura visiva umana è diventata un tipo speciale di visione, un’eccezione alla regola. La stragrande maggioranza delle immagini è ormai creata da macchine per altre macchine, con raro coinvolgimento degli umani. Un cambiamento epocale sta avvenendo in maniera invisibile davanti ai nostri occhi: la comparsa della visione da macchina a macchina è stata a mala pena notata dal grande pubblico e rimane poco compresa anche da chi tra noi ne intuisce la portata.
Lo scenario delle immagini invisibili e della machine vision sta diventando sempre più rilevante. La sua continua espansione sta cominciando ad avere effetti profondi sulla nostra esistenza, oscurando persino lo sviluppo della cultura di massa avvenuto a metà del XX secolo. Le immagini hanno cominciato a intervenire nella vita quotidiana e le loro funzioni si sono trasformate: esse non sono più chiamate a rappresentare e mediare, ma ad attivare, operare ed eseguire. Immagini invisibili ci osservano attivamente, ci stuzzicano e ci spingono, guidando i nostri movimenti, infliggendo dolore e provocando piacere. I teorici dei cultural studies da molto tempo sospettavano che ci fosse qualcosa di diverso nelle immagini digitali rispetto ai media del passato, ma hanno avuto difficoltà a circoscrivere il problema. Negli anni ’90, ad esempio, si discuteva molto del fatto che queste non avessero un originale. Più recentemente, la proliferazione delle immagini sui social network e le sue implicazioni sulle relazioni umane sono state oggetto di molte discussioni tra i teorici e i critici dei media. Tuttavia, tutte queste discussioni non sono ancora riuscite a comprendere la posta in gioco.
Un problema è che questi interventi presuppongono ancora che siano gli umani a guardare le immagini, e che quella tra osservatore e immagine sia la relazione più importante da analizzare. È proprio questo assunto che intendo mettere in discussione.
Ciò che è davvero rivoluzionario nell’avvento delle immagini digitali è il fatto che esse sono essenzialmente leggibili dalle macchine: possono essere viste dagli umani solo in determinate circostanze e per brevi periodi di tempo. Una fotografia scattata su un telefono crea un file leggibile dalla macchina, ma non riflette la luce in una forma percepibile all'occhio umano. Un’applicazione secondaria, come un software per la visualizzazione di immagini associato a uno schermo a cristalli liquidi retroilluminato, può creare qualcosa che l’occhio umano può osservare, ma l’immagine appare solo temporaneamente prima di trasformarsi di nuovo nella sua forma meccanica immateriale quando il telefono viene messo via, o lo schermo è spento. Tuttavia, l’immagine non ha bisogno di essere leggibile agli umani affinché una macchina possa utilizzarla. C’è infatti una differenza fondamentale tra essa e il rullino non sviluppato. Anche se la pellicola deve essere sottoposta a un processo chimico per acquisire una forma visibile all’occhio umano, il negativo non sviluppato non è leggibile né da un essere umano né da una macchina.
Il fatto che le immagini digitali siano essenzialmente leggibili dalle macchine, indipendentemente da un soggetto umano, comporta immense implicazioni. Amplifica l’automazione della visione e, allo stesso tempo, consente un esercizio di potere senza precedenti, su una scala che va dall’infinitesimo al planetario.
Gli ambienti antropizzati in cui viviamo sono pieni di esempi di strumenti basati sulla visione macchina-macchina: lettori automatici di targhe automobilistiche (ALPR), montati su auto della polizia, edifici, ponti, autostrade e flotte di veicoli privati, scattano foto di ogni auto che entra nel campo visivo delle loro telecamere. Gli operatori ALPR, come la ditta Vigilant Solutions, raccolgono dati sulla posizione di ogni veicolo che intercettano, usano il riconoscimento ottico dei caratteri (OCR) per registrare e conservare i numeri di targa e creano dataset poi usati da polizia, compagnie assicurative e altri . In ambito commerciale, piattaforme come Euclid Analytics e Real Eyes, tra le altre, installano telecamere in centri commerciali e negozi per tracciare i movimenti delle persone. Tramite un software dedicato identificano chi sta guardando cosa e per quanto tempo, e rilevano le espressioni facciali delle persone intercettandone l’umore e lo stato emotivo delle persone che stanno osservando. Anche gli annunci pubblicitari hanno cominciato a guardare e registrare le persone. Nel settore industriale, aziende come la Microscan offrono sistemi di machine vision studiati per segnalare difetti nella lavorazione o nei materiali, e per monitorare l’imballaggio, la spedizione, la logistica e il trasporto per le industrie automobilistiche, farmaceutiche, elettroniche e di imballaggio. Tutti questi sistemi sono possibili solo perché queste immagini digitali sono leggibili dalle macchine e non richiedono presenza umana nei processi di analisi.
Questa cultura visiva invisibile non si limita solo all’ambito industriale, all’applicazione della legge, e alle smart city, ma si insinua profondamente in ciò che noi continuiamo – forse un po' ingenuamente – a considerare cultura visiva umana. Mi riferisco ai miliardi di immagini che condividiamo sulle piattaforme digitali, quelle che a prima vista sembrano essere fatte da persone per altre persone.
Una piattaforma come Facebook può sembrare simile ai polverosi album di fotografie rilegati a colla, tipici dell’America del dopoguerra. Noi condividiamo foto su Internet e vediamo a quante persone “piacciono” e quante le condividono. Una volta le persone portavano con sé le foto dei figli, nei portafogli e nei borsellini, le mostravano ad amici e conoscenti, e organizzavano proiezioni di diapositive delle vacanze. Cosa c’è di più umano del desiderio di mostrare i propri bambini? Le interfacce studiate per la condivisione delle immagini digitali imitano per lo più questi formati, creando album di selfie, foto di neonati, gatti e foto di viaggio.
Ma l’analogia è profondamente fuorviante, perché quando condividiamo una foto su Facebook succede qualcosa di completamente diverso rispetto a quando annoiamo il nostro vicino con le diapositive. Quando carichiamo una foto su Facebook o su altri social network stiamo in realtà addestrando una serie di sistemi AI immensamente potenti a identificare le persone, a riconoscere posti e oggetti, abitudini e preferenze, etnie, identificazioni di genere, status economici e molto altro ancora.
A prescindere dal fatto che un soggetto umano veda o meno i due miliardi di immagini caricate quotidianamente sulle piattaforme controllate da Facebook, le fotografie sui social network sono esaminate da reti neurali con un livello di attenzione che farebbe arrossire anche il più accurato storico dell’arte. L’algoritmo DeepFace di Facebook, sviluppato nel 2014 e adottato nel 2015, produce astrazioni tridimensionali dei volti degli individui e usa una rete neurale con un grado di accuratezza nell’identificare le persone superiore al 97%. È una percentuale comparabile solo a quella raggiungibile da un essere umano, fatto salvo che nessun umano può ricordare i volti di miliardi di persone.
Ci sono molti altri sistemi analoghi: DeepMask di Facebook e TensorFlow di Google identificano persone, posti, oggetti, posizioni, emozioni, gesti, volti, generi, status economici, relazioni e molto altro ancora. Nel complesso, i sistemi AI si sono appropriati della cultura visiva umana e l’hanno trasformata in un’enorme e flessibile dataset. Più immagini i sistemi AI di Facebook e Google ingeriscono, più accurati diventano, e più crescerà la loro influenza sulla vita quotidiana. I miliardi di immagini che siamo stati abituati a considerare come cultura umana costituiscono il fondamento per modalità di visione sempre più autonome, che hanno scarsa somiglianza con la cultura visiva del passato.
Se diamo un’occhiata al funzionamento dei sistemi di machine vision, troviamo uno strano sistema di astrazioni che sembrano completamente aliene alla percezione umana. Quello della visione macchina-macchina non è uno scenario fatto di rappresentazioni, ma piuttosto di applicazioni e operazioni. È costituito da relazioni attive e performative molto più che da relazioni tipicamente rappresentative. Questo però non significa che non ci sia una base formale per il funzionamento di questi sistemi. Tutti i sistemi di computer vision producono astrazioni matematiche a partire dalle immagini che stanno analizzando, e le qualità di tali astrazioni sono basate sul tipo di metadati che l’algoritmo sta cercando di leggere. Il riconoscimento facciale, per esempio, normalmente utilizza un certo numero di tecniche, a seconda dell’applicazione, del risultato desiderato e dei dataset disponibili. La tecnica eigenface, per usare un esempio un po’ più datato, analizza il volto di una persona e sottrae da esso le caratteristiche che ha in comune con altri volti, lasciando un’unica “impronta” o “archetipo” facciale: per riconoscere un soggetto specifico, l’algoritmo cerca l’impronta del volto di una data persona.
Le reti neurali convolutive (Convolutional Neural Network, CNN), più comunemente chiamate reti di deep learning, sono costituite da decine o anche centinaia di layer interni che si scambiano informazioni avanti e indietro. I primi layer della rete smontano una data immagine negli elementi che la compongono: forme, gradienti, luminosità e angoli. Queste componenti individuali sono combinate in forme sintetiche. Più in profondità, nelle CNN le immagini sintetiche sono confrontate con altre immagini che la rete è stata addestrata a riconoscere, attivando alcuni “neuroni” del software quando trova delle somiglianze.
Potremmo immaginare che queste attivazioni sintetiche e altre strutture “allucinate” all’interno delle CNN siano analoghe agli archetipi di una specie di inconscio collettivo junghiano dell’intelligenza artificiale. Una metafora invitante, ma fuorviante. Le reti neurali non possono inventare delle classi; possono solo collegare le immagini che ingeriscono alle immagini dei loro dataset. E questi riflettono le posizioni storiche, geografiche, etniche e socioeconomiche dei loro creatori. Sottoponete un’immagine del dipinto Olympia di Manet a una CNN addestrata sul dataset ImageNet, che rappresenta lo standard del settore, e la CNN sarà certa di avere davanti a sé un “burrito”. È superfluo dire che la classe di oggetti “burrito” è retaggio di un giovane abitante della zona della Bay Area di San Francisco, dove è stato inventato il moderno burrito “Mission style” . Passate un po’ di tempo con le reti neurali e vi renderete conto che chiunque abbia qualcosa in mano sarà probabilmente classificato come una persona “con in mano un cellulare,” o “con in mano un controller della Wii”. Parlando di cose più serie, gli ingegneri di Google hanno deciso di disattivare la classe “gorilla” quando era diventato palese che gli algoritmi erano stati addestrati prevalentemente su volti bianchi e tendevano a classificare gli afroamericani come primati.
Il nocciolo del discorso è che se vogliamo capire il mondo della cultura visiva macchina-macchina, dobbiamo disimparare a vedere come gli umani. Dobbiamo invece imparare a osservare un universo parallelo composto di attivatori, punti chiave (keypoint), eigenface, tecnica di estrazione “feature transform”, classificatori, dataset, e cose simili. Purtroppo, però, questa operazione non è semplice come imparare un nuovo vocabolario. I concetti formali contengono presupposti epistemologici, che a loro volta implicano conseguenze etiche. I concetti teorici che utilizziamo per analizzare la cultura visiva sono profondamente fuorvianti se applicati allo scenario della visione digitale, e producono distorsioni, vaste aree grigie e interpretazioni profondamente errate.
Fig. 3 – Machine Readable Hito (Trevor Paglen, 2017).
Se consideriamo gli errori commessi – se consideriamo cioè che “Olympia” diventa un burrito e che gli afroamericani vengono etichettati come non-umani – la tentazione di criticare l'attività che gli algoritmi svolgono sulle immagini è forte. Queste critiche sono comprensibili, ma mancano il bersaglio. Esse sembrano suggerire che il problema riguardi semplicemente l'accuratezza, e che quindi possa essere risolto migliorando i dataset. La logica è questa: eliminiamo il bias dai dataset e le operazioni algoritmiche saranno decisamente meno razziste delle interazioni tra umani. Programmiamo gli algoritmi in modo che vedano tutti allo stesso modo, e gli umani che essi così affettuosamente sorvegliano saranno considerati in modo equo. La cosa non mi convince.
Il trucco ultimo dell’ideologia è sempre stato quello di presentarsi come verità oggettiva, di presentare le attuali condizioni storiche come eterne, e le formazioni politiche come naturali. Dato che le operazioni sulle immagini avvengono su un livello invisibile e non dipendono da un osservatore umano (e non sono quindi così palesemente ideologiche come i dipinti giganti di Napoleone) sono più difficili da riconoscere per quello che sono realmente: strumenti immensamente potenti di controllo sociale al servizio di specifici interessi di etnia e di classe, che però si presentano come imparziali e oggettivi.
Il mondo invisibile delle immagini non è semplicemente una tassonomia alternativa alla visualità. È un esercizio di potere ingegnoso, ideale per approfondite operazioni di polizia o di mercato, progettato per insinuare i suoi tentacoli in ogni aspetto della vita quotidiana.
Prendiamo il caso di Vigilant Solutions. Nel gennaio del 2016, Vigilant Solutions, l’azienda che si vanta di avere un dataset di miliardi di posizioni di veicoli catturati dai suoi sistemi ALPR, si aggiudicò diversi appalti con altrettante amministrazioni locali in Texas. Secondo dei documenti ottenuti dalla Electronic Frontier Foundation, l’accordo era più o meno questo: Vigilant Solutions dava in dotazione alla polizia una suite di sistemi di riconoscimento ALPR per le pattuglie, e l’accesso al più ampio dataset di Vigilant. In cambio, l’amministrazione locale avrebbe fornito a Vigilant dataset dei mandati di arresto non ancora eseguiti e delle spese legali non ancora pagate ai tribunali. Una lista di targhe automobilistiche segnalate, associate a multe non pagate, viene inserita nel sistema mobile di riconoscimento ALPR. Quando il sistema di ALPR sull’auto della polizia individua una targa segnalata, il poliziotto ferma il guidatore, lo fa accostare, e gli offre due opzioni: può saldare la multa non pagata all’istante con una carta di credito (con una “commissione” del 25% che va direttamente a Vigilant), o essere arrestato. Oltre alla maggiorazione, Vigilant conserva un archivio di tutte le letture di targhe rilevate dalla polizia locale, aggiungendo informazioni ai propri enormi dataset, così da poterle sfruttare per i propri scopi. Le operazioni politiche qui in atto sono evidenti. Le autorità locali sono incentivate a risanare i loro bilanci a spese degli strati più vulnerabili di popolazione, a trasformare i poliziotti locali in esattori di tasse, e di fatto a vendere dati della polizia a ditte private. Nonostante l’oggettività presunta dell’intero sistema, è evidente come esso sia al servizio degli interessi del governo e dei privati, a discapito dei più fragili e della vita della comunità.
Mentre i governi cercano nuove fonti di reddito in un’epoca di austerity, e il capitale cerca nuove occasioni di monetizzare, la tentazione di usare la machine vision per trarre profitto da aspetti sempre più specifici della vita quotidiana è irresistibile. È facile, per esempio, immaginare un algoritmo AI capace di individuare su Facebook l’immagine di una donna minorenne che beve una birra a una festa. L’informazione è poi inviata alla compagnia assicurativa dell’auto della donna, dato che la compagnia è iscritta a un programma Facebook studiato per fornire questo tipo di informazioni ad agenzie di credito, assicurazioni mediche, inserzionisti, funzionari del fisco e polizia. Il suo premio assicurativo verrà adeguato sulla base di questa informazione. Un secondo algoritmo esplora il suo passato in cerca di comportamenti simili, da cui una ditta dello stesso gruppo può trarre profitto. Nel mondo della cultura visiva da umano a umano, l'immagine fotografica all'origine di tutti questi guai sarebbe stata relegata in una scatola di scarpe a raccogliere polvere e a scivolare nel dimenticatoio. Nel mondo della visione macchina-macchina, invece, quella fotografia non sparisce mai. Essa diventa un soggetto che partecipa attivamente ai cambiamenti della vita della donna, con conseguenze permanenti.
Dettagli sempre più minuscoli della vita umana vengono trasformati in capitale, vuoi per la capacità di rilevare automaticamente migliaia di targhe automobilistiche per spese legali non pagate, o per un momento di imprudenza catturato da una foto pubblicata su internet. La tua assicurazione medica privata sarà calibrata sulla base delle tue foto da neonata, che i tuoi genitori hanno caricato senza il tuo consenso. Il livello di sorveglianza della polizia cui sarai soggetta sarà stabilito in base alla tua serie di “comportamenti ricorrenti”.
La relazione tra immagini e potere nello scenario macchina-macchina è diversa da quella nel contesto della visione umana. La prima deriva dall’attuazione di due operazioni apparentemente paradossali. Innanzitutto, si individuano e si distinguono persone, luoghi e abitudini nel contesto controllato. Vengono quindi creati dei metadati specifici relativi a ogni singola persona sulla base di etnia, classe sociale, luogo di provenienza, prodotti consumati, abitudini, interessi, “like”, rete di amici e così via. La seconda mossa consiste nel reificare quelle categorie, rimuovendo ogni ambiguità nella loro interpretazione, così che questi profili di metadati individuali possano essere resi operativi per riscuotere tasse municipali, adeguare premi assicurativi, effettuare pubblicità mirata, gestire la vigilanza della polizia, e così via. Il risultato finale è una società che amplifica la diversità (o meglio una diversità di metadati individuali), ma che lo fa proprio perché le differenziazioni dei metadati individuali agevolano l’incursione della capitalizzazione e del controllo della vita quotidiana.
I sistemi di visione macchina-macchina sono straordinari strumenti intimi di potere che operano attraverso un’estetica e un'ideologia dell'obiettività. Ma le categorie che adottano sono studiate per reificare le forme di potere che quegli stessi sistemi sono chiamati a servire. Pertanto, lo scenario macchina-macchina forma un tipo di iper-ideologia particolarmente nefasta, proprio perché si afferma come obiettiva ed egalitaria.
Negli ultimi anni sono state sviluppate tattiche e strategie avanzate per intervenire nella cultura visiva da umano a umano e combattere disuguaglianza, razzismo e ingiustizia. Artisti e professionisti utilizzano spesso strategie visive e tattiche anti-egemoniche che sfruttano l’ambiguità della cultura visiva umana per produrre forme di controcultura – per affermare e rivendicare diritti e per dare voce a sempre più persone e punti di vista. Ad esempio, l’opera seminale di Martha Rosler, Semiotics of the kitchen, ha trasformato l’immagine della cucina, rappresentazione patriarcale dell’ordine maschilista, in una sorta di prigione. Le immagini di Emory Douglas, che celebrano la resistenza e la solidarietà tra gli afroamericani, hanno creato uno scenario visivo che ha favorito la loro emancipazione. Le immagini della queerness prodotte da Catherine Opie hanno sviluppato un vocabolario alternativo di genere e di potere. Tutte queste strategie, e molte altre, contano sul fatto che la relazione tra significato e rappresentazione sia elastica. Ma questa idea di ambiguità, fondamento della teoria semiotica da Saussure a Derrida, semplicemente cessa di esistere nel piano della visione quantificata macchina-macchina. Non c’è un modo ovvio di intervenire nei sistemi di visione macchina-macchina usando strategie visive proprie della cultura da umano a umano.
Di fronte a questa impasse, alcuni artisti e professionisti stanno tentando di sfidare i sistemi di visione meccanica creando forme del vedere che sono leggibili per gli umani ma non per le macchine. L’artista Adam Harvey, in particolare, ha progettato make-up che ostacolano gli algoritmi di riconoscimento facciale, abiti capaci di nascondere le tracce termiche e tasche che impediscono ai cellulari di trasmettere continuamente la loro posizione ai sensori circostanti. Julian Oliver spesso compie invece il percorso opposto, sviluppando macchine iper-predatorie che mostrano la quantità di dispositivi di tracciamento a cui siamo esposti e il tipo di informazioni personali che questi raccolgono. Sono tutti progetti degni di nota che ci aiutano a capire meglio l’onnipresenza dei sistemi di rilevamento. Ma queste tattiche non possono essere generalizzate.
Alla lunga le strategie visive per sconfiggere gli algoritmi di machine vision si rivelano perdenti. Interi settori della ricerca sono dedicati alla creazione di immagini adversarial studiate per ostacolare i sistemi di riconoscimento automatico – tentativi che però vengono facilmente neutralizzati incorporando quelle stesse immagini nei dataset. Inoltre, per sottrarsi davvero alla machine vision, le tattiche di oggi dovrebbero essere capaci di resistere non solo agli algoritmi del presente ma anche a quelli che saranno utilizzati nel futuro. Per nascondere un volto da Facebook non basta studiare una strategia per ostacolare l’algoritmo “DeepFace” di oggi, ma anche un sistema di riconoscimento facciale del futuro.
Una resistenza efficace al potere assoluto di polizia e mercato, esercitato attraverso la machine vision, non potrà articolarsi a partire da una tecnologia specifica. Nel lungo termine, non c’è una soluzione tecnologica contro l’esacerbazione delle disuguaglianze politiche ed economiche che la cultura visiva invisibile promuove. Per opporsi alle razzie di questo sistema meccanicistico e alla sua costante ottimizzazione, serve progettare delle disfunzionalità intenzionali e delle sfere di esistenza che si sottraggano ai soprusi del mercato e della politica – dei porti sicuri all’interno del dominio invisibile del digitale. È nell’inefficienza, nella sperimentazione, nell’espressione del sé, e spesso nell’infrazione della legge, che risiedono libertà e autorappresentazione politica.
Non siamo più noi a guardare le immagini, sono le immagini a guardare noi. Esse non sono più solo delle rappresentazioni, ma intervengono attivamente nella vita quotidiana. Dobbiamo cominciare a comprendere questi cambiamenti se vogliamo sfidare le eccezionali forme di potere che scaturiscono dalla cultura visiva invisibile in cui ci troviamo invischiati.
Testo originariamente pubblicato su The New Inquiry 101 (dicembre 2016), con il titolo “Invisible images (Your pictures are looking at you)”.
