“Ho la sensazione che chi di noi si interessa alla cultura visuale dovrà dedicare del tempo a imparare e pensare a come le macchine vedano le immagini con occhi non umani, e allenarsi a vedere come loro. Per farlo, dovremo probabilmente rinunciare al nostro sguardo umano.” [1]

“Una rosa è una rosa è una rosa.” Spiegando questo suo celebre verso, Gertrude Stein ha dichiarato: “penso che in quella frase la rosa sia rosa per la prima volta in cent’anni di poesia inglese” [2]. Stein ha ragione. “Una rosa” è un’evocazione, un pezzo di linguaggio che richiama alla memoria un oggetto. “È una rosa” è una definizione che la conferma e le dà colore. La sua ripetizione, una o più volte, non è puramente ridondante: pur essendo lo stesso significante, pur appartenendo allo stesso codice descrittivo (linguaggio verbale, lingua inglese), aggiunge “rosità” alla rosa. L’evocazione si definisce, acquista pixel e saturazione. Verbale o visuale che sia, il linguaggio non è la cosa che rappresenta, ma può evocarla in maniera più o meno convincente.

Penso alla rosa di Stein guardando Bloom (2020), la serie di fotografie di piante in fiore prodotte da Trevor Paglen durante il lockdown. Come la frase di Stein, queste immagini sono ridondanti, ma diversamente da essa, qui la ridondanza è ottenuta sovrapponendo tre codici descrittivi differenti. Il primo è quello di una fotografia di altissima qualità, scattata in piena luce, avendo l’accortezza di mantenere a fuoco ogni piano e dettaglio. Il secondo è una tecnica di interpretazione algoritmica dell’immagine chiamata “deep saliency”, in cui il sistema di intelligenza artificiale, allenato su training set di migliaia di immagini, “usa degli algoritmi per capire cosa stia accadendo nell’immagine, per desumere quali oggetti ci siano in essa, per individuare i diversi materiali presenti e la relazione fra di loro” [3]. Una volta che le reti neurali hanno “compreso”, o “visto”, l’immagine, l’artista traduce questa comprensione in filtri colorati che la rendono percepibile all’occhio umano.

Il terzo codice descrittivo è quello messo a disposizione dalla tecnica di stampa. Le foto della serie Bloom sono stampate a sublimazione di colore (dye sublimation print), una tecnica che incorpora l’immagine nel supporto, consentendo un’alta risoluzione e colori vividi e vibranti.

Tutti e tre questi codici appartengono al regno di quelle che il filosofo Vilém Flusser ha chiamato “immagini tecniche” [4]: il dispositivo fotografico cattura il “mosaico di elementi puntuali” che costituisce il reale e lo computa in una nuova superficie; l’intelligenza artificiale analizza e comprende questa superficie, modificandola attraverso il proprio sguardo; il processo di stampa, infine, la traduce in una nuova immagine continua, in un nuovo elemento della realtà.

Tutti e tre i codici parlano all’occhio dell’uomo, sono destinati alla visione umana, ma gli dicono qualcosa di diverso. L’immagine fotografica ci racconta l’assurda primavera del 2020, in cui il mondo si è fermato a causa di una pandemia globale, in cui l’umanità si è chiusa in casa per sfuggire a un pericolo invisibile, e la natura ha gioito per un’aria finalmente più pulita. Racconta di un momento in cui, come spiega Paglen, c’è stato “un grande cambiamento nel modo in cui le immagini significano”, e nella nostra relazione col mondo: “hai paura del mondo materiale – come se tutta la sua infrastruttura fosse contro di te, in qualche modo. Ma c’è calma. Senti suoni che non hai mai sentito prima. La natura fiorisce in primavera – è folle, quegli odori e quei colori, in parte perché non puoi uscire molto. Tutte quelle esperienze sensoriali diventano molto più intense” [5] quando sei costretto a stare alla finestra. L’immagine fotografica racconta della crudele indifferenza della natura ai dolori dell’essere umano, della fragilità della bellezza e della vita: temi ricorrenti nella storia della pittura di genere (paesaggio e natura morta), in cui Paglen coscientemente si inserisce [6].

La manipolazione cromatica che traduce in modi visibili lo sguardo della macchina è funzionale a mostrarci cosa un’intelligenza artificiale, da noi educata, riconosca in queste immagini: “questo è un fiore, questa una foglia, questo un ramo; una superficie solida, una morbida, una liscia” [7]. È quello che Paglen chiama, costruendo un’analogia con il realismo socialista, “Machine Realism”. Secondo Paglen, il realismo della macchina “è una modalità estetica e interpretativa definita dall’attribuzione autonoma di significato alle immagini da parte del machine learning e dei sistemi di intelligenza artificiale, impiegata al servizio del capitale, della polizia, dell’esercito. I sistemi costruiti su questa filosofia possono vedere le immagini – possono vederle solo – in un modo che le trasforma in strumenti di potere” [8]. Potrebbe sembrare una descrizione tendenziosa ed esagerata, quando si tratta di insegnare a una macchina a distinguere tra un fiore e una foglia. Ma il pericolo del “realismo della macchina” è leggibile anche qui, nella facile equivalenza tra “realismo” e “obiettività”, e tra “obiettività” e “verità”. “Nel realismo della macchina, chi controlla i training set controlla il significato delle immagini, e questi significati non sono suscettibili di contestazione” [9]. Riconosciuto come fiore sulla base di migliaia di precedenti, per la macchina quel fiore non può più essere altro che un fiore. Non potrà mai più essere “foglia”. Né c’è modo di riconoscergli uno status intermedio, a meno che la macchina non sia stata precedentemente istruita a farlo. E anche qualora accadesse, il linguaggio (tanto iconico quanto verbale) non è mai assoluto: è sempre approssimativo, e frutto di una negoziazione sociale.

Ma c’è di più: il riconoscimento delle immagini, nel realismo della macchina, non è mai fine a se stesso. Nell’intelligenza artificiale, la comprensione del reale non soddisfa uno scopo puramente conoscitivo, ma è sempre funzionale a qualcosa. “Il realismo della macchina rende operativi i significati che attribuisce alle immagini. Nel migliore dei casi, le immagini sono usate per venderti dei prodotti […] Il realismo della macchina agisce sulle cose che vede, meglio, le tratta come prede” [10].

Del resto, siamo poi così sicuri che, applicato a immagini di piante in fiore, questo processo sia così innocuo? La risposta la troviamo al terzo livello, nell’immagine finale. Sovrapposta all’immagine fotografica originaria e perfettamente fusa con essa, la visione della macchina non la rafforza, ma la uccide. Le immagini della serie Bloom restano belle, ma la loro bellezza è fredda, asettica, fastidiosamente disumana. Contaminata con la visione operazionale dell’intelligenza artificiale, per cui un fiore è solo un fiore e una superficie è solo una texture, la natura culturale dell’immagine di partenza ne esce mortificata. Se in Stein la ridondanza (interna allo stesso sistema linguistico) rafforza il rapporto tra linguaggio e cosa, in Paglen la sovrapposizione dello sguardo della macchina allo sguardo dell’uomo interferisce con questo rapporto: la rosa è meno rosa. I fiori perdono il loro colore, il loro profumo, e l’immagine perde le sue implicazioni emotive (l’immersione panica nella natura in un’epoca di confinamento) e culturali (il legame con le vanitas secentesche).

Esito più recente di un lavoro quasi decennale dedicato da Paglen allo sguardo della macchina – sviluppato, come sua consuetudine, affiancando ricerca, produzione teorica e pratica artistica – Bloom rivela la maturità artistica raggiunta lungo questo percorso: non racconta le insidie della machine vision e dell’intelligenza artificiale ma ce le mostra, rendendo visibile il loro impatto disumanizzante sul regno della visione. Perché di un furto perpetrato ai danni di quello che per secoli è stato il destinatario primario delle immagini – l’occhio umano – ci parla il lavoro recente di Paglen, con una chiarezza che è inversamente proporzionale alla nostra capacità di accettare la veridicità del suo discorso.

Io, almeno, ci ho messo diverso tempo ad accettare queste parole del saggio Invisible Images [11], sotto i miei occhi dal 2016, come qualcosa di diverso da un’esagerazione: “la cultura visuale ha cambiato forma. Si è distaccata dall’occhio umano ed è diventata per lo più invisibile. La cultura visuale umana è diventata una forma speciale di visione, un’eccezione alla regola. La stragrande maggioranza delle immagini sono ora create dalle macchine per altre macchine, e gli umani sono raramente coinvolti” [12]. In realtà, il discorso di Paglen è così ovvio da apparire, da un altro punto di vista, quasi tautologico. Ogni immagine digitale è machine readable, per il semplice fatto di essere digitale; noi la vediamo solo quando la visualizziamo, con un apposito software progettato per “performarla”, direbbe Boris Groys [13], eseguirla per i nostri occhi; ma è per sua natura leggibile dal dispositivo con cui l’abbiamo scattata, da quello con cui la editiamo, dai motori di ricerca che la rintracciano nel flusso di dati online, e a ognuno di questi dispositivi fornisce più informazioni di quante ne siano visibili a noi.

In altre parole, ogni immagine digitale è creata dalle macchine per le macchine, a prescindere dal ruolo che l’uomo ha avuto in questo processo. Ne consegue altresì che ogni immagine digitale è operativa: non si limita a rappresentare cose, ma “fa” cose, produce conseguenze nel mondo reale. Un’“operatività” di solito latente nelle immagini che io penso di aver prodotto o distribuito per occhi umani, come le foto dei miei figli sui social network, ma che il “realismo della macchina” può attivare, e attiva in qualsiasi momento, per lo più in maniera invisibile all’occhio umano. È su quest’ultimo snodo che si colloca il lavoro sulla machine vision di Trevor Paglen, che raccoglie il lascito dell’Harun Farocki di Eye/Machine III (2003) come annunciato programmaticamente nel breve saggio Operational Images [14]: rendere visibile allo sguardo umano come vede la macchina.

All’inizio del primo episodio di Ways of Seeing (1972), John Berger spiega: “il processo di vedere dipinti, di vedere qualsiasi cosa, è meno spontaneo e naturale di quanto siamo propensi a credere. Gran parte del vedere dipende dalle abitudini e dalle convenzioni” [15]. Se il vedere è culturale, lo è a maggior ragione un vedere artificiale e interamente progettato dall’uomo, e una parte consistente del lavoro di Paglen, ben esemplificata dal monumentale lavoro sui training set che ha condotto a ImageNet Roulette (2019), si è concentrata sui pregiudizi culturali incorporati nello stato attuale dell’intelligenza artificiale, i cui sistemi classificatori si fondano spesso su ricerche obsolete e visioni pseudoscientifiche (come la fisiognomica), superate ma funzionali ai fini della costruzione di una tassonomia. Al contempo, tuttavia, Paglen è consapevole che il perfezionamento dei criteri di classificazione delle immagini su cui si fondano i training set non ridurrà i pericoli dell’intelligenza artificiale, per due motivi fondamentali: da un lato, perché “l’intero sforzo di raccogliere immagini, categorizzarle ed etichettarle è una forma di politica, che solleva domande su chi possa decidere il significato delle immagini e su quale tipo di lavoro sociale e politico queste rappresentazioni mettano in atto” [16]; dall’altro, perché questo lavoro è già in atto – machine vision e intelligenza artificiale sono già incorporate nel nostro tessuto politico e sociale, e hanno già conseguenze operative che inquinano la realtà e la nostra percezione del mondo.

In ultima analisi, l’obiettivo dello sforzo di Paglen di mostrarci come vede la macchina, coerentemente con tutto il suo lavoro, è più conoscitivo che operativo o politico: non vuole migliorare l’intelligenza artificiale, opporre resistenza alle sue applicazioni attuali, anche se può raggiungere occasionalmente questo risultato. Vuole “aiutarci a vedere il momento storico in cui ci troviamo” [17]: un momento, nello specifico, in cui le macchine hanno sottratto all’uomo la prerogativa della visione. Ci mostra quello che stiamo perdendo (ad esempio, la capacità di dare colore a una rosa), e ci spinge a interrogarci su come possiamo tornare a essere protagonisti attivi in un processo: quello di vedere e creare immagini, in cui non siamo più la regola, ma l’eccezione.