XHAIRYMUTANTX
"xhairymutantx" nasce da una domanda: "possiamo scegliere il modo in cui veniamo rappresentat* nel substrato dell’intelligenza artificiale?" Una delle promesse originarie di internet riguardava l’autodeterminazione dell’identità online. L’immagine di un’esistenza digitale portava con sé la speranza di potersi reinventare attraverso identità ed esistenze mutevoli, spesso multiple.
Negli ultimi anni si è fatta strada una preoccupazione secondo la quale, con la proliferazione di modelli AI potenti e opachi, stiamo entrando in una nuova era di non-verità. Per questo motivo, le aziende che addestrano modelli di intelligenza artificiale investono grandi risorse per allinearne i risultati a una forma di verità condivisa. Per l’addestramento di ChatGPT vengono privilegiati racconti di eventi storici provenienti da fonti "autorevoli", e i modelli di text-to-image cercano di produrre un output più vicino possibile a un risultato oggettivo.
L’imperativo che spinge a trattare ogni argomento come qualcosa di oggettivo ha una sua utilità: quando la maggior parte delle persone scrive in un prompt "sedia", è ragionevole aspettarsi che venga generata un’immagine che somigli a ciò che la maggior parte delle persone pensa che sia una sedia. Per questioni più soggettive, come "bellezza" o "arte", le affermazioni sulla verità diventano però molto più complesse e significative. Il concetto di "bellezza" compreso da CLIP (il modello di testo che sta alla base dei sistemi text-to-image) rivela una specifica verità, che deriva da una sorta di campionamento aggregato di tutte le immagini etichettate come "belle" nel suo gigantesco dataset. Una riflessione aggregata di tutto ciò che è stato postato online, una eggregora, o in questo caso una aggregora.
Il termine "arte" è fortemente condizionato da ciò che appare maggiormente nei dati, il che spiega forse la prevalenza di illustrazioni fantasy contemporanee o di concept art nei risultati generici dei modelli text-to-image. Il tentativo di determinare una verità oggettiva ha senso in un contesto giornalistico o commerciale, ma in ambiti come l’arte, la cultura e l’identità rischia invece di legarci a rappresentazioni populiste, manipolabili o enormemente riduttive di ambiti che sono invece necessariamente fluidi. Quando si tratta di un individuo e della sua rappresentazione nei modelli AI, cosa possiamo stabilire come verità oggettiva? L* artist* hanno potuto approfondire questo aspetto: Holly Herndon sembra aver attraversato la soglia di notorietà sufficiente per avere una rappresentazione, o un concetto di sé, presente nella maggior parte dei modelli AI. Se scrivi "Holly Herndon" in un sistema text-to-image, ti verrà restituita un’immagine che assomiglia a Holly. In CLASSIFIED (2021), il progetto di ritratti realizzato con Mat Dyhurst, l* artist* hanno esplorato con precisione ciò che i sistemi AI conoscono di Holly, sviluppando, insieme a Jordan Meyer, una tecnica (successivamente chiamata "Textual Inversion") per analizzare a fondo l’incorporamento di Holly nei modelli AI pubblici.
Come accade per molt* artist* viventi – per cui sono disponibili molte fotografie online – sembra che il concetto "Holly Herndon", nei modelli, sia definito dalla sua capigliatura. Non dalla sua arte, come accadrebbe per l* artist* di altre epoche, per l* quali abbiamo poche immagini documentate oltre al lavoro che ci hanno lasciato, dato che solo dell* più not* tra loro sono disponibili online abbastanza immagini per raffigurarl* in un ritratto convincente. Il concetto di Holly compresso nei modelli si è concentrato invece sui suoi capelli come sua quintessenza.
Pertanto, quando si è trattato di riformulare il concetto di Holly nei modelli AI, l* artist* hanno deciso di usare le fondamenta concettuali già stabilite, per timore che qualsiasi dataset prodotto che si discostasse troppo da ciò che i modelli comprendevano già su Holly venisse filtrato come un dato impreciso. Recentemente, il data poisoning ha catturato l'immaginazione collettiva, che lo vede come un possibile strumento per affermare l'agency rispetto alle sfrenate pratiche di addestramento. Tuttavia, durante la loro ricerca, Herndon e Dryhurst hanno scoperto che per i concetti ben consolidati, il "poisoning" potrebbe rivelarsi una tattica meno efficace rispetto all’amplificazione dei cliché. Insomma, reductio ad absurdum: giocare proprio con la compressione del concetto. L’amplificazione del cliché significa in questo caso identificare la presunta essenza di un concetto e amplificarla fino a farle assumere proporzioni ridicole, in modo che il modello sia pronto ad accettare questa nuova mutante esagerazione come verità.
L* artist* hanno dunque deciso di amplificare il cliché di Holly, costruendo un costume (realizzato su misura da Franziska Muller e Lenna Stam) in cui l’artista veniva sovrastata dai suoi capelli. Holly assume proporzioni mutanti e prometee, e i suoi capelli, come il kudzu, cominciano a invaderla e ad avvolgerla. Utilizzando immagini di Holly che indossa questo costume, l* artist* hanno realizzato un fine-tuning di un modello visivo, che è stato successivamente perfezionato ricorsivamente per ottenere un personaggio coerente, generabile da chiunque utilizzi l’interfaccia fornita. Questo modello è in grado di produrre infinite immagini di questo nuovo personaggio, le quali saranno perlopiù "infettate" dal mutante capelluto.
Offrire questo modello al pubblico serve per due ragioni: in primo luogo, consente a chiunque di esplorare il modello stesso, l’opera vera e propria, in quanto medium. In secondo luogo, permette di produrre una notevole quantità di nuovo materiale, reso disponibile su Whitney.org (un sito che ha un’ottima reputazione), che potrà essere utilizzato per nuovi addestramenti AI. Ogni immagine sarà etichettata e taggata "Holly Herndon". L* artist* sperano che ciò che verrà prodotto possa contribuire a definire il concetto di Holly nei modelli futuri; non c'è motivo per cui questo non dovrebbe verificarsi.
Data la nuova dimensione esplorativa offerta dall’introduzione di un modello di text-to-image come opera d'arte, l* artist* hanno adottato alcune misure per limitare l’output. Sicuramente molte persone cercheranno di generare immagini provocatorie, distanti dagli obiettivi del progetto. In questi casi, verranno creati dei gattini. Se Holly dovesse trasformarsi in un gattino, sarà un chiaro segno di tentativi malintenzionati di deviare il progetto verso scopi diversi da quelli previsti.
