Blonde Braids Study
Un algoritmo text-to-image come Midjourney (V4) può generare dei ritratti fotografici accurati di gemelle nere e dalle trecce bionde?
Al contrario di quanto gli è stato richiesto, l’algoritmo ha generato ritratti di gemelle eterozigote con capelli lisci, con la permanente o con i boccoli. La loro carnagione si presentava in due varianti di colore: una tonalità tendente al "caramello" e un accostamento di tonalità "caramello" e "cioccolato".
Di fronte a questi risultati, ci si potrebbe chiedere: perché, nonostante le sue capacità avanzate, Midjourney (V4) non si attiene alla descrizione che gli viene fornita?
Nell’articolo "On the dangers of stochastic parrots: Can language models be too big?" (2021), l* autor* offrono alcuni spunti di riflessione interessanti a riguardo: i sistemi generativi come Midjourney sono progettati per sintetizzare immagini basandosi su pattern identificati in grandi dataset non supervisionati. Raccolti attraverso uno scraping casuale del web, tali dataset sono influenzati dalle dinamiche della partecipazione online e, di conseguenza, rappresentano i punti di vista di coloro che hanno accesso costante alla rete. "Per quanto riguarda Stati Uniti e Regno Unito, ciò significa che all’interno dei dataset c’è una sovrarappresentazione di visioni suprematiste bianche, misogine, ageiste, ecc., che non solo superano la loro effettiva prevalenza nella popolazione generale, ma rendono anche i modelli addestrati su questi dataset più inclini a rafforzare ulteriormente bias e danni". Da questa riflessione scaturisce un’altra domanda: i ritratti che abbiamo descritto possono riflettere prospettive distorte o pregiudiziali, per esempio riguardo le acconciature delle persone afrodiscendenti? In che misura queste rappresentazioni sono sintomatiche della discriminazione nei confronti dei capelli naturali, una forma di pregiudizio caratterizzata dalla iperregolamentazione e ipersorveglianza delle texture afro?
Dall’epoca della schiavitù fino ai giorni nostri, i sistemi di oppressione hanno plasmato le percezioni sociali nei confronti delle acconciature delle persone afrodiscendenti, come afros, trecce, twist e dreadlocks. I capelli afro vengono spesso percepiti come "brutti", "lanosi", "crespi", "non professionali", "orribili", oppure come indicatori dello stereotipo della "donna nera arrabbiata" o di criminalità. Di conseguenza, le persone nere subiscono la pressione del doversi conformare agli standard eurocentrici, lisciando i loro capelli ricci o crespi. Tuttavia, quando scelgono acconciature bionde – utilizzando per esempio protective style, trattamenti chimici/termici o extension sintetiche – questa scelta viene considerata: 1) "innaturale" per la loro identità, e 2) una violazione dei privilegi legati alle acconciature tradizionalmente riservate alla "bianchezza".
Questi pregiudizi emergono chiaramente anche nei luoghi di lavoro, quando vengono stabilite delle regole arbitrarie per quanto riguarda i capelli. Nel 1999, Andrea Santee, una "donna nera con capelli tinti di biondo", subì discriminazione sul lavoro presso il Windsor Court Hotel di New Orleans, e la tonalità dei suoi capelli fu definita una "colorazione estrema" non in linea con il regolamento aziendale. Nel 2003, Shirley Bryant, dipendente della CUNY (City University of New York) che aveva i capelli corti, ricci e biondi, fu vittima di molestie sul posto di lavoro per aver "deviato" dalle acconciature "afrocentriche". Pare che il suo supervisore l’abbia definita una "wannabe" (ovvero "una che vuole essere bianca"). Nel 2009, Dulazia Burchette, dipendente di Abercrombie & Fitch, fu costretta a decidere se togliersi le meches bionde o dimettersi.
Il suo capo avrebbe affermato che "doveva mantenere il colore di capelli con cui era nata". Nel 2017, Destiny Tompkins, impiegata di Banana Republic, fu discriminata sul lavoro per le sue box braid bionde, ritenute "troppo urban" e "trasandate". Nel 2019, Marion Scott, studentessa della Paragon Charter Academy, venne esclusa dalle foto scolastiche perché aveva delle trecce rosse.
A partire dall’osservazione di questi casi, Atairu ha esplorato un’ulteriore questione: il dataset di Midjourney (LAION-5B) include immagini di persone nere con trecce bionde? Per approfondire, ha effettuato una ricerca di immagini filtrandola con l’etichetta NSFW (acronimo di "not safe for work", indicazione utilizzata per segnalare contenuti inappropriati) nel database di LAION utilizzando due query: "box braid bionde" e "trecce bionde" (data: 11 novembre 2023). I risultati sovrarappresentavano immagini di donne nere dalla carnagione tendente al "caramello" e di donne bianche. Le donne "nere", "dalla pelle scura", "ricche di melanina" erano sottorappresentate in quel dataset standardizzato.
