Pornografia fake

Fa tot just unes setmanes, els diaris d’arreu del món van fer-se ressò de l’aparició a internet d’imatges pornogràfiques falses de la popular cantant Taylor Swift. Tot sembla indicar que aquestes imatges, fetes sense el consentiment de l’artista, havien estat generades per Intel·ligència Artificial.

Com hem de considerar aquestes imatges? Cal prendre accions davant la seva proliferació? Quines? Cal deixar clar que el “fake fotogràfic” és tan antic com la fotografia mateixa. La IA ha donat nova forma a un fenomen consubstancial a la fotografia mateixa.

És important precisar també una distinció terminològica: una imatge “falsa” no és exactament el mateix que una imatge “enganyosa”. Hi ha imatges “falses” que no enganyen ningú. Podem definir les imatges “falses” com aquelles representacions visuals que, tot adoptant les convencions estètiques de les imatges socialment considerades com a “vertaderes”, visualitzen uns fets que no han ocorregut en el món real. Ara bé, és només quan aquestes imatges “falses” pretenen fer-se passar per “vertaderes” que esdevenen “enganyoses”.

En aquesta línia, algú podria pensar que les imatges pornogràfiques fake de celebritats són falses però no enganyoses. Això en limitaria el seu potencial nociu o difamatori.

Jo estic en contra d’aquest argument per diversos motius. El primer i més obvi és que aquestes imatges s’apropien del rostre de persones existents sense el seu consentiment i sense respectar els drets d’imatge, i ho fan per mostrar-les en accions amb què molt probablement elles no s’identifiquen i que mai no haurien autoritzat.

L’acte de veure una imatge és inseparable del d’imaginar allò que podria trobar-se més enllà de la imatge mateixa. Mirar és imaginar.

El segon és que, malgrat tractar-se d’imatges explícitament “falses”, sempre hi ha el perill que algú en faci una lectura literal (com, de fet, ja ha passat) i que això afecti, de retruc, la reputació i la vida privada de la persona representada.

Hi ha però un tercer argument més interessant per oposar-se a l’argument de la “mera ficcionalitat” del fake pornogràfic que té a veure amb el poder de la imaginació i de l’analogia. 

La paraula “imatge” es troba etimològicament vinculada al concepte “d’imaginació”. L’acte de veure una imatge és inseparable del d’imaginar allò que podria trobar-se més enllà de la imatge mateixa. Mirar és imaginar.

No hi ha res dolent en imaginar, ans al contrari: la facultat d’imaginar és, en gran mesura, allò que ens fa humans. Ara bé, hem de ser conscients però de la dimensió històrica, ideològica i, sobretot, política de la imaginació.

Totes les imatges que hem vist al llarg de la nostra vida constitueixen una reserva emmagatzemada a la nostra consciència. És en base a aquestes imatges vistes que imaginem imatges noves. Les imatges sempre són imatges d’imatges prèvies. Això els dona una dimensió històrica.

Les imatges, a més, no són mai neutres o innocents: totes les imatges constitueixen una interpretació del món. Tenen una càrrega ideològica. És per aquest motiu que totes les imatges tenen potencialment biaixos de “gènere”, “classe” o “raça”, entre d’altres. La pornografia dominant n’és un exemple clar.

Les imatges són, per tant, sempre polítiques, i ho són no només perquè impliquen una interpretació del món sinó perquè es troben a la base de les accions que fem en el món i de la manera com ens relacionem amb els altres. La imaginació és la base de l’acció. Evidentment, podem imaginar fets o situacions sense tenir cap intenció de dur-les a terme. Però la frontera entre imaginar i actuar és fràgil.  

És per aquest motiu que les imatges pornogràfiques falses sempre són potencialment enganyoses, i ho són perquè, darrera la seva aparent ficcionalitat, poden tenir efectes en com les persones imaginen el món i, sobretot, en com es relacionen amb els altres.

Taylor Swift és una cantant famosa i disposa de mitjans per a eliminar de la xarxa el contingut visual ofensiu i contractar guardaespatlles per protegir-se de les agressions potencials d’altres persones. Però, i què passa amb les imatges pornogràfiques falses que han aparegut en certs instituts de secundària, on nois han manipulat imatges de les seves companyes de classe?

Cal avançar cap a processos de detecció d’imatges manipulades que atempten contra la dignitat de les persones. És important també desenvolupar programes d’educació visual per aprendre a relacionar-se amb aquest tipus d’imatges que empobreixen la nostra imaginació i perpetuen estereotips de tota mena.

Si volem canviar el món, haurem d’aprendre primer a imaginar-lo d’una altra manera.

Roger Canals és autor del llibre La imatge que mai no acaba. Un viatge per l’antropologia visual, des del cinema etnogràfic fins a la intel·ligència artificial (Gedisa, 2023).