Por Enrique Dans*
La pregunta puede parecer obvia, pero no lo es tanto. Desde los inicios de la popularización del uso de machine learning para la generación de deepfakes en torno a 2018, la evolución del uso de esa tecnología ha sido inequívoca: el 96% de los vídeos creados son pornografía, y el 99% de ellos utiliza imágenes de actrices o cantantes conocidas.
Desde los primeros casos conocidos hasta la expansión del fenómeno, una enorme cantidad de páginas pornográficas, desde las más conocidas hasta muchas otras creadas exclusivamente en torno al fenómeno deepfake, permiten ya localizar de manera inmediata prácticamente la cara de cualquier mujer mínimamente conocida superpuesta sobre escenas pornográficas, con resultados que van desde lo patético a lo prácticamente indiscernible.
Algunas de las más afectadas, como Scarlett Johansson, lo consideran una persecución imposible: a pesar del avance de las herramientas para identificar ese tipo de manipulaciones, la realidad es que la gran mayoría de sus usuarios buscan simplemente un cierto nivel de realismo, no «creerse» un vídeo cuyo origen saben perfectamente que es manipulado. El problema no es de pérdida de confianza en el contenido o en la fuente, sino de que al usuario no le importe en absoluto saber que el vídeo es sintético. Esto ha permitido el desarrollo de toda una industria en torno al fenómeno de los deepfakes: alrededor de mil vídeos pornográficos de este tipo se suben a páginas pornográficas cada mes y acumulan, en algunos casos, decenas de millones de visualizaciones, generando importantes beneficios económicos.
Mientras los políticos se preocupaban por las posibles implicaciones de los vídeos de este tipo en campañas electorales o para las compañías e intentaban legislar sobre ello, la realidad de la web se ha adelantado y ha generado un escenario en el que cualquiera puede tomar total control sobre la imagen de una persona, crear un vídeo en el que aparece haciendo absolutamente cualquier cosa que al creador se le antoje, distribuirlo, y ganar además dinero con ello, sin prácticamente ningún control por parte del afectado. Dado que esos afectados son de manera abrumadoramente mayoritaria mujeres, hablamos de un problema de cosificación y de explotación de la imagen de terceros con dimensiones que van desde lo moral hasta lo económico, ayudado por una tecnología que está ya prácticamente al alcance de cualquiera, y entremezclado además con la compleja trazabilidad de la red y la enorme dificultad de eliminar un contenido en ella.
Para complicar más las cosas, una legislación sumamente confusa que, en muchos países, otorga los derechos sobre una imagen de una persona no a esa persona, sino al creador de la imagen, como ocurre en muchos casos con las fotografías. ¿Nos pertenece nuestra cara? Si alguien es mínimamente conocido y un fotógrafo capta una imagen suya sin su consentimiento, es posible no solo que pueda utilizar y explotar esa imagen libremente, sino incluso que el protagonista de la foto no pueda hacerlo sin llegar a un acuerdo con quien tomó esa imagen.
Visto así, ¿cómo evitar escenarios tan demenciales como que alguien se plantee que los réditos económicos generados por un vídeo deepfake puedan corresponder al creador del vídeo, en lugar de a la persona cuya cara ha sido utilizada sin su consentimiento para generarlo? ¿Serían posibles situaciones en las que una persona que no ha dado ningún tipo de permiso para que su cara sea utilizada en deepfakes no pudiese, ya no técnicamente, sino legalmente, evitarlo, porque se alegue que la ley protege de algún modo al creador del contenido? ¿O al contrario, que como mal menor, tuviese que llegar a un acuerdo para recibir una parte de los beneficios generados por la exhibición de un contenido que utiliza su imagen de manera expresamente no autorizada?
¿Cómo de absurdos o de plausibles son esos escenarios? ¿Qué hacer con los deepfakes? ¿Debemos resignarnos no solo a que la imagen de una persona pueda ser utilizada para cualquier cosa sin permiso, sino a que además sea explotada económicamente por terceros sin control alguno?
Puedes leer el artículo original aquí.
*Texto íntegro e imágenes, publicados gracias a licencias Creative Commons
