¿Es esto real?

Hubo un tiempo en que quise escribir una tesis doctoral y el tema que me obsesionaba era la disolución de los límites entre la realidad y la ficción debido a las nuevas tecnologías. Finalmente, la tesis no salió, pero lo que temía se convirtió en una realidad. Eso sí, ni en sueños hubiera podido predecir que en tan solo cinco años, cualquier usuario, por muy torpe que fuera, podría crear vídeos falsos a partir de una fotografía con solo una app.

Fue el entretenimiento de estas Navidades en una reunión familiar. Tomamos la foto de grupo de rigor y le pedimos a la IA cualquier disparate que se nos ocurriera: estamos todos sonriendo y nos pegamos; ahora, vestidos de mariachi; no, que salga el primo volando en globo. Nos reímos bastante porque fue una diversión inocente y porque todos habíamos consentido en participar en el juego. No pueden decir lo mismo las mujeres que han visto cómo unos pervertidos utilizaban sus imágenes para crear falsos vídeos sexuales. El escándalo en Estados Unidos ha sido tal que un grupo de mujeres, activistas, políticas y famosas, han unido sus voces y sus fuerzas para aprobar una ley que regule la difusión de imágenes íntimas no consentidas, incluida la pornografía deepfake, ampliando la legislación actual al incluir la posibilidad de demandar a los creadores de las imágenes. Esperemos que en España el derecho a la propia imagen sea lo suficientemente fuerte como para resistir estos nuevos peligros. Sí, todos nos hemos reído con algún vídeo de broma hecho con IA. Lo terrorífico es que cada vez son más reales, avanzando a pasos agigantados en diluir los límites entre realidad y ficción. La capacidad de generación de contenidos falsos llega hasta el punto de que circula por redes sociales una canción que dicen que es de Manuel Carrasco —spoiler: no lo es— y que está plenamente generada con inteligencia artificial. Esto es especialmente repugnante porque utilizan el dolor del cantante por la pérdida de las dos vecinas de Isla Cristina en el accidente de Adamuz y la natural indignación ciudadana por el deterioro de las infraestructuras que ocasionó el accidente, los utiliza para lanzar un mensaje político camuflado de “canción” sentimental. Moralmente repugnante. Habrá quien argumente que no puede tener consideración moral algo que está creado por un ordenador. No debemos olvidar que sí, estará generado con IA, pero detrás de esa pantalla hay una mano humana que teclea las instrucciones. Ahí es a donde debemos apuntar: a la responsabilidad, moral y legal, de las personas que están actuando detrás de la inteligencia artificial para crear la duda en el espectador de si lo que está viendo es real o no, de quien nos está adiestrando, vídeo a vídeo, para que dejemos de identificar lo falso de lo verdadero. Porque las máquinas no actúan solas. De momento.