Se le pone un «hasta aquí» a las selfies ficticias por IA con celebridades

LOS ANGELES.- El fenómeno de los selfies «imposibles» con celebridades, vivas o muertas, creadas con un simple prompt, es un fenómeno que ha explotado en las redes sociales en los últimos meses. Especialmente en TikTok e Instagram, los videos e imágenes en los que los usuarios aparecen junto a estrellas internacionales están despoblando, pero también lo hace el contenido multimedia que presenta celebridades reales o ficticias en escenas no oficiales.

Todo esto provoca que los gigantes del entretenimiento se pronuncien por la necesidad de encontrar un equilibrio en el uso de la IA, cada vez más en el centro de abusos que resultan en deepfakes, desinformación, pero también estafas y fraudes.

Existen muchas herramientas de IA que permiten asociar un rostro con el de personas famosas.

A principios de octubre pasado, por ejemplo, se creó el fenómeno de la IA de ascensores, que tomó su nombre de la función homónima de una aplicación para dispositivos móviles con la que, subiendo una fotografía propia, se puede crear una foto realista junto a un VIP en pocos pasos.

Con la aparición y difusión de herramientas cada vez más de alto rendimiento, las fotografías han dado paso a videos de diferentes longitudes que pueden ser creados incluso por quienes tienen conocimientos superficiales en el campo de la inteligencia artificial.

Específicamente, la operación puede esquematizarse de la siguiente manera:

*Se sube una imagen de referencia (una foto de rostro o de un entorno específico).

*Se escribe un prompt que contiene instrucciones específicas relacionadas con la estrella o estrellas que se desean aparezcan en el video, además de proporcionar con gran detalle las actitudes que deben asumir.

El modelo de IA hace el resto, generando un video cuya duración varía según las peculiaridades del propio modelo.

Estos pasos son típicos de modelos «de extremo a extremo» que transforman texto en video, pero el discurso se amplía a otros métodos, como modelos que permiten el intercambio o reemplazo de rostros (dos técnicas similares pero no idénticas) que permiten cambiar la cara de quienes aparecen en un vídeo.

En estos casos, el algoritmo necesita superponer un video (por ejemplo, una escena de una película) y una fotografía de un rostro. La IA se encarga de reemplazarlo fotograma a fotograma, manteniendo sus expresiones y la iluminación.

Estas herramientas -hay docenas de ellas- también pueden ser utilizadas por quienes no tienen conocimientos específicos, entendiendo que, especialmente las de código abierto, tienden a requerir datos de entrenamiento y conocimientos técnicos al menos por encima de la media.

Los aspectos controvertidos

El desarrollo de tecnologías de IA está difuminando la línea que separa de forma reconocible lo que es verdad de lo que no. Además, los modelos de IA capaces de devolver este contenido se entrenan con materiales que suelen estar protegidos por derechos de autor.

Dos aspectos diferentes que tienden a converger y cuyo resultado se traduce en la dificultad de equilibrar la creatividad, el derecho de autor y la protección de la verdad.

Un discurso largo y multifacético porque, si crear un selfie con una estrella puede tener una intención goliárdica, también puede representar una distorsión de la realidad que aprovecha la curiosidad de quienes consumen ese contenido y que puede derivar en desinformación.

Además, recrear un selfie con una celebridad es diferente a editar una escena en la que una estrella realmente apareció, o hacer que participe en una escena que nunca se rodó.

Reacción de YouTube

El 18 de diciembre, YouTube cerró dos canales –Screen Culture y KH Studio– en los que se subían tráileres falsos de películas famosas.

El contenido, todo producido con la ayuda de herramientas de IA, generó más de mil millones de visualizaciones y atrajo a millones de suscriptores.

La decisión de YouTube, dictada por la violación de las políticas, llegó tras presionar a las grandes compañías del cine, según las cuales ambos canales violaron sistemáticamente los derechos de autor y generaron confusión en el público.

Además, como destacan algunos periódicos estadounidenses, los gigantes de la industria cinematográfica también se han centrado en los beneficios fáciles que logran los propietarios de canales de YouTube explotando contenidos engañosos.

El fenómeno de las selfies con celebridades muestra cuánto la IA está entrando en la cultura visual con determinación, y esto plantea problemas éticos y sociales que las plataformas empiezan a analizar con mayor convicción.

La pregunta inicialmente ingenua que surgió tras la expansión de las IAs generativas se limitó a cómo cambiarían nuestra relación con las imágenes. Sin embargo, con el paso del tiempo se ha vuelto más claro y más perentorio, hasta el punto de obligarnos a preguntarnos cómo vamos a gestionar este poder creativo y qué normas sociales, legales y culturales tendrá que acompañar.

CON INFORMACIÓN DE ANSA/ ÓSCAR VELÁZQUEZ

TV&SHOW/ Rondero’s medios