Inteligencia Artificial: ultrafalsos en la industria del entretenimiento

Junio de 2022

Por Vejay Lalla, Adine Mitrani y Zach Harned, Fenwick, Nueva York y Santa Monica, USA 

Desde el estreno de la primera película de Terminator, hemos visto historias de robots que se apoderan del mundo. Ahora nos encontramos al comienzo de un proceso en el que la tecnología -específicamente, la inteligencia artificial (IA)- propiciará la disrupción de los sectores del entretenimiento y de los medios de comunicación.

El término “ultrafalso” se refiere a una técnica basada en la IA que procesa imágenes y sonidos y que entraña la superposición de rasgos humanos en el cuerpo de otra persona -y/o la manipulación de sonidos- para generar una experiencia humana realista. (Foto: ©MIT/Halsey Burgund)

Desde el entretenimiento tradicional hasta los videojuegos, analizamos cómo la tecnología de los ultrafalsos (deep fakes) es cada vez más convincente y accesible para el público, y el impacto que tendrá la explotación de esa tecnología en el ecosistema del entretenimiento y de los medios de comunicación.

¿Qué es un “ultrafalso” y por qué es importante?

El término “ultrafalso” se refiere a una técnica basada en la IA, que procesa imágenes y sonidos y que entraña la superposición de rasgos humanos en el cuerpo de otra persona -y/o la manipulación de sonidos- para generar una experiencia humana realista. El actor Val Kilmer perdió su característica voz en 2015 a causa de un cáncer de garganta, y la tecnología de ultrafalsos de Sonantic se utilizó recientemente para que Kilmer pudiera “hablar“. (Al hijo del actor se le saltaron las lágrimas al volver a escuchar la “voz” de su padre).

Los ultrafalsos también se han usado para romper barreras lingüísticas, como en el caso del gran futbolista inglés David Beckham en su campaña “Malaria No More”, en la que los ultrafalsos permitieron a Beckham transmitir su mensaje en nueve idiomas diferentes. Y a veces los ultrafalsos se utilizan por pura diversión, como en esta instalación artística, que permite a los usuarios hacerse un selfie “surrealista” con Salvador Dalí.

Video: Los ultrafalsos se han utilizado para romper barreras lingüísticas, como en el caso del gran futbolista inglés David Beckham en su campaña Malaria No More, donde los ultrafalsos le permitieron transmitir su mensaje en nueve idiomas diferentes.

Aprovechar los ultrafalsos para mejorar las habilidades de los artistas

Entre las aplicaciones comerciales actuales de los ultrafalsos está la contratación de “actores de ultrafalsos“ de referencia, así como de personas cuya imagen se utiliza como “envoltorio“ (es decir, el rostro o la imagen capturada en el contenido) para la actuación de base. Cuando el denominado envoltorio es una personalidad famosa, esto puede ahorrarle horas de tiempo que de otro modo tendría que pasar en el plató; esta carga la puede asumir en su lugar el actor de ultrafalsos.-. Además, esta tecnología permite a los influencers crear mensajes personalizados para cientos o miles de personas sin tener que grabar cada mensaje.

Las mencionadas aplicaciones novedosas de esta tecnología no cambian fundamentalmente la naturaleza de los acuerdos con los artistas o la adquisición de sus correspondientes derechos; sin embargo, se plantean nuevas cuestiones que las dos partes negociadoras deben tener muy en cuenta. Por ejemplo, siempre se negocia con mucho detalle el control sobre el uso de los derechos de imagen del artista, pero es poco probable que los acuerdos contemplen el derecho a utilizar su imagen como envoltorio para generar un número potencialmente infinito de ultrafalsos. Además, las cláusulas relativas a los derechos morales requerirán una redacción cuidadosa para decidir si una actuación ultrafalsa, supuestamente fuera del control del artista, puede servir como motivo para cancelar su contrato. Los sindicatos de artistas tendrán también que reflexionar más profundamente sobre cómo incorporar esta tecnología en futuras negociaciones sectoriales.

Por último, queda en el aire la pregunta de si esta tecnología ayudará o perjudicará a los artistas en general. En el lado positivo, la posibilidad de permitir que un actor aparezca en anuncios o en páginas de comercio electrónico en todo el mundo (sin necesidad de desplazarse al estudio, aprender un nuevo idioma o mejorar su acento) puede suponer un gran impulso. Por ejemplo, Synthesia lo hizo recientemente con dos anuncios protagonizados por el rapero y empresario Snoop Dogg. El anuncio inicial tuvo tanto éxito que la filial de la empresa quiso utilizarlo de nuevo, pero cambiando la marca y los nombres. En lugar de tener que volver a rodar, Synthesia utilizó la tecnología de ultrafalsos para cambiar los movimientos de la boca de Snoop Dogg y sincronizarlos con el nombre de la filial en el nuevo anuncio.

Por otro lado, la adopción generalizada de los ultrafalsos podría suponer la suplantación de actores que no sean famosos, lo que provocaría la pérdida de puestos de trabajo o un cambio en la forma que tiene el sector de contratar artistas para las producciones. Si se vuelve más eficaz y atractivo contratar a actores relativamente desconocidos para representar a los que son famosos, habrá menos oportunidades para que estos actores se den a conocer o sean “descubiertos” por sus propios méritos. Esto podría conducir a la creación de una casta de actores de ultrafalsos que nunca alcanzan la fama ni consiguen rentabilizar su nombre y su imagen.

En 2020, el Center for Advanced Virtuality del MIT puso en marcha un nuevo proyecto de narración digital para educar al público sobre los ultrafalsos y mostrar lo convincentes que pueden llegar a resultar. Con la ayuda de un actor, el equipo creó un ultrafalso “completo” (audio y video manipulados) del presidente estadounidense Nixon pronunciando el discurso real que se escribió en 1969 para la contingencia de que la tripulación del Apolo 11 no pudiera regresar a la Tierra. (Foto: ©MIT/Halsey Burgund)

La incorporación de ultrafalsos de famosos en contenidos digitales

También se han aprovechado ultrafalsos de famosos en las plataformas de redes sociales, lo que pone de manifiesto la omnipresencia (y la precisión) de esa tecnología. A principios de 2021, un artista belga de IA digital trabajó con un imitador de Tom Cruise para generar videos muy realistas de “Tom Cruise” en TikTok en la cuenta @deeptomcruise. Esos videos mostraban a “Tom Cruise” participando en actividades extravagantes, desde caerse y contar un chiste sobre la Unión Soviética en una tienda hasta realizar servicios de limpieza industrial, y atrajeron cientos de miles de visitas. El año pasado, un ultrafalso de Harry Styles exigiendo más fresas en una oda musical a su canción Watermelon Sugar también se volvió viral al momento.

Si un particular o una empresa desea crear un ultrafalso con famoso para generar contenido mediático, debe examinar con un abogado si la legislación aplicable lo permite, concretamente, analizar la legislación más relevante antes de publicar ese tipo de contenido, entre otras cosas, determinar si el contenido está amparado por libertad de expresión (por ejemplo, una parodia), si los derechos de publicidad del famoso están en el dominio público y si puede alegarse un uso leal en caso de producirse una demanda de infracción de derechos de autor. De otra forma, como en todos los demás casos, es probable que se requiera el consentimiento del personaje para utilizar su imagen en este contexto.

Legislación aplicable para tener en cuenta

En los Estados Unidos, la situación legal de los ultrafalsos ha cambiado con rapidez. Un particular o una empresa deben tener en cuenta la reciente legislación estatal que aborda específicamente los medios sintéticos y manipulados digitalmente.

Por ejemplo, en noviembre de 2020, Nueva York promulgó una ley que prohíbe expresamente el uso de “la réplica digital de un artista fallecido” en contenidos audiovisuales durante 40 años después de la muerte del artista, si ese uso es “susceptible de inducir a error al público en el sentido de que fue autorizado.” Esto podría impedir el uso de ultrafalsos en casos como el del documental Roadrunner sobre Anthony Bourdain. En ese caso, el director de la película utilizó la tecnología de ultrafalsos para generar tres líneas que “resucitaban la voz“ de Bourdain, de forma que se pudiese completar la producción tras su muerte, pese a que la viuda del famoso chef, Ottavia Bourdain, afirmó no haber dado su consentimiento para ese uso.

En el ámbito político, Texas promulgó una ley en septiembre de 2019 que prohíbe la difusión de “videos ultrafalsos” engañosos que pretendan dañar a los candidatos o influir sobre los votantes en los 30 días previos a unas elecciones. Al mes siguiente, California aprobó una ley similar, aunque especificó que el período en cuestión comprendía los 60 días previos a unos comicios. Además, las plataformas que alojan ultrafalsos también tendrán que tomar en consideración la adecuación a la ley en lo referido a las reclamaciones por falsedad.

A veces los ultrafalsos se utilizan por diversión. Dali Lives es una innovadora experiencia de IA en el Museo Dalí de Florida (EE.UU.). Utiliza el aprendizaje automático para crear una versión actual de la imagen de Dalí, que aparece en una serie de pantallas interactivas. Los visitantes pueden incluso hacerse un selfie “surrealista” con el maestro. (Foto: Cortesía del Museo Dalí de San Petersburgo, Florida, EE.UU.)

Ultrafalsos para mejorar los personajes de videojuegos

El sector de los videojuegos es otro escenario natural para la disrupción por los ultrafalsos, especialmente en lo que respecta a los avatares. Un aspecto clave de muchos juegos es que el jugador asume el papel de un personaje, como Luke Skywalker o la princesa Leia de La Guerra de las Galaxias. Una experiencia de juego aún más absorbente que limitarse a controlar a Luke o Leia con los mandos sería que el avatar copiara los movimientos faciales del jugador, algo que la tecnología de ultrafalsos ya está haciendo posible. Además, con el habla sintética generada por la tecnología de ultrafalsos, es posible hacer que tu voz suene como la de Luke o Leia, lo que a veces ha tenido consecuencias positivas imprevistas. Por ejemplo, las llamadas “pieles de voz” (voice skins) permiten a las personas LGBT+ cambiar sus voces en el juego, lo que resulta en una experiencia más agradable, algo que no sorprende si se tiene en cuenta la estadística correspondiente a 2020 de la Liga Antidifamación, según la cual más de la mitad de quienes usan el chat de voz sufren acoso durante el juego, y al 37% de los jugadores LGBT+ se les acosa por su orientación sexual.

A medida que los ultrafalsos sigan introduciéndose en diversos tipos de medios digitales, las personas y empresas que quieran aprovechar la tecnología que los hace posibles tendrán que repasar antes los acuerdos contractuales existentes y estudiar la legislación aplicable sobre este tema.

Por supuesto, una tecnología de uso general como ésta también tiene el potencial de ser mal utilizada, como por ejemplo para la suplantación fraudulenta de identidad con fines económicos o para un inicio de sesión fraudulento en sistemas protegidos por voz. Además, la tecnología de ultrafalsos afectará tanto a los personajes no jugadores (PNJ) como a tu propio avatar. La combinación de potentes modelos de generación de lenguaje natural, como el GPT 3, junto con los ultrafalsos de los juegos, dará lugar a que los PNJ posean una ilimitada capacidad para conversar con tu avatar usando convincentes movimientos faciales y labiales sincronizados, sin que tengan que seguir guiones específicos. Los desarrolladores de videojuegos tendrán que repasar los acuerdos de licencia que tengan con los propietarios de los contenidos y argumentos de estos personajes para determinar si éstos permiten el uso de ultrafalsos.

Otras ventajas potenciales

Además de los ya mencionados beneficios económicos derivados del uso de ultrafalsos, la tecnología que lo hace posible también puede utilizarse para hacer el bien social en los medios digitales. Tomemos como ejemplo un documental de HBO que detalla la vida de activistas LGBTQ+ obligados a vivir en secreto bajo amenaza de ejecución. Para proteger su identidad, el documental recurrió a los envoltorios ultrafalsos, en los que el director únicamente usó como envoltorios a personas que también fueran activistas LGBTQ+ pero que residieran en países libres de la amenaza de muerte por su orientación sexual. Asimismo, se han utilizado ultrafalsos para crear voces únicas y a la medida para los millones de personas que dependen del habla sintética para comunicarse.

Consideraciones prácticas de cara al futuro

A medida que los ultrafalsos sigan introduciéndose en diversos tipos de medios digitales, las personas y empresas que quieran aprovechar la tecnología que los hace posibles tendrán que repasar antes los acuerdos contractuales existentes y estudiar la legislación aplicable sobre este tema. Además, quienes firmen contratos de talento deberán estudiar las condiciones relativas a sus derechos de publicidad para asegurarse de controlar suficientemente cómo podrían usarse en relación con las tecnologías basadas en la IA. Si se aborda con cuidado, el desarrollo y el uso de los ultrafalsos puede aprovecharse para el bien, tanto comercial como socialmente.

El propósito de OMPI Revista es fomentar los conocimientos del público respecto de la propiedad intelectual y la labor que realiza la OMPI, y no constituye un documento oficial de la Organización. Las denominaciones empleadas en esta publicación y la forma en que aparecen presentados los datos que contiene no entrañan, de parte de la OMPI, juicio alguno sobre la condición jurídica de ninguno de los países, territorios o zonas citados o de sus autoridades, ni respecto de la delimitación de sus fronteras o límites. La presente publicación no refleja el punto de vista de los Estados miembros ni el de la Secretaría de la OMPI. Cualquier mención de empresas o productos concretos no implica en ningún caso que la OMPI los apruebe o recomiende con respecto a otros de naturaleza similar que no se mencionen.