“Herramientas como esta básicamente agregarán más combustible al fuego”, dijo Hafiz Malik, profesor de ingeniería eléctrica e informática en la Universidad de Michigan que se enfoca en análisis forense multimedia. "El monstruo ya anda suelto".
En un video de un informe de noticias del 25 de enero, el presidente Joe Biden habla sobre tanques. Pero una versión manipulada del corto ha acumulado cientos de miles de visitas esta semana en las redes sociales, lo que hace que parezca que se pronunció en contra de la comunidad transgénero.
Los expertos en análisis digital dicen que el video se creó utilizando una nueva generación de herramientas de inteligencia artificial, que permiten a cualquiera generar rápidamente audio simulando la voz de una persona con unos pocos clics de un botón.
Y aunque el clip de Biden en las redes sociales puede no haber logrado engañar a la mayoría de los usuarios esta vez, el video muestra lo fácil que ahora es para las personas generar videos "fake" llenos desinformación que podrían afectar a los más despistados.
Se pensó como una herramienta positiva para la sociedad
“Herramientas como esta básicamente agregarán más combustible al fuego”, dijo Hafiz Malik, profesor de ingeniería eléctrica e informática en la Universidad de Michigan que se enfoca en análisis forense multimedia. "El monstruo ya anda suelto".
Llegó el mes pasado con la fase beta de la plataforma de síntesis de voz de ElevenLabs, que permitía a los usuarios generar audio realista de la voz de cualquier persona subiendo unos minutos de muestras de audio y escribiendo cualquier texto para que lo dijera.
La startup dice que la tecnología fue desarrollada para doblar audio en diferentes idiomas para películas, audiolibros y juegos para preservar la voz y las emociones del hablante.
Los usuarios de las redes sociales rápidamente comenzaron a compartir una muestra de audio generada por IA de Hillary Clinton leyendo el mismo texto transfóbico que aparece en el clip de Biden, junto con otros de Bill Gates supuestamente diciendo que la vacuna COVID-19 causa el SIDA.
Poco después, ElevenLabs tuiteó que estaba viendo “un número creciente de casos de uso indebido de clonación de voz” y anunció que ahora estaba explorando medidas de seguridad para reprimir el abuso.
Uno de los primeros pasos fue hacer que la función estuviera disponible solo para aquellos que brindan información de pago. Inicialmente, los usuarios anónimos podían acceder a la herramienta de clonación de voz de forma gratuita.
© Copyright Impresora y Editorial S.A. de C.V. Todos los derechos reservados