Esta posibilidad aumenta el riesgo de que la desinformación se vuelva más prevalente. Puede utilizarse para intentar influir en la opinión pública, tanto a nivel internacional como nacional, tal como se ha observado con los "videos" de Zelensky.
La inteligencia artificial (IA) se emplea actualmente para efectuar llamadas en las cuales se imitan las voces de individuos conocidos con el fin de estafar al receptor.
Estas llamadas se basan en el uso de IA generativa, es decir, sistemas capaces de crear texto, imágenes u otros contenidos, como vídeos, a partir de las indicaciones de un usuario.
En los últimos años, los deepfakes (falsificaciones profundas) han cobrado notoriedad debido a una serie de incidentes de gran repercusión, como el uso de la imagen de la actriz británica Emma Watson en una serie de anuncios sugestivos que aparecieron en Facebook e Instagram.
Asimismo, cabe mencionar el video ampliamente compartido y desmentido en 2022, donde el presidente ucraniano Volodimir Zelensky parecía instar a los ucranianos a "deponer las armas". En la actualidad, la tecnología para crear audios falsos, es decir, una copia realista de la voz de una persona, se está volviendo cada vez más común.
Problemas que crecen
Para generar una copia realista de la voz de alguien, se requieren datos para entrenar el algoritmo. Esto implica contar con numerosas grabaciones de audio de la voz de la persona en cuestión. Cuantos más ejemplos de su voz se introduzcan en los algoritmos, más convincente será la copia final.
Muchos de nosotros compartimos detalles de nuestra vida cotidiana en internet, lo cual implica que los datos de audio necesarios para crear una copia realista de una voz podrían estar fácilmente disponibles en las redes sociales.
No obstante, ¿qué sucede una vez que dicha copia se encuentra en circulación? ¿Cuáles son las peores consecuencias que pueden surgir? Un algoritmo de deepfake podría permitir a cualquier persona en posesión de los datos hacer que "tú" digas lo que quieran. En la práctica, esto podría ser tan simple como escribir un texto y hacer que la computadora lo reproduzca con tu voz.
Esta posibilidad aumenta el riesgo de que la desinformación se vuelva más prevalente. Puede utilizarse para intentar influir en la opinión pública, tanto a nivel internacional como nacional, tal como se ha observado con los "videos" de Zelensky.
Sin embargo, la ubicuidad y disponibilidad de estas tecnologías también plantea desafíos importantes a nivel local, especialmente en la creciente tendencia de las "llamadas con IA para estafar".
Muchas personas han recibido llamadas de estafa o phishing en las que se les indica, por ejemplo, que su computadora ha sido comprometida y que deben iniciar sesión de inmediato, lo que podría dar acceso al autor de la llamada a sus datos.
© Copyright Impresora y Editorial S.A. de C.V. Todos los derechos reservados