Microsoft dice que el mayor peligro de la IA es el "Deepfake"

En una publicación en su blog, Smith mencionó que el público debe tener la capacidad de identificar el contenido generado por IA. Para lograrlo, sugirió la implementación de etiquetas que indiquen cuando una imagen o video fue creado por una inteligencia artificial y no por un humano.

El sorprendente avance de la inteligencia artificial en los últimos meses ha tomado desprevenidos a muchos. Aunque las IA generativas como ChatGPT o Midjourney representan un cambio revolucionario, algunos temen que esta tecnología traiga consigo más problemas que beneficios. La preocupación latente de reguladores y empresas como Microsoft es la posibilidad de que actores maliciosos utilicen los deepfakes para llevar a cabo campañas de desinformación.

En una comparecencia ante legisladores estadounidenses, Brad Smith, presidente de Microsoft, expresó una de sus principales inquietudes: la proliferación de los deepfakes.

Tecnologías

Cuáles son las preguntas que no deberías hacerle a ChatGPT, Gemini o Copilot y por qué pueden poner en peligro tu seguridad

Estos medios sintéticos, también conocidos como contenido generado por IA, consisten en videos o imágenes creados por algoritmos para imitar la apariencia y el sonido de una persona.

Un uso político

Smith enfatizó la necesidad de abordar los problemas relacionados con estas falsificaciones, especialmente en operaciones de influencia extranjera.

Según el presidente de Microsoft, países como Rusia, China e Irán podrían aprovecharse de la IA, por lo que instó a los legisladores a establecer nuevas leyes para proteger la seguridad nacional. Asimismo, Smith pidió medidas en Washington para asegurar que las personas puedan reconocer los deepfakes y no caer en sus trampas.

En una publicación en su blog, Smith mencionó que el público debe tener la capacidad de identificar el contenido generado por IA. Para lograrlo, sugirió la implementación de etiquetas que indiquen cuando una imagen o video fue creado por una inteligencia artificial y no por un humano. Estas etiquetas, según él, también deberían proteger al público de la alteración del contenido original y la creación de deepfakes.

¿Qué son los deepfakes y por qué representan un peligro? Los deepfakes han existido en la web desde hace años.

Sus creadores utilizan miles de datos para entrenar algoritmos que reemplazan el rostro de una persona por otro.

El término "deepfake" se acuñó en 2017 cuando un usuario de Reddit, conocido como "Deepfake", publicó videos pornográficos en los que intercambiaba los rostros de actrices famosas como Gal Gadot o Emma Watson.