Generador de imágenes de inteligencia artificial contiene imágenes sospechosas de abuso infantil

En un estudio nueva problemática; pues, ocultas dentro de los modelos base de populares generadores de imágenes de inteligencia artificial, hay una gran proliferación de imágenes con un contenido turbio: el abuso infantil.

Durante los últimos meses, la inteligencia artificial ha crecido de forma sumamente considerable; al punto de formar parte de la actividad diaria de las personas; sin embargo, la forma de entrenar a estas no ha sido del todo ética, inclusive, en Art Station se armó una polémica en su contra.

Eliminan datos de inteligencia artificial tras encontrar material de abuso infantil.

En un estudio nueva problemática; pues, ocultas dentro de los modelos base de populares generadores de imágenes de inteligencia artificial, hay una gran proliferación de imágenes con un contenido turbio: el abuso sexual infantil.

En un informe de Internet WAtch Foundation, con sede en el Reino Unido, se encargó de instar a los gobiernos y proveedores de tecnología actuar rápidamente antes de que una avalancha de imágenes de abuso sexual infantil generadas por IA abrume a los investigadores.

“No estamos hablando del daño que podría causar (….) Está sucediendo ahora mismo y es necesario abordarlo ahora”, señaló Dan SExton, director d tecnología del grupo de vigilancia.

Por ello, un gran conjunto de datos de inteligencia artificial, se descubrió que LAION-5B las utilizaba para entrenar generadores de imagen de texto a imagen populares, contenía material de abuso sexual infantil..

LAION, también conocido como Large-scale Artificial Intelligence Open Newtwork, es una organización sin fines de lucro alemana que crea modelos y conjuntos de datos de inteligencia artificial de código abierto utilizados para entrenar varios modelos populares de texto a imagen.

En el informe del 20 de diciembre de investigadores del Centro de Política Cibernética de la Observatorio de Internet de Standford indició que identificaron cerca de 3,226 instancias de presunto material de abuso sexual infantil.

Asimismo, David Thiel, arquitecto de Big Data en el Centro de Política Cibernética, señaló que, si bien la presencia de este material no significaría influir “drásticamente” aún podría tener algún efecto.

Si bien la cantidad de material de abuso sexual infantil presente no indica necesariamente que la presencia de material de abuso sexual infantil influya drásticamente en la producción del modelo más allá de la capacidad del modelo para combinar los conceptos de actividad sexual e infancia, probablemente aún ejerza influencia”, dijo Thiel.

Finalmente, LAION declaró que retiró los conjuntos de datos por “precaución”, incluyendo tanto LAION 5B como LAION 400M para asegurarse de que sean seguros antes de republicarlos.

Asimismo, es necesario recordar que, en un caso único en su tipo, en Corea del Sur, un hombre fue condenado a dos años y medio de prisión por utilizar imágenes creadas con inteligencia artificial que crea imágenes virtuales de abuso infantil en 360°, según el Tribunal de Distrito de Busan.

TE PUEDE INTERESAR:Mi pobre angelito: ¿Cómo se vería si se hubiera hecho en Rusia según una inteligencia artificial?