OpenAI, Google y otros acuerdan poner marcas de agua a productos de la IA: Casa Blanca

Además, las compañías se han comprometido a proteger la privacidad de los usuarios en el desarrollo de la inteligencia artificial y a asegurarse de que la tecnología sea imparcial y no se utilice para discriminar a grupos vulnerables.

Las principales compañías de inteligencia artificial, incluyendo OpenAI, Alphabet y Meta Platforms, han acordado voluntariamente con la administración de la Casa Blanca implementar medidas como una marca de agua en los contenidos para mejorar la seguridad de la tecnología, según informó el Gobierno de Estados Unidos.

El presidente Joe Biden considera estos compromisos como un paso prometedor, aunque reconoce que aún hay mucho por hacer en conjunto. Durante un evento en la Casa Blanca, Biden expresó su preocupación por el potencial uso perturbador de la inteligencia artificial y subrayó la necesidad de estar alerta ante las amenazas que esta tecnología puede presentar para la democracia estadounidense.

Tecnologías

Preguntas que no deberías hacer a ChatGPT o Gemini y por qué compartir datos personales pone en riesgo tu privacidad

Además de OpenAI, Alphabet y Meta Platforms, otras compañías como Anthropic, Inflection, Amazon.com y Microsoft (socio de OpenAI) también se sumaron a estos compromisos. Entre las acciones acordadas, se incluye una exhaustiva prueba de los sistemas antes de su lanzamiento al mercado y el intercambio de información sobre cómo reducir riesgos e invertir en ciberseguridad.

Los problemas

Este anuncio representa un logro en los esfuerzos del Gobierno de Biden por regular la inteligencia artificial, cuya popularidad e inversión han aumentado significativamente entre los consumidores.

Microsoft elogió el liderazgo del presidente en la colaboración con la industria tecnológica para establecer medidas concretas que promuevan una inteligencia artificial más segura y beneficiosa para el público.

La creciente popularidad de la inteligencia artificial generativa, como ChatGPT, que utiliza datos para crear contenido similar a la prosa humana, ha llevado a legisladores de todo el mundo a buscar formas de mitigar los riesgos que esta tecnología emergente plantea para la seguridad nacional y la economía.

En este contexto, en junio, Chuck Schumer, líder de la mayoría en el Senado de Estados Unidos, propuso una "legislación amplia" para garantizar salvaguardias en el ámbito de la inteligencia artificial.

El Congreso también ha estado evaluando un proyecto de ley que requeriría que los anuncios políticos revelen si se han utilizado sistemas de inteligencia artificial para crear imágenes u otros contenidos.

Por su parte, los legisladores de la Unión Europea aprobaron en junio una serie de normas que exigirían a sistemas como ChatGPT revelar que los contenidos generados son resultado de la inteligencia artificial, ayudar a identificar imágenes manipuladas y garantizar salvaguardias contra contenido ilegal.

Para abordar estas preocupaciones, las siete empresas acordaron desarrollar un sistema de "marca de agua" que se aplicará a todos los tipos de contenido generado por inteligencia artificial, incluyendo texto, imágenes, audios y vídeos. Esta marca de agua, incorporada en el contenido, permitirá a los usuarios detectar fácilmente imágenes o audios falsificados que podrían utilizarse para difamar, crear estafas o distorsionar la imagen de un político.

Además, las compañías se han comprometido a proteger la privacidad de los usuarios en el desarrollo de la inteligencia artificial y a asegurarse de que la tecnología sea imparcial y no se utilice para discriminar a grupos vulnerables.