Inteligencia artificial y los discursos tras la posible "extinción humana"

Actualmente, los riesgos asociados a la IA se relacionan principalmente con la ética, la desinformación, los derechos de autor y el impacto potencial en el empleo.

Con la aparición de ChatGPT, Bard y otros modelos de lenguaje extensos (LLM), los líderes de la industria tecnológica discuten con frecuencia acerca de las consecuencias negativas que la inteligencia artificial puede acarrear.

Asimismo, en una nueva misiva, destacados investigadores tecnológicos afirman que la inteligencia artificial genera riesgos de "extinción" similares a los que podrían ocasionar pandemias o incluso guerras nucleares.

Los firmantes de la nueva carta, entre ellos el CEO de OpenAI, Sam Altman, el CEO de Google DeepMind, Demis Hassabis, y los investigadores y ganadores del Premio Turing 2018 en IA, Geoffrey Hinton y Yoshua Bengio, considerados por muchos como los "pioneros de la inteligencia artificial moderna", sostienen que mitigar estos riesgos debe ser una "prioridad global" para la humanidad.

Una insistencia generalizada

En otra carta abierta publicada en marzo, Elon Musk, Steve Wozniak y más de 1000 expertos solicitaron que se detuviera el desarrollo de la tecnología durante seis meses.

Actualmente, los riesgos asociados a la IA se relacionan principalmente con la ética, la desinformación, los derechos de autor y el impacto potencial en el empleo.

No obstante, muchos expertos señalan la rápida mejora de sistemas como los modelos de lenguaje de gran envergadura como evidencia de los avances futuros en inteligencia artificial, y argumentan que una vez que los sistemas de IA alcancen cierto nivel de complejidad, resultará imposible controlar sus acciones.

En numerosos países, ya se están llevando a cabo intentos para prohibir o restringir el uso de modelos de lenguaje extensos. Recientemente, el presidente de los Estados Unidos, Joe Biden, manifestó la necesidad de "determinar si la IA es peligrosa" y añadió que las empresas de tecnología tienen la responsabilidad de garantizar la seguridad de sus productos antes de lanzarlos al público.

En una reciente reunión en la Casa Blanca, el propio Sam Altman instó a los legisladores a regular la IA debido a los posibles riesgos.