Investigadores y empresarios firman una declaración donde se advierten los peligros de la inteligencia artificial

Esta declaración surge después del éxito viral de ChatGPT de OpenAI, lo cual ha contribuido a intensificar la carrera armamentística en la industria tecnológica en relación a la IA. 

Un grupo de destacados líderes de la industria de la Inteligencia Artificial (IA), académicos e incluso algunas personalidades famosas, han solicitado hoy la reducción del riesgo de una aniquilación global provocada por la IA, argumentando que la amenaza de un evento de extinción causado por esta tecnología debería ser una prioridad global de primer nivel.

El Centro para la Seguridad de la IA ha publicado una breve declaración en la que se afirma que "mitigar el riesgo de extinción causado por la inteligencia artificial debe ser una prioridad mundial, junto con otros riesgos sociales a gran escala, como las pandemias y la guerra nuclear".

Tecnologías

Cuáles son las preguntas que no deberías hacerle a ChatGPT, Gemini o Copilot y por qué pueden poner en peligro tu seguridad

Esta declaración ha sido firmada, entre otros, por Sam Altman, CEO de OpenAI; Geoffrey Hinton, conocido como el "padrino" de la IA; altos ejecutivos e investigadores de Google DeepMind y Anthropic; Kevin Scott, CTO de Microsoft; Bruce Schneier, pionero en seguridad en Internet y criptografía; Bill McKibben, defensor del clima; y la artista Grimes.

La IA puede convertirse en un problema aún mayor

La declaración resalta la preocupación generalizada sobre el peligro último de una IA descontrolada. Los expertos en IA han afirmado que aún estamos lejos de desarrollar la inteligencia artificial general de la ciencia ficción; los actuales chatbots de vanguardia se limitan principalmente a reproducir patrones basados en datos de entrenamiento proporcionados, sin tener capacidad de pensamiento propio.

No obstante, la avalancha de exageraciones e inversiones en el sector ha llevado a exigir una regulación en esta etapa inicial de la era de la inteligencia artificial, antes de que ocurran desastres graves.

Esta declaración surge después del éxito viral de ChatGPT de OpenAI, lo cual ha contribuido a intensificar la carrera armamentística en la industria tecnológica en relación a la IA. En respuesta, cada vez más legisladores, grupos de defensa y expertos en tecnología han levantado la voz sobre la posibilidad de que una nueva generación de chatbots impulsados por IA difunda información errónea y desplace puestos de trabajo.

Geoffrey Hinton, cuyo trabajo pionero contribuyó a dar forma a los sistemas de IA actuales, reveló anteriormente en una entrevista con CNN que decidió dejar su puesto en Google y "denunciar" la tecnología cuando se dio cuenta "de repente" de que estas cosas se estaban volviendo más inteligentes que nosotros.

Hendrycks comparó la declaración de hoy con las advertencias de los científicos nucleares que lanzaron "alertas sobre las propias tecnologías que ellos mismos habían creado".