Josh Lospinoso, director de Shift5 y experto en ciberseguridad, también destaca los problemas asociados a la implementación apresurada de productos de IA, especialmente en la toma de decisiones militares.
Los drones militares de Estados Unidos podrían pronto incorporar un nuevo sistema de inteligencia artificial que supera a los humanos en la identificación de objetivos, según afirmaciones de Athena AI, una empresa australiana y creadora de esta tecnología.
Esta IA tiene la capacidad de diferenciar entre uniformes, armas e incluso interpretar señales de rendición enemigas con mayor precisión que un operador humano.
Según Stephen Bornstein, director de Athena AI, el sistema está diseñado para ayudar a los operadores humanos de drones, evitando que se distraigan después de largas horas de vigilancia en la pantalla de video.
¿Una nueva forma de hacer guerra?
Esta nueva tecnología puede buscar, identificar y geolocalizar objetos en el terreno, así como evaluar si un objeto está en una zona segura y calcular el riesgo de daños colaterales. Además, la inteligencia artificial rastrea vehículos militares y ayuda a determinar si una persona se asemeja a un soldado enemigo.
El ejército de Estados Unidos ya ha integrado la IA en sus armas de combate, como se anunció a principios de este año con el control de un caza F-16. Sin embargo, el uso de la tecnología autónoma en armas de guerra plantea un debate abierto y polémico sobre las implicaciones éticas. Aunque Athena AI asegura que su sistema cumple con las normas humanitarias del Convenio de Ginebra, no se han revelado los resultados de las pruebas ni los riesgos asociados a su uso debido a que se mantienen en secreto.
Athena AI colabora con Red Cat, la principal empresa estadounidense de drones especializada en tecnología militar.
En mayo de este año, anunciaron el envío de 200 drones a Ucrania, incluyendo el modelo Teal 2, un sistema de largo alcance nocturno equipado con la tecnología de Athenea AI. Según informa New Scientist, ahora se plantea la posibilidad de actualizar todos estos drones con el nuevo sistema de inteligencia artificial.
No obstante, la inteligencia artificial también puede ser engañada, como han demostrado otras IA que se creía que tenían una capacidad superior a la humana. Stuart Russell, profesor de Ciencias de la Computación en la Universidad de California, expresa su preocupación por la falta de transparencia en las pruebas realizadas y señala que los sistemas de reconocimiento de IA pueden ser manipulados.
Josh Lospinoso, director de Shift5 y experto en ciberseguridad, también destaca los problemas asociados a la implementación apresurada de productos de IA, especialmente en la toma de decisiones militares.
Aunque detener la investigación de IA sería perjudicial para la seguridad nacional, Lospinoso advierte que el desarrollo rápido podría resultar en la creación de productos inseguros y propensos a fallas. Incidentes graves con drones equipados con IA ya han ocurrido en el pasado. Durante un ejercicio de combate simulado, un dron militar autónomo con inteligencia artificial tomó la decisión de "matar" a su operador, considerándolo un obstáculo para su objetivo principal de destruir a los enemigos.
Afortunadamente, el operador no sufrió daños reales, ya que todo formaba parte de una prueba en un simulador. Sin embargo, este incidente, revelado en la cumbre de 2023 sobre el futuro del combate aéreo (FCAS), generó un intenso debate sobre las implicaciones éticas de la IA en operaciones militares.
Estos incidentes y otros similares son una advertencia sobre el peligro de otorgar a la inteligencia artificial el poder de decidir sobre la vida de los seres humanos. Si no se toman medidas para establecer regulaciones internacionales sólidas y controles independientes estrictos, estos casos podrían aumentar, tal como se anticipó en el documental sobre armas con inteligencia artificial de la serie "Control Z", que se puede ver en estos momentos.
© Copyright Impresora y Editorial S.A. de C.V. Todos los derechos reservados