Inteligencia artificial y los problemas para que se implemente en las empresas

"Larez advierte que si las organizaciones no enfrentan el sesgo en los datos, podrían sufrir consecuencias legales, de seguridad y de reputación a largo plazo"

El auge de la Inteligencia Artificial es innegable. Según el CEO de Nvidia, aquellas empresas que no la incorporen en sus operaciones están destinadas a desaparecer. Sin embargo, persisten importantes obstáculos en forma de sesgos.

Según los datos de la encuesta "Sesgo en los datos: el riesgo oculto de la inteligencia artificial" realizada por la empresa latinoamericana de software Progress, el 59% de las compañías de la región considera que existe sesgo en los datos de su organización.

Esto adquiere relevancia porque el 69% de las organizaciones de Latinoamérica espera depender cada vez más de la inteligencia artificial para la toma de decisiones en los próximos años.

Sin embargo, el 73% de los responsables de esta área en la región creen que el sesgo en los datos se convertirá en una preocupación mayor a medida que se intensifique el uso de esta tecnología.

Un problema coyuntural

Francisco Larez, vicepresidente de Latinoamérica en Progress, explica que estos sesgos suelen derivar de experiencias culturales y personales, y son producto de una recolección de datos incompleta, lo que conduce a resultados inesperados y potencialmente perjudiciales.

"Estos sistemas se crean sin empatía alguna, pero si hay fallos en la recopilación de información, esta se considera válida aunque no refleje la realidad, lo que incluso puede resultar en problemas de discriminación", menciona Larez.

A pesar de los posibles riesgos legales y financieros asociados con los sesgos en los datos para las compañías, el informe muestra una falta de comprensión sobre las implicaciones de esta tecnología, los procesos necesarios y los recursos para abordar este problema.

Según las cifras, el 75% de las empresas considera que debe hacer más para abordar el sesgo en los datos; sin embargo, solo el 22% lo está tratando y cuenta con un proceso de evaluación continuo, mientras que el 51% considera que la falta de conciencia y la subestimación de los sesgos son obstáculos para abordarlos.

"Larez advierte que si las organizaciones no enfrentan el sesgo en los datos, podrían sufrir consecuencias legales, de seguridad y de reputación a largo plazo". Por lo tanto, recomienda a las empresas prestar mayor atención al tema de la IA en todos sus ámbitos.

Larez comenta que, si bien es un tema nuevo y la comprensión de los datos es compleja, existe una tendencia creciente a sensibilizarse al respecto. Por lo tanto, es necesario establecer un marco ético sólido y, a medida que aumente la adopción, promover mayores regulaciones.