Píldora IA 3 - La cara oscura de la IA

En píldoras anteriores hemos hablado de los beneficios de la inteligencia artificial (IA). Explicamos qué es, para qué sirve y destacamos sus ventajas, aunque también mencionamos algunos riesgos. En esta ocasión nos centraremos en esos efectos negativos: por qué ocurren, cómo nos afectan y qué podemos hacer para reducirlos. 

Problemas en el entrenamiento 

La IA se entrena con datos y con fórmulas que permiten obtener soluciones. Si los datos son incorrectos o el modelo no está bien ajustado, la IA será poco eficaz. Esta eficacia se mide con un porcentaje que indica lo bien que resuelve el problema. En resumen: si la base de datos está mal, las respuestas también lo estarán. 

Para mejorar esto, en Aragón Open Data contamos con un repositorio de más de 2.500 conjuntos de datos procedentes de distintos departamentos del Gobierno de Aragón y de fuentes externas de calidad. Actualizamos y revisamos estos datos periódicamente para que los desarrolladores puedan crear modelos más precisos. Creemos que mejores herramientas de IA tendrán un impacto positivo para todos. 

Falta de transparencia 

Muchos sistemas de IA son desarrollados por empresas privadas que no publican qué datos han usado para entrenar sus modelos. Además, la IA es compleja y difícil de auditar, lo que puede dar lugar a sesgos u omisiones, incluso en sistemas técnicamente correctos. 

Para mejorar la transparencia, Aragón Open Data ofrece varias soluciones: 

• Nuestro repositorio de datos está disponible para todos. 
• Pedimos a los usuarios que mencionen el origen, es decir, que han usado nuestros datos. 
• Nos comprometemos a utilizar software open source siempre que sea posible.  
• Publicamos el código de nuestras aplicaciones en repositorios accesibles para todo el mundo. 

Existen otros riesgos, como el alto consumo de recursos o los usos negativos que se le puede dar a la IA. Sin embargo, en esta píldora hemos querido centrarnos en los riesgos relacionados con los datos y en cómo Aragón Open Data contribuye a crear una IA más eficaz y transparente. Esperamos que esta “cara B” de la IA, que se menciona menos, te haya resultado interesante. ¡Nos vemos en la próxima píldora!