Como todos, las AAPP también usan IA, pero ¿lo hacen con fiabilidad? Bases de datos poco sólidas, resultados sesgados, brechas de seguridad, fallos operativos…
Viñeta: Ibáñez
La inversión pública en tecnología de IA confiable y en su regulación no avanza a la velocidad de su uso.
Las AAPP se enfrentan a un «dilema de la confianza”: elegir entre
- no utilizar la IA por no confiar lo suficiente en ella
- o depender de sistemas de IA que no han sido debidamente validados
Esa falta de coherencia frena la adopción de la IA de forma efectiva. La confianza es imprescindible.
«Para que el sector público pueda apoyarse en la IA, esta debe aportar un valor tangible y,
al mismo tiempo, proteger el bienestar de la ciudadanía.
Materializar ese valor para los ciudadanos y las comunidades exige alinear la ambición con la preparación real.
Aún nos queda camino para lograrlo»
Afshin Almassi, SAS
Encontrar el equilibrio entre la rapidez de la IA y la responsabilidad pública
Los gobiernos de todo el mundo están adoptando la IA a un ritmo acelerado, con un uso de los agentes de IA (52 %) superior al de otros sectores de referencia como la banca, la sanidad y el comercio minorista.
Sin embargo, solo el 6 % de las AAPP admite una alta confianza interna en la IA y con sistemas de IA confiables. Se trata del porcentaje más bajo entre todos los sectores.
Las AAPP dependen de la IA, pero, irónicamente, no aprovechan las herramientas y medidas de seguridad para hacerla confiable. En su lugar, confían en sistemas como la IA Generativa bastante más que en el machine learning.
«Las instituciones públicas están pasando rápidamente de la experimentación con IA a su uso operativo, pero la confianza no puede darse por sentada, especialmente cuando los sistemas influyen en resultados que afectan a la ciudadanía. Sin una base de datos sólida y unas reglas claras, la confianza en la IA puede adelantarse a su fiabilidad real, lo que aumenta el riesgo tanto para los ciudadanos como para los propios organismos»
Chris Marshall, IDC
Cómo cerrar la brecha de confianza en la IA en el sector público
Carencias
- centralización de datos
- supervisión de la IA
- talento especializad
«Independientemente de la región, muchas entidades públicas tienen planes ambiciosos para ampliar su uso de la IA en los próximos años»
Ravi Kant Sharma, IDC
