Este artículo forma parte de la serie «El futuro del poder», una reflexión sobre cómo la inteligencia artificial está cambiando la manera de decidir, gobernar y comunicar desde las instituciones.
La IA en las decisiones públicas permite hacer algo que hasta hace poco estaba reservado a unos pocos equipos técnicos: ensayar una medida antes de aplicarla. Un ayuntamiento puede comparar recorridos para una nueva línea de guaguas, estimar qué barrios quedarían peor conectados o calcular cómo variaría el tráfico si peatonaliza una calle. Un gobierno puede proyectar el coste de una ayuda, anticipar cuántas solicitudes recibirá y comprobar si el procedimiento podrá atenderlas a tiempo.
Es una posibilidad valiosa. Probar una decisión antes de someter a la ciudadanía a sus consecuencias puede descubrir errores, costes ocultos y colectivos que no habían sido tenidos en cuenta.
Pero una simulación no decide qué resultado es justo. Puede mostrar quién gana y quién pierde con cada alternativa; no puede establecer por sí sola qué sacrificio resulta aceptable, qué derecho debe prevalecer o cuánto debe pesar la situación de una minoría. Esa responsabilidad sigue perteneciendo a las personas que gobiernan.
Un ensayo digital antes de actuar en la realidad
En El futuro del poder planteo que los modelos predictivos permitirán construir escenarios cada vez más detallados. La IA podrá combinar datos demográficos, económicos, territoriales y de comportamiento para estimar cómo responderá una comunidad ante una decisión. Con sistemas más avanzados, esos ensayos podrían actualizarse casi en tiempo real y comparar muchas más alternativas de las que hoy puede estudiar un equipo humano.
La utilidad no consiste en adivinar el futuro. Consiste en someter una propuesta a preguntas difíciles antes de convertirla en una norma, una obra o un servicio. ¿Qué ocurre si aumenta la demanda? ¿Qué pasa si el presupuesto se reduce? ¿A quién beneficia la medida y quién soporta sus costes? ¿Qué consecuencia aparece seis meses después y no durante la primera semana?
La OCDE observa que la IA ya se utiliza en alguna función pública en casi todos sus países miembros, aunque su aplicación a la elaboración y supervisión de políticas sigue siendo más limitada. Tiene sentido: cuanto mayores son las consecuencias de una decisión, más exigentes deben ser los datos, las pruebas y las garantías.
Todo modelo es una representación incompleta de la realidad. Selecciona algunas variables, deja otras fuera y establece relaciones a partir de datos anteriores. Incluso una simulación técnicamente impecable depende de supuestos humanos: qué se considera éxito, durante cuánto tiempo se mide, qué grupos se comparan y qué efectos se juzgan relevantes.
Imaginemos una propuesta para reducir el tráfico en el centro de una ciudad. El modelo puede indicar que disminuirá el tiempo medio de desplazamiento y mejorará la calidad del aire. Sin embargo, ese promedio puede ocultar que los residentes de una zona periférica necesitarán dos transbordos para llegar al trabajo o que los pequeños comercios tendrán dificultades durante la transición.
La simulación no necesariamente está equivocada. Puede haber respondido con precisión a la pregunta que se le hizo. El problema es que la pregunta era demasiado estrecha.
Por eso la primera tarea no es preguntar a la IA cuál es la mejor decisión, sino decidir qué consecuencias debe examinar. Una institución que escucha antes de decidir y comunicar puede incorporar al modelo problemas que no aparecen en una hoja de cálculo inicial.
Los datos públicos nunca describen a toda la población con la misma calidad. Algunas personas utilizan servicios digitales, dejan registros frecuentes y participan en consultas. Otras apenas generan señales: mayores que resuelven sus trámites de forma presencial, familias en situaciones irregulares, trabajadores con horarios que les impiden acudir a una reunión o vecinos que no confían en los canales oficiales.
Si el modelo aprende principalmente de quienes están bien representados, puede recomendar una medida que funcione muy bien para la mayoría visible y muy mal para quienes apenas aparecen. El sesgo no siempre adopta la forma de una discriminación evidente. A veces se presenta como una mejora del promedio.
La Comisión Europea exige garantías reforzadas cuando una autoridad pública utiliza sistemas de IA considerados de alto riesgo. Entre ellas figuran la evaluación previa de su impacto sobre los derechos fundamentales, la supervisión humana y la vigilancia de su funcionamiento. La orientación sobre el Reglamento de IA insiste también en que los datos deben ser pertinentes y suficientemente representativos.
Estas obligaciones no son un trámite añadido al final del proyecto. Obligan a preguntar desde el principio quién puede quedar fuera del conjunto de datos, cómo se detectará un perjuicio y qué hará la administración cuando el resultado real se aparte de la simulación.
La justicia no cabe en una sola cifra
Una IA puede optimizar el coste de un servicio, la velocidad de respuesta o el número de beneficiarios. Lo que no puede hacer sin una decisión política previa es elegir cuál de esos objetivos debe pesar más.
Una ayuda pública puede diseñarse para llegar al mayor número de personas o para concentrarse en quienes atraviesan una situación más grave. Un nuevo centro de salud puede ubicarse donde atienda a más población o donde reduzca una desigualdad territorial histórica. En ambos casos existen criterios razonables, pero no son equivalentes.
Cuando se encarga al sistema que encuentre la alternativa «óptima», alguien ya ha decidido qué significa óptimo. Esa elección debe poder explicarse públicamente. De lo contrario, una preferencia política queda escondida detrás de una respuesta técnica.
La IA puede calcular con una precisión extraordinaria las consecuencias de distintos criterios. No puede legitimar el criterio elegido. La legitimidad procede de la ley, del debate, de la rendición de cuentas y de la posibilidad de que la ciudadanía cuestione la decisión.
Una buena prueba no intenta demostrar que la propuesta inicial era correcta. Intenta encontrar las condiciones bajo las cuales dejaría de funcionar.
Eso exige comparar escenarios favorables y adversos, modificar los supuestos y observar qué grupos soportan el error. También exige conservar un registro de los datos utilizados, de las versiones del modelo y de las razones por las que se eligió una alternativa. Si meses después aparecen consecuencias imprevistas, la institución debe poder reconstruir el proceso.
La OCDE advierte de que los datos sesgados, la opacidad y una dependencia excesiva de los sistemas pueden propagar errores y debilitar la responsabilidad pública. El valor de la IA no está en atribuirle una autoridad que no posee, sino en utilizarla para ampliar la capacidad de análisis sin borrar el juicio humano.
Esto enlaza con una idea esencial: la autoridad no se improvisa en la era de la IA. Tampoco se delega en una predicción porque resulte más cómoda o parezca más objetiva.
Si en el futuro aparecen sistemas de inteligencia artificial más generales, podrán relacionar ámbitos que hoy se estudian por separado. Una decisión urbanística podría analizarse al mismo tiempo desde la movilidad, la salud, la actividad comercial, el consumo energético y la percepción ciudadana. El sistema podría conversar con especialistas, localizar contradicciones normativas y reformular escenarios a medida que recibe nueva información.
Esa capacidad aumentará el valor de las simulaciones, pero también su poder persuasivo. Cuanto más completa y convincente parezca una respuesta, más fácil será olvidar que sigue dependiendo de datos, objetivos y límites establecidos por seres humanos.
El riesgo no será solo que la IA se equivoque. También será que una institución deje de formular sus propias preguntas, acepte como neutral el escenario recomendado y convierta una decisión discutible en una conclusión aparentemente inevitable.
La decisión empieza donde termina el cálculo
Las instituciones deberían utilizar la IA para descubrir consecuencias, comparar alternativas y hacer visibles los riesgos antes de actuar. Deberían también contrastar el resultado con conocimiento profesional, experiencia ciudadana y datos que no procedan del propio modelo.
Después llega la parte que no puede automatizarse: decidir qué intereses deben protegerse, explicar por qué se ha elegido una opción y asumir la responsabilidad si la medida produce un daño que pudo haberse evitado.
La síntesis es sencilla: la IA en las decisiones públicas puede ayudarnos a probar una medida antes de aplicarla y a gobernar con más información. Pero no puede decidir qué es justo, porque la justicia no es una predicción. Es una elección pública que debe tener autor, razones y posibilidad de respuesta.
