Buena pregunta con muy fácil respuesta: por sí sola no, desde luego; pero puede sernos de inestimable ayuda.
Algo huele (de nuevo) a podrido y no en Dinamarca sino en casa
Es un hedor a corrupto que nos resulta fácil de identificar, porque de novedoso no tiene nada en España. Apesta la atmósfera política a corrupción porque hay algo podrido. En realidad, ese algo o mucho podrido siempre ha estado ahí, solo que de vez en cuando, como cadáver al que se le quita la tierra, queda al descubierto y atufa.
La corrupción es endémica en nuestra democracia, sistémica en los partidos políticos y, además, con rasgos propios según la etapa (la ucde, el felipismo, el aznarismo, el zapaterismo, el marianismo y ahora el sanchismo). No es que de vez en cuando haya algunas manzanas podridas, sino que el cesto está diseñado para que las manzanas se pudran bien a gusto, sin que se las moleste y, de hecho, no pocas manzanas llegan ya bien podridas al cesto.
La corrupción es sistémica y parte de ella es también las ficciones con las que se pretende hacernos creer que se combate. Se nos promete vigilancia, regeneración, métodos eficaces, pero lo cierto es que acabamos incluso con despenalización de la corrupción, como la derogación de parte de la legislación contra la malversación de fondos públicos.
Quizá no todo, pero casi todo es ruido y muy poco acto. Y no seré yo el que conozca la solución mágica a esta podredumbre, desde luego. Tengo muy presente la inmortal frase de Harry el Sucio acerca de que «las opiniones son como los culos, todos los tontos tienen una».
Habida cuenta eso, de todas formas, me gustaría compartir con vosotros que, a mi juicio, un uso acertado de la Inteligencia Artificial podría hacer mucho por combatir esta lacra asfixiante, tanto en lo material como en lo moral que nos aqueja. Y recalco lo de hacer mucho. Nada, por sí solo, es la solución. No basta con dejar que los algoritmos naveguen entre facturas y adjudicaciones.
Desde luego que la máquina puede ver lo que los humanos no quieren ver. El algoritmo no se cansa, no se deja sobornar y no mira hacia otro lado. Pero ojo, que la tecnología depende de quiénes la diseñen y, en el caso de la IA, de los que la programen. Un algoritmo no tiene voluntad. Es una herramienta o incluso un arma. Y un arma tiene dos filos. Dependiendo de cómo se la programe puede detectar fraudes o puede pasar por alto los que perpetran los poderosos para centrase en las sisas fiscales de los humildes. Puede vigilar a los corruptos o puede acosar a los que molestan. Así que mucho cuidado.
La pregunta no es si la IA puede ayudarnos contra la corrupción. Puede y mucho. Pero la pregunta es: ¿en qué condiciones, con qué garantías y bajo qué modelo de gobernanza? De eso va este texto.
La trampa de la supuesta acción
Tenemos multitud de mecanismos que se supone que combaten la corrupción. Los hay institucionales, como los Tribunales de Cuentas (cada vez más cuestionados) fiscalías anticorrupción, interventores, leyes. Los hay internos en los partidos, como los Códigos Éticos, que no están mal pero que por sí solos no valen realmente para nada. Los mecanismos legales son punitivos, actúan cuando el daño ya está hecho y, desde luego, los responsables no reciben ni de lejos el castigo acorde con sus delitos. Y, por supuesto, de recuperar los dineros mal habidos por esas gentes, ni hablar. Nuestros mecanismos contra la corrupción son como antibióticos que curasen los daños visibles de una enfermedad, sin tocar el origen de la infección.
Porque la corrupción no es una enfermedad ajena que ha llegado a infectar un cuerpo social y político sano. Es parte de la fisiología de nuestros sistemas públicos y de muchos de los privados (sean empresas u organizaciones de la sociedad civil). La corrupción no es un algo excepcional sino una costumbre que a veces no cursa con billetes al contado sino a través de cláusulas ambiguas, baremos flexibles, concursos a medida y apaños en la sombra. Vivimos en un ecosistema político donde los corruptos ocupan niveles muy alto en la pirámide, donde actúan una y otra vez sin que casi nunca tiemble nada.
En tal ecosistema, los controles son poco más que un decorado, sea por falta de medios, por subordinación jerárquica o por un entorno de gentes pringadas en el asunto que castigan al que señala. Vivimos en un sistema con una arquitectura de opacidad tal que no es que no nos permita ver, sino que a veces hace imposible hasta el mirar. Y ahí la IA puede ser el ojo que todo lo ve, el que no parpadea. Aunque también puede convertirse en un nuevo velo de ilusión, otro más.
¿Qué puede hacer la IA y qué no?
La IA, bien entrenada, puede ser el arma casi definitiva contra la corrupción. Porque puede rastrear adjudicaciones públicas en tiempo real, detectar patrones anómalos en las compras, cruzar datos de patrimonios, contratos y redes familiares, y señalar incompatibilidades que a los humanos les costaría largo tiempo y gran esfuerzo detectar. Puede incluso anticipar áreas de riesgo, tales como departamentos donde se concentren adjudicaciones repetidas a los mismos proveedores, concursos bajo concurrencia sospechosa o trámites que se aceleran para unos pocos y para el resto no.
La tecnología ya existe y no es difícil hacerla funcionar. Lo difícil es dejarla funcionar.
Porque la IA no es independiente sino que depende de cómo y para qué se la programe. Eso incluye qué datos se le suministran, los criterios con los que se le entrena y a qué preguntas ha de responder. Si se le alimenta con datos sesgados, dará resultados sesgados.
Por eso, es tan falso como peligroso pensar que la IA será un juez imparcial. Un algoritmo puede identificar irregularidades, pero también puede convertirse en coartada para el simulacro de limpieza: «lo ha revisado la máquina y todo está en orden». Cuidado con que los de siempre la conviertan en justificación de tropelías o en herramienta de represión selectiva que vigile con lupa a unos y aplique manga ancha con otros.
Tenemos que implementar la IA en la gobernanza no solo por lo mucho que puede darnos, sino para evitar que los malos se nos adelanten y perviertan la fiscalización para convertirla en linchamiento tech.
Si queremos plantearnos cómo la IA puede ayudar contra la corrupción, debemos hacernos varias preguntas: ¿Quién decide qué se investiga? ¿Quién valida lo descubierto? ¿Cómo impedir que el sistema se detenga si comienza a apuntar demasiado hacia arriba? Porque esto último se puede programar.
Así que, ¿quién controla al controlador?
Cuanto más eficaz se vuelve una fiscalización, más peligrosa puede llegar a ser. La IA, aplicada al control institucional, puede ser un avance o una lacra; todo depende del modelo político que gobierne. Pensar que los algoritmos contra la corrupción operarán con neutralidad matemática es un gran error. Porque todo algoritmo responde a una intención. Y toda intención es fruto de una estrategia.
En manos de una élite cerrada, la IA puede ser un brazo ejecutivo de un despotismo tecnocrático. Una máquina que, fingiendo imparcialidad, actúa en pro de ciertos objetivos. Por tanto, al aplicar la IA a la gobernanza, sobre todo en temas financieros, sería locura no hacerlo sin implementar mecanismos que permitan auditar, supervisar y corregir tanto el diseño como la aplicación de estas herramientas.
Y eso nos lleva a otro nivel más profundo. Porque, ¿quiénes se ocupan de tales mecanismos de control? Y es complicado. Si no respondemos bien a esta pregunta de quién controla al controlador, no escaparemos a la arbitrariedad y la doble vara de medir, y la IA será la injusticia de siempre pero con una nueva cara de eficacia.
Simulacros no, gracias.
Ya hemos sufrido demasiados simulacros de regeneración. Se anuncia planes, y portales de transferencia, se crea algún comité, comisión, oficina, agencia o lo que sea, se dan ruedas de prensa… todo decorado. Si queremos que una futura implementación de la IA contra la corrupción no acabe siendo una mascarada más, debiéramos hacerla con ciertas condiciones.
Una es el código abierto, porque sin software auditable por agentes independientes no es posible una fiscalización real. Sería como permitir un recuento electoral por una organización privada y opaca sin ningún control.
Otra es la trazabilidad pública de los procesos. Permitir que todo ciudadano pueda saber qué hace la IA y con qué criterios opera. No se trata de conocer cada línea de código, sino de que cualquiera, sin conocimientos técnicos, tenga acceso a explicaciones comprensibles y verificables.
La tercera es un control múltiple, que incluya pero no se limite a la judicatura y al parlamento. Nada de dejar todo esto en manos de la agencia (o lo que sea) de turno. Necesitamos una arquitectura compleja de supervisión, con independencia efectiva, que recurra a instancias con poder sancionador y capacidad de actuar contra quien sea, sobre todo el gobierno de turno.
La cuarta pasa por la posibilidad ciudadana de denuncia. La IA no ha de estar al servicio del Estado sino de la Nación; es decir, el conjunto humano que forma la entidad política. Que una persona física o jurídica pueda consultar en busca de anomalías, pedir auditorías o activar una alerta. Eso debiera ser un derecho en un escenario como este.
Y quien, blindar su uso frente al control social. Cuidado con la tentación de, con la excusa de vigilar los contratos públicos, espiar a quien protesta o molesta.
Sí a la IA y no a la mascarada de vitrinas tecnológicas de doble fondo oculto. No al algoritmo como disfraz de limpieza para los aparatos políticos.
La tecnología no regala peces. Es la caña para pescarlos
La corrupción no puede desaparecer porque siempre habrá seres humanos que apuesten por ella. Y, a nivel colectivo, en la actualidad, es parte del sistema por su mismo diseño. Podemos mejorar o cambiar el sistema, y hacer más difícil la corrupción, pero siempre quedarán especímenes buscando los resquicios por donde colarse. La IA puede tanto sugerir mejoras del sistema como hacer más difícil la corrupción y dificultar lo que hoy se perpetra con impunidad en la mayor parte de los casos. Puede hacer que ciertos tejemanejes, hoy casi rutinarios, pasen a ser maniobras de alto riesgo.
Pero eso no será posible si dejamos el diseño y control a los mismos gatopardistas que andan siempre cambiándolo todo para que nada cambie. Porque la gran diferencia está en las reglas.
Coda
Ya que me he explayado sobre las ventajas y los riesgos de la IA contra la corrupción, en este momento tan visceral sobre el tema que vivimos, la segunda entrega será un pelín más técnica, explorando un poco qué puede de verdad hacer la IA en este tema tan amargo. Al fin y al cabo, sobre la IA y los automatismos para la gobernanza, exploramos hace nada Rubén García y yo en nuestro libro Democracia 4.0 (sí, no tiene nada de malo hacerse un poco de promoción) y algo reflexionamos sobre todo esto.