La tecnología, puntualmente la inteligencia artificial, la analítica de datos, el machine learning y estas innovaciones computacionales que poco a poco se han vuelto rutinarias en las conversaciones diarias, han llegado para generar una mutación en la era del conocimiento.
La curiosidad que se ha despertado en los últimos años por el avance tecnológico, ha volcado a las ciencias del conocimiento a compaginar sus saberes propios con los novedosos y a veces poco entendidos, de la nueva era digital o revolución industrial 4.0.
Carlos Ramió en su libro “Inteligencia Artificial y Administración Pública: Robots y humanos compartiendo el servicio público” sentenció de una manera clara a lo que nos estamos enfrentando; “La Revolución Tecnológica va a alterar y transformar absolutamente todo: la organización social y del mundo laboral, el modelo económico, las pautas de conducta individuales, el sistema político e incluso el modelo democrático. También va a trastocar de manera radical las administraciones públicas” (2019, p.7).
Dado este contexto, surge la inquietud de preguntarse por aquellos problemas que tendrían impacto en la esfera de lo público y que se pueden ver afectados por estos cambios tecnológicos. Uno de esos problemas a los que se hace alusión es la corrupción, un concepto amplio y que genera múltiples reacciones. Vale la pena aclarar que este escrito se centrara en la corrupción pública, concepto frente al cual existen múltiples definiciones y que con un ánimo simplificador que permitirá orientar de mejor manera el presente texto, optamos por definirla como:
“La corrupción pública se caracteriza por ser una práctica en la que una persona abusa de sus funciones dentro de un gobierno o partido político para obtener provecho económico y ventajas. En sentido amplio (Jiménez, 2008) señala que la corrupción pública es cualquier abuso de poder que busca alcanzar un beneficio privado”. García, A. V., & Sampedro, M. C. (2022, p.184).
Adicional a ello y para reafirmar la trascendencia de este problema público, también podemos aproximarnos a él, tal y como lo hace Alberto Vaquero García y María Cadaval Sampedro, desde los efectos que produce, los cuales, en cualquier sentido son negativos, pero que, sin embargo, impactan en diferentes elementos de nuestra sociedad.
Así pues, se puede hablar de un efecto político, el cual implica que nuestros sistemas democráticos se encuentren cooptados e inclinados hacia el favorecimiento de ciertas coaliciones de grupo e intereses individuales que, de manera evidente, dejan por fuera de la ecuación política las demandas y problemáticas sociales como ejes del aparato político institucional, lo cual genera que los fines originarios del sistema político no se cumplan.
De la misma manera, se presenta el efecto social, el cual se encuentra muy ligado al efecto anterior, toda vez que, de un sistema democrático cooptado se desprende la desatención de las necesidades sociales de la ciudadanía. Con ello, como es de esperarse, la desigualdad se profundiza, la pobreza se consolida y las necesidades básicas de la población no logran ser satisfechas.
Finalmente, los autores nos hablan de un efecto económico, esto en cuanto las decisiones públicas no se toman en términos de eficiencia y equidad sino de conformidad a los móviles individuales y privados. Así, los presupuestos públicos se ven alterados y se empiezan a generar tensiones en lo relativo a la deuda pública.
Como es notorio, incluso antes de la lectura de los anteriores párrafos, la corrupción “es una de las cuestiones más corrosivas de nuestro tiempo. Malgasta los recursos públicos, aumenta la desigualdad económica y social, alimenta el descontento, la polarización política y disminuye la confianza de las instituciones” (OCDE, 2017).
En ese orden de ideas, surge una pregunta natural a nuestros tiempos ¿será la Inteligencia Artificial junto a la revolución industrial 4.0 la solución al problema público de la corrupción? Lo cierto es que en la actualidad son varios los países que han implementado el uso de estas herramientas tecnológicas.
A pesar de mostrarse como una alternativa, es importante que conozcamos los riesgos que implica su uso, por ejemplo, en todo lo relativo al uso de los datos, –esenciales para el funcionamiento de la IA– su calidad y la privacidad de los mismos.
Otro asunto que genera dudas en el uso de la IA es la posibilidad que existe de ejercer control sobre la tecnología, algo que está muy relacionado con la transparencia del algoritmo o también conocida por su antagónico como opacidad algorítmica. Es preciso determinar que el algoritmo para la IA es similar a lo que un motor para un vehículo, en esencia, este es la estructura que le da vida o funcionamiento a la tecnología (IA)
Una definición para aproximarnos a este concepto de algoritmo es la que nos dice que se trata de un conjunto de instrucciones o también un procedimiento paso a paso para conseguir un fin, el cual, en el caso de la IA, sería el output o resultado esperado, tal como que el uso de cierta tecnología detecte casos de corrupción.
Ahora bien, cuando hablamos de opacidad algorítmica, nos referimos a la poca claridad que existe en ese procedimiento o paso a paso (códigos) que se crea, entrelaza y coordina para darle vida a la IA, lo que genera un efecto de “caja negra”.
Bajo este contexto, la falta de transparencia del algoritmo pueda llegar a ser problemática, dado que los algoritmos pueden ser manipulados, sesgados y usados para intereses distintos al de mitigar la corrupción
Uno de los casos en donde con herramientas provenientes de la Inteligencia Artificial, machine learning y analítica de datos, se han creado acciones públicas dirigidas a combatir la corrupción es el caso de China con su programa “Zero Trust” el cual, haciendo uso de alrededor de 150 bases de datos protegidas –entiéndase datos privados– con el empleo de herramientas de IA, cruza información de 60 millones de funcionarios públicos para identificar posibles actividades de corrupción.
Dicha información proveniente de las bases de datos mencionadas, se conforma por extractos bancarios, trasferencias de propiedad, compras y en general información de la esfera privada de las personas. En ultimas los expertos mencionan que esta tecnología permite identificar mapas de relaciones sociales de los funcionarios públicos y a partir de ello realizar análisis de comportamiento de los empleados gubernamentales.
Así pues, el programa chino busca combatir la corrupción mediante la identificación de movimientos anómalos en las finanzas privadas de sus funcionarios públicos, todo ello, de la mano de la tecnología, la cual genera alertas que permiten el actuar de las autoridades correspondientes.
Según las búsquedas realizadas, desde el 2012 el programa ha detectado 8.721 casos de empleados públicos involucrados con actos de corrupción tales como malversación de fondos o abuso de poder. Sin embargo, solo pocos fueron condenados por actos de corrupción y casi la totalidad fueron simplemente alertados y conservaron su empleo.
Surgen inquietudes sobre el caso de China, como: ¿de dónde provienen los datos? ¿Son pertinentes y útiles para el propósito de combatir la corrupción? ¿Son fidedignos? Y finalmente ¿se está vulnerando la privacidad de los funcionarios públicos?
En este espacio no resolveremos esas inquietudes, sin embargo, consideramos importante dejar la discusión abierta y entender que el uso de la Inteligencia Artificial abre el paso a un dilema o una confrontación entre un interés general, en este caso combatir la corrupción, y unos derechos individuales, más precisamente el derecho a la intimidad y al hábeas data[1].
De ahí que, se hace importante que las sociedades, sus ciudadanos, los gobiernos, las empresas privadas y todos los actores relacionados con la IA construyan acuerdos en conjunto en donde se tengan reglas claras, regulaciones transparentes y objetivos comunes que permitan un uso sano y responsable de la data. Tal como lo expresa Köbis, N., Starke, C., & Rahwan, I. (2022) los datos de alta calidad, disponibles de forma transparente y que preservan la privacidad, son el combustible perfecto para que la IA detecte patrones de corrupción.
Ahora, en relación con la opacidad del algoritmo y las dudas sobre la transparencia, para el caso chino “Zero trust” se generó un gran debate
Como puede verse, bajo el crisol del caso mencionado, pueden reafirmarse dos riesgos latentes de la IA, uno relativo a los datos y otro a los algoritmos, ambos, elementos esenciales para el funcionamiento de esta tecnología.
El gobierno brasilero también ha realizado algunos esfuerzos por desarrollar herramientas de inteligencia artificial que permitan combatir la corrupción, entre estos el proyecto MARA, que consiste en el desarrollo de dos algoritmos predictivos. El primero de ellos, encausado a estimar la probabilidad de que un funcionario sea corrupto o no, mediante el cruce de datos relacionados con i) la manera de ingresar al empleo público, ii) su participación accionaria en compañías privadas, iii) sus antecedentes disciplinarios, entre otras variables. Como puede observarse esta herramienta es muy similar a la iniciativa “Zero trust” china.
Adicionalmente, se desarrolló un algoritmo que busca estimar las probabilidades de que un contrato estatal, principalmente relacionado con la construcción de obras públicas, pueda tener problemas de incumplimientos, demoras y/o suspensiones. Lo anterior, al tener en cuenta que la contratación pública es unos de los principales focos de la corrupción estatal.
Para este propósito, el algoritmo es alimentado con datos tales como i) las donaciones o aportes que hacen las empresas a campañas o partidos políticos, ii) la antigüedad de la empresa, iii) las actividades que desarrolla la empresa, o lo que en Colombia conocemos como objeto social, iv) la cantidad de empresas participantes en el proceso contractual (competidores) y otras variables adicionales.
Estas dos iniciativas brasileñas buscan predecir o establecer probabilidades de, uno, si un funcionario puede ser corrupto o no y dos, si un contrato público puede presentar inconvenientes. Como puede observarse ambas son probabilidades que luego tendrán que pasar por el escrutinio de las autoridades para determinar o no la existencia de actos de corrupción.
En otras palabras, la simple indicación de la tecnología no bastaría para establecer una condena o calificar un hecho como corrupto. Lo anterior nos permite dar paso a tratar uno de los dilemas o riesgos de la IA, conocido como el “dilema humano”. Este consiste en toda una discusión, primordialmente ética, relacionada con el grado de autonomía de la IA y a su vez, el grado de control que tiene el ser humano sobre ella.
Para el caso brasilero, consistiría en discutir hasta qué punto la simple decisión o predicción de la tecnología podría dar paso a sanciones y/o condenas por corrupción, o si, por el contrario, es el ser humano el que al final determina si un acto es corrupto o no.
El anterior dilema o riesgo, es predicable de todos los desarrollos tecnológicos, sin embargo, cuando de corrupción se trata cobra un valor determinante. Esto porque en ultimas, la decisión termina concentrada en un grupo reducido de personas, quienes podrían constituir una nueva forma de poder y control, ahora más reducida y concentrada y con ayuda de la tecnología, lo que en ultimas generaría una posible nueva forma de corrupción. En ese orden de ideas, lo que en un principio buscaría reducir o eliminar la corrupción, terminaría por generar el efecto contrario, casi que como un círculo vicioso.
En suma, encontramos que la IA se muestra como algo muy novedoso y en principio como una solución a todos los problemas que aquejan a los estados, entre estos la corrupción, ejemplo de ello es que países como China y Brasil ya empleen estas herramientas para combatir este problema público.
Sin embargo, alejados de los fanatismos y esperanzas que lo novedoso puede generar, es importante percatarnos de los riesgos existentes, algunos de ellos mencionados en este escrito, relacionados con los datos, los algoritmos y la intervención humana en el proceso de decisión.
Finalmente, se hace necesario aclarar que el propósito de lo aquí mencionado no es generar una fobia o aversión al uso de la inteligencia artificial para combatir la corrupción, sino más bien, poner el énfasis en los riesgos existentes, los cuales, una vez mitigados, darán paso a una acción más efectiva y con más posibilidades de detectar y disminuir la corrupción pública.
[1] El derecho de hábeas data es aquel que tiene toda persona de conocer, actualizar y rectificar la información que se haya recogido sobre ella en archivos y bancos de datos de naturaleza pública o privada.
Aarvik, P. (2019). Artificial Intelligence–a promising anti-corruption tool in development settings. U4 Anti-Corruption Resource Centre.
Campos, C. 2020. “Compliance y tecnología como herramientas de mejora de la gestión pública: inteligencia artificial y toma de decisiones”. Presupuesto y Gasto Público, (100), 39-52.
Center for Effective Global Action. (9 de julio de 2017). Machine Learning to Fight Corruption in Brazil -- Thiago Marzagão. [Archivo de video]. Youtube. https://www.youtube.com/watch?v=2prrNVaD-Nc
García, A. V., & Sampedro, M. C. (2022). Reflexiones y propuestas para combatir la corrupción pública en la administración local. Revista española de la transparencia, (15), 181-205.
Köbis, N., Starke, C., & Rahwan, I. (2021). Artificial Intelligence as an Anti-Corruption Tool (AI-ACT)--Potentials and Pitfalls for Top-down and Bottom-up Approaches. https://www.researchgate.net/publication/349546498_Artificial_Intelligence_as_an_Anti-Corruption_Tool_AI-ACT_--_Potentials_and_Pitfalls_for_Top-down_and_Bottom-up_Approaches
Köbis, N., Starke, C., & Rahwan, I. (2022). The promise and perils of using artificial intelligence to fight corruption. Nature Machine Intelligence, 4(5), 418-424.
Pavlova, O. V., & Singkh, A. P. (2022). PROSPECTS OF ARTIFICIAL INTELLIGENCE USE IN ANTI-CORRUPTION POLICY. The EUrASEANs: journal on global socio-economic dynamics, 2 (33), 60-65.
Ramió, C. (2019). Inteligencia artificial y administración pública: robots y humanos compartiendo el servicio público. Los libros de la Catarata.
Sharma, V. (15 de noviembre de 2018). Can artificial intelligence stop corruption in its tracks? World Bank Blogs. https://blogs.worldbank.org/governance/can-artificial-intelligence-stop-corruption-its-tracks
Ramón De los Ríos
Estudiante
Maestría en Gobierno y Políticas Públicas
ramondlr13@hotmail.com
ISSN ELECTRÓNICO: 2344-8431
ISSN IMPRESO: 0123-8779