La interfaz de NotebookLM está diseñada para engañarte. A la izquierda tienes una columna con tus fuentes. Una lista plana. Sin jerarquía. Sin carpetas. Sin colores. Si subes tres documentos, funciona. Si subes los 40 archivos de un expediente de contratación complejo —pliegos, 15 ofertas técnicas y económicas, informes de valoración, un par de recursos, normativa aplicable—, lo que tienes ya no es una herramienta. Es un cajón de sastre con pretensiones.

Y aquí es donde ocurre el desastre silencioso.

El problema que nadie ve (hasta que lo sufre)

La mayoría de usuarios confía en que la IA “entenderá” cada documento por su contenido. Que leerá el pliego y sabrá que es un pliego. Que distinguirá una oferta económica de un informe previo. Que no confundirá la normativa con una propuesta.

A veces lo hace.

En contratación pública, “a veces” es un lujo que no te puedes permitir. Necesitas “siempre”. O al menos algo que se le parezca mucho.

La solución no requiere programar nada. No es tecnológica en el sentido habitual. Es semántica. Y cabe en un corchete.

El corchete que lo cambia todo

NotebookLM no tiene carpetas para los archivos fuentes. No tiene etiquetas nativas. No tiene un sistema de clasificación visual. Pero hace algo que casi nadie aprovecha: lee el nombre del archivo. Y no lo lee como tú o como yo, buscando orientación. Lo lee como lo que es para un modelo de lenguaje: contexto. La primera instrucción que recibe antes de abrir el documento.

Cuando nombras un archivo documento_final_v2.pdf, la IA procesa ruido. Cuando lo nombras [NORM] LCSP_Consolidada.pdf, la IA recibe una categoría operativa.

Los corchetes crean lo que en programación se llama un namespace —un espacio de nombres que permite al sistema segmentar la información antes de procesarla—. En la práctica, eso significa que puedes dar instrucciones quirúrgicas sobre dónde buscar cada cosa, y la IA deja de mezclar churras con merinas.

(Que es exactamente lo que hace cuando le sueltas 40 PDFs sin contexto y le preguntas por el plazo de garantía.)

La taxonomía: cuatro etiquetas para gobernarlas a todas

Después de mucho ensayo y error —y algún que otro informe de valoración que salió del revés—, utilizo lo que de forma un tanto pretenciosa llamo Protocolo Técnico de Contratación (PTC) que estandariza cuatro prefijos:

[NORM] — Leyes y reglamentos. La verdad inmutable. Lo que no se negocia.

[REG] — Los pliegos del expediente. Las reglas del juego concreto.

[OFERTA] — Las propuestas de las empresas. Los hechos que hay que evaluar.

[ADMIN] — Informes previos, memorias justificativas, actas. El contexto que da sentido a todo lo demás.

Cuatro etiquetas. Eso es todo. No necesitas más para transformar un chat con IA en algo que se parezca a un sistema de información estructurado.

Qué ganas con esto (y no es poco)

Dejas de preguntar al aire

Sin etiquetas, cuando preguntas “¿cuál es el plazo de garantía?”, la IA escarba en los 40 documentos y te responde con lo primero que encuentra. Puede darte el plazo que ofrece la Empresa B como mejora cuando tú querías el mínimo exigido en el pliego. Un error que parece menor hasta que aparece en un informe de valoración firmado.

Con etiquetas, la instrucción cambia:

“Extrae el plazo de garantía exigido en los documentos [REG] y compáralo con el ofrecido en los documentos [OFERTA].”

Esto crea lo que me gusta llamar “cortafuegos cognitivos”. La IA ya no confunde el deber ser con el ser. El pliego manda, la oferta responde. Cada cosa en su sitio.

Las comparativas dejan de ser una lotería

Quince ofertas económicas. Si las has subido con nombres como Oferta_Juan.pdf, Presupuesto_ACS.pdf y 2026_Construcciones.pdf, pedirle a la IA una tabla comparativa es un acto de fe. Puede saltarse una. Puede confundir dos. Puede inventarse un orden que no tiene sentido.

Si todas se llaman [OFERTA] Empresa X – Económica.pdf, puedes lanzar una instrucción de barrido:

“Itera sobre cada documento que comience por [OFERTA]. Extrae el valor total sin IVA y genera una tabla de ranking.”

En términos técnicos, la etiqueta actúa como un filtro SQL: SELECT * FROM archivos WHERE nombre LIKE ‘[OFERTA]%’. Ninguna empresa se queda fuera. El análisis es exhaustivo por diseño, no por suerte.

Puedes inyectar datos que el PDF no contiene

Esto es lo que de verdad me parece elegante. A veces el documento no incluye información que la IA necesita para hacer su trabajo: la fecha de entrada en registro, si la oferta llegó fuera de plazo, si un documento tiene una validación pendiente.

Puedes meter esos datos en el propio nombre del archivo:

[OFERTA] Empresa A (Reg_14-02-2026 13:59).pdf [OFERTA] Empresa B (Reg_14-02-2026 14:05 – EXTEMPORÁNEA).pdf

La IA lee el nombre y detecta la extemporaneidad antes de abrir el documento. Sin tocar el PDF original. Sin alterar nada. Has convertido el nombre del archivo en un campo de metadatos operativo.

Que me digan que eso no es bonito.

La evaluación ciega: cuando la etiqueta protege la imparcialidad

Esta es, probablemente, la aplicación que más me interesa desde el punto de vista jurídico.

NotebookLM puede identificar al autor de un PDF por los metadatos internos del archivo. Si estás evaluando ofertas en un procedimiento donde los criterios de juicio de valor (Sobre B) deberían valorarse sin saber quién es el licitador, eso es un problema.

La solución es sencilla. Renombras las ofertas con códigos neutros:

[OFERTA] ID_001.pdf [OFERTA] ID_002.pdf

Y la instrucción se convierte en:

“Evalúa la calidad técnica de ID_001 basándote exclusivamente en el contenido del archivo, ignorando cualquier mención a la marca comercial dentro del texto.”

¿Es infalible? No. La IA puede tropezar con una referencia interna que delate al licitador. Pero añade una capa de objetividad que, en muchos casos, es más rigurosa que la evaluación humana pura —donde el sesgo de confirmación ni siquiera necesita metadatos para actuar—.

Control de versiones: evitar el monstruo híbrido

En la redacción de pliegos hay un momento especialmente peligroso: cuando tienes dos versiones del mismo documento y la IA, con su afán de ser útil, fusiona el conocimiento de ambas. El resultado es una especie de criatura de Frankenstein normativa donde no sabes qué cláusula está vigente y cuál se eliminó en la revisión.

Las etiquetas de versión lo evitan:

[BORRADOR] PPT_v1.pdf [BORRADOR] PPT_v2.pdf

Ahora puedes preguntar:

“Analiza las diferencias entre [v1] y [v2]. ¿Se ha eliminado alguna cláusula de penalidad?”

La etiqueta temporal le da a la IA algo que normalmente le cuesta mucho: sentido de la cronología. La v1 es el antes, la v2 es el después. No hay fusión. No hay monstruos.

Ordenar para automatizar (o al revés)

Hay algo que me resulta casi irónico en todo esto. Llevamos décadas nombrando archivos para que nosotros, los humanos, los encontremos. Informe_DEFINITIVO_FINAL_v3_ESTE_SÍ.pdf. Todos hemos estado ahí.

Ahora el nombre del archivo ya no es para ti. Es para el algoritmo. Es la forma más barata y más efectiva de programar la lógica de un sistema de IA sin escribir una sola línea de código.

Sin etiquetas, NotebookLM es un chat que lee documentos. Con etiquetas, es un expediente estructurado listo para ser auditado.

Y entre una cosa y otra hay la misma distancia que entre tener papeles en una caja de zapatos y tener un archivo con índice. Solo que ahora la caja de zapatos tiene inteligencia artificial, y si no la ordenas tú, ella se inventará su propio orden.

Y a lo mejor no te gusta.

La foto del Papa con el plumas de Balenciaga. El audio de tu jefe pidiendo una transferencia urgente. Ese artículo perfectamente redactado sobre un tema que dominas y que, sin embargo, tiene algo raro que no sabrías explicar…

Llevamos años jugando a la ruleta rusa de la percepción digital. Y la Unión Europea ha decidido que la solución es volver a pintar la línea entre lo real y lo sintético. Esta vez, con rotulador permanente.

Acaba de publicarse el primer borrador del Código de Prácticas sobre Transparencia del Contenido Generado por IA. Treinta y dos páginas. Llevo una semana con este documento encima de la mesa. Lo he leído tres veces. Y sigo sin saber si es un ejercicio de optimismo regulatorio o el primer intento serio de que no nos volvamos completamente locos. Como si el problema fuera que las cosas están ocultas y bastara con encender la luz.

El problema, claro, es otro. El problema es que ya no sabemos qué es la luz.

Antes de entrar en materia, una confesión. Cuando empecé a leer el documento esperaba el típico texto europeo: bien intencionado, técnicamente solvente, prácticamente inútil. Me equivocaba. O me equivocaba a medias, que es la forma más interesante de equivocarse.

El código tiene 32 páginas y dos secciones principales. La primera va dirigida a quienes crean los modelos de IA —los Anthropic, OpenAI, Google de turno—. La segunda, a quienes los usan para generar contenido que luego circula por ahí.

La lógica es sencilla: el que fabrica el cuchillo tiene unas obligaciones; el que lo usa, otras.

De dónde viene esto

El código no surge de la nada. Es el desarrollo del artículo 50 del Reglamento de IA europeo, que va desplegando sus obligaciones por fases. Las de transparencia para contenido generativo llegan en agosto de 2026. Queda tiempo. Pero no tanto.

La Oficina de IA de la Comisión lanzó el proceso en septiembre de 2025. Convocatoria pública, selección de expertos, constitución de dos grupos de trabajo. El 5 de noviembre se celebró la sesión plenaria de lanzamiento. El 17 de diciembre —hace apenas algo más de una semana— se publicó este primer borrador.

Lo que tenemos entre manos es, literalmente, un trabajo en curso. La versión definitiva no llegará hasta mayo o junio de 2026. Entre medias hay previstas más reuniones, talleres, rondas de comentarios. El plazo para enviar feedback a este primer borrador cierra el 23 de enero.

Y aquí viene un detalle que conviene no olvidar: el código será voluntario. Los proveedores y desplegadores de IA pueden usarlo para demostrar que cumplen con el artículo 50, pero no están obligados a seguirlo al pie de la letra. Es una herramienta de cumplimiento, no una norma en sí misma. Estas obligaciones de transparencia complementarán otras normas, como las aplicables a los sistemas de IA de alto riesgo o los modelos de IA de uso general, al que le dedicamos en Linkedin esta publicación y esta otra, alimentadas por mi curiosidad por conocer el alcance de la adhesión a dicho código.

La Comisión, por su parte, está preparando en paralelo unas directrices que aclararán el alcance de las obligaciones legales. El código y las directrices se complementan: uno da el”cómo”, las otras aclaran el”qué”.

Los dos grupos de trabajo

La estructura del código refleja la del propio artículo 50. Dos grupos de trabajo, dos tipos de obligados.

El Grupo de Trabajo 1 se ocupa de los proveedores: quienes crean los modelos y sistemas de IA. Su obligación es técnica: marcar el contenido de forma legible por máquinas, con soluciones que sean eficaces, interoperables, robustas y fiables.

El Grupo de Trabajo 2 se centra en los desplegadores: quienes usan esos sistemas para generar contenido que luego circula. Su obligación es comunicativa: etiquetar los deepfakes y los textos de IA que informen sobre asuntos de interés público.

Ambos grupos están dirigidos por presidentes y vicepresidentes independientes, seleccionados por la Oficina de IA. El proceso ha involucrado a proveedores de IA generativa, desarrolladores de técnicas de marcado, asociaciones sectoriales, sociedad civil, académicos y plataformas online. También observadores internacionales que, aunque no cumplen los criterios de elegibilidad, pueden aportar conocimiento especializado.

Es, sobre el papel, un ejercicio de gobernanza participativa. Cientos de actores con intereses divergentes intentando ponerse de acuerdo en cómo etiquetar la realidad.

Lo que se le pide a quien fabrica el cuchillo

El documento parte de una admisión de derrota técnica que, por honesta, casi resulta refrescante. Dice literalmente que no existe una bala de plata. Ninguna técnica de marcado es infalible por sí sola. Si dependes de una única barrera, alguien la romperá.

Por eso proponen lo que llaman un “enfoque multicapa”. Tres cerrojos en la misma puerta, con la esperanza de que si el ladrón fuerza uno, los otros aguanten.

Primer cerrojo: los metadatos

Información añadida al archivo que dice “esto lo hizo una IA” y especifica qué tipo de operación: si se generó de cero, si se editó, si se quitó un objeto del fondo. Todo firmado digitalmente para que no se pueda falsificar. Suena bien. El problema es que los metadatos se pueden borrar. Cualquiera con conocimientos básicos sabe hacerlo.

Segundo cerrojo: las marcas de agua imperceptibles

Aquí la cosa se pone técnicamente ambiciosa. Hablamos de patrones incrustados en los propios píxeles de una imagen o en las ondas de un audio. Invisibles para el ojo humano, detectables por algoritmos.

El documento exige que estas marcas sobrevivan a compresiones, cambios de formato y —aquí viene lo bueno— capturas de pantalla. Una foto de la foto. Por lo visto, técnicamente es posible, trabajando con patrones de iluminancia a microescala. Pero también es el inicio de una carrera armamentística: la IA que marca contra la IA que borra la marca. Ya hay herramientas especializadas en eliminar watermarks. Es el eterno juego del gato y el ratón, solo que ambos son gatos.

Tercer cerrojo: el registro o fingerprinting

Una red de seguridad: si todo lo demás falla, el proveedor debería poder consultar un registro interno y verificar si ese contenido salió de su sistema. Para imágenes usan algo llamado “hash perceptual”, que basándose en su contenido visual —no en su código binario exacto—, crea una huella dactilar de una imagen o contenido audiovisual.

Ahora que lo pienso, la metáfora de la huella dactilar es engañosa. Una huella dactilar no cambia si te lavas las manos. Un hash perceptual sí puede cambiar si modificas la imagen lo suficiente. Es más elástico que el hash criptográfico tradicional —ignora cambios menores como la compresión—, pero esa elasticidad es también su punto débil.

La paradoja de la estandarización

El código exige que las técnicas de marcado sean interoperables. Es decir, que el sistema de OpenAI pueda leer las marcas de Anthropic y viceversa. Tiene sentido: si cada empresa usa su propio sistema cerrado, verificar cualquier contenido se convierte en una pesadilla.

Estandarizar algo lo hace universal. Pero también lo hace vulnerable, porque si todos usan el mismo sistema, todos comparten la misma debilidad. Es como si todos los bancos del mundo usaran la misma cerradura: muy conveniente para los clientes, muy conveniente también para los ladrones. La solución propuesta —“verificadores agregados compartidos”— es básicamente un consorcio de empresas que comparten métodos de detección. Asumir que los actores maliciosos no van a infiltrar ese consorcio me parece aventurar más de la cuenta. Un cabo que ha quedado suelto.

El icono que vas a ver hasta en la sopa

La segunda sección del código cambia completamente de registro. Ya no hablamos de técnicas invisibles para máquinas. Hablamos de iconos. Etiquetas. Cosas que podemos ver tu y yo.

El ámbito es específico: deepfakes de imagen, audio y vídeo, más los textos generados por IA que se publiquen para informar sobre asuntos de interés público.

Un poema generado por IA no necesita etiqueta. Un artículo que parece una noticia, sí.

La propuesta es sencilla: un icono común con las siglas “AI” (o “IA”, “KI” según el idioma) dentro de un círculo. Nada de diseños abstractos. Claridad ante todo. Pero el planteamiento va más allá de una simple pegatina.

No es binario, es una escala. El código propone una clasificación para no meterlo todo en el mismo saco. Diferencia entre “contenido totalmente generado por IA” (todo es sintético) y “contenido asistido por IA” (donde la IA solo retocó, limpió o modificó algo existente). No es lo mismo crear una imagen de cero que quitarle un objeto del fondo a una foto real. La diferencia importa. No es lo mismo un filtro de Instagram que hacer que un político diga algo que nunca dijo. Aunque a veces la línea entre ambas cosas es más fina de la cuenta, incluso últimamente se desvanece y desaparece.

El futuro es interactivo. La visión a largo plazo es un “icono interactivo de la UE”. La idea es que puedas hacer clic o pasar el ratón por encima y el icono te cuente qué pasó exactamente: ¿se cambió la cara? ¿se reescribió el texto? ¿qué partes son sintéticas?

Conectaría lo visible (la etiqueta) con lo invisible (los metadatos técnicos). Transparencia a un clic de distancia.

Las excepciones: donde vive la polémica

La excepción “no me hagas spoiler”

Las obras artísticas y creativas pueden etiquetarse de forma no intrusiva. Un aviso al principio, una nota en los créditos. Nadie quiere un icono parpadeando durante toda una película de ciencia ficción. El código lo permite: la etiqueta puede ir en los créditos o de una forma que “no obstaculice el disfrute de la obra”.

Esto, razonable.

La excepción “confía en mí, soy periodista”

Aquí la cosa se complica. Los textos generados por IA que informan sobre asuntos de interés público deben llevar etiqueta… salvo que haya un humano al volante. Si el contenido ha pasado por un “proceso de revisión humana o control editorial” y alguien asume la responsabilidad legal, no es obligatorio poner la etiqueta. El borrador exige que se documente quién es el editor responsable y qué proceso de revisión se siguió. La intención es proteger al periodismo legítimo que usa la IA como herramienta —para transcribir entrevistas, resumir informes, ese tipo de cosas—. Pero la línea entre “asistido por IA” y “escrito por YA” y “mirado por encima por un becario” puede ser muy fina.

¿Un blog de una sola persona que revisa su propio texto cuenta como control editorial? ¿Podría alguien crear una web, autonombrarse “editor jefe” y publicar contenido de IA sin etiquetar? El documento no lo aclara. Y cuando un documento no aclara algo así, deja abierta la puerta a que entre cualquier cosa.

El concepto de “interés público”

Si buscas en el glosario del borrador una definición de “asunto de interés público”, no la vas a encontrar. Tampoco en las secciones introductorias. El concepto aparece por todas partes —es el que determina si un texto generado por IA necesita etiqueta o no— pero nadie se atreve a definirlo.

Lo que sí hace el Código es dar pistas. Ejemplos. Pautas contextuales. Como quien te explica qué es el amor señalando parejas por la calle en lugar de abrir el diccionario.

En la Medida 1.1, la que establece la taxonomía común, hay una mención concreta. Los textos sobre cuestiones políticas o sociales entran en la categoría. Especialmente —dice el documento— el contenido “destinado a persuadir”. Libros, artículos, ensayos. Ese tipo de cosas. Pero más allá de ese ejemplo, el Código hace algo que los juristas conocemos bien: pasar la patata caliente y ponerla en manos de las empresas que despliegan los sistemas de IA. Son ellas las que deben establecer procesos internos para identificar cuándo sus publicaciones entran en la categoría y necesitan etiqueta.

¿Y qué criterios deben usar? El Código menciona dos: el público objetivo del contenido y las especificidades de los canales de distribución. Es decir, contexto. Depende. Pero estas preguntas ya me las hice cuando leí el artículo 50.4 del Reglamento de IA, que de ahí es de donde viene lo de inter “es público” en relación con la Transparencia; y que además es un concepto jurídico indeterminado que utiliza el Reglamento de IA para delimitar obligaciones en otros ámbitos. Vamos, que esto no es cosa de este borrador.

No sé, dejar que cada hijo de vecino decida internamente qué es interés público y qué no… No todas las empresas van a interpretar el concepto de la misma manera. Ahí lo dejo.

Lo que falta

Los propios autores lo reconocen. Piden feedback sobre: cómo marcar código de programación generado por IA, qué hacer con textos muy cortos (un tweet marcado pierde la mitad de sus caracteres), con la realidad virtual, asistentes de voz, IA agéntica…

Son preguntas sin respuesta fácil. Un asistente de voz que avisa constantemente de que es IA resulta insufrible. Pero uno que no avisa… bueno.

El calendario

Para quien quiera seguir el proceso:

• 23 de enero de 2026: cierra el plazo para comentarios a este primer borrador

• Marzo de 2026: publicación del segundo borrador

• Mayo-junio de 2026: versión definitiva

• Agosto de 2026: entrada en vigor de las obligaciones del artículo 50

Seis meses para pulir un documento que intenta regular cómo distinguimos lo real de lo sintético. Este borrador es un esfuerzo técnico considerable. Estándares de interoperabilidad, herramientas de verificación gratuitas, clasificaciones comunes. Lo que hacía falta, en teoría. Si el sistema triunfa, Internet se llenará de pequeños iconos de “AI”. Nos acostumbraremos a verlos en memes, vídeos, artículos. Serán parte del paisaje.

¿empezaremos a desconfiar de todo lo que no lleve etiqueta?

Es habitual que los convenios colectivos regulen la obligación de la empresa de complementar a las personas de baja médica el importe de las prestaciones que perciben de la seguridad social, el subsidio de incapacidad temporal, hasta el importe del 100% de sus retribuciones o una parte de estas. La regulación puede ser muy variada, por escalas, o condicionadas a absentismos etc.

Volviendo al supuesto comentado, no tenemos una respuesta general pues en cada caso se resolverá atendiendo al tenor literal del texto del convenio colectivo aplicable y el precepto que regule el complemento de las prestaciones de la seguridad social por IT.

Criterio Sentencia TSJ Cataluña

No obstante, por su interés en esta cuestión señalaremos el criterio de la Sentencia del TSJ Cataluña (Sala de lo Social) de 3 marzo de 2023, invocando a su vez la Sentencia del Tribunal Supremo de 20 de diciembre de 2022 (RECUD 4131/2019), que viene a señalar a la vista de la regulación dada en el convenio colectivo aplicable al caso, que:

“el presupuesto para el devengo del complemento es que la prestación de seguridad social se haya abonado. La doctrina de unificación ha señalado que por extensión es de aplicación a las mejoras voluntarias, de tal forma que mientras el INSS no reconozca los derechos económicos que se derivan del reconocimiento a percibir la prestación de la seguridad social de que se trate tampoco nacerá el derecho del trabajador a reclamar a la empresa la mejora voluntaria (…).”

Dice la sentencia referida al resolver el recurso, que:

No solo es que debe existir un subsidio de IT … sino que además se indica quién debe sufragarlo. El sentido del convenio colectivo es claro y diáfano: sin que “la Seguridad Social” (no el empleador, desde luego) abone subsidio tampoco puede entenderse que surge obligación retributiva de los sujetos obligados por el convenio colectivo.

La estructura sintáctica abunda en esa misma idea: no basta con que estemos ante una incapacidad temporal para que se active el deber retributivo, sino que resulta imprescindible:

1. 1. La existencia de esa suspensión del contrato de trabajo (art. 45.1.c ET).
   2. Que exista derecho a percibir el subsidio correspondiente (art. 171 LGSS).
   3. Que el subsidio lo abone la Seguridad Social. Por tanto, si el subsidio existe pero lo paga el empresario (art. 173.1.II LGSS) o si no surge el derecho a percibirlo por ausencia de los requisitos para ello (art. 172.a LGSS) tampoco surge el derecho a que la empresa afronte el pago contemplado en el artículo 45 del convenio colectivo (enjuiciado).

Dados los términos en que está redactado el artículo 45 del Convenio Colectivo, mientras no existe subsidio por IT abonado a cargo de la Seguridad Social (sea una Entidad Gestora, sea una Mutua colaboradora) tampoco se activa la mejora voluntaria (a cargo de la empresa) contemplada por aquel.

Contenido del convenio colectivo del sector

En el caso del Convenio colectivo analizado, el del sector de empresas de publicidad, concretamente en el Capítulo VII “Retribuciones” el artículo 45 “Incapacidad temporal” posee el siguiente texto:

Durante la situación de incapacidad temporal del trabajador/a, la empresa complementará el subsidio de Incapacidad Temporal aportado por la Seguridad Social hasta el 100% de la base de su cotización mensual, con el límite de la cuantía correspondiente al nivel salarial más alto de las tablas vigentes de este convenio en cada momento.

Como hemos señalado, la conclusión de las sentencias referidas no es extensible a todos los supuestos, habrá de estarse a la regulación que de dicho complemento se haga en cada convenio colectivo aplicable.

Calendario de aplicación del Reglamento IA de la Unión Europea

Tampoco me voy a extender para reiterar que el Reglamento regula los sistemas de IA en función del riesgo que puede suponer para los derechos fundamentales de los ciudadanos, prohibiendo aquellos sistemas que se consideran inadmisibles por poder afectar gravemente esos derechos.

Sistemas de puntuación social con IA

El artículo 5 del Reglamento contempla esas prohibiciones y entre ellas, los sistemas de puntuación social. El artículo 5.1 c) del texto del Reglamento de Inteligencia Artificial de la UE, prohíbe:

“c) La introducción en el mercado, la puesta en servicio o la utilización de sistemas de IA con el fin de evaluar o clasificar a personas físicas o a grupos de personas durante un período determinado de tiempo atendiendo a su comportamiento social o a características personales o de su personalidad conocidas, inferidas o predichas, de forma que la puntuación ciudadana resultante provoque una o varias de las situaciones siguientes:

i) un trato perjudicial o desfavorable hacia determinadas personas físicas o grupos enteros de personas en contextos sociales que no guarden relación con los contextos donde se generaron o recabaron los datos originalmente;

ii) un trato perjudicial o desfavorable hacia determinadas personas físicas o grupos de personas que sea injustificado o desproporcionado con respecto a su comportamiento social o la gravedad de este;”[La negrita es nuestra]

Ejemplos de cada una de estas circunstancias mencionadas con anterioridad:

i) Trato perjudicial o desfavorable en contextos sociales no relacionados

ii) Trato perjudicial o desfavorable injustificado o desproporcionado

Para la correcta interpretación del precepto antedicho, además del tenor literal de la norma, podemos acudir al considerando 31 del Reglamento, que se refiere específicamente a esta prohibición:

“Los sistemas de IA que permiten a agentes públicos o privados llevar a cabo una puntuación ciudadana de las personas físicas  pueden tener resultados discriminatorios y abocar a la exclusión a determinados grupos. Pueden menoscabar el derecho a la dignidad y a la no discriminación y los valores de igualdad y justicia. Dichos sistemas de IA evalúan o clasifican a las personas físicas o a grupos de estas sobre la base de varios puntos de datos relacionados con su comportamiento social en múltiples contextos o de características personales o de su personalidad conocidas, inferidas o predichas durante determinados períodos de tiempo. La puntuación ciudadana resultante de dichos sistemas de IA puede dar lugar a un trato perjudicial o desfavorable de determinadas personas físicas o grupos enteros en contextos sociales que no guardan relación con el contexto donde se generaron o recabaron los datos originalmente, o a un trato perjudicial desproporcionado o injustificado en relación con la gravedad de su comportamiento social. Por lo tanto, deben prohibirse los sistemas de IA que impliquen esas prácticas inaceptables de puntuación y den lugar a esos resultados perjudiciales o desfavorables. Esta prohibición no debe afectar a las prácticas legales de evaluación de las personas físicas que se efectúen para un fin específico de conformidad con el Derecho nacional y de la Unión.”

En una conversación con Manuel Caño nos preguntábamos, con relación a esta prohibición, si para el sistema de puntuación de las grandes plataformas de compra on-line, que utilizan sistemas de IA para alimentar sus servicios, podría suponer un problema…, y nos poníamos como ejemplo el sistema de puntuación de vendedores de Amazon. Doy por descontado que este sistema de Amazon utiliza IA.

En este ejercicio teórico, de entrada, es importante determinar si el sistema de puntuación de Amazon evalúa o clasifica a las personas físicas o a grupos de personas. Si el sistema sólo evalúa o clasifica a empresas, no estaría incluido en la prohibición.

Sin embargo, si el sistema evalúa o clasifica a las personas físicas al margen de su condición o no de empresaria, como los empleados o los clientes de Amazon, podría estar incurriendo en la prohibición. En principio he dado por buena la información del sistema que aporta Cillian Bracken-Conway en un artículo relacionado.

Obligaciones de un sistema de puntuación

Para que un sistema, como el de Amazon, cumpla con el Reglamento:

• Debe centrarse exclusivamente en evaluaciones relacionadas con el desempeño profesional y comercial de los proveedores,
• debe ser transparente, permitiendo la revisión y corrección de puntuaciones.
• debe asegurarse que no utiliza datos personales o comportamientos sociales irrelevantes para la evaluación profesional.

Es poco probable que el sistema de puntuación de Amazon, como se utiliza actualmente, se vea directamente afectado por esta prohibición específica. Su sistema se utiliza, principalmente, para evaluar la experiencia de compra y servicio al cliente, lo cual está dentro de un contexto específico y relacionado directamente con el propósito para el que se recopilan los datos.

Además, tiene propósito limitado. La puntuación se utiliza para mejorar el servicio al cliente y la experiencia de compra, no para una evaluación general de la “fiabilidad” de una persona en múltiples contextos sociales. No me consta que las consecuencias de la puntuación de Amazon generalmente se extienden a otros aspectos de la vida de una persona, fuera del contexto de compras en línea.

Creo que la evaluación de clientes para mejorar el servicio es una práctica comercial común y legítima, que probablemente se consideraría conforme al Derecho nacional y de la Unión. No hay evidencia de que el sistema de Amazon lleve a una discriminación sistemática o a la exclusión de grupos enteros en múltiples contextos sociales.

Sin embargo, es importante notar que si Amazon (o cualquier otra empresa) expandiera el uso de su sistema de puntuación más allá del contexto de compras en línea, por ejemplo, utilizándolo para influir en el acceso a otros servicios no relacionados o compartiendo estas puntuaciones con terceros para su uso en contextos diferentes, entonces podría acercarse al tipo de sistema prohibido por el reglamento.

Contexto específico y propósito limitado

En resumen, mientras el sistema se mantenga dentro de su contexto específico y propósito limitado, es poco probable que se vea afectado por esta prohibición particular del Reglamento de IA.

Previsión y ajustes preventivos

Es más, y ahora ya no sólo me refiero a Amazon sino a cualquier empresa o entidad que puntúe a sus proveedores, puede beneficiarse de una revisión proactiva del sistema de IA que para ello utilice, para asegurarse de que cumple con los principios éticos y legales emergentes en este ámbito. Esta recomendación implica tomar la iniciativa de examinar y posiblemente ajustar el sistema de puntuación de proveedores antes de que surjan problemas o se implementen regulaciones más estrictas:

1. Revisión proactiva:

   • Significa que no esperar a que haya quejas o problemas legales para actuar.
   • La empresa debería anticiparse a posibles desafíos éticos o legales examinando su sistema actual.

2. Cumplimiento de principios

   éticos:

   • Evaluar si el sistema trata a todos los proveedores de manera justa, sin importar su tamaño o ubicación.
   • Asegurarse de que los criterios de evaluación no favorezcan injustamente a ciertos tipos de empresas.
   • Considerar el impacto del sistema en la diversidad de proveedores y en la competencia del mercado.
3. Cumplimiento de principios legales emergentes:
   • Deberían considerarse las tendencias regulatorias en áreas como:
     • Protección de datos y privacidad
     • Leyes antimonopolio y de competencia justa
     • Regulaciones sobre inteligencia artificial y toma de decisiones automatizada
4. Beneficios:
   • Mejora de la reputación: Demuestra compromiso con prácticas comerciales éticas.
   • Mitigación de riesgos: Reduce la probabilidad de enfrentar desafíos legales o regulatorios en el futuro.
   • Adaptabilidad: Facilita ajustes futuros si se implementan nuevas regulaciones.
   • Relaciones con proveedores: Puede mejorar la confianza y cooperación con su red de proveedores.
5. Pasos prácticos:
   • Realizar auditorías internas del sistema de puntuación.
   • Consultar con expertos en ética, derecho y regulación tecnológica.
   • Establecer un comité de supervisión ética para el sistema.
   • Desarrollar mecanismos de retroalimentación y apelación para los proveedores.
6. Transparencia:
   • Considerar la publicación de informes sobre cómo funciona el sistema y cómo se está mejorando.
   • Esto puede ayudar a generar confianza tanto con los proveedores como con los reguladores.

En resumen, al tomar estas medidas proactivas, las empresas dueñas de plataforma on- line pueden posicionarse como líder en prácticas comerciales éticas y responsables, al tiempo que se prepara para posibles cambios en el panorama regulatorio. Esto no solo protege a la empresa de riesgos futuros, sino que también puede fortalecer sus relaciones comerciales y su posición en el mercado.

HACIA UNA CONTRATACIÓN PÚBLICA ÁGIL Y SENCILLA, Valencia, jueves 26 y viernes 27 de septiembre de 2024 en la mesa del 27 de septiembre «Mejoras en la litigiosidad: Cuestiones litigiosas en materia de contratación»

Resumen: El texto analiza la transformación del recurso especial en materia de contratación pública (REMC), destacando su éxito como mecanismo de control y transparencia. Se presentan datos que muestran la eficacia del recurso en términos de tiempo de resolución y calidad de las decisiones. Se propone ampliar el ámbito de aplicación del recurso, reduciendo o eliminando los umbrales económicos actuales, lo que permitiría un mayor control sobre contratos de menor cuantía a los umbrales actuales.

Se argumenta que esta ampliación democratizaría el control de la contratación pública, beneficiando a pequeñas y medianas empresas y empoderando a la sociedad civil. Sin embargo, se reconocen los desafíos que implica, como el aumento de la carga de trabajo para los tribunales administrativos y los costes asociados.

Para abordar estos retos, se sugieren medidas como el refuerzo de los tribunales, la implementación de sistemas de inteligencia artificial para la gestión de recursos, y la creación de mecanismos de filtro eficaces. El texto concluye que la ampliación del recurso especial, aunque desafiante, representa un paso hacia una administración pública más transparente, eficiente y adaptada a las exigencias actuales.

Importancia de la Contratación Pública

Cuando se habla de contratación pública se puede pensar de entrada que «eso de la contratación» es una cuestión meramente técnica. Por esa razón, quienes escribimos sobre «eso», casi como una liturgia solemos introducir de entrada algún dato que despierte la conciencia del lector sobre la importancia o el peso de la contratación pública en el gasto público.

Según el último informe de la OIRESCON (Oficina Independiente de Regulación y Supervisión de la Contratación), en España, el nivel de gasto en contratación pública de 2023 alcanzó el 11,55 % del Producto Interior Bruto (PIB) y el 24,87 % del total del gasto público.

Cómo se gasta

Pero además, no se trata del cuánto, sino el cómo lo gastamos. La contratación pública es una poderosa herramienta transformadora que bien utilizada apalanca la implementación de políticas públicas, más allá de la mera adquisición de bienes y servicios (compra pública estratégica).

Una herramienta tan importante y trascendente tiene que tener un sistema de gobernanza y mecanismos que garanticen el cumplimiento de la ley y la satisfacción de cada uno de los principios que informan los procesos de contratación pública, que asegure los principios de igualdad, publicidad, concurrencia, transparencia, integridad y eficiencia.

Entre esos mecanismos, uno, que encierra en sí mismo el potencial para transformar radicalmente la forma en que se gestionan los recursos públicos: el recurso especial en materia de contratación.

Recurso Especial en Materia de Contratación

Creo que, a estas alturas, los que trasteamos a diario con la compra pública reconocemos que el recurso especial en materia de contratación ha sido todo un éxito. Con sus más y sus menos, pero un acierto absoluto. Reconozco que de inicio nos mostrábamos reticentes y desconfiados: nuestro legislador para responder a las exigencias de normas comunitarias, para que existiera un mecanismo de revisión de los actos en materia de contratación, creaba un recurso especial en materia de contratos que sería resuelto por un órgano administrativo especializado. Parecía más de lo de siempre, pero no.

Las dudas pronto quedaron despejadas, los recursos resolvieron con prontitud y de manera solvente. Hoy, el recurso especial en materia de contratación es un potente mecanismo cuyas resoluciones han ido permeando a toda la contratación más allá de los límites materiales y objetivos a los que queda constreñido el recurso especial. En general, los tribunales administrativos que han resuelto este recurso han actuado de forma independiente, han sido servidos por personal especializado en contratación pública y ello ha permitido preservar, en general, la calidad de sus resoluciones.

Los datos

Es justo ilustrar cada una de las afirmaciones que hago con datos. Hoy los datos lo son todo, y a la hora de demostrar la eficacia de una medida o una institución, absolutamente necesarios. Más adelante pondré de manifiesto algunos problemas de transparencia observados en las webs de los propios Tribunales y que impiden acceder con normalidad a los datos de la actividad, costes del servicio que prestan los Tribunales y otras cuestiones que dificultan el tratamiento de la información que contienen sus resoluciones en su conjunto. Por supuesto, van mejorando, pero con cuentagotas y sin un criterio uniforme que los anime.

Los datos del tiempo

El Informe sobre la Justicia administrativa 2022 y particularmente el capítulo dedicado al ámbito de la contratación pública, elaborado por la profesora Silvia Díaz Sastre, aporta datos muy relevantes. También el capítulo X del Informe Anual de Supervisión de la OireScon 2023 dedicado a los órganos de control de la contratación.

Cantidad de recursos

Veamos en primer lugar el número de recursos. En general en 2022, han disminuido respecto del año anterior:

Imágenes tomadas del capítulo X del Informe Anual de Supervisión de la OireScon 2023

Plazo de resolución

Respecto del plazo de resolución de los recursos especiales en materia de contratación. a pesar de la disminución del número de recursos presentados, la OireScon advierte un aumento del plazo de resolución que en el informe del mismo organismo de 2022: 71 días (hábiles) de media, 3,2 meses entre la presentación y la resolución. Aún así es un plazo aceptable:

Imagen tomada del capítulo X del Informe Anual de Supervisión de la OireScon 2023

Imagen tomada del capítulo X del Informe Anual de Supervisión de la OireScon 2023

Si ampliamos el foco en el histórico de los plazos, a pesar de los cambios en el recurso introducidos por la Ley 9/2017 LCSP, puede afirmarse que la duración se ha mantenido estable aunque con tendencia a un incremento paulatino:

Imagen tomada del Informe sobre la Justicia administrativa 2022

Si nos vamos al caso extremo, el Tribunal de Contratos de Navarra en su memoria 2023 señala que «El plazo medio de resolución de las reclamaciones, teniendo en cuenta la circunstancia del retraso en la aportación del expediente por parte de los órganos de contratación, ha sido de 16,21 días. El plazo medio de resolución de las reclamaciones relativas a contratos financiados con fondos procedentes del Plan de Recuperación, Transformación y Resiliencia, ha sido de 13,57 días.» Lo que, además de abundar sobre nuestra tesis, pone sobre la mesa un problema que en cierta medida puede justificar el que los plazos de resolución no sean más cortos.

Este plazo medio, aunque supera el de dos meses previsto para que opere el silencio administrativo (art. 57.5 LCSP), es una maravilla si tenemos en cuenta los plazos que se manejan en la vía de la Jurisdicción contencioso-administrativa. De media unos 365 días en 2022.

Si nos vamos a las estadísticas del poder Judicial en 2023, en los órganos unipersonales, frente a una media de tiempo de resolución de los asuntos entre la interposición de la demanda y la sentencia transcurren 9,5 meses, en materia de contratación la media se eleva a 13,4 meses de duración. En las Salas de lo Contencioso, frente a la duración media de 9,5 meses, cuando se trata de contratación la tardanza se eleva a 16,5 meses de duración. Mucho tiempo, demasiado.

Tiempo + costes procesales

Si, a los tiempos de resolución de los asuntos, le añadimos los costes procesales (abogado y procurador) y la inseguridad jurídica en relación a las costas (en estos pleitos se personan, además de la entidad contratante, el empresario o la empresa beneficiada por el acto recurrido, lo que multiplica las costas), es evidente que la vía judicial es un mal remedio a los litigios y que el recurso especial en materia de contratación es, por decirlo de manera coloquial, «el invento de la Coca Cola». En palabras menos gráficas pero igual de expresivas de la OireScon:

«La aparición del REC supuso una auténtica revolución en la contratación pública y, desde entonces, su actividad constituye una importante herramienta para la detección de los errores e irregularidades»

Calidad de las resoluciones

Olvidémonos ahora del tiempo y pensemos en la calidad (aunque un menor tiempo también representa calidad). Como indicador para medir objetivamente la calidad de las resoluciones de los tribunales de contratación —quizás no el único, pero sí el más relevante—, utilicemos el del número de resoluciones de los tribunales del recurso especial que son recurridas ante los tribunales de la jurisdicción contencioso administrativa y que finalmente se confirman. En este indicador, el recurso especial vuelve a dar unos resultados más que aceptables.

Los datos

En cuanto a los datos, volvemos a toparnos con problemas transparencia en los Tribunales de contratación. En general, estos datos o bien se incorporan en las memorias anuales de manera aislada y sin perspectiva temporal o bien simplemente se desconocen.

En el Informe sobre la Justicia administrativa 2022, la profesora Silvia Díaz Sastre, después de señalar la dificultad de acceder a esos datos manifesta:

«El TARCCyL señala que en 2021 recayeron dos sentencias en asuntos pendientes que confirmaron el criterio del tribunal. No obstante, se dan cada vez más casos de anulación de resoluciones de estos órganos en el contencioso-administrativo. El TARCEx señala que de las 9 resoluciones impugnadas en 2021 ha recaído sentencias desestimatorias en todos los casos. Por su parte, el TACPMadrid indica en su memoria que en torno al 17 % de las sentencias dictadas en 2021 (4 de un total de 23) tienen carácter estimatorio (p. 13). Y el TACPNavarra señala que en 2021 se dictaron 7 sentencias estimatorias y 3 desestimatorias, así como 2 archivos de actuaciones; esto supone que se estimaron los recursos interpuestos en un 58,3 % de los casos.»

Un poco antes, con relación a esta cuestión Jan Sarsanedas Coll,en base a los datos del mismo informe CIJA pero del año 2019, había concluido que:

«un poco menos del 65% de los recursos contencioso-administrativos en materia de contratación son estimados (total o parcialmente) en primera instancia. Pues bien, esto significa que las resoluciones de los tribunales de contratación que resuelven sobre el fondo de los recursos especiales son aceptadas por las partes o confirmadas por la justicia en el 96,14% de los casos y únicamente son impugnadas y anuladas total o parcialmente por sentencia judicial en el 3,86% de los casos.»

Tribunal Administrativo de Contratos Públicos de Navarra

Buscando información lo más actualizada posible, el Tribunal de Contratos de Navarra en su memoria 2023 manifiesta que durante el ejercicio han recibido 5 sentencias de asuntos pendientes de las cuales únicamente en una de ellas se revisaba la decisión del Tribunal. Según la memoria de 2022, mas o menos sucedió lo mismo. 6 sentencias y únicamente una de ellas revisaba la resolución dictada por el Tribunal.

Tribunal de Recursos contractuales de la Junta de Andalucía

En el caso del Tribunal de Recursos contractuales de la Junta de Andalucía, según su memoria de 2023, el porcentaje de recisiones de las resoluciones es de un 7%, el resto de sentencias son confirmatorias.

Órgano Administrativo de Recursos contractuales Comunidad Autónoma de Euskadi

En el caso del País Vasco el OARK en su memoria 2022 presenta, igualmente, bajos o inexistentes niveles de revisión de sus resoluciones:

«Si se pone en relación el número total de sentencias que estiman en todo o en parte los recursos contencioso-administrativos cuyos pronunciamientos se han conocido antes del 31 de octubre del 2023, con el número total de recursos especiales, reclamaciones y cuestiones de nulidad interpuestos hasta el 31 de diciembre de 2022, nos encontramos con que el 97,35 por ciento de los pronunciamientos del OARC/KEAO o no han sido recurridos o, si lo han sido, no consta que sobre los mismos haya recaído sentencia desfavorable total o parcial (tasa de confirmación). Este porcentaje se refiere al número total de recursos especiales, reclamaciones y cuestiones de nulidad presentados hasta el 31 de diciembre de 2022 y no al número de resoluciones, que es inferior por contener alguna de ellas recursos acumulados.»

Tribunal Administrativo de Contratos Públicos de Aragón

El Tribunal de Contratos Públicos de Aragón, en su memoria 2022-2023, presenta, igualmente, porcentajes muy bajos de judicialización y únicamente una revisión por sentencia.

Tribunal Administrativo de Recursos Contractuales de Castilla y León

En el Tribunal Administrativo de Recursos Contractuales de Castilla y León, memoria 2023, se señala que de la actividad en 2023 se han recibido 4 sentencias, tres de ellas confirmatorias y una revisa la resolución del recurso especial dictada. En la memoria 2022:

«De la actividad de este Tribunal durante el año 2022, constan en las bases de datos jurídicas catorce pronunciamientos judiciales: once confirman total o parcialmente el fallo del Tribunal Administrativo y tres estiman el recurso contencioso-administrativo.»

Tribunal Administrativo de Contratación Pública de la Comunidad Autónoma de Galicia

En el caso del Tribunal Administrativo de Contratación Pública de Galicia, en su memoria 2022, no se ofrecen datos respecto a las sentencias que se dictan en relación a sus resoluciones, limitándose a señalar un porcentaje de litigiosidad del 8%.

Tribunal Catalán de Contratos del Sector Público

En la memoria 2022 y 2023 del Tribunal Catalán de Contratos del Sector Público, sucede algo parecido al de Galicia, limitándose a señalar unos niveles de judicialización en 2021 de 3,10 y para el 2022 de un 5,9%. Omitiendo, igualmente, informar sobre el resultado de esos recursos ante los Tribunales Contencioso Administrativos, probablemente porque, no siendo parte, no existe un mecanismo de aviso con el que realizar el control, circunstancia de la que advierte el tribunal andaluz en su citada memoria de 2023.

Tribunal Administrativo de Contratación Pública de la Comunidad de Madrid

El Tribunal Administrativo de Contratación Pública de Madrid, en su memoria 2023 señala un 100% de confirmación por sentencia de sus resoluciones recurridas en 2023. (vid. pág. 79).

Tribunal Administrativo Central de Recursos contractuales

El Tribunal Administrativo Central de Recursos contractuales, en la última memoria publicada en su web, 2021, se limita a referir un nivel de litigiosidad para 2021 de un 7,9% del total de resoluciones dictadas en el ejercicio. Desde la creación del Tribunal en octubre de 2010, el porcentaje de 21 resoluciones recurridas se ha mantenido siempre por debajo del 10%, por lo que más de un 90% han sido asumidas por las partes sin acudir a la vía jurisdiccional.

La Transformación del Recurso Especial en materia de Contratación

Desde su concepción, el recurso especial en materia de contratación ha sido el guardián silencioso de la legalidad y la transparencia en los procesos de contratación pública. Su mera existencia ha actuado como un poderoso disuasor contra las tentaciones de la arbitrariedad y la opacidad. Sin embargo, como toda herramienta jurídica, su eficacia está inexorablemente ligada a su alcance.

Y es precisamente aquí donde radica la paradoja actual: un instrumento diseñado para garantizar la pulcritud en la gestión de los recursos públicos se ve limitado por umbrales que dejan fuera de su alcance una miríada de contratos que, aunque de menor cuantía individual, en su conjunto representan una parte sustancial del gasto público.

La ampliación del ámbito objetivo y la reducción de los umbrales del recurso especial no es, por tanto, una simple expansión cuantitativa. Es, en su esencia más profunda, una declaración de principios. Es el reconocimiento tácito de que la buena administración no es una cuestión de magnitud, sino de principio. Es la afirmación de que cada euro del erario público merece la misma diligencia y escrutinio, independientemente de si forma parte de un contrato millonario o de una adquisición modesta.

Los detractores de esta ampliación argumentarán, no sin cierta lógica aparente, que extender el alcance del recurso especial podría entorpecer la agilidad administrativa, creando un sistema hipertrofiado de controles que, en última instancia, podría paralizar la maquinaria del Estado. Este argumento, aunque seductor en su simplicidad, ignora una verdad fundamental: la verdadera eficiencia no se mide únicamente en términos de velocidad, sino de precisión y justicia.

La historia de la administración pública está repleta de ejemplos donde la prisa y la falta de controles adecuados han desembocado en despilfarros, corruptelas y, en última instancia, en una pérdida de confianza ciudadana que resulta mucho más costosa y difícil de recuperar que cualquier retraso administrativo. La ampliación del recurso especial debe verse, por tanto, no como un obstáculo, sino como una inversión en la salud a largo plazo de nuestro sistema de contratación.

Además, el argumento de la eficiencia ignora los avances tecnológicos que están revolucionando la administración de justicia y la gestión pública. La implementación de sistemas de inteligencia artificial, capaces de procesar y analizar vastas cantidades de información jurídica en cuestión de segundos, promete transformar radicalmente la forma en que se gestionan los recursos administrativos. Lejos de ser un lastre, la ampliación del recurso especial podría ser el catalizador que impulse la modernización tecnológica de nuestros tribunales administrativos.

La democratización del control y la participación ciudadana

Uno de los aspectos más interesantes de la ampliación propuesta es su potencial para democratizar el control de la contratación pública. Al reducir los umbrales y ampliar el ámbito objetivo del recurso, se abre la puerta a una mayor participación de pequeñas y medianas empresas en los procesos de contratación. Estas entidades, que a menudo carecen de los recursos para embarcarse en costosos litigios contencioso-administrativos, encontrarían en el recurso especial ampliado una vía accesible y ágil para defender sus derechos e intereses.

Esta democratización del control no solo beneficia a los operadores económicos. También empodera a la sociedad civil, a las organizaciones no gubernamentales y a los ciudadanos comprometidos con la transparencia y la buena gobernanza. Al ampliar el abanico de contratos susceptibles de ser revisados a través del recurso especial, se multiplican las oportunidades para el escrutinio público y la rendición de cuentas.

Un escenario donde cada contrato público, independientemente de su cuantía, está potencialmente sujeto a un control riguroso y transparente. ¿No sería éste el mejor antídoto contra la cultura de la opacidad y el favoritismo que tanto daño ha hecho a la confianza en nuestras instituciones? La ampliación del recurso especial no es solo una cuestión de legalidad; es un paso decidido hacia una cultura de la transparencia y la responsabilidad.

El reto de la implementación: Entre la ambición y la realidad 

Ya con la Ley 9/2017 se amplió la legitimación para la interposición del recurso, el ámbito objetivo, incluyendo ya los encargos a medios propios, también a las modificaciones contractuales o rescate de concesiones. Además, desde el punto de vista cuantitativo se redujo el umbral del valor del contrato para poder acceder al recurso pasando de los importes de los contratos armonizados al importe de 3 millones en el caso de los de obras y cien mil eros en el caso de servicios y suministros.

Analicemos si sería conveniente y bajo qué requisitos ampliar el abanico de actos susceptibles del recurso, y eliminar o disminuir los umbrales.

Análisis de conveniencia y requisitos de la ampliación

El recurso especial en materia de contratación está constreñido en la LCSP a dos límites objetivos que delimitan su ámbito; por un lado los actos que pueden ser objeto del recurso especial y por otro el límite cuantitativo del valor de los contratos a los que se refieren los actos susceptibles de recurso.

Ámbito objetivo

Veamos en primer lugar el ámbito objetivo ¿a qué otros actos administrativos podría ampliarse el recurso especial?

Actualmente, según el artículo 44 de la LCSP, los actos recurribles mediante el recurso especial incluyen:

1. Anuncios de licitación, pliegos y documentos contractuales.
2. Actos de trámite que decidan directa o indirectamente sobre la adjudicación.
3. Acuerdos de adjudicación.
4. Modificaciones contractuales.
5. Encargos a medios propios.
6. Acuerdos de rescate de concesiones.

Para ampliar el ámbito objetivo del recurso especial, se podrían considerar ir más allá de la fase de preparación y adjudicación y dejar que el recurso especial entrara en la ejecución y resolución:

• Imposición de penalidades.
• Interpretación de cláusulas contractuales.
• Decisiones sobre prórrogas o ampliaciones de plazo.
• Reclamaciones de deuda y liquidación de intereses de demora.
• Acuerdos de resolución de contratos: Aunque la resolución de contratos puede recurrirse por vía ordinaria, incluirla en el ámbito del recurso especial podría ofrecer una resolución más rápida y especializada.

He apuntado la ampliación de los actos susceptibles de recurso, por no obviar una cuestión que hay quien la ha apuntado, pero sinceramente, con relación a la ampliación del recurso, pienso que al cumplimiento de los objetivos o beneficios que hemos ido indicando, sería suficiente con la desaparición o reducción de los umbrales económicos para el acceso al recurso frente a los mismos actos.

Creo que cualquier modificación en el recurso especial hay que manejarla con cautela, no vaya a ser que el efecto que se produzca acabe por precisamente provocar lo contrario a lo buscado y el sistema colapse.

Actualmente, según la LCSP, los umbrales para el recurso especial en contratos de obras son:

• contratos de obras: valor estimado superior a 3.000.000 euros,
• contratos de concesión valor estimado superior a 3.000.000 euros,
• contratos de suministro y servicios: valor estimado superior a 100.000 euros,
• contratos de servicios y concesiones de servicios (para servicios especiales del Anexo IV): valor estimado superior a 750.000 euros,
• acuerdos marco y sistemas dinámicos de adquisición: valor estimado superior a 100.000 euros.

La eliminación total del umbral por valor del contrato para el recurso especial es una propuesta audaz que podría transformar radicalmente el panorama de la contratación pública en España. Tiene el potencial de crear un sistema más equitativo y transparente, pero también conlleva riesgos significativos de sobrecarga del sistema y posible paralización administrativa. En mi opinión demasiados riesgos.

Su implementación requeriría un compromiso político y económico muy importante, así como una transformación profunda en la cultura administrativa y jurídica del país. No es una medida que pueda adoptarse a la ligera o a corto plazo.

Una alternativa podría ser considerar una reducción drástica de los umbrales (por ejemplo, a 15.000 euros para servicios y suministros, coincidiendo con el límite superior de los contratos menores) y en obras 40.000, como paso intermedio, evaluando cuidadosamente su impacto antes de considerar una eliminación total.

En última instancia, la decisión de eliminar completamente los umbrales debería basarse en un análisis costo-beneficio exhaustivo y en un amplio consenso entre los diferentes actores del sistema de contratación pública.

Desafíos prácticos de la ampliación del ámbito objetivo

Naturalmente, la reducción de los umbrales del recurso especial, o en su caso la ampliación del ámbito objetivo del recurso a otros actos, no está exenta de desafíos prácticos. Veamos alguno de estos desafíos:

1. Aumento significativo de la carga de trabajo: Los tribunales administrativos podrían verse desbordados por un incremento masivo en el número de recursos.
2. Riesgo de paralización administrativa: Podría llevar a retrasos significativos en la adjudicación y ejecución de contratos, especialmente los de menor cuantía y mayor urgencia.
3. Costes administrativos: Incremento sustancial en los costes de gestión de recursos para las administraciones públicas.
4. Posible uso abusivo: Riesgo de que el recurso se utilice de manera temeraria o como táctica dilatoria en contratos de escasa cuantía.
5. Desproporción entre el valor del contrato y el coste del recurso: En contratos de muy bajo valor, el coste de gestionar el recurso podría superar el valor del propio contrato.
6. Impacto en la eficiencia de la contratación pública: Podría llevar a una excesiva judicialización de la contratación pública, afectando la agilidad y eficiencia del sistema.

Sin embargo, este riesgo, lejos de ser un argumento en contra de la reforma, debe verse como una oportunidad para repensar y modernizar nuestro sistema de justicia administrativa.

La solución a este desafío pasa por una combinación de medidas organizativas, procesales y tecnológicas.

Medidas necesarias para implementar esta propuesta

1. Refuerzo masivo de los tribunales administrativos: Aumento significativo en personal, recursos tecnológicos y posiblemente creación de nuevos tribunales especializados.
2. Sistema de filtro robusto: Implementación de mecanismos eficaces para descartar rápidamente recursos temerarios o manifiestamente infundados.
3. Digitalización y automatización avanzada: Desarrollo de sistemas de inteligencia artificial para la gestión y análisis preliminar de recursos.
4. Reforma legislativa profunda: Modificación de la LCSP.
5. Periodo de transición extendido: Implementación gradual, posiblemente a lo largo de varios años, para permitir la adaptación del sistema.
6. Mecanismos alternativos de resolución de conflictos: Potenciar la mediación y el arbitraje, especialmente para contratos de menor cuantía.
7. Programa de formación masiva: Capacitación extensiva para funcionarios, licitadores y operadores jurídicos sobre el nuevo sistema.
8. Sistema de monitoreo y evaluación continua: Seguimiento detallado del impacto de la medida, con posibilidad de ajustes según los resultados observados.

Integración de tecnologías avanzadas (IA)

Quizás el aspecto más revolucionario y prometedor sea la integración de tecnologías avanzadas en la administración de justicia en materia de contratación.

La integración de la inteligencia artificial (IA) en el proceso de resolución de recursos especiales en materia de contratación promete revolucionar la eficiencia y la precisión del sistema. Más allá de la mera automatización de tareas rutinarias, la IA podría desempeñar un papel crucial en el análisis profundo de los casos. Por ejemplo, los sistemas de procesamiento de lenguaje natural podrían examinar rápidamente miles de documentos relacionados con el recurso, incluyendo el texto del contrato, la legislación aplicable, y la jurisprudencia relevante, para identificar patrones, inconsistencias y precedentes clave.

Estos sistemas podrían generar resúmenes automáticos de los casos, destacando los puntos críticos y sugiriendo líneas de argumentación basadas en casos similares anteriores. Además, los algoritmos de aprendizaje automático podrían analizar las características de los recursos presentados para predecir su probabilidad de éxito, lo que ayudaría a priorizar los casos y asignar recursos de manera más eficiente. La IA también podría asistir en la detección temprana de recursos potencialmente frívolos o mal fundamentados, permitiendo una respuesta más rápida y ahorrando tiempo y recursos valiosos.

Desafíos de la integración de la IA

Sin embargo, la implementación de la IA (Inteligencia Artificial) en este contexto también plantea desafíos importantes que deben abordarse. Es crucial desarrollar sistemas que sean transparentes en su funcionamiento y cuyos resultados puedan ser explicados y justificados. La toma de decisiones debe ser siempre rastreable y responsable. Además, se deben implementar salvaguardias robustas para prevenir sesgos algorítmicos que podrían perpetuar o exacerbar injusticias existentes en el sistema. Por ejemplo, si los datos históricos utilizados para entrenar los modelos de IA contienen sesgos, estos podrían reflejarse en las recomendaciones del sistema.

Por lo tanto, es esencial que haya una supervisión humana continua y que los sistemas de IA se utilicen como herramientas de apoyo a la decisión, no como sustitutos del juicio humano. También será necesario desarrollar programas de formación especializados sobre cómo interpretar y utilizar eficazmente las recomendaciones de los sistemas de IA. Finalmente, se deberán establecer protocolos claros para la actualización y mantenimiento de estos sistemas, asegurando que se mantengan al día con los cambios en la legislación y la jurisprudencia.

Imaginemos un sistema donde los jueces administrativos cuenten con asistentes virtuales capaces de analizar en segundos miles de resoluciones previas, identificar patrones y precedentes relevantes, y sugerir líneas argumentales. Esto no solo aumentaría la eficiencia, sino que también podría contribuir a una mayor coherencia y previsibilidad en las resoluciones.

Del otro lado, un sistema de este tipo podría anticipar el resultado probable de un pleito, permitiendo a las empresas considerar con mayor criterio la interposición de los recursos. Si el proyecto Red Flags de Hungría es capaz de predecir los problemas que puede tener una licitación y advertirlo a los eventuales licitadores, por qué no un sistema que anticipe el resultado probable de un litigio basado en la doctrina de los tribunales.

La transparencia como piedra angular

Un elemento crucial para el éxito de una reforma de este tipo es la transparencia. La ampliación del recurso especial debe ir acompañada de un compromiso inquebrantable con la apertura y la accesibilidad de la información. Esto implica no solo la publicación de las resoluciones, sino también la creación de bases de datos abiertas y estructuradas que permitan el análisis y la investigación por parte de académicos, periodistas y ciudadanos interesados. También la publicación de los costes de funcionamiento del tribunal

La estandarización del formato de las resoluciones, de las memorias y el tiempo de su publicación, la implementación de sistemas de etiquetado semántico y la creación de interfaces de programación de aplicaciones (APIs) públicas son pasos fundamentales en esta dirección. Estas medidas no solo facilitarían el trabajo de los profesionales del derecho y la contratación pública, sino que también abrirían la puerta a innovaciones tecnológicas.

El impacto en la cultura administrativa 

Más allá de sus efectos jurídicos y prácticos inmediatos, la ampliación del recurso especial tiene el potencial de catalizar un cambio profundo en la cultura administrativa. Al extender el alcance del control y la transparencia a un mayor número de contratos, se envía un mensaje claro: cada decisión, cada euro gastado, está sujeto al escrutinio público y debe poder justificarse.

Este cambio cultural podría tener efectos cascada en toda la administración pública. Funcionarios más conscientes de la posibilidad de revisión de sus decisiones podrían ser más diligentes en la preparación y justificación de los expedientes de contratación. Las empresas licitadoras, sabiendo que tienen a su disposición un mecanismo ágil y accesible para impugnar decisiones injustas, podrían sentirse más incentivadas a participar en procesos de contratación pública, aumentando la competencia y, por ende, la eficiencia en el uso de los recursos públicos.

Además, esta cultura de transparencia y control podría tener un efecto pedagógico en la sociedad en general. Ciudadanos más informados y conscientes de cómo se gestionan los recursos públicos están mejor equipados para participar activamente en la vida democrática y exigir responsabilidades a sus representantes.

Este nuevo paradigma no está exento de desafíos. Requerirá inversión en recursos humanos y tecnológicos, una reingeniería de procesos administrativos y, sobre todo, un cambio de mentalidad en todos los actores involucrados en la contratación pública. Sin embargo, los beneficios potenciales son inconmensurables: una administración más transparente y responsable, un uso más eficiente de los recursos públicos, y una recuperación de la confianza ciudadana en las instituciones.

En última instancia, la ampliación del recurso especial es una declaración de fe en la capacidad de nuestro sistema administrativo para reinventarse y adaptarse a las exigencias del siglo XXI. Es un reconocimiento de que, en la era de la información y la transparencia, la legitimidad de la acción administrativa no puede basarse únicamente en la presunción de legalidad, sino que debe ganarse día a día a través de la apertura, la justificación y el sometimiento al escrutinio público.

El camino hacia este nuevo paradigma no será fácil ni rápido. Requerirá voluntad política, innovación tecnológica y, sobre todo, un compromiso inquebrantable con los principios de buen gobierno. Pero es un camino que debemos emprender si queremos construir una administración pública a la altura de las expectativas y necesidades de nuestra sociedad. La ampliación del recurso especial en materia de contratación es, en este sentido, mucho más que una reforma administrativa: es un paso decidido hacia la construcción de una democracia más transparente, participativa y justa.

Planteamiento

La Intersección de la IA y la Contratación Pública

En el umbral de una nueva era tecnológica, nos encontramos contemplando la intersección entre la inteligencia artificial (IA) y uno de los pilares fundamentales de la gobernanza moderna: la contratación pública. Esta confluencia promete una revolución en la forma en que los gobiernos adquieren bienes y servicios, ofreciendo la posibilidad de una eficiencia sin precedentes, una transparencia cristalina y una objetividad inmaculada. Eso sobre el papel. Como ocurre con toda innovación transformadora, conviene abordar esta fusión con una mezcla de entusiasmo cauto y escepticismo crítico.

Evolución de la Contratación Pública

La contratación pública –intrincado baile de regulaciones, expectativas, necesidades y propósitos estratégicos–, ha sido durante mucho tiempo un campo fértil para la innovación administrativa. Desde los primeros días de la burocracia ‘weberiana’ hasta la era actual de gobierno electrónico, hemos buscado constantemente formas de mejorar la equidad, la eficiencia y la efectividad de cómo se gasta el dinero de los ciudadanos. La introducción de la IA en este ámbito representa el siguiente paso lógico en esta evolución, pero también plantea preguntas fundamentales sobre la naturaleza de la toma de decisiones en el sector público.

Participación de Asistentes Virtuales

En breve, asistentes virtuales basados en IA participarán activamente en cada etapa del proceso de contratación. Desde la preparación del contrato, la redacción de los documentos, la licitación, la evaluación de la solvencia de los licitadores, el análisis minucioso de las ofertas presentadas, la adjudicación, hasta su ejecución, estos sistemas prometen procesar vastas cantidades de información a velocidades que son impensables siquiera para los más eficientes equipos humanos. La visión es seductora: decisiones libres de prejuicios humanos, basadas puramente en datos y algoritmos, optimizando cada céntimo del gasto público¹En Estados Unidos, la Administración General de Servicios GSA utiliza la herramienta CALI, que es una herramienta de evaluación automatizada de aprendizaje automático diseñada para optimizar la evaluación de las propuestas de los proveedores en relación con los requisitos de la licitación para respaldar el proceso de selección de fuentes. Una vez que el oficial de contratación (CO) ha recibido las propuestas de los proveedores para una licitación y está listo para realizar el proceso … Continuar leyendo.

Complejidades y Riesgos de la IA

Sin embargo, a medida que nos adentramos en esta visión, las complejidades y los riesgos comienzan a emerger sombríamente. La evaluación de la solvencia de un licitador, por ejemplo, no es simplemente una cuestión de números en una hoja de cálculo. Implica una comprensión matizada del contexto empresarial, las tendencias del mercado y, a veces, factores intangibles que pueden ser cruciales para el éxito de un proyecto.

Capacidad de la IA para Evaluar Licitadores

¿Puede un sistema de IA, por muy avanzado que sea, captar realmente la esencia de la capacidad necesaria de una empresa para cumplir con un contrato complejo? Si vamos más allá, comprenderemos también que la irrupción de la IA impulsará modificaciones legislativas que aproveche la reducción irremediable de las asimetrías de información. Los sistemas de IA pueden tener una visión 360 de la realidad y los antecedentes de una empresa, de tal manera que en los criterios de selección de los contratistas podrán considerarse otras cuestiones como la capacidad real de una empresa para hacer frente al contrato que se licita conociendo los contratos públicos que en cada momento ejecuta y la evaluación obtenida en esos contratos que ejecuta y ha ejecutado.

Evaluación de Ofertas: Un Terreno Pantanoso

Más aún, cuando pasamos a la evaluación de las ofertas, nos adentramos en un terreno realmente pantanoso. Los criterios de adjudicación a menudo incluyen elementos que requieren juicios de valor: la calidad de una propuesta técnica, el potencial innovador de una solución, o el impacto social de un proyecto. Estos son aspectos que desafían la cuantificación fácil y que, hasta ahora, han requerido del conocimiento y la experiencia y el conocimiento de las personas. La introducción de la IA en este proceso plantea preguntas fundamentales sobre la naturaleza del juicio y la toma de decisiones en el ámbito público.

Juicios de Valor en Proyectos de Renovación Urbana

Consideremos, por ejemplo, un proyecto de renovación urbana. Un sistema de IA podría, sin duda, analizar eficientemente aspectos cuantitativos como costos, plazos y especificaciones técnicas. Pero ¿cómo evaluaría la calidad estética de los diseños propuestos? ¿Cómo ponderaría el impacto potencial en la cohesión social de la comunidad? Estos son juicios que, hasta ahora, han requerido una comprensión profunda del contexto local, una apreciación de las dinámicas sociales y, a menudo, un cierto grado de intuición informada.

Implicaciones Éticas y Legales

Además, debemos considerar las implicaciones éticas y legales de abandonar siquiera parcialmente decisiones que involucren gasto público a la IA²En este punto permíteme que recomiende la lectura de este artículo: Mazrekaj, Deni and Titl, Vítězslav and Schiltz, Fritz, Identifying Politically Connected Firms: A Machine Learning Approach (June 4, 2021). Disponible en este enlace o en este otro. Describe perfectamente el proceso para el uso de algoritmos de aprendizaje automático para mejorar la identificación de empresas políticamente conectadas con conflictos de interés. Sobre este asunto también es relevante el trabajo de … Continuar leyendo. La contratación pública se rige por principios fundamentales de transparencia, igualdad de trato y proporcionalidad. La introducción de sistemas de IA complejos, a menudo descritos como “cajas negras” debido a la opacidad de sus procesos de toma de decisiones, plantea serios desafíos a estos principios.

Transparencia y Conflictos de Interés

¿Cómo garantizamos la transparencia cuando incluso los creadores de estos sistemas pueden tener dificultades para explicar exactamente cómo se llegó a una decisión particular?³Se habla incluso de conflictos de interés de la IA. Los sistemas de inteligencia artificial pueden detectar preferencias sutiles. Si la función de optimización de las recomendaciones tiene en cuenta el interés del usuario, el interés del titular del sistema y además del interés del cliente, esto puede dar lugar a conflictos de intereses. Vid. video

Sesgo en los Sistemas de IA

El riesgo de perpetuar o incluso amplificar sesgos existentes es otra preocupación crítica. Los sistemas de IA aprenden de los datos históricos, y si estos datos reflejan prejuicios pasados o prácticas discriminatorias, existe el peligro real de que estos sesgos se codifiquen en los algoritmos, llevando a una discriminación sistemática y algorítmica. Esto es particularmente preocupante en el contexto de la contratación pública, donde uno de los objetivos clave es fomentar la diversidad y la inclusión en el gasto público⁴En el Reino Unido, el Gobierno Digital Service está explorando el uso de IA para identificar sesgos (bias) en los procesos de contratación pública. Más información.. Y en este punto nos podemos asomar al abismo ¿Podría un sistema de IA incurrir en conflicto de interés? ¿Cómo se asegura el que el sistema no esté aprovechando su posición “privilegiada” en los procedimientos de licitación para beneficiarse a sí mismo o a terceros vinculados de forma directa o indirecta…

Potencial de la IA en la Contratación Pública

Sin embargo, a pesar de estos desafíos y riesgos, sería miope descartar por completo el potencial de la IA en la contratación pública. En ciertas áreas, especialmente en tareas repetitivas y basadas en reglas, la IA ya está demostrando su valor. La verificación automatizada de documentación, la detección de anomalías en las ofertas, o el análisis de patrones de gasto para identificar oportunidades de ahorro son ejemplos de áreas donde la IA puede complementar eficazmente el juicio humano⁵La plataforma Mercado Público de Chile utiliza IA para clasificar automáticamente los productos y servicios ofertados, facilitando la búsqueda y comparación de ofertas..

Hacia un Enfoque Híbrido

El camino hacia adelante, por lo tanto, no es una elección binaria entre adopción entusiasta o rechazo categórico de la IA en la contratación pública. En su lugar, debemos buscar un equilibrio cuidadoso, un enfoque híbrido que aproveche las fortalezas tanto de la IA como del juicio humano. Esto requiere una comprensión matizada de las capacidades y limitaciones de la tecnología actual, así como una consideración cuidadosa de dónde y cómo la IA puede agregar valor sin comprometer los principios fundamentales de la gobernanza pública. Sospechamos que en la mayor parte de los casos pensar en el uso de la IA puede resultar ser un fin en sí mismo y que para la solución de gran parte de los problemas que ahora apreciamos en la contratación pública relacionados con su complejidad y falta de agilidad pueden encauzarse sin necesidad de utilizar la bala de plata que para la administración es la IA

Un Marco Ético Robusto

A medida que avanzamos, es crucial que el desarrollo y la implementación de sistemas de IA en la contratación pública se guíen por un marco ético robusto. Esto implica no solo consideraciones técnicas, sino también un diálogo continuo con todas las partes interesadas: funcionarios públicos, proveedores, expertos en ética y la sociedad civil en general. La transparencia en el diseño y uso de estos sistemas, la capacidad de auditar y explicar las decisiones, y la existencia de mecanismos de supervisión y apelación humana deben ser componentes no negociables de cualquier sistema de IA en la contratación pública⁶Desde esta perspectiva, en el nuevo Reglamento europeo de IA, se han considerado como referencia las Directrices Éticas para una IA confiable que en 2019 presentó la Comisión Europea y la Declaración Europea sobre los Derechos y Principios Digitales para la Década Digital. El Reglamento europeo de Inteligencia Artificial forma parte del paquete de medidas políticas para apoyar el desarrollo de una IA fiable de la que forman parte el Paquete de Innovación en IA y el Plan Coordinado … Continuar leyendo.

Desafíos de Gobernanza

Además, debemos reconocer que la introducción de la IA en este ámbito no es simplemente un desafío tecnológico, sino también un desafío de gobernanza. Requiere una reconsideración de los marcos legales y regulatorios existentes, así como el desarrollo de nuevas competencias dentro del sector público. Los funcionarios encargados de la contratación necesitarán no solo “expertise”⁷habilidad o conocimiento especial, pericia. en adquisiciones y derecho administrativo, sino también una comprensión básica de la ciencia de datos y la ética de la IA⁸Singapur ha implementado el programa “AI Apprenticeship Programme” para formar a funcionarios públicos en IA y ciencia de datos, incluyendo aplicaciones en contratación pública..

Un Viaje, No un Destino

En última instancia, la integración de la IA en la contratación pública es un viaje, no un destino. Es un proceso que requerirá experimentación cuidadosa, aprendizaje continuo y, sobre todo, un compromiso inquebrantable con los valores fundamentales de la gobernanza democrática. A medida que avanzamos en este camino, debemos mantener un equilibrio delicado entre la innovación y la precaución, entre la eficiencia y la equidad, entre la automatización y el juicio humano.

La promesa de la IA en la contratación pública es real y emocionante. Imaginar un futuro donde las decisiones de gasto público se tomen con una precisión y eficiencia sin precedentes distorsionadores es verdaderamente inspirador. Sin embargo, también debemos ser conscientes de los peligros potenciales y abordar este futuro con los ojos bien abiertos. Solo a través de una reflexión crítica continua, un diálogo abierto y un compromiso inquebrantable con los principios éticos podremos navegar con éxito la compleja intersección entre la inteligencia artificial y la contratación pública.

IA y contratación pública: un noviazgo que acabará en matrimonio

Cuando hablamos de contratación pública, al fin y al cabo estamos hablando de procedimiento. Pero se trata de un procedimiento muy especial, por ser el más destacado dentro de un ayuntamiento teniendo en cuenta simultáneamente los aspectos cuantitativo y cualitativo; un procedimiento que, de gestionarse correctamente, puede marcar la diferencia global entre una buena y una mala gestión. Tan importante es. Por eso resulta fundamental incorporar adecuadamente la IA en los distintos trámites, procedimientos, políticas e incluso estrategias relacionadas con la contratación de la entidad local.

Este es un procedimiento que soporta muy bien la introducción de las nuevas tecnologías, pues de hecho llevamos incorporándolas desde hace años, teniendo además la adecuada cobertura legal desde 2014 (con la citada Directiva, rematada en 2017 con la LCSP), y siendo especialmente compatible con cualquier medida que mejore el cumplimiento de los principios de concurrencia (declaraciones responsables, registros de licitadores, obligación de trámites electrónicos para los licitadores, con el consiguiente ahorro) e integridad (encriptación de ofertas, subastas electrónicas, Blockchain, etc.).

En cuanto a la citada relación “sentimental” que reza el epígrafe, entendemos que gira en torno a cuatro ideas fuerza que reflejan de forma clara la estrecha relación entre IA y contratación pública. Se trata pues de una relación que se manifiesta en cuatro niveles:

1. Incorporación de los sistemas de IA al procedimiento de contratación, especialmente a la fase de licitación. Este aspecto se puede hacer extensivo a la fase de preparación (donde la IA generativa podría ayudar con la elaboración de los pliegos), ejecución (donde la gestión de los datos es fundamental), y extinción, con lo cual impactaría sobre toda la vida del contrato.
2. Fomento de las políticas públicas de innovación mediante la actividad contractual pública, fundamentalmente a través de la modalidad de compra pública de innovación (CPI) y, aunque no se trata exactamente de un contrato, de los ya estudiados entornos de prueba (sandbox).
3. Contratos de concesión de servicios. Incorporación de la tecnología a las infraestructuras que soportan los servicios, imponiéndolo al contratista desde el pliego. Utilización de dicha tecnología para la buena gestión del servicio (servicios inteligentes). Generación de datos para diversas finalidades, todas ellas ya estudiadas, y con especial referencia a la descrita en el siguiente punto:
4. Control y fiscalización de los contratos a través de sistemas de IA que identifiquen irregularidades de todo tipo. Para ello disponemos de diferentes mecanismos: monitoreo constante, auditorías automatizadas, inspecciones apoyadas en datos, toma de decisiones apoyadas en datos, evaluación y mejora continua, etc., muchos de ellos también referidos en distintos lugares de esta obra.

Y todo ello rematado con el ejemplo real de las aún escasas pero buenas prácticas de algunas entidades del sector público, las cuales demuestran que la incorporación de esta tecnología disruptiva marca un antes y un después en el cumplimiento de los principios de legalidad, transparencia, objetividad, eficacia y eficiencia, unos principios que están estrechamente relacionados con la actividad contractual pública.

Conclusiones

Para algunas funciones a realizar por la IA, apenas se necesitará control humano: mejora en la redacción de los pliegos, corrección del uso de una normativa desfasada, la detección de aspectos que inicialmente pueda hacer pensar en una colusión de empresas, aplicación de criterios de adjudicación automáticos, etc. Otras funciones, sin embargo, como la comparación de ofertas que dependan de un juicio de valor y su valoración, es más delicada y debemos mantener las máximas cautelas para evitar sesgos.

No debemos olvidar que cualquier sistema es hackeable y, por lo tanto, sus sistemas pueden ser comprometidos o manipulados, como cualquier otra tecnología, introduciendo datos que puedan llevar a favorecer a algunos licitadores. Por ello, cualquier propuesta de la IA se debe considerar como una ayuda para la toma de decisiones, siempre supervisada.

Será necesario conocer quién y cómo se va a auditar la tecnología con IA especializada en contratación pública. Se deberá garantizar el máximo sistema de seguridad para encriptar todos los datos sensibles que se le van a proporcionar: partes confidenciales de una memoria técnica, datos de trabajadores a adscribir a un contrato con diversidad funcional, etc. debiendo asegurar la anonimización y el cifrado de datos.

En el balance entre la preocupación del uso de la IA y la ilusión por el valor que nos puede aportar, debe prevalecer esta última. La IA supone una bocanada de aire fresco en los servicios de contratación, en los que tenemos una gran carga de trabajo y tratamos con expedientes complejos y delicados. Vamos a tener un asistente en todo momento para corregir pliegos, buscar soluciones a los conflictos que vayan surgiendo en todas las fases del procedimiento a través de la comparación de resoluciones administrativas y jurisdiccionales, análisis de ofertas, etc.

En conclusión, el miedo a la irrupción de esta nueva tecnología se reduce mucho si pensamos que es una herramienta colaboradora en nuestro trabajo, siempre sometida a nuestra supervisión. No se trata de dejar que la IA decida, sino de que nos de información para una toma de decisión mucho más precisa.

De hecho, esta normativa europea es la primera en el mundo en intentar una regulación exhaustiva del uso de la IA y probablemente servirá de modelo para otros países que decidan seguir el ejemplo y adoptar una normativa integral para gestionar el desarrollo y el uso de la Inteligencia Artificial.

Hemos iniciado este recorrido hablando de las Prohibiciones del Reglamento. En la entrada de hoy, haremos un breve recorrido por los sujetos afectados y obligados por el reglamento.

Obligaciones para los Proveedores

Definición y Responsabilidades

Los proveedores de sistemas de IA tienen la responsabilidad primordial de garantizar que sus productos cumplan con los requisitos establecidos por el Reglamento antes de ser introducidos en el mercado o puestos en servicio¹Artículo 3, versión final acordada del Reglamento sobre la Inteligencia Artificial..

Esto incluye la realización de evaluaciones de conformidad, la elaboración de la documentación técnica y la implementación de sistemas de gestión de riesgos. Por ejemplo, una startup que desarrolla un algoritmo de IA para diagnóstico médico debe asegurarse de que su sistema no solo funcione correctamente, sino que también cumpla con todas las normativas de privacidad y seguridad.

Sistemas de IA de Alto Riesgo

Para los sistemas de Inteligencia Artificial clasificados como de alto riesgo, las obligaciones son particularmente estrictas. Los proveedores deben llevar a cabo una evaluación de riesgos exhaustiva y continua, garantizando que los sistemas cumplan con los requisitos esenciales de seguridad y fiabilidad.

Estos requisitos incluyen, entre otros, la necesidad de transparencia, la documentación detallada y la supervisión humana adecuada²Artículo 10, versión final acordada del Reglamento sobre la Inteligencia Artificial.. Así, una empresa que desarrolla software de reconocimiento facial para seguridad pública no solo debe preocuparse por la precisión de su sistema, sino también por cómo evitar que este se convierta en una herramienta de vigilancia masiva al estilo de “1984“.

Transparencia y Trazabilidad

Otra obligación crítica para los proveedores es asegurar la transparencia y trazabilidad de sus sistemas de IA. Esto se traduce en la necesidad de proporcionar información clara y accesible sobre las capacidades y limitaciones de los sistemas, así como sobre los datos utilizados para su entrenamiento³Artículo 13, versión final acordada del Reglamento sobre la Inteligencia Artificial.. En otras palabras, no se trata solo de crear una IA impresionante, sino también de asegurarse de que los usuarios sepan exactamente qué esperar y cómo se llegó allí. Después de todo, nadie quiere descubrir que su asistente virtual ha estado aprendiendo a partir de las conversaciones privadas de sus usuarios.

Obligaciones para los Responsables del Despliegue

Definición y Responsabilidades

Los responsables del despliegue de sistemas de IA son aquellos que utilizan estos sistemas bajo su propia autoridad. Este grupo incluye desde empresas hasta organismos públicos, y tienen la obligación de utilizar los sistemas de acuerdo con las instrucciones proporcionadas por los proveedores, garantizando que las medidas de supervisión humana sean adecuadas y efectivas⁴Artículo 28, versión final acordada del Reglamento sobre la Inteligencia Artificial.. Por ejemplo, una compañía aérea que emplea IA para gestionar la asignación de vuelos debe asegurarse de que el sistema no discrimine a los pasajeros por razones arbitrarias.

Monitorización y Reporte

Los responsables del despliegue deben monitorizar continuamente el funcionamiento de los sistemas de IA y reportar cualquier incidente o anomalía significativa a los proveedores y, en su caso, a las autoridades competentes⁵Artículo 30, versión final acordada del Reglamento sobre la Inteligencia Artificial.. Esta obligación asegura que cualquier problema pueda ser identificado y corregido rápidamente, minimizando los riesgos para los usuarios y el público en general. Imagina el caos si un sistema de IA encargado de gestionar el tráfico de una ciudad decide que es hora de que todos los semáforos se pongan en verde al mismo tiempo.

Obligaciones para las Autoridades Públicas

Supervisión y Vigilancia del Mercado

Las autoridades públicas tienen un papel crucial en la supervisión y vigilancia del mercado para garantizar el cumplimiento del Reglamento. Esto incluye la realización de inspecciones, la evaluación de la conformidad de los sistemas de IA en el mercado y la imposición de sanciones en caso de incumplimiento⁶Artículo 63, versión final acordada del Reglamento sobre la Inteligencia Artificial.. La ironía radica en que, en un mundo ideal, estas mismas autoridades deberían estar usando sistemas de IA para hacer su trabajo más eficiente, no para corregir los desastres causados por otros sistemas de IA.

Espacios Controlados de Pruebas

Además, el Reglamento prevé la creación de espacios controlados de pruebas para la IA, donde las autoridades pueden supervisar el desarrollo y prueba de nuevos sistemas en un entorno regulado. Estos espacios tienen como objetivo facilitar la innovación mientras se asegura que los nuevos desarrollos cumplan con los estándares de seguridad y ética⁷Artículo 53, versión final acordada del Reglamento sobre la Inteligencia Artificial..

Otros Sujetos y Obligaciones

Personas Afectadas

Las personas físicas ubicadas en la Unión Europea que se ven afectadas por los sistemas de IA también son sujetos importantes dentro del Reglamento. Estas personas tienen derecho a ser informadas sobre el uso de la IA en procesos que les afectan y a la protección de sus datos personales⁸Artículo 60, versión final acordada del Reglamento sobre la Inteligencia Artificial.. En otras palabras, si tu frigorífico inteligente decide compartir con el supermercado local que has estado comiendo demasiado helado, tienes derecho a saberlo.

Representantes Autorizados

Representantes autorizados de proveedores que no están establecidos en la Unión Europea tienen la obligación de asegurar que los sistemas de IA que representan cumplan con los requisitos del Reglamento antes de ser introducidos en el mercado⁹Artículo 26, versión final acordada del Reglamento sobre la Inteligencia Artificial.. Así, si una empresa estadounidense quiere vender su tecnología de IA en Europa, deberá pasar por el riguroso proceso de validación europeo, asegurándose de que no solo sepa cómo decir “Bonjour” y “Guten Tag”.

Fabricantes de Productos con Sistemas de IA

Los fabricantes que introducen en el mercado o ponen en servicio un sistema de IA junto con su producto y bajo su propio nombre o marca deben garantizar que estos sistemas cumplan con las normativas del Reglamento¹⁰Artículo 27, versión final acordada del Reglamento sobre la Inteligencia Artificial.. Si un fabricante de coches lanza un vehículo con un sistema de conducción autónoma, tendrá que asegurarse de que el coche no solo cumple con los estándares de seguridad tradicionales, sino también con las nuevas normativas de IA.

Importadores y Distribuidores

Importadores y distribuidores de sistemas de IA en la Unión Europea tienen la responsabilidad de asegurarse de que los productos que introducen en el mercado cumplen con todas las normativas aplicables y deben cooperar con las autoridades en caso de investigaciones o auditorías¹¹Artículo 28, versión final acordada del Reglamento sobre la Inteligencia Artificial..

Proveedores y Responsables del Despliegue Extranjeros

Proveedores y responsables del despliegue de sistemas de IA ubicados en terceros países están sujetos a las mismas normativas cuando los resultados generados por el sistema de IA se utilizan en la Unión Europea¹²Artículo 29, versión final acordada del Reglamento sobre la Inteligencia Artificial..

Excepciones y Flexibilidades

Simplificación para Pymes

Las microempresas pueden cumplir determinados elementos del sistema de gestión de calidad de manera simplificada, siempre que no afecte al nivel de protección requerido. Esta disposición busca fomentar la participación de las pymes en el desarrollo de IA sin imponerles cargas desproporcionadas¹³Artículo 47, versión final acordada del Reglamento sobre la Inteligencia Artificial..

Investigación y Desarrollo

Los sistemas y modelos de IA desarrollados y puestos en servicio únicamente con fines de investigación y desarrollo científico están exentos de algunas de las obligaciones del Reglamento, siempre y cuando no sean introducidos en el mercado ni puestos en servicio¹⁴Artículo 49, versión final acordada del Reglamento sobre la Inteligencia Artificial.. Esta excepción es fundamental para mantener un entorno de innovación activo y dinámico. Que la apocalipsis se desate en un entorno controlado.

Consideraciones Finales

El Reglamento de Inteligencia Artificial de la UE establece un marco riguroso y detallado para la gestión de riesgos asociados con la IA, imponiendo obligaciones claras a una amplia gama de actores. Al mismo tiempo, proporciona flexibilidades para apoyar la innovación y la competitividad, particularmente para las pymes y en el ámbito de la investigación. La implementación efectiva de estas obligaciones y prescripciones será crucial para asegurar que la IA se desarrolle y utilice de manera que beneficie a la sociedad en su conjunto, protegiendo al mismo tiempo los derechos fundamentales y la seguridad pública.

Infografía Reglamento Europeo de IA. Sujetos afectados y obligados

Esta iniciativa legislativa marcó el inicio de un largo proceso de negociación entre las instituciones europeas, los Estados miembros y diversos grupos de interés. El camino hacia el acuerdo final ha sido complejo, con numerosos debates y modificaciones, reflejando la tensión entre la necesidad de regular una tecnología en rápida evolución y el deseo de mantener la competitividad de la industria europea.

Prohibiciones en el Reglamento de IA de la UE

El 8 de diciembre de 2023, el Parlamento Europeo y el Consejo de la UE alcanzaron un acuerdo provisional sobre el texto final del Reglamento²Consejo de la Unión Europea. (2023). Artificial Intelligence Act: Council and Parliament strike a deal on the first rules for AI in the world. Comunicado de prensa, 9 de diciembre de 2023.. Este acuerdo representa un hito significativo en la regulación global de la IA, estableciendo un marco normativo que busca equilibrar la innovación con la protección de los derechos fundamentales y la seguridad de los ciudadanos europeos, estableciendo determinadas obligaciones y requisitos específicos en  función de los riesgos que cada sistema de inteligencia artificial supone para los derechos de los ciudadanos.

El reglamento prohíbe aquellos sistemas de IA que inciden gravemente sobre los derechos de las personas, prohibiéndolos de forma absoluta. Detengámonos en estas prohibiciones y sus excepciones, que también las tiene. En el momento de escribir estas líneas el texto final del Reglamento, únicamente está pendiente de su publicación oficial. A partir de ese momento se producirá la aplicación escalonada del Reglamento.

Evolución de las Prohibiciones

El artículo 5 del Reglamento, que establece las prohibiciones específicas sobre ciertos usos de la IA, ha sido uno de los puntos más controvertidos durante las negociaciones. La versión inicial propuesta por la Comisión ya incluía prohibiciones sobre prácticas consideradas inaceptables, como el uso de técnicas subliminales, la explotación de vulnerabilidades de grupos específicos, y los sistemas de puntuación social³Artículo 5, Propuesta de Reglamento sobre la Inteligencia Artificial, COM(2021) 206 final..

Sin embargo, durante el proceso de negociación, se evidenció una fuerte presión por parte de diversos grupos de interés, principalmente de Francia, Alemania e Italia, para suavizar algunas de estas prohibiciones. Empresas como Thales Group, A (Francia), Aleph Aleph, Siemens (Alemania) y Leonardo S.p.A. (Italia) abogaron por una regulación más flexible, argumentando la necesidad de mantener la competitividad europea en el desarrollo de tecnologías de IA⁴Aquí: Euronews, EuroEfe, Xataka..

Contenido Final del Artículo 5

El texto final del artículo 5 refleja un compromiso entre las diferentes posiciones, manteniendo prohibiciones estrictas en ciertas áreas mientras permite excepciones limitadas en otras. A continuación, se analizan las principales prohibiciones:

Manipulación del comportamiento

En un guiño a las distopías imaginadas por Philip K. Dick, el Reglamento prohíbe el uso de sistemas de IA que empleen técnicas subliminales o deliberadamente manipuladoras para distorsionar el comportamiento de una persona de manera que pueda causar daño físico o psicológico⁵Artículo 5(1)(a), versión final acordada del Reglamento sobre la Inteligencia Artificial (pendiente de publicación oficial).. Esta prohibición busca proteger la autonomía individual y prevenir la explotación de vulnerabilidades psicológicas. El considerando 16 del Reglamento proporciona contexto adicional, señalando que esta prohibición no debe afectar a las prácticas de investigación y marketing legítimas que no causan daño⁶Considerando 16, versión final acordada del Reglamento sobre la Inteligencia Artificial..

Explotación de vulnerabilidades

Se prohíbe el uso de sistemas de IA que exploten las vulnerabilidades de personas debido a su edad, discapacidad física o mental, o situación socioeconómica⁷Artículo 5(1)(b), versión final acordada del Reglamento sobre la Inteligencia Artificial.. Esta disposición busca proteger a los grupos más vulnerables de la sociedad de la manipulación y explotación a través de la IA, evitando así escenarios similares a los temidos en ‘Blade Runner’, donde los más vulnerables, replicantes, son explotados sin piedad.

Sistemas de puntuación social

El Reglamento prohíbe los sistemas de IA utilizados por autoridades públicas para evaluar o clasificar la confiabilidad de las personas basándose en su comportamiento social o características personales⁸Artículo 5(1)(c), versión final acordada del Reglamento sobre la Inteligencia Artificial.. Esta prohibición refleja las preocupaciones sobre el potencial de tales sistemas para socavar los derechos fundamentales y la dignidad humana, evitando que se conviertan en una realidad las pesadillas orwellianas de vigilancia y control total en su obra 1984.

Identificación biométrica remota en tiempo real

Una de las áreas más controvertidas ha sido la regulación de los sistemas de identificación biométrica remota en tiempo real en espacios públicos con fines policiales. El texto final prohíbe este uso, pero permite excepciones limitadas y estrictamente reguladas⁹Artículo 5(1)(d) versión final acordada del Reglamento sobre la Inteligencia Artificial.. Estas excepciones incluyen la búsqueda de víctimas de delitos graves, la prevención de amenazas terroristas inminentes, y la localización de sospechosos de delitos específicos¹⁰Artículo 5(2), versión final acordada del Reglamento sobre la Inteligencia Artificial.. Sin embargo, el uso de estos sistemas está sujeto a autorización judicial previa y a estrictas salvaguardias procedimentales, evitando así abusos que podrían recordar a los mecanismos de control total descritos en ‘Minority Report’. Veámoslas con un poco más de detalle

Excepciones permitidas: El uso de sistemas de identificación biométrica a distancia en tiempo real en espacios públicos con fines policiales está permitido en casos estrictamente necesarios para: a) Búsqueda de víctimas específicas (secuestros, trata de personas, explotación sexual) o personas desaparecidas. b) Prevención de amenazas específicas, sustanciales e inminentes contra la vida o seguridad física de las personas, o amenazas de atentados terroristas. c) Detección, localización, identificación o enjuiciamiento de un sospechoso o autor de un delito grave.

Condiciones para las excepciones: a) Autorización previa: Se requiere una autorización previa de una autoridad judicial o administrativa independiente, salvo en casos de urgencia justificada. b) Limitación temporal: El uso debe estar limitado en el tiempo. c) Limitación geográfica: El uso debe estar restringido a áreas específicas. d) Limitación personal: Debe estar dirigido a personas específicas. e) Evaluación de impacto: Se debe realizar una evaluación de impacto sobre los derechos fundamentales. f) Registro: El sistema debe ser registrado en la base de datos de la UE.

Proceso de autorización: a) La autoridad competente debe presentar una solicitud motivada. b) La autorización se concede solo si se demuestra que el uso es necesario y proporcionado. c) En casos de urgencia, se puede iniciar el uso sin autorización previa, pero esta debe solicitarse dentro de las 24 horas siguientes.

Supervisión y notificación: a) El uso debe ser notificado a la autoridad de vigilancia del mercado y a la autoridad nacional de protección de datos. b) Las autoridades nacionales deben presentar informes anuales a la Comisión Europea sobre el uso de estos sistemas. c) La Comisión Europea publicará informes anuales basados en los datos agregados de los Estados miembros.

Flexibilidad para los Estados miembros: Los Estados miembros pueden decidir autorizar parcial o totalmente el uso de estos sistemas dentro de los límites establecidos, pero también pueden introducir leyes más restrictivas.

Salvaguardias adicionales: a) No se pueden tomar decisiones con efectos jurídicos adversos basándose únicamente en los resultados de estos sistemas. b) El uso debe ajustarse a las salvaguardias y condiciones establecidas en la legislación nacional.

Es importante destacar que estas excepciones se aplican específicamente a los sistemas de identificación biométrica a distancia en tiempo real en espacios públicos con fines policiales.

Otras Prohibiciones y Excepciones

Evaluaciones de riesgo

El Reglamento prohíbe el uso de sistemas de IA para realizar evaluaciones de riesgo de personas físicas con el fin de evaluar o predecir el riesgo de que una persona cometa un delito, basándose únicamente en la elaboración de perfiles de personalidad¹¹Artículo 5(1)(d), versión final acordada del Reglamento sobre la Inteligencia Artificial.. Esta prohibición no se aplicará a los sistemas de IA utilizados para apoyar la evaluación humana de la implicación de una persona en una actividad delictiva basada en hechos objetivos.

Bases de datos de reconocimiento facial

Se prohíbe la creación o ampliación de bases de datos de reconocimiento facial mediante el raspado no selectivo de imágenes faciales de Internet o grabaciones de CCTV¹²Artículo 5(1)(e), versión final acordada del Reglamento sobre la Inteligencia Artificial.. Esta prohibición busca evitar el desarrollo de una infraestructura de vigilancia masiva no consentida, tipo “El Círculo” de Dave Eggers, donde una empresa tecnológica usa datos biométricos para espiar a la población.

Inferencia de emociones

El uso de sistemas de IA para inferir emociones de una persona física en los ámbitos del lugar de trabajo y de las instituciones educativas está prohibido, excepto cuando se utilice con fines médicos o de seguridad¹³Artículo 5(1)(f), versión final acordada del Reglamento sobre la Inteligencia Artificial..

Categorización biométrica

Se prohíbe la utilización de sistemas de categorización biométrica para deducir o inferir la raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, vida sexual u orientación sexual de las personas¹⁴Artículo 5(1)(g), versión final acordada del Reglamento sobre la Inteligencia Artificial.. Esta prohibición no cubre el etiquetado o filtrado de conjuntos de datos biométricos adquiridos legalmente en el ámbito de la aplicación de la ley.

Consideraciones sobre la Aplicación

Los considerandos del Reglamento proporcionan orientación crucial para la interpretación y aplicación de estas prohibiciones. Por ejemplo, el considerando 17 enfatiza que las prohibiciones deben interpretarse de manera restrictiva y solo cubrir prácticas que tengan un potencial significativo de daño. Además, el considerando 18 aclara que la prohibición de sistemas de puntuación social no debe impedir el uso legítimo de IA por parte de las autoridades públicas para evaluar la elegibilidad para beneficios sociales o servicios públicos, siempre que se respeten los principios de proporcionalidad y no discriminación.

Conclusiones

El artículo 5 del Reglamento de IA de la UE representa un hito significativo en la regulación global de la inteligencia artificial. Las prohibiciones establecidas reflejan un enfoque basado en el riesgo, buscando proteger los derechos fundamentales sin obstaculizar indebidamente la innovación.

Sin embargo, la influencia de los lobbies industriales en el proceso legislativo plantea preguntas sobre el equilibrio entre los intereses comerciales y la protección de los derechos de los ciudadanos. La implementación efectiva de estas prohibiciones requerirá una vigilancia continua y posiblemente ajustes futuros a medida que evolucione la tecnología de IA.

El desafío para la UE será mantener este equilibrio, asegurando que Europa siga siendo competitiva en el desarrollo de IA mientras establece un estándar global para su uso ético y responsable.

Nota Final: Si eres capaz de liberarte de los prejuicios que te lo pudieran impedir, te recomiendo que veas Demolition Man (Sylvester Stallone), cuyo guion nació de una interpretación libre de “Un mundo feliz” de Aldous Huxley y en “Cuando el dormido despierte” de H. G. Wells. Casi un pleno de aciertos en sus predicciones.

Infografía Reglamento de IA de la Unión Europea; Prohibiciones

Podemos identificarlas en seis grandes categorías de aplicaciones o usos de la inteligencia artificial en el control normativo:

• Análisis Predictivo
• Sistemas de Monitoreo en tiempo Real
• Redes Neuronales y Procesamiento de Lenguaje Natural
• Plataformas de visualización de datos
• Herramientas de Auditoría Automatizada
• Chatbots y asistentes virtuales

La mayor parte de las herramientas que usan IA tienen una naturaleza híbrida, de tal manera que con frecuencia encontraremos herramientas que podría incluirse en más de una de estas categorías que hemos creado con meros efectos expositivos.

La IA incluye diferentes técnicas, que además se superponen con las tareas y sus aplicaciones, lo que agrega complejidad al intento de sistematizar los esfuerzos de la lucha contra la corrupción utilizando la IA, aunque en términos generales la capacidad de actuar de forma autónoma, con o sin supervisión humana, es lo que diferencia a la IA de las tecnologías que hasta ahora se venían utilizando.

Bots

Ailyn, Aniita, Alesso, Alice, Agata, Monica, Esmeralda, Iris, Rosie y Rui, no son humanos. Fueron diseñados por humanos para ejecutar tareas previamente reservadas a los humanos; pueden cotejar datos más rápido y visualizarlos y comunicarlos mejor, ayudando a identificar o incluso predecir anomalías relacionadas con diferentes tipos de corrupción.

Todos son robots (bots) desarrollados como herramientas anticorrupción para identificar actividades sospechosas relacionadas con, por ejemplo, manipulación de licitaciones, fraude en contratos, prácticas de cárteles o el mal uso de dinero público. Estos robots anticorrupción profundizan en los datos para aumentar la rendición de cuentas.

Algunas de esas herramientas se identifican como “Ascendentes” como ProZorro¹https://prozorro.gov.ua/uk en Ucrania o Rosi²https://twitter.com/RosieDaSerenata el bot de Operação Serenata de Amor³https://serenata.ai/, por nacer desde la sociedad civil, aunque la mayor parte de ellas son iniciativas nacidas desde los poderes públicos.

Una de las iniciativas con más recorrido y que visualiza perfectamente lo que decíamos de lo complejo que es encajar estas herramientas en una sola categoría es el proyecto red flags⁴https://www.redflags.eu/ de Hungría. Tan pronto predictor de corrupción, como monitor en tiempo real o plataforma de visualización.

Salvadas las advertencias anteriores, veamos cada categoría de herramientas y algunos ejemplos dentro de ellas en las que, como observarán, Brasil⁵En este punto conviene resaltar el impulso de la Contraloría General de la Unión con múltiples proyectos en pro de la integridad de las licitaciones públicas. tiene una relevancia importante.

Análisis Predictivo

En general la medición de la corrupción se realiza varias formas:

Subjetivamente⁶Al respecto: Koeswayo, P. S., Handoyo, S., & Abdul Hasyir, D. (2024). Investigating the Relationship between Public Governance and the Corruption Perception Index. Cogent Social Sciences, 10(1).

1. Encuestas de percepción de la corrupción a inversores nacionales y extranjeros, a expertos o a la ciudadanía en general.
2. Encuestas (encuestas de victimización) en las que se pregunta a los ciudadanos por sus experiencias directas en el pago de sobornos o en las extorsiones que sufren de parte de funcionarios del Estado.

Objetivamente

1. Denuncias de corrupción/investigaciones abiertas por el ministerio público o los jueces de instrucción/precio de los contratos sobre una serie de bienes homogéneos.
2. Indicadores del procedimiento.

La corrupción se puede “medir” a través determinados indicadores que pueden denotar situaciones de corrupción. Ahí es donde encajan los modelos predictivos.

El objetivo de un sistema predictivo es, por lo tanto, usar estos datos y algoritmos para anticipar eventos futuros y, en contextos como la contratación pública y la prevención de la corrupción, utilizar las alertas tempranas para tomar medidas proactivas. Esto podría incluir revisiones detalladas de contratos específicos, auditorías adicionales o investigaciones más profundas basadas en los riesgos identificados.

Aunque no existe una base de datos que compile exclusivamente licitaciones corruptas para entrenar estos sistemas, es posible señalar aquellas licitaciones que presentan ciertos indicadores de riesgo. Estas “banderas rojas” no implican automáticamente irregularidades o conductas poco éticas, pero sí permiten focalizar los recursos de supervisión y control en áreas donde el riesgo de corrupción es más elevado, facilitando una comprensión más clara de las tendencias de riesgo en la contratación pública y justificando investigaciones más intensas donde sea necesario⁷Mihály Fazekas, Bence Tóth, Aly Abdou, Ahmed Al-Shaibani, Global Contract-level Public Procurement Dataset, Data in Brief, Volume 54, 2024, 110412, ISSN 2352-3409..

Objetivo

Aplicar la IA para prever y prevenir problemas relacionados con el cumplimiento normativo antes de que ocurran, mejorando la integridad y eficacia de las entidades públicas.

Funciones Clave

1. Predicción de Riesgos y Anomalías:
   1. Algoritmos de aprendizaje automático que analizan patrones históricos y actuales para prever posibles desviaciones o malas prácticas.
   2. Alertas proactivas que permiten a las entidades actuar antes de que se materialicen los problemas.
2. Análisis Predictivo para la Toma de Decisiones:
   1. Herramientas de IA que procesan grandes volúmenes de datos para predecir los resultados de ciertas políticas o decisiones administrativas.
   2. Apoyo en la planificación estratégica y en la asignación de recursos.
3. Detección Temprana de Fraudes:
   1. Implementación de modelos predictivos para identificar transacciones o comportamientos que podrían indicar fraudes o corrupción.
   2. Intervenciones tempranas basadas en predicciones precisas para mitigar riesgos.
4. Optimización del Cumplimiento Regulatorio:
   1. Sistemas que utilizan IA para anticipar cambios en la legislación y ajustar automáticamente los procesos para mantener el cumplimiento.
   2. Predicciones sobre la efectividad de las regulaciones existentes y recomendaciones para su mejora.

Beneficios

• Prevención de Problemas: Capacidad para identificar y mitigar riesgos antes de que afecten a la entidad.
• Mejora de la Eficiencia Operativa: Optimización de los procesos internos mediante la predicción de necesidades y ajustes necesarios.
• Aumento de la Transparencia: Uso de predicciones basadas en datos para explicar y justificar decisiones a los ciudadanos y otros stakeholders (partes interesadas).

Tecnología Involucrada

• Modelos avanzados de aprendizaje profundo y algoritmos de series temporales para análisis predictivo.
• Sistemas integrados de IA que facilitan la gestión y visualización de datos predictivos en tiempo real.

Ejemplos de Herramientas

• PredPol – Estados Unidos
  • URL: PredPol
  • Descripción: Originalmente diseñado para predecir crímenes, sus técnicas pueden adaptarse para prever áreas de corrupción.
• Tamr – Estados Unidos
  • URL: Tamr
  • Descripción: Utiliza aprendizaje automático para integrar datos dispersos y mejorar la calidad de los datos para análisis predictivos.
• Sistema “A” de Rosfinmonitoring – Rusia
  • URL: No disponible públicamente.
  • Descripción: Sistema de inteligencia artificial que ayuda a detectar operaciones financieras sospechosas para prevenir el lavado de dinero.
• Quantexa – Reino Unido
  • URL: Quantexa
  • Descripción: Analiza relaciones y comportamientos para predecir riesgos y oportunidades en redes de datos.
• MindBridge Ai Auditor – Canadá
  • URL: MindBridge
  • Descripción: Utiliza IA para identificar patrones anómalos en datos financieros que podrían indicar corrupción.
• Riskopy – Estados Unidos
  • URL: Riskopy
  • Descripción: Plataforma de análisis que identifica riesgos financieros y operativos en tiempo real.
• Arachnys – Global (Reino Unido)
  • URL: Arachnys
  • Descripción: Plataforma que utiliza IA para el análisis de riesgo y cumplimiento, ayudando a las empresas a realizar diligencias debidas y detectar posibles corrupciones en transacciones internacionales.
• Sistema “S” de Control de Gastos Públicos (Brasil)
  • URL: No disponible específicamente.
  • Descripción: Sistema utilizado por el gobierno para predecir y detectar posibles fraudes y corrupción en el uso de fondos públicos a través del análisis predictivo de patrones de gasto.
• FalaBR (Brasil)
  • URL: FalaBR
  • Descripción: Plataforma de la CGU que permite a los ciudadanos reportar anomalías y corrupción. Utiliza análisis de datos para prever y detectar patrones de corrupción a partir de las denuncias recibidas.
• Aniita (Analizador Inteligente e Integrado de Transacciones Aduaneras) – Brasil
  • URL: No disponible específicamente.
  • Descripción: Detecta anomalías en declaraciones de aduanas para prevenir el fraude y la evasión fiscal.

Sistemas de monitoreo en tiempo real

Objetivo

Utilizar la IA para asegurar el cumplimiento normativo mediante la supervisión continua y automatizada de las actividades y transacciones de las entidades públicas.

Funciones Clave

1. Detección automática de Anomalías:
   1. Implementación de algoritmos de IA para identificar automáticamente desviaciones de las normativas.
   2. Generación de alertas instantáneas ante comportamientos anómalos o no conformes.
2. Transparencia y Responsabilidad Mediante IA:
   1. Sistemas basados en IA que registran y analizan en tiempo real todas las acciones y decisiones.
   2. Plataformas accesibles al público para consulta de datos y toma de decisiones transparente.
3. Prevención de Fraudes con Aprendizaje Automático:
   1. Monitoreo constante utilizando modelos de aprendizaje automático para detectar patrones indicativos de fraude o corrupción.
   2. Protocolos automatizados de actuación rápida ante indicios de irregularidad.
4. Evaluación y Mejora Continua a través de Datos en Tiempo Real:
   1. Análisis continuo de los datos recopilados por la IA para evaluar la eficacia de las políticas de cumplimiento.
   2. Ajustes proactivos y mejora de procedimientos basados en resultados analíticos

Beneficios

• Proactividad y Respuesta Rápida: Capacidad mejorada para anticipar problemas y resolverlos eficientemente.
• Optimización de Recursos: Reducción significativa en el tiempo y recursos necesarios para auditorías gracias a la automatización IA.
• Fortalecimiento de la Confianza Pública: Mayor transparencia y responsabilidad, fortaleciendo la confianza en las instituciones públicas.

Tecnología Involucrada

• Uso de IA, como redes neuronales y procesamiento de lenguaje natural, para una supervisión detallada y efectiva.
• Plataformas de visualización de datos impulsadas por IA que facilitan la interpretación y el acceso a la información en tiempo real.

Ejemplos de Herramientas

Estos sistemas utilizan IA para supervisar continuamente datos y actividades, alertando de inmediato sobre irregularidades que podrían indicar corrupción o fraude.

• Palantir Gotham – Estados Unidos
  • URL: Palantir Technologies
  • Descripción: Ofrece herramientas de integración de datos que permiten el monitoreo en tiempo real de grandes volúmenes de información.
• Dataminr – Estados Unidos
  • URL: Dataminr
  • Descripción: Detecta patrones y señales en fuentes de datos públicos para alertar sobre eventos en tiempo real.
• Splunk – Estados Unidos
  • URL: Splunk
  • Descripción: Software que analiza, monitoriza y visualiza datos generados por máquinas en tiempo real.
• Alesso – Italia
  • URL: No disponible específicamente.
  • Descripción: Sistema de monitoreo para detectar fraudes en licitaciones públicas y contrataciones.
• LogRhythm – Estados Unidos
  • URL: LogRhythm
  • Descripción: Combina análisis de big data, machine learning y otros métodos para monitorear y asegurar entornos TI.
• Sistema Nacional de Integridad Pública – México
  • URL: No disponible específicamente.
  • Descripción: Plataforma para el monitoreo en tiempo real de procesos gubernamentales para prevenir la corrupción.
• Painéis de Transparência de Gastos Públicos da CGU (Brasil)
  • URL: Portal da Transparência
  • Descripción: Paneles en tiempo real que muestran los gastos del gobierno federal, permitiendo a los ciudadanos monitorear y reportar cualquier irregularidad directamente.
• Sistema de Gestão de Riscos (Brasil)
  • URL: No disponible específicamente.
  • Descripción: Herramienta utilizada por varias agencias gubernamentales para monitorizar en tiempo real los riesgos asociados con la corrupción en los contratos públicos.

Redes Neuronales

Objetivo

Implementar tecnologías de IA para analizar y entender grandes volúmenes de texto y datos complejos, mejorando el cumplimiento normativo y la gestión de información.

Explicación del uso de los LLM en el pronóstico y la detección de anomalías⁸J Su, C Jiang, X Jin, Y Qiao, T Xiao, H Ma, R Wei, Z Jing, J Xu, J Lin. Large Language Models for Forecasting and Anomaly Detection: A Systematic Literature Review. 2024. arxiv.org.

Funciones Clave

1. Análisis de Documentos Legales y Normativos:
   1. Redes neuronales y PLN (Procesamiento de Lenguaje Natural) para interpretar y extraer información clave de textos legales, contratos y documentos normativos.
   2. Automatización de la revisión de cumplimiento para asegurar que las políticas y prácticas estén alineadas con la legislación vigente.
2. Interpretación de Comunicaciones Internas y Externas:
   1. Análisis de correos electrónicos, informes y comunicaciones para detectar señales de no cumplimiento o irregularidades.
   2. Alertas automáticas sobre discusiones o términos que requieran atención especial por riesgos legales o de cumplimiento.
3. Automatización de Respuestas a Consultas Públicas:
   1. Chatbots y asistentes virtuales basados en PLN para proporcionar respuestas automáticas y consistentes a las consultas de los ciudadanos sobre regulaciones y procedimientos.
   2. Mejora del acceso público a la información y soporte en tiempo real.
4. Detección de Fraude y Corrupción:
   1. Redes neuronales que analizan patrones de comportamiento en transacciones y comunicaciones para identificar posibles fraudes o corrupción.
   2. Implementación de modelos predictivos para prever y prevenir acciones ilícitas.

Beneficios

• Eficiencia Mejorada: Reducción significativa en el tiempo de procesamiento y revisión de documentos.
• Mayor Precisión: Minimización de errores humanos en la interpretación de textos complejos y datos.
• Respuesta Rápida: Capacidad para manejar y responder a un volumen alto de consultas de forma eficaz y eficiente.

Tecnología Involucrada

• Implementación de tecnologías avanzadas de PLN para el análisis semántico y sintáctico de textos.
• Redes neuronales que aprenden de interacciones y documentos para mejorar continuamente su precisión y eficacia.

Beneficios Adicionales

• Agiliza la gestión de información y mejorar la interacción con el público. 

Ejemplos de Herramientas

Estas herramientas utilizan redes neuronales para interpretar texto y lenguaje humano, permitiendo la automatización de tareas como la revisión de documentos y la detección de patrones de fraude.

• IBM Watson – Global (Estados Unidos)
  • URL: IBM Watson
  • Descripción: Capaz de procesar lenguaje natural para analizar grandes cantidades de datos no estructurados.
• Google BERT – Global (Estados Unidos)
  • URL: Google BERT
  • Descripción: Modelo de procesamiento de lenguaje que ayuda a entender las consultas en los motores de búsqueda y puede aplicarse para analizar documentos legales y detectar irregularidades.
• OpenAI GPT-3 – Global (Estados Unidos)
  • URL: OpenAI
  • Descripción: Modelo de lenguaje generativo avanzado que puede ser entrenado para aplicaciones específicas en análisis de texto y detección de fraudes.
• Kira Systems – Canadá
  • URL: Kira Systems
  • Descripción: Utiliza el aprendizaje profundo para analizar contratos y otros documentos para extracción de datos rápidamente.
• Rosette Text Analytics – Estados Unidos
  • URL: Rosette
  • Descripción: Plataforma de análisis de texto que usa aprendizaje automático para entender y procesar el lenguaje humano en muchos idiomas.
• Aylien – Irlanda
  • URL: Aylien
  • Descripción: Herramientas de procesamiento de lenguaje natural y análisis de texto para monitorear noticias y detectar eventos relevantes.
• Rosie de Serenata de Amor
  • URL: Operação Serenata de Amor
  • Descripción: Rosie es un robot que utiliza técnicas de procesamiento de lenguaje natural para analizar gastos reembolsables de los diputados y detectar posibles casos de uso indebido de fondos públicos.
• Alice
  • URL: No disponible específicamente.
  • Descripción: IA diseñada para analizar procedimientos de licitación y detectar señales de fraude o corrupción utilizando PLN para revisar documentos y datos de licitaciones.
• Agata
  • URL: No disponible
  • Descripción: Refina la lista de palabras de los documentos de contratación pública y sus respectivos contextos de texto que pueden requerir una mayor inspección utilizando humanos para entrenar el algoritmo e incorporarlos a otras herramientas de monitoreo.

Plataformas de Visualización de Datos

Objetivo

Facilitar la interpretación y el análisis de grandes volúmenes de datos mediante visualizaciones interactivas y comprensibles, mejorando el cumplimiento normativo y la toma de decisiones.

Funciones Clave

1. Transparencia y Accesibilidad:
   1. Desarrollo de dashboards interactivos que proporcionan una visión clara de los datos de cumplimiento normativo y otros indicadores clave de rendimiento.
   2. Facilitación del acceso público a la información, mejorando la transparencia y la confianza ciudadana.
2. Monitoreo en Tiempo Real:
   1. Plataformas que actualizan continuamente los datos y visualizaciones para reflejar el estado actual de cumplimiento en tiempo real.
   2. Alertas visuales que señalan desviaciones o anomalías que necesitan atención inmediata.
3. Análisis de Tendencias y Patrones:
   1. Herramientas que permiten a los usuarios identificar tendencias a lo largo del tiempo y correlaciones entre diferentes variables de cumplimiento.
   2. Apoyo en la identificación de áreas de riesgo y oportunidades de mejora basadas en datos históricos y actuales.
4. Facilitación de Auditorías y Revisiones:
   1. Visualizaciones que simplifican la comprensión de los procesos y permiten a los auditores revisar rápidamente grandes cantidades de información.
   2. Generación de informes automatizados y detallados para uso interno y externo.

Beneficios

• Decisiones Basadas en Datos: Mejora de la capacidad de tomar decisiones informadas gracias a la representación visual intuitiva de los datos.
• Optimización de Recursos: Reducción del tiempo y esfuerzo necesario para analizar y reportar sobre el cumplimiento normativo.
• Mejora Continua: Uso de insights derivados de los datos para ajustar políticas y procedimientos y mejorar continuamente el cumplimiento.

Tecnología Involucrada

• Software avanzado de visualización de datos que integra IA para análisis predictivos y descriptivos.
• Plataformas adaptables que permiten la personalización de dashboards según las necesidades específicas del usuario y la entidad.

Beneficios Adicionales

• Aumentar la transparencia y eficiencia operativa. 

Ejemplos de Herramientas

Estas plataformas convierten grandes volúmenes de datos en visualizaciones interactivas, permitiendo a los usuarios identificar fácilmente patrones y anomalías.

• Tableau – Estados Unidos
  • URL: Tableau
  • Descripción: Ofrece potentes herramientas de visualización que ayudan a los usuarios a ver y entender sus datos, con aplicaciones en el monitoreo de gastos gubernamentales.
• QlikView – Suecia
  • URL: Qlik
  • Descripción: Plataforma de Business Intelligence que permite la visualización de datos para facilitar el análisis y la toma de decisiones.
• Power BI – Estados Unidos
  • URL: Microsoft Power BI
  • Descripción: Herramienta de análisis de negocios que proporciona visualizaciones interactivas y capacidades de inteligencia empresarial.
• Sisense – Israel
  • URL: Sisense
  • Descripción: Herramienta que simplifica la visualización de datos complejos para hacer más accesible la toma de decisiones basada en datos.
• FusionCharts – India
  • URL: FusionCharts
  • Descripción: Biblioteca de JavaScript para gráficos y mapas que se integra fácilmente en proyectos de visualización de datos.
• Highcharts – Noruega
  • URL: Highcharts
  • Descripción: Solución de visualización de datos que ayuda a empresas y organizaciones a presentar sus datos de manera comprensible.
• Splunk – Global (Estados Unidos)
  • URL: Splunk
  • Descripción: Plataforma que recoge y indexa datos en tiempo real y los presenta en dashboards para detectar anomalías y alertar sobre actividades sospechosas.
• IBM i2 Analyst’s Notebook – Global (Estados Unidos)
  • URL: IBM i2 Analyst’s Notebook
  • Descripción: Ofrece un análisis visual avanzado que permite ver complejas redes de corrupción y criminalidad, facilitando el análisis y la comprensión de las conexiones y patrones ocultos.
• Portal da Transparência
  • URL: Portal da Transparência
  • Descripción: Portal que visualiza de manera detallada los gastos del gobierno, ingresos, y otras transacciones financieras, proporcionando una herramienta clave para la vigilancia pública.
• Visão Cidadão
  • URL: Visão Cidadão
  • Descripción: Plataforma desarrollada por el Ministerio Público que permite a los ciudadanos visualizar y entender mejor el uso de los recursos públicos en su localidad.
• Sistema de Seleção Aduaneira por Aprendizado de Máquina (SISAM) – Brasil
  • URL: No disponible específicamente.
  • Descripción: Aprende de declaraciones de importación para calcular la probabilidad de errores y generar dashboards que apoyen a los inspectores aduaneros.
• Iris (Indicador de Risco de Irregularidades) – Brasil
  • URL: No disponible específicamente.
  • Descripción: Establece redes de relaciones y calcula la probabilidad de riesgos, visualizándolos en un dashboard.
• Monica (Monitoramento Integrado para o Controle de Aquisições) – Brasil
  • URL: No disponible específicamente.
  • Descripción: Ofrece herramientas de visualización de datos para monitorear las adquisiciones públicas en los poderes judicial y legislativo federales.
• Project Cérebro – Brasil
  • URL: No disponible específicamente.
  • Descripción: Genera dashboards que señalan cualquier riesgo o signo de violación de la ley de competencia.
• Ajna (Plataforma de Visão Computacional e Aprendizado de Máquina) – Brasil
  • URL: No disponible específicamente.
  • Descripción: Utiliza visión computacional para identificar patrones y predecir riesgos en contenedores en aduanas.

Auditoría Automatizada

Objetivo

Implementar tecnologías avanzadas para automatizar los procesos de auditoría, aumentando la eficiencia y efectividad en el cumplimiento normativo y la detección de irregularidades.

Funciones Clave

1. Automatización de Procesos de Revisión:
   1. Uso de software de auditoría para realizar revisiones automáticas de documentos y registros, garantizando el cumplimiento de las normativas aplicables.
   2. Reducción de la carga de trabajo manual y minimización de errores humanos en las auditorías.
2. Detección y Alertas de Anomalías:
   1. Implementación de algoritmos que identifican patrones inusuales o actividades sospechosas que podrían indicar incumplimientos o fraudes.
   2. Alertas instantáneas a los auditores y responsables para investigaciones más profundas.
   3. Reportes y Documentación Automatizados:
      • Generación automática de informes de auditoría que resumen hallazgos, anomalías y recomendaciones, facilitando la revisión y el seguimiento.
      • Archivado sistemático y seguro de todos los reportes y documentación relevante.
3. Análisis Predictivo y de Tendencias:
   1. Uso de modelos predictivos para identificar riesgos futuros de no cumplimiento basados en tendencias y datos históricos.
   2. Ayuda a las entidades a adaptarse proactivamente a cambios normativos y a mejorar continuamente sus prácticas de cumplimiento.

Beneficios

• Eficiencia Mejorada: Agilización significativa de los procesos de auditoría y revisión.
• Mayor Precisión y Confiabilidad: Incremento en la precisión de las auditorías gracias a la eliminación de sesgos y errores humanos.
• Respuesta Rápida: Capacidad para actuar rápidamente ante el descubrimiento de irregularidades, mitigando posibles daños.

Tecnología Involucrada

• Sistemas de auditoría que integran tecnologías de IA para análisis avanzados y aprendizaje continuo.
• Plataformas seguras y compatibles que aseguran la integridad y la confidencialidad de los datos auditados. 

Ejemplos de Herramientas

Automatizan los procesos de revisión y auditoría para detectar discrepancias y asegurar el cumplimiento de las regulaciones y políticas sin intervención humana continua.

• ACL Robotics – Canadá
  • URL: ACL Robotics
  • Descripción: Automatiza el proceso de auditoría y control de riesgos para organizaciones.
• CaseWare IDEA – Canadá
  • URL: CaseWare IDEA
  • Descripción: Software de análisis de datos que ayuda a los auditores a detectar fraudes y asegurar el cumplimiento normativo.
• Galvanize – Canadá
  • URL: Galvanize
  • Descripción: Plataforma de GRC (Governance, Risk Management, and Compliance) que automatiza auditorías y mejora la gobernanza.
• Alessa – Canadá
  • URL: Alessa
  • Descripción: Herramienta de cumplimiento y detección de fraudes que integra controles en los procesos de negocio para auditorías en tiempo real.
• AuditBoard – Estados Unidos
  • URL: AuditBoard
  • Descripción: Software que simplifica los procesos de auditoría interna, gestión de riesgos y cumplimiento.
• Inflo – Reino Unido
  • URL: Inflo
  • Descripción: Plataforma que transforma la auditoría a través de la digitalización, usando IA para análisis de datos y auditoría continua.
• SAS Visual Investigator – Global (Estados Unidos)
  • URL: SAS Visual Investigator
  • Descripción: Herramienta que automatiza la detección de actividades sospechosas y gestiona investigaciones de casos de fraude y corrupción.
• UiPath RPA – Global (Rumania)
  • URL: UiPath
  • Descripción: Plataforma de automatización robótica de procesos que ayuda a automatizar tareas rutinarias en auditorías y supervisión, reduciendo el riesgo de error humano y corrupción.
• Kofax – Global (Estados Unidos)
  • URL: Kofax
  • Descripción: Ofrece soluciones de automatización que incluyen la gestión de procesos de negocio y la automatización de documentos, lo cual puede ser utilizado para supervisar y auditar procesos de contratación pública para detectar desviaciones o malas prácticas.
• Tá de Pé
  • URL: No disponible específicamente.
  • Descripción: Una aplicación móvil y ahora un bot que automatiza la supervisión de las construcciones de escuelas públicas para asegurar que los fondos se utilicen correctamente.
• Observ
  • URL: Observ
  • Descripción: Plataforma que utiliza técnicas de auditoría automatizada para revisar y analizar contratos públicos y detectar riesgos de corrupción.
• ContÁgil – Brasil
  • URL: No disponible específicamente.
  • Descripción: Utiliza clustering de datos y detección de anomalías para apoyar actividades de auditoría financiera.

Chatbots y asistentes virtuales

Objetivo

Implementar tecnologías de IA para facilitar la interacción entre las entidades públicas y los ciudadanos, ofreciendo respuestas automáticas y asistencia continua para mejorar el acceso a información y servicios.

Funciones Clave

1. Atención Automatizada al Ciudadano:
   1. Provisión de respuestas inmediatas a preguntas frecuentes sobre regulaciones, procedimientos y servicios públicos.
   2. Disponibilidad 24/7, reduciendo la necesidad de interacción humana para consultas básicas.
2. Gestión de Solicitudes y Trámites:
   1. Automatización del proceso de recepción y gestión de solicitudes, quejas y trámites, garantizando su correcto enrutamiento y seguimiento.
   2. Aumento de la eficiencia y reducción de tiempos de espera para el procesamiento de solicitudes.
3. Soporte en Procesos de Cumplimiento:
   1. Asistencia en la compilación y presentación de documentación necesaria para el cumplimiento normativo.
   2. Orientación paso a paso durante procesos complejos para asegurar la adherencia a las normativas.
4. Educación y Capacitación:
   1. Ofrecimiento de información educativa y formativa sobre normativas y derechos, adaptando el contenido a las necesidades e interacciones del usuario.
   2. Fomento de una mejor comprensión y cumplimiento de las leyes y regulaciones mediante tutoriales interactivos y simulaciones.

Beneficios

• Mejora del Acceso a la Información: Facilitación del acceso a información relevante, mejorando la transparencia y el entendimiento público.
• Eficiencia Operativa: Optimización de los recursos humanos al delegar tareas repetitivas y de bajo nivel a sistemas automatizados.
• Satisfacción del Usuario: Mejora de la satisfacción y la experiencia del usuario gracias a respuestas rápidas y precisas.

Tecnología Involucrada

• Integración de tecnologías de procesamiento de lenguaje natural (PLN) para entender y responder de manera efectiva a las consultas en lenguaje natural.
• Sistemas de aprendizaje automático que mejoran continuamente su capacidad de respuesta y precisión basados en interacciones previas.

Beneficios Adicionales

• Mejorar la eficiencia y la transparencia para enriquecer la interacción con el ciudadano y asegurar el cumplimiento normativo.

Ejemplos de Herramientas

Estos sistemas utilizan IA para interactuar con los usuarios, proporcionando respuestas automáticas y ayuda en tiempo real para consultas relacionadas con la corrupción y la gobernanza.

• DoNotPay – Estados Unidos
  • URL: DoNotPay
  • Descripción: Chatbot conocido como “el abogado robot” que ayuda a los usuarios en una variedad de tareas legales, incluyendo apelaciones y reclamaciones.
• EVA (E-Virtual Assistant) – Filipinas
  • URL: EVA
  • Descripción: Asistente virtual del gobierno que ayuda a los ciudadanos a navegar servicios y realizar trámites en línea.
• U-Report – Global (proyecto de UNICEF)
  • URL: U-Report
  • Descripción: Plataforma chatbot que empodera a los jóvenes para reportar y discutir problemas sociales, incluyendo corrupción.
• Ask Jamie – Singapur
  • URL: Ask Jamie
  • Descripción: Chatbot del gobierno de Singapur que proporciona información y asistencia en los servicios públicos.
• Woebot – Estados Unidos
  • URL: Woebot
  • Descripción: Chatbot de salud mental que usa técnicas de terapia cognitivo-conductual, adaptable para ofrecer apoyo en áreas como ética y cumplimiento.
• Wysa – India
  • URL: Wysa
  • Descripción: Asistente virtual impulsado por IA para el bienestar emocional que también puede ser adaptado para educar y guiar sobre temas de integridad y ética.
• Iris
  • URL: Iris – Ombudsman de Fortaleza
  • Descripción: Asistente virtual que permite a los ciudadanos de Fortaleza reportar problemas y corrupción, automatizando el proceso de recepción y gestión de quejas.
• Laura
  • URL: Laura
  • Descripción: Aunque primordialmente un asistente virtual de salud, Laura también incluye funcionalidades para mejorar la transparencia y la integridad en la administración de recursos hospitalarios.
• Cida
  • URL: Cida – Chatbot do TCU
  • Descripción: Chatbot desarrollado por el Tribunal de Cuentas de la Unión para ayudar a los ciudadanos a navegar por el sitio web del TCU y proporcionar información sobre auditorías y otras cuestiones de transparencia.

Infografía Aplicaciones, usos y técnicas de la IA en el cumplimiento normativo del sector público (horizontal)

Contaba entonces, hace ya ocho años, mis temores sobre el futuro de la transparencia —confirmados ahora—, y lo conveniente de incorporar al sector público algunas herramientas de los programas de cumplimiento normativo que empujaran al sector público hacia la transparencia, alejándolo de la tentación y evitar que quedara en un suflé (Paco Blanco dixit). A pesar de que algunas de aquellas herramientas del ámbito privado se han ido trasladando al público¹Particularmente me refiero a los programas de cumplimiento normativo para salvar la responsabilidad penal (específicamente el artículo 31 bis 2 del Código Penal), Intensificación de las obligaciones de transparencia en distintas normas, por ejemplo la LCSP; y buzones de denuncia (Ley 2/2023, de 20 de febrero, reguladora de la protección de las personas que informen sobre infracciones normativas y de lucha contra la corrupción). , queda —por decirlo amablemente—, casi todo por hacer.

Cumplimiento normativo

Hoy las herramientas de control interno y externo del cumplimiento de las normas cuentan con un nuevo y potente aliado, la inteligencia artificial.

En el ámbito del sector público, el término “cumplimiento normativo” implica el compromiso de las entidades públicas y sus empleados para cumplir con el marco legal y reglamentario. Ese compromiso supone algo más que la mera observancia de normas. Implica también un compromiso con la transparencia, la ética y la rendición de cuentas.

Es esencial que cada decisión y acción no solo siga la letra de la ley, sino que también se justifique en el interés público que debe ser fundamento e inspiración de sus actos y resoluciones, fomentando así la confianza de la ciudadanía, y promoviendo la integridad y la lucha contra la corrupción.

Las instituciones públicas, por tanto, deben establecer robustos sistemas de fiscalización, control y supervisión internos y externo, auditorías periódicas, capacitación continua del personal y mecanismos dinámicos de seguimiento. Estas herramientas son esenciales para asegurar que las entidades del sector público permanezcan fiel a las normas vigentes como garantía de la integridad de los procedimientos y prevención de la corrupción.

La contratación electrónica, el primer escalón que no hemos subido del todo

La contratación pública a nivel global es un área crucial del gasto público, según la OCDE²OCDE. Government at a Glance 2021. OCDE, Paris (2021). representa aproximadamente 1/3 del gasto público general en todo el mundo. El gasto en contratación pública como porcentaje del PIB aumentó significativamente en toda la OCDE durante la última década, del 11,8% del PIB en 2007 al 12,9% del PIB en 2021.

En los últimos años se han observado nuevos aumentos en la proporción de la contratación pública en relación con el PIB. Este gasto a nivel mundial asciende a unos 10 billones de dólares al año³Mihály Fazekas, Bence Tóth, Aly Abdou, Ahmed Al-Shaibani, Global Contract-level Public Procurement Dataset, Data in Brief, Volume 54, 2024, 110412, ISSN 2352-3409..

En los países de la OCDE y la UE, la contratación pública aumentó del 13,7% del PIB en 2019 al 14,8% en 2021. La OCDE⁴OCD. Government at a Glance 2023. OCDE, Paris (2023). justifica estos incrementos principalmente por el Fondo de Recuperación y Resiliencia.

En la Unión Europea, más de 250.000 autoridades públicas gastan alrededor de 2 billones de euros (alrededor del 13,7 % del PIB) en la adquisición de servicios, obras y suministros en la UE⁵«Contratación pública: Un espacio de datos para mejorar el gasto público, impulsar la elaboración de políticas basadas en datos y mejorar el acceso de las pymes a las licitaciones», (2023/C 98 I/01)..

Riesgo de corrupción

Conociendo las cifras que hemos citado, la complejidad de la contratación y los altos grados de discrecionalidad, se entiende perfectamente que la contratación pública enfrente altos riesgos de corrupción.

Esta preocupación es lógica. La contratación pública es una palanca estratégica para obtener una mayor rentabilidad por cada euro de dinero público gastado y para contribuir a una economía más innovadora, sostenible, inclusiva y competitiva. Por ello, debe estar sujeta de comienzo a fin a los principios de Integridad y Transparencia, idea que se ha trasladado a las nuevas Directivas de contratación pública en las que resulta manifiesta la preocupación expresa por la corrupción. Así se manifiesta en los considerandos 100 y 127 de la Directiva clásica de contratación, la 2014/24/UE⁶“No deben adjudicarse contratos públicos a operadores económicos que hayan participado en una organización delictiva o hayan sido declarados culpables de corrupción o fraude contra los intereses financieros de la Unión, de delitos terroristas, de blanqueo de dinero o de financiación del terrorismo…” (en el considerando 100).  “La trazabilidad y transparencia de la toma de decisiones en los procedimientos de contratación es fundamental para garantizar unos procedimientos … Continuar leyendo, lo que luego se refleja en su texto normativo y de ahí a la LCSP.

Digitalización de la contratación

En opinión de quien escribe, la novedad más relevante desde el punto de vista práctico de la Ley 9/2017, de 8 de noviembre, de Contratos del Sector Público (LCSP)⁷Ley 9/2017, de 8 de noviembre, de Contratos del Sector Público (LCSP), por la que se transponen a nuestro ordenamiento las Directivas Comunitarias 2014/23/UE y 2014/24/UE, de 26 de febrero de 2014., sería sin lugar a duda la de la digitalización de nuestra contratación⁸Desde la entrada en vigor de la Ley, el 9 de marzo de 2018, todos los procedimientos de licitación, desde su génesis hasta su extinción debe ser electrónicos. También las comunicaciones entre el órgano de contratación y los licitadores. Así, la propia Ley de Contratos del Sector Público lo establece en la Disposición adicional decimoquinta “Normas relativas a los medios de comunicación utilizables en los procedimientos regulados en esta Ley”; decimosexta “Uso de medios … Continuar leyendo.

Personalmente, reconozco cierta incomodidad cuando hablo de aplicar la inteligencia artificial al cumplimiento normativo, cuando no hemos sido capaces siquiera de aprovechar de forma medianamente aceptable las posibilidades que ofrece la digitalización, y particularmente si hablamos de contratación, la compra pública electrónica.

Las virtudes de la contratación electrónica

Imagen Publicada en Contratación administrativa práctica: revista de la contratación administrativa y de los contratistas, ISSN 1579-3036, Nº. 166, 2020,

La falta de un modelo sólido de contratación electrónica, las múltiples deficiencias técnicas y de usabilidad de la Plataforma de Contratos del Sector Público, y también, en mi opinión, la falta de interés sincero del legislativo, han impedido que de inicio los datos de la contratación pública de los que disponemos sean datos de calidad. Circunstancia de la que periódicamente la OIRESCON se queja amargamente cada vez que puede en cualquiera de sus interminables informes⁹De su Informe Especial de Supervisión relativo a la Contratación Estratégica en 2021. Abril 2023 (PDF) en la pág 78: “…Por otro lado, sigue sin existir una verificación ni control de calidad de la información registrada, lo que impide asegurar la certeza y calidad del dato. Por ello el análisis de supervisión realizado por esta Oficina, implica un análisis minucioso y detallado “pliego a pliego” manualmente…”. De su Informe Especial de Supervisión de los contratos … Continuar leyendo. Lo que ha impedido que a estas alturas de la película podamos hablar de un conjunto de datos de gran calidad. Al menos en lo que respecta a nuestra compra pública.

Interoperabilidad

Parece conviene traer a colación no olvidar la entrada en vigor del Reglamento (UE) 2024/903 del Parlamento Europeo y del Consejo, de 13 de marzo de 2024, por el que se establecen medidas a fin de garantizar un alto nivel de interoperabilidad del sector público en toda la Unión (Reglamento sobre la Europa Interoperable), que centrando sus acciones en la interoperabilidad y la recíproca comunicación entre los distintos estados, establece en su artículo 8 la creación de un portal de Europa Interoperable, entre cuyos objetivos en relación a la compra pública establece el de enumerar las mejores prácticas e intercambiar conocimientos en apoyo de la interoperabilidad, en particular y cuando proceda, orientaciones sobre contratación pública; y en su artículo 15 en relación a los objetivos del Comité de la Europa Interoperable que crea la norma, el de determinar qué prácticas dan mejores resultados a la hora de integrar la interoperabilidad en la contratación pública y las licitaciones.

La calidad del dato como condición previa de la IA

Tal y como advierte Graells¹⁰Sanchez-Graells, Albert, Procurement Corruption and Artificial Intelligence: Between the Potential of Enabling Data Architectures and the Constraints of Due Process Requirements (October 29, 2021). To be published in S. Williams & J. Tillipman (eds), Routledge Handbook of Public Procurement Corruption (Routledge, Forthcoming)., el éxito de las nuevas tecnologías, en particular de la inteligencia artificial, dependen en gran medida de la calidad y disponibilidad de los datos. La falta de datos digitales, confiables y consistentes, preferiblemente en abundancia y listos para ser leídos por máquinas, comprometerá los resultados. Por esa razón, para que se despliegue el potencial disruptivo de la inteligencia artificial, es conveniente ser conscientes de las limitaciones que representa la falta de calidad de los datos de la contratación pública y en consecuencia hay que contenerse en las expectativas. Esto me lo repito también a mí mismo.

La Comisión Europea consciente de las limitaciones actuales y del alto valor de los datos de la contratación pública ha creado el Espacio de Datos sobre Contratación Pública (en lo sucesivo, «EDCP»)¹¹«Contratación pública: Un espacio de datos para mejorar el gasto público, impulsar la elaboración de políticas basadas en datos y mejorar el acceso de las pymes a las licitaciones», (2023/C 98 I/01)., uno de los primeros espacios comunes de datos de la UE en un ámbito específico que surge de la Estrategia Europea de Datos¹²«Una Estrategia Europea de Datos», COM(2020) 66 final, Bruselas, 19.2.2020..

Con relación al asunto que nos ocupa —los datos—, celebramos iniciativas como la publicación del conjunto de datos globales sobre contratación pública a nivel de contrato¹³Mihály Fazekas, Bence Tóth, Aly Abdou, Ahmed Al-Shaibani, Global Contract-level Public Procurement Dataset, Data in Brief, Volume 54, 2024, 110412, ISSN 2352-3409., que aún con las limitaciones que sus autores expresan aportan una nueva perspectiva sobre la contratación a nivel global y sus datos. Utilizando métodos de web scraping, los autores han recopilado datos oficiales de contratación pública sobre más de 72 millones de contratos de 42 países entre 2006 y 2021 (el período cubierto varía según el país debido a las limitaciones de disponibilidad de datos).

Las herramientas de IA Generativa en el control y supervisión normativa

El uso de la inteligencia artificial generativa (IAG) por los órganos de control representa un avance significativo sobre los métodos tradicionales basados en tecnología. Esta nueva generación de modelos de IA es capaz de identificar formas más sofisticadas de corrupción, incrementando notablemente la precisión en la detección de irregularidades.

A diferencia de los métodos estáticos tradicionales, la IAG aprende de manera continua a partir de los datos y etiquetas que se incorporan, lo cual le permite adaptarse y reconocer nuevos patrones de comportamiento. Esto hace que estos modelos sean particularmente flexibles y efectivos. Además, la integración de ciclos de retroalimentación humana se realiza con mayor facilidad en la IAG que en los sistemas convencionales, los cuales requieren un proceso más manual y una mayor cantidad de datos para entrenamiento.

Una característica distintiva de la IAG es su capacidad para generar datos sintéticos que simulan escenarios reales, lo que mejora y enriquece los conjuntos de datos de entrenamiento, y por ende, el rendimiento del modelo. Estos datos permiten a la IAG identificar automáticamente características críticas de comportamientos corruptos, mejorando así la precisión de sus predicciones.

El conocimiento global de la IAG también juega un papel crucial, ya que le permite comprender y determinar qué características son indicativas de corrupción o fraude. Gracias a esto y a técnicas avanzadas de modelado, la IAG es capaz de entrenar modelos que son significativamente más precisos que los anteriores, convirtiéndose en un sistema eficaz de alerta temprana y ofreciendo soluciones en tiempo real para la detección de fraude moderno.

La IAG y su impacto en la Gestión de Riesgos

Desde la perspectiva de la gestión del riesgo, Neha Narkhede¹⁴Conferencia “Generative AI: Shaping a New Future for Fraud Prevention”. destaca que la inteligencia artificial generativa (IAG) representa un avance significativo que hemos experimentado especialmente en el último año. Esta tecnología no solo está transformando oportunidades en diversos campos, sino que también está revolucionando el control y la gestión de riesgos en entidades públicas.

Según Narkhede, la IAG alterará radicalmente el cumplimiento normativo y la gestión de riesgos. Siguiendo a la citada autora estos serían los principios clave en el uso de la IAG en las gestión de Riesgos:

1. Conocimiento 360: La inteligencia artificial generativa (IAG) enriquece la gestión de riesgos integrando y analizando una amplia variedad de fuentes de datos, desde registros internos de transacciones hasta bases de datos académicas y de inteligencia abierta, utilizando tanto datos históricos como en tiempo real.
   Como indicamos un poco más arriba, un avance notable es su capacidad para crear datos sintéticos que imitan comportamientos y situaciones reales, permitiendo un entrenamiento de modelos más robusto sin comprometer datos sensibles. Este enfoque no solo ofrece una visión completa del entorno de riesgos, sino que también mejora continuamente su precisión y capacidad para identificar y predecir patrones de fraude, utilizando métodos de procesamiento en tiempo real.
2. Interfaz de Lenguaje Natural: Esta tecnología facilita la creación de flujos de trabajo personalizados a través de interfaces de usuario intuitivas, lo que permite a los usuarios sin experiencia técnica especializada gestionar y configurar modelos de detección de fraude eficaces.
3. Recomendaciones Automáticas: La IAG proporciona sugerencias en tiempo real, optimizando la gestión de riesgos con análisis de escenarios automáticos y recomendaciones proactivas para la próxima mejor acción.
4. Comprensión Humana: La IAG no solo ejecuta tareas, sino que también explica sus decisiones y recomendaciones de manera que los humanos pueden entender, lo cual es crucial para la toma de decisiones informada.
5. Expertos en Aumento del Riesgo: La IAG actúa como un copiloto para los profesionales de riesgos, combinando su análisis en tiempo real con el conocimiento experto, mejorando la capacidad de respuesta y la toma de decisiones.
6. Automatización de Riesgos: Automatiza tareas repetitivas y laboriosas, liberando a los expertos de riesgos para concentrarse en decisiones más estratégicas. Esto incluye desde la generación de informes hasta el análisis de tendencias de rendimiento.

La implementación de la IAG en la gestión de riesgos no solo mejora la eficiencia y efectividad de los procesos existentes, sino que también introduce un paradigma proactivo y en tiempo real para enfrentar desafíos en este ámbito, marcando un antes y un después en la forma en que las entidades públicas manejan sus operaciones de riesgo.

Infografía Aplicaciones, usos y técnicas de la IA en el cumplimiento normativo del sector público