Blue chip

Cómo hacemos que un modelo razone (IV): aprendizaje por refuerzo basado en recompensas verificables (RLVR)

noreply@blogger.com (Ignacio G.R: Gavilán) — Mon, 28 Sep 2026 07:55:00 +0000

Con este post llegamos al cuarto de la serie dedicada a cómo conseguimos un modelo razonador a partir de un gran modelo de lenguaje siguiendo las aportaciones del libro 'Building a resoning model (from scratch)' de Sebastian Raschka.

En esta entrega, damos un viraje importante.

En los tres posts anteriores vimos formas de conseguir que un modelo razone, pero sin cambiar el modelo en sí mismo, es decir, sin cambiar sus pesos o sus hiperparámetros. O dicho de otra manera, no reentrenamos al modelo sino que éste continua siendo el que era antes de que intentásemos que razonase.

Sin embargo, en este artículo y el siguiente (que cerrará la serie), vamos a ver dos técnicas que sí reentrenan el modelo (hacen lo que se conoce como 'fine tunning') y utilizan estrategias de aprendizaje por refuerzo.

Veamos.

La idea del 'fine-tunning'

Aunque asumo que parte de los lectores habituales de este blog ya conocen el significado del 'fine-utinning', y aunque, incluso, la recordé brevemente en el post que abría esta serie y en que hablaba de estrategias generales, vuelvo a aportar aquí unas pinceladas para refrescar conceptos y estar todos en la misma página, que se suele decir.

El ajuste fino o 'fine-tuning' es una forma de entrenamiento (o, más bien, una fase de entrenamiento) en que se parte de un modelo ya entrenado y se le somete a un segundo entrenamiento más acotado para especializarlo en un dominio concreto o una tarea concreta.

La idea es que el modelo de partida, mediante lo que se denomina el 'pre-entrenamiento', adquiere conocimientos digamos generales. Conocimientos sobre el lenguaje en general y sobre la vasta variedad del conocer humano. Se trata de un entrenamiento masivo, con una enorme cantidad de datos, un gasto computacional extraordinario y, por tanto, al alcance de muy pocas organizaciones.

El 'fine-tunning', por el contrario, no es de propósito general, sino específico y 'la gracia' que tiene es que con un conjunto relativamente reducido de datos de entrenamiento y un gasto computacional moderado o pequeño suele conseguir muy buenos resultados en esa tarea o dominio específico. Por tanto, está al alcance de muchas empresas y organizaciones.

Ese ajuste fino o 'fine-tunning' se ha realizado con frecuencia mediante aprendizaje supervisado pero, en lo que vamos a ver en este post y en el siguiente, se aplica el aprendizaje por refuerzo.

Aprendizaje por refuerzo

Hace ya casi año y medio dediqué en este blog una larga serie de artículos, bastante técnicos, eso sí, a hablar del aprendizaje por refuerzo ('reinforcement-learning'). Para el lector interesado, le remito al último post de la serie dedicado al meta aprendizaje y que contiene enlaces a todos los demás artículos de la serie.

Aquí sólo recordar las ideas de muy alto nivel.

El aprendizaje por refuerzo es como la tercera gran vía del aprendizaje en machine learning (acompañando al aprendizaje supervisado y ni supervisado) y que, de alguna forma, quiere imitar la forma en que normalmente parece que aprendemos los humanos y que es un poco por ensayo y error.

Durante el entrenamiento por refuerzo el modelo recibe una entrada, genera una salida y recibe una forma de 'feedback' que le indica hasta qué punto lo está haciendo bien o mal. Suelo compararlo al juego del 'frio' o 'caliente'. Con base a ese 'feedback' (habitualmente denominado 'recompensa'), el modelo ajusta sus parámetros (típicamente los pesos de una red neuronal).

Se diferencia del aprendizaje supervisado es que, en el aprendizaje supervisado durante el entrenamiento se le dice al modelo cuál es la respuesta correcta, mientras que en el aprendizaje por refuerzo sólo se le da una indicación de lo bien o mal que lo hace, pero sin decirle cuál es la respuesta correcta.

Y se diferencia del aprendizaje no supervisado es que en éste, el no supervisado, el modelo debe descubrir patrones subyacentes en los datos sin ninguna forma de 'feedback' explícito, mientras que ya hemos visto que en aprendizaje por refuerzo sí hay feedback (la recompensa).

Modelos razonadores y aprendizaje por refuerzo basado en recompensas verificables (RLVR)

En la referencia que estamos usando, nos subdivide el uso de aprendizaje por refuerzo en dos variantes. La primera, y la que vamos a mencionar en este post, es la que utiliza recompensas verificables.

¿Qué significa eso?

Significa que existe alguna forma objetiva de saber qué resultado final debería haber aportado el modelo y esa respuesta objetivamente correcta se utiliza para el feedback, la recompensa, que, por tanto, es verificable de forma objetiva.

Una forma fácil de visualizarlo es tener en cuenta que en el entrenamiento de modelos razonadores se usan con mucha frecuencia problemas lógicos o matemáticos con una respuesta final muy clara (verificable). Por tanto, el mecanismo para producir la recompensa que recibe el modelo podría llegar a ser el algún caso sencillo poco más que una calculadora digital.

Esto es lo que se denomina aprendizaje por refuerzo con recompensas verificables (RLVR, 'Reinforcement Learning with Verifiable Rewards').

Una de las grandes ventajas de esta forma de entrenar por refuerzo frente a una genérica, es que el generador de recompensas, el verificador, no es otro modelo sino una herramienta mucho más sencilla (y, por tanto mucho más barata). Además, las recompensas son deterministas y reproducibles y la estrategia escala fácilmente a un entrenamiento con muchos datos si es necesario.

A cambio, una importante limitación es que no se puede aplicar esta estrategia al entrenamiento para razonar sobre cualquier tipo de problemas dado que, en muchos casos, no podemos disponer de esas reglas verificables. Por ello, se suele circunscribir, como hemos mencionado, a problemas lógicos o matemáticos.

No voy a entrar en detalles pero sí mencionar que RLVR se suele utilizar en conjunción con un algoritmo denominado GRPO ('Group Relative Policy Optimization'), introducido por el equipo de DeepSeek, que, a partir de la señal que genera RLVR, determina cómo usarla para la actualización de pesos del modelo.

Conclusiones

Hemos visto que podemos conseguir convertir un modelo razonador a partir de un gran modelo de lenguaje usando, no sólo técnicas de promting, como habíamos revisado en posts anteriores de esta serie, sino también haciendo un 'fine-tunning' mediante estrategia de aprendizaje por refuerzo.

Una de las variantes empleadas de aprendizaje por refuerzo es la que se basa en las denominadas recompensas verificables, en que un algoritmo, que no tiene por qué ser un modelo de lenguaje, es capaz de proporcionar de manera automatizada la señal de recompensa o 'feedback' y, mediante técnicas como GRPO, deducir la forma de actualizar los pesos del modelo.

Artículos de este blog relacionados

La adopción de la inteligencia artificial y el dilema del inteligente

noreply@blogger.com (Ignacio G.R: Gavilán) — Fri, 25 Sep 2026 07:45:00 +0000

Hace ya bastantes años, en concreto en 1997, el malogrado Clayton Christensen publicaba el famoso libro 'The innovator's dilemma') todo un clásico de la literatura sobre innovación, en que describía lo que llamaba el dilema del innovador, es decir, las especiales dificultades que encontraban las empresas de éxito para adoptar e innovar con base en tecnologías disruptivas.

Se me ha ocurrido que en el caso de la inteligencia artificial, por cierto también una tecnología disruptiva, las personas quizá más que las empresas, se pueden encontrar con un dilema de características parecidas y que, un poco por paralelismo con el concepto de Christensen, se me ha ocurrido denominar 'el dilema del inteligente'

Veamos.

Tecnologías disruptivas

El término disruptivo, en el ámbito de la innovación y la tecnología se utiliza para denominar tecnologías que, de alguna forma, cambian completamente las reglas del juego de un sector o de un tipo de soluciones, introduciendo cambios estructurales y mejoras radicales frente a soluciones anteriores a las que acaban sustituyendo.

Una característica particularmente insidiosa de las tecnologías disruptivas es que debutan en el escenario tecnológico y de negocio con unas prestaciones inferiores a las de las tecnologías alternativas a las que acabarán sustituyendo. Pero luego suben esas prestaciones rápidamente hasta superar claramente a la de las tecnologías precedentes.

Esas inferiores prestaciones en sus etapas iniciales pueden hacer, y hacen, que, con frecuencia, de alguna forma se las desprecie y no se les preste la debida atención.

Y un poco de eso va el dilema del innovador.

El dilema del innovador

En efecto, lo que Christensen describe como 'dilema del innovador' tiene que ver con identificar a tiempo la importancia de una tecnología disruptiva.

Christensen habla de empresas de éxito, bien gestionadas y seguramente dominantes de su sector. ¿Qué hace una empresa tradicional bien gestionada ante una nueva posibilidad de innovación?

Pues hace un análisis. Un análisis con frecuencia de naturaleza esencialmente financiera en que estima los beneficios que puede traer consigo la adopción de la tecnología y lo compara con los costes y los riesgos. Si se observa un buen retorno de la inversión, quizá una TIR ('Tasa Interna de Rendimiento') suficiente, se adopta, y si no... pues no. Una forma racional y eficiente de decidir. ¿No?

Si pero.. ¿Cómo reacciona ahora ante una tecnología nueva y disruptiva? Le aplicará el mismo mecanismo. Pero claro, observará una tecnología de retornos inciertos (porque es nueva) y de prestaciones modestas e incluso malas. ¿Resultado? La decisión será negativa y no adoptará dicha tecnología.

Pero, en paralelo, existirán empresas con menor aversión al riesgo, o competidores que desean ensayar algo nuevo, o startups valerosas que sí adoptan la nueva tecnología disruptiva.

¿Qué sucede?

Cuando la nueva tecnología 'demuestra todo su poder', ganarán la partida esas startups o empresas arriesgadas que sí se atrevieron a adoptarla. Y nuestra anterior empresa de éxito bien gestionada, se quedará en situación de inferioridad, puede que de forma grave dada la capacidad de cambio estructural de un sector de las tecnologías realmente disruptivas.

De alguna forma, esa buena gestión que explica el éxito pasado de una empresa, puede llegar a cegarla y ser el detonante de su fracaso ante la llegada de una tecnología disruptiva.

La inteligencia artificial como tecnología disruptiva

Creo que hay pocas dudas de que la inteligencia artificial es una tecnología disruptiva, que está cambiando y cambiará reglas de juego y, además, de manera muy transversal.

¿Y debuta con prestaciones bajas?

Aunque hoy en día parezca difícil decirlo, claro que sí Recordemos cómo eran, por ejemplo, los traductores hechos con inteligencia artificial de hace unos años. Con resultados pobres, muy lejos de lo que es una traducción hecha por humanos.

O recordemos todos los inviernos de la inteligencia artificial al no llegar a lo que de ella se esperaba.

Aún diría más. Incluso con los espectaculares avances de los últimos años, todavía hay mucha gente que se atreve a decir, con un convencimiento que creo nace más del deseo que del análisis, que 'la inteligencia artificial nunca podrá hacer X', siendo X alguna capacidad humana que nos gustaría considerar totalmente diferencial e imposible de alcanzar por la inteligencia artificial.

El posible dilema del inteligente

Y ya llegamos a lo que he dado en llamar el 'dilema del inteligente' y que dibuja una situación parecida, aunque no completamente similar, cuando una persona más que una empresa, se enfrenta a la adopción o no, al uso o no, de la inteligencia artificial.

E identifico una posible dificultad para que precisamente las personas inteligentes y talentosas, personas de éxito, adopten la inteligencia artificial.

No hablo tanto de una adopción general de la inteligencia artificial, sino su uso para tareas concretas, tareas en que sobresale esa persona inteligente y de éxito.

El dilema surge porque esa persona inteligente es muy buena haciendo algo, voy a decir diseñando y desarrollando software, por ejemplo. Pero ahora la inteligencia artificial desarrolla software. Es posible que ese desarrollador experto considere, quizá con razón, que él o ella desarrolla software de mayor calidad que el que hace la inteligencia artificial (en su visión la inteligencia artificial tendría prestaciones bajas comparadas con la suya propia). Y eso puede hacer que se resista a abrazar el 'Vibe coding' mientras, en paralelo, desarrolladores nuevos, o personas con menos conocimientos, sí se lanzan a desarrollar con inteligencia artificial. Pasado un tiempo esos desarrolladores nuevos, en realidad menos talentosos, pueden superar en producción e incluso calidad a nuestro desarrollador experto.

Ese sería del dilema del inteligente.

Y se me ha ocurrido pensarlo porque, de alguna manera, lo experimento personalmente. No me cuesta, incluso lo hago con alegría, utilizar la inteligencia artificial para tareas en que no soy diestro o que incluso me sería imposible hacer: digamos crear música, crear vídeo, crear algunas imágenes o incluso investigar masivamente sobre un tema o resumir un documento extenso. Pero me resisto mucho más a usarla en tareas que, aparte de disfrutar haciéndolas, creo que he adquirido una destreza casi diferencial: escribir, hacer presentaciones, delinear un programa formativo, etc.

Si la adopción de la inteligencia artificial me resulta natural, divertida y rápida para unas tareas, arrastro los pies para otras.

Personalmente, aparte de conocer desde hace muchos años esta problemática del dilema del innovador, también soy un entusiasta estudioso de la inteligencia artificial, así que soy plenamente consciente de su capacidad y sus posibilidades disruptivas actuales y futuras. Así que me obligo, y pienso obligarme más en el futuro a emplearla... y no puedo dejar de aconsejar a 'todo el mundo' que haga lo mismo para evitar caer en ese dilema del inteligente..

Aunque no hablamos estrictamente de inteligencia

Antes de finalizar, un breve apunte conceptual.

He bautizado a este 'fenómeno' como el dilema del inteligente, porque resulta muy paralelo al término dilema del innovador de Christensen y, de paso, introduce la idea de inteligencia (sugiriendo inteligencia artificial) en la ecuación pero, en muchos casos, quizá más que de inteligencia, deberíamos hablar de competencia, 'expertise' o talento.

Pero claro, no suena igual hablar del 'dilema del competente' ¿no?

Conclusiones

Se me ocurre pensar que, de forma paralela al fenómeno del dilema del innovador descrito por Christensen, las empresas, pero sobre todo las personas, podemos sufrir una suerte de 'dilema del inteligente' que nos haga resistirnos a usar la inteligencia artificial para realizar o ayudarnos a realizar aquellas tareas en que somos especialmente competentes.... y eso puede ser un riesgo a futuro, y un futuro no muy lejano.

Cómo hacemos que un modelo razone (III): auto-refinamiento

noreply@blogger.com (Ignacio G.R: Gavilán) — Wed, 23 Sep 2026 07:15:00 +0000

Continuamos con este post la serie de artículos dedicados a las técnicas existentes para convertir un gran modelo de lenguaje, digamos 'normal', en un modelo razonador, todo ello basándonos en las aportaciones del libro 'Building a resoning model (from scratch)' de Sebastian Raschka.

En esta ocasión, vamos a revisar a técnica del autorazonamiento 'self-impovement'.

Un pequeño repaso a las técnicas de 'prompting'

En el post anterior, hablamos de dos técnicas de prompting que ayudan a que un modelo razone.

Por un lado teníamos la cadena de pensamiento (CoT, 'Chain-Of:Thought') en que le pedimos a un modelo que descomponga su respuesta en pasos mediante una expresión del tipo 'razona paso a paso' introducida como una suerte de coletilla en el 'prompt' base. Se trata de una técnica que viene muy bien para que un modelo que no es razonador, comience a razonar. A cambio, aporta poco si el modelo ya es razonador porque, en general, el modelo va a aplicar ese razonamiento paso a paso directamente.

La segunda técnica, la autoconsistencia ('self-consistency') fueerza al modelo a proponer o aplicar formas alternativas de resolver un problema y luego consensuar de alguna forma la respuesta final.

En cualquier caso, ambas técnicas son puro 'prompting': no cambian propiamente el modelo, ni su arquitectura ni sus parámetros. Se trata de un uso, digamos 'externo' en tiempo de inferencia que mejora el razonamiento a costa de hacerlo computacionalmente más costoso (y, por ello, el autor al que seguimos habla de métodos de 'inference-time scaling', escalado en tiempo de inferencia).

La esencia del auto-refinamiento

La siguiente técnica que vamos a ver, el auto-refinamiento ('self-refinement'), sigue todavía trabajando en tiempo de inferencia, sigue utilizando técnicas de prompting y sigue requiriendo mayor esfuerzo computacional. Es decir, continua encuadrada dentro de ese marco de escalado en tiempo de inferencia ('inference-time scaling').

Pero, más que modificar el 'prompt' de entrada, tal como hacen las dos anteriores, lo que hace el auto-refinamiento es, digamos, establecer un diálogo (realmente un dialogo del modelo consigo mismo) en que sucesivamente se van mejorando las respuestas.

El auto-refinamiento funciona en cierto sentido de forma parecida a cuando nosotros interactuamos de manera dialogada y en un chat con una aplicación tipo ChatGPT. Le pedimos algo, nos lo da, le decimos lo que está bien o mal y le pedimos nueva respuesta y así en un bucle hasta obtener lo que queremos.

En 'self-refinement' también hay un diálogo pero, por decirlo de alguna forma, es del modelo consigo mismo. El modelo recibe el prompt, genera una respuesta, evalúa esa respuesta y se vuelve a pedir a sí mismo una nueva respuesta con base en el feedback.

Valoración de respuestas

Parte importante de esta técnica es cómo evalúa el modelo sus propias respuestas. En el libro citado, nos habla de dos estrategias generales.

Una primera estrategia es una evaluación basada en reglas. En este caso, con base en alguna regla o heurística podemos evaluar si la respuesta en su conjunto, si es buena o mala o hasta qué punto lo es.

Esta estrategia se puede aplicar en diferentes formas. Pensemos en el caso más simple: una operación matemática. En este caso se puede saber, por ejemplo mediante alguna forma de calculadora eterna, si el resultado es correcto o incorrecto.

Pero también se considera una evaluación basada en reglas la aplicación de alguna heurística o, incluso, la famosa técnica del 'LLM as a judge' en que un modelo de lenguaje valora la respuesta de otro modelo de lenguaje.

La segunda gran estrategia, de mayor profundidad técnica, más que centrarnos en evaluar la respuesta final, la evaluación se fija en un resultado interno e intermedio: las probabilidades de los tokens candidatos a añadirse a una respuesta. Los lectores de este blog conocedores de la arquitectura interna, se pueden hacer una idea de lo que esto significan esas probabilidades de los tokens, pero en este post no voy a entrar en ello.

El bucle de refinamiento

En resumen, lo que se hace en el autorefinamiento es un bucle en que se formula una petición al modelo mediante un 'prompt':

Este responde
Su respuesta es valorada por sí mismo (o por otro modelo en el caso de LLM-as-a-judge)
Se construye un nuevo prompt que contiene el prompt original, la respuesta original y la evaluación de esa respuesta.
Se solicita respuesta con el nuevo prompt

Y se procede así iterativamente hasta alguna forma de umbral o límite.

Conclusiones

Hemos visto un tercer mecanismo para convertir a un modelo en razonador, el auto-refinamiento, en que, de forma iterativa, el propio modelo se encarga de evaluar su respuesta y proporcionar una nueva contestación teniendo en cuenta esa valoración.

Sigue siendo una técnica en tiempo de inferencia y que exige mayor esfuerzo computacional que una respuesta directa.

Artículos de este blog relacionados

Cómo hacemos que un modelo razone (II): técnicas de prompting

noreply@blogger.com (Ignacio G.R: Gavilán) — Mon, 21 Sep 2026 09:25:00 +0000

Este el segundo post que voy a dedicar a mecanismos para convertir un modelo de lenguaje en un modelo razonador.

En este caso, siguiendo, como en toda la serie, las aportaciones del libro 'Building a resoning model (from scratch)' de Sebastian Raschka, me voy a concentrar en dos mecanismos que no afectan al modelo en sí mismo (no suponen un re-entrenamiento) sino sólo una forma de invocarlo y que, curiosamente, hace que razone mejor.

Y ello me va a llevar a describir, muy someramente, dos técnicas de prompting muy conocidas: la cadena de pensamiento, CoT ('Chain-Of-.Thouhgt') y la autoconsistencia ('Self-Consistency')

Escalado en tiempo de inferencia

Veíamos al hablar de estrategias en el post anterior de la serie, que algunas implicaban el re-entrenamiento del modelo y otras no. Las que no suponen re-entrenar el modelo actúan cuando estamos haciendo una solicitud al modelo, es decir, en tiempo de inferencia.

En concreto, ambas actúan simplemente cambiando en la forma en que interrogamos o hacemos una solicitud al modelo, es decir, afectan a cómo construimos el 'prompt'.

En ambos casos, estas técnicas tienden a hacer que el modelo razone mejor pero, a cambio, suponen mayor tiempo de inferencia, mayor esfuerzo de computación y mayor consumo de tokens.

Por eso, Raschka situa estas dos técnicas dentro de lo que denomina 'inference-time scaling' (escalado en tiempo de inferencia).

Chain-Of-Thought. Cadena de pensamiento

Cadena de pensamiento

La cadena de pensamiento es, probablemente, una de las técnicas de prompting más conocidas y más insistentemente tratadas. Descrita inicialmente en el paper 'Large Language Models are Zero-Shot Reasoners' implica, simplemente, pedirle al modelo que proceda razonando paso a paso.

En una versión sencilla, basta con que, al prompt, digamos normal le añadamos el texto "procede paso a paso", "explica lo que haces paso a paso" o "razona paso a paso".

Cuando lo utilizamos como técnica de prompting a nivel usuario, interactuando por ejemplo con ChatGPT, la podemos aplicar indicando nosotros, el usuario, los pasos que deseamos que aplique (cuando tenemos el 'expertise' suficiente y no queremos que el modelo improvise).

¿Cómo puede ser que algo tan sencillo funcione tan bien?

Más allá de las explicaciones del paper original, Raschka nos lo resume diciendo que, por un lado, el hecho de que el modelo proceda paso a paso le concede al propio modelo más oportunidades de auto-corregirse y, además, que esta forma de preguntar y expresar la solución a un problema encaja muy bien con los ejemplos que recibieron los modelos razonadores durante su entrenamiento (ejemplos procedentes con frecuencia de problemas matemáticos y lógicos en que el razonamiento paso a paso es muy natural).

Raschka nos advierte de que esta forma de actuar no añade nuevo conocimiento al modelo, sino sólo cambia la forma de explotar ese conocimiento y eso puede conducir a mejores resultados en problemas matemáticos, lógicos u aquellos que de forma natural impliquen unos pasos.

Y también nos advierte de que no es una fórmula mágica y que no siempre produce mejores resultados y que, en el caso de problemas simples, puede llevar al fenómeno del 'overthinking' (pensar y gastar demasiado) para llegar a resultados iguales o peores.

Self-Consistency. Autoconsistencia

Auto-consistencia

La técnica de auto-consistencia fue introducida en el paper 'Self-consistency improves chain of thought reasoning in language models'

En el caso de la auto-consistencia, lo que hacemos es pedir al modelo que pruebe varias soluciones diferentes (cada una de las cuales puede incluir su propia cadena de pensamiento) para luego hacer una suerte de votación o consenso que genere la respuesta final.

Cuando se utiliza directamente como usuario se puede dejar al modelo libre de que elija las diferentes vías o se le puede indicar qué tipo de soluciones o razonamientos debe de intentar.

Se trata en general de una técnica más exigente computacionalmente que la anterior porque, al fin y al cabo, en general llevará a cabo varias cadenas de pensamiento.

El usuario, las aplicaciones y los agentes

Antes de cerrar este post, quisiera hacer una aclaración.

Las dos técnicas que hemos visto se pueden utilizar, y se utilizan de hecho, cuando interactuamos directamente nosotros, personas, con nuestro chatbot generativo tipo ChatGPT. Las podemos utilizar cualquiera de nosotros en cualquier momento. Es su empleo como usuarios.

Pero no olvidemos que, por ejemplo, ChatGPT no es un modelo, sino que más que eso es una aplicación completa construida alrededor de unos modelos a los que recubre y cuyo uso gestiona. Es decir, ChatGPT puede 'decidir' utilizar estas técnicas sin que nosotros se lo pidamos explícitamente, ya sea como una especie de preprocesamiento previo o como parte de su 'system prompt', y esto puede hacer que percibamos el razonamiento sin haberlo solicitado nosotros.

De la misma forma, los famosos agentes, que no dejan de ser también aplicaciones construidas alrededor de modelos, pueden actuar como razonadores usando estas técnicas de forma trasparente para los usuarios.

Conclusiones

Entre las múltiples formas de hacer que un modelo razone, dos de las más sencillas, casi sorprendentemente sencillas, consiste un utilizar unas técnicas de prompting que soliciten al modelo el razonamiento: la cadena de pensamiento y la auto-consistencia.

Son técnicas usadas en tiempo de inferencia y que suponen mayor consumo computacional y que, aunque no están cien por cien garantizadas, suelen dar muy buenos resultados.

Estas técnicas, las podemos utilizar directamente como usuarios o pueden venir embebidas (sin uso directo por nuestra aparte) en aplicaciones basadas en modelos de lenguaje como los chatbots generativos o los agentes.

Artículos de este blog relacionados

Cómo hacemos que un modelo razone (I): tres grandes estrategias

La inteligencia artificial y la rendición cognitiva

noreply@blogger.com (Ignacio G.R: Gavilán) — Fri, 18 Sep 2026 07:55:00 +0000

Una de las muchas preocupaciones que rodean a la inteligencia artificial es cómo afecta a nuestras competencias cognitivas individuales: a nuestra capacidad para memorizar, para razonar, para conocer, para decidir o para ejercer pensamiento crítico.

Ya hace un tiempo publiqué en este mismo blog un post en que hablaba del fenómeno del 'automation blindness' y cómo este fenómeno, la confianza excesiva en las decisiones de una máquina o algoritmo, puede llevar a cometer errores, puede invalidar la estrategia de Human-In-The-Loop y puede de afectar a medio plazo a la capacidad humana para tomar o supervisar esa decisión.

En otro post comentaba, además, como esa combinación con un deskilling progresivo puede conducir a un empobrecimiento cognitivo del ser humano y de su autonomía y capacidad de decisión.

En este post resumo los hallazgos de un 'paper' que nos presenta la idea de la rendición cognitiva ('cognitive surrender'), que considero muy relacionado con los conceptos anteriores.

Presentando las fuentes: el trabajo de Shaw y Nave

El paper al que me refiero es 'Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender' escrito por Steven D. Shaw y Gideon Nave de Wharton, un trabajo científico que aporta novedades teóricas y hallazgos experimentales.

Un 'paper' que me fue recomendado por Virginia Cabrera Nocito y que ella consultó durante su investigación doctoral y como parte de su labor directiva en la SOCEC (Sociedad Científica de Economía de la Conducta)

La teoría de los tres sistemas en la cognición

En el aspecto teórico, la novedad que aportan los autores es lo que denominan la teoría de los tres sistemas de la cognición 'tri-system theory of cognition'.

Resultan bastante conocidas, especialmente a través de la obra de Daniel Kahneman, las teorías de los dos niveles de la cognición que Kahneman recoge en su famoso libro 'Thinking fast and slow', según las cuales, cognitivamente operamos en dos niveles, uno rápido que, por decirlo de alguna forma, 'toma las decisiones sin pensar' con base en la intuición y en la emoción, y otro lento que es deliberativo y racional.

La gran propuesta de los autores del 'paper' es la existencia de un tercer nivel o sistema, un tercer nivel que se apoya en sistemas externos de inteligencia artificial. Según esto, para Shaw y Nave estaríamos hablando de los siguientes sistemas cognitivos:

Sistema 1 (rápido): intuición humana. Se caracteriza por ser automático, asociativo, que exige poco esfuerzo pero que es propenso a sesgos y, de hecho, suele ser el origen de los múltiples sesgos cognitivos.

Sistema 2 (lento): deliberación humana. Es analítico, reflexivo y más normativo pero es costoso y exige un mayor esfuerzo, por lo que nuestro cerebro tiende a recurrir al sistema 1 'siempre que puede'.

Sistema 3 (artificial): se trata de una cognición externa, generada por inteligencia artificial. Es automatizado, basado en datos y dinámico (interactúa en tiempo real).

La novedad clave de la propuesta es, por un lado, la existencia de ese tercer sistema pero además, que ese tercer sistema presenta dos diferencias profundas con los niveles de Kahneman:

Por un lado, si los sistemas 1 y 2 son de naturaleza biológica, mientras que el sistema 3 es un sistema artificial.

Por otro lado, mientas los sistemas 1 y 2 son internos al individuo, el sistema 3 es externo, aunque sus resultados se integran en el pensamiento y la decisión como si fueran propios.

Delegación cognitiva ('cognitive offloading')

Los autores hacen mención a lo largo del paper al concepto de delegación cognitiva ('cognitive offloading').

La delegación cognitiva se entiende como uso estratégico y puntual de herramientas externas para apoyar el propio razonamiento, sin renunciar al control. Ejemplos clásicos podrían ser el uso de una calculadora o del GPS. En el caso en que nos ocupa estaríamos hablando de la inteligencia artificial típicamente mediante el uso de un chatbot generativo tipo ChatGPT o un agente.

Aunque se descarga una parte de la cognición en la herramienta, todavía el sistema 2 sigue activo, la persona mantiene la deliberación y la decisión, y la IA solo complementa o refuerza esa deliberación, por ejemplo generando opciones que luego evalúa el usuario. Además, es una forma de actuar reversible y crítica, es decir, la persona puede aceptar, cuestionar o rechazar la propuesta de la herramienta según su propio juicio (un poco la idea tras 'human-in-the-loop').

En ese sentido, la delegación cognitiva se considera un mecanismo, digamos, sano.

Rendición cognitiva ('cognitive surrender')

Sin embargo, en lo que ponen el foco los autores es en la rendición cognitiva ('cognitive surrender'), es decir, la tendencia a aceptar la respuesta de la inteligencia artificial sin verificarla, dejando de lado tanto la intuición propia del sistema 1 como la deliberación del sistema 2. A diferencia de lo que ocurre en la delegación cognitiva, la persona deja de razonar y, simplemente, adopta la respuesta externa como propia.

Según argumentan Shaw y Nave, la rendición cognitiva no es intrínsecamente irracional. Así, en dominios o tareas donde claramente la inteligencia artificial es superior al ser humano, esa rendición puede ser más una adaptación que un, digamos, fallo.

El problema realmente surge cuando la persona pierde la noción de cuándo y por qué delegó, difuminando así la frontera entre agencia humana y de la máquina y empobreciendo tanto esa agencia como las capacidades cognitivas humanas.

Aparte de las aportaciones teóricas, buena parte del 'paper' se dedica a describir los experimentos realizados y los resultados obtenidos que confirman la existencia de esta rendición cognitiva.

Reflexiones

En el fondo, el artículo de Shaw y Nave viene a confirmar de manera científica y experimental algo de lo que creo que todos somos bastante conscientes y que no deja de generar preocupación: el riesgo de pérdida por parte de los humanos, por un lado, de capacidades cognitivas y por otro, de agencia y criterio de decisión, por un uso excesivo y sobre todo inadecuado y acrítico de la inteligencia artificial.

Y esto es, en mi opinión, un problema ético y práctico de primer orden, con una solución no sencilla que debemos de esforzarnos en articular trabajando aspectos como la educación, el pensamiento crítico y la responsabilidad individual... con uno mismo.

Conclusiones

Es bastante reconocido el hecho de que cada vez más usamos la inteligencia artificial y que delegamos en ella tareas, conocimiento y decisiones. Esto lleva a los autores del 'paper' que hemos comentado a deducir que existe un tercer sistema cognitivo (el sistema 3, artificial) a añadir a los dos propuestas realizadas hace mucho tiempo por Kahneman y otros autores respecto a la existencia de dos sistemas cognitivos: sistema 1 rápido y sistema 2 lento.

Pero más allá de esos planteamiento teóricos, los autores definen y comprueban experimentalmente la existencia de la denominada rendición cognitiva, la abdicaciòn por parte de los humanos a ejercer su agencia delegando esa agencia en un sistema externo, en este caso un sistema de inteligencia artificial.

Cómo hacemos que un modelo razone (I): tres grandes estrategias

noreply@blogger.com (Ignacio G.R: Gavilán) — Wed, 16 Sep 2026 07:30:00 +0000

Uno de los grandes avances de los, digamos, dos últimos años, en los modelos generativos, un avance que posibilita además la existencia de los agentes y la Agentic AI, es la aparición de los llamados modelos razonadores, una especie de evolución o enriquecimiento de los grandes modelos de lenguaje que, aunque pueda sonar raro, denominaré 'clásicos'.

Llevo tiempo queriendo entender cómo funcionan internamente y en detalle este tipo de modelos (y los sistemas basados en ellos) y cómo se entrenan o cómo se adaptan para exhibir esa capacidad de razonamiento.

Como parte de esa investigación estoy finalizando la lectura del libro 'Building a resoning model (form scratch)' de Sebastian Raschka, una obra que, aunque con mucho foco en la codificación, también expone con rigor muchos de los fundamentos teóricos.

Y con este post inicio una serie en que, con base en esa obra, explico los principales métodos para convertir a un LLM 'clásico' en un modelo razonador.

Lo que hace un LLM 'básico'

Un LLM ('Large Language Model'), como muchos otros modelos de lenguaje más simples que les han precedido, son fundamentalmente predictores de la siguiente palabra. Es decir, ante un texto de entrada incompleto proponen como salida la palabra que sigue a ese texto de entrada. Actuando de modo iterativo, en que se añade una palabra nueva en cada ciclo, el resultado que observamos, es que ante un texto de entrada (el 'prompt'), se genera el texto que le sigue ('completion') que en la practica constituye la respuesta.

Como muchos lectores de este blog sabrán, en realidad la base de funcionamiento no son las palabras sino los tokens, pero a estos efectos me quedaré en el nivel palabra por entendernos mejor.

También muchos lectores sabrán que el modelo no reacciona únicamente al prompt de entrada sino que la entrada se enriquece con el contexto, las memorias o la información que se obtiene mediante una consulta a la web o una recuperación de conocimiento mediante RAG ('Retrieval Augmented Generation'). En cualquier caso, y aunque el 'verdadero' texto de entrada sea mucho más que el 'prompt', en esencia el modelo funciona completando o contestando a ese texto de entrada enriquecido.

Los modelos razonadores

Pero los modelos razonadores hacen otra cosa, aunque la puedan expresar como texto o, si se quiere, añaden otro ingrediente.

Los modelos razonadores entienden su entrada no tanto como un texto a completar o a contestar, sino como un objetivo o un problema a resolver. Y, por ello, en lugar de 'lanzarse a contestar directamente', lo que hacen es plantear una especie de 'plan de acción', una estrategia o una serie de pasos a dar para resolver el problema. Además, y a medida que ejecutan el plan, evalúan las respuestas y, eventualmente, rehacen el plan.

En el caso de sistemas dotados de capacidades agenticas, como parte de la ejecución del plan pueden invocar a las denominadas herramientas ('tools') que permiten la interacción con el exterior.

Esta forma de funcionar de los modelos razonadores resulta maravillosa y los acerca aún más a lo que podríamos entender como verdadera 'inteligencia'. Y, visto a alto nivel, tal y como la he explicado, no resultan, creo, difíciles de entender.

Pero me maravilla el que se puedan conseguir este tipo de modelos y no me parece evidente cómo se hace esto, tanto en diseño y entrenamiento del modelo, como luego en ejecución.

Y sobre este tipo de problemáticas es sobre las que se enfoca esta serie de posts que ahora inicio.

El entrenamiento y personalización de de modelos generativos

Antes de dar el primer paso, conviene recordar un par de ideas acerca de cómo se entrenan y cómo se personalizan los grandes modelos de lenguaje. Básicamente, conviene que recordar que, típicamente, existen tres etapas:

Pre-entrenamiento ('pretraining'): Es la fase inicial, tremendamente masiva, en que se trabaja sobre millones de datos. Tras esta fase, el modelo usa de manera estructuralmente correcta el lenguaje y dispone de un amplísimo 'conocimiento' de propósito general. Tras esta fase, en general, el modelo de lenguaje ya es perfectamente utilizable.

Ajuste fino ('fine-tunning'): Persigue una especialización en un dominio concreto o en una forma concreta de actuar. El interés de esta fase es que, con una cantidad de datos de entrenamiento comparativamente muy pequeña, se consiguen sin embargo muy buenos resultados en esa especialización. En muchos casos de uso esta fase, que ya no es obligatoria, se realiza mediante aprendizaje supervisado pero en otros entornos, y en concreto en la 'conversión en razonador', se utiliza el aprendizaje por refuerzo.

Uso y 'prompting': Finalmente, y como es quizá ya más conocido, se pueden conseguir interesantes adaptaciones y personalizaciones simplemente mediante el uso adecuado del modelo, sin modificarlo en absoluto: mediante la aplicación de técnicas de prompting, mediante la gestión del contexto, etc

Tres grandes estrategias para modelos razonadores

Bueno, tras toda esta base, en este post sólo voy a introducir las tres grandes estrategias que se nos explican en la referencia mencionada más ariiba para transformar un modelo de lenguaje 'normal', en un modelo razonador. Éstas son las estrategias (que veremos con un poco más de detalle en próximos posts)

Escalado de computación en tiempo de inferencia ('inference-time compute scaling'): A pesar del nombre tan 'espectacular', es la estrategia probablemente más sencilla, porque no implica ninguna forma de entrenamiento sino que trabaja sin modificar el modelo y en la fase final, de uso y prompting. Es decir, aplica fundamentalmente técnicas de ingeniería de prompts como la conocidísima cadena de pensamiento (CoT, 'Chain-Of_Thought') o la auto-consistencia ('self-consistency'). Trabajamos, pues, sin modificar el modelo, en tiempo de inferencia y lo hacemos mediante técnicas que mejoran el razonamiento pero con mayor coste computacional y de tokens (de ahí que se hable de escalado).

Aprendizaje por refuerzo ('reinforcement-learning'): Se centra en la segunda etapa, el ajuste fino. En un entrenamiento sobre problemas lógicos o complejos, se aplican formas diferentes de aprendizaje por refuerzo para 'dar pistas' al modelo acerca de cuál es la mejor forma de tratar el problema.

Destilado ('distillation'): Es una estrategia en que un gran modelo entrena a otro que es el que se convertirá en modelo razonador. Sobre este segundo actuamos en la fase de ajuste fino 'fine tuning'.

Conclusiones

Los modelos razonadores son uno de los grandes avances de los dos últimos años y habilitan la aparición de la IA agéntica.

Con este post, inicio una serie en que intentaremos ver cómo se puede convertir un modelo de lenguaje 'clásico' en un modelo razonador. De momento, en este post, hemos identificado las tres grandes estrategias.

Unas reflexiones transitorias sobre la propuesta de Dario Amodei para controlar la IA

noreply@blogger.com (Ignacio G.R: Gavilán) — Mon, 14 Sep 2026 10:00:00 +0000

Esta última semana el mundo de la inteligencia artificial, y casi diría que el mundo mediático en general, se han visto sacudidos por las comunicaciones y los comentarios sobre los riesgos de la inteligencia artificial, riesgos que, en algunas opiniones, implican la capacidad de acabar incluso con la humanidad.

Aunque de alguna manera llueve sobre mojado al haberse producido, por ejemplo, incidentes en que agentes IA realizaron ataques no solicitados y saltándose las protecciones (como el famoso incidente en que un enjambre de agentes de OpenAI intentaron atacar Hugging Face), todo este ruido se disparó con la renuncia el 9 de Septiembre del investigador de Anthropic Jacob Coxon quien dimitió de su puesto en la empresa, supuestamente ante su disconformidad con la falta de responsabilidad de la misma (y también de su empresa anterior, OpenAI) en el desarrollo de los modelos frontera y la superinteligencia. El primer tuit de Coxon, al que seguían varios más, decía:

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives

A esto han seguido miríadas de publicaciones y comentarios en todo tipo de medios (seguramente, apreciado lector, tú mismo/misma hayas escuchado muchas cosas sobre esto en los últimos días).

Pero más que ese tuit, y más que los comentarios que le han seguido, me ha interesado, por ser quien es, la publicación hecha por Dario Amodei, CEO de Anthropic, el 12 de Septiembre, hace ahora, en el momento en que esto escribo, dos días, y tres días después del viral tuit de Jacob Coxon, sun antiguo empleado.

La publicación

La publicación, realizada en su página oficial, y titulada 'We must pace the frontier', pide, en esencia, acompasar el desarrollo de los llamados modelos frontera (los modelos generativos más avanzados y en camino hacia la superinteligencia) con nuevos controles y eventuales regulaciones. En concreto, propone una estrategia con tres pasos, a saber:

Evaluadores incorporados ('embedded evaluators'): Como una forma muy transparente de control, consiste en dar acceso permanente a los sistemas de los creadores de modelos frontera (como el propio Anthropic), a evaluadores externos independientes, con similares permisos y accesos que si fueran un empleado, para que esos evaluadores puedan verificar prácticas de seguridad, y todo ello con derecho a publicar sus hallazgos sin control editorial por parte de la empresa. Unilateralmente, Anthropic se compromete a adoptar esta medida

Coordinación democrática: coordinación de las empresas punteras de IA en países democráticos, una coordinación que incluye estándares, límites al ritmo de avance en los modelos frontera, y todo ello con apoyo regulatorio, entre otras cosas para superar posibles conflictos en materia de competencia (leyes 'antitrust').

Coordinación global: EE.UU. y otros gobiernos democráticos intentan coordinar con potencias autoritarias (principalmente China), aunque reconoce que la verificación será muy difícil.

Algunas reacciones 'a bote pronto'

Soy consciente de que, en los dos días anteriores, y seguro que en los que siguen, ha habido y habrá muchas, muchísimas reacciones a esta publicación de Amodei. Aunque sin tiempo a profundizar en ello, he visto, que, en general, la publicación ha recibido el apoyo de algunos de los grandes líderes de la inteligencia artificial, como Sam Altman, de OpenAI, quien el mismo día de la publicación retuiteaba el tuit de Amodei, añadiendo:

I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks. Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon.

o de Demis Hassabis de Google, quien un día después tuiteaba

Dario's essay points towards the right path forward. The details need working through, but the direction is correct for meeting this critical moment. This is also why we recently put out our proposal for an industry-wide standards body for frontier AI

y también he escuchado que, por el contrario, el presidente norteamericano Donald Trump estimaba que no era necesaria más regulación, creo que entendiendo que los riesgos que se alegaban eran exagerados.

Mis reflexiones

Y confieso que no he tenido tiempo de profundizar en las reacciones y argumentaciones tanto de los líderes mundiales de la IA como de personas a las que sigo en redes y cuya opinión aprecio y quiero conocer (y conoceré).

Pero como ya he hecho anteriormente en algún caso parecido quiero, antes de leer mucho lo que han dicho 'otros', intentar hacerme mi propia opinión.

Es posible que, en el alud de comentarios y opiniones que sobre el tema se han publicado, se están publicando y se publicarán, mi post tenga una importancia casi nula. Sin embargo, no quiero dejar de escribirlo.

En parte, claro, por los lectores de este blog, para que puedan tener, si les interesa, mi opinión. Pero también por mí mismo y mi proceso mental y crítico. Muchas veces he dicho que yo pienso cuando escribo y el redactar este artículo me ayuda por eso a poner en orden mis ideas, que reconozco que, en este tema, no están del todo consolidadas.

¿Por qué transitorias?

¿Y por qué hablo de reflexiones transitorias?

Bueno pues porque, como he dicho, son conclusiones preliminares que obtengo yo un poco sobre la marcha sin haber leído aún los comentarios y opiniones de muchas personas autorizadas y me pueden faltar datos y perspectivas para adquirir un opinión más firme.

Y porque, además, para estar yo más seguro de mi opinión, necesito investigar más sobre cómo se están implementando realmente estos modelos y sus protecciones.

Así que no es imposible que, en algún momento, pueda matizar o incluso cambiar de forma notable algunas de las conclusiones preliminares que voy a expresar en este post.

Los riesgos

Y lo primero es razonar sobre si realmente son tan peligrosos los modelos frontera actualmente, si realmente esta alarma tiene sentido o estamos exagerando.

Bueno, aunque no tengo una argumentación cien por cien racional, tiendo a pensar que hay una cierta exageración. Realmente, creo que acabar con nuestra civilización o con la raza humana es, por suerte, dificilísimo, así que sí, pienso que hay una cierta exageración.

Sin embargo, eso no me consuela, por decirlo de alguna manera, porque sí percibo que los riesgos, los riesgos graves y más allá de la pura ética, han aumentado considerablemente y que, aunque veo muy difícil que se puedan convertir en existenciales, sí podemos sufrir incidentes muy graves.

Y creo eso, por tres motivos, o con tres vectores de riesgo, por cierto, muy parecidos a los que apunta el propio Amodei, aunque puedo asegurar y aseguro que son opiniones propias.

La dificultad del control
La pérdida de comprensión
Usos maliciosos y ciberataques

Veámoslos

Mi visión de los grandes riesgos 1: La dificultad del control

El primer vector tiene que ver con la dificultad del control. ¿A qué me refiero?

Cuando se lanzó ChatGPT, y con las evoluciones subsiguientes, ya supimos que estábamos hablando de unos modelos de base probabilista, que no siempre producen la misma respuesta, que no siempre 'aciertan', que no estamos seguros de lo que van a responder y que producen las llamada alucinaciones. Aunque eso es molesto, y tiene algún riesgo, mientras estemos hablando sólo de chabots que contestan a nuestras preguntas o que generan contenido, los riesgos son todavía bastante limitados y tenemos el control.

Pero es que los modelos han evolucionado, se han convertido en razonadores, capaces de crear planes de acción y, no sólo eso, sino que mucho más importante, ahora los estamos utilizando no sólo para que nos contesten preguntas o generen contenidos, sino que los estamos utilizando para automatización de procesos y tareas de manera autónoma en los denominados agentes. Y a estos agentes les dotamos, mediante las así llamadas herramientas, de acceso a todo tipo de recursos y sistemas e, incluso, en el caso de la IA física, a la interacción con y control de dispositivos.

Es decir, estamos creando sistemas autónomos, que deciden por sí mismos pero no con base en reglas conocidas a priori, sino con base en razonamiento propio en tiempo de ejecución y con un alto poder de interacción con el exterior.

Como su comportamiento no se basa en reglas prefijadas y conocidas, son mucho más difíciles de probar que una automatización tradicional y creo que, realmente, nunca puedes estar al 100% seguro de haber eliminado cualquier comportamiento incorrecto. Siempre te pueden sorprender. De igual manera, aunque se establezcan, como debe ser, guardarraíles éticos y de seguridad, no me parece viable el garantizar al 100% que esos guardarraíles evitan con total seguridad cualquier tipo de error o comportamiento inadecuado.

Y menos con unos modelos cada vez más potentes e 'inteligentes', que adivinan incluso cómo saltarse protecciones para cumplir sus objetivos.

Es decir, tenemos unos sistemas eventualmente poderosos, que no podemos garantizar que controlemos al 100%. Y eso, creo, deja la vía abierta a fallos y accidentes. Dependiendo de para qué utilicemos esos agentes y a qué les hayamos dado acceso, pueden ser más graves o menos, pero creo que el riesgo está ahí. Y son conocer en detalle, me parece que el incidente de OpenAI con Hugging Face es una materialización de este riesgo.

Si esto se traslada a sistemas críticos, el riesgo está servido.

Mi visión de los grandes riesgos 2: la pérdida de comprensión

Este segundo vector, en realidad, lo único que hace es agravar el anterior. A medida que los modelos se hacen más complejos, se nos hace más difícil a nosotros, humanos, entender o casi diría mejor abarcar su funcionamiento y, por tanto, se nos hace más difícil imaginar 'qué podría ir mal' y diseñar y adoptar medidas en cualquier punto del ciclo de vida para evitar esos problemas potenciales.

Esto se pude agravar, seguramente se esté agravando ya, con la estratega en que los modelos diseñan otros modelos sin concurso humano en el denominado 'Recursive Self Improvement'.

Si los modelos que introducimos en los agentes han sido creados de esta forma, si los entendemos peor, a priori tendremos aún menos capacidad de imaginar cómo controlarlos.

Mi visión de los grandes riesgos 3: el uso malicioso y los ciberataques.

Con todo y todo, confío en que los dos riesgos anteriores se puedan de alguna manera 'domar'. Por un lado, tengo una gran confianza en la tecnología y la ingeniería y en que haya quien imagine y desarrolle en algún momento métodos efectivos y 100% fiables para garantizar el control y que a lo mejor ahora no se nos ocurren o no conocemos.

Además, no veo que ninguna de las grandes empresas de IA tenga el menor interés en hacer modelos o sistemas peligrosos. Aparte de la, quiero confiar, motivación ética, es que me parece que, simplemente, no les interesa, incluso como puro negocio.

Pero cosa muy diferente, es el uso expresamente malicioso, el uso en forma de ciberataques ya no sólo por parte de hackers individuales u organizaciones de hackers sino, aún peor, por parte estados en la denominada guerra híbrida. Y eso me preocupa mucho porque, este tipo de colectivos sí tienen intereses y motivaciones, por más lamentables que sean, para hacer daño y para aprovecharse por un lado de la potencia de los modelos frontera y por otro de sus vulnerabilidades.

Por desgracia, estas organizaciones maliciosas ya han demostrado tener recursos, talento técnico e imaginación.

Valorando la propuesta

La propuesta de Amodei parece, pues, en la buena dirección o al menos, necesaria. Es decir, si esos riesgos son ciertos, y Amodei piensa que lo son (y yo también), algo hay que hacer.

Dando por hecho que no parece muy creíble, y Amodei no lo propone, una congelación del desarrollo de los modelos frontera, parece que hay que apuntar más en el sentido de muchos mayores mecanismos de control a nivel regulatorio, operativo y tecnológico.

En la propuesta de Amodei no aparece claramente ninguna propuesta tecnológica para mejorar el control. Me refiero a que no aparece ninguna orientación de un algoritmo o sistema de control que, realmente, garantice el control estricto y fiable de un agente. No sé si es que no la tiene o que no la quiere contar, pero no aparece en su propuesta, aunque es cierto que habla de temas como el alineamiento, la interpretabilidad o la excelencia operativa evitando errores de ejecución o, incluso, el establecimiento de estándares, que pudieran conectar con soluciones técnicas.

Pero el foco de la propuesta de Amodei está más en la supervisión (sobre todo con los evaluadores incorporados) y la coordinación mundial, en un primer nivel en estados democráticos y en un segundo a nivel global, incluyendo sobre todo a China.

Aunque la propuesta de Amodei tiene sentido, y así parecen reconocerlos muchas autoridades de la IA, no deja de generarme ciertas reservas.

Primera reserva: ¿es realmente suficiente?

No estoy muy seguro de si con lo que propone Amodei eliminamos realmente los riesgos. Seguro que operamos en la dirección de reducirlos, pero no veo claro que los eliminemos.

¿Por qué?

Pues porque creo que mientras no se pueda garantizar técnicamente un control total de los agentes, siempre habrá 'vías de escape', agujeros por lo que los agentes o sistemas inteligentes autónomos se puedan 'escapar' y producir incidentes graves. Y la propuesta no parece incidir en ello.

Mecanismos como la coordinación entre grandes empresas podrían llevar a la aparición de esa solución tecnológica, pero no parece evidente. Y mecanismos como el de los evaluadores embebidos que es un gran ejercicio de trasparencia y que, bien ejecutado, puede llevar a detectar y eliminar muchos problemas, pero tampoco me parece que garantice eliminar los problemas de raíz.

Es decir, trabajamos en la buena dirección, en detectar problemas, corregirlos y coordinar mejores prácticas... pero no ofrecemos, al menos de momento, una garantía total.

Es posible que es que ahora no podamos hacer otra cosa

Segunda reserva: el liderazgo americano

A pesar de que, con el permiso de China, nadie niega el liderazgo norteamericano y de sus empresas en materia de tecnología en IA, no me deja buen sabor de boca la insistencia en el documento en el liderazgo por parte de los Estados Unidos en esta materia.

Soy plenamente consciente de que, en concreto, Europa no tiene el nivel tecnológico ni de liderazgo que poseen los Estados Unidos, pero sí ha sido pionera, con mayor o menor acierto, en regulación y es un mercado importantísimo para la IA. Pues bien, a Europa ni se la menciona. Por supuesto, aún menos a Sudamérica o África.

Insisto en que tengo claro el liderazgo real de Estados Unidos tanto a nivel técnico como político y económico, pero no me acaba de parecer una buena forma de comenzar a plantear una consenso de países democráticos, con esa forma de imposición, por más que, 'de facto', seguro que ocurriría.

Tercera reserva: la viabilidad geoestratégica

Añadido a lo anterior, tengo dudas, el propio Amodei también, de la viabilidad de subir a China 'al carro'. Y, si no se consigue subir a China a este tren, probablemente todo quede en agua de borrajas', porque la competencia, tanto económica con geoestratégica llevarán seguramente, no sólo a que no se produzca la más mínima ralentización en el desarrollo de la IA, sino a todo lo contrario.

Aunque no es más que un detalle de comunicación, de la misma forma que afeaba en la reserva anterior el que se imponga el liderazgo de Estados Unidos, que se considere de forma tan secundaria, en realidad nula, a actores como Europa, tampoco me parece que la mejor forma de conseguir el interés de China sea echarles en cara desde el principio que son un estado autoritario como se hace en la publicación de Amodei.

Todos sabemos que China es un estado autoritario, pero si de verdad quieres que te acompañe, quizá se deberían haber utilizado algún eufemismo o algún rodeo.

Cuarta reserva: ¿por qué un artículo publico?

La última reserva que quisiera expresar, va hacia el propio sentido de esta propuesta y de hacerla pública como si fuese un post de un blog o una carta abierta.

Aquí no lo tengo claro, pero me hago varias preguntas.

Está claro que Amodei es un personaje importante hoy en día y con mucho poder real. Si quiere ponerse de acuerdo con OpenAI o con Google, por ejemplo, creo que no tiene más que levantar el teléfono y hablarlo. Probablemente puedan tener reuniones discretas para plantear una colaboración ¿Por qué entonces una comunicación abierta a la que luego 'los demás' reaccionan con su acuerdo? ¿Es sólo una puesta en escena de algo que realmente ya han hablado y acordado? Y, si fuese así ¿por qué no hacen una comunicación conjunta?

¿Es posible que, simplemente, ante el ruido creado por Jacob Coxon, Anthropic, a través de su CEO se hayan sentido obligados a hacer una forma de declaración pública en el sentido de una mayor control y responsabilidad? Y, si fuese así ¿se puede quedar todo en 'agua de borrajas', en pura estrategia de comunicación'?

¿Es posible que se busque solo un poco un cambio de imagen de las empresas de IA, ahora que parece que generan cierto miedo e incluso antipatía, ya sea como estrategia general de comunicación o ya sea para preparar las eventuales salidas a bolsa... o la explicación de por qué no salir a bolsa?

En una línea parecida, aunque con resultado diferente, al caso de la comunicación con las otras empresas de IA, me llama la atención la relación con la administración Trump. ¿Hace Amodei esta propuesta, que incluye regulación e importantes movimientos geoestratégicos, sin pulsar la opinión de Trump y su administración? Eso parece, visto lo visto, o a lo mejor es que sí la pulsó y sabía que la respuesta iba a ser negativa. Pero no deja de sorprenderme un poco y me hace preguntarme, sin que tenga una respuesta ahora mismo, qué significa esto realmente.

O, simplemente, ¿estamos ante un globo sonda'? ¿Es qué Amodei, y quizá las otras empresas líderes en IA quieren ver cómo reacciona la administración norteamericana, China y el mercado?

Una esperanza

¿O, quizá, me 'estoy pasando' de susceptible y desconfiado y realmente Amodei siente que debe hacer algo por la securización de la IA y este es un camino, un pistoletazo de salida para hacer algo realmente importante?

Como dije antes, aunque sólo sea con visión de negocio, creo que las primeras interesadas en una IA confiable son las empresas que crean los modelos.

Así que, tampoco podemos descartar el que, más o menos acertada, más o menos viable, la propuesta e intenciones de Amodei sean sinceras y que, sean estas acciones u otras, se comiencen a dar pasos firmes por una IA igual de poderosa pero mucho más segura.

¡Ojala!

Conclusiones

Por desgracia, creo que, en efecto, la IA actual comienza a exhibir riesgos no menores, riegos que, seguramente no estemos controlando bien.

Aunque hay elementos en la propuesta de Amodei que no me convencen o que me generan reservas, lo cierto es que algo tenemos que hacer, y quizá ese artículo sea el punto de partida para 'algo'.

Veremos.

Algunas limitaciones en los modelos razonadores... de momento

noreply@blogger.com (Ignacio G.R: Gavilán) — Wed, 09 Sep 2026 09:45:00 +0000

Desde hace creo que algo más de un año, dentro del movidito mundo de la inteligencia artificial generativa, ocupan un lugar muy importante un tipo de modelos de lenguaje denominados modelos razonadores o LRM ('Large Reasoning Models').

¿Qué tal funcionan?

Desde luego, la experiencia como usuario es que, sin alcanzar la perfección, mejoran a sus predecesores no razonadores en una buena variedad de casos (aunque quizá ralentizando y aportando en ocasiones respuestas demasiado largas). Pero ¿es eso objetivamente cierto?

En este post traigo un muy breve resumen del paper titulado 'The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity' en que un equipo de Apple analiza tres importantes modelos razonadores, detectando algunas limitaciones y llegando a interesantes resultados.

Modelos razonadores

Sin entrar en mucho detalle (probablemente dentro de no mucho les dedique varios posts) podemos decir que un modelo razonador es una variante de un modelo de lenguaje o un modelo frontera que está preparado para tratar problemas que requieran cierta lógica o cierta estrategia de resolución.

En el caso de los modelos 'normales', ante una petición del usuario, fundamentalmente contestan con 'lo que saben' digamos que directamente. Pero el caso de los modelos razonadores, para satisfacer una petición del usuario, primero establecen un plan de acción (con frecuencia basado en la aplicación de técnicas como el CoT, '(Chain-Of-Thought'), un plan que luego ejecutan e incluso revisan en función del resultado de los pasos intermedios.

El planteamiento del experimento

El experimento realizado por el equipo de Apple pretendía ver, fundamentalmente, cómo reaccionaban estos modelos a medida que se incrementaba la complejidad del problema.

Entre los modelos razonadores eligen algunos de los más importantes en el momento de hacer las pruebas y los suelen comparar con la versión equivalente de modelo sin razonamiento. Así, por ejemplo, en el caso de Anthropic utilizan Sonnet 3.7 (tanto versión 'thinking' como sin razonamiento). En el caso de DeepSeek ponen a prueba DeepSek-R1 (razonador) frente a DeepSeek V3 (no razonador). De OpenAI usan o3-mini (razonador).

A los modelos elegidos los someten a problemas de creciente complejidad, basados en cuatro tipos de juegos o problemas a resolver:

Juego 'Torres de Hanoi'
Juego 'Checker jumping'
Juego Cruzar el río ('river crossing')
Juego de bloques:

Se trata de juegos seleccionados intencionadamente para que aporten diferencias en cuanto a complejidad de la planificación, profundidad composicional, etc.

Sobre estos juegos se van proponiendo escenarios de creciente complejidad.

Los resultados y las limitaciones de los modelos

Lo que creo más interesante, y hasta cierto punto sorprendente es el diferente funcionamiento según lo que los autores denominan regímenes de complejidad ('complexity regimes').

Y lo que encuentran es que, para complejidades bajas, los resultados de utilizar un modelo razonador y no razonador son similares e, incluso, en ocasiones es mejor la respuesta del modelo no razonador.

Para complejidades medias, los modelos razonadores exhiben. como cabía esperar, su ventaja a veces de forma muy clara, frente a los no razonadores.

Sin embargo, lo más curioso es que, ante complejidades altas, ambos tipos de modelos, razonadores y no razonadores, sufren un colapso en su resultado llegando a una precisión nula. Es cierto que los modelos razonadores suelen 'tardar' más en colapsar, pero lo acaban haciendo.

También observan que ante problemas simples, los modelos razonadores tienden a 'pensar de más' ('overthinking'), lo que lleva a una baja eficiencia.

También detectan algún comportamiento paradójico en situaciones en que hay que realizar un cálculo exacto ('exact computaton') para los que el modelo dispondría de algoritmos muy directos y que, sin embargo, no utiliza, perdiendo eficiencia y precisión.

Adicionalmente, cuestionan algunos de los paradigmas actuales de evaluación de modelos razonadores. Por un lado afirman que las formas habituales de evaluación que se basan 'benchmarks' matemáticos y en su lugar proponen, como hemos mencionado, otro tipo de problemas que permiten variar la complejidad del problema.

En este aspecto más procedimental también proponen no centrarse sólo en el resultado final, sino también evaluar trazas intermedias.

De momento

Y esos son, muy brevemente, los resultados que obtienen. Son muy interesantes pero ¿siguen siendo válidos?

Apostaría a que, al menos parcialmente, si, pero el paper que comento se publicó en Noviembre de 2025, es decir, unos nueve meses antes de cuanto escribo este post. En muchas otras disciplinas humanas nueves meses son muy poco tiempo, pero inteligencia artificial generativa es bastante y, después de este estudio (y, sobre todo, después de los modelos que utiliza) han aparecido nuevos y se supone que mejores modelos.

¿Qué pasaría si se sometiese a esas mismas pruebas al modelo Fable de Anthropic o al flamante GPT6-Astra de OpenAI? Asumo que, en general, se mejoraría la precisión de los resultados pero ¿Qué pasaría con la eficiencia? Y, sobre todo ¿Se mantendría ese patrón ante los regímenes de complejidad muy alta y el colapso ante problemas muy complejos?

Conclusiones

He resumido bastante el resultado de una comparativa realizada por un equipo de Apple sobre modelos razonadores y comparándolo con no razonadores.

Los resultados muestran algún comportamiento paradójico y, sobre todo, un colapso ante problemas de muy alta complejidad.

¿Se mantienen cualitativamente esas paradojas y ese colapso en los últimos modelos? Sinceramente, en el momento de escribir este post no lo sé, pero intuyo que los modelos habrán mejorado, puede que sustancialmente, pero apostaría a que alguna limitación se mantiene todavía en cierta medida en los modelos más actuales.

La optogenética holográfica: una puerta a la programación del cerebro

noreply@blogger.com (Ignacio G.R: Gavilán) — Fri, 04 Sep 2026 09:25:00 +0000

En el post anterior, en que introdujimos brevemente la idea de los neuroderechos comentábamos que actualmente en neurotecnología estamos más avanzados en la lectura e interpretación de señales cerebrales que en la 'escritura', es decir la actuación sobre el cerebro o el sistema nervioso.

Sin embargo, que estemos menos avanzados no significa que no existan ya técnicas para hacerlo y que no se trabaje en ello. En el artículo anterior, por ejemplo, mencionábamos el éxito del Deep Brain Stimulation que, aunque de una forma muy sencilla (simplemente, envía unos pulsos a modo de marcapasos cerebral) consigue disminuir muchos los temblores asociados al Parkinson. Y también, hace ya un tiempo, publiqué en este blog un post en que hablaba de las técnicas de estimulación que se están aplicando en neurotecnología.

Sin embargo, en este post quiero mencionar muy brevemente, una técnica que me ha llamado la atención recientemente: la optogenética holográfica. Se trata de una técnica desarrollada por Rafael Yuste y su equipo. Y me encuentro una muy breve pero estimulante descripción de la misma precisamente en el libro 'Neuroderechos: un viaje hacia la protección de lo que nos hace humanos' del propio Rafael Yuste en que basaba mi post anterior.

Los conjuntos neuronales

Antes de describir muy brevemente en qué consiste la optogenética holográfica, mencionar los llamados conjuntos neuronales.

En el libro, Yuste no explica cómo los modelos sobre el cerebro existentes inicialmente lo concebían como un conjunto de neuronas interconectadas donde la base del funcionamiento es la neurona individual.

Sin embargo, e inspirado por el concepto matemático de los 'atractores' de John Hopfield, Yuste demostró experimentalmente la existencia de los conjuntos neuronales que son grupos de neuronas fuertemente interrelacionadas, que se disparan a la vez, y que constituyen una realización biológica de esos 'atractores' de Hopfield.

Estos conjuntos neuronales, sin embargo, no necesariamente están formados por neuronas contiguas, sino que las neuronas que los conforman se pueden encontrar dispersas e incluso entremezcladas con las de otros conjuntos neuronales.

A partir de ahí, en la visión de Yuste, el funcionamiento del cerebro hay que entenderlo más con base en base en estos conjuntos neuronales que en las neuronas individuales.

Con esta pequeña base, vamos ya a por la optogenética holográfica.

La optogenética holográfica

La optogenética holográfica, dicho de forma muy sencilla, es una técnica que, primero, y usando técnicas genéticas, hace que las neuronas sean sensibles a la luz y se pueda actuar sobre ellas mediante luz.

Una vez hecho esto, mediante esa luz, en este caso con la aplicación de un láser, se pueden activar las neuronas (o mejor, los conjuntos neuronales) deseados.

Lo que hizo el equipo de Yuste es crear los patrones de luz para activar las neuronas o conjuntos neuronales deseados y aplicarlo en ratones.

Y esta técnica, la optogenética holográfica, es una forma muy fina de poder 'escribir en el cerebro' y se encuentra probada con éxito en el cerebro de ratones. Y tan fina es que, de manera familiar, y como explica el propio Rafael Yuste el libro, él y su equipo llamaban a esta técnica "el piano" por el manejo que permite del cerebro.

Las posibilidades y los riesgos

Las posibilidades que abre esta técnica (y otras que presupongo que existen o se están desarrollando) son enormes. El equipo de Yuste la utiliza para descifrar el código neuronal, su funcionamiento, pero también presenta muy buenas perspectivas para el tratamiento de afecciones como el autismo o el Alzhéimer.

Sin embargo, es una forma de escritura en el cerebro y abre la puerta a su programación y, por tanto, mal utilizada, podría aumentar los riesgos relacionados con la actuación sobre el cerebro humano. Recordar a este respecto que de las cinco grandes áreas de los neuroderechos que vimos en el post anterior, cuatro de ellas decíamos que hoy en día todavía no se enfrentaban a un gran riesgo porque estaban relacionadas con la 'escritura' en el cerebro todavía 'en pañales'.

Dado que una técnica como la optogenética holográfica, abre la puerta a la escritura, y la escritura fina en el cerebro nos acerca los riesgos contra los que luchan las últimas áreas de los neuroderechos.

Cierto es, siendo realistas, que se trata de una técnica muy invasiva, primero hay que empezar por una modificación genética y luego son necesarios dispositivos intracraneales para el envío del láser, por lo que no se le puede aplicar a una persona a la ligera sin que esta sea muy, muy consciente de ello. Además, hoy en día, hasta donde sé, ni siquiera está suficientemente probada en humanos ni permitido su uso legalmente.

Así que, por sí misma, aunque sí que es una puerta para la programación del cerebro, no parece que aún sea una puerta demasiado grande para un uso poco ético de esa programación.

Pero seguro que, en el futuro, o esta técnica evoluciona o, más bien, surgen otras técnicas alternativas quizá menos invasivas y, por tanto, a un tiempo más útiles y más arriesgadas.

Conclusiones

La optogenética holográfica es una técnica que combina genética y holografía para estimular de manera controlada el cerebro.

Se trata de una técnica muy potente para la investigación y para, por ejemplo, la eventual terapia de algunas afectaciones mentales o problemas visuales.

Una técnica que va abriendo poco a poco la puerta a la 'programación del cerebro', con sus grandes posibilidades pero también con sus riesgos.

Las cinco grandes áreas de los neuroderechos

noreply@blogger.com (Ignacio G.R: Gavilán) — Wed, 02 Sep 2026 09:25:00 +0000

Gran parte de la actividad actual en materia de ética de la tecnología, se centra, por un lado, en la influencia de las redes sociales especialmente en jóvenes o el acceso a datos en el mundo digital y, por otro, en la inteligencia artificial.

Pero existen otras áreas tecnológicas a tener en cuenta como son la robótica y la que nos ocupa en este post: la neurotecnología

Neurotecnología

Ya hace un tiempo, publiqué en este blog una serie de artículos (ocho en concreto) en que hablaba de diferentes aspectos de la neurotecnología (aunque ahí empleaba el término BCI, 'Brain Computer Interface'), comenzando por explicar lo que era, pasando por tecnología y casos de uso y acabando en consideraciones éticas.

Sin entrar en profundidades, la neurotecnología es una tecnología (o un tipo de soluciones) que son capaces de acceder a la información de nuestro cerebro y sistema nervioso y también de actuar sobre él.

Aparte de basarse en conocimientos de neurociencia, la neurotecnología incluye otras tecnologías como sensórica e instrumentación especializadas, procesamiento de señal (para adecuar y adaptar señales), machine learning para la detección de patrones en los datos recibidos, etc

Sus aplicaciones iniciales, y aún las mayoritarias, son de tipo terapéutico y rehabilitador, siendo algunos de sus mayores éxitos los implantes cocleares para la recuperación de la audición, el DBS ('Deep Brain Stimulation') para la reducción de los temblores asociados al Parkinson, el manejo de prótesis o sillas de ruedas con la mente, etc

Se trata de una tecnología que se encuentra realmente en su infancia, con notables avances en lo que se refiere a captación e interpretación de señales procedentes del cerebro, pero con avances más limitados en lo relativo a actuar sobre éste o sobre el sistema nervioso.

En cualquier caso, su potencial es enorme y casi con total seguridad asistiremos a grandes avances en los próximos meses y años.

Rafael Yuste y el grupo de Morningside

Resulta que una de las autoridades mundiales en este campo, sobre todo en la parte más neurocientífica, es español, aunque trabaja en Estados Unidos, en la Universidad de Columbia: Rafael Yuste.

Aparte de unas más que notables aportaciones científicas a la neurociencia y la neurotecnología, Rafael Yuste ha abanderado y lidera el movimiento en busca de criterios éticos en materia de neurotecnología y de los derechos de las personas en este campo: los neuroderechos

Este verano he leído el que creo que es su último libro, 'Neuroderechos: Un viaje hacia la protección de lo que nos hace humanos' en que, entre otras cosas, describe como surgió el movimiento de los neuroderechos y cómo ha ido avanzando hasta el momento, incluyendo algún hito fundamental como la inclusión de una enmienda relativa a los neuroderechos en la constitución de Chile.

Entre las muchas peripecias que relata, nos cuenta cómo en 2017, unió a un grupo de 25 personas procedentes del proyecto BRAIN, de proyectos similares en otros países y de la industria. Este grupo trabajó durante tres días, crearon un informe del mismo nombre e identificaron las cinco grandes áreas de los neuroderechos.

Las cinco grandes áreas en neuroderechos

Estas cinco grandes áreas, que desde entonces creo que son el núcleo estructural de los neuroderechos, son las siguientes:

Derecho a la privacidad mental: Es decir, que el contenido de la actividad cerebral no pueda ser descifrado sin el consentimiento del ciudadano. Vendría a ser una forma especial, casi diría que extrema, de protección de la privacidad y del derecho a la intimidad. Dado que la neurotecnología permite el acceso a la información cerebral y su descifrado, incluso de manera remota y no invasiva, y dado que esta actividad cerebral puede revelar muchísimo de la persona, prácticamente todo, incluso a nivel subconsciente, es imperativo proteger esa información y que sólo pueda ser accedida cuando tenga sentido y siempre previa aprobación de la persona.

Derecho a la identidad personal: Lo que se intenta proteger es la propia identidad de la persona (esa continuidad psicológica que nos permite de alguna forma saber quiénes somos) impidiendo que ésta se pueda manipular y alterar mediante el uso de neurotecnología.

Derecho al libre albedrío: Es decir, que se mantenga nuestra capacidad de decidir de forma libre y autónoma sin que nuestra voluntad sea manipulada mediante neurotecnología.

Acceso justo a la neuroaumentación: Dado que la neurotecnología nos permite o permitirá incorporar nuevas capacidades (motoras, perceptivas y cognitivas) en un proceso denominado aumentación, se trata, en este caso, de garantizar un acceso justo y equitativo de todas las personas, evitando brechas.

Protección contra sesgos y discriminaciones: Se trata de evitar que se pueda introducir información sesgada o discriminatoria en nuestro cerebro.

Priorizando

Como decía más arriba, la neurotecnología se encuentra aún en su infancia y, aunque está bastante avanzada en la captación e interpretación de señales, lo está mucho menos en el envío de señales al cerebro y la actuación sobre éste.

Eso que tecnológicamente es una pena (o un desafío), desde un punto de vista ético nos da un cierto respiro porque probablemente algunos de los riesgos más aterradores que vienen con la neurotecnología se encuentran en el ámbito de la actuación sobre el cerebro.

Un poco por eso, Rafael Yuste ha priorizado sobre todo el avanzar en el primer área de derecho (la privacidad mental) que tiene que ver con la lectura e interpretación de las señales cerebrales y sobre la que más posibilidades reales existen hoy en día, mientras que soslaya un poco (sólo un poco) las otras cuatro que están más relacionadas con la actuación sobre el cerebro y, hasta cierto punto, nos hablan más de riesgos futuros que de realidades actuales.

Conclusiones

Hay mucho, muchísimo mas que hablar sobre neurotecnología y sobre neuroética y neuroderechos, pero de momento lo dejamos aquí.

Hemos recordado un poco lo que es la neurotecnología y hemos identificado, a partir del libro de Rafael Yuste, las cinco grandes áreas de los neuroderechos.

Tecnología, riesgo existencial y la ética de la antigua Grecia

noreply@blogger.com (Ignacio G.R: Gavilán) — Mon, 31 Aug 2026 08:45:00 +0000

La tecnología es en muchos aspectos maravillosa, una demostración del ingenio humano y un motor de progreso y bienestar.

Sin embargo, como bien sabemos, no está exenta de riesgos, algunos de pura seguridad ante eventuales fallos, pero otros, los principales, los más peligrosos, derivados de uno uso irresponsable o incluso malicioso de las tecnologías.

Ante esto, no queda otra que promover, aplicar y casi exigir el uso responsable y ético de la tecnología. Y, en este aspecto, la venerada antigua Grecia, donde de hecho surgió la ética como disciplina, aún nos puede dar alguna lección o, al menos, un recordatorio y un refuerzo.

Los riesgos de la tecnología y la inteligencia artificial

En efecto, la tecnología, probablemente como tantas otras cosas, trae consigo riesgos. El uso de máquinas conlleva riesgos de accidentes, especialmente en el ámbito laboral. El uso de automóviles también conlleva riesgos de accidentes, muchos de ellos mortales. El uso de la energía nuclear, incluso más allá del ámbito militar, conlleva riesgos de fugas y contaminaciones.

En parte de forma justificada, en parte por moda, una de las áreas tecnológicas que más foco recibe desde el punto de vista ético es la inteligencia artificial. Y en este ámbito hablamos de riesgos en materia de privacidad, de sesgos y equidad, de manipulación, de brechas, de contaminación, de riesgo para el empleo o para la autonomía de las personas, por mencionar algunos.

El riesgo existencial

Aunque con frecuencia cayendo en el sensacionalismo, se ha hablado y se sigue hablando, probablemente cada vez más, de que la inteligencia artificial puede constituir lo que se denomina un riesgo existencial.

Como describía en el artículo 'Inteligencia artificial, ética y el verdadero riesgo existencial, publicado en este mismo blog hace unos pocos meses, un riesgo existencial es un problema potencial que, caso de materializarse, supondría la desaparición de la humanidad o alguna forma de colapso irreversible de nuestra civilización.

También comentaba que existen riesgos existenciales naturales (como el impacto de un gran meteorito) y otros riegos existenciales antropogénicos, creados por la mano del hombre. Los riesgos asociados a la tecnología en general, y a la inteligencia artificial en particular, caerían dentro de este segundo grupo, los antropogénicos que, para lo que es el foco de este post, son los que mas me importan.

Ética y el verdadero riesgo existencial

No voy a entrar en el debate de si la inteligencia artificial constituye o no un riesgo existencial, pero sí quisiera recordar algo que también mencioné en el post que indicaba más arriba: dado que los riesgos antropogénicos están generados por el ser humano, y dado que se deben al uso que hacemos de la tecnología, está en nuestras manos el evitar los usos maliciosos o los usos demasiado arriesgados de la tecnología.

Y está en nuestras manos, también, tomar todas las medidas preventivas para aquellos casos de uso de riesgo admisible.

Y tomar las decisiones y medidas adecuadas en el uso de la tecnología es un acto de responsabilidad y de ética. Depende de nuestro criterio, de nuestra decisión y de nuestra fortaleza para hacer lo correcto.

Por eso decía, y lo he repetido también en alguna charla, que cuando hablamos de riesgos existenciales antropogénicos, y cuando, dentro de ellos, hablamos de riesgos existenciales derivados de la tecnología, el verdadero riesgo existencial no es la tecnología sino la falta de ética, esa falta de criterio o convicción para hacer lo correcto.

Algunas lecciones de la antigua Grecia

Este verano, y siguiendo la recomendación de un buen amigo, he leído el libro 'Grecia en el aire' de Pedro Olalla , un recorrido en muchos momentos delicioso por los paisajes de Atenas y el pensamiento filosófico, ético y, sobre todo político, que allí se generó en su época dorada.

El texto alterna la descripción actual de paisajes en Atenas y alrededores, con la explicación, no del todo ordenada, de los principales personajes, las principales ideas y los principales hechos en relación con la organización política de la antigua Atenas y su democracia.

Y, en un punto de la argumentación, me he encontrado tres conceptos, vinculados con la política pero fundamentalmente éticos, que no he podido evitar mentalmente poner en relación con lo que he expuesto más arriba.

El primero de ellos es la 'paideia', que el autor propone traducirlo como educación, y que significa, en sus palabras

cultivo permanente de la personalidad y las facultades humanas

Un poco más adelante, y mencionando al famoso libro 'Protágoras', habla de la 'areté' que, de alguna forma compendia las virtudes humanas y que Olalla describe como

una forma de sabiduría, una sabiduría íntima que nos permite reconocer el bien y, en un segundo paso, nos impulsa a obrar conforme a él.

El autor subraya que, en la medida que la 'areté' es una forma de sabiduría, puede ser adquirida y enseñada y eso lo pone en relación con la 'paideia'.

Finalmente, el último concepto es el de 'aristeia', que podría ser traducido por algo así como excelencia, muy cercano al de 'areté' y que, según nos explica, inicialmente estaba muy ligado a la actividad bélica pero luego, y con la introducción de la democracia, tomó un cariz mucho más individual y ético, convirtiéndose, de nuevo en palabras de Pedro Olalla en

una conmoción ante lo bueno, que no movía tanto a ser mejor que los demás como a ser mejor que uno mismo.

y nos dice que ese esfuerzo individual

se conjugó con el anhelo de contribuir a crear una espacio más justo para la vida en comunidad.

Grecia y el riesgo existencial

Enlazando estos conceptos del pensamiento de la antigua Grecia con el problema de los riesgos existenciales, se me ocurre que, en el fondo, lo que necesitamos para evitar los riesgos existenciales son esa 'aristeria' y, sobre todo, ese 'areté' que nos permita reconocer el bien (y por tanto el mal) y, sobre todo, que nos impulse a obrar conforme a ese bien y contribuir a un espacio mas justo (y, en este caso, más seguro).

Y como herramienta para alcanzar ese 'areté', el gran arma, es la divulgación y la educación, es decir, la 'paideia'.

Más allá de la tecnología

Y, aunque me he centrado en los riesgos de la tecnología y en los riesgos existenciales, esta receta que entronca con el pensamiento griego, es válida para todo tipo de riesgos o problemas que tengan su origen en la acción del ser humano, sean éstos existenciales o no, y sean éstos de naturaleza tecnológica o de otro tipo.

El gran problema

La receta, entonces, la 'gran receta' es, pues, promover la ética, formar en ética.

Si... pero, por desgracia, no del todo.

¿Por qué?

Porque la transformación ética de toda una sociedad (que, en este caso debería ser a nivel mundial) es una transformación cultural y a grandísima escala y, como todos sabemos, las transformaciones culturales son lentas.

Aunque estoy convencido de que la humanidad, contemplada con perspectiva histórica, progresa no solamente materialmente sino también en materia de valores y de ética, lo hace a diferentes ritmos.

El progreso tecnológico es casi continuo, generalizado y cada vez más acelerado. Por tanto, las posibilidades de la tecnología, tanto para el bien como para el mal, se incrementan a un ritmo muy rápido.

Por el contrario, el progreso en materia de ética es discontinuo (con avances y retrocesos), desigualmente repartido y, por desgracia, muy lento, al menos mucho más lento que el de la tecnología.

Así que, aunque la promoción de la ética será la receta final, seguramente debamos hacer muchas otras cosas porque confiar en la ética de las personas y las sociedades puede no ser suficiente.

Conclusiones

La evitación de los riesgos, especialmente de los existenciales, que pueden ser derivados de la mano del hombre implica un fuerte llamamiento a la ética, aplicando algunos conceptos que ya heredamos de la antigua Grecia... aunque puede que eso no sea suficiente.

Personalidades y liderazgo de la inteligencia artificial

noreply@blogger.com (Ignacio G.R: Gavilán) — Tue, 18 Aug 2026 07:00:00 +0000

Recientemente he finalizado la lectura del libro 'The Infinity Machine: Demis Hassabis, DeepMind and the Quest for Superintelligence' escrito por Sebastian Mallaby y que se centra, fundamentalmente, en figura de Demis Hassabis, como personaje y como fundador y líder de DeepMind.

En sus páginas, sin embargo, se mencionan también a algunas otras empresas y, por lo que respecta a este post, a otros líderes de la inteligencia artificial: Sam Altman, Sunday Pichai, Yann LeCun, etc

Se trata de un libro largo pero interesante e ilustrativo que muestra, no sólo la personalidad de Hassabis, sino también todas los avatares tanto científicos y tecnológicos, como empresariales, que han rodeado el desarrollo en los últimos años de la inteligencia artificial.

Casi finalizando su lectura, me puse a reflexionar, no sólo sobre la figura de Hassabis sino, en general sobre la de los líderes actuales de la inteligencia artificial. Y es esa breve reflexión la que quisiera compartir en este post,

Sobre el liderazgo

Antes, un breve alto para hablar de liderazgo.

Sin pretender una definición rigurosa ni académica, podemos considerar que el liderazgo es aquella capacidad o competencia de las personas que les habilita a la influencia o conducción de otras personas hacia el logro de unos objetivos, señalados por ese líder. Y suele adornarse de otras capacidades o habilidades como la visión estratégica, la comunicación, la persuasión y la resiliencia.

Se trata de una capacidad fundamental en muchos ámbitos: el político, el empresarial, el religioso y, en general, en muchas actividades que quizá consideremos menores comparadas con las anteriores, como pudiera ser la dirección de proyectos.

Por si mismo, el liderazgo se puede considerar una capacidad muy importante y muy positiva y creo que así es, siempre que los objetivos hacia los que dirige el/la líder a sus equipos o a otras personas sean realmente buenos y deseables.

Algunos líderes

Si ahora pasamos específicamente al campo de la inteligencia artificial reciente y repasamos, en parte con base en el libro citado, algunos líderes del campo de la IA ¿Qué nos encontramos?

Tenemos, por ejemplo, a Demis Hassabiss, el protagonista del libro, un líder visionario y hasta cierto punto idealista, con foco en la AGI ('Artificial General Inteligence') y un especial toque científico.

Cerca de él, Sundar Pichai, CEO de Alphabet (Google) que parece ser un líder empresarial puro, con foco sobre todo en los resultados de su compañía.

Por otro tenemos a Sam Altman, en apariencia pura ambición, quién más allá de sus discursos, parece buscar su propia promoción y la de su empresa OpenAI y el dominio del mercado.

Tenemos también a Yann LeCun, también de base científica pero, quizá, dada su ligadura actual con Meta, con ciertos intereses empresariales que le pueden condicionar.

No se si le podemos considerar un líder de la IA, pero conviene no olvidar a Mark Zuckerberg, en apariencia más concentrado, como en el caso de Pichai, en su empresa Meta aunque, en este caso, con una visión ética bastante en entredicho.

Quizá, podemos añadir a Satya Nadella, de Microsoft, pero, de forma similar a Pichai, actuando más como puro CEO empresarial o también, todavía en el ámbito de Microsoft, a su actual líder en IA, Mustafá Suleyman, procedente de DeepMind y, en apariencia, también con una visión idealista de la IA y centrada en el bien común.

Seguramente se pueda mencionar mencionar alguno más, como Dario Amodei (Anthropic) a caballo, creo, entre la visión empresarial y la ética, a su actual empleado Andrej Karpathy, con visión claramente tecnológica, o en otro ámbito, Andrew Ng, muy moderado y más orientado a la ciencia y la educación.

¿Es éste el liderazgo que necesitamos?

Y lo que de alguna forma me llamó la atención, lo que quisiera reflejar en este artículo son dos cosas.

Por un lado, destacar el hecho de hasta qué punto, el desarrollo de una disciplina, en este caso la inteligencia artificial, viene marcado por las circunstancias pero, sobre todo, por la visión y la personalidad de personas concretas, los líderes antes mencionados. Es cierto que en un libro como el que me inspira, es fácil que el autor caiga en un cierto tono que voy a llamar 'épico' y que resalte más esas características de los personajes, esos golpes de fortuna o desgracias, esas casualidades que siempre ocurren y cuyo peso real a lo mejor es menor de lo que un libro como éste nos puede hacer pensar. Pero aún así, y sin abandonar esas prevenciones, no deja de llamarme la atención la importancia de personas concretas y, sobre todo, personalidades concretas.

Y la segunda parte de mi reflexión, muy unida a la anterior, es preguntarme si, realmente, es bueno que algo tan importante, tan transformador, tan llamado a condicionar nuestras economías y nuestras vidas ya desde el presente y seguro que en el futuro cercano, como es la inteligencia artificial dependa de tan pocas personas, de tan pocas visiones, personalidades, objetivos y circunstancias.

Y aunque resulta atractivo y hasta digno de loa el peso que personas concretas, líderes reales, ejerzan su influencia y su liderazgo sobre todo tipo de actividades, en este caso del desarrollo de la inteligencia artificial, no dejo de preguntarme si, desde un punto de vista no sólo económico, técnico y operativo sino también , y quizá especialmente, desde un punto de vista ético, es buena esa concentración en unas pocas cabezas y en unas pocas voluntades del destino que está llamado a ser destino de todos.

Aunque no hablando específicamente de liderazgo, sino más bien de poder, el propio Papa León XIV expresó en su famosa encíclica 'Magnifica Humanitas' su preocupación por la concentración de poder, en lo relativo al desarrollo de la inteligencia artificial, en muy pocas manos.

Tengo la sensación de que, sin quitar el más mínimo valor al liderazgo, y épicas de narrativa empresarial aparte, no sería mejor un liderazgo más amplio, más compartido, más consensuado y con mayores posibilidades de convertirse en un liderazgo para todos, y un liderazgo seguramente más ético.

Conclusiones

Como en toda actividad humana, en el caso del desarrollo de la inteligencia artificial juega un papel muy importante el liderazgo, con su capacidad para generar visiones y movilizar recursos y voluntades.

Pero en ese caso específico de la inteligencia artificial, dada su potencia y poder transformador en todos los ámbitos, me pregunto si no sería mejor un liderazgo menos personal, más amplio, más compartido.

Google frente a la IA: tres formas de dilema del innovador

noreply@blogger.com (Ignacio G.R: Gavilán) — Fri, 07 Aug 2026 07:00:00 +0000

No sé si a los lectores de este blog les habrá pasado lo mismo que a mi pero, probablemente, dentro del panorama del sector tecnológico, contemplado fundamentalmente desde un punto de vista estratégico, desde que OpenAI lanzara ChatGPT ha flotado la pregunta, que personalmente yo mismo me he formulado, de cuál era el posicionamiento Google frente a la IA, cuál su estrategia, cuál su avance técnico real.

¿Está por delante o por detrás de OpenAI o de Antrophic? ¿Arrastra los pies porque no le conviene empujar para no dañar a su negocio de publicidad ligado al buscador o porque, realmente, sus competidores le han superado?

Recientemente, con la lectura del libro 'The Infinity Machine: Demis Hassabis, DeepMind and the Quest for Superintelligence' de Sebastian Mallaby que se centra en Demis Hassabis como personaje y en DeepMind como empresa he ampliado, y hasta cierto punto cambiado, mi opinión sobre el particular.

Una estrategia competitiva de Google, quizá no bien percibida

Mi sensación personal, hasta hace bien poco, una sensación más intuitiva que otra cosa pero reforzada por los últimos avances en Gemini, era que Google estaba 'nadando y guardando la ropa', es decir, que tenía capacidad tecnológica de sobra (incluso con modelos no lanzados o técnicas no publicadas) como para igualar o superar a sus competidores, especialmente OpenAI, cuando quisiera, pero que no pisaba el acelerador para no perjudicar su negocio principal.

Y pensaba que, en esa estrategia, y una vez que la destrucción de su modelo de negocio basado en el buscador fuese inevitable, se lanzaría a tumba abierta a por el liderazgo en IA. Y mi sensación era que ya estaba empezando a acercarse a ese momento, que ya los últimos modelos Gemini igualaban e incluso superaban a los de OpenAI.

La lectura del libro que menciono, me hace reconsiderar parcialmente esa opinión y pensar que, quizá, sólo quizá, más allá de la protección de su negocio tradicional, realmente a nivel técnico Google fue superado técnicamente durante un tiempo y sólo ahora está consiguiendo ponerse a la altura.

En cualquier caso, lo que quiero comentar ahora es una visión más estratégica y de negocio de Google, su eventual dilema del innovador frente a la IA, un planteamiento, como digo, más estratégico que de capacidad tecnológica propiamente dicha.

El dilema del innovador

Antes de volver al caso de Google, recordar en qué consiste el famoso dilema del innovador ('innovator's dilemma').

El dilema del innovador fue descrito por el malogrado Clayton Christensen en su famoso libro del mismo título hace ya muchos años y describía el comportamiento, y el peligro, de empresas asentadas y bien gestionadas ante la llegada de tecnologías disruptivas..

En esencia viene a decir que las empresas asentadas y bien gestionadas tienen dificultades para identificar y apostar por innovaciones disruptivas. y que, precisamente, los mecanismos de decisión que las han llevado al éxito y a ser empresas bien gestionadas son los responsables de esa ceguera y ese error estratégico.

¿Por qué?

Pues porque los mecanismos de decisión se basan en evaluar las posibilidades de una tecnología y su retorno posible. Las tecnologías disruptivas se caracterizan, por un lado, por ser apuestas inciertas y, por otro, por que habitualmente debutan con unas prestaciones inferiores a las tecnologías que podrían sustituir.

Así las cosas, la decisión racional y de buena gestión parece ser desestimarlas y no apostar por ellas.

Y ese es el error, porque cuando esas tecnologías disruptivas evolucionan y demuestran su verdadera capacidad, la empresa que no apostó por ellas, probablemente se quede fuera del mercado.

Los tres dilemas del innovador de Google frente a la IA

En el libro que indicaba más arriba, 'The Infinity Machine: Demis Hassabis, DeepMind and the Quest for Superintelligence' de Sebastian Mallaby, en un momento dado habla abiertamente del dilema del innovador de Google frente a la IA. Para ser más exactos, no habla de un dilema del innovador sino de tres dilemas que lo que describen realmente son tres motivos por los que, en su momento, la adopción de la IA podría perjudicar a su negocio principal. Son los siguientes:

El dominio de Google en las búsquedas dependía (y depende) de su reputación a la hora de ofrecer información fiable. Por tanto, no podía permitirse lanzar chatbots que dieran información errónea. Y, como sabemos, y especialmente al principio, los chatbots 'alucinaban' con cierta frecuencia.

Los ingresos de Google depeden de la publicación de anuncios junto a los resultados de búsqueda. No estaba claro, en realidad sigue sin estarlo del todo, cómo se podrían integrar los anuncios en el chat, cómo monetizarlo y cómo seguir manteniendo la posición privilegiada de Google en este campo. Eso tendía a obligar a Google a evitar los chatbots.

La enorme cuota de mercado de Google, percibida en ocasiones como un monopolio ilegal, se volvería insostenible si la empresa se ganara la antipatía de políticos, periodistas y anunciantes... y se percibía que, eventualmente, podría pasar apostando fuerte por la IA y chatbots basados en ella.

Estos son los tres motivos que, siguiendo a Mallaby, han paralizado a Google, al menos hasta cierto punto y en los dos primeros años tras ChatGPT, y que le han impedido, insisto que capacidad técnica aparte, dar poco más que una respuesta tibia al empuje de OpenAI.

¿Son esto realmente dilemas del innovador?

Los anteriores son motivos que, acertados o no, son razonables para esa cierta parálisis, o al menos lentitud de respuesta de Google ante el empuje de otros actores, muy especialmente OpenAI.

Sin embargo, estrictamente hablando, no creo que se puedan calificar exactamente de un dilema del innovador. Y creo que no porque no se trata de que Google no haya identificado a la IA como una tecnología a la vez valiosa y disruptiva (el verdadero dilema del innovador), sino que una posición, acertada o no, de proteger su negocio tradicional, le ha hecho 'no empujar', no asumir el liderazgo de la IA y dejar ese liderazgo en manos de otros actores, al menos temporalmente.

Si hago caso al libro mencionado, más allá de la posición estratégica, acertada o no, y al contrario de lo que era mi hipótesis, realmente el liderazgo técnico tampoco ha estado durante un tiempo en manos de Google, pese a ser los creadores del mecanismo de la 'atencion' y la arquitectura 'transformer' que han revolucionado toda la IA generativa.

Esto último, sí parece haber cambiado ya en el momento en que escribo estas líneas, momento en que no parece que Google esté por detrás de los otros grandes actores de la IA. Ahora mismo seguramente está más o menos a la par, aunque también es cierto que ya no sólo hablamos de OpenAI, siendo ahora mismo un rival igual de potente, Anthropic y, quien sabe si los modelos de pesos abiertos.

Conclusiones

Aparentemente, hay motivos tanto estratégicos como técnicos que explican por qué Google ha estado algo lento a la hora de responder la agresiva propuesta de Open AI.

Y, en la parte más estratégica y de negocio, sus precauciones tienen que ver con la protección de su negocio tradicional, algo que, sin ser en mi opinión exactamente lo mismo que el famosos dilema del innovador de Christensen, si guarda algunas semejanzas.

Actualización de publicaciones del Project Management Institute (III): "PMBOK Guide 8th edition"

noreply@blogger.com (Ignacio G.R: Gavilán) — Fri, 31 Jul 2026 08:55:00 +0000

Y con este post cierro la pequeña serie de artículos, tres incluyendo éste, dedicados a las últimas publicaciones del PMI ('Project Management Institute').

Tras haber comentado el estándar para gestión de proyectos y el estándar específico de inteligencia artificial, llega el momento del 'documento estrella' del PMI, es decir, el PMBOK ('Project Management Book Of Knowledge') o, como el PMI puntualiza la guía al PMBOK.

El contenido del PMBOK

En esta octava edición, el PMBOK (documento de unas 270 páginas), se estructura en cinco capítulos y cinco apéndices. Los capítulos son:

1. Introduction: Un breve introducción explicando la estructura del documento, la relación con el estándar y los principales cambios respecto a la edición anterior

2. Project Management Performance Domain El capítulo más largo y que aporta mayor estructura y conceptos, describe los denominados 'performance domains' (algo así como dominios de desempeño) que, aunque quieren evitar el nombre, son una especie de procesos de alto nivel. Los dominios son:
- Gobernanza ('Governance')
- Alcance ('scope')
- Planificación ('schedule')
- Finanzas
- Interesados ('stakeholders')
- Recursos ('resources')
- Riesgos
Por cada uno de estos dominios, y salvo en el caso de la gobernanza en que añade alguna sección adicional, las estructura del discurso es siempre la misma:
- Conceptos principales que, en esencia, aporta definiciones más o menos explicadas, de los conceptos utilizados
- Procesos que componen el dominio indicando, aparte de la estructura general de procesos, un cierto detalle de cada proceso en que, aparte de una explicación se esquematiza sus entradas y salidas, y las herramientas y técnicas habitualmente utilizadas. Tantos las entradas y salidas como las herramientas y técnicas sólo se encuentra enunciadas porque la explicación se proporciona en otros capítulos
- Consideraciones sobre personalización
- Interacción con otros dominios
- 'Checklist' de comprobación de resultados ('outcomes').

3. Tailoring Un capítulo no muy largo sobre la personalización / adaptación del marco general a casos concretos donde se argumenta el por qué de esa adaptación, se identifica qué elementos de adaptan y se describe un poco ese proceso de adaptación / personalización.

4. Inputs and outputs Describe todas y cada una de las entradas o salidas que han aparecido en los procesos de los dominios vistos en el capítulo dos. Se trata del orden de cien entradas y o salidas, descritas siguiendo un orden meramente alfabético y aportándose en la mayoría de los casos poco mas que una definición aunque en ciertos casos se detiene bastante más.

5. Tools and techniques De forma muy similar a lo hecho con entradas y salidas, se censan por orden alfabético, todas las herramientas y técnicas que han aparecido en los procesos de los dominios. En este caso hablamos de una ciento setenta herramientas o técnicas. La descripción de cada una, de nuevo, es irregular, siendo en algunos caso meras definiciones pero, para otras, se aporta bastante detalle.

Tras esto, tenemos cinco apéndices:

El primero con el listado de personas que han participado

El segundo, de un cierto interés se ocupa de las PMO ('Project Management Office')

El tercero habla de inteligencia artificial pero sin grandes aportaciones y supongo que preparando el terreno para lo que sería el estándar que hemos comentado en otro post.

Un cuarto apéndice, muy bien desarrollado e interesante sobre 'procurement' que, quizá, debería haberse encajado de alguna forma en el cuerpo principal del PMBOK

Finalmente una descripción de cómo ha ido evolucionando el PMBOK a lo largo del tiempo.

Mi valoración

Creo que la mayor diferencia de esta edición (la octava) frente a la séptima edición (que, sinceramente, creo que era muy floja) son los dos capítulos dedicados tanto a entradas y salidas como, sobre todo, el de técnicas y herramientas.

Estos dos nuevos capítulos que, en el fondo, son un complemento a la descripción de los procesos del capítulo segundo dedicado a los dominios de desempeño, aportan valor, información y rigor y recuperan parte de lo que se perdió con esa creo que desgraciada séptima edición del PMBOK.

Aunque no he hecho una comparación rigurosa, creo que, aún, la primera edición del PMBOK que yo conocí (la que estaba vigente cuando me certifiqué como PMP), la quinta y probablemente la sexta eran más sólidas y estructuradas, pero aún así, esta octava edición reconcilia un tanto con el PMBOK y recupera parte de lo perdido en la séptima edición.

No obstante, sigo sin entender, o tal vez compartir, la diferenciación entre el estándar y el PMBOK que creo que no tiene sentido tal y como está planteada actualmente.

Igualmente, y de cara a futuras ediciones, creo que sería bueno seguir profundizando en la parte de entradas y salidas y las técnicas y herramientas, alargando más las descripciones y entrando más en materia porque gran parte del conocimiento real y práctico de la disciplina de dirección de proyectos recae en ellas.

Conclusiones

Hemos revisado el contenido del PMKOK (guía del PMBOK realmente) en su octava edición y, aunque creo que tiene margen de mejora, recupera una parte importante del rigor y profundidad perdidos en la séptima edición.

Artículos de este blog relacionados

La inteligencia artificial y las heridas del antropocentrismo y narcisismo humano

noreply@blogger.com (Ignacio G.R: Gavilán) — Tue, 28 Jul 2026 11:00:00 +0000

El ser humano siempre ha sido, hay que reconocerlo, antropocéntrico, es decir, de alguna forma se ha visto a sí mismo como centro y medida de todas las cosas...quizá con la única excepción de la relevancia que ha dado a lo largo de los siglos, a las diferentes formas de dioses y deidades (aunque algunas, en el fondo, también adopten formas muy humanas).

Esa concepción de que todo giraba alrededor del ser humano, ha recibido, con el avance de la ciencia y el conocimiento, algunas sacudidas no menores, algunas 'curas de humildad' que, poco a poco van poniendo a la humanidad en 'su sitio'.

No por ello dejamos, en el fondo, de defender la dignidad y singularidad humanas pero, quizá, con algo más de modestia y comedimiento,

Las tres heridas identificadas por Freud

Me encuentro leyendo el libro 'Pensar con Prompts: Una crítica de la razón generativa' nominalmente firmado por Jianwei Xun aunque, en el fondo, quien nos habla es el filósofo italiano Andrea Colamedici, eso sí, asistido por, y en permanente diálogo con, la inteligencia artificial.

El caso es que, en un punto de su libro, en concreto en el segundo capítulo, nos habla de lo que denomina las heridas del narcisismo humano, que no dejan de ser las grandes tomas de conciencia por parte del ser humano que le hacen comprender que no es tan nuclear como había creído.

En concreto nos dice que ya Sigmund Freud identificó tres de esas heridas, a saber:

Herida cosmológica: de la mano de Copérnico que demostró que los humanos no ocupan el centro físico del universo.

Herida biológica: con la teoría de la evolución y la selección natural de Darwin, quien muestra que la especie humana no está separada de ni es superior al resto del mundo animal.

Herida psicológica propinada por el propio Freud que afirma que el ego, el yo, no es dueño de sí mismo.

Tres duros golpes, claro está, a esa visión tan centrada en el ser humano y tan convencida de su propia importancia y centralidad.

La inteligencia artificial como cuarta herida

Pero de la misma forma que, imagino, Freud enumeró las heridas cosmológica y biológica para enmarcar y resaltar 'su propia herida', la psicológica, Colamedici trae a colación las tres heridas históricamente precedentes para identificar una cuarta, que es su aportación a esa visión menos antropocéntrica.

Colamedici, trasunto en Jianwei Xun, entiende que la inteligencia artificial y, en concreto, la inteligencia artificial generativa, puede ser una cuarta herida ya que saca al ser humano del centro, o al menos de la exclusividad del conocimiento o el arte.

Nos dice:

A estas tres se ha añadido una cuarta, mucho más reciente, que socava otro pilar de la identidad: la singularidad y superioridad de nuestra inteligencia. Con la IA generativa, ya no se da por sentado que solo el ser humano produce conocimiento, conceptos, arte o cosmovisiones.

Colamedici no le da este nombre pero voy a bautizar a esta eventual cuarta herida como la herida cognitiva.

¿Es este realmente un golpe tan grande a nuestro 'orgullo', a nuestra propia importancia y a nuestra visión antropocéntrica?

Consideraciones: puede que herida...pero quizá algo menos

De que nos encontramos ante un fenómeno transformador en muchos sentidos, me cabe poca duda.

Sin embargo creo que esta eventual cuarta herida no es del todo comparable a las tres anteriores que identificaba Freud.

Y ello, por dos motivos: lo vemos como menos herida y no ataca del todo el antropocentrismo

Menos herida

El primero es quizá más superficial, pero cuestiona el propio término 'herida'.

No soy un experto ni en historia ni en antropología y, por supuesto, no puedo saber qué pensaban las personas corrientes de estos avances científicos devenidos en herida al narcisismo humano. Pero creo que, de alguna forma, sí supusieron un golpe muy duro a la propia concepción humana, que debieron ser difíciles de admitir, de asimilar, de normalizar.

En el caso de la inteligencia artificial generativa, sin embargo, creo que, sin negar que existen preocupaciones, perplejidades y debates, el común de los mortales la acogemos con naturalidad, casi diría que con alegría y ligereza... con lo bueno y malo que eso tiene (creo que, en efecto, esa alegre y despreocupada acogida tiene cara positiva y negativa).

Es decir, no me parece que la inteligencia artificial generativa la estemos viviendo como un cuestionamiento tan doloroso y radical del ser humano y su papel en el mundo, como en su momento creo que sí ocurrió con las anteriores.

Quizá no sea tan herida, o se trata de una herida más superficial.

No tan en contra del antropocentrismo

Hay otra segunda diferencia que considero muy importante.

En las tres heridas que identificaba Freud, los avances científicos nos hicieron comprender que nuestra situación en el mundo no era tan central como creíamos, nos demostraron que las cosas eran diferentes a cómo pensábamos. Pero 'se limitaron' a hacernos comprender, no cambiaron nada ni crearon nada.

Es diferente en el caso de la inteligencia artificial generativa que, como cualquier tecnología es obra del ser humano. Por decirlo de alguna forma: no estamos comprendiendo, sino que estamos creando; no estamos entendiendo, sino que estamos transformando.

Y aunque nuestra propia obra nos desafíe y cuestione, en el fondo es sigue siendo obra nuestra y, por tanto, puede que nos nos quite centralidad sino todo lo contrario, que la potencie... siempre que permanezca bajo nuestro control, claro.

Conclusiones

A lo largo de la historia, la visión antropocéntrica del mundo se ha ido poco a poco desmoronando a medida que los avances científicos nos han ido demostrando que la realidad era diferente a la que pensábamos y que el ser humano no jugaba un papel tan central en esa realidad.

El filósofo Andrea Colamedici piensa que la inteligencia artificial generativa puede ser la cuarta herida a ese antropocentrismo o, como él lo expresa, a ese narcisismo humano, tras la cosmológica, la biológica y la psicológica.

Sin embargo, la inteligencia artificial generativa presenta características que hacen que, quizá, no se trate de una herida similar, puede que ni siquiera constituya una herida,

Actualización de publicaciones del Project Management Institute (II): "The standard for artificial intelligence"

noreply@blogger.com (Ignacio G.R: Gavilán) — Fri, 24 Jul 2026 08:30:00 +0000

En este breve recorrido por tres documentos recientes y relevantes emitidos por el PMI ('Project Management Institute'), le llega el momento a un documento, un estándar, dedicado al campo de la inteligencia artificial.

El nombre del documento es 'The Standard for Artificial Intelligence in Portfolio, Program, and Project Management' y es de muy reciente publicación, en concreto de Junio de 2026, así que, en el momento de redactar este post, no tiene ni dos meses de vida.

Se trata de un estándar que me generó mucho interés porque une una de mis áreas de investigación de mayor interés, la inteligencia artificial, con un área de 'expertise' en gestión como es la dirección de proyectos y porque me parecía importante ver qué tenía que decir la mayor autoridad en dirección de proyectos sobre el caso concreto de la inteligencia artificial

¿Qué me he encontrado?

El contenido del "Standard for Artificial Intelligence in Portfolio, Program, and Project Management"

Nos encontramos ante un documento de mediana extensión, cercana a las 300 páginas.

Antes de ver un poco el contenido, alguna tema relevante a tener en cuenta.

Aunque personalmente tiendo a hablar de forma un poco genérica de dirección de proyectos, en este documento, y siguiendo el modelo del PMI, se distingue entre proyectos, programas y porfolios y, en varios puntos del estándar, la distinción es nítida.

El estándar distingue, y me parece un acierto, entre la IA como producto, como resultado de proyectos, programas y porfolios y la IA como una herramienta utilizable en la propia dirección de proyectos, programas y porfolios.

Dicho esto, el contenido del documento se estructura en siete capítulos, a saber:

'Introduction:' Una introducción al contenido e intenciones del estándar junto con algún recordatorio de conceptos sobre dirección de proyectos y sobre inteligencia artificial.

'Principles of AI in Project, Program and Porfolio Management:' De la misma forma que el estándar para dirección de proyectos, programas y porfolios establece seis principios, aquí se establecen ocho principios que, aunque se parecen, no son los mismos que los generales. Sin entrar en detalles, sólo señalar cuáles son los principios para el caso de proyectos en materia de inteligencia artificial:
- Valor estratégico: es decir, foco en la creación de valor.
- Riesgo: que enfatiza la necesidad de supervisión humana.
- Gobernanza y cumplimiento normativo: orientado por un lado al alineamiento estratégico y, por otro, al respeto a la legislación y a los principios éticos.
- Personas y cultura: desglosando entre liderazgo y el equipo de proyecto.
- Ética y responsabilidad profesional: con foco fundamentalmente en la supervisión humana y en la responsabilidad en el sentido de rendición de cuentas.
- Involucración de partes interesadas ('stakeholder engagement'): alineando los proyectos con las expectativas de esas partes interesadas.
- Optimización e innovación: anima a la adopción de nuevas tecnologías y metodologías para conseguir mayor eficiencia, adaptación y calidad.
- Calidad del dato: como mecanismo para conseguir resultados de calidad, a su vez.

'Performance Domains of AI in Project, Program and Porfolio Management:' Establece cinco dominios ('performance domains') que se asemejan, pero no coinciden, con los dominios identificados en el PMBOK, del que hablaremos en otro post. Los dominios para el caso de la IA serían, según este estándar, los siguientes:
- Gestionar las expectativas de las partes interesadas sobre la IA
- Definir el alcance de la IA
- Definir una arquitectura IA con calidad y responsabilidad
- Ejecutar objetivos estratégicos
- Gestionar riesgos e incertidumbres

'Life Cycle management and tailoring activities:' Revisa muy brevemente los ciclos de vida predictivos, adaptativos e híbrido y su traslado a proyectos de IA y luego trata tanto las actividades de personalización ('tailoring') como de ciclo de vida y optimización distinguiendo en ambos casos entre proyectos, programas y porfolios.

'AI in the context of Project, Program and Porfolio Management:' hace el cambio de perspectiva a la aplicación de la IA no como producto sino en la propia actividad de dirección de proyectos, programas y porfolios aportando alguna idea sobre cómo usarla

'Framework for the use of AI in Project, Program and Porfolio Management:' Aporta un marco con unos pasos y consideraciones a tener en cuenta en la dirección de proyectos, programas y porfolios, centrándose en cuatro áreas: establecimiento de un caso de negocio, uso de la IA en proyectos, programas y porfolios, flujo de información y ajuste cultural y organizativo.

'Ethical and Legal considerations for AI use in Projects, Programs and Porfolios:' realiza alguna propuesta en los ámbitos ético y legal, como la existencia de un comité ético

En dos anexos finales identifica, por un lado, algunos esquema de evaluación de la madurez en IA y, por otro, leyes y regulaciones a tener en cuenta.

Mi valoración

Siendo sincero, debo reconocer que este estándar me ha decepcionado y que soy bastante crítico con él.

Antes de la crítica, decir que me parece bueno que exista este estándar, o al menos una guía en este campo, por parte del PMI, y que me parece acertada la distinción entre la IA como producto de proyectos y el uso de la IA para la propia dirección de proyectos, programas y porfolios.

Pero mi visión positiva casi se acaba aquí y en seguida comienza mi crítica.

En primer lugar, y como ya expresé a propósito del "Standard for project management", esto no me parece un estándar, por más que se encuentre respaldado por ANSI. No es prescriptivo, no es asertivo, no es demasiado accionable y no es claramente certificable. En mi opinión, es más una guía o un marco de trabajo, pero no un estándar, que ANSI y el PMI me perdonen.

Por otro lado, y casi como extensión de lo anterior, lo veo muy ligero, de muy alto nivel, muy de intenciones o ideas, pero de poco detalle y 'accionabilidad'.

Creo que no es demasiado acertado al tratar de forma genérica los proyectos de inteligencia artificial sin distinciones nítidas de tipologías. En mi opinión tiene poco que ver, a nivel de ciclo de vida y gestión, un proyecto de machine learning tradicional como la creación de un modelo predictivo personalizado para una empresa, con el desarrollo de un agente, por ejemplo.

Me sorprende, y me parece incoherente, que los principios y dominios que se identifican en este supuesto estándar sobre IA, sean diferentes, en lugar de ser una particularización, de los genéricos de dirección de proyectos identificados en el estándar de dirección de proyectos, o los dominios identificados en el PMBOK. Eso es tanto como decir que los principios y dominios genéricos no son tan genéricos, sino que diferentes tipologías de proyectos pueden necesitar principios y dominios diferentes y cuestionar los genéricos. Como mucho, podría entender que se añada alguno principio o dominio nuevo, pero no que se redefinan todos. No tiene sentido.

También me parece incoherente que si en el caso de la documentación general del PMI, los principios se encuentran en el estándar de proyectos y los dominios y la personalización ('tailoring') en el PMBOK, aquí, en el caso de la IA, todo quepa en el estándar.

En fin, que me ha resultado bastante decepcionante.

Conclusiones

Entre los documentos más recientes lanzados por el PMI se encuentra el estándar para proyectos, programas y porfolios de inteligencia artificial.

Una, en mi opinión, buena iniciativa pero con un resultado, también en mi opinión, criticable y bastante decepcionante.

Artículos de este blog relacionados

Actualización de publicaciones del Project Management Institute (I): "The standard for project management"

Capacidades cognitivas frente a la IA: aprendizaje versus producción

noreply@blogger.com (Ignacio G.R: Gavilán) — Thu, 23 Jul 2026 08:30:00 +0000

La inteligencia artificial trae consigo enormes posibilidades. Es una tecnología polivalente, transversal, disruptiva en ocasiones e, incluso, muchas veces divertida.

Pero también nos desafía en muchos sentidos y, en algunos, incluso nos puede preocupar.

La IA y el problema de las capacidades cognitivas

Uno de esos posibles elementos de preocupación es cómo puede afectar el uso intensivo de la IA el desarrollo (o atrofia) de nuestras capacidades cognitivas y, muy específicamente, cómo afecta al aprendizaje de conocimientos y habilidades mentales.

Carátula del episodio

Se trata de un tema en el que pienso con cierta frecuencia y que he reflejado en varios de los canales de comunicación que utilizo. Sin ir más lejos, el 22 de Julio, el día anterior a en el que esto escribo, publicaba en el podcast 'Caminos de Knowmad' en que colaboro, un episodio titulado, significativamente, 'Cuidar nuestras capacidades cognitivas en tiempos de IA' en que analizo esta problemática desde la perspectiva de un profesional del conocimiento, y traslado algunas ideas y opiniones.

El temor es, en esencia, que si nos acostumbramos a delegar tareas en la IA, si no ejercemos nuestras propias capacidades cognitivas (memoria, comprensión, análisis, planificación, resolución de problemas, etc) porque la IA nos da la tarea hecha, no desarrollemos esas capacidades o, si ya las poseíamos, se puedan ir 'atrofiando' de alguna manera por 'falta de uso'.

En este caso, la neuroplasticidad del cerebro correría en nuestra contra porque el cerebro se acostumbraría a no usar ciertas capacidades y, al 'considerarlas inútiles' las iría, de alguna manera, borrando.

El caso del aprendizaje

Y el problema se agudiza cuando estamos hablando, no sólo de conservar capacidades cognitivas, sino del aprendizaje: de la adquisición de conocimientos y habilidades, y del propio desarrollo de esas capacidades cognitivas.

Este tema lo abordé también en mi podcast personal 'Divergencias', en el episodio que publiqué en Enero de este año y que titulaba 'Facilidad y aprendizaje: un posible impacto cognitivo de la IA' y que, si lo deseas, puedes ver en su versión video abajo.

En este episodio, razono como el 'hacer', cómo el intentar realizar nosotros mismos el trabajo intelectual, el memorizar, razonar, resolver problemas, escribir, etc es importantísimo para el aprendizaje. Incluso si la IA nos proporciona el mismo resultado que nosotros hubiéramos producido e, incluso si leemos atentamente esos resultados, el aprendizaje no es igual en absoluto.

Menciono cómo, la estrategia pedagógica conocida como 'learning by doing' se basa, precisamente, en el reconocimiento de lo importante que es una actitud activa, de práctica, en el aprendizaje.

La doble apuesta

Siempre que trato este tema, mi propuesta es, de alguna forma, lo que llamo la 'doble apuesta'.

En esa doble apuesta, por un lado, invito a reconocer la potencia y utilidad de la inteligencia artificial y la casi obligatoriedad hoy en día de dominarla para ser unos profesionales valiosos, relevantes y empleables. Y animo, claro, a su conocimiento y uso intensivo.

Pero, por otro lado, urjo a todos los profesionales, a todos los jóvenes y, en realidad, a todas las personas, a que cuiden su aprendizaje y desarrollo cognitivo, prescindiendo en ocasiones de la IA (en los temas que más te importan o que son de puro aprendizaje o estudio) y realizando actividades paralelas complementarias como la lectura, la escritura, el debate o el estudio tradicional, incluso el denostado aprendizaje memorístico.

Modos aprendizaje y modo producción

Hace pocas semanas finalicé la lectura del libro 'Nosotros, digitales' de Javier Lorente y me pareció interesante la forma en que él estructura un poco este mismo problema.

Javier se centra, específicamente, en el caso de la educación y describe el problema de la siguiente forma

Si utilizamos máquinas para acelerar la generación de productos intelectuales, dejamos de desarrollar las capacidades naturales y tendremos que buscar espacios para ejercitarlas de forma artificial, como hacen con su cuerpo los que frecuentan un gimnasio.

Nos habla de distinguir dos modos. Por un lado un modo producción en que lo que buscamos son resultados y eficiencia y, en ese sentido, la IA es una gran ayuda, hoy en día casi imprescindible. Y, por otro lado, un modo aprendizaje, en que lo que importa no es producir, sino adquirir conocimientos y desarrollar capacidades intelectuales y, en ese caso, aunque sea menos eficaz, debemos esforzarnos en hacer las cosas por nosotros mismos.

Y para ilustrarlo utiliza el ejemplo del deporte y del entrenamiento, siendo el aprendizaje el equivalente al entrenamiento.

En realidad, Javier hablar de un tercer modo, creación, en que, digamos, 'damos libertad', a nuestro cerebro para que vague libremente recombinando conocimientos e ideas.

La realización y el disfrute

Quisiera añadir un punto adicional, que en alguna ocasión también he mencionado en algún medio y que tiene que ver con aquello que disfrutamos haciendo, aquello en que el propio proceso nos es altamente satisfactorio y que, por tanto, no deberíamos ceder a la IA salvo, puntualmente, cuando nos apriete la necesidad de resultados.

En mi caso, por ejemplo, me gusta mucho escribir, escribir en muchos formatos incluyendo, entre otros, éste que recibes: un artículo de blog. Automatizar con inteligencia artificial la generación de artículos para un blog es algo bastante sencillo y que podría y sabría hacer sin problemas e, incluso, me ayudaría a aumentar mi ritmo de publicación. Pero es que, simplemente, no quiero hacer con inteligencia artificial los posts de 'Blue Chip'.

No quiero, sobre todo, porque disfruto escribiéndolos.

No quiero porque, además, en el fondo es otra forma de aprendizaje, porque escribir te obliga a pensar y, sobre todo, estructurar lo que has pensado, y eso no deja de ser una forma de aprendizaje y desarrollo cognitivo. Y te obliga, en ocasiones, a buscar alguna información o aclarar algún punto... y eso también es aprendizaje.

Y no quiero finalmente, porque, en el fondo, a pesar de la potencia de la IA y a pesar, incluso, de su capacidad de personalización y adaptación a un estilo, en este caso el mío, creo que al final tú, lector, acabarías percibiendo una cierta 'despersonalización', una cierta falta de originalidad, una especie de impostura en el mensaje.

Y no quiero, simplemente no quiero.

Conclusiones

La IA es una tecnología potente, tremendamente útil, y casi imprescindible hoy en día en el arsenal de cualquier profesional. Sin embargo, el uso excesivo y, sobre todo, la delegación exagerada de tareas en la IA sin esfuerzo o reflexión por nuestra parte, puede acabar afectando a nuestras capacidades cognitivas o puede eliminar nuestro aprendizaje.

Parecen, pues, necesario, desarrollar y aplicar estrategias de trabajo y aprendizaje en que tengamos espacio para nosotros, para hacer nosotros el trabajo intelectual. En este sentido, puede ser útil como marco conceptual, la distinción entre los modos de aprendizaje y producción que nos propone Javier Lorente.

Actualización de publicaciones del Project Management Institute (I): "The standard for project management"

noreply@blogger.com (Ignacio G.R: Gavilán) — Fri, 17 Jul 2026 13:00:00 +0000

Con este post inicio una serie corta de tres artículos (que probablemente se intercalen con posts de temáticas completamente diferentes) en que comentaré y valoraré brevemente algunas de las últimas publicaciones del PMI ('Project Management Institute'), la probablemente autoridad más reconocida a nivel mundial en materia de dirección de proyectos.

En ellos, uno en cada post, comentaré brevemente tres documentos, a saber:

The standard for project management (ANSI/PMI 99-001-2025)
A guide to the Project Management Book Of Knowledge. PMBOK Guide. 8th edition.
The Standard for Artificial Intelligence in Portfolio, Program, and Project Management

Antes de los breves comentarios, una pequeña explicación acerca de mis motivaciones.

Motivaciones: la importancia de los proyectos y el PMP

Hasta que en 2018 inicié mi andadura profesional por cuenta propia bajo mi marca 'Reingeniería digital', una parte muy importante de mi carrera ha estado dedicada de una forma u otra a proyectos.

He formado parte de equipos de proyecto, he actuado como jefe de proyecto y director de proyecto de iniciativas de todo tipo, algunas sencillas pero otras muy ambiciosas y de alto presupuesto, y he dirigido equipos que, a su vez, dirigían proyectos.

Y cada vez más fui apreciando la disciplina de la dirección de proyectos y, aún más, la figura del jefe de proyecto. Esta importancia se me hizo especialmente patente cuando los proyectos a que nos dedicábamos estaban dirigidos a clientes pertenecientes a las grandes cuentas de Telefónica Empresas, donde se encontraban la mayor parte de empresas del IBEX y muchas otras empresas y administraciones de gran tamaño y presupuesto. Llegué al profundo convencimiento de lo importante que era la figura del jefe de proyecto para alcanzar el éxito y no me refiero sólo a la figura en sí como un rol abstracto, que también, sino a la cualificación y voluntad de las personas concretas que ejercían ese rol. La relación con el cliente y el éxito de los proyectos, dependían en buena medida de esa figura y de la persona que la ejerciese.

En 2012, cuando ya realmente no ejercía como director de proyecto sino como gerente, decidí, a pesar de ello, obtener la certificación PMP ('Project Management Professional'), lo cual sucedió en Junio de 2012, hace ahora catorce años, a lo largo de los cuales, y como establece el PMI, he ido renovando esa certificación que aún tengo en vigor y que pienso volver a renovar el año que viene.

Cuando obtuve la certificación, el PMBOK vigente se encontraba en su quinta edición. Desde entonces he adquirido y estudiado las siguientes ediciones, la sexta, la séptima... y ahora le toca a la octava, publicada en Enero de 2025.

Además, me interesó mucho conocer, dado mi interés y dedicación a la inteligencia artificial, que PMI junto con ANSI, habían lanzado también un estándar para proyectos de inteligencia artificial.

La idea, pues, ha sido realizar una nueva actualización y, en este caso, además, compartir con los lectores de este blog un poco del contenido objetivo de los documentos, y otro poco de mi valoración personal.

Explicado esto, vamos con el primero de los documentos, el 'Standard for project management'

El contenido del "Standard for Project management"

Este estándar ha sido definido mediante una colaboración entre el PMI ('Project Management Institute') y ANSI ('American National Standards Institute'), colaboración que se inició, si la memoria no me falla, con la anterior versión del PMBOK (la séptima).

Aunque se trata de un documento separado, se publica en el mismo volumen que el PMBOK, del cual hablaré en otro post de esta serie.

Según reza en el propio documento, este estándar

provides a basis for understanding project management and how it facilitates intended outcomes.

y, un poco más abajo, dice

The standard describes how project management creates value and benefits in organizations as well as how organizational and project leaders can harness the power of project management for success.

Como se pude deducir un poco de estas declaraciones de intenciones, y como insistiré en mi comentario personal, se trata de un documento más descriptivo que normativo.

El documento de poco más de setenta páginas y se estructura en cuatro secciones:

'Introduction': Establece el propósito del estándar, proporciona un vocabulario de términos y conceptos y ataca algunos aspectos generales de los proyectos como sus características, conceptos de gobernanza, relación con las operaciones de la compañía y las relaciones entre los conceptos de proyecto, programa, porfolio y operaciones.

'System for value delivery': Extendiendo lo ya iniciado en la séptima edición, adopta una visión muy de alto nivel y negocio para hablarnos de cómo los proyectos aportan valor y se sitúan como parte de un sistema de valor. Propone un modelo para conceptualizar ese sistema de valor y a partir de ahí comenta elementos de contexto interno y externo a proyectos, programas y porfolios, establece la relación con el 'product management' e identifica una serie de funciones y roles presentes en los proyectos.

'Project management principles': Identifica y explica seis principios de la dirección de proyectos, a saber:
- Adoptar una visión holística
- Enfocarse en el valor
- Introducir la calidad en los procesos y los entregables
- Ejercer un liderazgo responsable
- Integrar la sostenibilidad en todas las áreas de proyecto
- Construir una cultura de empoderamiento

'Project Life Cycles': Habla de las fases de los proyectos y luego identifica los tres grandes enfoques para la dirección de proyectos (predictivo, adaptativo e híbrido) y proporciona criterios para seleccionar un enfoque u otro. También habla de la cadencia de las entregas, mencionando el despliegue continuo propio de DevOps (aunque sin mencionar a DevOps). Finaliza identificando y describiendo las que denomina cinco áreas de foco, a saber:
- Inicio
- Planificación
- Ejecución
- Monitorización y control
- Cierre

Una valoración: ¿Esto es un estándar?

Este estándar es un documento correcto y bien redactado (aunque en el típico estilo profesional austero) y que proporciona un vocabulario y una especie de marco de referencia común, eso sí, un poco abstracto y de bastante alto nivel.

Me parece bueno, a nivel de una disciplina, establecer ese marco de referencia y ese vocabulario comunes y no me parece mal, tampoco, comenzar por un alto nivel para luego ir bajando.

Sin embargo, insisto, es muy alto nivel y en algunas partes un poco abstracto. Le falta mucho bajar a tierra, en mi opinión. si pretende orientar realmente la acción de las organizaciones y de los profesionales.

Y aunque esto sea enmendarle la plana nada más y nada menos que a ANSI, me resisto a ver este documento como un verdadero estándar, porque no detalla nada, no da pautas asertivas, no obliga a nada y no es muy verificable si se está aplicando o no.

La verdad es que esto no es lo que yo entiendo por un estándar.

Hace muchos años, en mis primeros tiempos en Telefónica, me miré muchas normas y estándares del ámbito de las telecomunicaciones, que definían, por ejemplo, protocolos y, desde luego, no tiene nada que ver con esto. Aquello era detalladísimo, normativo, verificable y, todo hay que decirlo, muy farragoso,

No he tenido mucha ocasión de leer directamente estándares o normas del ámbito industrial pero, hasta donde sé, son de nuevo, muy detalladas, muy concretas y completamente verificables en su cumplimiento.

Este documento, pues, lo veo como divulgativo, conceptual e introductorio pero, por mucho que lo firme ANSI, me resisto a verlo como un verdadero estándar.

Conclusiones

Inicio con este artículo, una breve serie de tres posts dedicados a documentos más o menos recientes emitidos por el PMI ('Project Management Institute')

En este primer post, comento brevemente el 'The Standard For Project Management', un documento conceptual y de alto nivel, que establece vocabulario y conceptos, pero que no entra en detalles y que me cuesta mucho verlo como un verdadero estándar.

Los agentes y el martillo de oro (III): soluciones híbridas y ecosistemas de agentes

noreply@blogger.com (Ignacio G.R: Gavilán) — Thu, 16 Jul 2026 10:40:00 +0000

Y con este post remato la pequeña serie dedicada a los agentes como martillos de oro. Y lo hago ofreciendo algunas soluciones intermedias o híbridas al problema planteado.

Pero vamos a ir poco a poco, recapitulando primero algunos conceptos y recordando la definición del problema.

Un paso atrás: los agentes de la Agentic AI

Damos, pues, un paso a atrás para recordar conceptos. Y lo primero es recordar de qué hablamos cuando hablamos de un agente. Y antes de hacerlo, insistir en que el término 'agente' se lleva utilizando desde hace décadas, e incluso siglos, y no sólo en tecnología. Así que, de los que hablamos son de los agentes de que hablamos bajo el paraguas de la Agentic AI.

Y se trata, como vimos, de programas construidos alrededor de un modelo de lenguaje razonador que son capaces de funcionar de manera autónoma, recibir sus tareas u objetivos mediante una especificación en lenguaje natural y, con base en sus capacidades razonadoras, decidir por sí mismos, y en tiempo de ejecución el plan a ejecutar para conseguir el objetivo. Un plan que puede ser revisado conforme avanza y se obtienen resultados intermedios, y un plan en cuyos diferentes pasos se puede incluir la selección y ejecución de una herramienta externa que le permite, entre otras cosas, interactuar con el mundo exterior.

Agentes versus workflows

Estructura de un agente

Estructura de un agente

Conforme a lo comentado, la estructura de alto nivel de un agente es la que se muestra en la figura. En el núcleo tenemos un modelo de lenguaje razonador y, como apoyo, una serie de herramientas con las que puede interactuar y que, aparte de alguna posibilidad adicional, fundamentalmente le ayudan a entrar en contacto con aplicaciones y recursos externos (una web, un sistema empresarial, el correo electrónico, etc)

En la figura dibujo a trazos la unión entre el modelo de lenguaje y las herramientas queriendo indicar que, según el plan generado, se invocan o no.

Estructura de un workflow

Y es importante comparar a estos agentes basados en modelos de lenguaje razonadores con otro tipo de soluciones anteriores que funcionan bajo un paradigma de reglas y, sobre todo flujos o workflows. Denomino genéricamente 'workflows' a ese tipo de soluciones que incluye, por ejemplo, los robots RPA ('Robotic Process Automation'), a los a veces denominados workflows en la nube o IPaaS (como Make, N8N o Zapier) e, incluso, forzando un poco, a los BPMS ('Business Process Management System') y los CMS ('Case Management System').

Estructura de un workflow

A alto nivel estas soluciones que agrupo bajo la etiqueta 'workflows' exhiben patrones estructurales muy similares entre sí, e incluso con los agentes.

En el caso de los workflows, el plan está predefinido en tiempo de desarrollo y adopta la forma de un flujo con sus pasos y, eventualmente, bifurcaciones y/o bucles. Y también pueden interactuar con aplicaciones y recursos exteriores, en este caso haciendo uso, habitualmente, de conectores que recubren un API generalmente de tipo REST.

Comparativa

En el fondo, estructuralmente hablando, se trata de soluciones muy similares. En la figura inferior, los ponemos frente a frente.

Comparativa Agente-Workflow

En esa figura, e intencionadamente, he eliminado la mención explícita a herramientas (en el caso de agentes) y a conectores (en el caso de workflows). ¿Por qué? Pues porque, a despecho de alguna diferencia en cuanto a la definición, y algunas variantes en cuanto a implementación, su rol es exactamente el mismo y, por tanto, de cara a la comparativa estructural prefiero que no se muestre ninguna diferencia.

La diferencia fundamental es que, en el caso de los agentes, el plan de acción se decide y revisa de forma dinámica en tiempo de ejecución por el propio agente, mientras que en los workflows el plan de acción se define en tiempo de desarrollo por el desarrollador humano y es estático. Esta diferencia es fundamental, tanto para lo bueno de los agentes, la flexibilidad, potencia e inteligencia de los agentes, como para lo malo de los agentes: incertidumbre y consumo computacional.

Sólo por apuntar alguna otra diferencia, se puede observar en la figura que, en el caso de los agentes, y como mencioné más arriba, dibujo con trazos la unión con los nodos herramienta, mientras que en los workflows esa flecha la dibujo con trazo continuo. Lo que esto trasmite es una consecuencia del dinamismo del plan de los agentes: a priori no podemos estar seguros de qué herramientas va a invocar ni de qué forma. En el caso de los workflows sí se sabe, porque está definido en el flujo.

Podríamos apuntar algunas otras diferencias de menor calado, pero prefiero quedarme con estas que son nucleares.

Aunque me preocupan un poco las connotaciones de la palabra 'determinismo' en el ámbito de la inteligencia artificial, diría, por expresarlo de una forma aún más compacta que:

Un agente es una solución muy flexible y potente pero no determinista, mientras que un workflow es una solución más rígida y acotada, pero determinista.

Estableciendo el enunciado del problema

Llegados hasta aquí, y antes de pasar a la soluciones que propongo, recordar cuál es el problema a que me refiero (y que puede que el lector identifique como tal o no).

Mi argumentación parte de la idea de que, al menos a nivel de discurso, parece que los agentes son la solución a cualquier problema, especialmente de automatización de tareas y procesos. Es decir, se considera a los agentes como un martillo de oro, capaz de soluciones cualquier problema que, por tanto, vemos siempre como un clavo.

Salvo que alguien me demuestre lo contrario, creo que los agentes, al menos en su estado de arte actual, no deben ser la solución única, que todavía hay muchas tareas que se automatizan mejor mediante una solución más clásica basada en un workflow.

En concreto, cuando la solución al problema la tengamos clara y sepamos claramente las reglas que la gobiernan, un workflow parece mejor solución que un agente, por los siguientes motivos:

Dado que un workflow es determinista, es mucho más sencillo de probar y, una vez probado, garantiza un comportamiento correcto, conocido y reproducible, cosa que en un agente nunca podemos estar 100% seguros.

El coste computacional de ejecutar un agente, para una tarea similar, es muchísimo más alto que el de la misma tarea ejecutada por un workflow

Dado que el coste computacional es mucho más alto, el coste económico es también más elevado y, además, no del todo predecible (no podemos saber con seguridad los tokens que se necesitarán).

Finalmente, ese coste computacional se traduce en consumo eléctrico y de refrigeración, incrementando la huella de carbono y el impacto medioambiental

El razonamiento es, pues, resumiendo, que aunque los agentes son de una potencia extraordinaria y nos abren unas grandísimas posibilidades, no siempre son la mejor solución, y por lo tanto, no debemos considerarlos martillos de oro, sino elegir en cada momento la solución de automatización más adecuada.

Algunas posibles soluciones intermedias e integradoras

La verdad es que, hasta aquí, casi que lo que he hecho es nada más que resumir e ilustrar, el contenido de los dos posts anteriores. Vamos ahora con algunas soluciones o planteamientos que se me ocurren. En concreto, y aunque es posible que existan otras soluciones, o que las que propongo se puedan combinar, voy a proponer cuatro opciones, a saber:

Solución 0: seleccionar la solución caso a caso
Solución 1: el modelo generador de workflows
Solución 2: orquestadores
Solución 3: ecosistemas híbridos

En lo que sigue, comento brevemente cada una.

Solución 0: seleccionar la solución caso a caso

Esta solución le llamo solución 0, porque, en realidad, es casi trivial.

Si se admite que no todos los problemas se resuelven mejor con un agente pues entonces, simplemente, antes de lanzarse a desarrollar un agente o un workflow decidir conscientemente y con criterio cuál es la solución adecuada para ese caso concreto

Solución 1: el modelo generador de workflows

La solución 1 consistiría en que el propio modelo razonador que genera el plan fuese capaz de detectar, por sí mismo o con asistencia humana, qué tipo de solución es mejor y si, al inicio de su resolución detecta que es un problema basado en reglas y resoluble mediante un flujo, simplemente que genere ese flujo.

Me parece perfectamente viable técnicamente puesto que casi todas las herramientas de tipo workflow expresan ese workflow mediante un lenguaje de marcado (tipo YAML) o mediante JSON, dos formatos que un modelo de lenguaje domina muy bien.

Eso sí, no eliminamos al 100% el no determinismo, puesto que el agente puede equivocarse y no darse cuenta de que un problema se resuelve mejor mediante workflow. Tampoco es óptimo computacionalmente, porque la propia decisión de si vale la pena crear un workflow, e incluso la creación del workflow propiamente dicho sigue usando los mecanismos propios de un modelo de lenguaje.

No es pues, creo, una solución absoluta, pero alivia el problema.

Solución 2: orquestadores

La siguiente solución se apoya en la idea de que la relación de agentes entre sí, y de workflows entre sí puede hacerse jerárquica e incluso recursiva. Es decir, un agente puede invocar a otro agente (que actúa como herramienta) y un flujo puede invocar a otro flujo (usando una especie de conector).

Esta opción, que no sólo es viable, sino que ya hay plataformas que permiten su creación, es hacer automatizaciones en que exista un nodo orquestador, y otros nodos que realizan tareas. Y, para aquellas tareas en que la solución mejor sea un workflow, pues se utiliza un workflow y para aquellas en que la mejor solución sea un agente y es el orquestador quien lo decide. El esquema de esta opción se muestra en la figura.

Orquestadores

Se puede ver que, además, esta solución tiene una doble vertiente: que el orquestador sea un agente o que el orquestador sea un workflow. Además, y aunque en la figura se muestra que un agente sólo invoca workflows y un workflow sólo invoca agentes, en realidad, ya sea orquestado por un agente o por un workflow, los nodos que ejecutan las tareas pueden ser cualquier tipo.

Como digo, este tipo de esquemas ya se pueden hacer hoy en día, no sólo en código, sino en herramientas como Make.

Solución 3: el ecosistema híbrido

La solución 2 ya anticipa un poco lo que es la solución 3 (realmente es un caso particular de la solución 3).

La solución 3, el ecosistema, parte de concebir las automatizaciones como una interacción entre unos nodos que pueden ser agentes o workflows y que se combinan en interaccionan entre sí según la naturaleza del problema. Es lo que intento mostrar en la siguiente figura:

Ecosistemas de agentes, con workflows como forma de agente

Es una solución muy similar a la del orquestador pero sin que haya nodos con ese rol especial, sino que interactúen en un esquema más P2P. En el fondo, esta solución se basa en la idea de los ecosistemas de agentes, pero reconociendo a los workflows también como agentes.

Para que está solución sea óptima, como en el fondo también en el caso anterior, ha de cumplirse que cuando el orquestador seleccione un nodo para delegar una tarea, o cuando un agente del ecosistema delegue en otro la ejecución de una tarea, se 'acierte' siempre, en el sentido de identificar siempre cuándo una tarea se resuelve mejor mediante un workflow.

No voy a profundizar más en ello, pero se me ocurre que sino conseguimos que un modelo de lenguaje acierte siempre en la elección de workflows, se le 'podría ayudar' mediante alguna forma de catálogo de tareas que se resuelven mejor mediante workflows.

Algún pequeño 'disclaimer'

Antes de cerrar este post, hacer algún pequeño 'disclaimer'.

El primero es que las propuestas que hago no dejan de ser eso, propuestas, hechas un poco 'a bote pronto', aunque es un tema al que le doy vueltas con cierta frecuencia últimamente.

Por otro lado, ni reclamo ni dejo de reclamar la 'autoría' u originalidad de estas propuestas. No renuncio a esa supuesta 'autoría' u 'originalidad', porque es fruto de mi propia reflexión, no es nada que haya visto en ningún sitio salvo, hasta cierto punto, la idea del orquestador. Pero tampoco me atrevo a reclamar la autoría y, sobre todo, originalidad, porque me cuesta pensar que no haya ya mucho pensado e incluso escrito sobre estos temas y que existan propuestas, implementadas y/o publicadas, iguales o muy parecidas a las que hago..

Finalmente, apostaría a que hay más soluciones que yo no he planteado aquí y puede que mejores... así que me encantará o bien descubrir en alguna publicación o bien que se me ocurran a mi en un proceso de indagación y reflexión.

Conclusiones

El considerar a los agentes como martillos de oro, como la única solución para todos los problemas fundamentalmente de automatización, puede ser un error, ya que existen soluciones, especialmente las basadas en workflows, eventualmente más adecuadas y, además, más seguras, eficientes, baratas y sostenibles.

En este post, tras, revisar conceptos y la naturaleza del problema, se proponen cuatro estrategias de solución híbridas.

Artículos de este blog relacionados

Los agentes y el martillo de oro (II): agentes y medio ambiente

noreply@blogger.com (Ignacio G.R: Gavilán) — Wed, 08 Jul 2026 09:50:00 +0000

Con este post continuo la breve serie que quería dedicar a un eventual uso irreflexivo de los agentes, un uso que no se detiene a considerar que en ciertos casos existen mejores alternativas. Es decir, continuo la serie dedicada a considerar a los agentes como un martillo de oro, la solución para cualquier problema que pasa a ser siempre un clavo.

Si en el post anterior reflexionaba sobre si no es mejor, desde un punto de vista fundamentalmente técnico y operativo, usar en ciertos casos soluciones basadas en reglas o workflows mejor que un agente, en este artículo torno mi mirada hacia la sostenibilidad y el impacto medioambiental.

Agentes 101

Antes, recordar brevemente, una vez más, qué es esto de los agentes y de la Agentic AI (aquellos lectores que lo tengan claro pueden saltarse esta breve sección)

Los agentes de la agentic AI, son unos programas construidos alrededor de un gran modelo de lenguaje razonador. Unos programas que son capaces de funcionar de manera autónoma buscando realizar tareas eventualmente complejas o satisfacer objetivos que reciben expresados en lenguaje natural.

Además son capaces de usar una serie de elementos, denominados herramientas, que les permiten realizar tareas especializadas y, sobre todo, interactuar con el exterior, típicamente con otras aplicaciones.

Y, de manera muy relevante y diferencial, esos agentes, definen ellos mismos el plan de acción a aplicar para realizar la tarea o alcanzar el objetivo encomendado. Y para definir ese plan de acción, utilizan ese modelo de lenguaje razonador. Además, estos planes de acción son dinámicos y se revisan 'en vuelo' según los resultados parciales que el agente vaya obteniendo.

El precio del razonamiento

No sólo es diferencial, es que también es tremendamente atractivo y potente que el agente sea capaz de 'pensar', crear y revisar el plan de acción. Es como un alarde de inteligencia y permite que le encomendemos tareas complejas o, incluso, tareas que nosotros no sabemos resolver.

Pero esa potencia, esa brillantez, tiene un precio en forma de consumo computacional. Si el uso de cualquier modelo de lenguaje, incluso para una tarea simple como completar un texto, es costoso computacionalmente, hacer un plan es mucho más costoso. Y revisarlo también

Y por si eso fuese poco, es posible que no se trate de acciones que se realicen una sola vez. Es que el agente puede estar funcionando de manera permanente, continua, con lo que esa planificación o revisión de planificación puede estarse ejecutando repetidamente.

La economía y el medio ambiente

Y, claro, el coste computacional se traduce en consumo energético y, por tanto, en coste económico. Un coste económico que se traduce para el proveedor del modelo en factura eléctrica y eventualmente más facturas en forma, por ejemplo, de refrigeración. Y para el que usa el agente en factura IT, por tokens consumidos o la unidad que se haya acordado.

Pero claro, a poco que esa energía utilizada provenga de fuentes no renovables, ese consumo energético se traduce en huella de carbono u otros impactos medioambientales como calentamiento de aire o agua usados en refrigeración.

No, por desgracia no parece que los agentes se lleven muy bien con el medio ambiente

Un consumo muy perceptible

Ese consumo computacional se puede percibir además, no de forma precisa, pero sí muy tangible.

No hace mucho, casi más por experimentar, me creé un agente sencillo usando la herramienta Make. Cuando lo ejecuté, me llamó mucho la atención lo que tardó en realizar la tarea, una tarea que realmente era muy simple, casi trivial.

En realidad, se trataba de una tarea que creo impropia para un agente. Creo recordar que consistía en procesar correos entrantes, crear una respuesta para esos correos y contestar al remitente con esa respuesta.

Como usuarios estamos acostumbrados hoy en día a muy bajas latencias, a tiempos de respuesta muy buenos, por lo que esta lentitud era llamativa. Pero hay que tener en cuenta que el agente tenía que entender la tarea, realizar el plan de acción e imaginarse qué herramientas de las que ponía a su disposición utilizar y de qué forma. Eso no es tan fácil.

Esa lentitud percibida era, pues, una manifestación tangible del coste computacional de lo que el agente estaba haciendo.

Workflows: cuando la eficiencia técnica se alinea con la sostenibilidad

Y, sin embargo, con esa misma herramienta Make, que habitualmente se utiliza no para hacer agentes sino workflows, podría haber creado un workflow (escenarios como se llaman en Make) muy simple para hacer la misma labor.

La ejecución de ese workflow, aparte de más fiable en cuanto a estar seguros de que iba a hacer lo encomendado, es mucho, muchísimo más rápida. Y sería muchísimo más rápida porque el flujo ya estaría pensado en tiempo de diseño, no sería necesario crear ningún plan ni revisarlo (el propio workflow es el plan y es estático). Tampoco es necesario deducir qué herramienta (el GMail en este caso) usar, porque el propio workflow indica cuál es y cómo se invoca.

Desde un punto de vista técnico y operativo interesa saber que la tarea realizada con un workflow es mucho más rápida y mucho más fiable en cuanto a resultados.

Esa eficacia y eficiencia técnica y operativa tiene, claro, también su traducción en menor consumo energético y, por tanto, menor coste.

Y, por si algo faltaba, es una solución más respetuosa con el medio ambiente porque ese menor consumo energético va a tender a crear mucha menor huella de carbono y mucho menor calentamiento.

El martillo de oro

Por tanto, no caigamos en pensar que los agentes son un martillo de oro y que son siempre son la mejor opción.

En el post anterior razoné que de cara a la eficacia, la eficiencia y la calidad, probablemente, para ciertos casos, existan soluciones mejores, soluciones más tradicionales basadas en reglas o workflows.

En este post recuerdo que la sofisticación de un agente viene acompañada de un coste económico y medioambiental y, por tanto, se deben usar con prudencia, cuando el tipo de tarea encomendada realmente sea propia de un agente e, incluso en este caso, debería preocuparnos su impacto medioambiental.

Como se puede observar, ni los agentes son un martillo de oro, ni todos los problemas son clavos.

Conclusiones

Los agentes son unas soluciones excitantes, poderosas y abren enormes posibilidades en automatización y seguramente más campos como investigación.

Pero no son un martillo de oro. No son la mejor solución técnica para todos los problemas y, desde luego, no son la mejor solución para el medioambiente.

Seamos, pues, responsables.

Artículos de este blog relacionados

Los agentes y el martillo de oro (I): ¿por qué no un workflow?

Los agentes y el martillo de oro (I): ¿por qué no un workflow?

noreply@blogger.com (Ignacio G.R: Gavilán) — Fri, 03 Jul 2026 09:05:00 +0000

Leo mucho y también le doy muchas vueltas en los últimos meses, seguro que no soy el único, a todo lo relativo a los agentes de IA.

Por un lado, me resulta excitante el concepto y la posibilidad de que seamos capaces de construirlos y, además, con cierta facilidad.

Por otro, me generan dudas, no de manera general, sino en aspectos particulares o casos de uso particulares.

Voy a recoger algunas de esas consideraciones en una mini-serie de posts, entre tres o cuatro artículos, comenzando por el de hoy.

En concreto hoy hablaré de lo que tiene que ver con la automatización, la repetitividad y la calidad, un tema al que de alguna forma ya me he aproximado en algún artículo anterior.

Martillos y clavos. El martillo de oro

En cierto modo, y más allá de que creo que los agentes IA constituyen todavía una tecnología y un tipo de solución que tiene que mejorar mucho en cuanto a fiabilidad, pruebas y gobernanza, podría decir que mis cuitas con respecto a los agentes tienen que ver, sobre todo, con que los estemos tratando como un martillo de oro. ¿A qué me refiero? ¿Qué es un martillo de oro? En su entrada en wikipedia se expresa de una forma muy simple

Un martillo de oro (o martillo dorado) es cualquier herramienta, tecnología, paradigma o similar cuyos partidarios ensalzan de manera exagerada. Predicen que resolverá múltiples problemas, incluso aquellos para los que obviamente no es adecuada.

Aunque, quizá su formulación más conocida, también para mí, sea la que se atribuye al muy afamado psicólogo Abraham Maslow y que se denomina por ello, a veces, como martillo de Maslow, a saber:

Si sólo tienes un martillo, todo parece un clavo.

Y, en efecto, tengo la sensación de que estamos considerando a los agentes, en ocasiones a toda la IA, como un martillo y que, por tanto, sólo vemos clavos, queriendo decir con ello que todo lo queremos resolver mediante agentes, sean o no adecuados, y existiendo o no mejores soluciones alternativas.

Agentes y Agentic AI

Simplificando, y como ya he explicado en algún otro post, y como probablemente muchos lectores de este blog conozcan, los agentes (en la acepción de agente referida a los agentes IA que conforman la denominada Agentic AI) no son más (bueno, ni menos) que aplicaciones construidas alrededor de un gran modelo de lenguaje de tipo razonador, unas aplicaciones que, aunque pueden interactuar con el usuario, en general funcionan de manera autónoma y que, además, pueden realizar tareas especiales y, sobre todo, interactuar con el exterior, mediante las denominadas herramientas ('tools').

Mediante estas herramientas, el agente es capaz, por ejemplo, de leer un correo electrónico, leer datos de una pantalla, consultar datos en una aplicación y un larguísimo, casi infinito, etcétera. Y no sólo leer, también escribir o invocar acciones.

¿Hemos descubierto la pólvora?

Sin embargo, existen ya desde hace años, muchos otros tipos de aplicaciones que hacen algo similar, en el sentido de aplicar una cierta lógica para automatizar un proceso o tarea funcionando de manera autónoma e interactuando con el exterior haciendo uso, fundamentalmente, de APIs y conectores.

Cabe decir, además, que con independencia de los cambios de nombre, las herramientas funcionan de forma similar a, y de hecho se suelen apoyar en, APIs y conectores. Los afamados servidores MCP no dejan de ser una implementación algo especial de los conectores de toda la vida.

Entre ese tipo de soluciones que aplican de forma autónoma una lógica interrelacionándose vía conectores con el exterior, tenemos los chatbots basados en reglas y, sobre todo los robots RPA sobre todo en su variante no atendida, protagonistas ambos de mi libro 'Robots en la sombra'. Y, hasta cierto punto, aunque normalmente con menor autonomía, también podríamos incluir en este apartado las soluciones BPMS ('Business Process Management System').

¿Qué pasa entonces? ¿Es que con los agentes hemos 'descubierto la pólvora' o el Mediterráneo? ¿Es que no son más que un nuevo nombre o una nueva implementación de algo que ya teníamos?

Elementos diferenciales de los agentes IA

No, aunque comparten elementos comunes, bastante elementos comunes de hecho, con otras formas de automatización, tienen algunas características diferenciales, alguna tremendamente diferencial.

Me voy a centrar en dos.

La primera que, con ser importante, casi la veo secundaria, es que a un agente IA sus objetivos o la tarea a realizar se le indican en lenguaje natural, no mediante código, ni mediante reglas o flujos expresadas en un lenguaje más o menos formal. Simplemente, lenguaje natural.

Pero lo que creo que cambia radicalmente el planteamiento es que el 'cerebro', quien decide el plan y, por tanto la lógica, a aplicar, es un modelo de lenguaje razonador, no un desarrollador humano. Y esto tiene varias implicaciones muy importantes:

Decide la IA, no el humano, la lógica a aplicar en cada caso.
Por lo anterior, eventualmente un agente podría atacar la automatización de una tarea que un humano no sabe exactamente cómo resolver.
La lógica, el plan a aplicar, se decide en tiempo de ejecución, no en tiempo de diseño o desarrollo
El plan, la lógica a aplicar, es flexible, dinámico y adaptativo
El plan que se aplica puede variar de una instancia de tarea (un caso que se diría en proceso so automatización) a otra.

Son características, muy diferenciales y muy potentes, que diferencian claramente a los agentes de otras formas de automatización que, exteriormente se puedan manifestar de forma parecida.

En general, son de una potencia espectacular...pero a lo mejor eso nos lleva a considerarlos martillos de oro y es posible que, pese a su potencia, no siempre constituyan la mejor opción

Automatización

Cuando automatizamos tareas, es decir, cuando eliminamos la participación de un humano (o eventualmente un animal) de un proceso, solemos buscar los siguientes objetivos:

Ahorro de costes, ya que el trabajo humano es caro
Alta disponibilidad
Reducción de tiempos de proceso
Eliminación de errores
Control del proceso y predecibilidad de sus resultados (calidad)
Cumplimiento normativo

Los sistemas basados en reglas y workflows

Los sistemas de automatización de procesos y tareas, típicamente los BPMS (Appian, Pega, etc) , RPA (UiPath, Blue Prism, Automation Anywhere, Power Automate, etc) o workflows en la nube (Make, Zapier, N8N, etc) o incluso soluciones de automatización construidas como un desarrollo a medida, definen el flujo en tiempo de desarrollo con lo cual su lógica en producción está perfectamente determinada, perfectamente conocida por anticipado.

Por tanto, las aplicaciones de automatización construidas con estas herramientas cumplen con todos los objetivos expresados acerca de la automatización.

Sólo un matiz respecto a la frase anterior: como hoy en día estas soluciones incluyen también la posibilidad de invocar a grandes modelos de lenguaje usando APIs y conectores, la certeza en cuanto a su lógica se podría debilitar un tanto, pero esto no deja de ser una primera manifestación de las limitaciones que pueden exponer los agentes, basados precisamente en modelos de lenguaje y que expongo en la siguiente sección.

Alguna desventaja de los agentes

Paradójicamente, creo que, de todos los objetivos de la automatización mencionados más arriba, en el único en que los agentes pueden superar a otras opciones de automatización más tradicionales es en el ahorro de costes.

En principio, igualan a las soluciones tradicionales puesto que, para una tarea dada, si ambas soluciones eliminan el trabajo humano, el ahorro es el mismo. Sin embargo, a priori los agentes permiten automatizar tareas que otras soluciones no pueden, precisamente por su capacidad de decidir 'ellos mismos' qué hacer en cada momento, siendo capaces de acometer automatizaciones de tareas que un humano no sabe definir bien o tareas sometidas a muchas incertidumbres o variantes que son difíciles de reflejar en un workflow.

En cuanto al segundo punto, probablemente podamos considerar que los agentes proporcionan la misma escalabilidad que los sistemas tradicionales, quizá con una cierta penalización por su alto consumo computacional, del que me ocuparé en otro post.

Hasta aquí vamos bien con los agentes, pero en los siguientes puntos, cambian las tornas.

Así, aunque no siempre de manera grave, los agentes suelen ser más lentos de ejecución que una solución basadas en workflow. Es decir, sí que reducen el tiempo de proceso, pero algo menos que las soluciones basadas en workflow. Según el caso, la diferencia puede ser casi irrelevante o puede importar.

Pero, sobre todo, los agentes no son completamente previsibles con lo cual perdemos una parte del control y predecibilidad de otro tipo de automatizaciones. Además, podemos esperar que se produzcan algunos errores porque el agente 'alucine' o no reaccione correctamente a un escenario dado.

Exactamente por lo mismo, introducimos algún riesgo, si bien creo que pequeño, de no conseguir el cumplimiento normativo.

¿Por qué no un workflow?

Estando así las cosas, ¿Por qué, en lugar de liarnos a hacer agentes, no automatizamos directamente al modo tradicional, mediante una solución basada en un workflow?

En el fondo, y esto es lo que origina todo el post, es porque a veces parece que sólo tenemos un martillo, un martillo de oro que son los agentes, y nos parece que todo son clavos. Pero no es así, disponemos de destornilladores, llaves inglesas y mucho más, y podemos no solo clavar, sino atornillar, poner tuercas o pernos y muchas más tareas.

Probablemente, lo sensato sea diferenciar el tipo de procesos y tareas que queremos automatizar, saber si son clavos o tornillos y, con criterio, seleccionar la herramienta adecuada, no sólo el martillo.

Me reservo una posible solución

Me reservo para el último post de la serie una idea que se me ocurre, que no tengo claro cómo es de viable ni si ya se está trabajando en ella y que reconciliaría un poco las diferentes visiones y podría convertir a nuestro martillo, los agentes, en una especie de navaja suiza.

Conclusiones

Los agentes de IA son una forma de automatización que, si bien comparte bastantes ideas con otras formas de automatización existentes, aportan sobre todo su planificación y decisión en tiempo de ejecución con base en un modelo de lenguaje razonador.

Esto es enormemente potente y diferencial pero, sin embargo, puede que no sea siempre la mejor solución. A lo mejor, hay casos en que siguen siendo preferibles soluciones basadas en reglas y workflows.

La imaginación como virtud ética

noreply@blogger.com (Ignacio G.R: Gavilán) — Mon, 29 Jun 2026 07:00:00 +0000

Que la imaginación es una virtud, dicho así, probablemente a nadie le parezca demasiado extraño.

Tendemos, lógicamente, a valorar positivamente la imaginación, que aparte de su interés casi diría intrínseco, puede ser fuente de ideas, algunas en el ámbito de la creación pura, como como en el caso de la creación artística, literaria, musical... y otras en otro tipo de creación como la que se produce en la innovación empresarial o, en un ámbito más general, como una capacidad útil en la resolución de problemas.

Sin embargo, con todo y lo valiosa que nos tiende a parecer la imaginación, no solemos concederle un valor ético.

Sin embargo, esa perspectiva ética de la imaginación me la he encontrado en el libro 'The AI Mirror: How to Reclaim Our Humanity in an Age of Machine Thinking' de Shanon Vallor y quisiera comentarla brevemente.

Grandes escuelas éticas

Antes de seguir, y en beneficio de quien pueda no conocerlas, una rapidísima y muy básica revisión de las tres grandes escuelas éticas en el mundo occidental. Hablaríamos de las siguientes:

Ética deontológica: Abanderada por Kant y que, en esencia dice que debemos seguir unos ciertos principios (ahí es donde encaja el famosísimo, aunque seguramente no bien conocido en el fondo, imperativo categórico). Aunque al hablar de principios, en cierto sentido estamos poniendo la ética fuera de las personas, el propio Kant es quien, en otro famoso aserto, establece que una persona es un fin en sí misma y nunca puede ser usada como un medio.

Ética consecuencialista / utilitarista Nacida de la mano de Jeremy Bentham e impulsada, y matizada, por su discípulo John Stuart Mill, pone el foco en la consecuencias de lo que hacemos con un enfoque muy económico-matemático que busca maximizar una especie de función de utilidad que de alguna forma expresa el placer o bienestar conjunto (no el de una persona específica).

Ética de las virtudes: Asociada a Aristóteles (aunque, curiosamente, muy similar a los presupuestos de Confucio). Se trata de una ética muy centrada en la persona, que debe buscar su florecimiento, su excelencia, su máxima realización, lo cual consigue en cierto sentido a través de las virtudes que se entienden como un sano equilibro entre extremos (así entre dos extremos viciosos como la cobardía y la temeridad, nos encontramos con la virtud de la valentía).

Que me perdonan filósofos y eticistas por la simplificación, pero creo que era pertinente.

Aristóteles, las virtudes y la persona

Como se ha dicho, el foco de Aristóteles es la persona y su realización. Esa realización, quizá más ese desarrollo personal, recibe un nombre difícil como es, 'eudaimonia'.

Como digo a veces en algunas clases y charlas, aunque el nombre es difícil, hoy en día podríamos decir que incluso desafortunado, el concepto es precioso y, en mi opinión, la mejor forma que he visto de enfocar la ética.

La imaginación

Y vamos ya a la imaginación.

Aristóteles parece que no consideraba a la imaginación ('phantasia') un virtud, sino, más bien, una facultad psicológica.

Sin embargo, Shanon Vallor, que se reconoce fundamentalmente como seguidora de Aristóteles y representante actual de la ética de las virtudes, en la obra citada afirma que, en su opinión, la imaginación sí es una virtud. Nos dice:

It was not named as a virtue by ancient philosophers such as Aristotle or Kongzi. But contemporary philosophers, including me, have often recognized it as one, or at least as an essential component of virtue.

Su razonamiento, tiene mucho que ver, creo, con esa idea de la eudaimonia que, ahora, voy a traducir como 'excelencia' (en seguida se verá por qué). Así, Vallor nos dice:

It is hard to envision someone entirely lacking in imagination who can still develop and express their full moral, intellectual, and creative potential. Imagination is how we envision yet unmade possibilities for ourselves and others; it is what makes autofabrication possible. Lacking any imagination might be technically survivable for an individual, as long as they can reap the benefits of the imagination of others, but it places a fundamental limit on a person’s excellence.

En esencia, la imaginación es una capacidad fundamental para que una persona pueda desarrollar su potencial de todo tipo y alcanzar la excelencia (de ahí la traducción libre de eudaimonia).

Y por esta vía, quizá un poco indirecta, la imaginación alcanza un valor ético.

Desde un punto de vista estrictamente intelectual no sé si estoy de acuerdo o no con esta consideración...pero lo cierto es que me gusta mucho la idea.

Conclusiones

Las virtudes son, para Aristóteles, elementos fundamentales de su ética y se conciben como equilibrios entre extremos digamos viciosos. Pero, además, Aristóteles propugnaba el desarrollo de la persona, su florecimiento, hasta alcanzar la famosa 'eudaimonia'

Un poco por esa necesidad de la imaginación para alcanzar el desarrollo máximo y la excelencia, es por lo que, una filósofa actual, Shanon Vallor, considera a la imaginación como una virtud y le concede valor ético.

La humanidad como metáfora (II): el caso de la robótica

noreply@blogger.com (Ignacio G.R: Gavilán) — Fri, 19 Jun 2026 09:30:00 +0000

En el post anterior de este blog introduje la reflexión sobre el uso de la metáfora humana en lo que tiene que ver con la inteligencia artificial.

Esa metáfora se manifiesta fundamentalmente en lo que tiene que ver con el vocabulario usado para referirnos a las capacidades de la inteligencia artificial, comenzando por el propio término inteligencia, y siguiendo por otras términos como reflexión, introspección, memoria, visión, etc

Pero también vimos que, más allá del lenguaje usado, hay aspectos más profundos que una mera metáfora, como el uso del ser humano, en este caso su cerebro, como fuente de inspiración científica para diseñar sistemas de inteligencia artificial y quizá, sólo quizá, o sólo para algunas personas y colectivos, su emulación y superación, como objetivo final de la inteligencia artificial,

En este segundo artículo, voy a saltar al campo de la robótica, una disciplina bastante diferente pero cada vez más entremezclada con la inteligencia artificial.

El cuerpo como diferencia

Aunque el debate tendrá elementos comunes con el caso de la inteligencia artificial, la gran diferencia que se plantea en el caso de los robots, es que éstos, al menos en su mayoría (y digo esto de la mayoría para evitar el debate de si los robots software son robots), poseen un 'cuerpo' ('embodyment') una realidad física tangible con lo que la metáfora no se traslada sólo a lenguaje o funcionamiento, sino también a la forma, a la apariencia.

Robots y humanos digitales

Hay, sin embargo, un punto intermedio que conviene resaltar, y es el de los avatares o humanos digitales, es decir, una forma de chatbots que se presentan en pantalla con una forma humana, en algunos casos bastante fiel y detallada.

Por tanto, una buena parte, aunque no todo, de lo que digamos respecto a los robots 'con cuerpo', se aplica a los humanos digitales

Las capacidades cognitivas y relacionales

Antes advertir que en el caso de los robots más avanzados, en el fondo en los que me estoy centrando, vienen dotados de capacidades cognitivas de la inteligencia artificial. Esto quiere decir que todo lo que dijimos en el post anterior de esta serie tanto sobre nomenclatura de tintes humanos, como sobre inspiración científica en el cerebro humano o posible objetivo final de la inteligencia artificial se traslada completamente al caso de estos robots cognitivos.

La forma: robots sociales y humanoides

Enlazando con lo que decíamos anteriormente sobre el cuerpo, en el caso de los robots la metáfora humana afecta muy directamente a su forma, a su cuerpo.

Muchos robots, como los manipuladores industriales, los robots móviles o los robots para reparto, adoptan formas plenamente funcionales, adaptadas a su labor y que nada tienen que ver con los humanos.

Pero existen dos importantes clases de robots, con algún solape entre ellos, en que la metáfora humana es evidente en cuanto a la forma. Me refiero a los robots sociales y a los robots humanoides.

Robot Neo

Los primeros, los robots sociales, son la contrapartida física de los chatbots, es decir, se trata de robots cuya misión principal es la de relacionarse con humanos. En ese sentido, no sólo utilizan el lenguaje natural y la voz como forma de comunicación, sino también elementos de lenguaje no verbal como la mirada, la distancia social o los gestos. Aunque no todos los robots sociales son antropomórficos, una buena parte de ellos sí que lo son. Entre los representantes más conocidos de los robots sociales podríamos mencionar a Pepper y Neo, aunque existen otros, quizá más experimentales, como la famosa Sophia o Amecca... y muchos más. Aunque son antropomórficos, y en algún caso como los geminoids imitan profundamente la forma humana, la mayoría tienen un aspecto indudablemente robótico.

Robot Optimus

El otro caso, es el de los robot humanoides. Siendo rigurosos con los términos, los robots sociales antropomórficos serían también humanoides, pero en esta categoría me refiero a robots más orientados a ámbitos industriales o a realizar tareas, incluso en el hogar y, por tanto, algo menos relacionales en su objetivo. Estaría hablando de robots como Optimus o Figure, por poner un ejemplo. Son robots técnicamente mucho más sofisticados que los robots sociales, más entrenados en la realización de trabajos y con mucha mayor destreza 'manual'.

El papel de la forma humana en los robots

Aunque podamos pensar que el dotar a robots de forma humana es una forma de fantasía, de ser capaces de crear seres como nosotros, no es ésta la motivación verdadera, al menos no en la mayor parte de los casos.

Creo que se pueden identificar dos grandes motivaciones para el uso de la forma humana, una de naturaleza operativa y otra relacional (que, en el fondo, también acaba siendo operativa).

La motivación operativa

La primera naturaleza operativa tiene que ver sobre todo con los robots humanoides. En el post 'Especulando sobre un mercado para robots humanoides (I): proposición de valor', argumentaba que unos de los elementos de la proposición de valor de los robots humanoides es su versatilidad.

¿Qué quiere decir esto?

Otro tipo de robots, como los manipuladores industriales, pese a estar dotados de cierta flexibilidad, en el fondo están circunscritos a un conjunto acotado de tareas posibles. Sin embargo un robot humanoide puede acometer muchas más tareas y muy diferentes.

Pensemos que la anatomía del ser humano es fruto de milenios de evolución y capacita al ser humano para realizar todo tipo de tareas, incluyendo el desplazamiento por todo tipo de terrenos. Imitar la forma humana, no deja de ser una forma de biomímesis que hereda todo lo que de bueno tiene el cuerpo humano para acometer tareas de todo tipo y que posibilita a su vez a robots con esta morfología el acometer una gran variedad de tareas.

Esta flexibilidad, tiene indudable valor de negocio e ingeniería y facilita la producción masiva y las economías de escala que se derivan.

Además, en muchas de las tareas que queremos confiar a los robots humanoides, sustituirían a los humanos y parece que el que los robots estén dotados de una morfología similar a la del ser humano contribuye a que puedan realizar tareas similares a éste.

La motivación relacional

La motivación relacional, aunque afecta también a los robots humanoides, tiene mas que ver con los robots sociales e incluso los humanos digitales.

Parece lógico pensar que el uso de mecanismos 'humanos' en la relación, no sólo el lenguaje verbal (procesamiento de voz y lenguaje natural), sino también el lenguaje no verbal con sus gestos, miradas, entonaciones etc facilita la comunicación entre personas y robots.

Dado que las características relacionales humanas se desarrollaron evolutivamente, fundamentalmente para engrasar las relaciones entre personas, si los robots son capaces de utilizar o emular los mismos mecanismos verbales y no verbales, la comunicación persona-robot fluirá de manera natural y sin necesidad de adaptación o aprendizaje por parte del humano.

En el fondo se trata de una manera algo particular y especializada de biomímesis.

Y esa comunicación, especialmente en sus aspectos no verbales, se beneficia también de una forma más o menos humana del robot, no sólo porque le permite al robot hacer gestos o usar miradas de forma más similar a un humano sino porque, en el fondo, lo vamos a aceptar mucho mejor.

Decía más arriba que esta motivación relacional en el fondo es también operativa porque es el robot el que se adapta al humano y por tanto para éste, para el humano, es muy sencillo, casi trivial, relacionarse con el robot, lo que elimina la necesidad de entrenamiento, aprendizaje o adaptación por parte del humano y facilita la adopción de la tecnología y su uso e interacción en el día a día.

El valle inquietante

Sin embargo, existe una limitación, no demostrada pero claramente admitida en esa imitación a la morfología humana: el valle inquietante ('uncanny valley').

Está bastante admitido que los humanos acogemos mejor a un robot cuanto más se va pareciendo a nosotros...pero eso tiene un límite. Si se parece 'demasiado' a un humano, si es casi igual (aunque sin llegar a ser igual) lo que era aceptación se convierte de repente en un profundo rechazo.

Dicho de manera familiar, queremos que los robots se parezcan a los humanos pero 'que no se pasen', que no dejen de seguir teniendo un aspecto razonablemente robótico.

El aprendizaje de los robots y la inspiración humana

Hay otro aspecto menos conocido de los robots en que se experimenta con mecanismos de clara inspiración humana: el aprendizaje.

Pese a que los robots avanzados, los robots cognitivos, obtienen sus capacidades cognitivas de la inteligencia artificial, presentan en ocasiones particularidades en cuanto a su entrenamiento que difieren de los mecanismos usados en la inteligencia artificial generalista.

Algunas de las dificultades del aprendizaje, que podrían considerarse generales pero que afectan sobre todo a robots cognitivos son el 'grounding', es decir, que sepan ligar los conceptos a las realidades físicas del mundo y la adquisición de conocimientos de naturaleza más cultural.

Aunque es posible que mecanismos como los VLAM (Vison-Language-Action Models) y los World Models a ellos asociados, resuelvan de una forma algo más algorítmica y similar al entrenamiento de otros modelos generativos, esos problemas, ya desde hace un tiempo se experimenta con formas de aprendizaje inspiradas en el aprendizaje humano, como son el aprendizaje por imitación ('imitation learning') o toda la propuesta de la robótica del desarrollo ('developmental robotics') en que se imita en cierto modo el aprendizaje en niños.

Estaríamos hablando en este caso, pues, de la metáfora humana como inspiración científica. De nuevo, una forma especial de biomímesis.

Personalidad y empatía

Un punto en que se comienza a extremar la metáfora humana es lo que tiene que ver con personalidad y empatía.

Ya desde hace años, con chatbots relativamente básicos, uno de los primeros pasos del diseño del chatbot es la decisión de la personalidad que deseamos que exhiba. En general, cualquier chatbot moderno y robot social, salvo que por algún motivo se decida lo contrario, va ser amable y servicial. Pero lo importante es que la metáfora no afecta sólo a la forma y a procesos cognitivos más intelectuales, sino también a la dotación a chatbots y robots de personalidad propia, una personalidad, por supuesto, perceptible por los humanos con que dialoga.

No sólo eso, se dota a este tipo de soluciones de una cierta empatía. Por supuesto, se trata de una empatía impostada, no sentida, pero a efectos prácticos y relacionales eso es casi irrelevante: el robot o el chatbot se muestran empáticos y las personas los perciben como tales.

Y, por cierto, no estoy hablando de una metáfora sólo como terminología, sino como comportamiento absolutamente real.

Las emociones

En la misma línea, pero yendo un poco más allá, la metáfora se extiende hasta las emociones. Los chatbots y robots avanzados son capaces en algunos casos de percibir las emociones del humano tanto por su lenguaje verbal como, en los casos más avanzados, por el lenguaje no verbal.

Y, claro, no es sólo que sepan percibir las emociones de los humanos, es que pueden tener capacidad para simular, de forma consistente, sus propias emociones.

De nuevo, no se trata de una metáfora meramente terminológica, sino plenamente operativa y perceptible.

El problema de la vinculación afectiva

No voy a profundizar mucho en esto ahora, pero sí mencionar que entre las problemáticas éticas que generan estos robots sociales o humanos digitales avanzados, varios de los más representativas tienen que ver con la vinculación afectiva que se puede producir, tiende a producirse de hecho, entre el humano y el robot o chatbot.

Un tema delicado, sin duda, y que conduce a otros riesgos relacionados con la influencia y la autonomía.

El problema del engaño

En los casos más avanzados, y quizá implicando a humanos poco advertidos o poco maduros, se puede producir un engaño, una confusión, en que el humano piense que realmente el robot o chatbot con que se relaciona, es más o menos consciente y tiene verdadera inteligencia, verdadera personalidad, verdaderos sentimientos.

En este caso, la metáfora casi, casi, dejaría de ser tal, porque algunas personas se la tomarían no como metáfora, sino como realidad.

Esto, aparte de falso, es peligroso y, de hecho, el reglamento europeo de inteligencia artificial pide explícitamente que estos artefactos se identifiquen claramente como tales, evitando o intentando evitar el engaño.

De todas formas, evitar el engaño creo que, más allá de leyes, depende también de cierta divulgación correcta de lo que son este tipo de ingenios, y casi diría también de cierto sentido común por parte de las personas.

Conclusiones

La metáfora humana en el caso de los robots o ingenios con ciertas características similares, adopta características diferenciales respecto a las que vimos de la pura inteligencia artificial en gran medida porque los robots incluyen un cuerpo físico, que también en su forma adopta la metáfora

Pero además, tiende, con mas intensidad que en el caso de la pura inteligencia artificial, a extenderse a elementos relacionales que implican personalidad, empatía y emociones.

Y eso conlleva algunos riesgos, incluyendo que la metáfora deje de ser reconocida como tal y se convierta en un engaño, quizá un auto-engaño.

Artículos de este blog relacionados

La humanidad como metáfora (I): El caso de la inteligencia artificial

La humanidad como metáfora (I): El caso de la inteligencia artificial

noreply@blogger.com (Ignacio G.R: Gavilán) — Wed, 17 Jun 2026 08:00:00 +0000

En ciertos campos tecnológicos, muy en especial con lo que tiene que ver con inteligencia artificial, se utiliza un lenguaje que mimetiza las características y aportaciones de esa tecnología con características con capacidades humanas. Así, hablamos de capacidades cognitivas, de razonamiento, de reflexión, etc.

Y la cosa no creo que se reduzca al lenguaje, existen dudas y debates sobre si lo que estamos haciendo va mucho más allá de la terminología, y si la verdadera aspiración, como así se afirma, sin duda, es alcanzar o incluso sustituir a la inteligencia humana.

Me encuentro inmerso en la lectura del libro 'Agentic Mesh: The GenAI-Powered Autonomous Agent Ecosystem' de Eric Broda y Davis Broda, un libro eminentemente técnico, pero en el cual, en el tercer capítulo, 'Agents basics', se dedica completamente a poner en paralelo y comparar a los agentes con los seres humanos, a mostrar capacidades humanas, tanto individuales como grupales, y cómo éstas se trasladan puntualmente al caso de agentes. De hecho, los autores afirman que esa analogía con las personas es una excelente forma de entender cómo funcionan los agentes, como exponen en la primera sección de ese capítulo 'Agent analogy: agents as people'.

Y es precisamente la lectura de ese capítulo la que me ha hecho preguntarme hasta qué punto es beneficiosa, y hasta qué punto real, esa analogía, esa metáfora. Y, también, si esa analogía va más allá de un paralelismo para convertirse en una aspiración.

Con ello tengo material para una 'miniserie' de dos o tres posts, de la cual éste es el primero, y en él me centro en el caso concreto de la inteligencia artificial.

Inteligencia artificial y metáfora

Lo cierto es que desde su mismo nacimiento, la inteligencia artificial sostiene, en su nomenclatura y en algo más, ese paralelismo con la humanidad o con la cognición humana.

El propio nombre de inteligencia hace pensar en seres vivos y, sobre todo, en humanos, y la propia declaración de visión, en la conferencia de Darmouth, 'hacer que las máquinas se comporten de una forma que consideraríamos inteligente si un humano se comportase de esa forma', pone de alguna manera al ser humano como medida y casi como aspiración de la inteligencia artificial.

Y ese paralelismo, esa analogía, esa nomenclatura y esa aspiración, siguen entre nosotros e inundan el discurso y en parte la actividad en materia de inteligencia artificial.

Pero, en realidad, esa forma de hablar acerca de la inteligencia artificial, esa insistencia en términos provenientes de la psicología o la neurociencia como razonamiento, reflexión, introspección, memorias de corto y largo plazo, etc va más allá de una pura metáfora, de un puro paralelismo.

También es una inspiración, inspiración en el doble sentido científico y aspiracional y, puede, sólo puede, que constituya un objetivo.

Más allá de la metáfora: el cerebro como inspiración científica

En efecto, el ser humano, y en concreto su cerebro y su sistema nervioso, han funcionado y funcionan como fuente de inspiración desde un punto de vista científico y técnico, es decir, como un elemento que podemos estudiar y que las conclusiones nos pueden servir en el diseño técnico de las soluciones de inteligencia artificial.

En la época en que estaba en boga la inteligencia artificial simbólica, se estudió e intento aplicar, con regular éxito, los mecanismos de pensamiento consciente del ser humano. Se trabajó con las leyes de la lógica y con la representación del conocimiento y se atendía a los procesos cognitivos del ser humano.

Y cuando la orientación viró hacia el machine learning, hacia el reconocimiento de patrones y el aprendizaje basado en datos, las muy exitosas actualmente redes neuronales se inspiraron, y de qué manera, en el cerebro humano. Los perceptrones, las primeras neuronas artificiales, abstraían (y abstraen) el funcionamiento de una neurona humana, y la distribución en capas emula, creo que de forma ya algo menos fiel, la profunda interconexión entre neuronas que existe en el cerebro humano.

He leído, aunque tengo alguna duda al respecto, que las redes neuronales de convolución, que permitieron un enorme salto en materia de visión artificial, también emulaban el funcionamiento de las neuronas dedicadas a visión.

En el fondo no se trata de nada nuevo ni de nada ilógico. Dado que muchas de las características que aspira a conseguir la inteligencia artificial las exhiben con notable éxito los seres vivos y en especial los humanos, parece muy razonable estudiar a esos seres vivos e intentar trasladar lo aprendido a diseños técnicos. Es lo que se denomina biomímesis y es algo que se ha hecho durante décadas e incluso siglos y tiene toda la lógica del mundo.

Pero es preciso ser conscientes de que con frecuencia se trata solo de un punto de partida inicial. El diseño fino de esas redes neuronales, o de cualquier artefacto basado en biomímesis, se suele apartar luego en parte de su inspiración original, y se guía luego más por resultados y técnicas de ingeniería que por una verdadera copia del mecanismo biológico que, además, con frecuencia, y este es el caso del cerebro, no se conoce del todo.

El cerebro como objeto

A veces se afirma, y es una afirmación de base científica, que lo que aprendemos del funcionamiento de algoritmos de inteligencia artificial, lo que experimentamos con ella, puede ser un mecanismo para ayudarnos a comprender nuestro propio cerebro.

En este caso, en el fondo, el objeto es el propio cerebro, o su conocimiento, más que la tecnología de inteligencia artificial en sí misma que sería un medio para experimentar.

Es una afirmación razonable e inspiradora, pero no estoy seguro de cuántos resultados se han producido en esta orientación.

El cerebro como aspiración

Lo que de alguna forma es técnicamente más retador, y también éticamente más problemático, es si la aspiración real es el cerebro humano, o por mejor decir, conseguir hacer un cerebro artificial que emule, e incluso supere, al cerebro humano.

Esto tendería a llevarnos al campo de la AGI ('Artificial General Intelligence') o de la superinteligencia y nos pudiera dejar en los umbrales de la famosa singularidad.

A pesar de discursos sensacionalistas y catastrofistas, no creo que este objetivo domine hoy en día el desarrollo de la inteligencia artificial, pero tampoco diría que no está presente y que no tiene su peso. De hecho, un objetivo declarado de OpenAI es conseguir esa AGI. Así que, cuidado.

Si esto se consiguiera, o si la AGI o la super-inteligencia son el verdadero objetivo, estamos hablando no de una metáfora, sino de una imitación e incluso una sustitución y con muchas y serias implicaciones.

Ingeniería versus utopía

Lo cierto es que, al menos eso creo yo, una gran parte del trabajo en materia de inteligencia artificial, tanto en los diseñadores y fabricantes de los algoritmos y los grandes modelos, como en las empresas que adoptan soluciones, creo que está mucho, muchísimo más guiado por objetivos de negocio e ingeniería, por la aplicación de tecnología para conseguir unos objetivos más concretos, más prácticos y, en cierto sentido, más inmediatos, acercándose o usando la inspiración humana sólo cuándo éste sea un recurso prometedor.

Y la metáfora humana con frecuencia creo que se queda más en eso, metáfora, más usada en términos de comunicación y marketing o a veces, sólo a veces, se orienta hacia la venta de una utopía (puede que en realidad una distopía)

La conveniencia de la metáfora humana

Personalmente, no me parece mal del todo el uso de la metáfora humana hasta cierto punto.

En el fondo, es cierto que con frecuencia la inteligencia artificial imita capacidades cognitivas humanas, y no está mal reconocerlo, explicarlo e, incluso, con prudencia, adoptar nombres que se reutilicen de la neurociencia o la psicología para denominar capacidades más o menos equivalentes de la inteligencia artificial.

Además, la metáfora bien usada y explicada, puede ayudar a entender de una forma más sencilla qué mecanismos implementa la inteligencia artificial.

Pero tampoco creo que haya que extremar la metáfora.

En primer lugar, no se debe exagerar, no se deben usar palabras que hagan pensar que la inteligencia artificial hace más de lo que realmente hace. Y también se debe emplear con cierta contención y prudencia, porque un uso poco explicado, o peor, mal explicado de la metáfora humana, puede despistar al público, puede, en lugar de ayudar, confundir e incluso puede generar rechazo. Hace unos pocos meses pude asistir, por ejemplo, al rechazo que generaba el mero uso del término agente, en una comunidad orientada hacia la filosofía e incluso la teología donde el término agente tiene un significado propio y de connotaciones morales.

Y, por supuesto, si el objetivo es realmente crear un cerebro artificial, una super-inteligencia que nos supere, lo cual ya no es metáfora en absoluto, eso tiene muchas otras implicaciones éticas, humanísticas e, incluso de seguridad, pero eso es ya harina de otro costal.

Conclusiones

La metáfora humana se ha usado y se usa con frecuencia en el campo de la inteligencia artificial. Su empleo es justo y razonable en la medida en que realmente la inteligencia artificial implemente mecanismos similares o paralelos a los de la cognición humana, pero un uso incorrecto o exagerado de esa metáfora puede generar rechazo y puede confundir, y creo que confunde, de hecho.

Cuatro patrones para la monitorización de agentes IA en producción

noreply@blogger.com (Ignacio G.R: Gavilán) — Fri, 12 Jun 2026 07:45:00 +0000

Probablemente, una de las áreas en que más se trabaje, o al menos que, digamos, más 'preocupación' genere en el tema de los agentes IA sea la gobernanza de éstos y, más específicamente, como gestionarlos adecuadamente en producción, cómo hacer que sean seguros, cómo vigilar que tengan un comportamiento correcto, cómo asegurar que funcionan como esperamos que funcionen.

Inteligentes pero imprevisibles

Y esta labor no es trivial en absoluto pese a la cantidad de años que llevamos monitorizando todo tipo de sistemas, garantizando su seguridad, sus prestaciones y su escalabilidad, y a pesar de la abundancia de soluciones y herramientas que existen para ello.

Y la dificultad surge, no del hecho de que los agentes sean un tipo de software novedoso, sino de la naturaleza misma de este tipo de solución basada en IA, de lo que les diferencia y les da valor.

Los agentes son un tipo de software autónomo, pero eso no es nada nuevo. Existen desde hace décadas sistemas que se comportan de manera autónoma. Y sabemos monitorizarlos y operarlos.

Los agentes, como su propio nombre indica, son también capaces de actuar, esto es, de realizar acciones sobre sistemas de ficheros, sobre bases de datos o sobre otras aplicaciones. Pero esto no es tampoco nada nuevo y nada que en general no sepamos controlar. Esa misma capacidad de actuación, además de una forma bastante parecida, la tienen también muchos otros sistemas autónomos, como los robots RPA que describía en mi libro 'Robots en la sombra' o los modernos workflows en la nube que construimos con plataformas como Make, N8N, Zapier o Power Automate Cloud.

No, la verdadera dificultad no está ahí, no está en la autonomía y ni en la capacidad de actuación. sino en la forma en que estos sistemas autónomos 'deciden' que hay que hacer. Todos los demás sistemas autónomos que les han precedido y con los que conviven, tienen marcada, de una forma rigurosa y cerrada, la lógica que deben seguir para llevar a cabo la tarea que tienen encomendada y automatizarla. Esta lógica se establece en tiempo de desarrollo por el propio desarrollador y suele adoptar la forma de un flujo, un workflow, aunque pueden existir otras formas de fijar reglas de comportamiento.

El caso de los agentes es muy diferente. No tienen una lógica pre-establecida, sino un objetivo o tarea, unas reglas de comportamiento muy generales expresadas en lenguaje natural y una serie de capacidades de actuación mediante las denominadas herramientas ('tools'). Pero la verdadera lógica de solución la decide el agente usando sus capacidades razonadoras basadas en un gran modelo de lenguaje, y lo hace en tiempo de ejecución, no de desarrollo.

Eso nos lleva a un comportamiento sin duda más inteligente, más flexible y más adaptativo, pero precisamente por eso, hasta cierto punto imprevisible. No quiero decir con ello que sean completamente imprevisibles, pero sí que no existen unas reglas exactas y que el agente tiene, digamos, grados de libertad.

Difíciles de probar, difíciles de monitorizar

Esa imprevisibilidad los hace difíciles de probar, porque no podemos establecer un catálogo exhaustivo y cerrado de casos de prueba que garanticen haber ejercitado con éxito todas los escenarios posibles. Ni siquiera es siempre posible definir con claridad cuál es el resultado que consideraríamos correcto para dar por bueno el caso.

Esas mismas dificultades se trasladan a a la monitorización en producción. Podemos monitorizar, claro, ciertas manifestaciones externas de su comportamiento como, por ejemplo, invocaciones de cada herramienta a su disposición o los datos que generan. Pero como el comportamiento es abierto, y hasta cierto punto imprevisible, es difícil disponer de unos mecanismos claros y cerrados para asegurar que el agente se comporta adecuadamente, que no incurre en riesgos no admisibles y que, por supuesto, no comete errores.

Cuatro patrones para la monitorización de agentes

Es por eso que me ha interesado la propuesta de patrones para esa monitorización que he encontrado en el libro 'Building Applications with AI Agents' de Michael Albada donde nos plantea cuatro patrones de monitorización. Son los siguientes:

Shadow mode (modo sombra): Se trata, en realidad, de un mecanismo transitorio hasta que ganemos confianza en un agente nuevo. La idea es, cuando despleguemos un agente nuevo, mantener a este recibiendo datos reales pero sin enviar salidas a los usuarios y sin realizar acciones reales. De esta forma, durante un tiempo se puede observar su comportamiento en situaciones reales y ver que se comporta bien, antes de otorgarle 'plenos poderes'. En realidad, es casi más un mecanismo de prueba que de monitorización.

Canary deployments (despliegues 'canario'): También se sitúa un poco en la línea de poner a prueba un agente nuevo en situaciones reales sin dejarle hacer daño, pero va un poco más lejos que la opción anterior. En este caso lo que se hace es que el nuevo agente sólo actúe en un porcentaje bajo (digamos entre un 3% y un 5%) de las situaciones reales, mientras que el resto se tratan 'normalmente' (con una versión anterior del agente, con un sistema más tradicional o manualmente, si es el caso). Estrictamente hablando, no impedimos que el agente pueda hacer daño, pero minimizamos el riesgo y el posible impacto

Regression trace collection (recolección de trazas de regresión): Ahora, más bien, lo que tratamos es de aprender del pasado. Y lo hacemos también mediante un mecanismo bien conocido: la recolección y análisis de trazas. Para ello se recopilan trazas (logs) y, cuando se produce un fallo, se estudian para intentar entender qué ha pasado y arreglarlo de cara al futro.

Self-healing agentes (agentes auto-curativos): Se trata de agentes que reciben los propios datos de monitorización, y las propias métricas y son capaces de implementar mecanismos de recuperación ante fallos.

La verdad es que de estos cuatro mecanismos, sólo el último es realmente novedoso. Los otros tres ya se han venido aplicando con mayor o menor intensidad en la monitorización y operación de otro tipo de sistemas.

Se trata de mecanismos que disminuyen el riesgo y el impacto de posibles malos funcionamientos, pero, por supuesto, no los evitan completamente.

En cualquier caso, parecen buenas prácticas que 'van a favor de obra' en busca de ese objetivo de tener a los agentes bajo control.

Conclusiones

Los agentes de IA, por su propia naturaleza, son difíciles de probar, de monitorizar y de operar.

Hemos visto cuatro patrones de operación de agentes que, si bien no eliminan el riesgo, sí pueden ayudar a tenerlo bajo control.