Esta entrada la publiqué originalmente en LinkedIn aquí.

El “International AI Safety Report 2026” (dirigido por Yoshua Bengio) es un estudio exhaustivo sobre las capacidades que podría llegar a desarrollar una IA y los riesgos que éstas conllevarían. Me he detenido en la sección sobre “Loss of control”, definida como ese escenario en el que una IA consigue operar fuera del control humano y donde retomar el control es muy costoso o incluso imposible, porque esta semana ha estado bastante presente en los medios la idea de IAs acabando con la humanidad.

Alarmismos aparte, una pérdida de control empieza mucho antes de la catástrofe: empieza cuando las organizaciones delegan capacidad de acción en estas IAs más rápido de lo que rediseñan sus mecanismos de comprensión, responsabilidad y parada.

Hay una analogía bastante directa con la “deuda técnica”. Podemos ganar velocidad para hoy aceptando compromisos que habrá que pagar después, con intereses, claro. Con la IA podemos hacer algo parecido: aumentar autonomía y alcance antes de haber construido la capacidad organizativa necesaria para comprender, supervisar, intervenir y detener lo que hemos delegado. A eso lo podríamos llamar “deuda de control”.

Y, como cualquier deuda, empieza a cobrarnos cuotas desde el primer día. Decisiones que cada vez menos personas saben reconstruir, excepciones que requieren supervisión adicional, capacidades humanas que dejamos de ejercitar, nuevas dependencias del sistema. Si seguimos aumentando la autonomía sin amortizar esa deuda, recuperar capacidad de gobierno será progresivamente más costoso.

Aquí hay además una pequeña trampa para las organizaciones obsesionadas con eliminar fricción: algunos checkpoints, restricciones y redundancias que parecen ineficiencia son precisamente elementos de control. Si medimos el éxito de la adopción por autonomía conseguida, tareas eliminadas o tiempo ahorrado, podemos terminar premiando la acumulación de esa deuda.

El informe es larguísimo, incluso sólo este apartado, pero merece la pena. El link te lleva a él directamente:
https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026#2.2.2.

Esta entrada la publiqué originalmente en LinkedIn aquí.

Antes de preguntarnos “¿dónde ponemos un agente de IA?”, quizás deberíamos hacernos estas otras tres preguntas: ¿hemos entendido qué cosa importante (aunque no esté escrita en ningún manual) se va a romper o a degradar, qué relaciones la sostienen y qué perderemos si deja de ser realizada por personas?

En el artículo que destaco hoy, Dave Snowden emplea su método Estuarine Mapping para responder a estas preguntas.

Muy en resumen, en Estuarine Mapping se representan los elementos de un sistema distinguiendo cuáles podemos modificar, cuáles requieren demasiada energía para hacerlo y cuáles están cambiando independientemente de nuestra voluntad. Sobre ese mapa, Snowden incorpora tres claves de análisis (o “trialéctica cognitiva”): “saliencia”, qué consigue captar nuestra atención; “sapiencia”, qué depende del juicio y la experiencia acumulada; y “sintiencia”, qué implica percepción y respuesta al entorno.

La distinción importa al introducir IA porque una actividad aparentemente automatizable puede estar sosteniendo capacidades menos visibles. Al transferirla a una máquina podemos dejar de percibir determinadas señales, atrofiar el juicio que se construía al interpretarlas o interrumpir los mecanismos mediante los que adquiríamos experiencia. La eficiencia obtenida hoy puede estar destruyendo capacidades que necesitaremos mañana.

No es un artículo corto ni especialmente fácil de leer. Snowden da por supuesto bastante de su propio aparataje conceptual y eso exige cierto esfuerzo al lector. Aun así, creo que apunta en una dirección que merece la pena explorar: antes de preguntarnos qué puede hacer la IA por una organización, deberíamos entender mucho mejor qué mantiene hoy esa organización en pie y qué podemos alterar sin destruir capacidades que después echaremos de menos.

El artículo de Pichler: https://thecynefin.co/the-estuary-overlaid/

Esta entrada la publiqué originalmente en LinkedIn aquí.

Leyendo un reciente artículo de Roman Pichler me he detenido en un ejemplo aparentemente menor: usar IA para generar historias de usuario. Puede ahorrar bastante trabajo, pero también puede hacer extraordinariamente eficiente un traspaso de información entre PO y equipo que quizá nunca debería haber existido. Ron Jeffries (y muchos después de él) define las historias de usuario como soporte para una conversación. Si aspirábamos a un modelo donde producto, tecnología y diseño construyen conjuntamente la comprensión del problema, entonces estamos haciendo más eficiente una práctica que el modelo operativo deseado pretendía reducir.

Hace más de treinta años Michael Hammer provocaba con aquel “Don’t automate, obliterate“, criticando que utilizásemos la tecnología para acelerar procesos existentes cuando en realidad deberíamos estar cuestionando por qué existían y rediseñándolos desde cero. Con la IA, esa advertencia adquiere otra dimensión. La capacidad de automatizar cierto trabajo cognitivo y de coordinación hace económicamente razonables procesos y estructuras que antes resultaban demasiado caros de mantener.

Por eso empiezo a pensar que una buena estrategia de IA necesita algún tipo de principio de conservación organizativa: asumir que cada automatización modifica también los incentivos para rediseñar el sistema que la necesita.

Pichler se apoya en un paper muy interesante (que aún no he podido leer), “AI Exposure and Organizational Structure“, para plantear la IA como catalizador del rediseño estructural. Estoy de acuerdo con la intención, pero lo que más me preocupa es el camino contrario: que cuanto mejores seamos incorporando IA a las organizaciones, más fácil resulte convivir con el modelo operativo que queríamos transformar.

El artículo de Pichler: https://www.romanpichler.com/blog/product-operating-model-the-crucial-enabler-for-ai-success

Llevo un tiempo escribiendo publicaciones cortas en mi perfil de LinkedIn sobre una preocupación que me ronda la cabeza: cómo está afectando el adopción de la Inteligencia Artificial (los modelos de lenguaje principalmente, pero no sólo esos) a nuestra manera de diseñar estrategias y organizaciones desde el punto de vista de la Agilidad Empresarial.

Para ello le he pedido a mi ChatGPT que me haga una recomendación de lectura semanal mediante este prompt:

Encuentra un artículo o ensayo excepcional publicado en las últimas dos semanas que encaje con estos intereses: pensamiento sistémico, complejidad y mapas; agilidad, producto y organizaciones; IA, tecnología y estrategia. 
Prioriza medios abiertos y evita muros de pago cuando haya alternativas de calidad. 
La lectura ideal debe ser breve, de unos 5–10 minutos. 
No repitas artículos ya recomendados anteriormente al usuario; si hay duda, elige otro. 
Amplía el abanico de sitios consultados, evitando depender siempre de las mismas fuentes. 
Prioriza autores populares, influyentes o reconocidos en estos campos, siempre que la pieza mantenga calidad argumental. 
Cuando uses páginas agregadoras, feeds RSS, newsletters o listados de cambios recientes, abre y verifica la página del artículo final antes de recomendarlo; no mezcles extractos ni ideas de varias entradas del listado. 
Explica por qué vale la pena leerlo, qué tensión o idea aporta, y cita la fuente.

El resultado de esas recomendaciones suele ser un enlace a un artículo y una serie de reflexiones de las que yo extraigo aquello que me resulta más relevante. Nunca publico directamente lo que me devuelve ChatGPT. De hecho, suelo crear un chat aparte para profundizar un poco más en la reflexión principal que se me dispara. A veces más centrada en el artículo y a veces para nada.

El resultado final están siendo esas publicaciones cortas en las que, eventualmente, hay comentarios, en su mayoría bastante interesantes. Pero como LinkedIn no es precisamente la mejor manera de tenerlos ordenados, he decidido ir recopilándolos también en el blog. Para ello he creado esta categoría: En tiempos de IA.

Esta entrada la publiqué originalmente en LinkedIn aquí.

Esta semana, mi ChatGPT me ha recomendado un artículo (más bien un anuncio disfrazado de ensayo) publicado en la web de Andreessen Horowitz y explicando un “caso de éxito” de adopción de Cursor en SpaceXAI. Como diría mi abuela, “Dios los cría y ellos se juntan”. En ese artículo, escrito desde el más rancio ultraliberalismo, los autores defienden que debemos apostar por equipos capaces de iterar muy rápido. Obviamente, me ha venido a la cabeza aquella promesa con la que durante años se vendió Scrum: “hacer el doble de trabajo en la mitad de tiempo”. Ya entonces confundíamos con demasiada facilidad agilidad con productividad. Y en muchos sitios lo seguimos haciendo.

Me preocupa que con la IA sigamos cayendo exactamente en la misma trampa: más código por desarrollador, más funcionalidades por equipo, más releases por semana, más experimentos, más rápido… La IA, como todas las tecnologías, es un acelerador. De lo bueno… y de lo malo.

Una organización que genera veinte versiones por semana puede estar moviéndose muy deprisa pero aprendiendo muy despacio.

Producir más cosas sólo acelera el aprendizaje cuando somos capaces de observar qué ocurre, interpretar las señales, cuestionar nuestras hipótesis y cambiar de dirección. Y sospecho que esas capacidades organizativas no están escalando al mismo ritmo que nuestra capacidad de producir.

Ese desfase entre la velocidad a la que producimos y la velocidad a la que aprendemos va a obligarnos a prestar mucha más atención al diseño organizacional. Si la IA cambia los ritmos a los que podemos trabajar, tendremos que aprender también a cambiar el ritmo al que decidimos, coordinarnos y organizamos el trabajo. Necesitamos organizaciones con capacidad para rediseñarse mientras funcionan.

Esta entrada la publiqué originalmente en LinkedIn aquí.

Tengo una programación en ChatGPT que me hace recomendaciones de lectura. La de hoy tiene un título que huele que tira para atrás a que lo ha escrito una IA: “Five Things CEOs Still Get Wrong About AI Transformation”. Aun así me lo he leído y me he detenido en esta frase: “leaders modernise the surface while preserving the dysfunction underneath.”

Me ha recordado a muchas de esas transformaciones Agile de hace siete u ocho años: proyectos convertidos en épicas, jefes de proyecto en Product Owners, reuniones en ceremonias. Debajo seguían intactos los derechos de decisión, las dependencias o las estructuras funcionales. ¿Te suena conocido, verdad?

Hoy, la IA permite ir bastante más lejos. Puede sintetizar informes, coordinar dependencias, traducir entre silos o preparar decisiones. Pero como ya comenté la semana pasada, una organización con demasiados handoffs, capas y fragmentación puede desenvolverse sorprendentemente bien sin resolver nada de eso y la IA puede acabar funcionando como una capa de compatibilidad con la organización heredada. Porque cuanto más barato resulte convivir con una estructura innecesariamente compleja, menor será la presión para simplificarla.

Quizá algunas organizaciones lleguen a ser extraordinariamente eficientes operando aquello que necesitaban transformar y llamemos «transformación con IA» a conseguir que el viejo sistema deje de doler.

Aquí te dejo el enlace al artículo de Andrew Lopianowski y Mike Pino (autores de un libro que voy a tratar de leer: “HumanCorps”)

Esta entrada la publiqué originalmente en LinkedIn aquí.

Leyendo este artículo de John Cutler me he detenido aquí:
«But the fact that insiders can navigate a place does not make the place coherent. It may simply mean that navigation has become a specialized skill».

Me recuerda al arquetipo sistémico “Shifting the Burden”: mejorar una capacidad puede funcionar como solución sintomática y debilitar el impulso de rediseñar el sistema.

Eso me ha llevado a pensar que, en los próximos años, muchas organizaciones declararán que la IA ha acelerado su transformación ágil. En bastantes casos habrán acelerado su capacidad de operar estructuras pre-ágiles: más reporting, más coordinación, más portfolios, más sincronización, más trazabilidad, más control, más “alineamiento” producido por capas de interpretación automática. La paradoja sería entonces que parecerán más ágiles porque serán más rápidas respondiendo dentro del sistema existente. Pero en el fondo serán menos ágiles: menos capaces de cambiar el propio sistema.

La IA puede convertirse en el gran mecanismo anti-desescalado de la próxima década haciendo innecesario, cómodo y políticamente evitable el conflicto de simplificar la organización.

Extreme Programming incluía el coraje como valor central. El coraje de simplificar aunque incomode y de enfrentar la resistencia de quienes prefieren un sistema roto pero rápido antes que uno coherente pero incómodo. Porque… ¿tú qué prefieres?

TBM 434: How Maps Can Hide Problems

Esta entrada la publiqué originalmente en LinkedIn aquí.

“¿Cómo rediseñamos las carreras profesionales ahora que la atención del ser humano se está convirtiendo en el recurso escaso?”
Muy interesante esta pregunta a la que llega Rachel Laycock tras describir el trabajo del programador usando IA como el de un director de orquesta.

The Conductor Developer