Hay una forma especialmente torpe de adoptar la inteligencia artificial: sentar a alguien ante un organigrama, enseñarle una demo brillante y pedirle que señale nombres. “Lo que hace este lo puede hacer una inteligencia artificial, lo que hace este también, este otro de aquí sobra”. Es la vieja reducción de costes de siempre, envuelta en terminología futurista. No es transformación digital: es idiotez directiva con coartada tecnológica.

El caso de Ford es un recordatorio magnífico. Tras confiar demasiado en sistemas automatizados para resolver problemas de calidad, la compañía ha tenido que volver a contratar a cientos de ingenieros veteranos, los famosos “gray beard engineers”, porque la inteligencia artificial no alcanzaba donde sí llega la experiencia acumulada.

Ford no abandona la inteligencia artificial: entiende que necesita conocimiento experto, buenos datos y personas capaces de detectar problemas antes de que se conviertan en defectos caros. Charles Poon, vicepresidente de ingeniería de hardware, lo resume perfectamente: la inteligencia artificial es una herramienta fantástica, pero solo es tan buena como la información con la que se la entrena. El problema no era la inteligencia artificial. Era creer que podía sustituir sin más a quienes sabían interpretar la realidad.

No es un caso aislado. Además de Ford, si tenemos en cuenta al Commonwealth Bank of Australia, a IBM y una serie de datos de Robert Half, resulta que un 32% de hiring managers estadounidenses que eliminaron puestos principalmente por la disponibilidad de inteligencia artificial acabaron recontratando personas para el mismo puesto o para uno similar. También podemos citar un informe de Orgvue: el 39% de líderes empresariales hizo despidos vinculados al despliegue de inteligencia artificial, y entre ellos, el 55% admite haber tomado decisiones equivocadas. Primero se despide, después se descubre que faltaban capacidades, y finalmente se intenta recomprar a toda prisa el conocimiento que había salido por la puerta.

El caso de Commonwealth Bank es aún más revelador: el banco despidió a decenas de empleados de atención al cliente tras introducir un voice bot, pero tuvo que revertir la decisión cuando aumentaron las llamadas y el sistema no fue capaz de absorber la complejidad real del trabajo. La entidad terminó reconociendo que no había considerado adecuadamente todos los factores relevantes antes de declarar redundantes esos puestos. Muchas tareas parecen simples cuando se miran desde lejos, pero contienen contexto, excepciones, criterio, memoria institucional y responsabilidad. Un puesto de trabajo pocas veces se reduce a una lista plana de tareas automatizables.

La pregunta sensata no es “¿a quién puedo despedir con esta herramienta?”, sino “si diseñáramos hoy este proceso desde cero, con inteligencia artificial disponible, ¿cómo lo haríamos?”. Esa diferencia lo cambia todo. Automatizar el statu quo sólo acelera sus defectos. Transformar exige rediseñar flujos de trabajo, datos, incentivos, responsabilidades y métricas. Bain lo explica con claridad: las compañías que crean valor con inteligencia artificial no son las que simplemente añaden herramientas a procesos existentes, sino las que rediseñan cómo se trabaja y cómo se toman decisiones. McKinsey llega a una conclusión parecida: el impacto real aparece cuando las organizaciones rediseñan workflows, gobiernan bien los sistemas y miden resultados con indicadores claros.

Ahí está el elemento que muchas empresas olvidan: los bucles de retroalimentación. Una inteligencia artificial no debe limitarse a producir respuestas, resúmenes, recomendaciones o decisiones parciales. Debe estar conectada con lo que ocurre después. ¿Funcionó la recomendación? ¿El cliente quedó satisfecho? ¿Se evitó el defecto? ¿La respuesta fue correcta? Sin ese feedback loop, la inteligencia artificial se convierte en una demo vistosa o en una herramienta individual de productividad, pero no en un sistema organizativo que aprende.

Por eso tantos proyectos fracasan. El informe “The GenAI Divide” del MIT NANDA señala que, pese a inversiones enormes, el 95% de las organizaciones analizadas no obtiene retorno medible de la inteligencia artificial generativa. La causa no está simplemente en los modelos, sino en la mala integración con los procesos, la falta de aprendizaje contextual y la incapacidad para rediseñar operaciones. BCG insiste en la misma idea: apenas una pequeña proporción de empresas obtiene ganancias financieras sustanciales, y el valor procede sobre todo de repensar el componente humano, no de comprar más tecnología.

La inteligencia artificial no sustituye personas: sustituye, acelera o transforma tareas. Y precisamente por eso obliga a pensar más, no menos. Obliga a mapear procesos, distinguir entre automatización y responsabilidad, preservar conocimiento experto, formar a quienes deben supervisar los sistemas y crear mecanismos para aprender de cada interacción. El NIST insiste en que la inteligencia artificial debe gestionarse con gobernanza, medición, gestión de riesgos y adaptación al contexto. No es burocracia: es simple sentido común.

La próxima vez que alguien diga “esto ya lo puede hacer una inteligencia artificial”, habría que responder: “¿dentro de qué proceso rediseñado, con qué datos, con qué supervisión, con qué métricas, con qué mecanismo de aprendizaje y con qué responsabilidad?”. Si no hay respuesta, no estamos ante una estrategia de inteligencia artificial. Estamos ante una hoja de cálculo en manos de un idiota que busca víctimas. La inteligencia artificial no elimina la necesidad de personas: elimina, más bien, muchas excusas, desde procesos mal diseñados a datos abandonados, pasando por directivos idiotas que no saben medir y por organizaciones que nunca aprendieron a aprender.

Mi columna de esta semana en Invertia se titula «La próxima nómina será una factura de tokens» (pdf), y trata sobre una de esas transiciones que, como tantas otras en tecnología, tienden a malinterpretarse por completo en sus primeras fases: la evolución del desarrollo de software en la era de la inteligencia artificial generativa, y la manera en que el coste de programar empieza a desplazarse desde la nómina de los desarrolladores hacia la factura de tokens.

La idea parte de una predicción de Gartner que me pareció especialmente significativa: en 2028, el coste mensual de las herramientas de programación con inteligencia artificial podría superar el salario medio global de un desarrollador, algo que InfoWorld comentaba también en un artículo sobre cómo los costes de tokens en programación van camino de rivalizar con las nóminas humanas. La cuestión no es, como tantos titulares simplistas pretenden, que los programadores vayan a desaparecer, sino que el balance económico del desarrollo de software está cambiando de manera mucho más profunda: una parte creciente de lo que antes se contabilizaba como horas de trabajo humano pasa ahora a expresarse como consumo computacional, iteraciones, contexto, agentes y llamadas a modelos.

Llevo tiempo dándole vueltas a este tema, y de ahí que la columna conecte con varias entradas anteriores que he publicado sobre la transformación del papel del desarrollador. En «¿Despedidos o millonarios? La nueva fractura invisible entre desarrolladores» hablaba de esa división creciente entre quienes entienden la inteligencia artificial como una amenaza y quienes la convierten en una extensión de sus capacidades. En «El programador que dejó de programar: anatomía de una transformación» analizaba precisamente esa mutación del trabajo: menos teclear código y más diseñar, revisar, interpretar, decidir y asumir responsabilidad sobre sistemas que generan código. En «La nueva realidad de la programación y de la educación: inteligencia artificial, de trampa a requisito» planteaba la necesidad de dejar de tratar estas herramientas como una forma de hacer trampas y empezar a entenderlas como una competencia básica. Y en «Una factura de quinientos millones de dólares en tokens» abordaba ya el problema del coste oculto de esa supuesta magia, o de la estupidez que supone incentivar incondicionalmente el consumo de tokens.

El desplazamiento es interesante porque obliga a replantear la naturaleza misma de la productividad. Durante años, muchas empresas han medido la productividad del desarrollo de software con métricas tan cómodas como engañosas: líneas de código, historias cerradas, tickets resueltos o velocidad de entrega. Con la inteligencia artificial, esas métricas se vuelven todavía más peligrosas. Generar código es cada vez más barato, rápido y abundante. El problema es que generar más código no equivale necesariamente a generar más valor. De hecho, puede equivaler a generar más deuda técnica, más superficie de ataque, más dependencia de proveedores y más complejidad que alguien tendrá que entender, auditar y mantener.

Ahí está, en mi opinión, el cambio fundamental: el cuello de botella deja de estar en la escritura y pasa a estar en la validación. El desarrollador valioso ya no es simplemente quien sabe producir código correcto, sino quien sabe formular bien el problema, elegir qué debe automatizarse y qué no, limitar el contexto, evaluar el resultado, detectar errores plausibles y decidir cuándo una solución aparentemente brillante es en realidad una bomba de relojería. El código se abarata, el criterio se encarece.

Esa idea aparece también en otros trabajos recientes. La encuesta de Stack Overflow sobre inteligencia artificial muestra cómo los desarrolladores adoptan estas herramientas, pero también cómo mantienen reservas importantes sobre su precisión y fiabilidad. El informe DORA de Google Cloud insiste en que la productividad del software no puede entenderse simplemente como velocidad, sino como un equilibrio entre entrega, calidad, fiabilidad y cultura organizativa. McKinsey ha analizado el potencial de la inteligencia artificial generativa para aumentar la productividad de los desarrolladores, pero sus propios resultados apuntan a algo que conviene no olvidar: el impacto depende mucho del tipo de tarea, del contexto y de la capacidad de la organización para rediseñar procesos, no simplemente de enchufar una herramienta y esperar milagros.

También me pareció relevante un estudio de GitLab sobre organizaciones que generan código con inteligencia artificial más deprisa de lo que son capaces de controlarlo. Esa frase resume muy bien el riesgo: empresas encantadas con la velocidad de generación, pero incapaces de construir los mecanismos de revisión, seguridad, gobernanza y trazabilidad que esa velocidad exige. La inteligencia artificial puede convertir a un buen equipo en uno extraordinariamente productivo, pero también puede convertir a una organización mediocre en una fábrica de pasivos ocultos.

La comparación con los directivos me parece inevitable. Microsoft ha hablado del auge de los agentes y de cómo las organizaciones tendrán que rediseñar la relación entre personas y sistemas autónomos, mientras McKinsey ha señalado el papel de los mandos intermedios en la adopción de la inteligencia artificial generativa. En el fondo, desarrolladores y directivos se enfrentan a una evolución parecida: ambos pasan de hacer determinadas tareas directamente a dirigir sistemas que las hacen. La diferencia entre unos y otros no estará en quién usa más inteligencia artificial, sino en quién sabe gobernarla mejor.

Por eso me interesa tanto esta transición. No estamos ante una simple sustitución de humanos por máquinas, sino ante una redistribución de costes, responsabilidades y competencias. El que piense que basta con despedir desarrolladores y pagar tokens no ha entendido nada, y se va a llevar un suspenso como la copa de un pino… pero no se lo pondré yo, se lo pondrá la vida. Igual que pensar que basta con mantener a todos los desarrolladores haciendo exactamente lo mismo de siempre. La empresa que entienda esta transición aprenderá a gestionar los tokens como un recurso escaso, a medir valor en lugar de actividad, a formar a sus equipos para trabajar con agentes y a distinguir entre automatización sensata y entusiasmo irresponsable.

La programación no se acaba. Se vuelve más abstracta, más estratégica y, paradójicamente, más humana en aquello que realmente importa: criterio, responsabilidad, arquitectura, comprensión del problema y capacidad para decir que no. Lo que se acaba, probablemente, es una determinada idea del programador como simple productor de líneas de código. Y lo que empieza es una etapa bastante más interesante, en la que el verdadero diferencial no será quién genera más software, sino quién sabe qué software merece la pena generar.

This article is also available in English with no paywall on my Medium page, «The scale is tipping: human hours vs. machine tokens»

La idea más importante sobre inteligencia artificial en estos momentos puede que no provenga de un artículo científico, del lanzamiento de un nuevo modelo o de un benchmark. Puede que provenga de un breve ensayo publicado en X por el CEO de Microsoft, Satya Nadella.

En él, Nadella sostiene que el futuro de la empresa dependerá de la interacción entre lo que denomina capital humano y capital de tokens: por un lado, el conocimiento, el criterio, las relaciones y el ingenio de las personas; por otro, la capacidad de inteligencia artificial que las organizaciones sean capaces de construir y poseer.

La terminología es nueva. La observación de fondo no. Durante los últimos meses, en una serie de artículos que comenzó con la idea de que los LLMs nunca fueron diseñados para dirigir empresas, continuó con el argumento de que la inteligencia artificial empresarial debía pasar de las respuestas a los resultados y terminó concluyendo que la inteligencia artificial empresarial sigue esperando a su equivalente de la World Wide Web, he venido defendiendo una idea relacionada: el desafío central de la inteligencia artificial empresarial no es la inteligencia en sí misma: es la arquitectura.

Lo interesante del ensayo de Nadella es que llega a muchas de las mismas conclusiones desde un camino completamente distinto.

Porque, si se sigue cuidadosamente su razonamiento, conduce a una conclusión que buena parte de la industria de la inteligencia artificial empresarial sigue resistiéndose a aceptar: el futuro de la inteligencia artificial empresarial no está en el modelo. Está en el bucle de aprendizaje.

El paso de la inteligencia a la inteligencia que se acumula

Quizá la frase más reveladora del ensayo de Nadella sea esta:

La verdadera oportunidad no consiste en elegir el mejor modelo, sino en construir un bucle de aprendizaje sobre los modelos donde el capital humano y el capital de tokens se potencien mutuamente.

Es una afirmación sutil y profundamente importante. Durante los dos últimos años, las conversaciones sobre inteligencia artificial empresarial han girado casi exclusivamente alrededor de la capacidad de los modelos. ¿Qué modelo razona mejor? ¿Cuál escribe mejor código? ¿Cuál tiene la mayor ventana de contexto? ¿Cuál lidera los benchmarks?

Todas esas preguntas importan, pero parten de una suposición implícita: que la inteligencia es el recurso escaso. Y cada vez lo es menos. Los modelos de frontera desarrollados por OpenAI, Anthropic, Google, Meta, xAI y otros siguen mejorando a un ritmo extraordinario. Cada pocos meses, capacidades que parecían extraordinarias pasan a ser algo cotidiano.

La capa de inteligencia está convirtiéndose en un recurso abundante. Y cuando un recurso se vuelve abundante, la atención se desplaza hacia el sistema que lo organiza. La electricidad se convirtió en infraestructura. La computación se convirtió en infraestructura. Las redes se convirtieron en infraestructura. Todo indica que lo mismo está empezando a ocurrir con la inteligencia.

Como defendía recientemente, la pregunta importante está dejando de ser cuál es el modelo más inteligente para convertirse en cómo se organiza, despliega, gobierna, mide y mejora continuamente la inteligencia dentro de la empresa.

Es una pregunta completamente distinta.

El problema del «veterano de la empresa»

Hay otra idea en el ensayo de Nadella que merece especial atención: afirma que una organización debería poder sustituir un modelo de propósito general sin perder el conocimiento acumulado dentro de sus sistemas. La expresión que utiliza es memorable: la empresa debe conservar la experiencia de su «veterano corporativo«.

De nuevo, parece obvio. Pero resulta sorprendentemente raro, o directamente inexistente, en las arquitecturas actuales de inteligencia artificial.

La mayoría de las iniciativas de inteligencia artificial empresarial siguen dependiendo enormemente de capacidades que residen dentro del propio modelo. Si el modelo mejora, mejora el sistema. Si te da por sustituir el modelo, corres el riesgo de perder comportamiento, adaptación y aprendizaje acumulado.

Nadella está apuntando hacia una arquitectura diferente: una en la que el activo duradero no es el modelo, sino el sistema de aprendizaje que lo rodea. Eso es extraordinariamente parecido a lo que ocurrió en anteriores transiciones tecnológicas: las empresas no reconstruyen su ERP cada vez que mejoran las bases de datos, no rediseñan su estrategia CRM cada vez que aparecen procesadores más rápidos. El activo duradero vive por encima de la infraestructura.

Todo indica que la inteligencia artificial avanza en la misma dirección: el modelo mejora, el bucle de aprendizaje permanece.

El regreso de la retroalimentación

Quizá la parte más llamativa del ensayo de Nadella sea que recupera discretamente un concepto que ha estado sorprendentemente ausente de buena parte de la conversación sobre inteligencia artificial:

• La retroalimentación.
• Las evaluaciones privadas.
• Los entornos privados de aprendizaje por refuerzo.
• La mejora basada en resultados de negocio, y no en puntuaciones de benchmarks.

Todas estas ideas comparten un mismo hilo conductor: son mecanismos que conectan la acción con el resultado. Y precisamente ahí es donde siguen fallando muchos sistemas de inteligencia artificial empresarial.

En «Después de la ilusión: en qué debe convertirse la inteligencia artificial empresarial«, escrito a finales del pasado abril, ya defendía que la industria había optimizado la inteligencia artificial para responder preguntas cuando, en realidad, las empresas necesitan sistemas que cambien resultados.

La diferencia parece semántica hasta que uno comprende que los outputs pueden generarse sin saber jamás si han servido para algo. Los resultados, no. En el momento en que un sistema empieza a medir si sus acciones acercan realmente a la organización a sus objetivos, ocurre algo importante: el sistema deja de ser simplemente generativo, y se vuelve adaptativo. Y la adaptación genera acumulación.

Eso no es una idea nueva dentro de la informática: sistemas como AlphaGo o AlphaZero de DeepMind demostraron hace años que los bucles de retroalimentación pueden producir capacidades extraordinarias cuando la inteligencia se conecta directamente con objetivos y no únicamente con predicciones.

Lo novedoso es la posibilidad de aplicar esos mismos principios a las empresas.

La cuestión del ecosistema

La última parte del ensayo de Nadella quizá sea la más importante: sostiene que un mundo donde todo el valor acaba concentrado en un pequeño grupo de modelos fundacionales no es económicamente ni políticamente estable. Y tiene toda la razón.

Todas las grandes etapas de la informática acabaron generando ecosistemas: el PC creó empresas de software, la web creó negocios digitales, la nube creó industrias enteras. La plataforma adquirió valor porque el valor empezó a acumularse sobre ella, no porque permaneciera encerrado dentro de ella.

Este argumento coincide estrechamente con el que desarrollé en «La inteligencia artificial empresarial está en 1991. ¿Dónde está su web?»: Internet ya funcionaba antes de la web. Existía el TCP/IP, el correo electrónico y el FTP. Lo que faltaba era la capa que hiciera consumibles esas tecnologías para organizaciones normales.

La inteligencia artificial empresarial actual resulta extraordinariamente parecida: la infraestructura existe, las capacidades existen… pero la capa que permite construir valor duradero sobre esa infraestructura sigue siendo incompleta.

Las empresas que acaben definiendo la siguiente etapa de la inteligencia artificial empresarial quizá no sean las que construyan los modelos más potentes. Quizá sean las que construyan los sistemas que permitan a cualquier organización convertir inteligencia en conocimiento institucional que aprende, mejora y se acumula.

La siguiente pregunta

Por eso creo que el ensayo de Nadella es importante: no porque ofrezca respuestas, sino porque formula la pregunta correcta. Si la inteligencia se está convirtiendo en un recurso abundante, ¿de dónde procederá la ventaja competitiva sostenible y duradera?

Su respuesta es: del bucle de aprendizaje. Y creo que tiene toda la razón.

El próximo capítulo de la inteligencia artificial empresarial no estará definido por qué modelo gane, estará definido por qué arquitecturas permitan convertir el conocimiento humano en sistemas que aprendan, mejoren y acumulen capacidades con el tiempo.

Las empresas que descubran cómo hacerlo no se limitarán a utilizar inteligencia artificial: estarán construyendo una nueva forma de capital organizativo. Y puede que ese termine siendo el activo más importante de toda la era de la inteligencia artificial.

(This article was previously published on Fast Company)

El gran apagón ibérico de abril de 2025 nos dejó muchas imágenes: trenes parados, semáforos muertos, comercios incapaces de cobrar, ascensores detenidos, gente haciendo colas en cajeros o supermercados, y ciudades que de repente parecían haber retrocedido varias décadas.

Pero, para muchos, lo más desconcertante no fue quedarse sin luz. Fue mirar el móvil, ese objeto que hemos convertido en brújula, radio, cartera, agenda, llave y cordón umbilical con el mundo, y descubrir que tampoco servía para nada. Sin señal, sin datos, sin llamadas, sin posibilidad de saber qué estaba pasando. El apagón no fue solo eléctrico: fue informativo, psicológico y social.

Por eso tiene todo el sentido que el gobierno quiera obligar a los operadores a mantener la cobertura móvil durante al menos cuatro horas en caso de caída de la red eléctrica. La medida, anunciada por el Ministerio para la Transformación Digital, prevé baterías y mecanismos de redundancia para garantizar cobertura al 50% de la población en el primer año, al 65% en el segundo y al 75% en el tercero, además de exigir doce horas de autonomía a centros de gestión intermedios y veinticuatro a los centros de control críticos. No estamos hablando de un capricho regulatorio ni de una ocurrencia intervencionista, sino de algo tan elemental como asumir que las redes de telecomunicaciones son ya infraestructura crítica, exactamente igual que la electricidad, el agua o el transporte.

Durante años hemos vendido la digitalización como una especie de magia ubicua: todo conectado, todo disponible, todo en la nube, todo inmediato. Pero esa narrativa ocultaba una dependencia obvia: la nube no flota, los datos no viajan por el aire por arte de magia y las antenas no funcionan con buenas intenciones. Funcionan con energía, con baterías, con generadores, con mantenimiento, con redundancia y con una planificación que normalmente solo se aprecia cuando falla.

El informe final de ENTSO-E sobre el apagón identificó una combinación de factores técnicos, oscilaciones, problemas de control de tensión y desconexiones en cascada, y recordó que se trató del incidente más grave en el sistema eléctrico europeo en más de dos décadas. Y conviene decirlo sin ambigüedades: el apagón no lo provocaron las energías renovables, sino una cadena de fallos de gestión, control de tensión y resiliencia de la red que algunos han intentado convertir interesadamente en una estúpida y primaria guerra cultural contra la transición energética. Pero la lección no termina en la red eléctrica: termina en todas las infraestructuras que dependen de ella.

La cobertura móvil en una emergencia no es un servicio premium. Es la posibilidad de llamar al 112, de recibir alertas públicas, de localizar a familiares, de coordinar servicios, de evitar rumores, de reducir el pánico. Cuando la información desaparece, la incertidumbre ocupa su lugar, y la incertidumbre es un amplificador formidable de cualquier crisis. En el apagón de 2025, muchos ciudadanos no sabían si estaban ante un fallo técnico, un ciberataque, un accidente o algo peor. Esa ausencia de contexto convierte cada conversación de bar, cada mensaje recibido antes de perder la señal y cada teoría improvisada en una fuente potencial de desinformación.

Los operadores, obviamente, dirán que esto cuesta dinero. Claro que cuesta dinero. También cuesta dinero enterrar cables, desplegar fibra, mantener centros de datos, securizar redes o cumplir obligaciones de servicio universal. La pregunta no es si cuesta, sino cuánto cuesta no hacerlo. Un país que exige a sus ciudadanos gestionar buena parte de su vida mediante canales digitales no puede permitir que, en cuanto falla la electricidad, esos canales se evaporen. La resiliencia no puede ser una promesa publicitaria de los anuncios de 5G: tiene que ser una obligación verificable, auditada y sancionable.

España no está sola en esta discusión. Ofcom, el regulador británico, lleva tiempo analizando la resiliencia energética de las redes móviles y ha señalado explícitamente la creciente interdependencia entre telecomunicaciones y energía, así como la necesidad de sistemas de respaldo en la red de acceso radio. El gobierno británico, además, recomienda a los ciudadanos prever disrupciones de teléfono y banda ancha, tener radios a pilas y comprobar si sus servicios de voz digital funcionarán durante cortes de suministro. La diferencia es que esa preparación individual no puede sustituir a la responsabilidad estructural de quienes operan la infraestructura.

Cuatro horas no solucionan todos los problemas. En un apagón prolongado, cuatro horas pueden quedarse cortas. En zonas rurales, con menos densidad de antenas y menos solapamiento entre operadores, la resiliencia será más difícil y probablemente más cara. Pero precisamente por eso la medida debe verse como un mínimo, no como una meta. Un punto de partida para rediseñar una red pensada no solo para maximizar tráfico, vender gigas o presumir de velocidad, sino para seguir funcionando cuando más falta hace.

La digitalización madura empieza cuando dejamos de confundir disponibilidad con resiliencia. Que algo funcione todos los días no significa que esté preparado para funcionar el peor día. El apagón nos enseñó que una sociedad hiperconectada puede quedarse sorprendentemente muda en cuestión de minutos. Obligar a que las antenas tengan respaldo no es castigar a los operadores: es recordarles que su negocio se ha convertido en un servicio esencial. Y que en una emergencia, una raya de cobertura puede valer mucho más que cualquier campaña de marketing.

This article is also available in English on my Medium page, «The day our phones went dark»

Sofía Pérez, de Newtral, me envió un correo para interesarse por mi opinión sobre la tecnología SynthID, creada por Google DeepMind como una forma de generar marcas de agua invisibles en sus contenidos de texto, imagen o de otros tipos, con el fin de poder detectarlas posteriormente y establecer si fueron o no creados mediante inteligencia artificial. Tras contestar a su correo, me puse a juguetear con la herramienta y la verdad es que me gustó lo que dijo cuando le pregunté si mi artículo del día anterior estaba escrito con inteligencia artificial…

Mi impresión con este tipo de cosas es que, si bien técnicamente pueden tener su interés, nos están llevando a una paranoia absurda, a una actitud de sospecha permanente que resulta no sólo enormemente incómoda, sino que además, asume que lo creado mediante inteligencia artificial carece de valor o tiene un valor intrínsecamente inferior, lo cual es en muchos casos una estupidez. Obviamente, se puede utilizar la inteligencia artificial muy mal y simplemente copiar y pegar el output que entrega (y posiblemente buena parte de los usuarios la utilicen así), pero asumir que lo que toca la inteligencia artificial de alguna manera «se desvaloriza» es conceptualmente incorrecto, y nunca en la historia de la tecnología ha resultado una tendencia viable.

Lo he comentado ya en numerosas ocasiones: si escribo para aprender, pedirle a la inteligencia artificial que escriba por mí no tendría sentido, porque simplemente no aprendería nada. Pero pedirle que me ayude a hacer investigación y selección de fuentes, que me sugiera mejoras y puntos de vista adicionales, o que me corrija posibles errores tipográficos o gramaticales, en cambio, puede tener mucho sentido, y es algo que, además, hago habitualmente. ¿Podría llegar un momento en que ese tipo de herramientas, en pleno frenesí detectivesco, me acusase de que mis artículos están escritos con inteligencia artificial? No son pocos, de hecho, los idiotas que se han asomado a mis comentarios para acusarme de ello. ¿Nos llevaría eso a situaciones absurdas, como a insertar deliberadamente errores tipográficos para «parecer humano», o a utilizar contra-herramientas que eliminan marcas de agua o generan un estilo «más humano»? Francamente, me parece una deriva muy poco productiva.

Ayer 27 de junio, Sofía publicó su artículo titulado «Qué es y cómo funciona SynthID, la marca invisible que identifica los contenidos creados con IA» (pdf), en el que me cita.

A continuación, mi contestación al correo de Sofía:

SynthID es una tecnología desarrollada originalmente por Google DeepMind para insertar marcas de agua invisibles en contenidos generados mediante inteligencia artificial. La idea es relativamente sencilla: introducir en el contenido generado una señal imperceptible para las personas, pero detectable posteriormente mediante herramientas específicas.

En el caso de las imágenes, estas marcas de agua no consisten en información visible superpuesta, sino en pequeñas modificaciones distribuidas por los píxeles de la imagen. Dichas alteraciones están diseñadas para no afectar perceptiblemente a la calidad visual, pero sí para dejar un patrón matemático reconocible por los sistemas de detección.

En los modelos de lenguaje, el mecanismo es diferente. La marca puede introducirse alterando ligeramente las probabilidades con las que el modelo selecciona determinadas palabras o secuencias de palabras durante la generación del texto. El resultado sigue siendo perfectamente natural para un lector humano, pero contiene patrones estadísticos que permiten inferir posteriormente si fue generado por un modelo que incorpora ese sistema de marcado.

La detección se realiza mediante algoritmos que buscan precisamente esos patrones. Cuando una imagen, un audio o un texto son analizados, el sistema calcula la probabilidad de que contengan la señal introducida durante la generación. No se trata de una identificación absoluta, sino de una estimación basada en la presencia de determinadas características matemáticas.

El principal problema es que estas tecnologías distan mucho de ser infalibles. Las marcas de agua pueden degradarse o desaparecer cuando el contenido es editado, recortado, comprimido, traducido, reformulado o procesado por otros sistemas. Además, solo funcionan de manera fiable cuando el contenido ha sido generado por modelos que incorporan expresamente ese mecanismo. Un contenido generado por un modelo que no implemente SynthID o una tecnología equivalente no dejará ninguna señal detectable.

Por ello, aunque las marcas de agua representan una herramienta interesante para mejorar la trazabilidad de los contenidos generados por IA, resulta exagerado presentarlas como una solución definitiva al problema de la identificación de contenido sintético. Más bien son una capa adicional de información que puede ayudar en determinados contextos, pero que convive con importantes limitaciones técnicas y prácticas.

This article is also available in English on my Medium page, «AI watermarks: detection, attribution, and paranoia»

Hay tecnologías que nacen con un relato tan seductor que cuesta ver lo que realmente son. Las redes sociales llegaron envueltas en la promesa de unir a la humanidad, facilitar las conexiones, democratizar la conversación y dar voz a quien no la tenía. Dos décadas después, sabemos positivamente en qué se convirtieron: una maquinaria obscena de vigilancia, manipulación emocional, polarización, desinformación y deterioro democrático. No fallaron por accidente: simplemente, funcionaron demasiado bien para los incentivos que las gobernaban y los sinvergüenzas sin escrúpulos que las gestionaban.

Con los mercados de predicción está ocurriendo algo inquietantemente parecido. También llegaron con un relato impecable, casi académico: no son apuestas, nos decían, son mecanismos para agregar información dispersa. No son casinos, son herramientas para capturar la sabiduría de las multitudes. No fomentan la especulación, convierten la incertidumbre en señales útiles. La idea suena elegante: si muchas personas arriesgan algo sobre un resultado futuro, el precio reflejará mejor la probabilidad de que ocurra que cualquier encuesta o que un experto.

El problema es que esa elegancia se deshace en cuanto el modelo toca el mundo real. Lo que empezó como un supuesto experimento de inteligencia colectiva se ha convertido en una infraestructura para apostar sobre prácticamente cualquier cosa: elecciones, deportes, películas, palabras que alguien pronunciará, bombardeos, decisiones regulatorias, guerras, dimisiones o acontecimientos sociales. Cuando cualquier hecho puede transformarse en un contrato binario de sí o no, dejamos de hablar de predicción y empezamos a hablar de simple ludopatía.

La evolución del sector no deja margen a la ingenuidad. Kalshi y Polymarket movieron conjuntamente unos 50,000 millones de dólares en operaciones en 2025, y en lo que va de 2026 ya superan los 130,000 millones. Kalshi negocia una financiación que podría valorarla en unos 40,000 millones de dólares, tras haber alcanzado 22,000 millones solo un mes antes. Polymarket afirma tener unos ingresos anualizados de mil millones de dólares, con un elevado crecimiento gracias al Mundial. No estamos ante un laboratorio para mejorar decisiones. Estamos ante una fiebre especulativa con estética de producto financiero y alma de casa de apuestas.

Y como toda casa de apuestas, genera los incentivos esperables. Si alguien dispone de información privilegiada sobre una operación militar, una decisión política o una actuación empresarial, el mercado no «agrega conocimiento», sino que premia el abuso. Un miembro de las Fuerzas Especiales estadounidenses está acusado de utilizar información confidencial sobre un plan secreto para capturar a Nicolás Maduro y ganar más de 400,000 dólares apostando sobre esa operación. Lo que en un mercado financiero tradicional se perseguiría como uso indebido de información privilegiada aquí se intenta presentar, con extraordinario descaro, como eficiencia informativa.

La respuesta de algunos reguladores empieza a ser más razonable que la fascinación tecnófila de Silicon Valley. Brasil ha bloqueado 27 plataformas y ha limitado los derivados a activos económicos y financieros definidos, prohibiendo los vinculados a deportes, política, cultura o resultados sociales, después de que su gobierno describiera estos productos como apuestas con rasgos destructivos. Minnesota ha aprobado una ley que convierte en delito operar o anunciar mercados de predicción en el estado, precisamente porque permiten apostar sobre deportes, elecciones, entretenimiento, palabras de una persona o asuntos internacionales. España también ha bloqueado Polymarket y Kalshi mientras investiga si operan sin licencia de juego. Llámese contrato de evento, derivado o predicción: si se comporta como apuesta, genera adicción como apuesta y explota vulnerabilidades como apuesta, es una apuesta.

La industria, por supuesto, promete controles: inteligencia artificial para detectar manipulación, sistemas de vigilancia, resolución automática de mercados… todo muy tranquilizador, hasta que uno recuerda que las redes sociales también prometieron moderación, transparencia, fact-checking, paneles de expertos y parches similares. El problema nunca fue la falta de herramientas auxiliares, sino el incentivo central: maximizar uso, recurrencia y volumen. Cuando el negocio consiste en que la gente apueste más, más a menudo y sobre más cosas, no hay inteligencia artificial que arregle el diseño: sólo hay barniz y propaganda sobre una estructura tóxica.

Y entonces aparece Meta. Zuckerberg ha ordenado desarrollar Arena, una aplicación independiente de Facebook e Instagram que utilizaría dinero ficticio en una primera fase, pero sin descartar apuestas con dinero real. Meta pretende usar Llama para generar preguntas automáticamente a partir de tendencias, recomendar mercados personalizados y resolverlos casi en tiempo real. Es decir, la misma compañía que convirtió la atención humana en materia prima para una economía de vigilancia quiere ahora convertir la ansiedad por el futuro en apuestas.

El paralelismo con las redes sociales no debería tranquilizarnos, sino aterrarnos. Entonces también hubo quienes dijeron que bastaba con regular un poco, mejorar algoritmos o educar al usuario. Ahora sabemos el resultado: vigilancia ubicua, polarización inducida, fake news industrializadas y una erosión democrática que seguimos pagando. Permitir que los mercados de predicción escalen con una compañía como Meta sería repetir el mismo error, pero con una variable más peligrosa: el dinero, el incentivo directo a manipular acontecimientos reales y la explotación deliberada de comportamientos adictivos.

Hay modelos que no deben mejorarse, sino prohibirse. Los mercados de predicción han dejado claro hacia dónde evolucionan cuando se les permite crecer: hacia la financiarización de cualquier evento, la apuesta permanente y la recompensa del conocimiento privilegiado. Si una compañía irresponsable y absolutamente carente de brújula moral como Meta pretende convertirlos en producto de masas, la conclusión no debería ser «vamos a ver qué ocurre». Lo que ocurre ya lo vimos con las redes sociales, gracias. Y esta vez no tenemos excusa.

This article is also available in English on my Medium page, «Meta and prediction markets: what could possibly go wrong?»

Durante años, la ciberseguridad se apoyó en una ficción cómoda: atacar sistemas complejos exigía talento, tiempo, paciencia y conocimiento profundo. Un atacante avanzado era escaso, caro y limitado por una variable humana: el cansancio. Había que leer código, entender arquitecturas, probar hipótesis y volver a empezar. Esa fricción nunca garantizó la seguridad, pero mantenía un cierto equilibrio.

Ese equilibrio se está rompiendo. No porque haya aparecido una inteligencia artificial malvada, sino porque la búsqueda de vulnerabilidades empieza a dejar de depender de la paciencia humana. Un modelo no se aburre, no se frustra, no se duerme, no abandona un repositorio mal documentado ni se cansa de mirar la misma función desde cien ángulos distintos. Puede fallar miles de veces y seguir intentando combinaciones hasta encontrar una grieta. La paciencia infinita es una de las propiedades más inquietantes de la automatización.

Por eso modelos como Claude Mythos importan mucho más allá de su nombre concreto. Anthropic presentó Project Glasswing como una forma de dar a organizaciones críticas una ventaja defensiva mediante Claude Mythos Preview. Tiene sentido: si un modelo puede encontrar vulnerabilidades antes que los atacantes, conviene usarlo para corregirlas. Pero esa misma capacidad es también ofensiva. La herramienta que descubre una puerta para cerrarla puede descubrirla para explotarla. La frontera no está en el modelo, sino en quién lo usa y con qué incentivos. De hecho, China ya afirma tener preparadas sus herramientas para contrarrestar a Mythos.

La advertencia de Five Eyes en The Guardian, «AI models capable of devastating attacks on governments and business months away, rare Five Eyes statement warns« debe leerse así: no como una profecía apocalíptica, sino como la constatación de que el reloj se ha acelerado. Cuando las agencias de inteligencia dicen que el horizonte no son años, sino meses, admiten que el supuesto monopolio occidental de estas capacidades puede durar muy poco. El AI Security Institute británico observó mejoras significativas de Claude Mythos Preview en captura de bandera y ataques multietapa. No es lo mismo que comprometer una infraestructura crítica bien defendida, pero lo que hoy funciona en un entorno controlado mañana aparece en herramientas accesibles.

Google Threat Intelligence Group ya ha descrito esa transición hacia una industrialización del ataque, con adversarios que usan inteligencia artificial para explotación de vulnerabilidades y acceso inicial. No hace falta creer en máquinas omnipotentes. Basta con observar la caída del coste marginal. El atacante ya no necesita ser un genio: le basta con formular objetivos, encadenar herramientas y dejar que el sistema trabaje.

Pensar que detener Mythos resuelve el problema es como intentar contener el caudal de un río con las manos. Se puede ralentizar o clasificar temporalmente un modelo, pero la capacidad se desplazará a otros modelos, otros países y, tarde o temprano, a versiones abiertas. Bruce Schneier lo planteó en su análisis sobre Fable: el problema no es un producto aislado, sino la tendencia general de aumento de capacidades. La orden ejecutiva de la Casa Blanca sobre innovación y seguridad en inteligencia artificial avanzada confirma esa lectura: los modelos de frontera ya se tratan como tecnología estratégica, no como simple software.

Para Europa, la conclusión es incómoda. Depender de modelos estadounidenses para defender bancos, hospitales, redes energéticas o administraciones públicas no es una estrategia: es subordinación. Si el acceso a capacidades críticas puede condicionarse desde Washington, la soberanía tecnológica europea es más discurso que realidad.

La guerra híbrida que viene no será necesariamente un gran apagón cinematográfico. Será algo más viscoso: intentos constantes sobre proveedores pequeños, ayuntamientos, hospitales, universidades, cadenas de suministro, bibliotecas olvidadas, firmware abandonado y sistemas industriales obsoletos. No hará falta destruirlo todo. Bastará con degradar la confianza, aumentar el coste de operar, manipular datos y obligar a defenderlo todo, todo el tiempo. La investigación académica, con benchmarks como ExploitGym, apunta en la misma dirección: aunque explotar vulnerabilidades sigue siendo difícil, los modelos de frontera ya logran resultados no triviales. En ciberseguridad, con eso basta.

La defensa tendrá que usar inteligencia artificial para sobrevivir a la inteligencia artificial. Como señala BCG al hablar de ciberseguridad a la velocidad de la inteligencia artificial, el reto no es solo tecnológico, sino organizativo. Saber qué sistemas tienes, qué dependencias usas, quién accede a qué, qué puedes aislar y qué puedes recuperar dejará de ser una auditoría ocasional para convertirse en una función continua.

La pregunta no es si Mythos debe darnos miedo. La pregunta es si nuestras instituciones están preparadas para un mundo en el que buscar vulnerabilidades se convierte en una actividad permanente, automatizada y distribuida. La respuesta honesta es que no. Seguimos pensando en murallas cuando deberíamos pensar en sistemas inmunológicos. Seguimos intentando prohibir el río cuando deberíamos rediseñar la ciudad para convivir con la crecida. El río ya está bajando, y la cuestión es quién construirá diques, quién seguirá vendiendo paraguas y quién descubrirá demasiado tarde que vive en zona inundable.

This article is also available in English on my Medium page, «The future of cybersecurity is AI against AI»

He pasado los últimos meses escribiendo sobre lo que considero el problema central de la inteligencia artificial empresarial. No los modelos. No los prompts. No las ventanas de contexto. Ni siquiera los agentes: la arquitectura.

A lo largo de una serie de artículos, he defendido que los grandes modelos de lenguaje nunca fueron diseñados para dirigir empresas. Las empresas operan mediante memoria, contexto, estado, restricciones, permisos, incentivos, workflows y bucles de retroalimentación. Los modelos de lenguaje operan prediciendo el siguiente token.

Ese desajuste explica una cantidad sorprendente de lo que vemos hoy. Explica por qué la adopción de inteligencia artificial empresarial está tan extendida mientras la transformación del negocio sigue siendo esquiva. Explica por qué las organizaciones informan de ganancias de productividad mientras luchan por generar un impacto operativo significativo. Explica por qué tantos despliegues siguen dependiendo de consultores, integradores de sistemas y, cada vez más, de ingenieros desplazados al cliente e integrados dentro de las organizaciones. Explica por qué la inteligencia artificial empresarial parece al mismo tiempo revolucionaria e incompleta.

Tomadas por separado, cada una de estas observaciones resulta interesante. Pero tomadas en conjunto apuntan a algo más grande: sugieren que la inteligencia artificial empresarial se está acercando a una discontinuidad. Y no dentro de mucho tiempo. Pronto.

Mi predicción es sencilla: antes de que termine este año, alguien lanzará un producto que cambiará fundamentalmente la manera en que las empresas entienden la inteligencia artificial. No un chatbot mejor. No un copilot más capaz. No un agente con una ventana de contexto más larga.

Una nueva capa.

Y cuando aparezca, gran parte del panorama actual de la inteligencia artificial empresarial empezará a parecer una fase transitoria.

Internet funcionaba antes de la web

Una de las razones por las que las transiciones tecnológicas son difíciles de reconocer es que la tecnología subyacente suele aparecer años antes que la arquitectura que la vuelve útil.

En 1991, internet ya funcionaba. TCP/IP movía paquetes. El correo electrónico conectaba instituciones. FTP transfería archivos. Universidades y organizaciones técnicamente avanzadas podían utilizar la red de manera eficaz. Pero internet aún no era la web.

El gran avance no fue una red mejor. Fue la aparición de una capa que hizo que la red fuera comprensible, utilizable y construible para organizaciones normales. Las URL, el HTTP, el HTML, los navegadores y los servidores transformaron una infraestructura en una plataforma.

El mismo patrón aparece una y otra vez en la historia del software empresarial. Las bases de datos relacionales se volvieron transformadoras cuando Edgar F. Codd formalizó el modelo relacional. Los ERP surgieron cuando las operaciones empresariales adquirieron una representación común. Los CRM aparecieron cuando las relaciones con los clientes dejaron de ser un conjunto de interacciones dispersas para convertirse en un sistema gestionable.

Las tecnologías subyacentes eran enormemente importantes, pero el avance que definió cada categoría llegó cuando alguien descubrió la abstracción que las organizaba.

Cada vez estoy más convencido de que la inteligencia artificial empresarial se acerca a un momento similar.

Los modelos no son el producto

Esto no significa que los modelos dejen de importar. Todo lo contrario. Los modelos de frontera desarrollados por OpenAI, Anthropic, Google, Meta, xAI y otros mejoran a un ritmo extraordinario. Cada nueva generación amplía la cantidad de inteligencia disponible para las organizaciones.

Pero esa observación conduce a una conclusión distinta de la que suele alcanzar la mayoría.

Cuando una tecnología mejora más rápido de lo que las organizaciones son capaces de absorberla, la atención acaba desplazándose desde la tecnología en sí hacia la arquitectura que la organiza.

Las empresas no compran un ERP porque estén fascinadas por las bases de datos. No compran Salesforce porque admiren SQL. No eligen plataformas cloud porque disfruten pensando en virtualización. La tecnología subyacente sigue siendo esencial, pero gradualmente se convierte en infraestructura. El valor empresarial se desplaza hacia arriba. Sospecho que eso es precisamente lo que está empezando a ocurrir con la inteligencia artificial.

La pregunta más importante está dejando de ser qué modelo es más inteligente y está pasando a ser cómo se organiza, despliega, gobierna, mide y mejora continuamente la inteligencia dentro de la empresa.

El gran avance será más simple de lo que parece

Lo interesante de las grandes abstracciones es que, una vez descubiertas, suelen parecer obvias.

Pensemos en ideas como “todo es un archivo”, “la web es una colección de recursos identificados por URL” o “las operaciones empresariales pueden representarse mediante procesos y transacciones”.

No fueron fáciles de inventar, pero sí fueron fáciles de explicar. Y, una vez explicadas, parecieron inevitables. Mi sospecha es que el próximo gran avance de la inteligencia artificial empresarial tendrá exactamente esa característica: no será sencillo de construir, pero sí de entender.

Las innovaciones más importantes rara vez llegan como una colección de funcionalidades. Llegan como abstracciones que, de repente, convierten un paisaje fragmentado en algo coherente.

La reacción no será: «qué extraordinario». Será más bien: «claro. ¿Cómo iba a funcionar de otra manera?»

Lo que cambia a continuación

Durante los dos últimos años, la conversación sobre inteligencia artificial empresarial ha estado dominada por prompts, copilots, agentes, ventanas de contexto, frameworks de orquestación, arquitecturas de memoria y benchmarks de modelos.

Son conversaciones importantes. Pero cada vez parecen más discusiones sobre componentes que sobre sistemas.

La siguiente capa se centrará en algo distinto:

• Estado persistente en lugar de sesiones
• Representaciones formales en lugar de metáforas
• Gobernanza en lugar de improvisación
• Optimización en lugar de generación
• Resultados en lugar de outputs

Las organizaciones que acaben ganando con la inteligencia artificial no serán necesariamente aquellas con acceso a los modelos más inteligentes: serán las que aprendan a organizar la inteligencia de la manera más eficaz.

Ese cambio ya aparece reflejado en investigaciones recientes de  McKinsey, Deloitte, MIT, Gartner, Microsoft y muchos otros. Con vocabularios distintos y en sectores diferentes, el mismo patrón se repite constantemente: conseguir ganancias aisladas de productividad es relativamente fácil. Transformar el rendimiento de una empresa es mucho más difícil.

Y la diferencia casi siempre se reduce a workflows, sistemas, medición, retroalimentación y arquitectura organizativa. La conversación se está alejando de la inteligencia en sí misma y acercándose a las estructuras que hacen útil esa inteligencia.

Por eso creo que el próximo gran avance no llegará haciendo que la inteligencia artificial sea más parecida a los humanos: llegará haciendo que la inteligencia empresarial sea más estructurada.

La predicción

Las predicciones son peligrosas, especialmente en tecnología. La mayoría merecen envejecer mal.

Pero después de pasar meses estudiando la evolución de la inteligencia artificial empresarial y tratando de explicarla a través de esta serie de ocho artículos, estoy cada vez más convencido de una cosa: antes de que termine este año, emergerá una nueva capa. Una capa que se situará por encima de los modelos en lugar de competir con ellos. Una capa que se beneficiará de cada mejora en la inteligencia subyacente. Una capa que convertirá la inteligencia en parte del tejido operativo de la empresa, en lugar de una herramienta separada a la que los empleados consultan ocasionalmente.

Cuando eso ocurra, muchas de las arquitecturas actuales no parecerán equivocadas. Simplemente parecerán incompletas. Y probablemente nos daremos cuenta de que la pregunta más importante de la inteligencia artificial empresarial nunca fue cómo hacer más inteligentes a los modelos.

Era cómo conseguir que la inteligencia se comportara como software.

(This article was previously published on Fast Company)

Mi columna de esta semana en Invertia se titula «La gran privatización de lo común» (pdf), y trata sobre una cuestión que creo que va a estar cada vez más en el centro de la discusión económica y política sobre la inteligencia artificial: qué parte de lo que hoy llamamos propiedad privada fue, en realidad, construido sobre bienes comunes, investigación pública, infraestructuras financiadas por todos y conocimiento generado por millones de personas.

La columna parte, en parte, de una reflexión que publiqué hace unos días sobre la posibilidad de que la inteligencia artificial tuviera accionistas ciudadanos, a partir de la propuesta de Bernie Sanders de crear un fondo soberano estadounidense de inteligencia artificial mediante una participación pública obligatoria en las grandes compañías del sector. La propuesta tiene todos los ingredientes para provocar reacciones airadas: toca la propiedad, habla de participación pública en empresas privadas, cuestiona la captura del valor por parte de Silicon Valley y se formula, además, en términos deliberadamente contundentes. Pero más allá de sus detalles concretos, que son obviamente discutibles, me parece que plantea una pregunta fundamental: si la inteligencia artificial se ha construido sobre recursos comunes, ¿por qué sus beneficios extraordinarios deberían quedarse exclusivamente en manos privadas?

La idea no es nueva si la miramos desde la perspectiva de los recursos naturales. El fondo soberano noruego, gestionado por Norges Bank Investment Management, parte precisamente de la idea de que los ingresos procedentes del petróleo y el gas, recursos que estaban ahí antes que ninguna empresa los extrajera, deben convertirse en riqueza para generaciones presentes y futuras. Alaska, con su Permanent Fund, aplica una lógica similar, aunque a otra escala. La pregunta incómoda es por qué aceptamos con relativa facilidad esa lógica cuando hablamos de petróleo, pero nos cuesta tanto aplicarla a una tecnología como la inteligencia artificial, cuya materia prima no está bajo tierra, sino en nuestras conversaciones, nuestros textos, nuestras imágenes, nuestro código, nuestros repositorios, nuestras publicaciones científicas y nuestra cultura compartida.

El argumento resulta todavía más relevante cuando se observa desde la economía. El informe del Fondo Monetario Internacional sobre inteligencia artificial generativa y futuro del trabajo advierte de efectos potenciales muy profundos sobre empleo, productividad y desigualdad. Daron Acemoglu, en su paper del NBER «The Simple Macroeconomics of AI«, introduce una dosis necesaria de prudencia frente a las promesas desmesuradas de productividad, pero también señala que la inteligencia artificial puede ensanchar la distancia entre rentas del capital y rentas del trabajo. Y Brookings, en un artículo de Anton Korinek y Lee M. Lockwood sobre política fiscal en la era de la inteligencia artificial, plantea precisamente la necesidad de repensar sistemas tributarios diseñados para economías en las que el trabajo humano era mucho más central en la generación de valor.

La discusión, por tanto, no va de «socialismo» frente a «mercado», ni de nacionalizar empresas tecnológicas, ni de poner burócratas a dirigir laboratorios de inteligencia artificial. Esa caricatura maximalista y directamente estúpida únicamente sirve para no llegar a discutir nada. La cuestión real es mucho más interesante: cómo diseñar instituciones capaces de permitir la innovación privada y, al mismo tiempo, evitar que unas pocas compañías capturen de manera irreversible rentas extraordinarias generadas a partir de recursos colectivos.

En ese sentido, me ha parecido especialmente interesante el trabajo de Liam Epstein, «Lead, Own, Share: Sovereign Wealth Funds for Transformative AI«, publicado en SSRN, que analiza los fondos soberanos como instrumento para que los estados mantengan capacidad estratégica, reduzcan volatilidad económica y distribuyan mejor la riqueza derivada de la inteligencia artificial. También merece la pena leer el documento de OpenAI «Industrial Policy for the Intelligence Age«, porque incluso desde la propia industria se empieza a reconocer que la inteligencia artificial exige una política industrial y unos mecanismos de reparto más sofisticados que el simple «dejemos que el mercado decida».

El otro gran ángulo es el de los datos como bien común. El white paper de Open Future sobre gobernanza de datasets como recurso común plantea muy bien el problema: durante años, buena parte del desarrollo de la inteligencia artificial ha dependido de recursos abiertos o compartidos, pero el valor generado a partir de ellos ha terminado con frecuencia capturado por actores privados con mucha más capacidad económica y computacional. En la misma línea, «Reclaiming the digital commons: a public data trust for training data« propone la creación de trusts públicos de datos para recuperar cierto control colectivo sobre los datos de entrenamiento. Y el trabajo de Mariana Mazzucato, mi ex-alumno Josh Entsminger y otros autores sobre gobernar la inteligencia artificial en interés público conecta directamente con una idea que me parece esencial: no basta con hablar de innovación; hay que hablar también de quién crea valor, quién lo captura y bajo qué condiciones.

La tesis de la columna es sencilla: una cosa es permitir que haya empresas que construyan servicios, productos y modelos de negocio sobre una tecnología de propósito general, y otra muy distinta aceptar que la infraestructura cognitiva resultante quede apropiada por completo por quienes lograron capitalizarla primero. Nadie «posee» el fuego, ni la rueda, ni internet en su conjunto. Y sin embargo, estamos dejando que la inteligencia artificial, una tecnología con capacidad para reorganizar trabajo, educación, ciencia, cultura, seguridad y democracia, sea tratada como si fuera simplemente una cartera de activos privados, para el enriquecimiento exclusivo de unos pocos.

La frontera entre lo público y lo privado se está moviendo, y la inteligencia artificial nos obliga a redibujarla. No para impedir la innovación, sino para impedir una gigantesca transferencia patrimonial desde lo común hacia unos pocos balances corporativos. Porque quizá la pregunta importante ya no sea si la inteligencia artificial debe ser pública o privada. La pregunta verdaderamente incómoda es qué parte de lo que hoy llamamos privado fue, en realidad, público desde el principio.

This article is also available in English on my Medium page, «How much of AI was public all along?»

El interesante artículo de The New York Times sobre la nueva industria de los «humanizers» y los «autotypers», «Student cheating is becoming impossible to detect in an A.I. era«, debería producir menos escándalo y más vergüenza. No porque los estudiantes intenten hacer trampas, que algunos lo harán siempre, sino porque hemos creado exactamente el ecosistema que incentiva ese comportamiento: profesores intentando detectar si un texto fue escrito con inteligencia artificial, estudiantes intentando ocultarlo, y empresas encantadas de vender herramientas a los dos bandos. Un mercado perfecto de la paranoia educativa.

La escena es grotesca: herramientas que reescriben un texto generado por inteligencia artificial para que parezca «más humano». Programas que van insertando palabras en Google Docs poco a poco, con pausas, erratas y correcciones falsas, para simular que el estudiante estuvo escribiendo de verdad. Aplicaciones que prometen «errores creíbles». Detectores que dicen preservar la integridad académica mientras ofrecen, en el mismo producto o en el ecosistema adyacente, la posibilidad de generar trabajos completos. Como dice una ejecutiva citada por el NYT, «bigger cat, bigger mouse». Exactamente: un gato cada vez más grande persiguiendo un ratón cada vez más grande, mientras el aprendizaje se queda pasmado mirando por la ventana.

El problema no es que la inteligencia artificial haya destruido la educación: el problema es que ha dejado al descubierto muchas de sus ficciones. Durante décadas evaluamos productos finales como si fueran pruebas claras de aprendizaje: un ensayo, un comentario, un informe, un trabajo. Que esas «pruebas» pudiesen estar hechas por otro compañero, por un hermano mayor o por un alumno brillante en Kenya, en India o en Nigeria nos daba igual. Pero si una máquina puede generar ese producto en segundos, la pregunta obvia no es cómo detectamos a la máquina, sino por qué seguíamos evaluando de esa manera. La inteligencia artificial no ha roto la evaluación tradicional: ha revelado lo frágil, rutinaria y fácilmente automatizable que era en demasiados casos.

Como ya defendí en «Evaluar con inteligencia (y no con detectores)«, sancionar a un alumno basándose en supuestos «detectores de inteligencia artificial» es una irresponsabilidad. OpenAI retiró su propio clasificador por su baja fiabilidad, y Stanford HAI documentó sesgos contra escritores no nativos de inglés. Pretender convertir una probabilidad algorítmica en una acusación disciplinaria no es rigor: es pseudociencia con interfaz bonita. Y ahora, además, sabemos que alrededor de esos detectores está creciendo toda una industria para burlarlos. ¿De verdad queremos dedicar el futuro de la educación a esta estupidez? ¿O, como gusta a muchas instituciones educativas, hacer como que no existe?

La pregunta relevante no es «¿ha usado inteligencia artificial?», sino «¿qué ha aprendido?». Un estudiante puede usar inteligencia artificial para copiar sin entender, igual que antes podía copiar de Wikipedia o de un compañero. Pero también puede usarla para pedir explicaciones alternativas, practicar, traducir, revisar argumentos, generar ejemplos, simular un tutor socrático o recibir feedback inmediato. El uso no define el aprendizaje. Lo define la comprensión, el criterio, la capacidad de defender una idea, de contrastar fuentes, de reconocer errores y de mejorar.

Ahí está la oportunidad enorme que estamos desperdiciando. La inteligencia artificial puede ser una herramienta extraordinaria para personalizar la educación hasta límites que nunca habíamos podido alcanzar. Cada estudiante aprende a ritmos distintos, con miedos distintos, con capacidades distintas, con contextos familiares, lingüísticos y cognitivos distintos. El aula tradicional ha tratado esa diversidad con una mezcla de buena voluntad y recursos insuficientes. La inteligencia artificial, bien gobernada, puede ofrecer explicaciones adaptadas, práctica ilimitada, disponibilidad 24×7 e interacciones que no te juzgan. Para muchos alumnos, poder preguntar diez veces lo mismo sin sentir vergüenza por hacerlo o sin que se burlen de ti no es una comodidad: es una revolución.

Esto conecta directamente con el Universal Design for Learning de CAST: ofrecer múltiples formas de acceder al conocimiento, expresarlo y comprometerse con él. La inteligencia artificial puede convertir un texto complejo en una explicación paso a paso, en audio, en ejemplos visuales, en conversación, en ejercicios graduados o en una tutoría individual. Puede ayudar a estudiantes con dislexia, ansiedad, altas capacidades, dificultades lingüísticas o lagunas previas. No sustituye al profesor; le permite dejar de actuar como repetidor de contenidos y centrarse en lo verdaderamente humano: criterio, acompañamiento, contexto, ética, exigencia y conversación.

Por supuesto, esto exige reglas. La UNESCO pide políticas centradas en las personas, no fascinación tecnológica acrítica. El Departamento de Educación de Estados Unidos ha insistido en integrar la inteligencia artificial con transparencia, seguridad y responsabilidad. Nadie sensato propone dejar que una máquina decida por nosotros ni entregar datos de estudiantes a cualquier plataforma. Pero gobernar no es prohibir: gobernar es diseñar usos, límites, evidencias y responsabilidades.

La salida lógica es rediseñar la evaluación. Pedir procesos, no solo productos. Prompts, borradores, iteraciones, decisiones descartadas, fuentes verificadas, defensa oral, aplicación a casos reales, reflexión metacognitiva. Evaluar cómo se trabaja con la inteligencia artificial, no fingir que no existe. Enseñar a citarla, cuestionarla, corregirla y usarla sin delegar el pensamiento. Lo contrario es entrenar a los estudiantes no para aprender, sino para esconderse mejor.

Si convertimos la inteligencia artificial en un juego del gato y el ratón, perderemos todos. Perderán los profesores, agotados en tareas detectivescas absurdas. Perderán los estudiantes, educados en la desconfianza y el disimulo. Y perderá la sociedad, que habrá desperdiciado una tecnología capaz de hacer la educación más personalizada, más accesible y más justa. La inteligencia artificial debería ser una de las mejores noticias que ha recibido la educación en décadas. Estamos a tiempo de dejar de tratarla como una coartada para sospechar, y empezar a usarla como una razón para educar y enseñar mejor.

This article is also available in English on my Medium page, «The only question teachers should ask students in the age of AI remains the same as ever: ‘what have you learned?’«