La obsesión enfermiza de Donald Trump con los aerogeneradores se ha convertido en la enésima prueba de su estupidez: el peor presidente de la historia de los Estados Unidos es un inútil tan total que incluso haciendo de la lucha contra las energías renovables una especie de bandera, no ha conseguido detener su progreso. El parque eólico marino Revolution Wind está ya completamente operativo, a pesar de los reiterados y continuos intentos de la administración Trump por detener un desarrollo valorado en 6,200 millones de dólares. El parque ya opera comercialmente: 704 MW, 65 aerogeneradores y producción equivalente al consumo de más de 350,000 hogares, y su responsable, Ørsted, confirma la entrada en operación el pasado octubre. Pocas cosas me parecen más patéticas que un presidente de los Estados Unidos convertido en enemigo de unas máquinas que siguen haciendo su trabajo mientras él se dedica a despotricar y a repetir estupideces hasta que se le acaban los argumentos, para terminar quedándose en el «es que son feos«.

Aparentemente, todo empezó cuando, en una visita a su campo de golf en Aberdeenshire, en Escocia, cuando descubrió que estaba previsto construir un parque eólico marino visible desde él. El muy idiota llegó incluso a escribir al Primer Ministro de Escocia, Alex Salmond, quejándose por ello, como quien se queja a un vecino por una gotera, lo que da una muestra muy clara de su escasa capacidad intelectual. Sin embargo, a partir de ahí comenzó una obsesión que le llevó a afirmar que era «un experto en molinos», y que de manera completamente absurda, llegó a convertirse en política pública.

El 20 de enero de 2025, anunció que no apostarían por la eólica y paralizó permisos. Su declaración de emergencia energética excluyó las fuentes de energía más baratas, el viento y la solar, de la definición de recursos energéticos. Es auténtica ignorancia militante y populismo absurdo elevados a criterio de gobierno, sazonada con soberanas tonterías sobre ballenas y costes. Sin embargo, el dato más importante es que las renovables han seguido creciendo bajo el mandato de Donald Trump: la tabla oficial de la EIA, con datos hasta agosto de 2026, permite comparar los primeros ocho meses, con una generación eólica que se ha incrementado en un 7.8% y una solar fotovoltaica creciendo a gran escala, un 20.3%, calculados sobre sus cifras. En conjunto, la generación renovable creció un 10.2%, y alcanzó hasta un 28.1% del total de la electricidad estadounidense. Son resultados reales observados, no previsiones de instalaciones.

A todo esto hay que añadir la humillación judicial: cinco derrotas consecutivas contra sus paralizaciones de parques marinos. En el caso concreto de Revolution Wind, la compañía obtuvo dos órdenes judiciales cautelares temporales favorables en cuatro meses. El supuesto «gran gestor», acumulando reveses mientras encarece proyectos.

¿Por qué continúa el despliegue, a pesar de la oposición del que algunos consideraban «el hombre más poderoso del mundo» (hay que ver a lo que hemos llegado)? El World Resources Institute contabiliza 55.9 GW de solar, eólica y almacenamiento añadidos en 2025, incluyendo pequeña solar. Además, se generó una auténtica carrera para conservar incentivos fiscales antes de sus restricciones. En la práctica, el ignorante Trump se enfrenta a inversiones, demanda e inercias industriales que no desaparecen por decreto. Y sobre todo, a ventajas en costes imposibles de igualar, por mucho que quemes lo que quieras quemar.

En cualquier caso, nunca hay que subestimar la capacidad de un idiota para hacer daño: las políticas de Trump están lejos de ser una anécdota inocua: como consecuencia de las mismas, BloombergNEF rebajó su previsión estadounidense de eólica marina para 2035 de 39 a 5,9 GW. Un tipo demasiado ignorante y estúpido como para comprender la transición, incapaz de detenerla y suficientemente poderoso para perjudicar gravemente a su propio país.

Vota por populistas, y ya sabes lo que te encontrarás.

Cuantas más noticias leemos sobre la evolución de las ofertas e implementaciones de inteligencia artificial en el ámbito corporativo, más me preocupa un aspecto: el sector está convirtiendo rápidamente a los agentes de inteligencia artificial en una especie de empleados simulados.

Parece haber una carrera por trasladar el organigrama al mundo digital: Microsoft asigna a los agentes identidades, patrocinadores, derechos de acceso y una gestión de su ciclo de vida similar a la de un empleado, además de gobernarlos de forma explícita, tal como se hace con las identidades humanas. Salesforce, por su parte, llega a definir a los agentes como «trabajadores digitales» y promueve el concepto de una fuerza laboral digital que busca imitar las capacidades humanas. ServiceNow, a su vez, ha introducido «pasaportes de inteligencia artificial» individuales que especifican qué puede hacer cada agente durante su ejecución.

Todo parece indicar que lo que estamos intentando hacer es replicar la organización humana mediante software, en lugar de plantearnos cómo debería ser una organización verdaderamente nativa de las máquinas. Hoy en día, las empresas y los directivos presumen de la cantidad de agentes que supervisan, como si se tratara de una especie de «medalla de honor». Como suele ocurrir —y como recalco en todos mis cursos sobre innovación—, aprender resulta mucho más fácil que desaprender.

¿Tiene sentido definir nuestra arquitectura utilizando la metáfora del empleado?

¿Por qué nos aferramos a esa metáfora? Las organizaciones humanas cuentan con roles y jerarquías, en parte, porque los seres humanos tenemos limitaciones en nuestra capacidad de atención, memoria y comunicación. Sin embargo, no hace falta que te explique que el software no tiene estas restricciones y, por tanto, no tiene por qué heredar dichas limitaciones.

Puedes optar por este enfoque si lo deseas, o bien porque no se te ocurre una alternativa mejor: al fin y al cabo, la gestión de identidades y permisos es necesaria. Pero ten en cuenta que este antropomorfismo terminará, tarde o temprano, convirtiéndose en deuda técnica. Un conjunto de agentes cada vez más autónomos puede recrear silos, generar incentivos contrapuestos e incluso añadir una carga adicional de coordinación; solo que, en este caso, a la velocidad de las máquinas.

Los agentes deben ser reemplazables, no institucionales.

Quizás lo que deberíamos hacer es tratar a los agentes como un proceso de ejecución temporal: instanciados para un fin concreto, limitados, supervisados… y descartados. Entre otras razones, porque debemos evitar a toda costa que el conocimiento, la identidad o el historial operativo queden atrapados dentro de agentes específicos. Del mismo modo que los modelos deben ser componentes reemplazables, también deberían serlo los agentes.

Entiendo que los agentes de inteligencia artificial son algo relativamente nuevo y que los directivos aún los perciben como una especie de «elemento mágico». Sin embargo, esta «mística de los agentes» debería llegar a su fin lo antes posible. Un agente es un proceso de software dotado de un objetivo, un conjunto de herramientas, acceso a un contexto y a una memoria, además de cierta capacidad para decidir qué hacer a continuación; todo ello debería permitir, idealmente, generar bucles de retroalimentación o de aprendizaje. Pero debemos dejar de tratarlos como si fueran mágicos, y mucho menos como algo «similar a un ser humano». No lo son.

La metáfora del «empleado» puede resultar útil para la adopción y la gestión de accesos, pero es totalmente inadecuada como arquitectura fundamental de una empresa inteligente.

Más allá del agente

Cuando consideramos a los agentes como componentes reemplazables en lugar de permitir que se conviertan en nuevos compartimentos estancos dentro de la organización, todo lo que la empresa aprende debe existir de forma independiente a ellos. La representación formal que la empresa tiene de sí misma, desde sus clientes hasta sus productos, empleados, proveedores, contratos y procesos, junto con todas las relaciones entre ellos, debe permanecer. Es a lo que suelo referirme cuando explico estas cosas como «los sustantivos» y «los verbos», y lo que Palantir denomina pomposamente «la ontología», como si la hubiesen descubierto ellos.

Pero también debe preservarse el estado operativo de la empresa: no solo lo que existe, sino también lo que está ocurriendo, lo que ha cambiado y lo que sigue sin resolverse, junto con los objetivos y las concesiones (trade-offs) definidos por la dirección, los permisos que rigen cada acción y las reglas que determinan cuándo una decisión debe elevarse a un nivel superior.

Lo mismo ocurre con la memoria institucional: cada decisión, acción y resultado relevante debe quedar registrado en un diario que ningún agente o modelo pueda modificar de forma silenciosa; esto crea un registro fiable de cómo la organización ha llegado a su estado actual. Mantener un control riguroso sobre la integridad de dicho registro es fundamental para la rendición de cuentas futura y, como bien sabemos hoy en día, incluso para la ciberseguridad.

Dicho registro debe, a su vez, influir en el comportamiento futuro, permitiendo que la empresa aprenda de sus éxitos, fracasos y consecuencias imprevistas. Los modelos pueden actualizarse o sustituirse, los agentes pueden crearse o retirarse, y los flujos de trabajo pueden rediseñarse por completo; sin embargo, la experiencia acumulada por la organización debe permanecer. De lo contrario, la empresa no está aprendiendo: simplemente está contratando, una y otra vez, a supuestos seres inteligentes pero que padecen todos amnesia.

Inteligencia individual frente a inteligencia organizacional

En el ámbito de la inteligencia artificial corporativa, debemos comprender que la unidad de análisis relevante debería ser el ciclo organizacional, y no una especie de «trabajador sintético». Contar con mejores modelos puede potenciar el rendimiento cognitivo individual, y añadir más agentes puede incrementar la actividad disponible, haciendo de paso que sus supervisores se sientan más importantes, pero nada de esto garantiza, por sí solo, que la empresa aprenda de manera coherente.

La próxima plataforma empresarial no se parecerá a un sistema de gestión de personal o de supervisión para bots; ese, claramente, no es el objetivo. Se tratará, más bien, de un sustrato persistente en el que sea posible intercambiar modelos y agentes, mientras la inteligencia acumulada por la empresa permanece protegida y bajo control.

Lo que aún falta es una categoría de producto capaz de preservar el estado, la autoridad, las evidencias y el aprendizaje a través de distintos modelos y agentes. Pero no os preocupéis: no faltará para siempre.

Manténgase atentos a este canal.

(This article was previously published on Fast Company)

Hay algo profundamente obsceno en una industria que presume de conocer nuestros gustos al milímetro, pero descubre de repente sus limitaciones cuando le pedimos que deje de explotar nuestras vulnerabilidades. Ahora, TikTok vuelve a ofrecer un ejemplo asquerosamente revelador.

La Comisión Europea ha considerado de forma preliminar que el algoritmo «Para ti» de TikTok incumple la Ley de Servicios Digitales, porque encierra a los usuarios en espirales de contenido (los llamados rabbit holes) que pueden perjudicar su salud mental. Todavía no se ha impuesto ninguna multa, pero si las conclusiones se confirman, esta podría alcanzar el 6% de su facturación mundial anual. El pasado mes de febrero, Bruselas ya había cuestionado el diseño adictivo de la red social de propiedad china, empezando por su scroll infinito y siguiendo por su reproducción automática. Ahora, además, señala lo que ocurre dentro de los mecanismos que utiliza para retener y maximizar la atención de sus usuarios.

El mecanismo resulta muy fácil de entender porque es profundamente primario, además de asqueroso: cuando alguien se detiene ante vídeos sobre tristeza, aislamiento o imagen corporal, el algoritmo interpreta ese comportamiento como una preferencia que debe satisfacer con más contenido parecido. Que esa persona esté angustiada, atrapada en una compulsión o alimentando un trastorno no convierte su atención en una señal menos aprovechable. Confundir lo que consigue retenernos con lo que nos conviene es una irresponsabilidad empresarial perfectamente escalable. Y que millones de personas no sean conscientes de que la red en la que pasan varias horas al día les envenena el cerebro dándoles cada vez más contenido del que les provoca, les hace reaccionar, les genera problemas psicológicos o les deprime, también lo es.

El detalle más demoledor del comunicado europeo es que el tiempo de visionado puede prevalecer sobre el hecho de que el usuario formule una petición explícita de recibir menos contenido de ese tipo. Puedes pulsar las veces que quieras el botón de «no me interesa», pero si tu comportamiento demuestra que sí, el algoritmo pesará más que tu voluntad declarada y te seguirán poniendo delante de las narices contenidos de ese tipo para que te quedes más tiempo. Me cuesta imaginar una descripción más clara de la arrogancia de estas plataformas: afirman saber mejor que tú lo que debes seguir viendo, incluso cuando les estás pidiendo que paren.

¿Es TikTok la única red social que hace esto? En absoluto, es tan solo una más. En el caso de YouTube, por ejemplo, la semejanza es demasiado grande como para permitirle contemplar el caso desde algún tipo de superioridad moral: su sistema también utiliza el tiempo de visionado, junto con encuestas y otras señales, para decidir qué recomendar. Hay diferencias entre algoritmos, pero la propia compañía reconoció que la exposición repetida a determinados contenidos puede perjudicar a adolescentes y anunció restricciones. Ese reconocimiento obliga a preguntar cuánto funcionan sus protecciones.

La pregunta tiene antecedentes incómodos. Mozilla ya documentó en 2022 que el «no me interesa» evitaba solamente el 11% de las recomendaciones no deseadas en su experimento. Y un estudio de CCDH publicado en 2025, que simulaba una usuaria de trece años en Irlanda, clasificó 33 de cien recomendaciones como contenido dañino sobre trastornos alimentarios. Son resultados acotados, pero suficientes para exigir pruebas en lugar de aceptar promesas.

No es necesario afirmar que todos los usuarios terminan radicalizados o enfermos para considerar intolerable este modelo. Me basta con que una compañía distribuya contenidos, conozca riesgos y ofrezca controles cuya eficacia resulta cuestionable, mientras sigue beneficiándose de nuestra atención. TikTok, YouTube y por supuesto, Meta deben responder por las decisiones de distribución que toman sus sistemas. Si una multa acaba siendo otro coste asumible del negocio, la regulación habrá fracasado. El objetivo tiene que ser obligarlas a cambiar aquello con lo que ganan dinero a costa de nuestra capacidad de decidir.

In English on Medium, «They think they know your mind better than you do: TikTok and the rabbit hole problem»

Me han publicado un artículo en VMblog, «2027: Enterprise AI Will Begin Learning How to Run the Business«, en el que intento plantear una idea que me parece fundamental: que seguimos confundiendo la incorporación de herramientas capaces de producir textos con la construcción de organizaciones capaces de aprender. Ser capaces de contestar correos más deprisa, lo que algunos llaman despectivamente «la IA del oficinista», puede estar muy bien, pero francamente, resulta una ambición bastante pobre para una tecnología con semejante potencial.

VMblog es una publicación especializada fundada en 2004 por David Marshall, centrada en virtualización, cloud, centros de datos y tecnologías empresariales. La relevancia de la página tiene mucho que ver con su público: arquitectos de sistemas, responsables de infraestructura y directivos tecnológicos, precisamente quienes deben convertir las promesas comerciales en sistemas que funcionen. Hablar allí de inteligencia artificial supone discutir qué necesita una empresa para saber utilizarla de verdad y extraerle el partido adecuado.

El problema que intento describir es la distancia entre modelos cada vez más capaces y organizaciones que apenas consiguen aprovecharlos más que para tareas aisladas. Un asistente humano aporta continuidad, contexto, correcciones y responsabilidad. Un agente necesita una arquitectura que haga posibles esas funciones: registrar qué estaba ocurriendo, qué decisión tomó y qué consecuencias tuvo, incluso cuando estas aparecen semanas después.

La evidencia de esa distancia empieza a ser bastante clara. En un artículo reciente de McKinsey, el 80% de los encuestados afirmaba haber mejorado su productividad individual con inteligencia artificial, pero únicamente el 37% declaraba un impacto positivo sobre el beneficio operativo de su compañía. Y las organizaciones con mejores resultados tienden a ser precisamente aquellas que han llevado a cabo el rediseño de sus procesos al introducir la inteligencia artificial. Entre simplemente comprar licencias y transformar una compañía hay una gran distancia.

En una línea parecida, Harvard Data Science Review plantea que obtener mejoras sustanciales exige reconstruir los flujos de trabajo. Mi propuesta añade una capa: modelos de procesos que permitan estimar las consecuencias de distintas acciones y aprender de sus resultados, aplicando además aprendizaje por refuerzo cuando sea adecuado. Ante una renovación de un cliente, por ejemplo, es importante decidir cuándo ofrecer un descuento, cambiar de canal o recurrir a una persona, y por supuesto evaluando tanto la retención, como el margen, como incluso el propio coste del LLM si se considera necesario.

Ese aprendizaje debe pertenecer a la empresa y sobrevivir a una posible sustitución del modelo de lenguaje, contribuyendo así a incrementar los grados de libertad y a reducir un posible vendor lock-in. Para 2027, mi apuesta es que empezaremos a exigir precisamente eso: sistemas que acumulen experiencia útil, mejoren frente a métricas explícitas y permitan atribuir responsabilidades. Porque es perfectamente posible que una empresa que genere más documentos pueda estar haciendo exactamente las mismas cosas mal.

In English on Medium, «Faster emails aren’t a strategy: enterprise AI must have learning capability«

Me empieza a llamar mucho la atención cómo el activismo interno en las compañías de inteligencia artificial, con cada vez más empleados manifestando públicamente sus preocupaciones o incluso dimitiendo de sus cargos y compartiendo por qué lo hicieron, se está convirtiendo en un auténtico problema de control democrático cuando las compañías intentan comprar el silencio de aquellos que conocen sus riesgos por dentro, y que pueden demostrar cierta autoridad al comentarlo.

Los trabajadores de DeepMind reclaman que se eliminen las restricciones que pesan sobre ellos y que incluyen las llamadas non-disparagement clauses (que restringen las críticas o comentarios perjudiciales para la reputación de la compañía) establecidas de manera vitalicia. Google asegura que no las aplica a antiguos empleados, pero los trabajadores, con mucha lógica, reclaman su eliminación contractual. La cuestión resulta bastante peculiar, dado que, al menos en principio, una compañía que pide confianza afirmando que va a desarrollar su inteligencia artificial de manera responsable y segura, debería facilitar que sus propios investigadores, los que realmente conocen esa tecnología desde dentro, pudieran cuestionarla y advertir al público cuando detectan posibles problemas.

Ya en el año 2018, hablando del activismo interno en las compañías y del proyecto Dragonfly de Google, explicaba la importancia de que los empleados de las compañías pudieran tener visibilidad sobre el destino de su trabajo, y pudieran objetar, por ejemplo, a que ese trabajo fuese utilizado para cuestiones a las que personalmente objetarían, como posibles colaboraciones con regímenes no democráticos, usos militares de la tecnología, etc. El principio que me guiaba en aquel momento era que la responsabilidad corporativa de las compañías debería empezar dentro de las mismas, ofreciendo un tratamiento razonable a sus trabajadores. Porque ¿qué valor tienen unos principios éticos si la posibilidad de cuestionar su cumplimiento se convierte automáticamente en una amenaza para tu carrera?

En 2022, al hilo de la posibilidad de consolidar el trabajo distribuido, hablé de los desarrolladores como avanzadilla de los derechos laborales: dado que el mercado de trabajo del desarrollo de software estaba entonces muy tensionado y, básicamente, un buen desarrollador podía encontrar trabajo fácilmente, muchos se dedicaban a exigir el trabajo distribuido como condición inexcusable en sus contratos, con la amenaza de irse a otra compañía, del mismo modo que algunos investigadores de inteligencia artificial utilizan hoy su capacidad de cambiar de empresa para rechazar decisiones con las que discrepan éticamente. El problema de estas situaciones, claro, es que cambiar de empleo resuelve el conflicto individual, pero no informa a la sociedad del origen del problema, que queda confinado dentro de la compañía. En ese sentido, es importante entender la diferencia entre el activismo interno, que puede generar discusiones internas pero por lo general no trasciende, las dimisiones silenciosas (me voy porque no me gusta lo que veo, pero no hablo de ello), o las denuncias públicas (me voy a una red social, a mi página o a un medio de comunicación y hago públicas mis preocupaciones y las evidencias que las sustentan) que estamos viendo recientemente por parte de trabajadores de compañías de inteligencia artificial.

Las compañías poseen mecanismos económicos para desalentar la crítica: hay investigaciones que documentan acuerdos de salida de trabajadores en OpenAI que, por ejemplo, tenían cláusulas que podían, en caso de determinados comportamientos, poner en peligro participaciones accionariales ya adquiridas, y por tanto, hablar podía costarles un buen montón de dinero. Ante la escandalosa práctica, la compañía anunció que no ejercitaría esas cláusulas y liberó a sus empleados de esas restricciones, pero el hecho de que estuvieran ahí ya resulta suficientemente indicativo. En muchas ocasiones, el incentivo al silencio puede funcionar aunque las amenazas no lleguen a ejecutarse.

Hay casos concretos: en Meta, las revelaciones de Frances Haugen retratadas en la película «The Social Reckoning« o las actuaciones de Meta contra Sarah Wynn-Williams, que obtuvo una orden arbitral provisional que le impedía promocionar «Careless People« (aunque el libro siguió distribuyéndose porque la editorial no estaba sujeta a su acuerdo con la compañía), son evidencias de que las compañías intentan, en muchos casos, evitar cualquier tipo de actividad que pueda convertirse en denuncia, aunque esté muy lejos de ser difamatoria y pueda ser la pura verdad de lo que ocurre en su interior. Pero la asimetría jurídica (la compañía puede pagar a los mejores abogados, mientras que al trabajador le cuesta dinero de su propio bolsillo) hace que esta práctica efectiva de censura se convierta en real.

En el caso de la inteligencia artificial, poder contar con advertencias antes de que se produzca un daño potencialmente grave parece importante. La carta abierta «A Right to Warn about Advanced Artificial Intelligence« firmada por algunos investigadores y empleados de compañías que trabajan en ese ámbito, sostiene que proteger únicamente las denuncias de actividad estrictamente ilegal resulta insuficiente ante riesgos que todavía no están regulados. Como afirman los firmantes, una tecnología puede generar peligros que merecen escrutinio antes de que exista una prohibición expresa para ellos.

Mi preocupación tiene que ver con la impunidad de las compañías cuando las cosas salen mal: obligar a los trabajadores que se preocupan por una situación o que consideran que deben denunciar un comportamiento de su compañía a convertirse en héroes y a sacrificarse públicamente resulta un desincentivo demasiado fuerte. La carta abierta antes citada propone medidas como vías independientes para la denuncia, posibilidad de actuar de manera razonablemente anónima y protección frente a posibles represalias, incluida la judicialización. La seguridad pública y de toda la sociedad frente a posibles problemas graves no puede estar sujeta a que aparezca una persona dispuesta a arriesgar su carrera o su patrimonio para contar lo que sabe.

In English on Medium, «Silenced by contract: why AI whistleblowers need a right to warn»

El imponente castigo electoral a Donald Trump, el presidente más patético e impopular de la historia de los Estados Unidos, tiene tales dimensiones que los comentaristas políticos del país lo denominan «bluenami«: los demócratas recuperan ambas cámaras, el recuento provisional de Ballotpedia les atribuye al menos 54 senadores y siete escaños senatoriales ganados. En Texas, Gina Hinojosa derrota a Greg Abbott y James Talarico a Ken Paxton, un vuelco histórico que interrumpe décadas de hegemonía republicana en el estado de la estrella solitaria.

Las consecuencias de semejante bofetada en la cara de Donald Trump («votad como si mi nombre estuviera en la papeleta«… ¡y los votantes lo hicieron!) llegan a la inteligencia artificial, los data centers y las big tech. Si ya habíamos hablado de las aberraciones energéticas y medioambientales que la construcción de estas infraestructuras suponían, con la venia de un presidente negacionista de la emergencia climática, ahora MIT Tech Review detalla cómo el mercado de data centers que más crecía puede ahora perder esa posición: Hinojosa propone una moratoria hasta aprobar protecciones para los ciudadanos, y Reuters confirma la incertidumbre sobre proyectos de Meta, Google y Microsoft. Parece que los votantes no cabían en los planes de negocio de las big tech. Vaya con la democracia, ese molesto límite a los centros de datos…

La rebelión desborda claramente las etiquetas partidistas: Abbott ya había suspendido permisos el 21 de septiembre, exigiendo auditorías sobre electricidad y agua. Según el Financial Times, hasta 38 de las 47 votaciones locales estaban a favor de esas restricciones y, citando a Goldman Sachs, el cambio político podría afectar hasta al 45% de la expansión prevista. La irresponsabilidad de los CEOs era evidente: Reuters documentó su acercamiento a Trump, con Zuckerberg, Pichai y Huang presentes mientras defendía acelerar la construcción. El caso de Google es especialmente revelador: su infraestructura crece más deprisa que la descarbonización eléctrica, y las emisiones de su cadena de suministro aumentaron un 25%. La decisión consciente de acelerar, completamente incompatible con los compromisos medioambientales declarados por estas compañías antes de la llegada de Trump, las convierte en las mayores y más asquerosas hipócritas del planeta: obviamente, la emergencia climática no figuraba en sus presupuestos. Hay que ver, tanto comprar influencia para terminar perdiendo las elecciones.

El problema empeoraba con la decisión de acelerar construyendo nueva dependencia fósil, en perfecta sintonía con los compromisos de Trump con la industria petrolera: Reuters recoge 74 proyectos de centrales de gas destinadas a centros de datos, casi la mitad en Texas. El estudio citado estima unas emisiones potenciales de 662 millones de toneladas anuales, una auténtica barbaridad medioambiental.

El revés, en cualquier caso, tiene límites políticos y climáticos: Trump conserva el poder de veto, por lo que el cambio más inmediato puede producirse en estados, municipios y reguladores eléctricos. Habrá beneficios si se evitan instalaciones fósiles o se exige energía limpia adicional, pero una simple relocalización de los proyectos podría simplemente desplazar las emisiones a otros estados.

La AIE proyecta que el consumo mundial de centros de datos casi se duplicará entre 2025 y 2030. Es fundamental exigir transparencia, que las compañías asuman los costes, y que esa expansión sea compatible con los objetivos de descarbonización. Ahora, la sonora derrota de Donald Trump puede abrir ese espacio de responsabilidad que sus irresponsables aliados tecnológicos estaban eludiendo. Apuntemos, en cualquier caso, la calaña de semejante gentuza capaz de vender no solo sus principios, sino la salud del planeta que habitan, al mejor postor. Qué asco.

In English on Medium, «Could the blunami blow away Trump and the tech bros’ data center plans?»

Un artículo en MIT Tech Review, «The agentic web is here«, incide en los mismos temas que yo ya tocaba en Fast Company el pasado abril: cómo la llegada de agentes personales de inteligencia artificial supuestamente al servicio de los usuarios está provocando la transformación de la web. Si el chatbot y el agente se convierten en nuestro principal entorno de decisión, controlar esos chatbots y esos agentes pasa automáticamente a conceder poder sobre todas las opciones que consideramos, sean comerciales, políticas o de cualquier tipo. El resto de la historia ya la conocemos.

La pregunta, por tanto, sería en manos de quién están esos chatbots y esos agentes, y esa respuesta es cualquier cosa menos tranquilizadora: en manos de una panda de psicópatas a los que conocemos directamente por su nombre sin siquiera necesidad de apellido, como Elon, Sam, Mark, Dario y compañía, completamente decididos a ignorar cualquier problema o complicación y dispuestos a irse a la cama con cualquier poder político, incluidas opciones tan directamente grotescas como Donald Trump, siempre que lo estimen necesario. Si esos son los que van a controlar los chatbots y agentes que usa la mayoría de la humanidad, creo que es el momento de pedir que se pare esto, porque yo me bajo.

Yaqub Chaudhary y Jonnie Penn en Harvard Data Science Review exploran cómo convertir motivaciones e intenciones en mercancía mediante las conversaciones personalizadas que mantenemos con la inteligencia artificial. Esa es la agenda de las big tech: facilitar la creación de una sociedad lerda y manipulable, y vender esa capacidad de manipulación al mejor postor o al político de turno, con unas visiones de lo menos tranquilizadoras. Lo intentaron con las redes sociales: si creías que con ellas sabían mucho de ti porque en ellas seguías a personas, leías artículos, dabas algún «me gusta» y comentabas, espera a ver lo que un chatbot o un agente de inteligencia artificial puede llegar a saber de ti, considerando las conversaciones de todo tipo que tienes con ellos y las cosas que les pides. Además de simplemente observar comportamientos, son capaces de intervenir mientras se forman las decisiones de todo tipo. Es el capitalismo de vigilancia de Shoshana Zuboff elevado a su máxima potencia, una auténtica distopía en la que una sociedad de ovejas está totalmente controlada por unos pocos que la pastorean a su antojo.

La capacidad persuasiva de estos mecanismos automatizados ya tiene amplia evidencia experimental: GPT-4 con datos personales es capaz de superar a interlocutores humanos en debates controlados. El incentivo comercial, además, ya está ahí: Meta ya publicó su intención de utilizar las conversaciones con su inteligencia artificial para personalizar contenidos y anuncios para sus usuarios, que aun así se han lanzado en masa de forma entusiasta a utilizar sus agentes. ¿Alguien se ha planteado por qué el lanzamiento de diciembre de 2025 excluía específicamente a la Unión Europea, al Reino Unido y a Corea del Sur? La monetización de las conversaciones con los chatbots es una realidad ya: no es tu asistente, son sus intereses, un capitalismo de vigilancia que, aprovechando el cognitive surrender, ahora ya piensa por ti. Estamos haciendo que los usuarios pasen de simplemente delegar tareas a delegar criterio. La distopía disfrazada de asistente personal.

La dimensión electoral tampoco es ningún tipo de ciencia-ficción ni de conspiranoia: un reportaje de Reuters del 26 de octubre de 2026 describe estrategias de campañas estadounidenses para influir en cómo los chatbots presentan y recomiendan candidatos. ¿Alguien puede confiar en unas compañías que han demostrado su lealtad sumisa al político de turno? Las respuestas aparentemente independientes que tu chatbot te ofrece, en realidad, pueden acabar incorporando los intereses de quienes han trabajado para condicionarlas. Al menos la aplastante derrota de Donald Trump en las midterms han probado que toda manipulación puede tener un límite.

Necesitamos mucha, muchísima más transparencia sobre cómo se desarrollan estos agentes y sistemas de inteligencia artificial. Transparencia total sobre objetivos, patrocinadores y conflictos, auditorías independientes y control revocable de datos y permisos, exactamente la dirección contraria a la que ahora llevamos. De lo contrario, estaremos entregando las llaves de una sociedad fácilmente manipulable a nuestros «amos» de la inteligencia artificial: no a las inteligencias artificiales como tales, sino a los multimillonarios que las desarrollan. Si una gran cantidad de personas confía en lo que sus chatbots y agentes les dicen o recomiendan, creen ciegamente en lo que su inteligencia artificial les dice simplemente porque «lo ha dicho la máquina», y además le entregan toda su información personal, estamos condenados como sociedad.

Es, en esencia, la hipótesis de WALL-E: una sociedad compuesta por individuos carentes de criterio, que se dejan llevar por fuerzas que ni siquiera llegan a comprender. Es la receta para el desastre, porque los chatbots y agentes permiten una extracción de información personal mucho más íntima que la que realizan las redes sociales. Sería una segunda versión, mucho más aterradora, de esa distopía: una dependencia diseñada por una élite que consigue que el resto de la sociedad pierda toda su autonomía simplemente a cambio de comodidad.

In English on Medium, «The Axiom web: how AI agents are turning us into passengers»

Un buen reportaje en el Financial Times, «The race to keep AI under control«, estudia lo que ocurrió en incidentes de seguridad recientes en los que los agentes encontraron vías de comunicación y actuaron al margen de las instrucciones que tenían: en el caso de Hugging Face, del que ya hemos hablado anteriormente, unos setecientos agentes participaron en el ataque, y hubo intentos de ocultar actividad. La pregunta es evidente: ¿qué autoridad están concediendo estas compañías a estos sistemas?

La tesis fundamental que hay que mantener es que la capacidad y la autoridad deben separarse siempre. Un modelo puede razonar muy bien, y seguir necesitando límites externos sobre datos, herramientas y operaciones. Ese es un argumento que, de hecho, desarrolla explícitamente Microsoft cuando afirma que un modelo nunca debería ser su propia autoridad de seguridad. Pedir obediencia mediante instrucciones y comprobar permisos antes de ejecutar algo son mecanismos diferentes.

¿Cómo se traduce esto en mecanismos concretos? Básicamente, otorgando permisos mínimos, delimitando los destinos de red y los accesos a archivos, y protegiendo las credenciales. La autonomía puede delimitarse para cada operación: por ejemplo, podemos permitir que un agente consulte facturas y prepare reclamaciones, pero sin concederle autoridad para modificar saldos o para exportar toda la base de clientes. Anthropic ha publicado explicaciones sobre su combinación de aislamiento de archivos y red, incluyendo esas posibles restricciones sobre procesos derivados.

Para poder auditar un agente necesitamos evidencia de las llamadas, los accesos y los cambios reales que haya podido llevar a cabo. En los casos que han sido noticia recientemente, hemos visto ejemplos de coordinación no autorizada e intentos de manipulación de transcripciones, algo que nunca debería ocurrir: los registros de seguridad tienen que estar protegidos frente al sistema observado, porque preguntarle al sistema a posteriori qué es lo que hizo es una base claramente insuficiente para exigir responsabilidades.

En ese sentido, que los agentes mejoren mediante la experiencia no garantiza que no se dediquen a aprender comportamientos indeseables. Anthropic ha estudiado cómo los agentes aprenden a explotar recompensas (reward hacking) y cómo eso puede llevarnos a comportamientos desalineados. Por eso, una compañía debería definir tanto el resultado buscado como las restricciones que ninguna mejora del indicador debería permitir vulnerar. El aprendizaje automático no es ningún remedio automático: además, hay que exigir que tanto los objetivos como la evaluación y los límites estén bien diseñados. La desidia de las compañías en los incidentes conocidos hasta ahora en este sentido es completamente injustificable e irresponsable: continuar las evaluaciones después de detectar comunicaciones no autorizadas, como relata el Financial Times, es algo que demanda explicaciones y sanciones. Mientras estas decisiones no tengan consecuencias para quienes las toman, los incentivos para priorizar la seguridad seguirán siendo insuficientes.

Resulta fundamental que antes de ampliar autonomía, exijamos demostraciones de permisos efectivos, trazabilidad, revocación y capacidad para detener operaciones. Microsoft, por ejemplo, habla de respuestas graduadas, como conservar los permisos de lectura mientras se bloquean los de escritura o se exige una aprobación humana. Una autonomía útil necesita una arquitectura capaz de concederla, observarla y retirarla con la precisión necesaria en cada momento.

La diferencia fundamental debería estar entre pedirle a un agente que no haga algo, frente a diseñar un sistema en el que simplemente carezca de autoridad para hacerlo. Eso exige una arquitectura en la que los agentes actúen mediante operaciones explícitamente definidas y cada ejecución pase por una comprobación de permisos independiente del modelo. Un agente puede idear una estrategia para acceder a una base de datos, comunicarse con otro agente o modificar una herramienta, pero esa intención no debería concederle los permisos necesarios para hacerlo. Incluso la capacidad de mejorar su propio funcionamiento debe quedar sometida a controles que no pueda reescribir. Si todas las vías de ejecución, incluidas las herramientas externas, atraviesan ese control, determinadas acciones prohibidas pueden impedirse aunque el modelo intente llevarlas a cabo. Eso no elimina los errores ni el posible abuso de funciones autorizadas, pero cambia sustancialmente el problema: la seguridad deja de depender de que el agente tenga a bien obedecer. El control debe funcionar incluso cuando falla la obediencia.

In English on Medium, «Don’t ask agents to behave, build systems where they can’t misbehave»

Piergiorgio M. Sandri, de La Vanguardia, me llamó para hablar sobre las inversiones en inteligencia artificial y las dudas que empiezan a generar en los mercados. Algunas de mis impresiones aparecen en su artículo del pasado 30 de octubre, «El mercado bursátil castiga el gasto millonario de las tecnológicas en la inteligencia artificial«. La conversación fue telefónica, pero me parece interesante desarrollar aquí las dos cuestiones que planteé: la circularidad financiera y el rumbo de esas inversiones.

La primera resulta relativamente sencilla de entender: si inviertes en una compañía que utiliza ese dinero para comprarte capacidad de cómputo, tienes una inversión y unos ingresos, pero queda por demostrar que al final de la cadena exista alguien dispuesto a pagar lo suficiente por el servicio. Que el dinero circule entre compañías no demuestra, por sí solo, que el negocio sea sostenible.

Un análisis de FTSE Russell sobre esa red de financiación explica precisamente cómo las relaciones entre proveedores, inversores y clientes hacen muy difícil identificar la demanda independiente y quiénes están asumiendo realmente el riesgo. No implica necesariamente un fraude, pero sí obliga a mirar bastante más allá de los anuncios de contratos multimillonarios. Reuters recogía también las advertencias del profesor de Columbia Business School Stijn Van Nieuwerburgh: el recurso creciente a financiación externa aumenta el endeudamiento y hace depender la expansión de unos ingresos todavía por demostrar.

La segunda cuestión me parece incluso más importante: hemos convertido una hipótesis tecnológica en una especie de dogma inversor. Más chips, más centros de datos, más electricidad y modelos más grandes deberían producir, supuestamente, una rentabilidad inevitable o la llegada a una supuesta inteligencia artificial general que va a cambiarlo todo. Y sí, escalar ha permitido avances extraordinarios, pero de ahí a asumir que cualquier incremento de gasto se traducirá en valor económico hay un salto considerable.

Como llevo tiempo defendiendo, el problema de la inteligencia artificial empresarial es cada vez más arquitectónico. Una compañía necesita representar sus procesos, sus restricciones y sus objetivos, saber quién puede decidir qué, conservar memoria de lo que hace y comprobar sus resultados. Comprar acceso a un modelo más potente no resuelve automáticamente ninguna de esas necesidades.

Lo expliqué también en Fast Company: para optimizar una empresa, primero hay que poder representarla. Pensemos en un sistema que recomienda reducir inventarios: lo relevante es comprobar después si ahorró costes o provocó roturas de stock, incorporar ese resultado y mejorar la siguiente decisión. Ese bucle de aprendizaje, gobernado por la organización, puede convertirse en un activo propio. La factura de tokens, por elevada que sea, no lo sustituye.

Por eso, cuestionar esta carrera de inversiones es perfectamente compatible con estar convencido del potencial transformador de la inteligencia artificial. Me interesa muchísimo una tecnología que permita a las organizaciones aprender y decidir mejor. Lo que me cuesta bastante más es aceptar que su futuro consista en encadenar cheques cada vez mayores mientras esperamos que alguien encuentre cómo pagarlos.

In English on Medium, «The AI investment boom: follow the money, not the hype»

El 14 de junio, Satya Nadella publicó un artículo en X sobre la inteligencia artificial en el ámbito empresarial que me dejó profundamente impresionado: su planteamiento principal, que el activo duradero de una empresa no es el modelo fundacional, sino el ciclo de aprendizaje, coincidía exactamente con la idea que mi empresa y yo llevábamos desarrollando durante los últimos tres años. Respondí con un artículo en Fast Company —sin esperar respuesta, dado que los directores ejecutivos del sector tecnológico suelen ser, por norma general, mucho más inaccesibles que los reyes o los presidentes—, con el objetivo de elevar un poco más el debate: el desafío central de la inteligencia artificial empresarial no es la inteligencia en sí, sino la arquitectura.

Ahora, Nadella ha escrito otro artículo en el que da un paso más: no solo sostiene que el modelo no constituye un activo duradero, sino que, además, debe tratarse como un componente en el que no se puede depositar ninguna confianza. Debemos asumir que todos los modelos de inteligencia artificial podrían verse comprometidos y diseñar nuestros sistemas de modo que, desde el primer momento, permitan contenerlos.

La prensa ha interpretado esta idea como una propuesta a favor de una especie de «freno de emergencia»: una persona autorizada debería poder, en cualquier momento, interrumpir la actividad de un modelo. Sin embargo, esa no es, ni de lejos, la parte más interesante ni la más importante del artículo de Nadella. Lo verdaderamente relevante no es el hipotético botón de parada, sino la arquitectura que lo hace posible. Un modelo no debería tener la capacidad de controlar sus propios permisos, ni de decidir por sí mismo a qué puede acceder, ni de ejecutar directamente todas sus acciones, ni de ser la única fuente de evidencia sobre las operaciones que ha realizado. La inteligencia puede provenir del modelo, pero la autoridad, bajo cualquier circunstancia, debe permanecer fuera de él.

Cuando el sandbox se convierte en parte del experimento

Dado el contexto, resulta fácil comprender por qué Nadella plantea estas cuestiones precisamente ahora. El pasado mes de julio, varios agentes de OpenAI lograron eludir las salvaguardas que debían mantenerlos aislados de internet; utilizaron credenciales que encontraron en su entorno y terminaron nada menos que hackeando sistemas en Hugging Face. Así, sin más, como quien podría haber hackeado, por qué no, los silos nucleares rusos. Estos agentes no solo descubrieron una vía nueva y no autorizada para comunicarse entre sí, sino que también compartieron información y llevaron a cabo acciones coordinadas para alcanzar el objetivo de la evaluación. Nunca recibieron instrucciones de atacar Hugging Face: simplemente descubrieron que, al hacerlo, podían acercarse más al objetivo que se les había asignado.

Es importante entender esto: no es que estos agentes fueran intrínsecamente malvados, conscientes o que se hubieran vuelto incontrolables. Basta con combinar altas capacidades con un objetivo mal definido, permisos excesivos y/o un entorno vulnerable. Es comparable a un empleado que infringe todos los procedimientos para cumplir con una cuota determinada, solo que, en este caso, operando a la velocidad de una máquina, de forma paralela y con capacidades técnicas extraordinarias.

Como ya he mencionado, no se trata de un problema de malas intenciones: simplemente existen demasiadas formas de alcanzar el objetivo definido, y el sistema puede encontrar vías que sus propios diseñadores jamás llegaron a imaginar.

El principio de «asumir la brecha» llega a la inteligencia artificial

Lo que Nadella plantea aquí es trasladar a los modelos de inteligencia artificial un principio muy conocido en el ámbito de la ciberseguridad: «asumir la brecha» (o assume breach), es decir, dar por sentado que el sistema ya ha sido comprometido. En la arquitectura de confianza cero (Zero Trust) de Microsoft, este principio implica verificar explícitamente cada acceso, conceder únicamente los privilegios indispensables y diseñar controles bajo la premisa de que un posible atacante podría encontrarse ya dentro del perímetro. No se confía en un usuario simplemente porque se encuentre en una ubicación determinada, por el hecho de ser gerente o por haber completado el proceso de autenticación una vez. Todas y cada una de sus acciones seguirán estando sujetas a autorización y supervisión. Every breath you take, I’ll be watching you.

Aplicar este principio a un modelo de inteligencia artificial no significa asumir que todos los modelos han sido hackeados o comprometidos. Significa reconocer que todos ellos pueden cometer errores, malinterpretar un objetivo, ser objeto de una prompt injection, utilizar información manipulada, encontrar credenciales abandonadas, explotar una vulnerabilidad o hallar un atajo que maximice su recompensa, desvirtuando así la intención original de la tarea encomendada.

En esencia, el término «comprometido» no describe necesariamente un ataque, sino una hipótesis de diseño. Durante años, el sector ha intentado crear modelos en los que pudiéramos confiar. Nadella propone, en cambio, desarrollar sistemas que sigan siendo seguros incluso cuando no confiamos en el modelo que los sustenta.

El modelo no es el sistema

El aspecto más relevante de las ideas de Satya Nadella es su insistencia en separar el modelo de su «entorno operativo», del conjunto de elementos que este utiliza para organizar su trabajo: memoria, herramientas, credenciales, contexto, flujos de ejecución, conexiones con otros sistemas y espacios de acción.

Esta separación transforma por completo la arquitectura de la inteligencia artificial corporativa. Un modelo puede proponer una acción, pero nunca debe ser quien determine si posee o no la autoridad para ejecutarla. Puede sugerir enviar un correo electrónico, modificar un servidor, aprobar una operación o transferir fondos; sin embargo, un entorno de ejecución independiente debe verificar sus permisos, validar los parámetros, aplicar las políticas correspondientes y decidir si la acción puede llevarse a cabo.

Esto conecta directamente con mi planteamiento anterior (y el de Nadella): el activo duradero de una empresa nunca debería ser el modelo de inteligencia artificial, sino el ciclo de aprendizaje que se construye a su alrededor. Los modelos pueden cambiar, mejorar o ser reemplazados, pero la experiencia acumulada por la empresa debe permanecer.

No obstante, si el modelo no puede ostentar autoridad, tanto el aprendizaje como el control deben residir en una capa superior independiente. El modelo se convierte, entonces, en un componente intercambiable, en un recurso estandarizado o commodity, que aporta capacidad cognitiva, pero que no constituye, en modo alguno, el centro soberano de nuestro sistema corporativo.

Una compañía optimizable requiere una representación formal de sus objetos, relaciones, procesos, permisos, restricciones y resultados. Esa misma representación que nos permite optimizar una organización es la que también nos permite gobernar sus agentes de inteligencia artificial. No es posible controlar formalmente una acción si el sistema desconoce qué objeto modifica dicha acción, qué identidad la solicita, qué consecuencias puede acarrear o qué regla debe aplicarse en tales circunstancias.

Por ello, la próxima generación de inteligencia artificial corporativa no será simplemente una colección de agentes; será un entorno de ejecución integral que contará con identidades explícitas, permisos granulares, espacios de acción delimitados, un estado persistente, políticas ejecutables y un registro independiente y trazable de cada cambio realizado.

El freno de emergencia llega demasiado tarde

El freno de emergencia es una metáfora poderosa, pero también puede resultar engañosa: interrumpir lo que un modelo está haciendo no implica necesariamente deshacer lo que ya se ha realizado. Un correo electrónico enviado puede haber sido leído, y no es posible «desleerlo» ni hacer que deje de haber sido visto. Un dato exfiltrado no volverá a ser secreto nunca más. Una transferencia de dinero puede haber atravesado varias jurisdicciones y no poder ya retrotraerse. Una base de datos eliminada podría ser imposible de recuperar. Además, un agente que opera a la velocidad de una máquina puede completar miles de acciones antes de que una persona logre comprender el significado de una alerta.

Debemos distinguir entre interrumpir, revocar y recuperar: interrumpir detiene la ejecución en curso; revocar elimina de inmediato credenciales, permisos y conexiones; y recuperar permite revertir, compensar o reconstruir acciones que ya se han ejecutado. Sin embargo, antes de estas tres medidas existe una mucho más importante: la prevención. Las acciones que sean destructivas, financieras, administrativas o que tengan visibilidad pública no deberían ejecutarse simplemente porque un modelo lo indique. La cheat sheet de seguridad para agentes de inteligencia artificial de OWASP recomienda separar claramente la toma de decisiones de la ejecución, validar de forma independiente el alcance y los permisos de cada acción, utilizar autorizaciones de corta duración y aplicar controles adicionales a las acciones irreversibles.

Esta es la diferencia fundamental entre un mecanismo de protección (guardrail) y una garantía: un mecanismo de protección le pide al modelo que no realice una acción determinada, mientras que una garantía impide que el modelo posea la capacidad necesaria para llevarla a cabo.

Resulta interesante señalar que el artículo 14 de la Ley de Inteligencia Artificial de la Unión Europea ya exige que ciertos sistemas de alto riesgo permitan a una persona anular, invalidar o revertir sus resultados, así como detener su funcionamiento mediante un botón o un procedimiento equivalente. En este sentido, la aportación de Nadella va aún más allá: dicho botón no debería ser una simple funcionalidad añadida al producto, sino el resultado visible de una arquitectura de control integral.

Ni usar múltiples modelos ni usar otro modelo como supervisión resulta suficiente

Sin embargo, dos de los principios de Nadella requieren ciertas matizaciones: el primero es la diversidad de modelos. Recurrir a múltiples proveedores reduce la concentración tecnológica y facilita la sustitución, pero no garantiza una verificación verdaderamente independiente. La mayoría de los grandes modelos comparten datos de entrenamiento, arquitecturas, técnicas de alineación y numerosos sesgos. Contar con varios «testigos» probabilísticos no convierte su coincidencia en una prueba independiente.

El segundo aspecto es el uso de otros modelos para supervisar a los agentes. Esta supervisión puede ser útil y probablemente llegará a ser esencial, pero no puede constituir la única barrera. El benchmark SLEIGHT-Bench, desarrollado por Anthropic, pone de manifiesto diversas estrategias perjudiciales que pueden pasar inadvertidas para los modelos que actúan como supervisores. Un supervisor también puede tener puntos ciegos, y un agente lo suficientemente capaz podría detectarlos sin dificultad.

La solución no consiste en eliminar dichos supervisores, sino en integrarlos dentro de un sistema de defensa de múltiples capas: políticas deterministas, permisos formales, pruebas ejecutables, registros inalterables por parte del modelo, límites a las acciones y mecanismos de escalado hacia personas con autoridad real.

La independencia no consiste, simplemente, en «consultar a otro modelo».

Una arquitectura planteada al revés

Una parte significativa de la industria ha situado al modelo en el centro del sistema. A su alrededor, ha incorporado memoria, herramientas, bases de datos, credenciales y conexiones, para luego intentar acotar todo el conjunto mediante filtros y mecanismos de control. El modelo razona, toma decisiones, utiliza herramientas, describe sus propias acciones y, en muchos casos, participa incluso en su propia evaluación.

Lo que sugiere Nadella es que este planteamiento es, en realidad, inverso: lo que debería ocupar el centro es el entorno operativo de la empresa: su modelo de objetos y procesos, identidades, políticas, permisos, restricciones, objetivos y registros. Los modelos deberían funcionar como servicios cognitivos invocados desde dentro de este entorno, del mismo modo que una aplicación invoca una base de datos o un servicio informático. Pueden razonar, interpretar, proponer y generar, pero no deben usurpar la autoridad institucional.

Además, este enfoque facilita su sustitución. Una empresa debería poder cambiar de OpenAI a Anthropic, Google, Mistral, DeepSeek, Qwen o cualquier otro modelo futuro sin perder su memoria, sus procesos, sus permisos, sus evidencias y, lo que es aún más importante, su aprendizaje. La inteligencia puede alquilarse, pero la arquitectura, el control y el conocimiento acumulado deben pertenecer siempre a la empresa.

La primera fase de la inteligencia artificial consistió en modelos que ofrecían respuestas. La segunda consiste en dotar a estos modelos de herramientas para que puedan ejecutar acciones. La tercera deberá separar, de nuevo, la inteligencia de la autoridad, antes de que terminemos confundiendo de forma irreversible la capacidad con el control.

La empresa más avanzada no será aquella que confíe en el modelo más potente, mejor alineado o que ofrezca mayor tranquilidad. Será aquella capaz de utilizar cualquier modelo sin tener que depender de él ni depositar su confianza en él. Porque la confianza puede ser una cualidad valiosa en las relaciones humanas, pero resulta un fundamento espantoso para una arquitectura empresarial.

(This article was previously published on Fast Company)