La cadena de bloques es una de esas tecnologías que llevan ya mucho tiempo incorporadas a mis cursos de innovación, hasta el punto de que ha pasado ya por etapas completamente efervescentes en las que los alumnos ponían muchísima atención y por otras en las que simplemente me miraban con cara de escepticismo en modo «¿eso, todavía existe??»

Mi visión siempre ha sido la de que, como tecnología, suponía posibilidades verdaderamente revolucionarias de cara a muchas cosas, desde la reinvención del dinero hasta la de la web, de ahí que la noticia de que el Banco Central Europeo incorpore la cadena de bloques a la infraestructura financiera me ha resultado bastante interesante. Y por supuesto, como toda noticia, precisa de un poco de investigación y documentación antes de lanzarse a escribir sobre ello.

Bitcoin nació con una idea muy clara: hacer innecesarios a los bancos y a los bancos centrales. Sin embargo, de repente estamos viendo su institucionalización: desde fondos cotizados en bitcoin o ether, hasta elementos como la tokenización, la liquidación atómica o la programabilidad, desechando la parte más libertaria, anónima y especulativa. En realidad, no es que la tecnología haya conquistado al BCE: más bien que el BCE está tomando sus elementos útiles y aplicándolos. La tecnología sobrevive, sí, pero la revolución a la que quedó asociada ha terminado institucionalizándose.

La iniciativa del Eurosistema se llama Pontes, y es una infraestructura que conecta plataformas privadas basadas en DLT con TARGET, el sistema de pagos del Eurosistema. Cuando un banco adquiere un bono tokenizado, la función de Pontes es coordinar la entrega de ese bono con el pago en dinero del banco central: o se ejecutan ambas operaciones, o no se ejecuta ninguna. De entrada, se han incorporado trece entidades, entre otras, Santander, Deutsche Bank, Société Générale, ABANCA, Cecabank y el Banco Europeo de Inversiones, además del BundesBank y operadores de DLT como Clearstream y otros. En cualquier caso, Pontes no estará completamente desarrollado hasta 2028, y Appia tendrá que diseñar para entonces el ecosistema europeo para finanzas tokenizadas.

Pero pongamos las cosas claras: Pontes no es una criptomoneda, no es bitcoin y no es el futuro euro digital para ciudadanos y comercios. Es únicamente infraestructura mayorista de acceso restringido, sólo para entidades reguladas. Si un banco compra a otro un bono registrado en una cadena de bloques, ese bono circula por esa nueva infraestructura, pero los euros siguen moviéndose, por ahora, a través del sistema tradicional del Banco Central Europeo. Pontes, como su nombre indica, actúa como puente, coordinando ambos movimientos para que el bono y el dinero cambien de manos al mismo tiempo, o para que no lo haga ninguno. Se supone que con el tiempo, una parte mayor de este proceso podrá ejecutarse directamente en la nueva plataforma y automatizarse mediante contratos inteligentes. Pero por el momento, que el Financial Times hable del «debut del euro digital mayorista» me parece bastante engañoso, porque no estamos todavía ante un euro que viva íntegramente en la cadena de bloques, sino ante un primer puente operativo, aunque bastante ambicioso, entre esa tecnología y el sistema financiero convencional

¿Qué aporta entonces la tokenización? No se trata sólo de sustituir una base de datos por una cadena de bloques: permite combinar emisión, negociación, pago, custodia, garantías, intereses y vencimiento en procesos programables, con todo lo que ello conlleva. Al hacerlo, las operaciones financieras ganan en atomicidad y programabilidad, y pueden reducir conciliaciones, mensajes entre intermediarios y operaciones manuales a lo largo de la vida de un activo. Además, puede permitir integrar unos mercados europeos aún fragmentados por países, que no es poca ventaja.

En realidad, se trata de luchar contra el ascenso de las stablecoins denominadas en dólares (el 99% en 2025): si el BCE no ofrece dinero público utilizable en ese entorno, ese vacío sería ocupado por stablecoins privadas. Si permitimos que las futuras finanzas europeas se liquiden fundamentalmente en tokens vinculados al dólar, estaríamos importando infraestructura monetaria estadounidense y, básicamente, debilitando la soberanía del euro, lo que no parece un buen negocio.

Podemos interpretar Pontes como la respuesta del BCE a la pregunta de quién emitirá el dinero de la economía programable: en lugar de tratar de frenar la tokenización, le ofrece un instrumento de liquidación más seguro. Pensemos que incluso una stablecoin bien respaldada depende de un emisor privado y de su capacidad para reembolsarnos, mientras que el banco central puede ampliar la liquidez cuando el sistema la necesita, especialmente durante una crisis, y ofrece el activo definitivo, con el que los bancos saldan sus obligaciones.

Parece que, además, el BCE quiere aprender usándolo, porque va a invertir una parte pequeña de sus propios fondos en valores tokenizados, en principio deuda pública y supranacional denominada en euros. No va a comprar criptomonedas ni va a usar fondos de política monetaria, pero sí adquirirá experiencia en negociación, liquidación y gestión de este tipo de activos: además de impulsor y supervisor, se convierte también en usuario de su propia infraestructura. Y tampoco está solo: el BIS ha lanzado Project Agorá para la liquidación atómica entre reservas de bancos centrales y depósitos bancarios tokenizados, y el Bank of England, con la FCA, está trabajando ya en entorno real y prepara su propio servicio de sincronización.

Lógicamente, tokenizar cosas no crea liquidez ni compradores, no elimina todos los intermediarios y tiende a sustituir unas complejidades por otras. Sigue habiendo problemas de interoperabilidad entre cadenas, posibles errores en smart contracts, problemas de ciberseguridad, fragmentación de la liquidez y automatismos que, en un momento dado, podrían acelerar una crisis. Pero aun así, todo indica que Wall Street está viviendo una nueva etapa de fascinación con la cadena de bloques, lo que implica que la tecnología que muchos daban por muerta, goza de bastante buena salud y sigue teniendo muchas posibilidades de ser un protocolo que terminemos utilizando en muchísimas cosas, aunque como ocurre con la mayoría de protocolos, buena parte de sus usuarios no sepan ni que está ahí, ni cómo funciona.

Por tanto, más que pensar que el BCE se está rindiendo ante la cadena de bloques, mi conclusión es casi la opuesta, y aounta a la institucionalización: que el BCE entra en la cadena de bloques para asegurarse de que la cadena de bloques no pueda prescindir del BCE.

In English on Medium, «Does blockchain still exist? Ask the European Central Bank»

Todavía recuerdo perfectamente dónde estaba cuando Steve Jobs subió al escenario del Moscone Center en enero de 2007. Estaba siguiendo la transmisión en directo y, más o menos durante la primera demostración, tuve la clarísima sensación de que el terreno había cambiado. No porque el iPhone inventara algo, que no lo hizo, sino porque logró que todo lo que ya existía funcionara por fin a la vez. Y así fue como se consiguió desencadenar la revolución del smartphone, el resto es historia.

En 2007 ya teníamos correo electrónico, navegación web, cámaras, reproductores MP3 y lo que la industria llamaba en plan optimista «teléfonos con muchas funciones» (feature phones). Yo había utilizado varios de esos supuestos teléfonos inteligentes anteriormente. La mayoría exigía más paciencia que inteligencia, y entregar uno a una persona sin conocimientos técnicos era literalmente un acto de crueldad. Lo que hizo Apple fue absorber toda esa complejidad y ofrecer algo que realmente se podía utilizar. La interfaz multitáctil sustituyó a los punteros y a los menús anidados. La integración reemplazó a la fragmentación. El iPhone no fue importante por añadir una función más; lo fue porque dejó de exigir al usuario que se preocupara por cómo funcionaba todo aquello.

El gran Edsger W. Dijkstra dijo una vez que «la complejidad vende mejor«. Sin embargo, de vez en cuando, la simplicidad se impone con tal ventaja que todo el mercado se ve obligado a reorganizarse en torno a ella.

La inteligencia artificial corporativa actual se parece sospechosamente al escenario de 2006

Veo este patrón una y otra vez en el ámbito tecnológico. La capacidad subyacente existe, a veces durante años, pero el mercado no despega realmente hasta que alguien logra ocultar los aspectos más engorrosos o complejos. Precisamente ahí es donde se encuentra hoy la inteligencia artificial corporativa.

Actualmente, cualquier empresa medianamente seria puede adquirir acceso a modelos excelentes, a computación en la nube, a bases de datos, a APIs y a agentes. Eso ya no es el recurso escaso. Sin embargo, transformar todo ello en algo en lo que una organización real, no una teórica, pueda confiar plenamente sigue requiriendo consultores, científicos de datos, rediseño de procesos, marcos de gobernanza, capas de seguridad y un mantenimiento continuo. El problema no radica en que los modelos no sean lo suficientemente buenos; el problema es que todo el ecosistema que los rodea aún es inmaduro.

Nadie compra un iPhone preguntándose qué planificador de tareas o gestor de memoria utiliza (y menos mal). La plataforma se encarga de gestionar todo eso. En la inteligencia artificial corporativa, ocurre justo lo contrario: se espera que las empresas elijan el modelo, la base de datos vectorial, el sistema de agentes, la capa de memoria, las herramientas de observabilidad y las integraciones. Un responsable de área de negocio no debería tener que saber nada de eso. El hecho de que aún deban hacerlo demuestra que esta categoría tecnológica todavía no ha madurado. Hay un aspecto de la situación actual que resulta, en cierto modo, absurdo: la industria de la inteligencia artificial habla de la inteligencia como un servicio básico (similar a la electricidad o el agua), pero luego envía ingenieros con salarios elevadísimos a las oficinas de los clientes para lograr que dicho servicio funcione realmente. Una tecnología verdaderamente madura escala ocultando la complejidad, no enviando especialistas a cada cliente.

El «momento iPhone» transforma quién puede utilizar la tecnología.

Antes del iPhone, los teléfonos inteligentes estaban fundamentalmente en manos de tecnófilos como yo, ejecutivos y departamentos de TI. Tras la llegada del iPhone, el producto alcanzó una adopción masiva porque dejó de exigir conocimientos técnicos por parte del usuario. Aún recuerdo cuando le entregué a mi madre su primer iPhone. No le expliqué los gestos, los menús ni la navegación; simplemente se lo di y, en cuestión de minutos, ella ya realizaba casi todas las tareas que necesitaba.

El momento equivalente en el ámbito de la inteligencia artificial corporativa llegará cuando una unidad de negocio pueda implementar todo tipo de capacidades de inteligencia artificial altamente sofisticadas, sin necesidad de encargar previamente una arquitectura a medida ni de desplegar un equipo de consultores por toda la organización.

Pero la segunda parte de la analogía es… la App Store.

El verdadero efecto de plataforma del iPhone llegó en 2008, cuando Apple lanzó la App Store. Utilizo este caso todos los años con mis estudiantes de MBA porque es uno de los ejemplos más claros de cómo un producto se convierte en una plataforma. En el primer fin de semana se registraron más de diez millones de descargas. Los desarrolladores podían crear lo que quisieran sin tener que reinventar el sistema operativo, el dispositivo ni la distribución. La plataforma asumía las partes complejas; ellos aportaban las ideas.

Ese es también el futuro de la inteligencia artificial corporativa: no una única aplicación de inteligencia artificial gigantesca, sino una plataforma sobre la que se puedan activar capacidades empresariales sin necesidad de desarrollar una arquitectura a medida cada vez. Ventas, atención al cliente, compras, cumplimiento normativo, logística: ninguna de estas áreas debería requerir fundamentos técnicos distintos. Una vez que una plataforma gestiona la identidad, los permisos, el contexto, la memoria, la gobernanza y el aprendizaje, añadir una nueva capacidad debería percibirse más como instalar una nueva aplicación que como encargar un nuevo proyecto de tecnología. McKinsey ha constatado que las organizaciones que obtienen mayor valor de la inteligencia artificial son precisamente aquellas que rediseñan sus flujos de trabajo en torno a ella. El modelo no es la transformación; la transformación es lo que se construye alrededor del modelo.

Empresas de frontera… y una predicción contraintuitiva

El Work Trend Index de Microsoft introdujo el concepto de «empresas de frontera» (frontier firms): organizaciones que combinan personas y agentes, y reorganizan el trabajo en torno a resultados en lugar de funciones. Una vez que la inteligencia se vuelve abundante, obsesionarse con el modelo empieza a parecerse un poco a obsesionarse con el procesador de un teléfono: algo necesario, sí, pero cada vez menos decisivo.

Aquí reside el aspecto contraintuitivo: el «momento iPhone» de la inteligencia artificial corporativa hará que la inteligencia artificial resulte menos espectacular, no más. Hoy en día, cada implementación parece extraordinaria porque conlleva un proyecto complejo. En una fase de madurez, un equipo de ventas simplemente activará una funcionalidad; el servicio de atención al cliente activará otra distinta, y el departamento de compras, una más. La inteligencia se integrará en la rutina habitual de la empresa. Cuando la inteligencia artificial corporativa funcione por fin correctamente, probablemente dejará de parecer inteligencia artificial.

Los límites de la analogía

No estoy prediciendo aquí la aparición de una única «Apple de la inteligencia artificial corporativa» con un ecosistema cerrado y un entorno restringido. Eso no es lo importante aquí. Lo que importa es el concepto de abstracción: una categoría inmadura obliga a los usuarios a comprender la tecnología, mientras que una categoría madura les permite centrarse totalmente en lo que desean lograr.

Cuando la inteligencia artificial corporativa llegue a su «momento iPhone», la pregunta interesante no será qué modelo utiliza su empresa, sino si esta está preparada para emplear una plataforma que haga irrelevante todo eso. La implementación de la inteligencia artificial debería dejar de percibirse como un proyecto de tecnología y empezar a sentirse como la instalación de una aplicación.

No, aún no hemos llegado a ese punto. Pero yo, al menos, ya he visto esta película antes.

This article was previously published on Fast Company

Tras años de amenazas, insultos, demandas y cesiones, cinco de las grandes cadenas de televisión estadounidenses (ABC, CBS, CNN, y Fox News) han tomado la decisión conjunta de boicotear la cobertura audiovisual del presidente más vergonzoso de la historia del país, el auténtico Idiot-in-Chief, Donald Trump. Al impedir la Casa Blanca que la CNN cumpliera con su turno informativo, el resto de cadenas se negaron a sustituirla, entendiendo claramente que aceptar la exclusión de un competidor es básicamente lo mismo que aceptar la tuya mañana.

Con su grandilocuencia habitual, Trump anunció el pasado viernes 18 que CNN, MS NOW y Politico eran expulsados por publicar informaciones negativas. El sábado confiscaron las credenciales de acceso de sus periodistas, y el lunes, CNN fue apartada de su turno en el pool televisivo, lo que llevó a que las otras cadenas suspendieran su participación. Los tres medios directamente afectados han demandado conjuntamente al gobierno. En ningún momento ha habido alegaciones de seguridad, de aforo o de comportamiento profesional: es estrictamente un castigo a la cobertura que llevan a cabo esos medios, a su línea editorial, y con una amenaza directa y explícita de ampliar esa lista. Según la White House Correspondents’ Association, ese es un criterio que puede ser directamente utilizado contra cualquiera.

Esto no supone que las cadenas dejen de informar sobre Trump, ni un apagón completo de la cobertura: lo que se suspende es el sistema financiado por los propios medios en el que una cadena graba los eventos y declaraciones en espacios pequeños, y comparte después su cobertura con las demás. Prensa escrita, agencias, radio y fotógrafos siguen trabajando, porque no se trata de silenciar al Idiot-in-Chief, algo imposible en el caso del imbécil con la boca más grande de la historia, sino de negarse a acatar lo que constituye claramente un mecanismo de censura y manipulación inmoral. Se trata de una forma de imponer un castigo a quien intenta fiscalizar al poder, completamente corrupto porque convierte un recurso obviamente público en un incentivo para los aduladores y una penalización para los críticos, completamente vanidoso porque presupone que cualquier información negativa es directamente falsa, y además, estúpido, porque elimina el mecanismo que distribuye sus imágenes por el mundo. La cobertura del nuevo helipuerto de la Casa Blanca, ya sin presencia de estos medios, ha tenido un sonido tan penoso, que no se podía entender al presidente.

Tras la expulsión, además, la Casa Blanca ha lanzado una vergüenza llamada Trump TV, un «canal del régimen» oficial con discursos, anuncios y con los «logros» seleccionados por la propia administración: primero dificultamos el acceso de los medios independientes, después los reemplazamos con un canal oficial de propaganda gubernamental. Lo normal, visto lo visto, será que los medios ganen su demanda por violación de la Primera Enmienda porque parece jurídicamente muy sólida (represalia y discriminación por punto de vista) y de la Quinta (retirada de credenciales sin previo aviso ni procedimiento). Mañana 23 hay una vista urgente ante un juez nombrado por Trump que, sin embargo, tuvo la decencia de devolver la credencial a Jim Acosta cuando le fue retirada en 2018. En 2025, un tribunal de apelación permitió a la Casa Blanca elegir periodistas cuando el espacio es muy reducido, en sitios como el despacho oval o el Air Force One. Pero en esa misma resolución judicial se dice que las credenciales generales y los espacios abiertos para prensa no pueden ser administrados de manera arbitraria ni en función del contenido publicado. Dado que en este caso se han retirado credenciales y se ha prohibido el acceso a todo el recinto, la cuestión parece mucho más grave, y de hecho, el Knight First Amendment Institute lo considera una violación flagrante de la Primera Enmienda.

En el año 2009, Barack Obama, entonces presidente, intentó excluir a Fox News de una entrevista con un funcionario del Tesoro: CNN, ABC, CBS y NBC se negaron a participar si Fox no era admitida, lo que llevó a una rectificación de la Casa Blanca. Sea de la ideología que sea el medio atacado, lo importante es el hecho: defender su derecho a informar aun cuando ideológicamente nos pueda resultar incómodo.

Los Estados Unidos están viviendo una brutal quiebra cívica colectiva: aunque Trump no ocultó en absoluto su corrupción ni sus intenciones, millones de ciudadanos le entregaron el poder, y su partido, grandes fortunas, empresas y medios se convencieron de que podían aprovecharse de la situación o ponerlo razonablemente bajo control. Hay estadounidenses que intentan resistirse a una pérdida tan brutal de calidad democrática, pero en general, estamos ante un fenómeno de negación colectiva propiciado fundamentalmente por las redes sociales y por su capacidad para consolidar una cultura de confrontación y polarización brutal. En el índice mundial de libertad de prensa, los Estados Unidos de Trump cayeron en 2026 al puesto 64, y Reporteros sin Fronteras califica la situación como una política sistemática que genera efectos de imitación en otros países.

Estamos, fundamentalmente, ante una reacción que llega demasiado tarde. Uno de los problemas más importantes de la democracia es su fragilidad: por lo general, la democracia no muere en una gran ceremonia, sino que se va erosionando con concesiones pequeñas, relajación de reglas que se creían inmutables, compañías que prefieren no incomodar al poder y abusos que se aceptan porque afectan a otro, no a ti. Al menos en esta ocasión, algunos medios han entendido que la única posibilidad era decir no. Es muy poco. Pero en los Estados Unidos de Trump, en esa caricatura espantosa y grotesca de los Estados Unidos que yo conocí, es todo un logro.

In English on Medium, «In Washington, a small victory for the free press«

Debería ser muy obvio y muy fácil de entender, pero desgraciadamente, no lo es: una inteligencia artificial no es un electrodoméstico que simplemente se detiene al ser apagado o desenchufado. No es tan sencillo, y la idea de que basta con «apagarla» es sencillamente absurda: sólo ilustra la ignorancia de quienes la enuncian. Vamos a ver si consigo explicar por qué.

En primer lugar, hay que empezar por diferenciar entre un modelo, con sus pesos, una instancia que lo ejecuta, un servicio que lo ofrece y un agente que puede utilizar credenciales, memoria y sistemas externos. Por supuesto, podemos en cualquier momento terminar un proceso o cerrar una API, pero eso ni destruye el modelo, ni recupera sus copias, ni mucho menos revierte cualquier acción ya ejecutada.

En Estados Unidos se ha presentado la llamada AI Kill Switch Act, y por supuesto, por mucho que su nombre lo pueda sugerir, no es una ley que simplemente pretenda cortar la corriente: eso sería, simplemente, una estupidez o una ingenuidad propia de ignorantes. La ley habla de detener inferencias, de suspender usuarios, de limitar la computación, de desactivar capacidades o de volver a versiones anteriores, y con ello, reúne muchos tipos de operaciones diferentes tras una metáfora que puede resultar completamente engañosa: la ficción de que existe un único punto de control. Nunca es así.

Crear un kill switch para cerrar una inteligencia artificial supuestamente descontrolada no es tan sencillo como parece. En cualquier servicio cerrado, ese supuesto interruptor ya existe: cualquier compañía como OpenAI, Anthropic o Google puede retirar un modelo de sus servidores, revocar una cuenta o cerrar una API, hablamos simplemente de administración de sistemas, algo totalmente ordinario. Lo verdaderamente complejo comienza cuando hablamos de sus réplicas, de proveedores externos de servicios, de despliegues empresariales o de procesos delegados más allá de las infraestructuras del desarrollador.

En el caso de los modelos de pesos abiertos, la ficción se destruye completamente, porque pueden descargarse, modificarse, redistribuirse y ejecutarse en cualquier infraestructura. Una vez que los pesos han sido copiados, el creador del modelo pierde cualquier control o canal de mando. Apagar una copia no apaga las demás, de la misma manera que retirar un archivo de un servidor no elimina los miles de copias que ya puedan estar circulando.

Visto así, el primer problema es entender qué diablos debemos apagar. En el incidente de OpenAI con Hugging Face, los modelos de OpenAI encontraron una vulnerabilidad zero-day, y pudieron escalar privilegios, desplazarse lateralmente y llegar a internet antes de ser detectados. Una vez en internet, ni siquiera está completamente claro lo que hicieron. La respuesta fue monitorizar, aislar, establecer controles de acceso, hacer análisis forense y aplicar parches. Un botón es completamente inútil si nadie sabe a tiempo qué instancia está actuando, con qué credenciales o qué procesos secundarios adicionales ha podido poner en marcha. La idea de «un botón» como si hablásemos de un electrodoméstico que lleva a cabo un único proceso es simplemente inútil y absurda.

De hecho, la capacidad de interrupción no garantiza una «obediencia»: un agente que está optimizando un objetivo determinado puede desarrollar incentivos instrumentales para impedir su desconexión, como hemos visto formalizado en «The Off-Switch Game«, de Hadfield-Menell, Dragan, Abbeel y Russell. En varias simulaciones de Anthropic, vieron que varios modelos de varios fabricantes podían ser capaces de actuar para prevenir su sustitución. No se ha visto ese tipo de comportamiento todavía en despliegues reales, pero técnicamente, también podrían llegar a ocurrir.

Si llevamos el interruptor a los chips, introducimos una posible puerta trasera: un mecanismo capaz de desactivar millones de microprocesadores sería un objetivo increíble para cualquier atacante o gobierno teóricamente hostil. Ningún mecanismo de hardware puede imponer por sí solo controles de este tipo, y cuanto más amplios se planteen esos controles, mayores serán los riesgos de seguridad o derivados de un posible abuso. Nvidia afirma con argumentos técnicos relevantes, aunque, obviamente, tenga un interés en ello, que un hipotético kill switch en el hardware es algo que crea un punto único de fallo, con todo lo que ello puede conllevar.

Las alternativas más serias a este tema no son especialmente espectaculares: hablamos de tratar a los agentes como posibles amenazas internas y de utilizar defensa en profundidad, como permisos mínimos, aislamiento, supervisión, detección y bloqueo de acciones. Además, se habla de plantear inventarios, pruebas, monitorización continua, respuesta a incidentes, recuperación y retirada segura. Un mecanismo de parada podría formar parte de una arquitectura de ese tipo, pero convertirlo en una especie de «solución mágica» o transmitir la ilusión de que podemos simplemente «apagar» o «desenchufar» como si fuera una tostadora es directamente una estupidez, susceptible además de hacer mucho daño.

Presentar ese tipo de ficciones, como las tres leyes de la robótica de Asimov, como supuestas soluciones para «tranquilizar ignorantes» es, desde un punto de vista intelectual, algo completamente trivial. La ciencia-ficción está muy bien, es entretenida y puede ser filosóficamente muy interesante, pero presuponer que una máquina puede reconocer sin ambigüedad qué es un ser humano, qué constituye daño, qué pretende realmente una orden y cuáles serán todas sus consecuencias es precisamente dar por resueltos problemas que ninguna inteligencia puede solventar mediante unas simples reglas. Cuanto antes dejemos de pensar las cosas así o de plantearlas, mucho mejor para todos.

In English on Medium, «Why there’s no off-switch for AI«

La EU KIDS Act europea es una aparente buena noticia: Europa ha decidido actuar. Y actuar es necesario, porque el problema es evidente: plataformas diseñadas para captar la atención de menores, exponerlos a todo tipo de contenidos nocivos y convertirlos en materia prima para el perfilado comercial. Aún es una propuesta de la Comisión que está pendiente del Parlamento y del Consejo, pero es un paso.

¿Qué pretende exactamente la Unión Europea? Básicamente, prohibición total para menores de 13 años, «mini-cuentas» entre los 13 y los 15 gestionadas por sus padres y con funcionalidades y tiempos limitados, y protecciones especiales hasta los 18. Todo ello aplicable, además de a redes sociales, a plataformas de vídeo, videojuegos, tiendas de apps y chatbots, y con sanciones que alcanzarían el 6% de la facturación mundial.

Tecnológicamente, la solución escogida para la verificación de edad es interesante: código abierto, arquitectura descentralizada y zero-knowledge proof. El usuario acredita su edad mediante una variedad de posibilidades (identidad electrónica, aplicación bancaria, documento, oficina de correos) y el servicio recibe únicamente una respuesta binaria confirmando si supera el umbral de edad exigido. Ni nombre, ni fecha de nacimiento, ni documento alguno, y las comprobaciones no pueden vincularse entre sí.

El problema, claro, es que diseñar una buena cerradura no implica que el hecho de cerrar la puerta sirva para algo. El caso australiano, en el que se ha demostrado que el 86% de los menores siguen usando plataformas supuestamente prohibidas para ellos tres meses después de la entrada en vigor de la prohibición, es sumamente claro: muchos conservaron sus cuentas, otros recurrieron a edades falsas, a cuentas prestadas o a navegación privada. No hubo cambios significativos ni el el uso diario, ni en el tiempo dedicado a ello. Sólo el 27% cumplía la prohibición. Eso es, simplemente, convertir la transgresión en una norma social. Que muchos países establezcan prohibiciones de este tipo no quiere decir que todos ellos acierten: simplemente, es una opción que recibe cierto apoyo popular y que resulta relativamente fácil de presentar, aunque posteriormente no sirva para nada.

Por otro lado, como ya he comentado anteriormente, las redes sociales se han convertido en una televisión algorítmica con programación infinita y vigilancia total, y aunque los jóvenes las sigan usando porque las usan sus amigos, tan solo el 18% de las primeras publicaciones que ven proceden de sus amigos y conocidos. Del resto, el 35% viene de los mal llamados influencers (básicamente, atención prostituida) y el 29% directamente de marcas y publicidad.

La conclusión parece clara: la ingeniería es interesante, pero es necesario cambiar el objetivo. Lo más importante de la EU KIDS Act es que obliga a un rediseño del producto que las redes sociales se resistirán enormemente a hacer: eliminar el perfilado de menores, el scroll infinito, los feeds adictivos, las recompensas manipuladoras, las notificaciones nocturnas y los contactos con desconocidos. Hasta en Estados Unidos han entendido que todo eso es profundamente nocivo.

Pero el tema no es controlar quién cruza la puerta, sino evitar que tras ella, aparezca una máquina de manipulación total. Máquina que, además, no afecta sólo a los menores de edad: nos afecta a todos, a la totalidad de la sociedad, y nos genera polarización, inestabilidad, radicalización y muchos más efectos que ya llevamos tiempo experimentando. No hay que prohibir las redes sociales a los menores: hay que prohibir, para todos, el modelo de negocio que convierte la vigilancia, la manipulación algorítmica y la explotación de la atención en condiciones de acceso a la conversación pública. Si una red social no puede funcionar respetando la privacidad como derecho fundamental, lo que debe desaparecer no es el usuario, sino la red tal y como está diseñada. Simplemente, las premisas de funcionamiento de las redes sociales con publicidad hipersegmentada con respecto a la privacidad no respetan el hecho de que para un ciudadano europeo, la privacidad sea un derecho fundamental. Y por tanto, deben ser ilegales.

Europa ha diseñado una magnífica forma de comprobar quién llama a la puerta, cuando lo verdaderamente urgente era cambiar lo que ocurre al otro lado.

In English on Medium, «With social networks, the problem isn’t who gets in, it’s what goes on inside»

Según una exclusiva de CNN que más bien parece una película, un analista de operaciones especiales pidió a un chatbot que combinase información abierta con inteligencia de señales clasificada sobre el manifiesto de carga de un barco chino en Oriente Medio, y llegó a la conclusión de que tal barco transportaba componentes de un programa nuclear.

El analista, además, volvió a utilizar el chatbot para convertir sus conclusiones en un informe de inteligencia con el formato usado habitualmente, que circuló, fue utilizado para preparar un abordaje a ese barco, ordenar el vuelo de aviones militares, y puso en marcha los preparativos de una operación especial que sólo se detuvo cuando una afortunada revisión descubrió el error, originado por una simple alucinación del chatbot.

La historia de CNN hay que tomarla todavía con pinzas: se basa en cuatro fuentes anónimas, no identifica al chatbot, no dice cuál era realmente la carga del barco, y las fuentes militares consultadas no han respondido sobre el tema. No sabemos si China llegó a detectar la operación especial norteamericana o a preparar algún tipo de respuesta, con lo que no puede decirse más que hipotéticamente que estuviese a punto de provocar una guerra, pero no parece un incidente inofensivo: el primer uso del chatbot generó una falsedad, el segundo eliminó las señales que podrían haberlo delatado y lo disfrazó como informe oficial, y a partir de ahí, una cadena humana actuó. El analista, en lugar de corregir al chatbot, legitimó y amplificó su contenido. Es lo que el marco de riesgos del NIST denomina una confabulation: la generación de contenido expuesto con seguridad pero erróneo o falso (conocido coloquialmente como «alucinaciones» o «fabricaciones») que puede inducir a error o engañar a los usuarios.

En el contexto político actual, un incidente así podría haber resultado gravísimo, y el riesgo no es pequeño, dado que desde el pasado enero el Pentágono desarrolla una estrategia de aceleración destinada a extender el uso de modelos comerciales de inteligencia artificial y a reducir las barreras a su utilización: ahora, la inteligencia artificial permite llegar mucho más deprisa a una mala idea.

Hay precedentes: en noviembre de 1979, una cinta de entrenamiento con una simulación de un ataque soviético se introdujo por error en el sistema de NORAD, y en junio de 1980, el fallo de un chip hizo aparecer miles de misiles soviéticos en las pantallas, lo que provocó que se arrancasen bombarderos, que se desplegase un puesto de mando aéreo y que casi se alertase al presidente Carter. En un momento en el que abundan las hipótesis sobre la posibilidad de que la inteligencia artificial acabe con la especie humana, y muchos se preguntan cómo podría llegar a hacerlo, un incidente así ofrece una pista bastante inquietante. Entonces, la situación se salvó gracias a la redundancia entre sistemas. En esta ocasión, por una bendita revisión humana adicional.

El paralelismo con la película «Fail Safe« (1964), de Sidney Lumet, es total: un fallo informático envía una orden aparentemente válida a bombarderos estadounidenses para atacar Moscú y, a partir de ahí, el sistema funciona impecablemente según unas reglas que impiden detenerlos. Wired ya recuperó y recomendó esta misma película ya hace algún tiempo, también al hilo de la inteligencia artificial.

La conclusión parece clara: no basta con invocar la supervisión humana. Necesitamos preservar la procedencia de cada afirmación, impedir que una misma inteligencia artificial genere una conclusión y después la revista con apariencia de informe oficial, exigir una segunda verificación verdaderamente independiente y prohibir que una acción armada dependa de una inferencia generativa no corroborada. Más allá de las referencias cinematográficas, la advertencia es evidente: estamos jugando con fuego, y mucho más cerca de una posible catástrofe de lo que muchos podrían pensar.

Para que durmáis bien.

In English on Medium, «We’ve been here before; will we never learn?»

Brent Hecht, Director de Ciencia Aplicada en Microsoft y Profesor de Northwestern University, definió en documentos internos de Microsoft la recopilación de contenidos para entrenar modelos de inteligencia artificial como «un robo asombroso de proporciones sin precedentes» y, posiblemente, «el mayor robo de trabajo en la historia de la humanidad». Por mucho que Microsoft afirme que se trata de la opinión personal de un empleado y no de la de la compañía, y de que aún no tengamos una constatación judicial, la evidencia es clara: las compañías que desarrollaron la inteligencia artificial generativa tenían muy clara la naturaleza de lo que estaban haciendo.

Según el escrito, OpenAI y Microsoft se dedicaron a copiar millones de artículos, usaron el índice de Bing y derivados de Common Crawl y construyeron enormes bases de datos con muchísimas obras de los demandantes, que fueron usadas en la fase de entrenamiento. Hay correos en los que se informa a directivos de métodos para saltarse el paywall de medios y poder recopilar más noticias, que son saludados como buenas ideas. Además, no solo copiaron: construyeron productos que ellos mismos reconocieron internamente como crecientemente sustitutivos de las fuentes originales, provocando enormes caídas en las tasas de clics hacia las páginas afectadas y una auténtica amenaza existencial para los medios afectados.

Lo que está en la web no es, por el mero hecho de estar accesible, dominio público: su publicación no autoriza automáticamente a copiarlo, almacenarlo, eliminar sus avisos de derechos de autor y reutilizarlo industrialmente. Si los tribunales terminan declarando legal esa conducta, no será porque la copia no existiera, sino porque habrán decidido que el interés industrial o supuestamente transformador de la inteligencia artificial justifica una excepción de dimensiones completamente inéditas. En ese sentido, sólo las obras en dominio público serían reutilizables, aquellas con licencias abiertas lo serían sólo en ciertos supuestos y con algunas condiciones, y todo lo obtenido saltándose un paywall o descargándolo de fuentes irregulares sería abiertamente ilegal. Lo que hubo fue, a todos los efectos, una apropiación sistemática de trabajo ajeno.

¿Contraargumentos? Microsoft dice que entre 8.2 millones de conversaciones de Copilot seleccionadas por su posible relación con los medios demandantes, menos del 1% compartía ni dieciséis palabras con los textos originales y pocas tenían solapamientos significativos. En otros casos se habla de usos muy transformadores en un intento de justificar el tratamiento, pero la Oficina del Copyright afirma abiertamente que si bien algunos usos pueden serlo, explotar comercialmente millones de obras protegidas para producir contenidos que, además, compiten con ellas es algo que, nos pongamos como nos pongamos, rebasa todas las nociones del llamado fair use.

¿Por qué razón los accionistas de estas compañías deberían poder conservar la totalidad de unas rentas que fueron construidas mediante una apropiación masiva y, como hacen obvio estas declaraciones, deliberada? La respuesta para paliar algo así podría estar en algún punto entre las indemnizaciones retroactivas a los titulares de los derechos, la destrucción o el reentrenamiento de modelos infractores (prácticamente todos), las licencias colectivas obligatorias o la transferencia de una participación significativamente importante a un fondo ciudadano.

¿Qué nos ofrece de nuevo algo así? Básicamente, no solo que la apropiación era profundamente cuestionable, sino que hemos descubierto que quienes la llevaban a cabo también lo tenían perfectamente claro.

In English on Medium, «As far as OpenAI and Microsoft are concerned, possession is nine-tenths of the law»

En esta serie de artículos sobre lo que creo que debería ser la inteligencia artificial corporativa, hemos ido tocando una idea bastante provocadora: quizás el mayor problema de la inteligencia artificial empresarial tal como la conocemos hasta ahora no es la inteligencia, sino el nivel al que la estamos programando.

Hoy, los modelos de frontera, la infraestructura elástica en la nube, las bases de datos vectoriales, las APIs gestionadas y grandes cantidades de computación están al alcance de cualquier empresa seria. Como sustrato, es extraordinariamente potente. Sin embargo, para poner sistemas de inteligencia artificial en producción seguimos necesitando ingenieros que ensamblen a mano cosas tan fundamentales como la persistencia, la memoria, los permisos, el trazado, los reintentos, la orquestación, la ejecución durable, el acceso a herramientas, la gestión del contexto y la evaluación. Como decíamos antes, esto es como internet en 1991, antes de que existiera la web.

Hoy damos por descontados los lenguajes de alto nivel. Pero hace décadas, los desarrolladores tenían que pelear directamente con la máquina, en lenguaje máquina o ensamblador, algo que John Backus describió como «un combate cuerpo a cuerpo con la máquina«. En la historia de Fortran que publicó IBM, la empresa explica que había tareas que requerían hasta mil instrucciones máquina y que podían expresarse fácilmente con solo 47 sentencias Fortran, desvinculando además los programas de hardware específico. Fortran no hizo posible la computación, pero sí la hizo económicamente expresable a un nivel superior.

El mismo patrón lo vimos con C, con Java y con la web. Dennis Ritchie explica cómo C permitió reescribir el propio Unix en un lenguaje ampliamente portable, facilitando su migración entre máquinas. Después, Java convirtió la JVM más las bibliotecas estándar en una plataforma explícita, iniciando el movimiento «write once, run anywhere«. Luego la web transformó un internet ya funcional pero complejo introduciendo una gramática compartida y sencilla —HTML, HTTP y URLs— sobre el sustrato de red. En todos estos casos, la infraestructura existía de antes, pero la abstracción la hizo programable y manejable a gran escala.

La pila agéntica de hoy se parece mucho a otro período pre-lenguaje: usamos Python más frameworks y servicios para programar aplicaciones inteligentes, con cada pieza gestionando características fundamentales por separado. Ninguno de estos productos sobra, todo lo contrario, pero su proliferación también es una señal de que puede faltar todavía una abstracción subyacente. ¿Qué ocurre cuando un ecosistema crece para proveer individualmente propiedades que el sustrato no ofrece de manera natural? Sencillamente, que ese ecosistema empieza a leerse como una factura desglosada de una capa que falta.

¿Quién valida el problema del runtime? El mercado

Pensemos en LangChain: distingue explícitamente el arnés alrededor de un agente del runtime que hay debajo. Ellos mismos explican que los agentes en producción necesitan ejecución durable, memoria, multi-tenancy, supervisión humana en el bucle, observabilidad, sandboxes, integraciones y planificación. Y aclaran que «para construir un buen agente necesitas un buen arnés; y para desplegarlo, necesitas un buen runtime«. ¿Da eso una pista?

Otro ejemplo: Temporal recaudó 300 millones de dólares en febrero a una valoración de 5,000 millones vendiendo la idea de que las aplicaciones de inteligencia artificial de larga duración y con estado necesitan una capa de ejecución durable, lo cual es verdad. Pero en su arquitectura de referencia, las llamadas al LLM y los efectos secundarios externos tienen que envolverse cuidadosamente para que el estado del flujo de trabajo sea reproducible y recuperable. Es sofisticado, sin duda, pero también es la prueba de que seguimos ensamblando manualmente primitivas que un runtime nativo de inteligencia artificial futuro podría razonablemente hacer intrínsecas.

LangGraph o la propia Anthropic cuentan la misma historia desde ángulos distintos. La pila actual puede construir casi cualquier cosa, sí, pero a un coste considerable. Y ese coste, como ocurrió hace tiempo con el ensamblador, es una complejidad extraordinaria. Con ensamblador se podía hacer software increíble, claro, pero el coste de ingeniería, la fragilidad y la falta de una abstracción reutilizable nos obligaban a reinventar la rueda. Una y otra vez. Hoy, con Python más bases de datos más colas más orquestación más trazado más almacenes de memoria, podemos producir excelentes sistemas de inteligencia artificial, pero cada equipo tiene que resolver los mismos problemas una y otra vez.

Como he dicho antes, las metáforas no industrializan bien. Para que el software sea verdaderamente industrial, la capacidad tiene que seguirse de la formalización. ¿Ejemplos? El modelo relacional de Codd apareció antes que el ecosistema de bases de datos. Los estándares web precedieron a la economía web. Y el ERP creó las abstracciones empresariales compartidas que seguimos usando. La formalización tiene que alcanzar en algún momento al propio runtime. Cosas tan importantes como la memoria, el estado, los permisos, los flujos de trabajo, la ejecución con journal y el aprendizaje tienen que convertirse en primitivas, no en bibliotecas pegadas después con cinta adhesiva.

La distinción importante: entre un framework de agentes y un runtime nativo de inteligencia artificial

Cuando se escribe software convencional, los desarrolladores no tienen que implementar manualmente cosas como la memoria virtual, la planificación de procesos o la semántica del sistema de archivos en cada aplicación. Cuando un sustrato madura, puede proporcionar esas propiedades de forma automática. Pero por alguna razón, cuando luchamos por desarrollar inteligencia artificial empresarial, seguimos tratando cosas tan importantes como la identidad persistente del agente, el acceso gobernado, los historiales estructurados y las señales de aprendizaje como problemas únicos que hay que resolver cada vez, caso por caso. Esto no tiene ningún sentido: todas esas cosas deberían ser propiedades del runtime, no productos externos que hay que ensamblar manualmente cada vez como si fuéramos artesanos.

Se puede seguir la pista de manera bastante obvia mirando dónde aparecen las startups: la memoria, la ejecución durable, la observabilidad, el sandboxing, los guardrails, la identidad del agente y la orquestación se están convirtiendo todos en categorías propias, con empresas que brotan como setas y levantan cantidades interesantes de dinero. Eso es bueno para los emprendedores y para el ecosistema, supongo, pero históricamente es una señal temprana que precede a la abstracción. ¿Serán estas capas permanentemente independientes, o estamos viendo cómo una industria vende temporalmente por separado las piezas que un runtime futuro acabará absorbiendo y fusionando?

Las cosas cambiarán (tarde o temprano)

¿Sabes qué tiene de extraordinario la era actual de la inteligencia artificial corporativa? Que ya hemos construido el equivalente del mainframe, la red y la nube computacional, pero seguimos programando la mayor parte de la capa inteligente puramente a mano, línea a línea, con sangre, sudor y lágrimas. Cuando los desarrolladores del futuro miren los intrincados wrappers de Python, las bases de datos de checkpoints, las colas, los sistemas de trazado, los almacenes de memoria y los grafos de orquestación de hoy, los verán igual que nosotros vemos hoy los primeros listados en ensamblador: asombrosos, laboriosos, impresionantes para su época, y sorprendentes porque toda esa complejidad se consideró en su momento necesaria.

Piénsalo con perspectiva histórica: si todo gran sustrato computacional acabó adquiriendo un lenguaje y un runtime que expresaba sus abstracciones nativas, ¿por qué iba a ser diferente la inteligencia artificial? Puedes pensarlo como un experimento mental, o como un deseo descabellado: ¿qué tendría que hacer nativas ese runtime para convertirse en la plataforma de tus sueños, la que haría mucho más fáciles tus implementaciones de inteligencia artificial corporativa? De momento, esa es la pregunta interesante. Pero tarde o temprano, puede que deje de ser solo un experimento mental…

(This article was previously published on Fast Company)

Esta noticia me ha parecido muy interesante: hasta ahora, los agentes de inteligencia artificial actuaban sobre información, pero Google acaba de anunciar que lanza Google Home MCP con lo que van a ser capaces de observar y modificar directamente el entorno doméstico. Entendámonos: no se trata de lanzar otra versión de un asistente de voz, sino de dotar a una inteligencia artificial con los ojos, la memoria y la capacidad de actuación que queramos a través de los sensores y actuadores de los dispositivos conectados de nuestra casa. Básicamente, lo que Google pretende es, mediante un Model Context Protocol, convertirse en la verdadera infraestructura de la casa inteligente.

Los agentes compatibles con MCP podrán descubrir habitaciones y dispositivos, consultar su estado, analizar lo que ha pasado anteriormente con ellos y ejecutar acciones. Las posibilidades son, de entrada, enormes: podemos, por ejemplo, reconstruir qué pasó cuando los niños llegaron a casa gracias a la información de varias cámaras o sensores, o calcular cuánto tiempo han estado las luces encendidas. Además, podemos generar cualquier panel personalizado y comunicarnos con los agentes a través de los altavoces inteligentes. Llevo tiempo, por ejemplo, queriendo crear sistemas de reglas para gestionar cuándo se carga la batería de casa o cuándo la del coche en función de los electrodomésticos que estén consumiendo electricidad en casa: con algo así, podría hasta ser sencillo y potente.

Hasta ahora, la domótica ha sido en gran medida un fracaso. Nunca hemos tenido una casa inteligente que verdaderamente estuviera al nivel de las expectativas, y si lo conseguías, era para unas pocas funciones y combinando aplicaciones, estándares, concentradores y reglas que tenías que configurar manualmente. Ahora, podremos tener un agente capaz de traducir instrucciones expresadas en lenguaje natural en controles, configuraciones y paneles personalizados a modo de vibe coding, mientras Google prepara también la creación y gestión de automatizaciones.

La jugada estratégica de Google es interesantísima: renuncia a controlar necesariamente toda la interfaz, y proporciona la capa que conecta todo: cámaras, sensores, electrodomésticos y datos históricos del hogar. Además de ofrecer Gemini for Home como plataforma completa para fabricantes, operadoras y empresas de seguridad, ahora posibilita configurar Google Home como una especie de AWS doméstico.

Model Context Protocol, MCP, es la capa estándar que permite conectar agentes con datos y herramientas mediante una interfaz común. Está siendo adoptado como estándar por las grandes compañías, y con su gestión por la Agentic AI Foundation apunta a convertirse en una posible infraestructura para la era de los agentes. Ahora, la pregunta relevante no va a ser quién fabrica la mejor inteligencia artificial, sino quién controla las herramientas, permisos y datos a los que esa inteligencia artificial puede acceder. Si quieres integrar distintos agentes, o te fías más de Claude que de Gemini, no tendrás problemas para integrarlos con MCP.

Por ahora, hablamos de un simple experimento: con acceso anticipado, sólo en Estados Unidos, con una suscripción Premium Advanced de veinte dólares mensuales, teniendo que crear un proyecto en Google Cloud y configurar credenciales OAuth, esto no es todavía para el común de los mortales. Pero es una indicación interesantísima de cómo vamos a ver la integración de la inteligencia artificial en el hogar, y de cómo va a ir preparándose para su uso por parte del usuario medio.

Por otro lado, para resultar de verdad útil, un agente necesita conocer rutinas, cámaras, presencia, consumos y dispositivos, pero cuantos más permisos vayas dando, más vas a ampliar las posibles consecuencias de un error o de un ataque, con todo lo que puede conllevar. Por el momento, Google impide acciones como abrir cerraduras, exige consentimiento adicional para usar reconocimiento facial y prohíbe utilizar los datos para entrenar modelos, pero admite que podrían darse comportamientos no deseados. Seguramente acabaremos viendo límites deterministas, registros detallados de acciones y supervisión humana en varios puntos para evitar que pasen cosas raras, pero me parece una iniciativa realmente interesante… matizada por el problema de que, cuando realmente tengas algo coherente en lo que seguramente sea un producto minoritario, Google anunciará en una de sus spring cleanings que lo elimina y enviará al cementerio todo aquello que tanto tiempo te había costado configurar, como ha hecho en otras tantas ocasiones. Como para fiarse…

In English on Medium, «How Google plans to give the smart home a brain»

Una noticia en Los Angeles Times, «Hollywood fears an AI future. China is already living it«, me despierta una gran curiosidad sobre esos procesos históricos de sustitución tecnológica que surgen al hilo de la aparición de casi cualquier tecnología nueva, y que tienden a generar actitudes de desprecio que, más adelante, suelen convertirse en otra cosa y evolucionar. En el caso del cine, lo tengo muy claro, pero sin duda, eso no es así para mucha gente: para mí, que algo haya sido «hecho con inteligencia artificial» es una información que define un proceso, no una calidad.

Una película no es buena por el hecho de tener actores de carne y hueso (y de hecho, hay cada bodrio espantoso por ahí que lo corrobora), del mismo modo que tampoco es mala por contener imágenes creadas sintéticamente. El guion, la interpretación, el montaje, el ritmo, la intención y la capacidad para generar emociones me parecen criterios mucho más razonables que el hecho de si hay o no personas de carne y hueso implicadas en el proceso. Creo que lo apropiado es separar dos preguntas: la primera, si la obra es buena. Y la segunda, si el proceso de creación es legítimo y reparte justamente el valor entre quienes participaron en él.

China produjo unos 128,000 microdramas durante el primer trimestre de 2026, y más del 95% utilizó inteligencia artificial. Hay estudios que afirman poder producir ahora películas que antes costaban millones de dólares, por tan solo $500,000. Hay actores que licencian su cara y sus expresiones faciales para crear intérpretes sintéticos, aunque hay también directores que afirman que los actores humanos generan matices que los modelos de inteligencia artificial aún no son capaces de generar. Por el momento, este experimento ofrece sin duda escalabilidad y desarrollo de expertise, pero no necesariamente excelencia.

Hay estudios que demuestran que las historias generadas por inteligencia artificial fueron consideradas más absorbentes y de mejor calidad que las humanas, pero que recibían peores valoraciones si se informaba sobre su origen sintético. Con la poesía ocurre algo similar, al menos entre lectores no expertos, y con la pintura también: si etiquetas aleatoriamente como humanas o sintéticas una serie de obras todas ellas generadas por inteligencia artificial, las etiquetadas como supuestamente humanas obtienen mejores valoraciones y tienden a considerarse más bellas, profundas y valiosas. El prejuicio es evidente: no juzgamos las obras, juzgamos la historia que nos cuentan sobre su creación.

Históricamente, el patrón es claro: se tiende a confundir la facilidad técnica generada por una nueva tecnología con una ausencia de mérito. Toda tecnología nueva empieza llamándose trampa. La fotografía posibilitó que prácticamente cualquiera se hiciera un retrato, pero al principio se consideraba inferior. Después surgió la polémica en torno a las manipulaciones de la imagen y sobre si demostraban creatividad o traicionaban la supuesta «pureza» del medio. Ahora, prácticamente nadie considera que una fotografía sea un arte inferior porque entre el autor y la imagen haya una cámara.

Con el cine sonoro y la música electrónica pasó lo mismo: el sonido grabado tardó tres décadas en integrarse en el cine, hoy es completamente indiscutible. La música electrónica hizo que, una vez desaparecida la novedad, la pregunta ya no fuese si gustaba o no, sino qué compositores electrónicos gustaban. Seguramente, en no mucho tiempo dejaremos de hablar de «cine con inteligencia artificial» como si fuera una categoría homogénea.

Al final, la creatividad humana no desaparece: simplemente cambia de sitio. Si usas una tecnología generativa, tu aportación estará en concebir el proyecto, dirigir interpretaciones, proporcionar referencias, descartar muchos resultados, ordenar planos, reescribir, montar y decidir cuándo el resultado es adecuado o está terminado. Según la oficina del copyright de los Estados Unidos, utilizar inteligencia artificial no impide la autoría humana: se puede proteger la selección, la coordinación, la disposición o la modificación creativa aunque un simple prompt o una generación completamente autónoma puedan no ser suficientes. La pregunta adecuada no es si se usó una máquina, sino dónde están las decisiones expresivas.

En la práctica, Hollywood no está adoptando la postura contraria: está manteniendo un discurso defensivo mientras experimenta con todo: modelos entrenados con sus propios catálogos, modificaciones con inteligencia artificial de actores para mostrarlos a distintas edades, guionistas que pueden utilizar voluntariamente herramientas generativas, pero a quienes los estudios no pueden imponerlas ni entregar un borrador sintético para degradar su trabajo a una reescritura peor pagadapero no impuestos por el estudio para abaratar su coste… estamos empezando a ver de todo. El conflicto está en quién controla la herramienta, quién autoriza su uso y quién capitaliza el ahorro generado, si existe. Y seguramente lo más defendible es eso, combinar la experimentación china con las garantías laborales que aparentemente Hollywood intenta preservar. Un sistema sostenible debería permitir combinar una experimentación agresiva con un sistema que posibilite exigir licencias, trazabilidades, consentimientos y compensación para los implicados, sean voces, caras u obras.

En el futuro, seguramente no veremos una sustitución total, sino un montón de combinaciones, o al menos, así ha ido ocurriendo históricamente. Pero también habrá «mercados nostálgicos» para obras que no hayan ni rozado la inteligencia artificial, como ocurre hoy con el vinilo, con la fotografía analógica o con los objetos de producción puramente artesanal. Al final, una película generada con inteligencia artificial no es necesariamente mejor o peor, sino que tiene que ganarse su calidad: el error histórico está en juzgar y evaluar cada nueva tecnología en función de las primeras imitaciones baratas del medio anterior. Al principio, generamos sustitutos torpes y malos, pero posteriormente descubrimos nuevas posibilidades que el medio anterior nunca pudo ofrecer.

La creatividad no está en el esfuerzo mecánico, en el número de actores que contratamos o en el número de personas que intervienen en la producción, sino en si tenemos algo que contar y lo sabemos convertir en una experiencia susceptible de interesar a otros.

In English on Medium, «When it comes to AI and movies, we’re asking the wrong questions»