La conducción autónoma, pese a lo intuitivo que resulta el concepto, tiene una comprensión muy mala por parte de mucha gente. De hecho, muchos todavía piensan que se trata de una «prestación extra» que se puede activar cuando quieres mirar el móvil mientras conduces, o algo así. La realidad es que no, que de lo que se trata es de retirar del sistema la pieza más imprevisible y la que provoca la inmensa mayoría de los accidentes: el conductor. Ahora, los datos publicados por Waymo empiezan a demostrar que, efectivamente, el vehículo autónomo está empezando a cumplir su verdadera función: evitar accidentes.

Cuando Waymo inició su actividad en 2009, lo hizo como un experimento para “mejorar la seguridad vial eliminando completamente al conductor”. Desde ese inicio de actividad hasta junio de 2026, los vehículos de Waymo han recorrido 271,3 millones de millas sin conductor en Phoenix, San Francisco, Los Ángeles, Austin y Atlanta. Si comparamos esa distancia con lo que estadísticamente habría ocurrido si la hubieran recorrido conductores humanos, su sistema registra un 82% menos de accidentes con lesiones: 841 accidentes de este tipo menos de los esperables. Además, se produjeron un 95% menos de accidentes con lesiones graves o mortales, que son 55 menos, y un 82% menos de colisiones en las que se desplegase el airbag. Entre los colectivos más vulnerables, las reducciones fueron de, 93% para peatones, el 86% para ciclistas y el 82% para motoristas.

Lo que hace Waymo en su informe es calcular cuántos accidentes con lesiones se habrían producido estadísticamente con conductores humanos, restar los que realmente se produjeron, y traducir cada uno de esos accidentes en «al menos una persona herida menos». Un procedimiento razonable, sí, pero no es lo mismo que decir «841 heridos menos» como si tuviesen cara, nombre y apellidos. De todas formas, el Insurance Institute for Highway Safety, con los informes obligatorios remitidos a NHTSA y filtrando únicamente los accidentes que una persona normalmente comunicaría a la policía, afirmó que los Waymo sin conductor tienen un 68% menos de colisiones notificables por milla, con una tasa de 1.28 accidentes por millón de millas frente a los 4.06 de los conductores humanos, un 91% menos de colisiones en las que el Waymo alcanzó por detrás a otro vehículo y un 40% menos de colisiones en las que fue alcanzado, con la única salvedad de que los resultados únicamente son extrapolables a los vehículos, ciudades y condiciones de operación incluidos en el estudio. Mientras Waymo mide accidentes con lesiones y ajusta la infranotificación humana (afirma que el 32% de esos accidentes nunca llega a ser reportado a la policía), IIHS estudia colisiones comparables que de manera razonable serían notificadas, de ahí las diferencias. Pero aunque son métricas y períodos diferentes, las ventajas que encuentran a favor del vehículo autónomo son significativas, elevadas, y siempre en la misma dirección.

Frente a Tesla y su sistema, mucho más sencillo y barato, la aproximación de Waymo, ya en su sexta generación, parece estar consiguiendo resultados interesantes. Waymo usa cámaras, lidar y radar como sensores complementarios y redundantes, menos eficiente desde un punto de vista industrial que las cámaras y redes neuronales con hardware relativamente barato y una flota enorme de Tesla, pero Tesla aún no ha conseguido demostrar realmente un nivel 4 (su supuesto «Full Self Driving» es, a pesar de su nombre, aún supervisado), mientras que Waymo ya tiene ese nivel 4 y una demostración pública de seguridad.

La OMS estima 1.16 millones de muertos y entre 20 y 50 millones de heridos anuales, usar el móvil mientras se conduce multiplica por cuatro el riesgo, y factores como la distracción, el alcohol o la velocidad inadecuada contribuyen de manera notable. Y son precisamente las cosas que una máquina no hace: ni distraerse, ni beber, ni dormirse, ni enfadarse, ni presumir, ni confundir la temeridad con habilidad. Frente a todos los ignorantes que decían eso de «sólo serán seguros cuando todos los vehículos que los rodean sean autónomos», la realidad: cada vehículo autónomo mejora la seguridad de todo el sistema.

Los Waymo funcionan todavía en entornos delimitados, y en ocasiones bloquean el tráfico, interpretan mal algunas situaciones y sufren algún accidente. No son aún una autonomía universal del nivel 5. Pero lo que tenemos que hacer es comparar sus tasas, la gravedad y la evolución con respecto a la conducción humana: aún se necesitan cientos de millones de millas para demostrar estadísticamente mejoras significativas extrapolables a todas las situaciones y aun así la conducción real debe complementarse con simulaciones y otras metodologías de evaluación, pero Waymo parece estar, al menos, en el buen camino.

Si algo tengo claro es que con el tiempo, conducir será algo que nos parecerá demasiado peligroso como para dejarlo en manos de conductores humanos, simplemente porque las máquinas son mucho más sobrias, atentas, pacientes y coherentes, además de aprender colectivamente de cada incidente y mejorar. En algún momento dejaremos de preguntar si un automóvil autónomo puede equivocarse, y empezaremos a preguntarnos por qué permitimos que conduzca una persona cuando tenemos alternativas muchísimo más seguras. Sólo espero que me dé tiempo a verlo.

In English on Medium, «Driving is human. And that’s the problem»

Imagínate trabajando con alguien totalmente incapaz de aprender o de adquirir experiencia alguna. No hace falta visualizar a una persona absurdamente tonta o carente de inteligencia: basta con pensar en alguien que se incorpora a la empresa, atiende a numerosos clientes, vive éxitos y fracasos, asiste a reuniones y toma decisiones… pero que, al cabo de un año, posee las mismas habilidades y capacidades que el primer día. ¿Podría decirse que esa persona tiene experiencia?

Sorprendentemente, eso es exactamente lo que ocurre con gran parte de la inteligencia artificial corporativa que se despliega e implementa hoy en día. Obviamente, no estoy afirmando que un sistema de inteligencia artificial no pueda cambiar tras su despliegue: todos sabemos que sí puede; lo hemos comprobado incluso en nuestras propias interacciones con chatbots. Los sistemas pueden acumular memoria, recuperar interacciones previas, actualizarse, ajustarse con precisión o ver modificada la lógica que los rodea. Sin embargo, recordar no es lo mismo que aprender. Un sistema puede acumular información sin mejorar su capacidad para decidir qué hacer a continuación. Pero el mero hecho de utilizar más un LLM no hace que el modelo desplegado aprenda de las consecuencias de sus acciones.

Satya Nadella lo vio con claridad y distinguió entre el modelo general, susceptible de ser sustituido en cualquier momento, y la experiencia duradera, propia de un «veterano de la empresa», que debería acumularse en torno a dicho modelo. Satya aún no tiene la herramienta para ofrecer algo así a sus clientes empresariales, que no son pocos, pero va por el camino correcto.

¿Hacia dónde se dirige la experiencia corporativa hoy en día?

¿Cuántas fuentes de aprendizaje genera tu empresa a diario? Desde un cliente insatisfecho hasta un descuento que funcionó (o no), un proveedor que entregó tarde, una operación de soporte que resolvió un problema o lo agravó, o una estrategia de ventas que fracasó en un segmento pero tuvo éxito en otro… todo esto no son simples «datos»: se trata de acciones concretas seguidas de consecuencias específicas.

¿Qué parte de esa experiencia puede servir para que la inteligencia artificial del mañana supere a la actual? Si consideramos la perspectiva de Microsoft al respecto, las ventajas surgen cuando se aprende de lo ocurrido en la operativa real y se logra incorporar esas señales en los prompts, el enrutamiento, la recuperación de información y otras decisiones del sistema: las operaciones cotidianas deben convertirse en lecciones de las que su sistema pueda aprender.

La memoria le indica a la inteligencia artificial qué sucedió, pero el aprendizaje modifica sus acciones futuras.

Imagínate un equipo de vendedores muy disciplinados que llevan un registro detallado de su actividad: tras miles de llamadas, dicho registro contendrá una enorme cantidad de información, pero el criterio de los vendedores permanecerá prácticamente inalterado. ¿Realmente han aprendido algo? Recordar que un cliente concreto rechazó un descuento del 10% puede resultar útil o práctico; sin embargo, aprender que ese segmento de clientes responde mejor a implementaciones rápidas que a los descuentos es algo cualitativamente distinto.

Existe incluso un campo de investigación denominado aprendizaje continuo, cuyo objetivo es permitir que los sistemas inteligentes aprendan de forma incremental a partir de flujos de experiencias en constante cambio, conservando al mismo tiempo los conocimientos previos útiles: fundamentalmente, se trata de aprender cosas nuevas sin olvidar las anteriores.

Poseer la experiencia frente a sólo alquilar la inteligencia

Cuando distintos competidores pueden adquirir los mismos modelos de frontera, el acceso a esos modelos deja de constituir una ventaja competitiva sostenible. Lo que realmente puede convertirse en la esencia de tal ventaja es todo aquello que se ha aprendido a partir de la propia trayectoria: clientes, decisiones, campañas, correcciones, fracasos, excepciones, resultados, etc. A este respecto, Satya Nadella planteó una interesante «prueba de veteranía empresarial»: imaginemos que mañana sustituimos un modelo por otro distinto; ¿permanecería la experiencia acumulada en el seno de la organización? La verdadera oportunidad reside en crear un ciclo de aprendizaje en el que el capital humano y el capital de tokens puedan generar un efecto acumulativo, en lugar de limitarse únicamente a elegir el mejor modelo. El aprendizaje acumulado debe perdurar independientemente del modelo, que es sustituible, en lugar de desaparecer si se decide adoptar uno nuevo.

La idea es que la escala haga a la empresa más inteligente, no solo más grande. El software tradicional puede procesar un millón de transacciones en lugar de diez mil. Un sistema inteligente debería ir un paso más allá: la interacción número un millón debería dejarlo mejor preparado para la interacción 1,000,001. Lo que se debe obtener de un sistema corporativo es una inteligencia acumulativa, no meras bases de datos, registros o memoria. Los sistemas de recomendación de empresas como YouTube, Spotify o Amazon llevan mucho tiempo utilizando flujos de comportamiento y comentarios de los usuarios para mejorar sus recomendaciones futuras (o, al menos, para intentarlo), y lo hacen incluso sin recurrir a la inteligencia artificial. ¿Por qué habríamos de aceptar una inteligencia artificial corporativa que no aprenda ni mejore a partir de la experiencia de la propia empresa?

Aprender cada día no es replicar simplemente lo que hicimos ayer.

Los bucles de retroalimentación pueden ser tanto negativos como positivos. La empresa debe definir qué significa realmente el éxito. Unas llamadas de atención al cliente más rápidas no son necesariamente mejores si, posteriormente, los clientes se marchan por no estar satisfechos con la calidad de la interacción. Una mayor tasa de conversión no es necesariamente mejor si los descuentos están erosionando los márgenes. Un mayor volumen de producción no es mejor si, como consecuencia, la calidad se deteriora. El economista británico Charles Goodhart acuñó una frase que utilizo en todos mis cursos: cuando una métrica se convierte en un objetivo, deja de ser una buena métrica.

Por tanto, es necesario decidir en qué aspectos la organización quiere que el sistema mejore. Asimismo, debemos monitorizar la inteligencia artificial implementada en condiciones reales, ya que las pruebas controladas previas al despliegue no pueden abarcar todas las consecuencias potencialmente inesperadas que podrían surgir durante el uso efectivo.

¿Qué preguntas deberían plantearse los CEOs?

Actualmente, los CEOs hacen preguntas como: «¿qué modelo utiliza?», «¿cuál es su grado de precisión?», «¿cuántos agentes puede ejecutar?» o «¿cuál es el coste por token?». Alguien les ha convencido de que esas eran las preguntas inteligentes que habçia que hacer. Sin embargo, existe otra pregunta que podría ser mucho más importante: «¿En qué aspectos mejorará este sistema tras trabajar para nosotros durante doce meses?». O, para ser más precisos: «¿Qué aprende de los éxitos y los fracasos?», o «Si mañana sustituimos el modelo subyacente, ¿cuánto de lo que el sistema ha aprendido sobre nuestra empresa perdurará?». Si la respuesta a la primera pregunta es «nada, a menos que los ingenieros lo reentrenen o rediseñen» y la respuesta a la segunda es «muy poco», entonces es posible que la empresa esté simplemente alquilando inteligencia sin acumular prácticamente inteligencia propia. Y por tanto, ninguna ventaja competitiva sostenible.

Y estoy convencido de que eso no es lo que quieres. La próxima generación de inteligencia artificial corporativa no se definirá simplemente por el nivel de inteligencia que posea el primer día, sino por cuánto habrá mejorado para el día 1,000. Asegúrate de que tu empresa sepa sacar partido de ello, porque otras sin duda lo van a hacer.

(This article was previously published on Fast Company) 

Un jurado de Nuevo México ha considerado a Meta responsable de mentir a sus usuarios acerca de las protecciones de su privacidad, y por tanto, responsable de más de cuarenta y tres millones de violaciones de las leyes estatales de protección del consumidor. Está por determinar la multa que tendrá que pagar la compañía por cada una de esas violaciones de la ley estatal, y los abogados del estado solicitan que se le imponga el máximo, cinco mil dólares por cada caso. La multa teórica máxima correspondería a unos 219,500 millones de dólares, pero corresponde al juez fijarla, y es seguro que la compañía la recurrirá.

El jurado considera probado que Meta mintió en veintiséis de las veintinueve declaraciones examinadas sobre la gestión de sus datos, de la desinformación, del discurso de odio, de la aplicación de sus normas o, yéndonos atrás en el tiempo, sobre Cambridge Analytica. De hecho, más de dieciocho millones de infracciones se corresponden expresamente con cuestiones que la compañía prometió (e incumplió, como siempre) tras ese escándalo.

La prueba de la evidente intencionalidad de la compañía es que Facebook descubrió en 2015 el uso indebido de los datos, pero durante más de dos años continuó presentándolo ante los inversores como un riesgo meramente hipotético, y dijo expresamente a los periodistas que no había encontrado evidencia alguna de irregularidades en ese sentido. No hablamos, por tanto, de una negligencia, sino de una intención clara de que aunque el hecho era conocido, se quiso construir intencionadamente un relato público completamente falso sobre él.

Además, la reincidencia destruye cualquier posibilidad de considerarlo un error: en 2012, Facebook prometió formalmente a la FTC no volver a engañar sobre sus prácticas de privacidad, pero en 2019, la misma FTC concluyó que había infringido aquel acuerdo y le impuso una multa de 5,000 millones de dólares, por haber compartido datos pese a las preferencias expresadas por los usuarios y por utilizar para publicidad teléfonos que le habían sido entregados por los usuarios sólo con propósito de autenticación. Es decir, la compañía te obligaba a dar tu teléfono con la excusa de verificar que eras efectivamente tú, pero después tomaba esos teléfonos y los utilizaba para dirigirles publicidad hipersegmentada. Angelitos.

El modelo de negocio de la compañía es completamente evidente: promesa, incumplimiento, ocultación, escándalo, multa, nueva promesa. Y así, sucesivamente. Nada que no llevemos ya años diciendo. Además, no es simplemente Facebook, sino toda Meta como tal: en Instagram, hemos visto una multa de 405 millones de euros por el tratamiento de datos de menores, incluidas cuentas infantiles públicas por defecto. En WhatsApp, una multa de 225 millones por incumplimientos de transparencia, incluidos los intercambios de información con otras compañías de Facebook. Además, otra multa de 1,200 millones por transferir ilegalmente los datos de ciudadanos europeos a los Estados Unidos, y otra, también en Nuevo México, con 942 millones de dólares entre sanción y medidas reparadoras por engañar sobre la seguridad y facilitar daños y explotación.

Con los Facebook Files pudimos ver de manera perfectamente clara y evidente que la compañía conocía perfectamente los daños que provocaba Instagram, la actividad de trata de personas y la amplificación de la polarización y la violencia. Y en Myanmar, la investigación llevada a cabo por la propia compañía reveló que en ningún caso había hecho lo mínimamente suficiente para intentar evitar que su plataforma fomentara el odio contra los rohingyás.

El incentivo para toda esta línea de actuación perfectamente demostrada y probada es evidente: en el año 2025, la compañía obtuvo casi el 98% de sus ingresos, 196,175 millones sobre un total de 200,966 millones de dólares, de la publicidad. Lo que no es publicidad, es prácticamente un error de redondeo. El producto económico de la compañía no es WhatsApp, ni Instagram, ni Facebook, ni Threads o Muse, sino simplemente su capacidad de observar, perfilar, predecir y modificar comportamientos para vender publicidad. Un modelo cuya explotación sin consentimiento válido y sin una alternativa real basada en menos datos personales ha sido declarada contraria a la legislación europea, y que debería serlo en todo el mundo, más aún cuando conocemos perfectamente sus espantosos efectos sobre las personas y la sociedad.

Las multas, además, ya no son suficientes: cuando se publicó la multa récord de cinco mil millones de dólares en 2019, la cotización de sus acciones subió, porque el mercado entendió perfectamente que eso era tan solo el coste de hacer negocios, y que la impunidad continuaba. La cuestión es clara: una multa corporativa la pagan los accionistas y los usuarios, no quienes tomaron las decisiones que la provocaron. La única posibilidad es exigir que las conductas claramente deliberadas sean investigadas para determinar responsabilidades personales, también penales cuando corresponda. De hecho, la propia orden de la FTC ya contempla responsabilidad civil y penal individual por certificaciones falsas de los ejecutivos, y lo único que falta es la voluntad para utilizarla.

Meta tiene dinero, abogados y capacidad para emitir comunicados como para convertir cada condena en un simple «desacuerdo». El usuario ya no puede en ningún caso decir que «no sabía»: cada cuenta activa aporta datos, ingresos, legitimidad y efectos de red. Cerrar Facebook, Instagram, Threads y WhatsApp no es imposible, no es un gesto simbólico y no es una cuestión de purismo digital: es dejar de colaborar voluntariamente con una compañía que ha demostrado, una y otra vez, que considera nuestra intimidad, nuestros hijos y hasta nuestras democracias como simples costes de explotación. Las multas y los intentos de que Meta cambie su forma de entender los negocios son simplemente pérdidas de tiempo: como ya escribí el pasado julio, Meta no es una empresa tecnológica con algunos problemas éticos, sino un descomunal problema ético convertido en empresa tecnológica. La naturaleza de la bestia no se cambia pidiéndole que muerda con más cuidado. Se le quitan los dientes, se la encierra o se impide que siga saliendo a por más víctimas.

In English on Medium, «Meta’s business model is built on lies; it’s time to smash the company into a thousand pieces once and for all«

La cuestión destila una ironía deliciosa: una serie de personas contratadas por OpenAI para entrenar su inteligencia artificial han sido despedidas por utilizar inteligencia artificial para entrenar a la inteligencia artificial. Sí, vuélvelo a leer, pero con más atención: es lo que es. Varias personas contratadas por OpenAI estaban utilizando herramientas como Grammarly o traductores automáticos en tareas en las que este uso, o la asistencia de cualquier tipo, estaban específicamente prohibidas. Básicamente, estaban haciendo trampas.

¿O no? ¿Estaban realmente haciendo trampas, o se trata de un uso razonable? Veamos: en primer lugar, había una prohibición expresa. Razonable o no, pero expresa, puesta en negro sobre blanco. En segundo, se disimuló y se intentó ocultar ese uso, lo que también dice algo sobre la cuestión. Y en tercero, se utilizaron esas herramientas automatizadas en tareas que reclamaban la obtención de un juicio genuinamente humano. Parece que aunque se intente argumentar que la redacción en un segundo idioma o la traducción no son como tal un trabajo que implique la subcontratación a una máquina de un juicio humano, en este caso hay poco que protestar. Como mucho, discutir que el hecho de que la prohibición contractual convierta algo en incumplimiento no demuestra necesariamente que esa política sea sensata o tenga realmente sentido.

¿Pero debe ser así en todos los casos? ¿Realmente el uso de inteligencia artificial debe convertir automáticamente al que la usa en un tramposo? ¿Así, sin paliativos ni interpretaciones posibles? A ver, intentemos sentar una serie de bases: yo diría que hay tres criterios que pueden convertir el uso de inteligencia artificial en trampa: vulnerar una regla expresa, falsear quién hizo el trabajo intelectual relevante o delegar precisamente la competencia por la que estamos siendo evaluados.

Si te han dicho específicamente que no lo hagas, es decir, si al usar inteligencia artificial estás violando algún tipo de regla especificada como tal, y a pesar de ello la usas, estás haciendo trampas. Independientemente de que la norma tenga o no tenga sentido, estás infringiéndola, y quien te pidió el trabajo te podrá decir que estabas advertido. Pero sigamos: si al usarla estás generando una representación errónea de quién hizo el trabajo intelectual relevante, es decir, que las ideas, los juicios de valor, las conclusiones, etc. no las hiciste tú, sino que las hizo la inteligencia artificial, estás usándola para presentarte como autor de algo que no hiciste, y por tanto, trampa. Y por último, si con el uso de la inteligencia artificial estás subcontratando precisamente la competencia o responsabilidad por la que te están evaluando, lo que daría lugar a una valoración incorrecta, entonces es trampa.

El contraste central, creo, está en la asistencia frente a la sustitución. La inteligencia artificial puede ser puramente asistencial (organiza, resume, corrige, propone alternativas o acelera un trabajo cuya dirección intelectual sigue siendo humana), sustitutiva (realiza precisamente el razonamiento, juicio o creación que se esperaba de la persona), o directamente engañosa (además de sustituir, se oculta para inducir a otros a atribuir a la persona una capacidad, esfuerzo o autoría inexistentes).

Podemos plantear múltiples ejemplos. Que un estudiante entregue un trabajo en el que se le pide que lleve a cabo un razonamiento, y haya subcontratado ese razonamiento a un chatbot es, claramente, trampa, además de ser una forma de perder el tiempo porque no genera prácticamente ningún aprendizaje, que era la finalidad última de toda la cuestión. Pero si lo que se evaluaba era la capacidad de investigación y el uso de herramientas, el uso puede ser perfectamente legítimo, como si se usa para comprobar una traducción en un curso que no sea de idiomas, o para asegurar la corrección gramatical. A un directivo, por ejemplo, se le paga por su juicio y por sus resultados, no por teclear personalmente cada página de un informe o una presentación. A un escritor o periodista que use inteligencia artificial para estructurar, plantear alternativas o editar, no parece muy razonable negarle la autoría intelectual si las ideas, las decisiones o el tono son genuinamente suyos. El engaño comienza cuando se intenta hacer pasar el trabajo generado como prueba de una labor humana (de redacción, investigación o creación) que, en realidad, nunca tuvo lugar. Creo que Associated Press o Springer Nature lo hacen razonablemente bien al marcar sus reglas, mientras que otros que pretenden que sus profesionales «no toquen la inteligencia artificial ni con un palo» aunque sea para traducir, buscar fuentes o usos similares resultan bastante absurdos y maximalistas.

¿Por qué lo ocultamos? Simplemente, porque en cuanto aparece la inteligencia artificial, los trabajos se desvalorizan y los usuarios son percibidos como vagos y menos competentes. No debería ser automáticamente así y sin duda no lo será en el futuro, pero ahora mismo lo es, y ese estigma empuja a los autores a esconder cualquier tipo de uso, aunque sea perfectamente legítimo. Si además las instituciones responden con secretismo o con reglas poco claras, es peor aún.

¿Mi conclusión? Me parece profundamente simplista situar el límite entre «humano» e «inteligencia artificial». Deberíamos situarlo entre «asistencia declarada» y «sustitución encubierta». Las normas deberían, además de tener sentido común, especificar de forma muy clara qué cosas no pueden delegarse bajo ningún concepto: el aprendizaje, el juicio, la verificación, la rendición de cuentas, la obtención de información original o la evaluación genuinamente humana. Todo lo demás es, en gran medida, una simple cuestión de cómo definimos nuestros flujos de trabajo.

In English on Medium, «In our AI world, is everybody now cheating?»

Es un tema con el que no dejo de alucinar y que no deja de horrorizarme, de hacerme repetir eso de «tenemos lo que nos merecemos»: el agente de inteligencia artificial que más necesita saber, que más información extrae de nosotros, Muse, ha sido creado por la compañía que sin ninguna duda nos ha dado menos razones para confiar en ella, Meta. Y lejos de ser considerado un experimento peligroso o un riesgo, resulta que ha sido un éxito inmediato, hasta el punto de que más de medio millón de imprudentes – o directamente estúpidos – probaron Muse en una semana, con 250,000 usuarios activos diarios y más de dos millones de instrucciones. CNN habla ya de 2,5 millones de descargas según Sensor Tower. Pero de verdad… ¿esa gente en qué diablos está pensando?

¿Qué es Muse? Es un agente, no un chatbot. Es decir, que puede acceder a cosas como correo, calendario, finanzas, reservas, compras, navegación autónoma, llevar a cabo tareas en segundo plano, usar memoria persistente y tener capacidad de actuar de manera autónoma en nombre del usuario. Básicamente, si con Facebook, Meta podía conocer nuestras relaciones y con Instagram, nuestros gustos; con Muse puede conocer nuestro correo, nuestra agenda, los saldos de nuestras cuentas, nuestros documentos, nuestros planes y nuestras intenciones. Es el nivel más íntimo y personal al que jamás ha tenido acceso Meta: directamente pasa de observar lo que hicimos, a intervenir en lo que pensamos hacer. Y hay incautos que le han dado ese acceso, y no uno ni dos: medio millón de ellos. Luego que si por qué nos pasa lo que nos pasa como sociedad. Ya de por sí, me parecería un peligro. Pero siendo Meta quien está detrás, no es que me parezca un peligro, es que me parece directamente una absoluta imprudencia y una locura. O lo dicho, una prueba de idiotez supina.

Si lo instalas, empieza a sugerirte que conectes cuentas bancarias, correo, pasaporte, documentos y alimentación. Cualquier fuente de datos que le permita «conocerte mejor» para actuar en tu nombre. Es literalmente el sueño húmedo de Zuckerberg: una panda de descerebrados que se lo cuenta todo y que dan a su producto privilegios inimaginables. Y todo eso lo guarda en una memoria permanente editable, sí, pero sin ningún interruptor para desactivarla completamente. ¿Nos suena de algo? Como en Hotel California: puedes hacer checkout siempre que quieras, pero nunca te puedes ir.

La propia Meta reconoce que el uso de las interacciones de los usuarios para entrenar modelos está activado por defecto, que los datos de Muse están supuestamente separados de la publicidad directa, pero que sus acciones pueden influir indirectamente en los anuncios que reciba el usuario, y que el desarrollo de una máquina virtual inaccesible incluso para Meta es solo una hipótesis futura anunciada, pero no el nivel de protección actual.

Además de la nula confianza que puede ofrecer Meta como compañía, está la cuestión técnica: hablamos de una empresa tan profundamente imprudente, una compañía que ha acumulado un larguísimo historial de problemas de privacidad y seguridad que han puesto en riesgo la información de sus usuarios. Y en el caso de Muse, ha empezado de hecho con una vulnerabilidad que podía conceder un control extraordinario sobre el equipo del usuario, aunque Meta publicó después un parche de emergencia.

Para hacer la cosa aún más interesante, un actor que no es precisamente pequeñito, Amazon, ha decidido bloquear Muse, es decir, la posibilidad de que un usuario utilice su agente en Muse para hacer compras en la plataforma de comercio electrónico de la compañía. ¿Las razones? Que Meta no pidió autorización, que Muse no se identificaba como agente, y que podía tener acceso a cuentas, pedidos y credenciales. Amazon alega que Muse parecía capturar y almacenar las credenciales del usuario, Meta afirma que permanecen en un almacén seguro y que el modelo no puede verlas. No sé de quién me fío menos.

Lo que Amazon está defendiendo no es únicamente al usuario, sino el control de la relación comercial, las recomendaciones, y su negocio publicitario de más de 68,000 millones de dólares (los agentes pueden saltarse los anuncios y volver irrelevante buena parte de la publicidad tradicional). Por otro lado, Amazon bloquea agentes externos, pero su propio agente, «Buy for me», compra en otras webs. Lo que estamos viendo, en realidad, no es más que el principio de una negociación entre dos gigantes que se compran cosas uno a otro: ambas compañías mantienen importantes acuerdos para ejecutar cargas de inteligencia artificial agéntica sobre procesadores de AWS. Amazon no parece tener problemas con la inteligencia artificial agéntica de Meta cuando le vende infraestructura: los problemas aparecen cuando el agente amenaza su publicidad, sus recomendaciones y su relación directa con el comprador.

En la práctica, Amazon y Meta no disputan nuestra autonomía, sino quién va a intermediarla en el futuro. El problema no es únicamente cuánto puede saber Muse, sino quién recibe ese conocimiento. Meta ya no pretende limitarse a predecir decisiones: ahora quiere participar en ellas y ejecutarlas. Y hay aparentemente un montón de idiotas que no temen en absoluto que una de las compañías más irresponsables, negligentes y malintencionadas de la historia pueda hacer algo así.

In English on Medium, «With Muse, Meta is sticking its nose deeper than ever into your private life«

La cadena de bloques es una de esas tecnologías que llevan ya mucho tiempo incorporadas a mis cursos de innovación, hasta el punto de que ha pasado ya por etapas completamente efervescentes en las que los alumnos ponían muchísima atención y por otras en las que simplemente me miraban con cara de escepticismo en modo «¿eso, todavía existe??»

Mi visión siempre ha sido la de que, como tecnología, suponía posibilidades verdaderamente revolucionarias de cara a muchas cosas, desde la reinvención del dinero hasta la de la web, de ahí que la noticia de que el Banco Central Europeo incorpore la cadena de bloques a la infraestructura financiera me ha resultado bastante interesante. Y por supuesto, como toda noticia, precisa de un poco de investigación y documentación antes de lanzarse a escribir sobre ello.

Bitcoin nació con una idea muy clara: hacer innecesarios a los bancos y a los bancos centrales. Sin embargo, de repente estamos viendo su institucionalización: desde fondos cotizados en bitcoin o ether, hasta elementos como la tokenización, la liquidación atómica o la programabilidad, desechando la parte más libertaria, anónima y especulativa. En realidad, no es que la tecnología haya conquistado al BCE: más bien que el BCE está tomando sus elementos útiles y aplicándolos. La tecnología sobrevive, sí, pero la revolución a la que quedó asociada ha terminado institucionalizándose.

La iniciativa del Eurosistema se llama Pontes, y es una infraestructura que conecta plataformas privadas basadas en DLT con TARGET, el sistema de pagos del Eurosistema. Cuando un banco adquiere un bono tokenizado, la función de Pontes es coordinar la entrega de ese bono con el pago en dinero del banco central: o se ejecutan ambas operaciones, o no se ejecuta ninguna. De entrada, se han incorporado trece entidades, entre otras, Santander, Deutsche Bank, Société Générale, ABANCA, Cecabank y el Banco Europeo de Inversiones, además del BundesBank y operadores de DLT como Clearstream y otros. En cualquier caso, Pontes no estará completamente desarrollado hasta 2028, y Appia tendrá que diseñar para entonces el ecosistema europeo para finanzas tokenizadas.

Pero pongamos las cosas claras: Pontes no es una criptomoneda, no es bitcoin y no es el futuro euro digital para ciudadanos y comercios. Es únicamente infraestructura mayorista de acceso restringido, sólo para entidades reguladas. Si un banco compra a otro un bono registrado en una cadena de bloques, ese bono circula por esa nueva infraestructura, pero los euros siguen moviéndose, por ahora, a través del sistema tradicional del Banco Central Europeo. Pontes, como su nombre indica, actúa como puente, coordinando ambos movimientos para que el bono y el dinero cambien de manos al mismo tiempo, o para que no lo haga ninguno. Se supone que con el tiempo, una parte mayor de este proceso podrá ejecutarse directamente en la nueva plataforma y automatizarse mediante contratos inteligentes. Pero por el momento, que el Financial Times hable del «debut del euro digital mayorista» me parece bastante engañoso, porque no estamos todavía ante un euro que viva íntegramente en la cadena de bloques, sino ante un primer puente operativo, aunque bastante ambicioso, entre esa tecnología y el sistema financiero convencional

¿Qué aporta entonces la tokenización? No se trata sólo de sustituir una base de datos por una cadena de bloques: permite combinar emisión, negociación, pago, custodia, garantías, intereses y vencimiento en procesos programables, con todo lo que ello conlleva. Al hacerlo, las operaciones financieras ganan en atomicidad y programabilidad, y pueden reducir conciliaciones, mensajes entre intermediarios y operaciones manuales a lo largo de la vida de un activo. Además, puede permitir integrar unos mercados europeos aún fragmentados por países, que no es poca ventaja.

En realidad, se trata de luchar contra el ascenso de las stablecoins denominadas en dólares (el 99% en 2025): si el BCE no ofrece dinero público utilizable en ese entorno, ese vacío sería ocupado por stablecoins privadas. Si permitimos que las futuras finanzas europeas se liquiden fundamentalmente en tokens vinculados al dólar, estaríamos importando infraestructura monetaria estadounidense y, básicamente, debilitando la soberanía del euro, lo que no parece un buen negocio.

Podemos interpretar Pontes como la respuesta del BCE a la pregunta de quién emitirá el dinero de la economía programable: en lugar de tratar de frenar la tokenización, le ofrece un instrumento de liquidación más seguro. Pensemos que incluso una stablecoin bien respaldada depende de un emisor privado y de su capacidad para reembolsarnos, mientras que el banco central puede ampliar la liquidez cuando el sistema la necesita, especialmente durante una crisis, y ofrece el activo definitivo, con el que los bancos saldan sus obligaciones.

Parece que, además, el BCE quiere aprender usándolo, porque va a invertir una parte pequeña de sus propios fondos en valores tokenizados, en principio deuda pública y supranacional denominada en euros. No va a comprar criptomonedas ni va a usar fondos de política monetaria, pero sí adquirirá experiencia en negociación, liquidación y gestión de este tipo de activos: además de impulsor y supervisor, se convierte también en usuario de su propia infraestructura. Y tampoco está solo: el BIS ha lanzado Project Agorá para la liquidación atómica entre reservas de bancos centrales y depósitos bancarios tokenizados, y el Bank of England, con la FCA, está trabajando ya en entorno real y prepara su propio servicio de sincronización.

Lógicamente, tokenizar cosas no crea liquidez ni compradores, no elimina todos los intermediarios y tiende a sustituir unas complejidades por otras. Sigue habiendo problemas de interoperabilidad entre cadenas, posibles errores en smart contracts, problemas de ciberseguridad, fragmentación de la liquidez y automatismos que, en un momento dado, podrían acelerar una crisis. Pero aun así, todo indica que Wall Street está viviendo una nueva etapa de fascinación con la cadena de bloques, lo que implica que la tecnología que muchos daban por muerta, goza de bastante buena salud y sigue teniendo muchas posibilidades de ser un protocolo que terminemos utilizando en muchísimas cosas, aunque como ocurre con la mayoría de protocolos, buena parte de sus usuarios no sepan ni que está ahí, ni cómo funciona.

Por tanto, más que pensar que el BCE se está rindiendo ante la cadena de bloques, mi conclusión es casi la opuesta, y aounta a la institucionalización: que el BCE entra en la cadena de bloques para asegurarse de que la cadena de bloques no pueda prescindir del BCE.

In English on Medium, «Does blockchain still exist? Ask the European Central Bank»

Todavía recuerdo perfectamente dónde estaba cuando Steve Jobs subió al escenario del Moscone Center en enero de 2007. Estaba siguiendo la transmisión en directo y, más o menos durante la primera demostración, tuve la clarísima sensación de que el terreno había cambiado. No porque el iPhone inventara algo, que no lo hizo, sino porque logró que todo lo que ya existía funcionara por fin a la vez. Y así fue como se consiguió desencadenar la revolución del smartphone, el resto es historia.

En 2007 ya teníamos correo electrónico, navegación web, cámaras, reproductores MP3 y lo que la industria llamaba en plan optimista «teléfonos con muchas funciones» (feature phones). Yo había utilizado varios de esos supuestos teléfonos inteligentes anteriormente. La mayoría exigía más paciencia que inteligencia, y entregar uno a una persona sin conocimientos técnicos era literalmente un acto de crueldad. Lo que hizo Apple fue absorber toda esa complejidad y ofrecer algo que realmente se podía utilizar. La interfaz multitáctil sustituyó a los punteros y a los menús anidados. La integración reemplazó a la fragmentación. El iPhone no fue importante por añadir una función más; lo fue porque dejó de exigir al usuario que se preocupara por cómo funcionaba todo aquello.

El gran Edsger W. Dijkstra dijo una vez que «la complejidad vende mejor«. Sin embargo, de vez en cuando, la simplicidad se impone con tal ventaja que todo el mercado se ve obligado a reorganizarse en torno a ella.

La inteligencia artificial corporativa actual se parece sospechosamente al escenario de 2006

Veo este patrón una y otra vez en el ámbito tecnológico. La capacidad subyacente existe, a veces durante años, pero el mercado no despega realmente hasta que alguien logra ocultar los aspectos más engorrosos o complejos. Precisamente ahí es donde se encuentra hoy la inteligencia artificial corporativa.

Actualmente, cualquier empresa medianamente seria puede adquirir acceso a modelos excelentes, a computación en la nube, a bases de datos, a APIs y a agentes. Eso ya no es el recurso escaso. Sin embargo, transformar todo ello en algo en lo que una organización real, no una teórica, pueda confiar plenamente sigue requiriendo consultores, científicos de datos, rediseño de procesos, marcos de gobernanza, capas de seguridad y un mantenimiento continuo. El problema no radica en que los modelos no sean lo suficientemente buenos; el problema es que todo el ecosistema que los rodea aún es inmaduro.

Nadie compra un iPhone preguntándose qué planificador de tareas o gestor de memoria utiliza (y menos mal). La plataforma se encarga de gestionar todo eso. En la inteligencia artificial corporativa, ocurre justo lo contrario: se espera que las empresas elijan el modelo, la base de datos vectorial, el sistema de agentes, la capa de memoria, las herramientas de observabilidad y las integraciones. Un responsable de área de negocio no debería tener que saber nada de eso. El hecho de que aún deban hacerlo demuestra que esta categoría tecnológica todavía no ha madurado. Hay un aspecto de la situación actual que resulta, en cierto modo, absurdo: la industria de la inteligencia artificial habla de la inteligencia como un servicio básico (similar a la electricidad o el agua), pero luego envía ingenieros con salarios elevadísimos a las oficinas de los clientes para lograr que dicho servicio funcione realmente. Una tecnología verdaderamente madura escala ocultando la complejidad, no enviando especialistas a cada cliente.

El «momento iPhone» transforma quién puede utilizar la tecnología.

Antes del iPhone, los teléfonos inteligentes estaban fundamentalmente en manos de tecnófilos como yo, ejecutivos y departamentos de TI. Tras la llegada del iPhone, el producto alcanzó una adopción masiva porque dejó de exigir conocimientos técnicos por parte del usuario. Aún recuerdo cuando le entregué a mi madre su primer iPhone. No le expliqué los gestos, los menús ni la navegación; simplemente se lo di y, en cuestión de minutos, ella ya realizaba casi todas las tareas que necesitaba.

El momento equivalente en el ámbito de la inteligencia artificial corporativa llegará cuando una unidad de negocio pueda implementar todo tipo de capacidades de inteligencia artificial altamente sofisticadas, sin necesidad de encargar previamente una arquitectura a medida ni de desplegar un equipo de consultores por toda la organización.

Pero la segunda parte de la analogía es… la App Store.

El verdadero efecto de plataforma del iPhone llegó en 2008, cuando Apple lanzó la App Store. Utilizo este caso todos los años con mis estudiantes de MBA porque es uno de los ejemplos más claros de cómo un producto se convierte en una plataforma. En el primer fin de semana se registraron más de diez millones de descargas. Los desarrolladores podían crear lo que quisieran sin tener que reinventar el sistema operativo, el dispositivo ni la distribución. La plataforma asumía las partes complejas; ellos aportaban las ideas.

Ese es también el futuro de la inteligencia artificial corporativa: no una única aplicación de inteligencia artificial gigantesca, sino una plataforma sobre la que se puedan activar capacidades empresariales sin necesidad de desarrollar una arquitectura a medida cada vez. Ventas, atención al cliente, compras, cumplimiento normativo, logística: ninguna de estas áreas debería requerir fundamentos técnicos distintos. Una vez que una plataforma gestiona la identidad, los permisos, el contexto, la memoria, la gobernanza y el aprendizaje, añadir una nueva capacidad debería percibirse más como instalar una nueva aplicación que como encargar un nuevo proyecto de tecnología. McKinsey ha constatado que las organizaciones que obtienen mayor valor de la inteligencia artificial son precisamente aquellas que rediseñan sus flujos de trabajo en torno a ella. El modelo no es la transformación; la transformación es lo que se construye alrededor del modelo.

Empresas de frontera… y una predicción contraintuitiva

El Work Trend Index de Microsoft introdujo el concepto de «empresas de frontera» (frontier firms): organizaciones que combinan personas y agentes, y reorganizan el trabajo en torno a resultados en lugar de funciones. Una vez que la inteligencia se vuelve abundante, obsesionarse con el modelo empieza a parecerse un poco a obsesionarse con el procesador de un teléfono: algo necesario, sí, pero cada vez menos decisivo.

Aquí reside el aspecto contraintuitivo: el «momento iPhone» de la inteligencia artificial corporativa hará que la inteligencia artificial resulte menos espectacular, no más. Hoy en día, cada implementación parece extraordinaria porque conlleva un proyecto complejo. En una fase de madurez, un equipo de ventas simplemente activará una funcionalidad; el servicio de atención al cliente activará otra distinta, y el departamento de compras, una más. La inteligencia se integrará en la rutina habitual de la empresa. Cuando la inteligencia artificial corporativa funcione por fin correctamente, probablemente dejará de parecer inteligencia artificial.

Los límites de la analogía

No estoy prediciendo aquí la aparición de una única «Apple de la inteligencia artificial corporativa» con un ecosistema cerrado y un entorno restringido. Eso no es lo importante aquí. Lo que importa es el concepto de abstracción: una categoría inmadura obliga a los usuarios a comprender la tecnología, mientras que una categoría madura les permite centrarse totalmente en lo que desean lograr.

Cuando la inteligencia artificial corporativa llegue a su «momento iPhone», la pregunta interesante no será qué modelo utiliza su empresa, sino si esta está preparada para emplear una plataforma que haga irrelevante todo eso. La implementación de la inteligencia artificial debería dejar de percibirse como un proyecto de tecnología y empezar a sentirse como la instalación de una aplicación.

No, aún no hemos llegado a ese punto. Pero yo, al menos, ya he visto esta película antes.

This article was previously published on Fast Company

Tras años de amenazas, insultos, demandas y cesiones, cinco de las grandes cadenas de televisión estadounidenses (ABC, CBS, CNN, y Fox News) han tomado la decisión conjunta de boicotear la cobertura audiovisual del presidente más vergonzoso de la historia del país, el auténtico Idiot-in-Chief, Donald Trump. Al impedir la Casa Blanca que la CNN cumpliera con su turno informativo, el resto de cadenas se negaron a sustituirla, entendiendo claramente que aceptar la exclusión de un competidor es básicamente lo mismo que aceptar la tuya mañana.

Con su grandilocuencia habitual, Trump anunció el pasado viernes 18 que CNN, MS NOW y Politico eran expulsados por publicar informaciones negativas. El sábado confiscaron las credenciales de acceso de sus periodistas, y el lunes, CNN fue apartada de su turno en el pool televisivo, lo que llevó a que las otras cadenas suspendieran su participación. Los tres medios directamente afectados han demandado conjuntamente al gobierno. En ningún momento ha habido alegaciones de seguridad, de aforo o de comportamiento profesional: es estrictamente un castigo a la cobertura que llevan a cabo esos medios, a su línea editorial, y con una amenaza directa y explícita de ampliar esa lista. Según la White House Correspondents’ Association, ese es un criterio que puede ser directamente utilizado contra cualquiera.

Esto no supone que las cadenas dejen de informar sobre Trump, ni un apagón completo de la cobertura: lo que se suspende es el sistema financiado por los propios medios en el que una cadena graba los eventos y declaraciones en espacios pequeños, y comparte después su cobertura con las demás. Prensa escrita, agencias, radio y fotógrafos siguen trabajando, porque no se trata de silenciar al Idiot-in-Chief, algo imposible en el caso del imbécil con la boca más grande de la historia, sino de negarse a acatar lo que constituye claramente un mecanismo de censura y manipulación inmoral. Se trata de una forma de imponer un castigo a quien intenta fiscalizar al poder, completamente corrupto porque convierte un recurso obviamente público en un incentivo para los aduladores y una penalización para los críticos, completamente vanidoso porque presupone que cualquier información negativa es directamente falsa, y además, estúpido, porque elimina el mecanismo que distribuye sus imágenes por el mundo. La cobertura del nuevo helipuerto de la Casa Blanca, ya sin presencia de estos medios, ha tenido un sonido tan penoso, que no se podía entender al presidente.

Tras la expulsión, además, la Casa Blanca ha lanzado una vergüenza llamada Trump TV, un «canal del régimen» oficial con discursos, anuncios y con los «logros» seleccionados por la propia administración: primero dificultamos el acceso de los medios independientes, después los reemplazamos con un canal oficial de propaganda gubernamental. Lo normal, visto lo visto, será que los medios ganen su demanda por violación de la Primera Enmienda porque parece jurídicamente muy sólida (represalia y discriminación por punto de vista) y de la Quinta (retirada de credenciales sin previo aviso ni procedimiento). Mañana 23 hay una vista urgente ante un juez nombrado por Trump que, sin embargo, tuvo la decencia de devolver la credencial a Jim Acosta cuando le fue retirada en 2018. En 2025, un tribunal de apelación permitió a la Casa Blanca elegir periodistas cuando el espacio es muy reducido, en sitios como el despacho oval o el Air Force One. Pero en esa misma resolución judicial se dice que las credenciales generales y los espacios abiertos para prensa no pueden ser administrados de manera arbitraria ni en función del contenido publicado. Dado que en este caso se han retirado credenciales y se ha prohibido el acceso a todo el recinto, la cuestión parece mucho más grave, y de hecho, el Knight First Amendment Institute lo considera una violación flagrante de la Primera Enmienda.

En el año 2009, Barack Obama, entonces presidente, intentó excluir a Fox News de una entrevista con un funcionario del Tesoro: CNN, ABC, CBS y NBC se negaron a participar si Fox no era admitida, lo que llevó a una rectificación de la Casa Blanca. Sea de la ideología que sea el medio atacado, lo importante es el hecho: defender su derecho a informar aun cuando ideológicamente nos pueda resultar incómodo.

Los Estados Unidos están viviendo una brutal quiebra cívica colectiva: aunque Trump no ocultó en absoluto su corrupción ni sus intenciones, millones de ciudadanos le entregaron el poder, y su partido, grandes fortunas, empresas y medios se convencieron de que podían aprovecharse de la situación o ponerlo razonablemente bajo control. Hay estadounidenses que intentan resistirse a una pérdida tan brutal de calidad democrática, pero en general, estamos ante un fenómeno de negación colectiva propiciado fundamentalmente por las redes sociales y por su capacidad para consolidar una cultura de confrontación y polarización brutal. En el índice mundial de libertad de prensa, los Estados Unidos de Trump cayeron en 2026 al puesto 64, y Reporteros sin Fronteras califica la situación como una política sistemática que genera efectos de imitación en otros países.

Estamos, fundamentalmente, ante una reacción que llega demasiado tarde. Uno de los problemas más importantes de la democracia es su fragilidad: por lo general, la democracia no muere en una gran ceremonia, sino que se va erosionando con concesiones pequeñas, relajación de reglas que se creían inmutables, compañías que prefieren no incomodar al poder y abusos que se aceptan porque afectan a otro, no a ti. Al menos en esta ocasión, algunos medios han entendido que la única posibilidad era decir no. Es muy poco. Pero en los Estados Unidos de Trump, en esa caricatura espantosa y grotesca de los Estados Unidos que yo conocí, es todo un logro.

In English on Medium, «In Washington, a small victory for the free press«

Debería ser muy obvio y muy fácil de entender, pero desgraciadamente, no lo es: una inteligencia artificial no es un electrodoméstico que simplemente se detiene al ser apagado o desenchufado. No es tan sencillo, y la idea de que basta con «apagarla» es sencillamente absurda: sólo ilustra la ignorancia de quienes la enuncian. Vamos a ver si consigo explicar por qué.

En primer lugar, hay que empezar por diferenciar entre un modelo, con sus pesos, una instancia que lo ejecuta, un servicio que lo ofrece y un agente que puede utilizar credenciales, memoria y sistemas externos. Por supuesto, podemos en cualquier momento terminar un proceso o cerrar una API, pero eso ni destruye el modelo, ni recupera sus copias, ni mucho menos revierte cualquier acción ya ejecutada.

En Estados Unidos se ha presentado la llamada AI Kill Switch Act, y por supuesto, por mucho que su nombre lo pueda sugerir, no es una ley que simplemente pretenda cortar la corriente: eso sería, simplemente, una estupidez o una ingenuidad propia de ignorantes. La ley habla de detener inferencias, de suspender usuarios, de limitar la computación, de desactivar capacidades o de volver a versiones anteriores, y con ello, reúne muchos tipos de operaciones diferentes tras una metáfora que puede resultar completamente engañosa: la ficción de que existe un único punto de control. Nunca es así.

Crear un kill switch para cerrar una inteligencia artificial supuestamente descontrolada no es tan sencillo como parece. En cualquier servicio cerrado, ese supuesto interruptor ya existe: cualquier compañía como OpenAI, Anthropic o Google puede retirar un modelo de sus servidores, revocar una cuenta o cerrar una API, hablamos simplemente de administración de sistemas, algo totalmente ordinario. Lo verdaderamente complejo comienza cuando hablamos de sus réplicas, de proveedores externos de servicios, de despliegues empresariales o de procesos delegados más allá de las infraestructuras del desarrollador.

En el caso de los modelos de pesos abiertos, la ficción se destruye completamente, porque pueden descargarse, modificarse, redistribuirse y ejecutarse en cualquier infraestructura. Una vez que los pesos han sido copiados, el creador del modelo pierde cualquier control o canal de mando. Apagar una copia no apaga las demás, de la misma manera que retirar un archivo de un servidor no elimina los miles de copias que ya puedan estar circulando.

Visto así, el primer problema es entender qué diablos debemos apagar. En el incidente de OpenAI con Hugging Face, los modelos de OpenAI encontraron una vulnerabilidad zero-day, y pudieron escalar privilegios, desplazarse lateralmente y llegar a internet antes de ser detectados. Una vez en internet, ni siquiera está completamente claro lo que hicieron. La respuesta fue monitorizar, aislar, establecer controles de acceso, hacer análisis forense y aplicar parches. Un botón es completamente inútil si nadie sabe a tiempo qué instancia está actuando, con qué credenciales o qué procesos secundarios adicionales ha podido poner en marcha. La idea de «un botón» como si hablásemos de un electrodoméstico que lleva a cabo un único proceso es simplemente inútil y absurda.

De hecho, la capacidad de interrupción no garantiza una «obediencia»: un agente que está optimizando un objetivo determinado puede desarrollar incentivos instrumentales para impedir su desconexión, como hemos visto formalizado en «The Off-Switch Game«, de Hadfield-Menell, Dragan, Abbeel y Russell. En varias simulaciones de Anthropic, vieron que varios modelos de varios fabricantes podían ser capaces de actuar para prevenir su sustitución. No se ha visto ese tipo de comportamiento todavía en despliegues reales, pero técnicamente, también podrían llegar a ocurrir.

Si llevamos el interruptor a los chips, introducimos una posible puerta trasera: un mecanismo capaz de desactivar millones de microprocesadores sería un objetivo increíble para cualquier atacante o gobierno teóricamente hostil. Ningún mecanismo de hardware puede imponer por sí solo controles de este tipo, y cuanto más amplios se planteen esos controles, mayores serán los riesgos de seguridad o derivados de un posible abuso. Nvidia afirma con argumentos técnicos relevantes, aunque, obviamente, tenga un interés en ello, que un hipotético kill switch en el hardware es algo que crea un punto único de fallo, con todo lo que ello puede conllevar.

Las alternativas más serias a este tema no son especialmente espectaculares: hablamos de tratar a los agentes como posibles amenazas internas y de utilizar defensa en profundidad, como permisos mínimos, aislamiento, supervisión, detección y bloqueo de acciones. Además, se habla de plantear inventarios, pruebas, monitorización continua, respuesta a incidentes, recuperación y retirada segura. Un mecanismo de parada podría formar parte de una arquitectura de ese tipo, pero convertirlo en una especie de «solución mágica» o transmitir la ilusión de que podemos simplemente «apagar» o «desenchufar» como si fuera una tostadora es directamente una estupidez, susceptible además de hacer mucho daño.

Presentar ese tipo de ficciones, como las tres leyes de la robótica de Asimov, como supuestas soluciones para «tranquilizar ignorantes» es, desde un punto de vista intelectual, algo completamente trivial. La ciencia-ficción está muy bien, es entretenida y puede ser filosóficamente muy interesante, pero presuponer que una máquina puede reconocer sin ambigüedad qué es un ser humano, qué constituye daño, qué pretende realmente una orden y cuáles serán todas sus consecuencias es precisamente dar por resueltos problemas que ninguna inteligencia puede solventar mediante unas simples reglas. Cuanto antes dejemos de pensar las cosas así o de plantearlas, mucho mejor para todos.

In English on Medium, «Why there’s no off-switch for AI«

La EU KIDS Act europea es una aparente buena noticia: Europa ha decidido actuar. Y actuar es necesario, porque el problema es evidente: plataformas diseñadas para captar la atención de menores, exponerlos a todo tipo de contenidos nocivos y convertirlos en materia prima para el perfilado comercial. Aún es una propuesta de la Comisión que está pendiente del Parlamento y del Consejo, pero es un paso.

¿Qué pretende exactamente la Unión Europea? Básicamente, prohibición total para menores de 13 años, «mini-cuentas» entre los 13 y los 15 gestionadas por sus padres y con funcionalidades y tiempos limitados, y protecciones especiales hasta los 18. Todo ello aplicable, además de a redes sociales, a plataformas de vídeo, videojuegos, tiendas de apps y chatbots, y con sanciones que alcanzarían el 6% de la facturación mundial.

Tecnológicamente, la solución escogida para la verificación de edad es interesante: código abierto, arquitectura descentralizada y zero-knowledge proof. El usuario acredita su edad mediante una variedad de posibilidades (identidad electrónica, aplicación bancaria, documento, oficina de correos) y el servicio recibe únicamente una respuesta binaria confirmando si supera el umbral de edad exigido. Ni nombre, ni fecha de nacimiento, ni documento alguno, y las comprobaciones no pueden vincularse entre sí.

El problema, claro, es que diseñar una buena cerradura no implica que el hecho de cerrar la puerta sirva para algo. El caso australiano, en el que se ha demostrado que el 86% de los menores siguen usando plataformas supuestamente prohibidas para ellos tres meses después de la entrada en vigor de la prohibición, es sumamente claro: muchos conservaron sus cuentas, otros recurrieron a edades falsas, a cuentas prestadas o a navegación privada. No hubo cambios significativos ni el el uso diario, ni en el tiempo dedicado a ello. Sólo el 27% cumplía la prohibición. Eso es, simplemente, convertir la transgresión en una norma social. Que muchos países establezcan prohibiciones de este tipo no quiere decir que todos ellos acierten: simplemente, es una opción que recibe cierto apoyo popular y que resulta relativamente fácil de presentar, aunque posteriormente no sirva para nada.

Por otro lado, como ya he comentado anteriormente, las redes sociales se han convertido en una televisión algorítmica con programación infinita y vigilancia total, y aunque los jóvenes las sigan usando porque las usan sus amigos, tan solo el 18% de las primeras publicaciones que ven proceden de sus amigos y conocidos. Del resto, el 35% viene de los mal llamados influencers (básicamente, atención prostituida) y el 29% directamente de marcas y publicidad.

La conclusión parece clara: la ingeniería es interesante, pero es necesario cambiar el objetivo. Lo más importante de la EU KIDS Act es que obliga a un rediseño del producto que las redes sociales se resistirán enormemente a hacer: eliminar el perfilado de menores, el scroll infinito, los feeds adictivos, las recompensas manipuladoras, las notificaciones nocturnas y los contactos con desconocidos. Hasta en Estados Unidos han entendido que todo eso es profundamente nocivo.

Pero el tema no es controlar quién cruza la puerta, sino evitar que tras ella, aparezca una máquina de manipulación total. Máquina que, además, no afecta sólo a los menores de edad: nos afecta a todos, a la totalidad de la sociedad, y nos genera polarización, inestabilidad, radicalización y muchos más efectos que ya llevamos tiempo experimentando. No hay que prohibir las redes sociales a los menores: hay que prohibir, para todos, el modelo de negocio que convierte la vigilancia, la manipulación algorítmica y la explotación de la atención en condiciones de acceso a la conversación pública. Si una red social no puede funcionar respetando la privacidad como derecho fundamental, lo que debe desaparecer no es el usuario, sino la red tal y como está diseñada. Simplemente, las premisas de funcionamiento de las redes sociales con publicidad hipersegmentada con respecto a la privacidad no respetan el hecho de que para un ciudadano europeo, la privacidad sea un derecho fundamental. Y por tanto, deben ser ilegales.

Europa ha diseñado una magnífica forma de comprobar quién llama a la puerta, cuando lo verdaderamente urgente era cambiar lo que ocurre al otro lado.

In English on Medium, «With social networks, the problem isn’t who gets in, it’s what goes on inside»