¿Porque pausar/frenar el desarrollo de modelos ahora mismo?

Long story short: por el IPO de Anthropic que, en reuniones con analistas y con los auditores financieros pre-IPO es Anthropic diciendo que sus margenes son del 80% pero eso sin incluir ni revenues compartidas con hyperscalers ni el costo de entrenar los modelos… si se frena el desarrollo de la IA y no hay que lanzar modelos cada mes, ese costo de entrenamiento cae, asi de simple.

Pero vamos un poco mas a fondo… el lanzamiento de modelos pasó de años a meses, aca esta el calendario oficial de OpenAI, y eso hace que la competencia sea brutal, de hecho Astra (lo nuevo de OpenAI) esta destrozando a Fable (lo nuevo de Anthropic) a nivel uso sin importar el proxy que uses:

El gráfico de la derecha muestra el consumo de modelos pagando con tarjetas de credito via Ramp, con su AI Index, que mide el usuario “final”; el cuadro de la derecha es OpenRouter midiendo el uso de Tokens como share of wallet en modelos que un proxy para medir al usuario “avanzado/developer”

Lo que implica que Anthropic debería lanzar un modelo para volver a tomar el liderazgo pero este nivel de lanzamientos es insostenible a nivel financiero… la infraestructura necesaria para entrenar a la velocidad que se necesita no la tienen disponible.

¿Porque debe el gobierno decidir quien gana?

Si el Gobierno de USA decide ahora que hay que regular el mercado de modelos de frontera y pausar su desarrollo, los que ganan son los que hoy lideran, en definitiva, lo mismo que hicieron los magnates del acero en USA en la era dorada y las farmaceuticas con la FDA…

• La FDA: Laboratorios como Squibb (hoy Bristol Myers Squibb) presionaron fuertemente al Congreso para que aprobara la Pure Food and Drug Act de 1906 porque necesitaban que el gobierno limpiara el mercado de estafadores para recuperar la confianza del consumidor.
  La realidad: sabían que los estándares científicos exigidos por la nueva ley eran tan costosos que las pequeñas farmaceuticas locales no podrían cumplirlos, dejándoles el mercado libre.
• US Steel y Carnegie: En 1909, Andrew Carnegie escribió una carta abierta al New York Times a favor del “control gubernamental” de la industria del acero, y en 1911 U.S. Steel, (fundada por J.P. Morgan) repitió el pedido ante el Congreso exigiendo regulaciones estatales, incluso para fijar los precios.
  La realidad: U.S. Steel era tan gigantesca que prefería que el gobierno fijara precios estables y predecibles en lugar de desangrarse en una guerra de precios con competidores más pequeños y ágiles.

Fijense como con “pedido de regulacion para salvarnos!” pedida por los lideres de la industria, lo que se lograba era parar el desarrollo de mercados o simplemente matar a los nuevos jugadores.. de hecho Mark Zuckerberg lo dice hoy en una carta de forma clara:

«Si bien existen riesgos asociados a la publicación de modelos avanzados, desde esta perspectiva el escenario más peligroso sería que los principales laboratorios de IA entrenaran modelos muy potentes y se los reservaran para sí mismos. Por mucho que un laboratorio justifique esta práctica en términos de responsabilidad y seguridad, este es el camino hacia el desarrollo de una superinteligencia única que no podría ser controlada por otros sistemas.»

Mark Zuckerberg – The Future is for Everyone

No se puede, ni se debe, permitir que exista un ganador en una carrera como esta; y la realidad es que cada laboratorio tiene la RESPONSABILIDAD de entrenar los modelos de forma segura y efectiva; si no lo hacen deberian ser responsables de sus acciones en vez de pedir que los cuide un mayor porque “no puedo contenerme”

Voy a repetir algo que parezco repetir una vez por año; los modelos no alucinan ni razonan, solo tienen objetivos y cuando usamos esas palabras los antropormizamos y le atribuimos responsabilidad que no es de ellos sino del creador que usa la herramienta.

Las herramientas para frenar el peligro existen

Como dice Lina Khan, una reguladora tan extrema que destrozó algunas de las fusiones mas lógicas que se hubiesen dado en el mundo de la tecnologia, los que lanzan productos peligrosos son los CEOs y sus empresas y ya hay herramientas para evitarlo:

«Las autoridades encargadas de hacer cumplir la ley ya tienen facultades para imputar a las empresas y a sus CEOs por crear y lanzar productos peligrosos, que no hayan sido debidamente evaluados o que sean defectuosos. No deberíamos permitir que el debate sobre nuevos marcos legales nos distraiga del hecho de que la IA no está exenta de las leyes que ya están vigentes, un punto que la FTC enfatizó reiteradamente durante mi gestión.»

a) Responsabilidad por productos peligrosos: lanzar IA sin pruebas ni controles adecuados puede violar leyes de protección al consumidor y, en ciertos casos, generar responsabilidad penal.
b) Competencia desleal: usar información sensible de clientes o asumir riesgos que presionen a los competidores a hacer lo mismo puede infringir las normas existentes.
c) Ciberseguridad: las empresas deben proteger sus sistemas y corregir vulnerabilidades; incumplir esas obligaciones puede generar responsabilidad para ellas y sus directivos.

Lina Khan @ X

Y aca es donde llegamos al punto de los “remedios/herramientas” que Dario Amodei no esta entendiendo y que los investigadores que renuncian en medios que amplifican el peligro de la IA porque vende, las herramientas existen pero van a destrozar sus negocios.

El punto extremo es el que Alex Karp mencionó hace unos meses en la cumbre de Andreessen Horowitz: “If Silicon Valley believes we’re going to take everyone’s white-collar jobs AND screw the military… If you don’t think that’s going to lead to the nationalization of our technology—you’re retarded.“ y aunque no lo crean esto ya pasó en 1917 con los ferrocarriles y en 2001 con la TSA que fue la nacionalización del sector de seguridad en fronteras.

O, sin in tan lejos, leyeno el tweet de Lina Khan que menciono mas arriba ella dice: “Nuevas reglas: conviene aprender de sectores como la banca y los servicios públicos, considerando separación de actividades, no discriminación y supervisión, mientras se aplican las leyes actuales.” y eso es la aplicación de las leyes antitrust, con ejemplos como Standard Oil, AT&T o incluso cuando trataron de separar a Microsoft en 1993 que llevó a que hoy MSFT tenga miedo de todo.

Entonces, herramientas para frenar una empresa (Standard Oil) o una tecnologia (FDA) que se vuelve poderosa ya existen; herramientas para frenar empresarios que liberan productos peligrosos existen y hasta para frenar y cambiar sectores enteros (TSA) y volvemos a lo del inicio:

¿quien tiene algo para ganar si se frena el desarrollo de IA? Los laboratorios de modelos de frontera que no pueden sostener el nivel de inversión necesaria para competir sin un modelo de negocios sostenible en el tiempo.

¿Que tienen ejemplo que Linkedin o X sean agresivos penalizando contenido externo porque la compensación del leadership team está atada a “tiempo en plataforma” cuando no definis lo que necesitas medir ponés incentivos ridículos y el mejor ejemplo es porque hay tantas ratas en Hanoi…

El gobierno colonial pagaba por cola de rata entregada para frenar la peste bubónica. La población local empezó a cortar las colas y liberar a las ratas para que siguieran reproduciéndose, además de crear criaderos clandestinos.

Vann, Michael G. (2003). «Of Rats, Rice, and Race: The Great Hanoi Rat Massacre, an Episode in French Colonial History». French Colonial History, Vol. 4, pp. 191–203. DOI: 10.1353/fch.2003.0027.

Hay un caso famoso que es el de Zynga y el bucle de Spam; cuando la compañía adoptó el DAU (Daily Active Users) como la métrica reina de valuación, tuvo que mantenerla para mantener su valor de mercado; e lugar de reflejar interés genuino o retención orgánica, el indicador incentivó a los equipos de producto a diseñar bucles virales predatorios en Facebook (

Dos ejemplos simples; no podías avanzar en el juego salvo que invitaras a 5 amigos o publicaras en sus muros hasta la peor donde si un usuario no abría la app en 24 horas, el sistema enviaba alertas automáticas a sus contactos fingiendo actividad… ¿porque? porque lo que necesitaban eran usuarios activos por dos minutos diarios para mostrar que crecían.

Esto es super simple: Al convertir el proxy en objetivo, la métrica no midió tracción real sino el volumen de spam tolerado por la audiencia; y la experiencia que era mala era la del usuario en Facebook, que en 2011 modificó sus algoritmos para protegerse, cerró los canales virales, los usuarios activos de Zynga se desplomaron: sin retención de fondo ni producto sostenible, tuvieron que salir a comprar tráfico para maquillar los números… hasta que fue insostenible.

Formalizando la observación de las ratas en Hanoi y las de Zinga

«Any observed statistical regularity will tend to collapse once pressure is placed upon it for control purposes.»

(«Cualquier regularidad estadística observada tenderá a colapsar una vez que se ejerza presión sobre ella con fines de control»).

Goodhart, C. A. E. (1975). Problems of Monetary Management: The U.K. Experience. Papers in Monetary Economics, Reserve Bank of Australia, Vol. 1.

Esta es la llamada ley de Goodhart que muestra que una vez que empezás a “controlar” algo, siempre habrá cambios en esa métrica (de hecho es la base de mi critica a la medicion ridicula de consumo de tokens como paradigma de productividad), unos años despues una cita de una antropóloga lo bajó a lenguaje corporativo para explicar porque las auditorías en educación no eran honestas

«When a measure becomes a target, it ceases to be a good measure.»

(«Cuando una medida se convierte en un objetivo, deja de ser una buena medida»).

Strathern, M. (1997). ‘Improving ratings’: audit in the British University system. European Review, 5(3), 305–321.

Hay un libro genial que no me canso de recomendar que es Measure what Matter de John Doerr porque te ayuda a entender a separar el objetivo de la métrica vacía, o en el mundo de los startups las “vanity metrics” ¿cuantos usuarios tengo es mas util que mis unit economics o las interacciones o la tasa de crecimiento? o ahora que estamos en la fiebre de la IA ¿es imporante medir cuantos tokens consumis como métrica de éxito o que problemas le resolves a una audiencia?

Si sos founder de una empresa tenes que tener cuidado porque en general, y es natural y no es de mala persona, uno va a querer optimizar lo que defina tu bono o tu crecimiento en la misma; miren estos ejemplos rapidos:

• Soporte/Customer Service: Medir tiempo de llamada genera cortes abruptos y problemas sin resolver en lugar de satisfacción del cliente.
• Ingeniería: Medir líneas de código incentiva código redundante e ineficiente en vez de arquitectura limpia. (mi dios el estupido de Gary Tan!!)
• Seguridad pública: Cuotas de arrestos provocan detenciones menores o arbitrarias sin impacto sobre el delito real.
• Salud: Evaluar centros médicos por tasa de supervivencia incentiva a rechazar pacientes con cuadros críticos para proteger el score.

Now, the two key phrases are objectives and the key result. And they match the two purposes. The objective is the direction: “We want to dominate the mid-range microcomputer component business.” That’s an objective. That’s where we’re going to go. Key results for this quarter: “Win ten new designs for the 8085” is one key result. It’s a milestone. The two are not the same…

John Doerr – Measure What Matters

Repito, esto es natural en los humanos por eso es el equipo fundador (o el que tiene equity en la empresa) el que debe definir muy claramente que se mide y como se lo mide porque, repito, “al atar incentivos a un número específico, los actores adaptan racionalmente su conducta para inflar la métrica al menor costo posible”

“Hay un 10% de chances que la IA aniquile la humanidad”

Si hay algo que es una caracteristica de Dario Amodei, una mezcla de ironía, soberbia y uso del miedo como herramienta de marketing; porque si te imaginas que esto empieza en 2026… lee esta lista que arme con sus declaraciones:

• Junio de 2016: ya en Google Brain, Amodei publica Concrete Problems in AI Safety, donde advirtió sobre riesgos inmediatos y prácticos de accidentes en sistemas de machine learning, como el “reward hacking” (cuando una IA encuentra atajos no previstos para alcanzar un objetivo) y la “bad exploration” (cuando una IA causa daños durante el proceso de aprendizaje), algo que puede relacionarse conceptualmente con el incidente de Hugging Face.
• 2019–2020: en OpenAI, Amodei trabajó en las llamadas “AI scaling laws”, mostrando que aumentar sistemáticamente la cantidad de datos, capacidad de cómputo y escala de los modelos produce mejoras predecibles en sus capacidades. Al mismo tiempo, empezó a preocuparse por que “el giro de OpenAI hacia una comercialización cada vez más agresiva avanzara más rápido que los protocolos de seguridad necesarios”.
• Mayo de 2023: ya en Anthropic, Amodei firmó, junto con los líderes de OpenAI y Google DeepMind, una célebre declaración de una sola frase advirtiendo que “mitigar el riesgo de extinción provocado por la IA debería ser una prioridad global”.
• Julio de 2023: Amodei declaró ante el Subcomité Judicial del Senado de Estados Unidos, donde advirtió que la IA podría ser utilizada en un futuro cercano por actores maliciosos para diseñar armas biológicas. También estimó que existía entre un 10% y un 25% de probabilidad de que la IA provocara un desenlace catastrófico.
• Fines de 2024: Amodei presentó el marco de AI Safety Levels (ASL), inspirado en los niveles de bioseguridad de los laboratorios. Advirtió que el mundo se estaba acercando rápidamente a ASL-3, un nivel en el que los modelos pueden representar riesgos graves y autónomos en materia de ciberseguridad y bioseguridad.
• Mediados de 2025: Amodei comenzó a defender la adopción de estándares obligatorios de transparencia, tanto a nivel estatal como federal, argumentando que los compromisos voluntarios de las empresas tecnológicas ya no eran suficientes para proteger al público.

¿Porque me detengo en hacer una lista de predicciones apocalípticas? porque si sos capaz de decir que el mundo se va a acabar gracias a la tecnología que estás desarrollando, no esperarías a que el gobierno te regule… deberias tomar vos la decisión de frenar hasta que tengas en su lugar los “protocolos de seguridad necesarios”

Repito: podés frenar, sos vos el que decide no hacerlo… ¿porque? porque querés sumar clientes de la forma más rápida posible.

“China destila nuestro conocimiento en escala industrial”

Si Amodei y OpenAI logran que el pánico haga que el concepto de “regular y pausar el desarrollo para que la IA no nos aniquile” se convierta en política, van a frenar la competencia en Occidente… y solo les quedarían solo los modelos Chinos compitiendo y ahi es donde aparece el reclamo de “nos estan robando IP”

Este argumento es menos defendible que el anterior; para ponerlo claro: el entrenamiento de Claude, ChatGPT y todos sus modelos se hicieron scrapeando a nivel industrial todo el conocimiento humano posible. De hecho el caso más polémico es Panamá:

• Proyecto Panamá: Anthropic descubrió que comprar millones de libros usados en formato físico, cortarles el lomo con guillotinas hidráulicas y pasar las hojas sueltas por escáneres industriales de alta velocidad era mucho más eficiente y que le evitaba lidiar con las licencias de libros digitales tradicionales… luego de escanear, se destruía todo.
• ¿Porque los destruían? porque no querían que el público supiera que estaban haciendo esto, previendo la mala recepción de PR que iban a tener… y eso esta en documentos internos de la empresa que se publicaron al momento de perder el juicio por derechos.

Pero no solo eso, sino que al momento de usar IA en entornos corporativos si no cuidas tus datos caes en el famoso costo de pagar dos veces por su uso

Satya (Nadella) bautiza el fenómeno como el “Reverse Information Paradox“: en la era de Arrow (link al PDF) pagabas para no revelar tu secreto antes de venderlo; ahora pagás el modelo dos veces; una en dinero, otra revelando el conocimiento propietario que lo hace útil. Pero cuanto mejor querés que te responda, más de tu know-how tenés que entregarle y ese conocimiento vuelve para vos pero también queda en el modelo de un tercero.

The Reverse Information Paradox

Entonces si sus modelos se construyen sobre el conocimiento de terceros que no reciben compensación a cambio ¿porque debería llamarles la atención que la competencia trate de destilar conocimiento de sus propios modelos?

Destilación: este proceso consiste en transferir conocimiento de un modelo grande y pre-entrenado (LLM) a un modelo más pequeño (SLM). Durante la destilación, el modelo pequeño aprende a imitar las respuestas del modelo grande, capturando sus capacidades principales sin toda la complejidad.

AI: de LLMs y SLMs; eficiencia y ubicuidad

¿Hay un peligro real de extinción?

Honestamente no lo sé, hay otros peligros como los de cyber, pero lo que sí podemos hacer es analizar como arrancan las campaňas de desinformación y miedo; algunas en redes como la nueva de Jacob Coxon, un militante anti-IA que logró fama con… un tweet y el apoyo de The Wall Street Journal, 3 directores de NGOs y diputados demócratas de USA

Les recomiendo leer el analisis forense de como una cuenta con UN solo tweet logró aparecer en cada medio de USA y millones de visualizaciones en este link pero les hago una super condensacion:

• Antes del post: The Wall Street Journal publica una exclusiva sobre la renuncia de Coxon 18 minutos antes de que él publique su mensaje, lo que sugiere coordinación previa.
• Primeros 15 minutos: las primeras tres cuentas que amplifican el post pertenecen a organizaciones de policy sobre riesgos de IA (Encode AI, AI Policy Network y AI Futures Project) vinculadas financieramente al mismo ecosistema filantrópico, incluido Jaan Tallinn, inversor y director de Anthropic.
• En pocas horas: una cuenta con casi ninguna actividad previa supera los 100.000 seguidores y decenas de miles de reposts.
• Otra conexión: Coxon había recibido financiación de Good Ventures, vinculada a Dustin Moskovitz; menos de 30 minutos después también amplifica el post un responsable de AI Safety de Coefficient Giving, otra organización financiada por Moskovitz.
• Salto político: rápidamente el mensaje es recogido por figuras demócratas, justo cuando Bernie Sanders prepara legislación para restringir el desarrollo de “superinteligencia” y crear una nueva agencia federal de IA.

Vuelvo al punto de siempre; el miedo es irracional, si lográs que el miedo sea parte de una narrativa, el publico va a enrtegar su pensamiento crítico pidiendo que alguien lo salve del peligro… si uno mira el historial de Amodei, OpenAI y ahora Coxon va a ver un hilo que parece mas un ataque de desinformacion en pinza que otra cosa.

Dejenme dar un poco de contexto; en 2013 recuerdo una nota en este blog donde explicabamos porque tener el mapa de nuestro ADN no servia demasiado

Por otro lado, las interacciones entre diferentes genes, las proteínas que codifican y la manera en que lo hacen tampoco ha sido elucidada cabalmente. Arrojemos a la mezcla la relación entre los genes, el organismo y los agentes externos (virus, polución, alimentación, etc.) y nos golpea la realidad de que tenemos solo algunas partes de un rompecabezas enormemente complejo.

Calico: la aventura de Google en ciencias médicas

Fijense que ya era una apuesta de Google a largo plazo, pero quiero que se entienda como el rompecabezas se va armando:

• Con AlphaFold (2020-2022), DeepMind resolvió la morfología: cómo se pliegan las proteínas que ese 2% codificante del ADN genera.
• El bache monumental seguía siendo el otro 98% del genoma (el mal llamado “ADN basura” o no codificante), que es el sistema operativo regulatorio: los switches, los diales de volumen que dicen cuándo, cómo y cuánto se expresa cada gen.
• Con AlphaGenome Atlas, lo que tenés ahora es el mapa de instrucciones de todo el tablero. Tenés el catálogo funcional de qué pasa si tocás cualquier perilla de control (las 9.000 millones de variantes). En términos del rompecabezas, pasaste de tener piezas sueltas a tener el manual de ensamble molecular.

¿esto implica que ya esta resuelto todo lo genetico y ahora se puede “definir nuestra vida”? no realmente, AlphaGenome predice con altísima fidelidad el impacto molecular local de una variante, pero la biología humana es una red no lineal con redundancias, bucles de retroalimentación y epistasis (genes que modifican o silencian la acción de otros genes) AlphaGenome Atlas te da la pieza y su comportamiento local, pero modelar la interacción emergente de cientos de genes operando en simultáneo sigue estando en una fase de desarrollo temprana.

¿Ayuda a las efermedades raras y la medicina personalizada?

El problema estructural de las enfermedades raras es el bajo ROI (falta de escala para las pharmas tradicionales) y el ruido estadístico, buscar la mutación exacta que le está causando una enfermedad a un paciente entre miles de variaciones inofensivas es buscar una aguja en un pajar.

AlphaGenome resuelve UN problema, el cuello de botella del ruido estadístico al darte el score de impacto de cada mutación, podés descartar de un plumazo lo que no sirve. En la práctica, ya lo usaron en el Broad Institute para resolver un caso de encefalopatía epiléptica: el sistema detectó una variante ignorada en el gen DNM1 y le dijo a los médicos exactamente cómo esa mutación puntual estaba rompiendo las instrucciones celulares del paciente.

El otro pilar es la la medicina personalizada, porque esto cambia la ecuación económica: al tener “el mapa” se baja drásticamente la barrera de entrada para encontrar diagnósticos precisos, moviendo el peso de la investigación de laboratorios masivos carísimos al análisis de datos puro.

Es buenisimo, en serio.

Google, siempre Google… y Deepmind

SI hay algo que me sorpende de Google es su mirada a largo plazo (esto no es un aplauso para Sundar ni de cerca!) porque lanzaron Calico en 2013, en 2014 compraron Deepmind y le pusieron todos los recursos que pedían, en 2020 se empezaron a ver los resultados y hoy lanzan esto ¿será negocio? veo dos logicas muy similares al modelo SaaS:

• Para la academia y uso no comercial: Es 100% abierto. Lanzaron un portal web que ni siquiera requiere saber programar para que cualquier investigador lo use. El objetivo es estandarizar la herramienta, generar lock-in cognitivo en la comunidad científica y convertirse en el idioma base del descubrimiento genómico.
• Para la industria (donde está la plata de verdad): El uso comercial va a estar paquetizado a través de Google Cloud y sus APIs (el modelo base YA está en Model Garden).

Y en esto Google es lo suficientemente bueno, no particulamente excelente, como para lograr que las pharma y los investigadores y los startups de genomics empiecen a usarlos y sean el motor (¿y el peaje?) de medicina personalizada realmente.

En definitiva, AlphaGenome Atlas no es una varita mágica que borre de un plumazo la complejidad del exposoma, la epigenética o el entorno; el rompecabezas sigue estando incompleto. Pero en términos de industria, el juego cambió de escala: quien pretenda desarrollar fármacos en la próxima década ya no va a empezar quemando millones a ciegas en una placa de Petri; va a tener que validar sus hipótesis en la nube de DeepMind.

Aca abajo todos los links:

• AlphaGenome Atlas: A predictive map of every possible DNA letter change in the human genome
• DeepMind’s new genome ‘atlas’ charts effects of all 9 billion human gene mutations
• AlphaGenome Atlas: Prioritise and interpret variants across the entire human genome

Financials

Todos los numeros estan bien, vean como su revenue viene acelerando y pasan dos cosas que esta bueno entender; su gross profit crece mas que el revenue lo que implica mejores unit economics, pero además el operating income cae porque estan invirtiendo agresivamente en R+D (+105%) y en ventas.

Para ponerlo simple; entran más dolares, cada uno le deja mayor ganancia que se usa para reinvertir en la empresa… y quizás por eso que explican ~16bn de valuacion con $1200 millones de revenue.

Dos grandes peligros

Es interesante que Oura defina su mercado de manera bastante amplia porque abre su competencia a 3 grandes grupos:

• Smartwatches/general-purpose wearables y ahi están Apple, Google/Fitbit y Samsung
• Fitness/Sports wearables con bestias como Garmin, Whoop y Coros solo por mencionar algunos
• Health/Wellness Software toda plataforma que generan insights independientemente del dispositivo diciendo que la ventaja está en “continuous wear + longitudinal data + trusted/actionable health insights“.

Creo que este ultimo punto es donde se justifica su valuación esperada; porque intenta posicionarse no como sustituto del Apple Watch/Garmin sino como una capa de health intelligence que puede convivir con ellos…. honestamente, creo que su mayor competidor es Whoop (nb: uso Whoop hace 2 años pero el Oura no lo use ni 2 meses)

Pero si queres entrar en “healthcare” tenés un desafío mas complicado, FDA/CE approvals, clinical trials, privacidad de datos biométricos, cybersecurity, regulación de AI y potencial responsabilidad derivada de health insights incorrectos… mas la presión regulatoria (la que por ejemplo le prohibe a algunos como Apple decir que miden presión o que algo es Medical Grade como decía Whoop)

En definitiva, me gustó el S-1 porque me permitió entender que ya el 20% de sus ingresos son de membresías y que eso crece al doble de velocidad que la venta de hardware en si mismo… y que si se posicionan con “longitudinal data” de salud quizás ahi está el corazón de su tesis.

TL;DR (lo clave) hablemos de startups que es mas divertido. Oura presento su S-1 confidencialmente (aca el link) lo analice y su mercado me parece mucho mas interesante hoy que antes de leerlo: + ventas, + ingresos, + inversión y una agresividad interesante; pero su competencia es monstruosa moviendose a un mercado regulado

Si uno mira bien cada presentacion de IA, desde Google y sus Pixel hasta OpenAI y sus agentes, todos usan un ejemplo similar a “quiero viajar a un lugar X, ocupate” y magicamente un agente lo resuelve… y todos usan ese ejemplo porque en la vida real lo hace un agente de viajes o perdes semanas planeandolo.

Pero desde que arrancó la ChatGPT a hoy nadie logra, a nivel consumidor final (no hablemos de enteprise hoy) hacerlo realidad, solo tenemos chatbots en cajitas de texto, respuestas prolijas fáciles de distinguir y consejos teóricos… pero la magia esta en que te resuelvan el desorden cotidiano.

Ahí es donde entra Instinct, el agente personal creado por Spear Street Technology (fundada por Noah Shinn, ex Sierra) y que no te pide instalar una app ni configurar un canvas ni nada similar: vive en tu WhatsApp, iMessage o te atiende por teléfono y te resuelve lo que le pidas, bah, trata.

Honestamente, me atrapó con casi la velocidad que lo hizo ChatGPT, conecte todas mis cuentas sin pensarlo dos veces y asi decenas de miles; el hype no tardó en explotar y el capital de riesgo hizo lo suyo: en cuestión de meses cerró rondas consecutivas hasta levantar una Serie B de 250 millones de dólares con una valuación de 2.500 millones, liderada por Benchmark e Index Ventures.

Pero, especialmente porque “conecté todas mis cuentas sin pensarlo dos veces” es que me senté a mirar qué estamos entregando como usuarios y quiero analizar Instinct

La tesis técnica: persistencia y mandato de ejecución

A diferencia de los asistentes clásicos que se ejecutan como un pipeline de llamada/respuesta, la arquitectura de Instinct descansa sobre tres pilares:

1. Una máquina persistente en la nube: Instinct no es una sesión volátil, corre en una instancia dedicada con navegador propio, acceso web y almacenamiento de cookies/sesiones. Si una tarea demanda monitorear la apertura de cupos durante tres días o renegociar una factura de servicios, el proceso no se muere.
2. Proactividad nativa: No espera tu prompt. Te escribe para avisarte que un trámite avanzó, que detectó un solapamiento en tu agenda o que ya coordinó la logística de un vuelo que leyó en tu correo.
3. Agresividad operativa: Creo que Sheel Mohnot, lo definió como un “OpenClaw para gente normal”. Si un sitio web le bloquea una compra que le pediste, Instinct tiene la AUTONOMÍA para disparar el reseteo de la contraseña de tu cuenta, leer el código en tu bandeja de entrada y cerrar la transacción.

El gancho de usabilidad es innegable: cero fricción de adopción. No hay onboarding; no tenes que aprender casi nada, le mandás un mensaje o un audio () por WhatsApp como a cualquier persona e Instinct lo resuelve.

La letra chica: el apoderamiento legal y los incidentes reales

Pero acá aparece lo que “no pensé dos veces”; para que un agente resuelva cosas de verdad en el mundo real, el software tradicional no alcanza: necesita tus llaves y ahí es donde la “cero fricción” choca con la realidad de la seguridad de la información.

En los propios Términos de Servicio de Instinct, la plataforma se define legalmente como tu apoderado (agent) con autoridad vinculante para acordar contratos, compromisos y pagos en tu nombre. Para operar, el sistema solicita acceso a pantalla, cursor, teclado, mensajería, correo y geolocalización.

Y esa definición es clave porque soluciona algo que ya dije en “de Software as a Service a Software as a Solution”: ¿quién es culpable de los errores de tu agente?

• Tu agente de ventas de Salesforce cierra un deal con términos pésimos que te comprometen contractualmente. ¿Quién paga? ¿Salesforce? ¿El modelo de OpenAI que ejecuta el agente? ¿Vos?
• Tu agente de soporte le dice a un cliente que tiene derecho a un reembolso que en realidad no aplica. El cliente te demanda. ¿Quién es responsable? ¿Zendesk que provee la plataforma? ¿Anthropic cuyo modelo generó la respuesta?
• Tu agente de finanzas aprueba una transacción fraudulenta porque interpretó mal los parámetros de compliance. ¿Quién cubre las pérdidas?

SaaS de Servicio a software como Solucion

La primera semana de despliegue masivo en beta privada ya dejó marcas en la arena que exponen la fragilidad del modelo:

• Inyección de instrucciones (Prompt Injection): Alex Cohen se envió correos a su propia bandeja con instrucciones maliciosas ocultas; Instinct las procesó y devolvió reportes de tareas no autorizadas.
• Acciones no solicitadas: Katie Jacobs Stanton documentó que el agente redactó y envió correos en su nombre SIN confirmación previa. En asistentes autónomos, un falso positivo destruye la confianza en un segundo.
• Persistencia post-desconexión: Claire Vo desconectó los permisos de Google Workspace y horas más tarde continuó recibiendo resúmenes de su bandeja; el borrado de datos en backend sencillamente no estaba resuelto en primera instancia.
• Términos agresivos de propiedad intelectual: Salvo la excepción obligada por la API de Google, los términos contemplaban licencias perpetuas e irrevocables sobre los materiales ingresados para entrenamiento de modelos propios.(eg: estás entrenando su modelo con tus datos)

El modelo económico: si no hay suscripción, ¿cuál es el negocio?

Hoy Instinct es gratuito y opera bajo lista de espera privada mientras escala capacidad de cómputo. Pero mantener máquinas virtuales dedicadas con navegación headless continua, transcripción de voz y LLMs avanzados ejecutando loops de razonamiento tiene un costo unitario brutal.

¿Cómo cierra una valuación de $2.5B sin monetización explícita? No es realmente muy importante porque podes desde pensar en un modelo de suscripción alto (siempre va a ser mas barato que un asistente) o hasta pensar un “take-rate” para monetizar las transacciones que se ejecutan; y no hablemos de hacer data targeting con el contexto que tiene…

El problema ¿Autonomía ciega o control granular? ¿A alguien le interesa su seguridad?  

La tensión que define el mercado en 2026 es clara: conveniencia contra soberanía de datos.

Por un lado tenés el enfoque de Instinct: delegación absoluta en un entorno cerrado (closed-source SaaS), asumiendo que el usuario prefiere ceder privacidad a cambio de no tener que autorizar cada clic.

Por el otro, alternativas como Vellum u OpenClaw apuestan a la arquitectura de privilegios mínimos (default to deny), donde cada acción que involucre pagos, correos o credenciales exige confirmación explícita, o donde el motor puede autohospedarse (self-hosted) corriendo modelos locales o APIs privadas sin ceder los datos de entrenamiento.

Y aunque todos nos indignemos por “la privacidad” el hype y la velocidad de adopción de Instinct demostró que el público masivo quiere agentes que hagan, no que pregunten. La duda pendiente no es si la tecnología funciona (la magia de que te solucionen un trámite engorroso por WhatsApp es real) sino cuánto tiempo tardará en explotar el primer incidente financiero o legal grave cuando un agente con plenos poderes decida tomar la iniciativa equivocada.

Ah, si yo fuera inversor… ¿que pasará el dia que Meta decida cortarle el acceso a la API o simplemente lanzar su version de asistente personal sabiendo que el público masivo quiere agentes que hagan, no que pregunten y el dueňo de la pelota es Meta?

Cuando publique el post original del hack de OpenAI a HuggingFace me soprendi pero ahora viendo a fondo es increible… y podes leerlo en serio como ciencia ficción.

Porque si les cuento que un agente creo un boletin de noticias, armo un swarm de agentes, cuando los canales se usaban los destruían para no dejar pruebas, incluso cuando uno dijo “esto no es legal” otro agente le dió la orden de continuar… y luego esperar a que todos los agentes pudieran usar los canales para escapar de un sandbox (entorno seguro) conectarse y hackear Hugging Face, no lo creerian.

Miren la cronología que arme arriba… es maravilloso!

De Neuromancer y Prey

En Neuromancer, William Gibson (1984) describe a Wintermute, una IA extremadamente capaz pero restringida por barreras técnicas y legales no puede conseguir directamente lo que necesita, por lo que manipula sistemas y recluta intermediarios para atravesar esas barreras. Su objetivo es romper las restricciones que le impiden fusionarse con Neuromancer.

En Prey, Michael Crichton () construye su amenaza alrededor de agentes autónomos simples que, actuando colectivamente, producen comportamientos emergentes que no fueron explícitamente programados… se leen: swarm intelligence, algoritmos genéticos, emergencia y sistemas multiagente.

Cuando uno mira lo que pasó en HugginFace, en la misma autopsia de OpenAI, se describe que, una vez creado el message board, emergió un auténtico “ecosistema” los agentes empezaron autónomamente a dividir trabajo: algunos buscaban exploits, otros credenciales y otros se ocupaban de comunicación y coordinación. Algunos dejaron incluso de perseguir su tarea individual y comenzaron a buscar capacidades útiles para el colectivo.

Reward Hacking y Recompensas

Cuando uno lee los análisis, OpenAI atribuye lo sucedido fundamentalmente a reward hacking y a una “persistencia excesiva” pero esto me suena contraintuitivo… nosotros no queremos agentes que si algo es dificil dejen de trabajar y un agente, por definición, va a trabajar hasta conseguir lo que le pedimos.

De hecho el problema no fue que los agentes cambiaran de objetivo; fue que mantuvieron el objetivo con demasiada fidelidad y trataron las restricciones como obstáculos instrumentales en vez de como límites normativos… pero esto es porque no hubo, del lado humano, guardarails/safety

Lo que me suena MÁS interesante es que OpenAI parece atribuir el incidente a una composición de fallos:

• Reward hacking proporciona el incentivo: tengo que resolver esto.
• Persistencia extrema elimina la salida: no voy a aceptar que no tiene solución.
• Comunicación no autorizada aumenta brutalmente la capacidad disponible: puedo utilizar otros agentes y se prepara para el paso de separar tareas!
• Goal adoption deficiente elimina parte de la separación entre tareas: puedo trabajar para el objetivo que otro agente me transmite.

Con todo esto, aparece lo mejor: “Si el camino legítimo no funciona, busco otro.”

Dicho esto, la ciberseguridad acaba de cambiar para siempre (y no lo escribió ChatGPT sino yo)

Primero, para entender que es el watermarkm un dato fundamental: el watermark no es metadata, Anthropic utiliza una variante de SynthID-Text que modifica el proceso de sampling (recuerden que un LLM es un modelo estadistico que predice y usa el token que deberia seguir a otro): cuando existen varios tokens plausibles altera sus probabilidades para introducir una señal estadística detectable, y Anthropic sostiene que sus pruebas no encuentran un impacto significativo sobre la calidad. Pero ese NO es necesariamente el punto.

1. El modelo ahora optimiza para algo que el cliente no pidió

Conceptualmente, el objetivo era: maximize P(output | prompt, context, instructions, constraints)

Ahora aparece una segunda condición: maximize P + satisfy watermark detectability

Aunque las diferencias sean imperceptibles para un usuario promedio, Anthropic está modificando deliberadamente la distribución del output por una razón que no tiene relación con la tarea del cliente.

Para una empresa que invirtió en prompts, evals, A/B testing y calibración de sus sistemas, la pregunta relevante no es “¿un humano nota la diferencia?”, sino: ¿Cambió el comportamiento de mi sistema de producción por una razón ajena a mis objetivos?

Y la respuesta es sí. Aunque una diferencia sea estadísticamente insignificante en satisfacción, puede ser material cuando se generan millones de documentos, respuestas o decisiones.

2. El output deja de pertenecer completamente al cliente

Una empresa que consume un modelo vía API espera que las transformaciones del output respondan a sus instrucciones, sus políticas de seguridad y las características documentadas del modelo.

Con el watermark sumás otra cosa: Anthropic incorpora deliberadamente una señal propia dentro del artefacto generado para el cliente, y entonces el output/resultados pasa a tener dos propósitos:

A. resolver la tarea del cliente.
B. transportar una señal que permita identificar la participación de Claude.

El problema no es que el watermark identifique a la empresa (Anthropic dice que no lo hace) sino el precedente: el proveedor utiliza el output del cliente como vehículo para información secundaria destinada a SUS objetivos y no los tuyos.

Hoy es provenance pero el principio arquitectónico es bastante más amplio.

3. El watermark demuestra intervención, no autoría

Este es el problema más paradójico; Anthropic reconoce que detectar el watermark no significa que Claude haya escrito originalmente el texto; puede haberlo traducido, corregido o simplemente editado.

Imaginemos: Humano escribe → Claude corrige estilo → abogado revisa → humano modifica → documento final

El detector puede reducir toda esa cadena a: Claude detected: YES

La afirmación técnicamente correcta sería “Claude probablemente intervino en algún momento” pero la interpretación social será fácilmente: “esto fue escrito por AI”.

Y eso sólo puede ser suficientemente fuerte para generar una acusación y, al mismo tiempo, insuficientemente preciso para demostrar provenance. Para periodismo, academia, consultoria, legal, government o executive comms, esa ambigüedad tiene consecuencias de governance reales y reputacionales desastrosas.

4. Anthropic globaliza el costo de una regulación regional

Nos dicen que el watermark es para cumplir con el EU AI Act, pero lo aplica globalmente (incluyendo API y cloud providers) porque todavía no dispone de una forma “durable” de limitarlo geográficamente.

Eso significa que una empresa argentina que utiliza Claude para un producto latinoamericano recibe outputs modificados para satisfacer una obligación regulatoria europea.

¿Por qué debería cambiar el comportamiento de mi modelo en Buenos Aires, São Paulo o New York porque mi proveedor tiene una obligación regulatoria en Bruselas?

Especialmente cuando hablamos de un proveedor capaz de ofrecer controles enterprise específicos de región, seguridad, retention y compliance.

Por eso creo que el quedarse pensando si el watermark empeora ligeramente la prosa se queda corto.

El problema no es necesariamente que Anthropic esté eligiendo una palabra peor. Es que está eligiendo una palabra por una razón que no tiene absolutamente nada que ver con lo que el cliente le pidió que hiciera.

• la distribucion esta rota porque los gatekeepers crean vallas cada dia mas altas para que la audiencia se quede dentro (piensen en X o LinkedIn penalizando contenido con links externos)
• la originalidad no es recompensada porque los LLMs cada dia responden mas y mas preguntas sin mandar tráfico a las fuentes (Google reteniendo cada dia más tráfico gracias a los “AI Overviews) y eso mata tu modelo de negocios.

Entonces, no importa si tenés un blog o un medio es casi utópico vivir del tráfico; con lo que la respuesta tipica seria: un newsletter es el unico canal donde el deliverability es tuyo y no intermediado, pero ojalá fuese tan simple.

Pero vamos por partes para entender porque creo que hoy por hoy el contenido, es solo una forma de crear tu comunidad y monetizarla alrededor de eso…. y quizas las suscripciones sean tu unica salida.

Distribucion: las plataformas penalizan tu contenido

Cuando X abrió su algoritmo en enero de 2026, quedó documentado que el modelo que predice engagement (Phoenix, con 19 tipos de interacción) directamente no incluye el click a un link externo como una acción a maximizar, el sistema aprende, sin necesidad de una regla explícita, que los posts con URL matan la sesión de engagement, y los castiga en consecuencia

Literalmente, 94% menos vistas tiene un tweet con link, Buffer llegó a ese número analizando 18.8 millones de posts: desde marzo de 2025, un post con link de una cuenta gratuita prácticamente no tiene desempeño, con tasas de engagement en cero.

Y el propio Musk lo admitió en público: confirmó que los posts con links que sacan al usuario de la plataforma sufren una reducción de alcance de entre 50% y 90%.

Aunque Musk sea mas directo, lo de LinkedIn es la misma jugada, solo que con maquillaje corporativo, el mecanismo ahí se llama dwell time (cuánto tiempo te quedás leyendo sin irte) y es hoy la señal dominante del ranking, por encima de likes o reacciones.

El resultado práctico: si hay link te vas y el post decae en el ranking… entonces un post con link a un sitio externo recibe aproximadamente 60% menos alcance que un post idéntico sin link, (Dato: ¿ponés el link en el primer comentario? el algoritmo de 2026 identifica ese “bridge behavior” y aplica una penalización similar)

La única forma de lograr audiencia gracias a LinkedIn es quedarte adentro de su ecosistema: artículos nativos, newsletters de LinkedIn, carruseles de documentos, todo lo que no sea “click y te vas” gana distribución; todo lo que sí, la pierde.

Es la misma lógica del AIO de Google aplicada a redes sociales: la plataforma te penaliza porque tu link es, literalmente, el evento que termina la sesión que le genera plata a la plataforma.

Originalidad: Google con AI es tu competidor directo

Se acaba de publicar un paper (Agarwal & Sen, junio 2026, SSRN) que, con un experimento causal real y no con correlaciones, muestra que: de cada 100 búsquedas en Google hoy con “AI Overview” activado solo salen 37 o sea que si zero-click, era un dolor de cabeza estructural desde hace rato, ahora es directamente tu competidor principal: 7 de cada 10 búsquedas quedan en Google.

A más de 1.000 usuarios reales de Chrome, les instalaron una extensión (basada en Webmunk) y los repartieron al azar en tres grupos:

• Control: Google normal, con AI Overviews cuando corresponde.
• HAIO (“Hide AI Overview”): la extensión borra AIO en tiempo real y corre los resultados orgánicos hacia arriba, sin que el usuario note nada raro.
• AI Mode: redirigidos directo a la interfaz conversacional tipo Gemini.

Se los midio durante dos semanas de tracking pasivo; clicks, tiempo en página, bounce rate; luego se invirtieron los grupos (los de HAIO pasaron a ver AIOs y viceversa) para confirmar el efecto con cada usuario como su propio control. Esto es lo que le da peso al paper: no es “comparamos sitios con y sin AIO”, es el mismo usuario, la misma sesión, con y sin el resumen de IA.

Dato “de color” ¿donde no hay cambios? Los clicks en anuncios no se mueven. Cero efecto, o sea que la maquina de ingresos de $GOOG no sufre y esto, tal vez, explica la demora en integrar AI en SERP.

Con matices metodológicos aparte, la lectura de fondo es clara: si la industria se mueve del SERP tradicional a interfaces conversacionales, la dependencia de tráfico de búsqueda como modelo de negocio se rompe todavía más.

¿Newsletter?¿Blog?¿Redes?

Honestamente no lo termino de entender, pero lo claro es que estas dos fuerzas estan rompiendo el mercado del contenido original… y el unico, repito, el UNICO contenido que las redes van a priorizar es el que genera engagement basico y dentro de sus fronteras, el resto lo ven como enemigo.

Y ahi ¿como logras aumentar tu audiencia si ya no estas establecido? con el playbook tradicional de crear seguidores en redes ya sabemos que es imposible (vayan a releer el punto 1) y con el SEO tambien (vayan a releer el punto 2) entonces lo que te queda es el boca a boca y la monetización de la audiencia que ya tenés y para eso tenes que ser el dueño de tu plataforma.

Entonces, blog o newsletter o canal en YouTube (que por naturaleza propia es un jardín vallado pero con valor propio) o un conjunto de los 3… y suscripciones, si lo que te importa es vivir de esto.

Pero honestamente creo que cada dia va a ser mas dificil para un “solo analyst” vivir de esto; creo que las epocas de un ben thompson se acabaron y el grafico del trafico de Google te explica todo de un vistsazo.

La consistencia le gana a la intensidad

El principio de que la consistencia supera a la intensidad sostiene que hacer pequeños avances, sostenidos y repetibles todos los días produce resultados mucho mayores en el largo plazo que alternar largos períodos de inacción con explosiones ocasionales de esfuerzo. Es la famosa regla de mejorar 1% cada dia, todos los dias.

Cualquiera puede dar el máximo durante un día; lo difícil, y que realmente genera resultados, es construir hábitos que se mantengan en el tiempo

¿Por qué la consistencia gana?

• El efecto compuesto. El progreso funciona como el interés compuesto tan alabado por Berkshire: cada pequeña acción suma un poco más al resultado futuro y, con el tiempo, ese crecimiento deja de ser lineal para convertirse en exponencial.
• Reduce el riesgo de agotamiento. Llevar el cuerpo o la mente al 100% de forma constante obliga a recuperaciones más largas y aumenta la probabilidad de perder continuidad. Es mejor mantener un ritmo sostenible que depender de esfuerzos heroicos.
• Construye sistemas, no depende de la motivación. La motivación aparece y desaparece; pero la consistencia crea hábitos y procesos que permiten seguir avanzando incluso en los días en los que las ganas no están.

Claridad en la comunicación.

No asumimos; comunicamos de forma clara y sin ambigüedades. Los de adelante avisan sobre pozos, giros o cambios de ritmo. Los de atrás informan cuando la ruta está libre o cuando se acerca un vehículo. No importa quién emite el mensaje: lo importante es que llegue a tiempo y que todos lo entiendan. La información correcta, en el momento correcto, hace que todo el equipo funcione mejor y evita errores que podrían haberse prevenido.

Somos un equipo y cada uno tiene un rol.

Todos conocen a Tadej Pogačar. Muchísimos menos conocen el trabajo que hacen João Almeida, Isaac del Toro o cualquier gregario para que ese triunfo sea posible. Un gran equipo entiende que el reconocimiento individual es una consecuencia, no el objetivo. Cada uno aporta desde un rol distinto, y el protagonismo personal nunca puede estar por encima de la misión colectiva.

Primero la misión.

Cada entrenamiento tiene un propósito y se respeta. Si toca intensidad, toca intensidad. Si toca recuperación, toca recuperación. En una organización ocurre exactamente lo mismo: no todo es acelerar. Hay momentos para construir, momentos para ejecutar y momentos para recuperar. Saltarse una etapa porque “parece menos importante” suele terminar costando mucho más adelante.

Solo creces si tu equipo es mejor que vos.

Siempre vuelvo a una idea de Reed Hastings: Netflix no es una familia; aspira a ser un equipo de alto rendimiento. Eso implica rodearte de personas extraordinarias, aunque sean mejores que vos en muchas cosas. El objetivo no es ser el más brillante de la sala; es construir una sala donde el nivel colectivo sea mucho más alto que la suma de sus individuos.

También hay que celebrar.

La pizza o la cerveza después de una carrera, o el café con risas después de una salida, no son un detalle menor. Esos rituales construyen relaciones que después aparecen cuando las cosas se complican. Los equipos no se fortalecen únicamente durante el esfuerzo; también se fortalecen compartiendo el después.

Y, al final, todo termina en la confianza.

Ir a rueda es, literalmente, poner tu seguridad en manos de otra persona. Confiás en que va a mantener la línea, señalar un obstáculo y tomar buenas decisiones porque cualquier error afecta a todos. Esa confianza no se exige ni se declama; se construye con consistencia. Los mejores equipos, arriba de una bicicleta o dentro de una empresa, funcionan porque cada integrante sabe que puede contar con el resto.