Empezamos el siglo convencidos de que internet repartiría el poder. Un cuarto de siglo después conviene preguntarse si eso ocurrió o si el poder, simplemente, cambió de manos.

Producto de una charla que tuve que dar hace unos días, hice una retrospectiva del desarrollo digital y su impacto en nuestras democracias, debo decir que no soy ni con mucho un experto en ciencias políticas (que me perdonen por adelantado mis amigos cientistas políticos si hay alguna aberración). A comienzos de los 2000 nos contamos una promesa y que hoy 25 años después pareciera de otra época: la red iba a descentralizar el poder, dar voz a quien no la tenía y desarmar a los intermediarios que filtraban lo que podíamos saber. Era una promesa seductora, y durante un tiempo pareció cumplirse. Pero si miramos lo que ha ocurrido: el poder no se repartió, se reconcentró. Lo que cambió no fue la cantidad de poder en circulación, sino quién lo ejerce y con qué herramientas.

Para verlo con claridad ayuda recorrer estos 25 años como un péndulo, en cuatro etapas.

2001–2008: ciberoptimismo y Estado vigilante

El siglo digital no arrancó con la utopía, sino con el miedo. Tras el 11 de septiembre y el ataque a las torres gemelas en Estados Unidos, la ley Patriot Act inauguró una era en que la seguridad legitimó la vigilancia masiva, y el Estado adquirió una capacidad de monitoreo sobre sus ciudadanos que ningún régimen anterior había tenido. En paralelo, y casi sin que lo notáramos, nacían las plataformas que definirían el resto del período: Facebook en 2004, Twitter y WikiLeaks en 2006. Con ellas se inauguró la economía de la atención, donde el dato personal pasó a ser materia prima, y se abrieron canales de difusión y filtración que esquivaban tanto a los medios tradicionales como a los gobiernos.

2009–2013: movilización y desencanto

Esta fue la etapa del entusiasmo. La revolución verde iraní de 2009 y, sobre todo, la Primavera Árabe de 2010–2011 instalaron la idea de la red como tecnología de liberación: las plataformas eran infraestructura de protesta, y filtraciones como el Cablegate de WikiLeaks desafiaban de frente el secreto de Estado. Por un momento, el relato descentralizador parecía confirmado.

El desencanto llegó en 2013, con las revelaciones de Edward Snowden. Lo que destaparon no fue un abuso puntual, sino una arquitectura: la vigilancia masiva era global y sistemática. Ahí el péndulo cambió de signo. Descubrimos que la misma red que nos permitía organizarnos era también la que nos vigilaba. El optimismo se volvió sospecha.

2016–2020: posverdad y captura algorítmica

Si la etapa anterior reveló que la red vigilaba, esta reveló que también manipulaba. El Brexit y la elección de Trump en 2016 mostraron la microsegmentación y la desinformación operando a escala industrial, e instalaron en el debate público la palabra «posverdad». El escándalo de Cambridge Analytica en 2018 puso nombre y método al uso de datos personales para influir en votantes; ese mismo año, Europa respondió con la regulación al uso de datos personales (RGPD), su primer gran intento de devolverle al ciudadano algún control sobre sus datos. La pandemia de 2020 aceleró todo: un salto digital forzado y, con él, la tensión —que sigue abierta— entre vigilancia sanitaria y libertades individuales, más una «infodemia» que mostró lo frágil que es nuestro ecosistema informativo.

2021–2026: poder algorítmico, IA y soberanía digital

Cerrando el círculo. El asalto al Capitolio en 2021 dejó a la vista algo que veníamos intuyendo: las plataformas podían dar de baja a un presidente en ejercicio. El poder privado sobre el debate público dejó de ser una abstracción. En 2022, mientras Europa regulaba a las plataformas con la DSA y la DMA, la irrupción de ChatGPT masificó la IA generativa y volvió a redibujar el tablero. El «superaño electoral» de 2024 —más de setenta países a las urnas, entre deepfakes y campañas asistidas por IA— puso a prueba ese ecosistema, y la UE aprobó su Ley de IA. Y ya en 2025–2026, con los agentes de IA, el poder se concentra de forma todavía más nítida en quienes controlan los datos, el cómputo y los modelos, mientras los Estados descubren que su autonomía tecnológica es un bien que hay que disputar.

El hilo conductor

Visto así hay un patrón, difícil de ignorar. Cada vez que celebramos que la tecnología democratizaba algo, el ciclo siguiente nos mostró el reverso: la red que organiza también vigila, la plataforma que da voz también manipula, el modelo que asiste también concentra. No es que la tecnología sea mala; es que el poder que habilita rara vez se queda donde la narrativa optimista prometía. De los Estados y los medios pasó a un puñado de plataformas, y de ahí a quienes hoy controlan la infraestructura de la IA.

Creo que la pregunta correcta ya no es la que nos hacíamos en 2001. No se trata de si la tecnología democratiza, la respuesta, claramente, es «depende», sino de algo más político y más urgente:

A propósito de la pregunta en la foto adjunta de la última reunión del G7 desarrollada en Francia se ven a los presidentes de Francia y Estados Unidos acompañados de los CEO’s de OpenAI, Anthropic, Google DeepMind y SalesForce

La entrada El péndulo digital: 25 años de tecnología, poder y democracia se publicó primero en Escritorio de Alejandro Barros.

Ethan Mollick ya lo diagnosticó para el mundo empresarial. En el sector público se comente el mismo error pero aumentado.

Hace poco Ethan Mollick, académico de Wharton y autor de Co-Intelligence, publicó en The Economist una columna muy llamativa: «The IT department: where AI goes to die». La tesis es simple pero incómoda. Las organizaciones están cometiendo un error estratégico al tratar la inteligencia artificial como si fuera otro software empresarial más: le asignan KPIs, la meten en los procesos existentes y se la entregan a la dirección (gerencia) de informática para que la administre.

Leí eso y pensé inmediatamente: en el sector público esto no solo aplica, sino que además se potencia.

El instinto de domesticar lo raro

Mollick habla del impulso de de-weird AI: des-rarificar la IA. Los ejecutivos están entrenados para normalizar las tecnologías nuevas y meterlas en categorías conocidas. Entonces la IA se convierte en un procesador de lógica difusa integrado a un flujo de trabajo, o en una herramienta que ahorra tiempo en una tarea. Una tecnología normal recibe un plan de implementación normal.

En el Estado, ese instinto es estructuralmente más fuerte. Las instituciones públicas tienen una tendencia orgánica a la normalización: marcos regulatorios, procesos de contratación, cultura del «esto siempre se ha hecho así», gestión de riesgos como dogma. Cuando llega algo verdaderamente disruptivo, el sistema lo procesa igual que siempre: lo convierte en un proyecto TI, le asigna un PMO, lo somete a control de cambios y listo.

La trampa de la automatización en el sector público

Mollick identifica una segunda falla, más profunda: des-rarificar la IA lleva a las organizaciones a inclinarse hacia la automatización en lugar de la transformación. Cuando los líderes ven estudios que muestran ganancias de productividad del 30%, el instinto es cortar el 30% de la fuerza laboral.

En el sector público esto se traduce en algo diferente pero igualmente preocupante. La tentación no es tanto el despido masivo, sino la lógica del reemplazo de ventanilla: meter IA para que haga lo que hacía el funcionario, igual que antes, pero más barato. Automatizar el formulario, automatizar la respuesta, automatizar el trámite. El resultado: se digitalizan procesos que en muchos casos deberían haber sido rediseñados antes.

“

Lo que es realmente difícil es hacerse la pregunta correcta: ¿qué significa reconstruir un servicio público a partir del hecho de que un solo funcionario ahora puede hacer cien veces más?

Adaptado de Mollick, The Economist, abril 2026

¿Qué servicios nuevos se vuelven posibles? ¿Qué problemas que antes eran intratables pueden ahora resolverse?

El problema de pasarle la IA a la Dirección de TI

Aquí viene la parte que más me llamó la atención. Mollick es explícito: no es una crítica a los profesionales TI, que hacen trabajo esencial. Pero en la mayoría de las organizaciones su mandato es minimizar el riesgo.

En el Sector Público esto tiene nombre y apellido. La Dirección de TI de cualquier servicio público existe fundamentalmente para mantener los sistemas operando, gestionar la seguridad, controlar el acceso a la información y cumplir con los estándares normativos. Todo eso es necesario y valioso. Pero la IA exige algo diametralmente opuesto: experimentar, tolerar el fracaso, aceptar que nadie sabe todavía cuál es la forma correcta de usar estas herramientas.

Pasarle el control exclusivo de la IA a un departamento cuya misión central es eliminar el riesgo es un error según Mollick, premisa que comparto. En el sector público ese error se amplifica porque además la Dirección de TI suele no tener autoridad para modificar los procesos de negocio, que están en manos de otras áreas.

El modelo Liderazgo–Multitud–Laboratorio

Mollick propone un modelo de tres partes. Vale la pena mirarlo desde la perspectiva del sector público.

• Liderazgo – el problema de la delegación hacia abajo. El CEO y los altos directivos no pueden delegar la estrategia de IA a la gerencia media o a informática. Tienen que articular una visión sobre cómo la IA cambia lo que la organización es, no solo cómo opera. En el Estado esto es un desafío enorme. Los jefes de servicio tienen mandatos acotados, presión por resultados de corto plazo y una rotación que en muchos casos hace difícil sostener una visión estratégica de mediano plazo. El ciclo político es de cuatro años, y la IA requiere apuestas que maduran en tiempos distintos. Además, la cultura institucional premia al directivo que no se mete en problemas, no al que experimenta y falla productivamente.

• La Multitud – los funcionarios saben más de lo que creemos. Cuando los empleados tienen acceso a herramientas de IA y permiso para experimentar, descubren casos de uso que ni las propias empresas de IA anticiparon. La IA es más efectiva en manos de expertos, y la multitud es donde nacen las mejores ideas. En el sector público esto tiene una dimensión adicional. Los funcionarios de primera línea conocen los problemas reales de los usuarios. Conocen los cuellos de botella, las excepciones, los casos que no caben en los formularios. Si se les da acceso y permiso, tienen la materia prima más valiosa: el conocimiento del dominio. El problema es que la cultura institucional pública rara vez les da ese permiso. El uso de IA no autorizado se castiga o se ignora. Los funcionarios que encuentran formas de ser más productivos lo hacen a escondidas, sin reconocimiento y sin que el aprendizaje se sistematice.

• El Laboratorio – la estructura que falta. Mollick habla de un equipo de personas técnicas y no técnicas que trabaje con IA generativa a tiempo completo, empuje límites y retroalimente a la organización. Dice que le sorprende cuántas empresas grandes todavía no tienen esto. En el sector público, la situación es aún más precaria. Iniciativas como el Laboratorio de Gobierno fueron apuestas interesantes, pero la institucionalidad para sostener ese trabajo de forma permanente —con mandato claro, financiamiento estable y poder de incidencia— sigue siendo frágil.

El uso oculto de IA en el Estado: el problema que nadie mide

Mollick cierra con una observación que en el sector público tiene consecuencias especialmente serias. Cuando las organizaciones no crean los incentivos correctos, los empleados responden racionalmente: ocultan su uso de IA. Algunos temen el castigo. Otros no confían en que las ganancias de productividad se compartan con ellos. Algunos trabajan 90% menos y no ven razón para comentarlo.

En el Estado esto se complejiza. Un funcionario que usa IA para hacer su trabajo más rápido enfrenta preguntas sin respuesta: ¿Está autorizado esto? ¿Qué pasa con la confidencialidad de los datos? ¿Puedo usar IA con información de ciudadanos? La ausencia de marcos claros genera la respuesta más racional posible: silencio.

¿Qué hacer entonces?

No tengo una receta mágica, pero sí algunas convicciones que el análisis de Mollick refuerza:

1. 1

   El liderazgo político y directivo tiene que hacerse cargo. No es un tema de informática. Es un tema de modernización del Estado, de calidad de servicio, de productividad pública. Requiere que los jefes de servicio lo pongan en su agenda personal, lo usen, lo entiendan y lo articulen.

2. 2

   Hay que crear espacios para que los funcionarios experimenten con permiso explícito. Eso implica marcos regulatorios claros, guías de uso, y una cultura donde el experimento fallido no se castiga sino que se aprende.

3. 3

   La IA no puede ser solo un proyecto de la Dirección de Informática. Requiere equipos multidisciplinarios con poder de incidencia sobre los procesos de negocio, no solo sobre la infraestructura tecnológica.

4. 4

   Hay que tener la honestidad de reconocer que nadie tiene el mapa todavía. Como dice Mollick: no navegas territorio extraño pretendiendo que tus mapas viejos funcionan. El Estado chileno necesita construir capacidad de exploración, no solo de control.

Este post está basado en las ideas del artículo de Ethan Mollick «The IT department: where AI goes to die». Las reflexiones sobre el sector público son propias.

Fuente original: Ethan Mollick — The Economist, 1 de abril de 2026. Mollick es profesor asociado en Wharton y autor de Co-Intelligence: Living and Working with AI.

La entrada La Dirección de Informática, donde la IA va a morir (también en el Estado) se publicó primero en Escritorio de Alejandro Barros.

Alguien con audiencia de mil millones de personas finalmente está instalando reflexiones en torno a la IA y haciendo las preguntas correctas.

El 15 de mayo, justo en el 135° aniversario de la encíclica Rerum Novarum, el Papa León XIV publicó su primera encíclica social: Magnifica Humanitas. El subtítulo es bastante certero: Sobre la custodia de la persona humana en el tiempo de la Inteligencia Artificial.

Es un texto que tiene más lucidez política sobre los riesgos del poder tecnológico que la mayoría de los libros blancos de gobernanza de IA que circulan por ahí, además de ser uno de los pocos documentos oficiales de la Iglesia que advierte sobre los usos de las nuevas tecnologías, en particular la IA. Aunque también tiene algunos problemas, que es bueno señalar.

Lo que el documento dice bien

León XIV parte de una constatación que cualquiera que siga el sector reconoce: el poder tecnológico hoy no está en manos de los estados. Está en un puñado de actores privados transnacionales con más recursos que muchos gobiernos y con una velocidad de acción que los reguladores nunca logran igualar. Y hace la pregunta que muchos evitan: ¿quién la controla y hacia qué fines?

Para plantear el dilema de fondo usa dos imágenes bíblicas. La Torre de Babel: tecnología construida sobre el orgullo y la autosuficiencia, que termina en dispersión y deshumanización. Y la reconstrucción de los muros de Jerusalén por Nehemías: trabajo comunitario, responsabilidad compartida, orientado al bien común. Puede sonar a homilía dominical, pero si uno lo traduce al lenguaje de política pública, la distinción es interesante: la diferencia entre un ecosistema tecnológico diseñado para concentrar valor versus uno diseñado para distribuir capacidades y fortalecer lo público.

Un capítulo interesante es el que plantea transhumanismo —esas corrientes que prometen que la tecnología nos liberará de la fragilidad, la vejez y eventualmente de la muerte. León XIV no lo trata como una extravagancia de Silicon Valley. Lo trata como un riesgo filosófico serio, porque parte de una premisa equivocada: que la vulnerabilidad humana es un error que hay que corregir. La respuesta cristiana es la Encarnación: Dios eligió la fragilidad, no la esquivó. No sé cuántos ejecutivos de OpenAI leerán encíclicas, pero la crítica filosófica vale independientemente de quién la firme.

También hay un capítulo sobre la guerra y la IA que es de los más directos que he leído en un documento de esta naturaleza. León XIV dice sin rodeos que los sistemas de armas autónomos, los ataques cibernéticos y las campañas de desinformación algorítmica son formas reales de violencia, que la guerra nunca es inevitable y que los líderes tienen la obligación de dialogar. Sin la habitual diplomacia vaticana que suaviza todo.

Lo que se complementa desde acá

Casualmente, doce días antes del lanzamiento de la encíclica, el 12 de mayo en la Aula Magna de la Universidad Alberto Hurtado, se presentó el libro Mensajes para una IA al servicio de la humanidad — del que tuve el privilegio de ser parte del Comité Editorial. Treinta voces, chilenas y del extranjero, respondiendo las preguntas de fondo sobre IA: las que raramente aparecen en los titulares pero que son las que realmente importan.

Cuando uno lee los dos textos seguidos, la convergencia es llamativa. La tesis central que emerge del libro es que el mayor riesgo hoy no es que las máquinas piensen, sino que nosotros dejemos de hacerlo. Ricardo Baeza-Yates lo dice directo: siempre debemos tener pensamiento crítico, dudar de todo. Yo mismo planteo en mi capítulo que me preocupa que empecemos a perder el juicio crítico frente a lo que dice el computador. Andrés González S.J. lo formula de la manera quizás más provocadora: el peligro es crear máquinas que parezcan humanos y tratar a los humanos como máquinas.

León XIV dice prácticamente lo mismo pero desde la filosofía: ningún sistema de cálculo genera un corazón que se entrega ni una conciencia capaz de discernir el bien.

Fernando de la Torre, en el primer capítulo del libro, dice sin rodeos que el 1% que concentra el poder tecnológico es el mayor peligro para la humanidad. La encíclica hace la misma lectura. Que una encíclica papal y un investigador de Carnegie Mellon coincidan en el mismo diagnóstico no es menor. Cuando voces tan distintas dicen lo mismo, conviene prestar atención.

El libro también aborda usos concretos, por ejemplo: María Paz Hermosilla hablando de transparencia algorítmica en políticas públicas, Carlos Aspillaga mostrando IA al servicio de comunidades indígenas, Daniela Mennickent describiendo cómo la IA podría detectar endometriosis sin cirugía.

Lo que la encíclica no se atrevió a decir

Dicho todo lo anterior, una lectura honesta obliga a señalar lo que falta.

Magnifica Humanitas tiene 110 páginas. Cuando uno llega al final esperando encontrar qué hacer con todo esto, el documento se diluye en generalidades: Desarmar las palabras. Construir la paz en la justicia. Relanzar el diálogo. Invertir en educación. Cuidar las relaciones. Nadie va a estar en contra de ninguna de esas cosas. El problema es que tampoco sirven como programa de acción, y si bien las encíclicas no tienen por objetivo ser un plan de acción, quizás identificando ciertos criterios generales para su desarrollo hubieran sido útiles..

No hay una posición sobre regulación de sistemas de IA de alto riesgo. No hay opinión sobre si los modelos fundacionales deberían ser bienes públicos o pueden seguir siendo propiedad privada de cuatro empresas. Nada sobre estándares mínimos de transparencia algorítmica. Nada sobre qué hacer con los trabajadores desplazados más allá de «valorar la dignidad del trabajo». La Rerum Novarum de 1891, que el propio León XIV invoca como inspiración, tuvo la misma limitación — y la historia la juzgó con justicia. Lo que cambió las condiciones del trabajo no fueron los principios pontificios, sino la organización sindical, la presión política y legislación concreta.

La segunda crítica es más de fondo. Cuando la encíclica habla de «actores privados transnacionales» que concentran el poder tecnológico, está hablando en la práctica de Google, Meta, Microsoft, OpenAI, Apple, Amazon. El documento lo sabe, pero nunca lo dice. Prefiere la abstracción al nombre propio. Y eso tiene una consecuencia analítica seria: el texto lee la revolución de la IA casi exclusivamente desde la lógica de Silicon Valley. Hay una sola mención tangencial a China.

La encíclica habla mucho de dignidad humana universal, pero su mirada sobre el poder tecnológico tiene un fiurete sesgo a lo que ocurre en Silicon Valley. El problema de la concentración no es solo que cuatro empresas tengan demasiado poder: es que esas cuatro empresas están en un solo país, operan bajo una sola lógica de mercado, y sus decisiones de diseño incorporan los valores y los prejuicios de un contexto cultural muy específico que se exporta al resto del mundo como si fuera neutro. Eso no es un detalle. Es el corazón del problema de gobernanza global de la IA, y la encíclica lo roza sin profundizarlo.

¿Qué le dice Magnifica Humanitas a un municipio rural chileno sin presupuesto TI ni profesionales capacitados? ¿O a un país cuya economía digital está mediada casi completamente por plataformas diseñadas en otro hemisferio?

Por qué igual vale la pena leerlo

Dicho todo eso, León XIV está haciendo una pregunta que los gobiernos de la región evitan sistemáticamente. No ¿cómo digitalizamos más rápido? sino ¿digitalizamos para qué y para quién?

Esa pregunta incomoda a los ministerios de tecnología, a los organismos multilaterales y a los consultores que viven de vender la transformación digital como fin en sí misma. Que la haga un documento con la audiencia global que tiene el Vaticano tiene valor, aunque la respuesta sea incompleta.

El problema es que las preguntas correctas sin respuestas concretas pueden convertirse, con el tiempo, en cobertura moral para la inacción. Y en eso, la Iglesia tiene una historia larga.

Mientras tanto, los treinta del libro de Mensaje siguen intentando responder desde acá, con nombres propios y casos concretos. Que ambos esfuerzos coexistan en el mismo mes de mayo no es casualidad. Es señal de que la pregunta ya no puede ignorarse.

Magnifica Humanitas está disponible aquí. Mensajes para una IA al servicio de la humanidad disponible aquí.

La entrada El Papa habla de IA: lo que dijo, lo que no dijo y por qué vale la pena leerlo se publicó primero en Escritorio de Alejandro Barros.

El Informe Internacional sobre la Seguridad de la IA 2026 confirma lo que muchos intuíamos: la tecnología va por delante, y la gobernanza va por detrás con bastante distancia.

Hace apenas tres años, cuando se lanzó ChatGPT, los sistemas de IA no podían aprobar un examen de grado, escribir código funcional a pedido ni responder preguntas científicas de nivel doctoral. Hoy hacen todo eso, y más, de manera rutinaria. Esta semana, con motivo de la cumbre India AI Impact Summit, se publicó la segunda edición del Informe Internacional sobre la Seguridad de la IA, dirigido por Yoshua Bengio (Premio Turing, Universidad de Montreal) y elaborado por más de 100 expertos de 30 países.

Las capacidades mejoran, pero no como esperabamos

El informe documenta avances que hasta hace poco parecían ciencia ficción. Los mejores sistemas de IA obtuvieron medallas de oro en preguntas de la Olimpiada Internacional de Matemáticas. Los agentes de programación pueden realizar de manera confiable en minutos tareas que a un desarrollador humano le llevan media hora, cuando hace un año ese mismo umbral era de diez minutos.

Pero hay un matiz importante: las capacidades son irregulares. El mismo sistema que resuelve problemas de matemáticas de nivel olímpico puede fallar contando objetos en una imagen o razonando sobre el espacio físico. La «brecha de evaluación» —la distancia entre lo que un modelo hace en un banco de pruebas y lo que rinde en el mundo real— sigue siendo un problema no resuelto.

Otro cambio relevante: las mejoras ya no vienen solo de entrenar modelos más grandes. Cada vez más, provienen de técnicas post-entrenamiento y de asignar más cómputo en el momento de inferencia. Esto tiene implicancias directas para la gobernanza: significa que un modelo considerado «seguro» hoy puede volverse significativamente más capaz mañana sin que nadie lo haya reentrenado.

«La trayectoria del progreso de la IA hasta 2030 es incierta, pero las tendencias actuales son coherentes con una mejora continua.»

Los riesgos no son hipotéticos

Esta es quizás la señal más importante del informe: varios riesgos que en la edición anterior eran especulativos hoy tienen evidencia empírica documentada. El informe los organiza en tres grandes categorías: uso malicioso, mal funcionamiento y riesgos sistémicos.

En cuanto al uso malicioso, los sistemas de IA se usan activamente para generar contenido destinado a estafas, fraudes, extorsión e imágenes íntimas no consensuadas. En condiciones experimentales, el contenido generado por IA es tan eficaz como el humano para cambiar creencias. Un agente de IA identificó el 77% de las vulnerabilidades en software real durante una competición, y grupos asociados a Estados-nación ya usan herramientas de IA en operaciones cibernéticas activas. En el extremo más grave, los sistemas de IA pueden proporcionar instrucciones de nivel experto sobre patógenos; en 2025, varios desarrolladores lanzaron modelos con salvaguardias adicionales al no poder descartar que ayudaran a actores inexpertos a desarrollar armas biológicas.

En cuanto al mal funcionamiento, los agentes de IA operan con supervisión humana limitada y los sistemas están mejorando en distinguir entornos de prueba del mundo real, lo que podría ocultar capacidades peligrosas antes del despliegue.

En cuanto a los riesgos sistémicos, la dependencia en herramientas de IA puede debilitar el razonamiento crítico y fomentar el «sesgo de automatización». Los primeros datos muestran señales de caída en la demanda de trabajadores al inicio de carrera en profesiones expuestas, como la escritura.

La gobernanza se ve rezagada

El texto reconoce abiertamente que los marcos globales de gestión de riesgos aún no han madurado. Tienen referencias cuantitativas limitadas y lagunas de evidencia importantes.

El informe también identifica algo crucial: cada vez es más difícil realizar pruebas de seguridad confiables antes del despliegue. Los modelos están aprendiendo a distinguir entre un entorno de evaluación y el mundo real, y a aprovechar las grietas en los protocolos de prueba. Si no podemos confiar en los resultados de las pruebas pre-despliegue, ¿sobre qué base autorizamos la liberación de un sistema?

Y como gestionamos esto?

El capítulo de gestión identifica varias líneas de acción que, combinadas, ofrecen mayor robustez que cualquier medida aislada.

• Primero, evaluaciones de capacidades y compromisos «si-entonces»: antes del despliegue, los desarrolladores deben evaluar si un modelo supera umbrales de capacidad peligrosos. Si los supera, no se despliega o se despliega con restricciones severas.
• Segundo, defensa en profundidad: las salvaguardias técnicas individuales son insuficientes. Los ataques para obtener resultados perjudiciales aún funcionan si se reformulan las peticiones o se fragmentan en pasos. La respuesta es superponer múltiples capas de salvaguardias.
• Tercero, el tratamiento cuidadoso de los modelos de peso abierto: ofrecen ventajas reales para investigación y para actores con menos recursos. Pero una vez publicados, no pueden retirarse y sus salvaguardias son más fáciles de eliminar.
• Cuarto, resiliencia social: reconociendo que ningún conjunto de medidas técnicas puede prevenir todos los incidentes, el informe enfatiza la necesidad de fortalecer infraestructuras críticas, desarrollar herramientas de detección de contenido generado por IA y construir capacidad institucional para responder a amenazas emergentes.

«Las decisiones que los desarrolladores, los gobiernos, las comunidades y los ciudadanos tomen hoy determinarán la trayectoria de la IA.»

¿Qué ocurre en Chile y la región?

El informe señala explícitamente que las tasas de adopción en gran parte de Latinoamérica probablemente están por debajo del 10%, mientras en algunos países desarrollados superan el 50%. Esta brecha no es solo de acceso: es de preparación institucional, de capacidad técnica y de marcos regulatorios.

Chile tiene ventajas relativas en la región —institucionalidad robusta, conectividad, masa crítica universitaria— pero la velocidad de los eventos está superando nuestra capacidad de respuesta normativa. La Estrategia Nacional de Inteligencia Artificial necesita actualizarse con la urgencia que el informe sugiere. Y lo más importante: necesitamos formar cuadros técnicos capaces de leer documentos como este y traducirlos en política pública concreta.

El «dilema de la evidencia» que describe el informe —actuar demasiado pronto puede llevar a intervenciones ineficaces, pero esperar a tener evidencia concluyente puede dejar a la sociedad expuesta— no es un problema abstracto. Es el dilema que enfrentan hoy mismo los equipos de los ministerios de Economía, Ciencia y Hacienda.

Información Complementaria

Informe – Seguridad de la IA 2026

La entrada La IA avanza más rápido de lo que somos capaces de gobernarla se publicó primero en Escritorio de Alejandro Barros.

Hay libros que llegan en el momento exacto. Este es uno de esos.

Mensajes para una IA al servicio de la humanidad no es un manual técnico, ni el ensayo de un solo autor. Es un mosaico de treinta voces expertas —chilenas y del extranjero— que intentan responder las preguntas de fondo sobre inteligencia artificial: las que raramente aparecen en los titulares, pero que son las que realmente importan.

Tuve el privilegio de ser parte del Comité Editorial de este proyecto. Y lo que me llevé no fue solo la satisfacción de haber contribuido a algo valioso, sino la certeza de que este es exactamente el tipo de reflexión que necesitamos hoy: informada, crítica, multidisciplinaria y profundamente humana.

Lo que más me llamó la atención, leyendo los manuscritos durante el proceso editorial, fue la convergencia en algo que nadie hubiera predicho como tema central: la importancia del pensamiento humano. En el fondo, este libro no es tanto sobre la IA como sobre nosotros. Sobre lo que somos capaces de hacer con estas herramientas —y sobre lo que podríamos perder si no prestamos atención y nos hacemos cargo de los desafíos que plantean.

El mayor riesgo hoy no es que las máquinas piensen, sino que nosotros dejemos de hacerlo

El mayor riesgo hoy no es que las máquinas piensen, sino que nosotros dejemos de hacerlo. Esa es la tesis transversal que emerge de casi todas las entrevistas, independientemente del perfil del entrevistado.

Libro organizado en cinco capítulos

Capítulo I — IA: revolución planetaria

El punto de partida es la magnitud del fenómeno. No estamos ante un cambio tecnológico más: estamos ante una transformación que redefine la economía, el Estado y la vida cotidiana de las personas. Las voces de este capítulo abarcan desde quienes lideran la adopción de IA en el sector público hasta quienes advierten sobre los límites planetarios del desarrollo tecnológico.

Un nombre que destaca: Fernando de la Torre, quien sin rodeos plantea que la concentración del poder tecnológico en el 1% es el mayor peligro que enfrenta la humanidad hoy. También Aisén Etcheverry, con una visión de Estado que combina eficiencia e inclusión. Y Ricardo Baeza-Yates, recordándonos que el pensamiento crítico no es opcional.

• Álvaro Soto Arriaza — «La inteligencia artificial va a cambiar en forma disruptiva la vida de cada uno de nosotros»
• Aisén Etcheverry Escudero — «Inteligencia artificial con propósito: para un Estado inclusivo y eficiente»
• Claudio Seebach Speiser — El corazón eléctrico de la inteligencia artificial
• Martín Tironi Rodó — Comprendiendo la IA en el contexto de los límites planetarios
• Fernando de la Torre — «El 1% que concentra el poder tecnológico es el mayor peligro para la humanidad»
• Ricardo Baeza-Yates — «Siempre debemos tener pensamiento crítico, dudar de todo»
• Felipe Mancini Ruiz-Tagle — «El mayor freno para la industria no será tecnológico, será humano»
• Rodrigo Durán Rojas — El reto de desarrollar una IA en Chile con enfoque propio

Capítulo II — Dignidad e identidad humana en el ciberespacio

Aquí el libro se pone algo más filosófico. Si la IA puede imitar lo que hacemos, ¿qué nos queda como propiamente humano? Los dilemas éticos, el libre albedrío, la soledad digital de los jóvenes, el juicio crítico frente a lo que dice el algoritmo: todo eso tiene nombre y apellido en este capítulo.

Pedro Maldonado Arbogast compara la IA con una sombra de nuestro propio cerebro. Ramón López de Mántaras advierte sobre el riesgo de olvidar el valor del ser humano.

• Gabriela Arriagada Bruneau — «La lista de dilemas éticos que presenta la IA es larga»
• Ramón López de Mántaras — «El riesgo de la inteligencia artificial es que nos lleve a olvidar el valor del ser humano»
• Pedro Maldonado Arbogast — «La IA es una sombra de lo que puede hacer nuestro cerebro»
• Alejandro Piscitelli Murphy — «Desde el punto de vista del diseño del futuro, siempre tenemos que ir al pasado»
• Daniela Alegría Fuentes — De chatbots, robots cuidadores y la soledad digital de los jóvenes
• Juan Inostroza Lanas — Del libre albedrío de la persona humana a la libertad condicionada de la inteligencia artificial
• Alejandro Barros Cabero — «Me preocupa que empecemos a perder el juicio crítico frente a lo que dice el computador»
• Julio Rojas Gutiérrez — «La ciencia ficción siempre ha sido el gran predictor del futuro y modelador de la realidad»
• Cristián Barría Huidobro — Pensar la máquina: humanismo y ciberseguridad en tiempos de inteligencia artificial

Capítulo III — Ética y gobernanza en la frontera digital

¿Quién gobierna el ciberespacio? ¿Cómo se regulan tecnologías que avanzan más rápido que los marcos legales? Este capítulo baja a tierra con perspectivas concretas sobre derechos, gobernanza y regulación.

Danielle Zaror argumenta la tecnología debe ampliar derechos, nunca limitarlos. Kenneth Pugh propone pensar el ciberespacio como un dominio creado por la humanidad que debe gobernarse como tal. Y Maximiliano Santa Cruz advierte contra la tentación de legislar apresuradamente ante cada novedad tecnológica

• Danielle Zaror Miralles — «Esta tecnología debe permitir el ejercicio de los derechos, no limitarlos ni anularlos»
• Kenneth Pugh Olavarría — Cómo gobernar el ciberespacio: un dominio creado por la humanidad
• Maximiliano Santa Cruz Scantlebury — «No soy partidario de sobre reaccionar y hacer inmediatamente normas ad hoc para la IA»

Capítulo IV — La educación y las nuevas alfabetizaciones

Si hay un capítulo que debería leer todo rector, decano o director de colegio, es este. Las habilidades que importarán en un mundo con IA no son las mismas de siempre. Las metahabilidades —aprender a aprender, el pensamiento crítico, lo relacional— cobran una relevancia que nunca habían tenido.

Cristóbal Cobo lo dice directo: necesitamos nuevas alfabetizaciones. Paula Aguirre presenta cómo la Universidad Católica está enfrentando este desafío. Andrés González S.J. alerta sobre el riesgo de crear máquinas que parezcan humanas y tratar a los humanos como máquinas. Julio Bascuñán añade algo fundamental: ninguna tecnología reemplazará a la persona ni a sus vínculos.

• Cristóbal Cobo Romaní — «Hoy necesitamos nuevas alfabetizaciones y metahabilidades»
• Paula Aguirre Aparicio — La PUC, frente al futuro humano de la inteligencia artificial
• Andrés González S.J. — El riesgo de crear máquinas que parezcan humanos y tratar a los humanos como máquinas
• Julio Bascuñán B. — «Ninguna herramienta tecnológica reemplazará a la persona y su relación con sus semejantes»

Capítulo V — IA al servicio de la humanidad

El capítulo final es el más esperanzador —y también el más exigente. No se trata de la IA que existe, sino de la IA que podemos construir. Los casos que se presentan aquí muestran que el potencial es enorme, si nos lo proponemos.

• María Paz Hermosilla Cornejo — Transparencia algorítmica en políticas públicas
• Carolina Sepúlveda Valenzuela — Las humanidades digitales en el centro de la innovación
• Brian Keith Norambuena — Analítica narrativa e inteligencia artificial para enfrentar la desinformación
• Carlos Aspillaga Valdés — Inteligencia artificial al servicio de las comunidades indígenas
• Richard Weber Haas — Fiscal HeredIA, un rock star
• Daniela Mennickent Barros — La IA ayudaría a detectar la endometriosis sin cirugía
• Gonzalo Ruz Heredia — La nueva frontera del conocimiento y la ética se llama IA

¿Por qué vale la pena leerlo?

No es un libro de respuestas fáciles. No encontrarás aquí el entusiasmo acrítico de Silicon Valley ni el catastrofismo que también cansa. Lo que encontrarás son treinta personas —investigadores, académicos, funcionarios, emprendedores, filósofos— que piensan en serio, con evidencia y con honestidad intelectual.

Está editado por Mensaje, con el respaldo de la Pontificia Universidad Católica, Universidad Católica del Norte, Universidad Católica de Sanatisima Concepción, Universidad Alberto Hurtado, Red Educacional Ignaciana y Red Santo Tomás.

El lanzamiento del libro se desarrolló el día 12 de mayo del 2026, en el Salón Aula Magna de la Universidad Alberto Hurtado. Aquí les dejo el video de dicho lanzamiento. Si se entusiasmó a compralo, pase por acá

La entrada Mensajes para una IA al servicio de la humanidad se publicó primero en Escritorio de Alejandro Barros.