No es complicado de instalar ni de manejar, pero requiere un poco de bricolaje digital, así que te dejo esta miniguía. Tienes las instrucciones también en la web del plugin.

Instala el script

1. Lo primero, necesitas un gestor de scripts de usuario. Yo he usado Tampermonkey con Brave y me ha funcionado. Puedes descargarlo de su web para el navegador que tengas. Descárgalo e instálalo.
2. Abre el script de usuario desde la URL del proyecto. Se activará el gestor y permítele que lo instale como un nuevo userscript
3. Abre Twitter (o recarga si lo tienes abierto). Verás que aparece un icono nuevo en la barra lateral (un círculo con un aspa dentro) y dos casillas «bluesky» y «mastodon» al pie del recuadro para una nueva entrada

Antes de publicar nada, hay que darle acceso a nuestras cuentas. En lugar de introducirle las contraseñas de cada plataforma, lo habitual para aumentar la seguridad en estos casos es generar una clave para dar permisos a una aplicación concreta. Tendrás que hacerlo tanto en Bluesky como en Mastodon si quieres hacer publicaciones cruzadas en las dos plantaformas.

En Bluesky

Para generar una contraseña de aplicación pincha en el icono de Configuración de la barra de tareas (el simbolo del engranaje). En el apartado Avanzado, entra en Contraseñas de la app y sigue los pasos para generar una contraseña nueva. Cópiala y pégala en algún sitio, porque no puedes volver a verla. Si la pierdes, tendrás que borrarla y generar una nueva.

Obviamente, he borrado esta app y los códigos no funcionan. Tampoco los de mastodon que vienen después.

En Mastadon

El proceso es muy parecido. Entra en tu perfil de Mastodon y en la barra de herramientas seleciona Preferencias (el icono también es un engranaje). En el apartado Desarrollo tienes las aplicaciones. Pulsa en Nueva aplicación, rellena el campo del nombre, marca la casillas read y write para poder publicar los contenidos desde fuera y finaliza pulsando en Enviar. Verás que aparece la nueva aplicación. Pincha sobre ella y copia el código que aparece en Tu token de acceso. Ese sí lo puedes recuperar todas las veces que lo necesites.

Añade las claves al script de usuario en Twitter

Y ya nos queda solo el último paso. Vuelve a Twitter y pincha sobre el icono del aspa dentro del círculo que ha instalado el script. Ahí te pedirá los datos de tus cuentas, con las contraseñas que acabas de generar (no tus contraseñas de la aplicación)

• para Mastodon, incluye el nombre de la instancia donde tienes la cuenta, sin tu nombre de usario. Por ejemplo: mastodon.social. Y como contraseña, el token de acceso
• en Bluesky, incluye tu nombre de usuario completo, incluyendo el bsky.social (o donde tengas tu cuenta). La contraseña es la que has generado y que tenías que tener copiada y guardada. Si no es así, tendrás que repetir los pasos para volver a generar una contraseña

Pulsa en Save para que se graben los cambios y ya está todo listo. Cuando publiques una nueva entrada en Twitter, selecciona las casillas de la red a la que quieres enviar el contenido y la extensión se enargará de publicar en los sitios que hayas seleccionado.

Sirve también con menciones, respuestas… Pero ten en cuenta que los nombres de usuarios no son los mismos y te estará generando enlaces un tanto extraños. No he probado a generar hilos, pero estoy casi seguro de que no funcionará. Ahí no te queda más remedio que escribirlo desde cero en cada sitio ¯\_(ツ)_/¯.

La entrada Publicaciones cruzadas en Twitter, Bluesky y Mastodon se publicó primero en Miguel Rebollo.

En una portada anterior, el NY Times había publicado el nombre de los primeros 100.000 fallecidos, considerando que un punto en una gráfica no captaba todo lo que implica: que eran personas, con nombre y apellidos, con familias, que vivían en algún sitio. An Incalculable Loss es un ovituario que sigue activo en Internet.

Pero el 3 de febrero, Lázaro Gamio y Lauren Leatherby sí que convirtieron a las personas en puntos con su How 450,000 Coronavirus Desaths Added Up. Y el resultado fue devastador, al menos para mi cabeza. Un scroll que amenazaba con ser infinito y te hacía repetir «por favor, para ya, para ya, para ya». Ahora, en frío, quizá no sea tanto. Pero cuando habías analizado datos y visto la evolución del covid en nuestro país te dabas cuenta de que la magnitud era una locura. Ten en cuenta que nosotros apenas hemos sobrepasado los 100.000 fallecimientos hasta el 2022. Cuando llegaron a los 500.000, ese mismo gráfico (que acompaña a este relato) apareció en la portada de la edición del papel del NY Times. Era el 21 de febrero de 2021. Aún faltaban 8 días para cumplir el año desde el primer caso.

Al día siguiente de ver el gráfico, construí el nuestro con los datos que puntualmente recogía datadista sobre el covid. Lo fui actualizando periódicamente hasta junio de 2022. En la figura tienes el resultado. Arriba están los casos (cada punto representa 10 personas), en la segunda los fallecidos (1 punto por persona, como en el NY Times) y el último la combinación de los dos. Las barras rojas marcan hitos para ayudar a la lectura del gráfico. Los datos globales de la pandemia no dejan dudas: más trece millones de personas se han contagiado (casi un tercio de la población) y de ellas un 1% han fallecido. El equivalente a toda la población de Ourense, o de Girona.

En el gráfico se ven claramente las distintas olas, el desfase entre que arranca cada una de ellas y cuándo empiezan a producirse las muertes, cómo el número de casos está claramente infraestimado al principio (otro día os puedo enseñar lo que pudo ocurrir en realidad) o el efecto de las vacunas disminuyendo la tasa de fallecidos y salvando así a las personas más vulnerables. Un símbolo de lo que ocurrió esos días. Un recordatorio para que no se vuelva a repetir.

Lo peor de todo, la gente que dejamos atrás y que, personalmente, creo que no hemos llegado a aprender la lección. Por eso iniciativas como la de Café Hypatia para transmitir el interés por la ciencia son tan necesarias.

Cuando Café Hypatia publicó el tema para el mes de noviembre, estos recuerdos me asaltaron como un mazazo al ver el diagrama de Hawkings. Siento no haber escrito algo más divertido, más misterioso, más entretenido. Pero a veces hay que dejar que la realidad nos llegue tal y como es: sin adornos y sin velos.

Esta entrada forma parte de la iniciativa #Polivulgadores de Café Hypatia en su edición de noviembre de 2024, con el tema «Símbolos«.

La entrada Bandas de dolor se publicó primero en Miguel Rebollo.

Estamos en la época de la IA generativa (IAG), de los modelos de lenguaje (LLM), de los transformers (los del cine no, los otros). Estos elementos ya aparecían en sus relatos antes de que existiera el término inteligencia artificial (que no la idea). Incluso muchas de sus historias evolucionan en paralelo a la propia existencia de los ordenadores y la historia de la informática. Sus primeros relatos de la serie de La Fundación son de los años 1942-44 y, por poner un ejemplo, el artículo de Alan Turing Computing Machinery and Intelligence es de 1950. Las interfaces en lenguaje natural eran para él la forma habitual de comunicarnos con las máquinas. Dependiendo de su naturaleza o de su propósito, nos respondían también o no, pero siempre eran capaces de entendernos.

Pero para mi, mucho antes de robots, máquinas intentando acabar con la humanidad, ordenadores convertidos en dioses, veremos algo mucho más prosaico. Recuerdo que, cuando leí por primera vez los libros de La Fundación, uno de los fragmentos que se quedaron en mi cabeza hacía referencia a la incapacidad de Hari Seldon de usar un ordenador. Un momento de esos de supresión de la incredulidad con minúsculas, «no entiendo como eso puede ser posible, pero aceptamos pulpo, venga sigue», un error que le disculpas al maestro con condescendencia, cuando resulta el maestro te acaba de dar un bofetón de realidad que no has visto venir y del que solo me he dado cuenta unas décadas después.

« —No querría herir tus sentimientos, pero eres un matemático y dices que no sabes nada de historia. ¿Serás capaz de hacer uso de una biblioteca de Historia?
—Supongo que se utilizan computadoras muy parecidas a las que hay en la biblioteca de Matemáticas.
—En efecto, pero la programación para cada especialidad tiene sus peculiaridades. Desconoces los libro-películas de referencia, los métodos rápidos de selección y rechazo. Puedes ser capaz de encontrar un intervalo hiperbólico a oscuras…pero tal vez no sepas cómo encontrar los términos del Tratado de Poldark en menos de día y medio.»

O también este otro, unas páginas después

«Aprendió la técnica necesaria para la investigación histórica y después quemó, en privado, sus burdos intentos de utilización de la memoria de la computadora. Era, sencillamente, un enfoque diferente por completo del que se usaba en matemáticas. Resultaba tan lógico, como otro cualquiera, supuso, puesto que podía utilizarse de forma consistente y sin error para moverse en cualquier dirección deseada, pero se trataba de un tipo de lógica sustancialmente distinto de aquel a que él estaba acostumbrado.»

(Preludio a la Fundación. Isaac Asimov)

¿Qué es lo que está oculto en estas frases? ¿Como es posible que un matemático no pueda manejar un ordenador de ciencias sociales? Algo así como encenderlo y quedarte mirando la pantalla como un pasmarote. Como la primera vez que usé un PC, que fue algo como:

C:/>
            (después de unos segundos interminables)
C:/>
C:/>
C:/>
C:/> hola
Command not found
C:/>
C:/> hello
Command not found
C:/> soy tonto
Command not found

Y así un rato hasta que me rendí, lo apagué y salí de la pecera.

Volvamos a chatGPT por un momento. Los prompts nos dan la ilusión de ser expertos en cualquier materia, de tener el conocimiento absoluto en la punta de los dedos. Pero eso ocurre porque «habla» nuestro lenguaje.

Antes de seguir, déjame cambiar un poco la forma de interactuar con los ordenadores, que después de 50 años creo que va siendo hora. Imagina que cualquier interacción con una computadora es a través de chatGPT. Quita el teclado, el ratón, la pantalla táctil…

Luego, piensa en modelos con un ajuste fino ¿Qué quiere decir eso? ChatGPT es un modelo general (más o menos), entrenado con millones de fuentes de datos genéricas, no especializadas. Una especie de enciclopedia con patas, que sabe de todo y te lo explica de una forma un tanto repipi. Una de las posibilidades que nos permite OpenAI en un inmensa y eterna gratitud (por un módico precio) es reentrenarla parcialmente con nuestro propio conjunto de datos para conseguir un asistente especializado en el dominio que hayamos elegido. Así, se consiguen IA expertas en medicina, en educación, en legislación, en……. [rellene la línea de puntos con su área favorita].

Y ahora vamos a mezclar todos estos ingredientes. Quitamos los dispositivos de entrada del ordenador menos un micrófono, entrenamos el sistema con un dominio de conocimiento hiperespecializado (Historia antigua Azteca. Mitología doméstica durante la dinastía Choximilco. Deidades relacionadas con el cuidado de llamas de pelaje rubio) e insertamos la IA en el núcleo de la computadora, sustituyendo el sistema operativo. Ahora, sin formación específica, trata de utilizarla para extraer información sobre la «evolución de la supervivencia de las llamas adultas bajo cambios en sus patrones de alimentación en periodos de sequía», que sería la información que un matemáico-psicohistoriador buscaría en una computadora en una universidad de ciencias sociales.

Igual el ejemplo me ha salido ligeramente extremo pero imho, ese es el escenario hacia donde nos dirigimos.

1. usamos ya distintas versiones de IAG en lugar de buscadores
2. una vez tengamos modelos entrenados, lo siguiente que veremos es integrarlos por hardware para empotrarlos directamente en los sistemas como una tarjeta más (eso ya lo tenemos en los móviles, con los «chips de IA»). Bye, bye a la nube mientras nVIDIA va haciendo caja
3. posiblemente empiece por cuestiones de accesibilidad, pero le doy de aquí a la singularidad para que la interfaz con las máquinas sea oral. Basta con que desaparezcamos la generación de los boomers, que llevamos tan mal lo de hablar con los ordenadores

Nuestros terminales personales casi seguro seguirán siendo de propósito general, pero los centros de investigación tendrán sus propios oráculos, sus premios Nobel de bolsillo (o de fondo de armario) colaborando en los desarrollos. Aunque antes la ciencia, sin duda habrá otras áreas que lo habrán hecho primero, porque como dice el refrán

«Cualquier tecnología se emplea primero para la guerra y el sexo, no necesariamente en ese orden.»

Que no es un refrán, pero es cierto.

La entrada Asimov y la IA. El futuro que nos espera se publicó primero en Miguel Rebollo.

El éxito de los modelos generativos dependía de muchas cosas, pero la primera es de un conjunto de entrenamiento completo, exhaustivo y lo más extenso posible. En nuestro caso, contábamos con una de las mayores bases de datos de inscripciones en piedra, casi unas doscientas mil muestras en griego. Y habíamos escaneado todos los documentos que se habían encontrado hasta la fecha. Pero seguía sin ser suficiente. Me quedaba un as en la manga y esa misma tarde iría a ver a Paul a la excavación.

Pasear por los jardines junto a la biblioteca de Adriano era un placer para Keira. Los rayos del atardecer arrancaban destellos dorados de su piel. El aire olía a una mezcla de mar y lavanda. Se lo permitían cuando ya no quedaba nadie más que el propio personal, que estaba acostumbrado a su presencia. Era la última sirvienta y, tras la muerte de su amo, fue cedida a la biblioteca. Marco había sido un amante de la cultura griega y había ejercido de estudioso y mecenas por partes iguales. Keira había sido una ayuda inestimable. Le enseñó a profundizar en el idioma y a traducir su biblioteca personal. Esa época había pasado, igual que las anteriores, y ahora pertenecía a la biblioteca. Cuando el último rayo de sol se perdió bajo la colina de la acrópolis, Keira se dirigió a su habitación a esperar una nueva jornada que nunca llegaría.

«Pasa, hombre. ¡Qué cara más larga traes!», fue el saludo de Paul. Habíamos sido compañeros en el Máster en arqueología griega y del Mediterráneo Oriental. Paul era arqueólogo y yo ingeniero: una combinación extraña, pero hicimos buenas migas desde el principio y siempre mantuvimos el contacto. Incluso colaboramos en varios proyectos. Recuerdo especialmente aquel en el que recreamos la Biblioteca de Adriano en realidad virtual. ¡Qué pesado se ponía con la fidelidad a la realidad! Y reconozco me me encantaba gastarle bromas y esconder huevos de pascua en el programa.
Le expliqué el problema que teníamos, que necesitábamos una fuente extra de información contrastada y que su reciente hallazgo en la excavación podría serme de mucha ayuda. Discutimos hasta la madrugada, pero al final llegamos a un acuerdo: me dejaría examinar la estatua que habían localizado entre los restos de una de las iglesias bizantinas que habían pertenecido al complejo. Era una representación de las doncellas de oro de las que hablaba la mitología griega, las Kourai Khryseai que había creado Hefestos para servir en su palacio. Al menos eso era lo que se había filtrado al público. La realidad era que se sospechaba que no era una estatua, sino una doncella real, con el mecanismo intacto. Si era cierto, las implicaciones de ese descubrimiento serían brutales para la humanidad por todo lo que implicaba la «desmitologuización» de la historia antigua.

Fue una semana intensa de trabajo furtivo lo que constó extraer la estructura del mecanismo de la estatua mediante tomografías, y casi un mes más para construir un modelo funcional en el ordenador central de i-Gaias. Pero al final obtuvimos un modelo de lenguaje completo que incorporaba lo que fuera que estuviera almacenado dentro de la doncella. Por fin habia llegado el momento de ponerlo a prueba.

«Necesito completar un texto escrito en griego. Imagina que eres un experto investigador en griego antiguo y que recibes la siguiente inscripción parcial. Me gustaría que sugirieras qué pondría en las zonas que faltan en el texto, marcadas con [−]»

«De acuerdo, deme el texto»

«[—] από τους εκλεκτούς εθελοντές: [—] [προηγουμένως] ήρθε στην [—] δύναμη και [—] τους αντιπάλους της [—] γη των Αθηναίων»

Al ordenador apenas le llevó unos segundos mostrar el siguiente mensaje:

«[Αποφασίστηκε] από τους εκλεκτούς εθελοντές: [αφού ο Μέγας Δημήτριος] [προηγουμένως] ήρθε στην [Αττική με ναυτική και πεζική] δύναμη και [έδιωξε] τους αντιπάλους της [δημοκρατίας και απελευθέρωσε τη] γη των Αθηναίων»

«¿Podrías traducirlo?»

«[Fue resuelto] por los voluntarios selectos: [ya que Demetrios] el Grande [anteriormente] entró en [el Ática con una fuerza naval y de infantería] y [expulsó] a los opositores de [la democracia y liberó la] tierra de los atenienses»

«¿Cuál es la precisión de la respuesta»

«Es del 100%»

«Imposible, nadie consigue una precisión del 100%. Vuelve a calcularla»

«No es necesario»

«¿Cómo estás tan segura?»

«PORQUE LO ESCRIBÍ YO»

Esta entrada forma parte de #Polivulgadores de Café Hypatia en su edición de julio de 2024, con el tema «Pasado«.

La historia esta inspirada en este artículo publicado por Nature: The AI historian: A new tool to decipher ancient texts.

Para saber más

Assael, Y., Sommerschield, T., Shillingford, B. et al. Restoring and attributing ancient texts using deep neural networks. Nature 603, 280–283 (2022). https://doi.org/10.1038/s41586-022-04448-z

La entrada Sabiduría ancestral se publicó primero en Miguel Rebollo.

Antes de nada, me gustaría justificar la traducción de bullshit = mojón. Me he ido por la parte más literal, porque en inglés se emplea cuando alguien dice cosas sin sentido y que no son ciertas. En español, un mojón también se refiere a algo de baja calidad y que no sirve para nada, así que me pareció una buena analogía, sin ser yo traductor ni nada (ni pretenderlo).

El artículo habla sobre la naturaleza del texto que produce ChatGPT y con el término de bullshit se refiere a las alucinaciones que tienen los modelos de lenguaje. Una alucinación es un término técnico en IA, pero al personificarlo estamos asumiendo que se trata de un error en la interpretación del mundo que hace ChatGPT o en lo que ve. Mentir y alucinar requieren entender el mundo, saber lo que es verdad, cosa que no hace.

H. Frankfurt fue el primero que intentó construir una teoría acerca de lo que se considera bullshit: hablar de forma exagerada, diciendo cosas sin sentido y sin demasiado apego a la verdad. Y encontró que existen dos tipos: hard y soft, duro y blando (que, casualmente, también pegan con la acepción de mojón). El hard bullshit sería un intento deliberado de mentir o engañar, mientras que el soft simplemente refleja una falta de preocupación por lo que es cierto. En principio, parece que podemos considerar a ChatGPT soft bullshit. Para ser hard, habría que demostrar que miente acerca de sus propósitos, sus funciones o su agenda de implantación.

Uno de los parámetros de ChatGPT se llama temperatura: una valor entre cero y uno que se emplea para establecer su nivel de creatividad. Uno sería creatividad máxima, y también corresponde al nivel máximo de bullshiting. Los mejores resultados los da con el valor actual de 0,85, que proporcionaría la mayor verosimilitud (que nos parezca creíble, no que lo sea).

Cuando pillas a ChatGPT diciendo algo falso, muchas veces aparece un efecto de bola de nieve: en lugar de reconocerlo, trata de justificarse proporcionando más información falsa para apoyar sus errores. Esto no sería un problema necesariamente para la función para la que está diseñado: un sistema conversacional. Pero cuando sustituye a los buscadores y pretende ser una fuente de información, entonces sí tenemos un problema.

¿Quiere decir esto que ChatGPT miente? No. Mentir implica enunciar una frase sabiendo que es falsa con la intención de que otra persona la tome por verdadera. Y ChatGPT no sabe si lo que dice es cierto o es falso. Simplemente es una oración con una probabilidad muy alta de ser construida. Podríamos atribuir a esa alta probabilidad la cualidad de certeza, pero realmente solo podríamos hacerlo con el mismo sentido de la lógica reified: como mucho le podría atribuir el grado de verdad que le otorgue su fuente (El NY Times dice que…).

Así que nos encontramos ante lo que nos alerta H. Frankfurt como «un desprecio imprudente por la verdad» , como las excusas de alguien que no ha hecho los deberes, de quien se dedica a la política tratando de sonar convincente o una persona entusiasta tratando de contar una historia. Para Frankfurt, ese desprecio por la verdad es algo realmente peligroso. Al final te dejo el artículo completo, por si quieres repasarlo.

De estas definiciones y del comportamiento de ChatGPT, creo que se puede afirmar que es un mojón blando (soft bullshit) por el asunto de las alucinaciones. Pero recuerda que es un término técnico que describe un fenómeno que aparece al entrenar una red neuronal artificial: no tiene nada que ver con las humanas. Y, aquí viene la mala noticia, por el momento parece que es algo que no se puede evitar. Si quieres saber más cosas sobre este fenómeno, aquí te dejo una revisión sobre las alucinaciones en los modelos generativos.

Ahora ¿será un mojón duro (hard bullshit)? A priori no, si no queremos entrar en contradicciones con lo que he comentado al principio de que no tiene noción de lo que es verdad. No tiene un estado mental, una representación de sus creencias para poder evaluarlas. No es un agente dotado de deseos o intenciones, así que no miente de forma consciente y deliberada.

Pero ojo, que por encima de ChapGPT tenemos una capa de filtros y ajustes diseñada aparte para evitar segos, comportamientos sexistas o racistas, lenguaje violento o no apropiado o censura sobre actividades delictivas entre otras lindezas. Y es en esta capa extra donde se esconden, por ejemplo, pautas para ocultar estos mismos mecanismos. O para ocultar detalles de la implementación que no deberían ser visibles por la competencia, para protegerse del espionaje y de la reingeniería inversa. Si preguntamos a ChapGPT por ellas, es fácil que la respuesta no se ajuste a la verdad (nótese el eufemismo). Y en ese caso sí que nos encontraríamos ante un mojón bien compacto, hard bullshit deliberado.

El artículo acaba recomendando eliminar el término alucinación o también el de confabulación para referirse a los errores de ChapGPT por la confusión que introducen. En su lugar, recomienda emplear el término bullshit: un término formal y reconocido en el campo de la lingüística para referirse a este fenómeno, que es precisamente una característica del lenguaje generado. En eso coincide con Naomi Klein, que aboga por denominarlos como lo que son: errores, y que quienes alucinan son sus creadores.

A nosotros nos queda llamarlo «cháchara» o quizá lo de «loros estocásticos», por aquello de que hablan como una cotorra. Aunque a mi me sigue haciendo mucha más gracia lo de mojón.

Para saber más

Hicks, M.T., Humphries, J. & Slater, J. (2024) ChatGPT is bullshit. Ethics Inf Technol 26, 38.

Harry Frankfurt (1986). On Bullshit. Raritan 6(2):81-100.

Ziwei Xu, Sanjay Jain, Mohan Kankanhalli. (2024) Hallucination is Inevitable: An Innate Limitation of Large Language Models. arXiv:2401.11817 [cs.CL].

Ziwei Ji et al. (2023) Survey of Hallucination in Natural Language Generation. ACM Computing Surveys 55(12), 238: 1–38.

Naomi Klein (8 de mayo de 2023). AI machines aren’t ‘hallucinating’. But their makers are. The Guardian.

La entrada ¿ChatGPT es un mojón? se publicó primero en Miguel Rebollo.