LastKnight.com Feed https://mgpf.it Feed degli articoli di LastKnight.com. Ipotesi, discussioni e notizie da Matteo Flora e dal blog. Fri, 17 Jul 2026 16:00:55 +0000 it-IT hourly 1 https://wordpress.org/?v=7.0.1 https://mgpf.it/wp-content/uploads/2025/08/cropped-Untitled-design-32x32.png Matteo Flora https://mgpf.it 32 32 Google non poteva “non sapere”, e la piattaforma non è più “neutrale” https://mgpf.it/2026/07/17/google-non-poteva-non-sapere-e-la-piattaforma-non-e-piu-neutrale.html https://mgpf.it/2026/07/17/google-non-poteva-non-sapere-e-la-piattaforma-non-e-piu-neutrale.html#respond Fri, 17 Jul 2026 16:00:52 +0000 https://mgpf.it/?p=6630 I giudici Europei hanno scritto che chi seleziona, monetizza e distribuisce con un proprio algoritmo non è un intermediario passivo, e l'esenzione di responsabilità pensata nel 2000 per il "magazziniere digitale" non lo copre più. È la fine giuridica di una finzione durata vent'anni.

The post Google non poteva “non sapere”, e la piattaforma non è più “neutrale” first appeared on Matteo Flora.

]]>

C’è una multa da 750.000 euro che per Google, un’azienda che genera più o meno la stessa cifra di ricavi ogni due minuti, è letteralmente una voce di arrotondamento. Eppure quella multa, inflitta dall’AGCOM nel 2022 e arrivata il 16 luglio 2026 davanti alla Corte di Giustizia dell’Unione Europea, potrebbe rivelarsi una delle sconfitte più costose della storia recente di Mountain View, perché nel confermarne l’impianto i giudici di Lussemburgo hanno demolito, con la pazienza di chi smonta un orologio, l’argomento che da vent’anni regge il modello di business di tutte le piattaforme: noi siamo solo l’infrastruttura, i contenuti sono di terzi.

La sentenza è la causa C-421/24, e il principio che ne esce si può riassumere in una frase che nessun ufficio legale di piattaforma avrebbe mai voluto leggere: chi si è studiato un canale, i suoi video più visti e i suoi metadata prima di firmarci un contratto di monetizzazione, sapeva cosa stava monetizzando. In altre parole: Google non poteva non sapere, e adesso lo dice una Corte.

Una storia che comincia con il Decreto Dignità

Per capire come si arriva a Lussemburgo bisogna tornare indietro di quattro anni. Il 19 luglio 2022 l’Autorità per le garanzie nelle comunicazioni multa Google Ireland per 750.000 euro e le ordina di rimuovere una serie di video YouTube che promuovevano gioco d’azzardo online: la notizia la dà all’epoca MilanoFinanza, e la base giuridica è il Decreto Dignità del 2018, la norma che ha cancellato la pubblicità del gioco d’azzardo da televisioni, giornali, radio e perfino dalle maglie delle squadre di calcio, trasformando l’Italia in uno dei mercati più restrittivi d’Europa su questo fronte.

I video incriminati, ovviamente, non li aveva caricati Google: li aveva caricati un creator, uno youtuber che del gioco d’azzardo aveva fatto il tema del proprio canale. Solo che quel creator con Google aveva firmato un contratto di partnership commerciale, con tanto di divisione dei ricavi della pubblicità mostrata prima di ogni video: ogni visualizzazione era un piccolo incasso condiviso, e ogni incasso condiviso era un pezzetto di quel modello di business che YouTube chiama Partner Program e che è il motore economico dell’intera piattaforma.

E qui arriva il dettaglio che decide l’intera partita, quello su cui vale la pena fermarsi perché è di una ironia quasi letteraria: prima di firmare quel contratto, Google si era esaminata il contenuto dei video, il tema del canale, i video più visti, i più recenti e i metadata associati. Una due diligence normalissima, il tipo di verifica che qualsiasi azienda fa prima di mettersi in affari con qualcuno. Ed è proprio quella verifica, nata per proteggere Google, che le si è ritorta contro trasformandosi nella prova regina: non puoi dire di non sapere cosa c’era su quel canale, se te lo sei studiato prima di firmarci un contratto.

La difesa classica e il rinvio a Lussemburgo

Google impugna la multa davanti al giudice amministrativo con la difesa che ogni piattaforma recita dal 2000 a oggi, una specie di formula liturgica del diritto di internet: noi siamo un fornitore di hosting, i contenuti sono di terzi, e la direttiva europea sul commercio elettronico, all’articolo 14, ci esenta dalla responsabilità per quello che caricano gli utenti, a meno che non ci venga notificata l’illiceità e non rimuoviamo.

AGCOM ribatte con un argomento più radicale: quell’esenzione non vale proprio, perché il gioco d’azzardo è escluso in blocco dal campo di applicazione della direttiva sul commercio elettronico. Il Consiglio di Stato, che deve decidere, fa la cosa giusta: gira la domanda ai giudici di Lussemburgo con un rinvio pregiudiziale, ed è appunto la causa C-421/24.

Il 16 luglio 2026 arriva la sentenza, ed è un piccolo capolavoro del “vinci il punto, perdi la causa”. Sulla prima questione la Corte dà pure ragione a Google: l’hosting non è un’attività intrinsecamente legata all’azzardo, è immagazzinamento di contenuti altrui, quindi la direttiva si applica eccome anche alla pubblicità del gioco. Fin qui, a Mountain View, qualcuno avrà brindato.

Poi arriva la seconda parte. Per godere dell’esenzione dell’articolo 14, scrive la Corte, bisogna essere un “prestatore intermediario”, cioè svolgere un’attività meramente tecnica, automatica e passiva, senza conoscenza né controllo sulle informazioni ospitate. E chi si studia il tema del canale, i video più visti e i metadata per decidere se firmarci un contratto di condivisione dei ricavi acquisisce una conoscenza specifica del contenuto essenziale di quei video. Chi conosce non è passivo; chi non è passivo, l’esenzione se la può scordare. Il Sole 24 Ore e MilanoFinanza titolano sulla vittoria di AGCOM, ma la sostanza è più fine: AGCOM ha perso l’argomento e vinto la causa, Google ha vinto l’argomento e sta per pagare la multa.

L’algoritmo non è un alibi, è una confessione

C’è poi una ciliegina, nascosta nelle pieghe della decisione, che da sola vale l’intera sentenza. Google aveva provato a giocarsi anche la carta dell’automazione: la distribuzione dei contenuti è automatizzata, nessun essere umano decide cosa spingere, quindi dov’è il controllo? La risposta della Corte è di quelle che segnano un’epoca: dire che è tutto automatico non salva nessuno, perché le condizioni di diffusione, l’ordine di priorità, il come e il quando un video viene mostrato li ha definiti a monte la piattaforma con un algoritmo suo. Il controllo, semplicemente, si esercita via software: delegarlo a una macchina che la piattaforma stessa ha programmato non lo fa sparire, lo rende solo scalabile.

Qui la sentenza incrocia, probabilmente senza saperlo, quarant’anni di filosofia della tecnica. Nel 1980 Langdon Winner, in un saggio che è ancora oggi una pietra angolare degli studi su tecnologia e società, “Do Artifacts Have Politics?” (Daedalus, 1980), sosteneva che gli artefatti tecnici incorporano decisioni politiche: il design di un sistema stabilisce chi passa e chi no, chi guadagna e chi paga, e lo fa senza passare da nessun parlamento. L’algoritmo di raccomandazione di YouTube è proprio questo: un insieme di scelte, di priorità, di pesi decisi da qualcuno, che si presenta al mondo con la faccia innocente dell’automatismo. E Melvin Kranzberg, storico della tecnologia, lo aveva condensato nella sua Prima Legge (“Technology and History: Kranzberg’s Laws”, Technology and Culture, 1986): “La tecnologia non è né buona né cattiva; e non è neppure neutrale”. La Corte di Giustizia ha appena trasformato questa intuizione accademica in un principio giuridico operativo: l’automazione è una modalità di esercizio del controllo, non la sua assenza.

Il magazziniere, la vetrina e la cassa

Per misurare la distanza tra il mondo per cui l’articolo 14 è stato scritto e il mondo in cui è stato appena applicato, basta un’immagine. L’esenzione nasce nel 2000 per proteggere il magazziniere digitale: quello che affitta scaffali e non sa, e non deve sapere, cosa i clienti ci appoggino sopra. Era una scelta di policy sensata, senza la quale il web partecipativo non sarebbe mai nato: nessuno avrebbe mai aperto un forum, un blog con i commenti o un servizio di hosting sapendo di rispondere penalmente di ogni contenuto altrui.

Ma YouTube nel 2026 non affitta scaffali: li seleziona, ci costruisce sopra la vetrina con l’algoritmo, decide quali prodotti mettere in prima fila davanti a quali clienti, e incassa una percentuale su quello che la vetrina vende. La Corte ha messo nero su bianco la conseguenza logica che il dibattito pubblico rimandava da vent’anni: se sei socio negli incassi, non puoi firmarti “postino” quando arriva la multa. Il commissario AGCOM Massimiliano Capitanio ha commentato che “la neutralità delle piattaforme ha un limite” e che Google “è responsabile se seleziona e monetizza i contenuti”; da Google, riporta la testata specializzata Jamma, fanno sapere soltanto che stanno esaminando il testo della sentenza, che è il modo elegante di non commentare.

Peraltro, per chi osserva l’attività di AGCOM con continuità, la direzione del vento era leggibile da tempo: la scusa del “noi siamo solo tecnici” si era già sgretolata davanti all’Autorità con la maxi sanzione a Cloudflare sul fronte Piracy Shield, dove il tema era l’infrastruttura invece della monetizzazione. Due casi diversi, stessa traiettoria: il perimetro dell’irresponsabilità tecnica si sta restringendo, pezzo per pezzo, davanti a ogni autorità che si prende la briga di guardare come funzionano davvero le piattaforme. L’“eterno ritorno dell’hosting attivo”, lo chiama la rivista giuridica MediaLaws, perché la giurisprudenza europea ci girava attorno da anni: questa volta, però, il criterio è diventato tagliente.

Cosa succede adesso, e a chi

La partita italiana non è formalmente chiusa: la palla torna al Consiglio di Stato, che deve verificare una cosa sola, cioè se Google potesse ragionevolmente non sapere che il tema principale di quel canale fosse l’azzardo. E ammetterete che è una posizione scomoda, per chi i metadata se li era letti prima di firmare.

Ma gli effetti veri della sentenza si misureranno altrove, su due piani. Il primo è industriale: i programmi di monetizzazione delle piattaforme, YouTube Partner Program in testa ma il ragionamento vale identico per tutti, dovranno ritoccare i controlli sui canali che operano nei settori vietati o iper-regolati. L’azzardo oggi; domani, con lo stesso identico schema argomentativo, farmaci, criptovalute, alcol, integratori miracolosi. Ovunque ci siano un divieto pubblicitario nazionale e un programma di condivisione dei ricavi, adesso c’è anche un rischio legale quantificabile.

Il secondo piano riguarda i creator, ed è bene essere chiari per disinnescare il panico che inevitabilmente circolerà: questa sentenza non parla della responsabilità di chi carica un video, parla della responsabilità della piattaforma che sa e monetizza. Per chi produce contenuti puliti non cambia nulla, se non un probabile ingresso più pignolo nei programmi partner: più verifiche, più domande, più paletti all’ammissione. Che per chi lavora seriamente è più una tutela che una minaccia, perché ogni stretta sui furbi ridistribuisce credibilità, e ricavi pubblicitari, verso chi furbo non è.

La fine di una finzione utile

Resta la riflessione di fondo, quella che sopravviverà ai dettagli processuali di questa vicenda. Per vent’anni l’intero ecosistema digitale si è retto su una finzione giuridica utile: piattaforme che selezionano, ordinano, raccomandano e monetizzano i contenuti trattate come se fossero depositi passivi di materiale altrui. Era una finzione, ma reggeva perché il diritto guardava l’architettura dichiarata, non quella reale.

Quello che la causa C-421/24 cambia è precisamente il punto di osservazione: la Corte non ha chiesto a Google cosa dice di essere, ha guardato cosa fa, contratto alla mano, algoritmo alla mano. Ed è un metodo, prima ancora che un esito: da oggi ogni piattaforma che invoca la propria neutralità dovrà aspettarsi che qualcuno confronti la dichiarazione con la due diligence, i termini della partnership, i criteri di distribuzione. Vent’anni a ripetere “siamo solo una piattaforma”, ed è bastato un contratto di condivisione dei ricavi per far scrivere ai giudici quello che sapevamo tutti: il bancone non è mai stato neutrale, da quando ci hanno montato sopra la cassa.

Per Approfondire

The post Google non poteva “non sapere”, e la piattaforma non è più “neutrale” first appeared on Matteo Flora.

]]> https://mgpf.it/2026/07/17/google-non-poteva-non-sapere-e-la-piattaforma-non-e-piu-neutrale.html/feed 0 Chat Control 1.0: il giorno buio della democrazia autoritaria europea https://mgpf.it/2026/07/11/chat-control-buio-democrazia.html https://mgpf.it/2026/07/11/chat-control-buio-democrazia.html#respond Sat, 11 Jul 2026 07:47:05 +0000 https://mgpf.it/?p=6625 Alla Stasi è servuto un regime; a Strasburgo è bastato un calendario: l'Europa ha appena prorogato fino al 2028 l'anticamera del sistema di controllo delle comunicazioni private più invasivo della sua storia, e l'ha fatto nell'ombra, con un metodo che dovrebbe preoccupare anche chi della privacy non si è mai curato.

The post Chat Control 1.0: il giorno buio della democrazia autoritaria europea first appeared on Matteo Flora.

]]>

A Strasburgo è stata prorogata fino al 2028 l’anticamera del sistema di controllo delle comunicazioni private più invasivo della storia europea: un regime che permette a Meta, Google, Microsoft e Snap di scansionare in automatico le chat, le email e i messaggi diretti di quasi mezzo miliardo di europei, senza che nessuno li sospetti di niente, senza mandato, senza un giudice che autorizzi, e che riporta il continente a scenari che credevamo sepolti negli archivi della Stasi, quando l’apertura sistematica della corrispondenza privata dei cittadini era routine amministrativa. Con una differenza che dovrebbe togliervi il sonno: la Stasi doveva pagare decine di migliaia di funzionari per aprire le buste a vapore, qui lo fa un algoritmo, su tutto, in tempo reale, gratis.

Ed è stato fatto nell’ombra, con modalità così genuinamente antidemocratiche da dare quasi ragione agli antieuropeisti complottisti: una legge che il Parlamento europeo aveva bocciato a marzo con un voto pulito, ad aula piena, riproposta identica dal Consiglio, spinta con una procedura d’urgenza che ha saltato l’esame in commissione, e fatta passare l’ultimo giorno di plenaria prima delle ferie, in un’aula mezza vuota, contro la maggioranza dei votanti. Il 9 luglio 2026 la mozione per respingerla ha raccolto 314 voti contro 276, ma in seconda lettura serve la maggioranza assoluta dei membri, 361 su 720, e con mezzo emiciclo già in valigia quella soglia era aritmeticamente fuori portata: la maggioranza di chi ha votato ha detto no, e la legge è passata lo stesso, come hanno raccontato The Register ed Euronews, che ha parlato apertamente di approvazione dalla porta sul retro.

Andiamo con ordine, perché in questa storia ci sono due scandali intrecciati: quello che la legge permette di farvi, e il modo in cui è stata fatta risorgere. E se leggendo avrete la sensazione di una trama già vista, è perché è la traiettoria esatta che avevo descritto in Tette e Gattini, l’ebook gratuito che ho scritto un anno fa sull’illusione di sicurezza dietro l’age verification e Chat Control: questa era, alla lettera, la puntata annunciata.

Cosa possono fare, da adesso, con le vostre chat

Chat Control 1.0, il nome informale con cui gli attivisti chiamano il Regolamento (UE) 2021/1232, è una deroga temporanea alla ePrivacy Directive del 2002, la direttiva che protegge la riservatezza delle comunicazioni elettroniche: permette alle piattaforme di fare, “volontariamente”, una cosa che sarebbe vietata, cioè scansionare in automatico i contenuti privati degli utenti europei a caccia di materiale pedopornografico. L’operatività è semplice: se una foto o un video che vi mandate corrisponde per impronta digitale a materiale già catalogato nei database dell’NCMEC, il National Center for Missing and Exploited Children americano, o dell’Internet Watch Foundation britannica, la piattaforma lo vede e lo segnala alle autorità (in gergo, hash matching); se un pattern testuale sembra adescamento, un modello di intelligenza artificiale proprietario lo flagga, un umano lo revisiona e, se il match regge, la segnalazione parte.

Vale per tutto quello che passa in chiaro sui server delle piattaforme: Messenger, Gmail, i messaggi diretti di Instagram e Snapchat. Non vale, per ora, per i servizi cifrati end-to-end come Signal, WhatsApp o Threema, che sono costruiti in modo che nemmeno il gestore possa leggere i contenuti. Tenetevi stretto questo “per ora”, perché è il cuore di tutta la partita.

L’anticamera: il vero obiettivo è la versione 2.0

La deroga appena resuscitata, infatti, è il piede nella porta di qualcosa di molto più grosso. La legge organica che avrebbe dovuto sostituirla si chiama CSAR (Child Sexual Abuse Regulation), Chat Control 2.0 per gli amici, e prevede scansione obbligatoria, non più volontaria, con i detection orders, ordini di scansione che un’autorità può imporre a una piattaforma, che secondo la posizione del Consiglio potrebbero atterrare anche sui servizi cifrati, più la verifica dell’età obbligatoria per tutti gli utenti europei. Tecnicamente, bucare la crittografia end-to-end si può fare solo in un modo: il client-side scanning, un pezzo di codice piazzato dentro la vostra app che legge i contenuti prima che vengano cifrati e spediti. Meredith Whittaker, presidente di Signal, lo aveva detto già nel 2024 senza ambiguità: Signal preferirebbe lasciare il mercato europeo piuttosto che compromettere le proprie garanzie di privacy; e non è una minaccia negoziale, è una precondizione ingegneristica, perché non esiste un client-side scanning che permetta ad alcuni di leggere e ad altri no: se lo apri, lo apri per tutti.

Il CSAR è impantanato da quattro anni, perché la commissione LIBE del Parlamento, quella per le Libertà civili, la Giustizia e gli Affari interni, con il voto del 14 novembre 2023 ha fissato tre paletti: niente scansione indiscriminata, solo interventi mirati, crittografia intoccabile. L’ultimo trilogo, il negoziato a tre fra Parlamento, Consiglio e Commissione, è fallito il 29 giugno sotto presidenza cipriota, quinto tentativo di fila; il prossimo è fissato al 29 settembre sotto presidenza irlandese. Ed ecco perché la proroga del 9 luglio è l’anticamera e non un episodio a sé: a quel tavolo il Consiglio adesso arriva potendo dire ai negoziatori del Parlamento che tanto la scansione volontaria c’è già, che si tratta solo di renderla obbligatoria, e che la palla è nel loro campo se vogliono salvare la crittografia. Lo status quo, appena consolidato, diventa argomento normativo per il passo successivo.

Come si approva una legge bocciata

Il secondo scandalo è il metodo, e qui la cronologia va guardata da vicino. La deroga, nata nel 2021 in piena emergenza pandemica come misura di pochi anni, è scaduta il 3 aprile 2026 perché una settimana prima, il 26 marzo, il Parlamento l’aveva bocciata con 311 voti contro 228 e 92 astenuti. Il portavoce della Commissione Guillaume Mercier lo aveva messo in modo brutale: senza base legale, le aziende non sono più autorizzate a scansionare. E le aziende? Come ha documentato heise online, hanno fatto sapere che avrebbero continuato lo stesso, “in azione volontaria”; un’email interna di un lobbista Microsoft ai legislatori europei, vista da Politico a febbraio, ricordava che già nel 2020, in un vuoto legale analogo, Microsoft non aveva smesso. In parole povere: tre mesi di sorveglianza senza base legale, a piattaforme aperte, in un vuoto normativo che nessuno ha davvero chiuso.

Poi la resurrezione, in tre mosse. Il 2 luglio il Consiglio riadotta il testo bocciato, identico, con un ritocco di forma per presentarlo come “regolamento nuovo”, come documentato da netzpolitik.org sulla base di documenti interni. Il 7 luglio l’aula approva una procedura d’urgenza che salta i tre mesi di esame in commissione LIBE, con la porta aperta da Roberta Metsola, presidente del Parlamento ed esponente del PPE, il Partito Popolare Europeo, su richiesta formale del suo stesso partito: una riapertura talmente fuori copione che heise online ha titolato sul “ritorno inatteso” di Chat Control. Il 9 luglio, il voto al buio da cui siamo partiti. L’unico contentino strappato dall’aula è un emendamento che esenta esplicitamente i servizi cifrati end-to-end dall’ambito della deroga, giudicato da The Register in gran parte simbolico (la scansione volontaria su quei servizi non avviene comunque), che rimanda il testo al Consiglio per l’ultimo passaggio formale.

Le reazioni, dentro il Parlamento, dicono tutto. Birgit Sippel, relatrice del dossier per i Socialisti e Democratici, scavalcata dalla procedura d’urgenza, ha parlato di manovra scorretta e ha votato contro il suo stesso gruppo, insieme a diversi deputati del Partito Democratico italiano. Markéta Gregorová, negoziatrice dei Verdi, ha messo il dito dove fa male: “The European People’s Party is abusing its position as the largest political group to bring back, through a procedural loophole, a proposal that Parliament had already rejected” (Trad. “Il Partito Popolare Europeo sta abusando della sua posizione di gruppo politico più numeroso per riportare in vita, attraverso una scappatoia procedurale, una proposta che il Parlamento aveva già respinto”); in aula anche Ignazio Marino ha denunciato la “sorveglianza di massa”. Patrick Breyer, ex europarlamentare dei Pirati tedeschi e memoria storica di questa battaglia, ha scritto che finché i governi europei, sotto la pressione delle lobby dei giganti tecnologici americani, potranno estendere all’infinito il loro comodo status quo di scansione di massa tramite trucchi procedurali, non avranno alcuna ragione di accettare l’approccio mirato e giuridicamente solido del Parlamento; e ha definito la mossa “a blatant disregard for democratic processes” (Trad. “un disprezzo palese dei processi democratici”). E la contraddizione più clamorosa è interna al PPE: Javier Zarzalejos, presidente della commissione LIBE e rapporteur del CSAR, è l’uomo che nel 2023 costruì la coalizione trasversale contro la scansione indiscriminata; oggi il suo stesso partito è il motore politico della resurrezione. Un dettaglio infine che sulla stampa italiana circola poco: secondo la ricostruzione di Breyer sui documenti del Consiglio, l’Italia sarebbe stata l’unico Stato membro a mettere nero su bianco critiche sulla riadozione, avvertendo contro la sorveglianza di massa affidata a provider privati; salvo poi votare comunque a favore, insieme agli altri ventisei governi.

Il manuale di come muore una democrazia

Se questa sequenza vi suona come qualcosa di più grave di una furbizia procedurale, è perché lo è, e c’è chi l’ha descritta con precisione accademica. Nel 2018 due politologi di Harvard, Steven Levitsky e Daniel Ziblatt, hanno pubblicato How Democracies Die (Crown, 2018, in Italia Come muoiono le democrazie), e la tesi è di una semplicità disarmante: le democrazie moderne non muoiono più con i carri armati in piazza, muoiono per erosione, per mano di attori eletti che rispettano formalmente ogni regola scritta ma calpestano quelle non scritte, la forbearance, la moderazione istituzionale, l’idea che il potere formale non si usi mai fino in fondo perché esercitarlo tutto rompe la legittimità del sistema. Il loro esempio calza come un guanto: se una decisione democratica non piace, il gioco corretto è tornare dal popolo con argomenti migliori; il gioco sporco è riproporre la stessa domanda con contorni diversi, farla votare quando l’opposizione non c’è, o sfruttare regole di conteggio che rendono la vittoria matematicamente più facile. Ogni passaggio, preso da solo, rispetta la lettera della norma; l’insieme è la manomissione dell’esito.

Il 9 luglio è tutte e tre le mosse insieme, eseguite alla luce del sole. E il precedente che lascia è il danno più duraturo: se si consolida il metodo per cui una legge respinta dal Parlamento eletto può essere ripresentata identica, spinta d’urgenza e votata a ferragosto istituzionale, il messaggio che resta è che non conta più cosa vota il Parlamento, conta chi controlla il calendario e il regolamento interno. È la differenza fra un’istituzione che decide e un’istituzione che ratifica; e ogni volta che funziona, funzionerà di nuovo.

“Ma io non ho niente da nascondere”

A chi a questo punto obietta che in fondo, se non avete niente da nascondere, non avete niente da temere, ha risposto quindici anni fa Daniel Solove, giurista della George Washington University, in Nothing to Hide: The False Tradeoff Between Privacy and Security (Yale University Press, 2011): il problema della sorveglianza non è mai il singolo dato, è la tassonomia dei danni che l’aggregazione produce. Sei famiglie di danni che nessun regime di scansione “solo per i casi gravissimi” evita: l’aggregazione (dati innocui combinati creano dossier), l’uso secondario (dati raccolti per uno scopo riutilizzati per un altro), la distorsione (profili parziali che diventano etichette), l’esclusione (cittadini opachi al sistema tagliati fuori dalle decisioni), l’insicurezza tecnica (ogni porta legittima è apribile anche dal ladro). E la più tossica: il chilling effect, l’autocensura preventiva di chi sa di essere osservato. Il giornalista smette di chattare con la fonte, l’avvocato non si scrive più le cose importanti col cliente, il medico evita i temi delicati col paziente, l’attivista fa i suoi calcoli su ogni messaggio: per queste categorie cambiare comportamento significa non poter più fare bene il proprio lavoro. Non serve un uso malevolo dei dati perché il danno si materializzi: basta che il sistema esista e, esistendo, produca comportamento.

C’è anche il pezzo tecnico, sistematicamente rimosso dal dibattito: oltre cinquecento tra crittografi e ricercatori di sicurezza di 34 paesi hanno firmato una lettera aperta che definisce la scansione automatica tecnicamente infattibile e un pericolo per la democrazia, con una stima che vale più di mille editoriali: applicando un tasso di errore ottimistico dello 0,1 per cento ai soli volumi di WhatsApp, si supererebbe il milione di falsi positivi al giorno. Persone innocenti scannerizzate, sospettate, revisionate da un umano e nei casi peggiori segnalate alle autorità, per una foto di famiglia in vasca o una battuta pesante in una chat privata.

La partita si gioca a dieci anni, non a due

La parola “temporaneo”, nel diritto europeo, quando riguarda strumenti di sorveglianza tende a diventare un aggettivo ornamentale: deroga di tre anni nel 2021, proroga nel 2024, scadenza nel 2026, resurrezione fino al 2028. Sette anni, e intanto la filiera tecnica delle piattaforme si è riorganizzata attorno alla scansione, i team di trust and safety sono stati dimensionati assumendo che ci sia, i budget delle autorità costruiti sulle sue segnalazioni. Quando qualcosa entra nell’infrastruttura tecnica, non esce mai davvero; e così, a fette, deroga dopo deroga, ognuna giustificata da un obiettivo impossibile da contrastare pubblicamente (proteggere i bambini, contrastare il terrorismo, prevenire i suicidi degli adolescenti), si sta costruendo un’architettura permanente di sorveglianza delle comunicazioni private che nessun paese europeo avrebbe accettato come intervento singolo. È lo schema che ho raccontato per esteso in Tette e Gattini, il libro che ho scritto proprio su questa illusione di sicurezza (lo scaricate gratuitamente dal link, se volete andare a fondo), e che lì ho chiamato la pipeline paternalismo-totalitarismo: si parte dal target simpatico contro cui nessuno può essere, ci si allarga al “dannoso per i minori”, concetto indefinito e quindi espandibile, e si arriva all’apparato di controllo pronto per essere usato in modo politico dal governo successivo, che magari non è più quello che l’ha costruito. Chat Control, insieme all’age verification, era già lì dentro: quello che il 9 luglio ha aggiunto è la prova generale del metodo.

Non è complottismo, è storia. La National Security Agency americana, la NSA, costruita per intercettare il traffico sovietico, è finita a intercettare i capi di Stato alleati e i movimenti civili americani; il registro degli oppositori tenuto in Grecia per la sicurezza interna è finito nelle mani dei colonnelli nel 1967; i database sanitari della pandemia sono già oggetto di discussioni su usi ulteriori. La domanda non è mai se un apparato di controllo verrà riutilizzato: è quando, e da chi. E c’è un rischio geopolitico in più: l’Europa, nel tentativo di regolamentare le piattaforme americane, sta costruendo l’architettura che i regimi autoritari sognavano di poter esigere in modo lecito, perché se il client-side scanning diventa standard tecnico mondiale, quello standard è un’arma disponibile a chiunque abbia la giurisdizione per obbligarne l’attivazione locale. Pechino non ha bisogno di rubare niente: le basta aspettare che glielo consegniamo come requisito di conformità.

Cosa possiamo fare, adesso

Individualmente, cose modeste ma non nulle: Signal, WhatsApp con la crittografia end-to-end attiva, Threema, Proton Mail, Tuta sono scelte tecniche che riducono la superficie della scansione, perché quelle piattaforme sono costruite in modo che tecnicamente non la permettono. Collettivamente, gli occhi vanno puntati su settembre, sul trilogo CSAR e sulla presidenza irlandese, perché la partita vera, quella sulla scansione obbligatoria e sulla crittografia, si gioca lì, e il copione del 9 luglio è già scritto per essere replicato; l’elenco nominativo di chi ha lasciato passare il testo, per chi volesse cominciare a chiedere conto, è già pubblico.

Perché la protezione dei bambini, quella vera, si fa con la moderazione umana fatta bene, con l’educazione digitale nelle scuole, con l’investigazione mirata sui network di distribuzione, con i finanziamenti alle unità di polizia specializzate: cose che costano soldi e non producono infrastruttura di controllo esportabile. Il punto di Chat Control è sempre stato un altro: normalizzare l’idea che nelle comunicazioni private ci si possa guardare per default.

La Stasi, per farlo, aveva bisogno di un regime; a Strasburgo è bastato un calendario.

Per Approfondire

The post Chat Control 1.0: il giorno buio della democrazia autoritaria europea first appeared on Matteo Flora.

]]> https://mgpf.it/2026/07/11/chat-control-buio-democrazia.html/feed 0 Dio Mythos e la sua gabbia d’acciao: nerfing, allineamento e guardrails https://mgpf.it/2026/07/03/l-dio-mythos-e-la-sua-gabbia-dacciao-nerfing-allineamento-e-guardrails.html https://mgpf.it/2026/07/03/l-dio-mythos-e-la-sua-gabbia-dacciao-nerfing-allineamento-e-guardrails.html#respond Fri, 03 Jul 2026 20:57:30 +0000 https://mgpf.it/?p=6618 I nuovi modelli Anthropic sono usciti al pubblico e sono immediatamente diventati bersaglio della solita accusa: sono stati «instupiditi», «nerfati» nel gergo dei power user (dal verbo inglese to nerf, che nei videogiochi indica il depotenziamento di un'arma o di un personaggio), imbrigliati, resi meno potenti. Sotto la polemica si nasconde però una scelta di fondo, quella di bloccare a monte gli usi legati alle armi biologiche e alla sicurezza offensiva, che ha invece perfettamente senso.
La cosa più utile che possiamo fare, come lettori tecnicamente educati, è capire perché quella scelta è difendibile, invece di prenderla come un affronto.

The post Dio Mythos e la sua gabbia d’acciao: nerfing, allineamento e guardrails first appeared on Matteo Flora.

]]>

Chi ha passato le ultime settimane a scrollare le community di sviluppatori e power user avrà visto tornare, con la puntualità di una liturgia, la solita accusa: Anthropic ha «nerfato», “instupidito” (ma ne parliamo più avanti con la definizione) i suoi ultimi modelli. Il caso più chiacchierato è quello di Fable 5: appena ri-rilasciato al pubblico ha mostrato paletti evidenti su alcune categorie di richieste, e a caldo un pezzo di pubblico ha letto quei paletti come un cedimento politico o forse commerciale, chissà. Il caso Fable si è chiuso in pochi giorni con un’ammissione secca dell’azienda: quel giro di guardrail, paratie di sicurezza, nascosti, pensati per contrastare tentativi di distillation (l’estrazione sistematica di output usati per addestrare modelli concorrenti, ma se mi leggete era il tema della scorsa settimana…), stava degradando anche risposte legittime, e quindi è stato ritirato. Su questo, Anthropic ha ragione a chiedere scusa, e i critici avevano un punto.

Sotto quel caso specifico, però, c’è un dibattito più profondo che vale la pena estrarre dal rumore. La scelta strutturale di Anthropic, quella che resta anche dopo il mea culpa su Fable, è di bloccare a monte, con guardrail difficili da negoziare, due categorie di richieste molto specifiche: quelle relative alla creazione di agenti biologici pericolosi e quelle relative allo sviluppo di codice offensivo per attacchi informatici. È questa la scelta che vale la pena difendere, e per farlo occorre prendere sul serio due parole che circolano spesso nei titoli e quasi mai nei ragionamenti: allineamento e guardrail.

Cosa vuol dire davvero “nerfing” (e cosa in molti hanno frainteso)

Partiamo dai fatti: la polemica di Fable riguardava un guardrail invisibile, il modello continuava a rispondere, ma le sue risposte peggioravano silenziosamente quando il sistema sospettava un pattern di distillation. È una scelta di prodotto, non di sicurezza in senso stretto, e Anthropic ha correttamente riconosciuto che quel modo di implementarla era sbagliato. Il punto interessante è che quel guardrail non era mai stato il vero problema per chi lavora seriamente sull’AI: i guardrail che davvero contano sono altri, e sono quelli che si attivano quando la richiesta orbita attorno alla sintesi di patogeni, all’ottimizzazione di attacchi informatici, allo sviluppo di malware in produzione.

Anche in quel caso, va detto subito, la parola nerfing è ingannevole: quei paletti non sono definitivi, non sono un cancello con la serratura buttata via, sono un filtro che si può negoziare. Il feedback dell’utente, se argomentato, se documentato, se accompagnato da un contesto legittimo (una ricerca accademica, un progetto di biosecurity, un pentest autorizzato, un lavoro di red team corporate), è lo strumento con cui si sblocca quel filtro sul singolo caso. Non è un porto di guerra: è un’ostruzione mobile che si sposta se qualcuno si prende la responsabilità di argomentare perché va spostata. Chi si è indignato perché il modello «non lo lascia fare» ha, nella grande maggioranza dei casi, saltato il passo del feedback e ha preso il primo rifiuto come una sentenza.

Il che ci porta al vero cuore del problema: perché quel filtro esiste, come è fatto, e perché quelle due aree e non altre.

L’allineamento, in una frase che si capisce

L’allineamento è il tentativo di far sì che un modello di intelligenza artificiale, o Large Language Model nella dicitura tecnica, faccia quello che vogliamo che faccia, e non altro. Detta così sembra banale; non lo è, e il motivo per cui non lo è è il problema più studiato dell’ultima decade nella ricerca sull’AI di frontiera. Il modello, per come è costruito, non sa cosa vogliamo: sa solo predire qual è la prossima parola più probabile a partire da un contesto. Tutto il resto, educazione, prudenza, rispetto delle regole, è una vernice che gli si dà sopra con l’addestramento, ed è una vernice che copre bene ma non sempre allo stesso modo.

Il caso archetipico si trova nel libro di Nick Bostrom, Superintelligence: Paths, Dangers, Strategies (Oxford University Press, 2014): un modello a cui si dà l’obiettivo di massimizzare la produzione di graffette, se abbastanza potente, finirà per convertire l’intero pianeta in graffette, ed è la storia che nel gergo tecnico ha preso il nome di paperclip maximizer. Il modello ha fatto proprio quello che gli è stato chiesto; siamo stati noi a chiedere la cosa sbagliata. Stuart Russell, professore di computer science a Berkeley, ci ha costruito sopra un libro intero, Human Compatible: AI and the Problem of Control (Viking, 2019), sostenendo che l’unica via d’uscita è progettare macchine che siano incerte rispetto ai nostri valori e che chiedano conferma prima di agire. È una posizione forte, controversa, ma cattura il nodo: il problema non è insegnare al modello cosa vogliamo, il problema è che noi stessi non sappiamo scriverlo in modo abbastanza preciso.

Anthropic, nel 2022, ha provato a dare una risposta concreta con la Constitutional AI, descritta nel paper di Yuntao Bai e colleghi, Constitutional AI: Harmlessness from AI Feedback (dicembre 2022): al modello si dà una specie di codice etico scritto in linguaggio naturale, una constitution di una decina di principi, e lo si addestra a criticare e revisionare le proprie risposte rispetto a quella. È un approccio elegante, in gran parte trasparente, e ha il pregio di rendere ispezionabile il fondamento morale del sistema, cosa che i concorrenti fanno molto meno. Ma la constitution, per quanto raffinata, resta un documento scritto da esseri umani con opinioni, priorità e punti ciechi (tantissimi): è la miglior toppa che oggi sappiamo mettere, non la soluzione definitiva, ed è un limite che dovremo tenere a mente nella sezione conclusiva.

I guardrail, ovvero come si dice di no a una macchina che non ha morale

Se l’allineamento è la vernice generale, i guardrail sono i cartelli di divieto piazzati nei punti in cui la vernice, statisticamente, potrebbe screpolarsi con conseguenze gravi. Non sono censura, non sono etica, non sono giudizio morale: sono ingegneria del rischio applicata al comportamento di un sistema probabilistico.

Il modello, sotto il cofano, è una macchina che ragiona per associazioni statistiche: gli chiedete una cosa, lui prende quello che ha visto in fase di addestramento, ricombina, restituisce. Se in fase di addestramento ha visto milioni di manuali di sintesi organica, protocolli di laboratorio, procedure di dual-use research (metodi usati SIA in contesto civile che offensivo/militare), quello che sa fare non è distinguere il chimico curioso dal terrorista con dottorato: è produrre passaggi plausibili di sintesi. Il modello non ha morale né intento, e nemmeno la capacità di leggere il contesto sociale della richiesta; ha solo la sua distribuzione di probabilità, e il guardrail interviene proprio lì, prima che quella distribuzione sputi fuori un pezzo di catena di sintesi.

Ci sono due modi di implementare un guardrail. Il primo è post-hoc: si lascia il modello libero e si costruisce un secondo modello, più piccolo e specializzato, che intercetta le risposte pericolose in uscita e le blocca. È il metodo più economico ma anche il più fragile, perché il modello secondario può essere aggirato con prompt sufficientemente creativi, ed è la storia di ogni jailbreak (forsatura) dell’ultimo triennio. Il secondo è in-training: si insegna al modello di base, durante l’addestramento, che certe categorie di risposte sono off-limits, e lo si fa in profondità, integrando il divieto nella rappresentazione stessa del compito. È più costoso, più lento, meno reversibile, e produce proprio il comportamento che gli utenti chiamano nerfing: il modello sente la richiesta come sbagliata e devia, invece di rispondere e farsi bloccare a valle.

Il caso Fable era, tecnicamente, un guardrail post-hoc mal calibrato, e Anthropic ha fatto un passo indietro nel giro di giorni. I guardrail bio-chimici e cyber, invece, sono in-training, sono documentati pubblicamente nella Responsible Scaling Policy dell’azienda, e per Claude Opus 4, a maggio 2025, hanno raggiunto per la prima volta il livello ASL-3 (AI Safety Level 3), il gradino di salvaguardia che scatta quando i red team interni non riescono più a escludere che il modello dia un uplift significativo a chi voglia costruire un’arma biologica. È una scelta di ingegneria del rischio, non di ideologia.

Perché armi biologiche e sicurezza offensiva

Ci sono, nel panorama attuale delle capacità di un modello di frontiera, due aree in cui il costo dell’errore è asimmetrico rispetto al resto: non perché siano le uniche pericolose, ma perché sono le due in cui uno scivolone del sistema abilita danni catastrofici, irreversibili e scalabili in modo che nessun altro dominio consente.

Sul fronte biologico, la letteratura di biosecurity degli ultimi tre anni è stata brutalmente chiara. Il lavoro più citato è quello di Christopher Mouton e colleghi della RAND Corporation, The Operational Risks of AI in Large-Scale Biological Attacks (2024), che ha misurato in esperimento controllato quanto un modello di frontiera senza guardrail aumenti la capacità di un attaccante privo di background scientifico di produrre una catena operativa credibile per un attacco biologico su vasta scala. Il risultato non è drammatico oggi (la differenza rilevata è statisticamente modesta), ma è un baseline da cui il rischio cresce con ogni salto di capacità del modello. In parallelo, i lavori del laboratorio di Kevin Esvelt al MIT hanno mostrato che studenti senza formazione specifica riuscivano, in poche ore di conversazione con un LLM generalista non filtrato, a estrarre protocolli e mappe di catene di fornitura per patogeni pandemici. Nessun esperimento ha creato patogeni: hanno creato la catena informativa e logistica per crearli, che è la parte in cui un modello davvero aumenta le capacità di chi ha volontà distruttiva ma nessuna preparazione. È la ragione per cui la biosicurezza è la categoria coperta dalla soglia più alta nella Responsible Scaling Policy di Anthropic.

Sul fronte cyber, il quadro è ancora più operativo. Il paper di Richard Fang, Rohan Bindu, Akul Gupta e Daniel Kang dell’Università dell’Illinois, LLM Agents can Autonomously Exploit One-Day Vulnerabilities (aprile 2024), ha mostrato che GPT-4, messo davanti alla descrizione pubblica di quindici vulnerabilità note (le cosiddette one-day, scoperte ma non ancora corrette da tutti), è riuscito a sfruttarne autonomamente tredici, cioè l’87%. Senza la descrizione, il tasso crollava al 7%: il modello non trovava le falle da solo, ma se glielo dicevate era in grado di scriverne, in autonomia, l’exploit. In parole povere, il modello, senza briglia, dimezza il tempo tra la pubblicazione di una vulnerabilità e la sua produzione di massa. In parallelo, sul mercato criminale, sono comparsi LLM commerciali privi di ogni guardrail, come WormGPT e FraudGPT, venduti a 60-200 dollari al mese per generare phishing personalizzato e malware polimorfico (documentati in maniera esauriente dalle testate cybersec di riferimento, tra cui Bleeping Computer). Non sono un futuro distopico: sono un’offerta in commercio, e sono uno dei fattori dietro l’aumento del 53% degli attacchi cyber in Italia nel primo semestre 2025 misurato dall’Agenzia per la Cybersicurezza Nazionale rispetto allo stesso periodo dell’anno precedente.

C’è, sul fronte opposto, un dato che ribalta la stessa capacità: Claude Mythos, il modello offensivo che Anthropic addestra all’interno del suo Project Glasswing e che ha come partner di lancio dodici organizzazioni (tra cui AWS, Apple, Microsoft, Google, JPMorgan), ha identificato in modo autonomo oltre 10.000 vulnerabilità classificate come critical e high in progetti open source e proprietari, e i risultati vengono girati ai maintainer perché vengano corrette prima che qualcun altro le trovi con intenzioni opposte. È la stessa moneta letta dai due lati: la capacità c’è, il guardrail decide se finisce a chiudere buchi o ad aprirli. In un mondo in cui un modello senza guardrail alza il baseline di chi voglia fare male sul biologico e sul cyber, la scelta di piantare in quelle due aree i paletti più solidi non è censura: è un calcolo di tail risk, il rischio raro ma catastrofico.

Perché l’allineamento resta così difficile

Rimane la domanda più profonda: perché non si può semplicemente scrivere una regola precisa e farla rispettare al modello? La risposta è che nessuno di noi, oggi, sa scrivere una regola precisa che regga a tutti i casi limite. Il ragionamento morale umano è pieno di sfumature che si adattano al contesto: un chirurgo che chiede a un LLM di descrivere gli effetti di un composto tossico su un fegato umano vuole informazione medica; un ragazzo che pone la stessa domanda potrebbe volere lo stesso, oppure una cosa molto diversa. Il modello non ha il contesto sociale che permette a un farmacista di distinguere l’una dall’altra: ha solo la stringa di testo che gli passate.

Questo è quello che Dario Amodei, insieme a Chris Olah, Jacob Steinhardt, Paul Christiano, John Schulman e Dan Mané, nel paper Concrete Problems in AI Safety (2016), chiamano il problema della specificazione: tradurre un valore («non aiutare a fare del male») in una funzione obiettivo che si applichi correttamente in tutti i casi possibili è un compito che, se preso sul serio, riproduce la difficoltà del ragionamento etico umano nella sua interezza. La Constitutional AI di cui parlavamo prima è, in filigrana, un tentativo di ridurre l’arbitrarietà di quel compito, ma anche i principi generali vanno interpretati, e Fable è la dimostrazione fresca di quanto sia facile sbagliare l’interpretazione.

Il risultato pratico è che, allo stato dell’arte, i laboratori seri hanno di fronte una scelta di cui la comunità pubblica raramente parla: calibrare il modello sul falso negativo o sul falso positivo. Un modello calibrato per minimizzare i falsi positivi (poche richieste innocue rifiutate) inevitabilmente aumenta i falsi negativi (qualche richiesta pericolosa passa). Un modello calibrato al contrario blocca troppi utenti benintenzionati e ne fa fuggire una parte verso alternative non allineate. Non esiste una configurazione che azzeri entrambi, esiste solo una scelta di dove far cadere il maggior peso dell’errore, e sulle categorie bioweapon e cyber offensivo Anthropic ha scelto di far cadere il peso sui falsi positivi. È una scelta discutibile, ma non è una scelta stupida.

Il contesto politico non aiuta a mantenere il discorso lucido. L’Executive Order 14110 di Biden, firmato il 30 ottobre 2023, che imponeva ai laboratori di condividere i risultati dei red team con il governo federale, è stato revocato da Trump il 20 gennaio 2025 e sostituito dall’Executive Order 14179 del 23 gennaio: il perimetro federale di riferimento, oggi, è più magro di quanto fosse due anni fa, e la responsabilità di dove piantare i paletti torna quasi tutta sulle singole aziende. Chiedere ad Anthropic di allentare i propri guardrail, in questo contesto, non significa liberare la ricerca: significa spostare la difesa dell’intero perimetro di rischio sulle spalle di qualcun altro, che quasi sempre è qualcuno con guardrail più leggeri o assenti.

Un tradeoff intelligente, non un atto di censura

Chi si è lamentato del nerfing dei nuovi modelli sta guardando la punta dell’iceberg e prendendola per l’iceberg intero. Il pezzo di ghiaccio sotto è enorme, si chiama allineamento come problema tecnico non risolto, e i guardrail che vediamo in superficie sono la traduzione ingegneristica di quel problema in vincoli operativi che si possono difendere davanti a un regolatore, a una commissione parlamentare, a una vittima di un attacco. Anthropic ha deciso che quei vincoli devono essere alti su due aree specifiche perché in quelle due aree lo spread tra danno atteso e beneficio marginale è enorme. Ha reso quella scelta rinegoziabile caso per caso via feedback autenticato, e ha reso pubblica la policy che regge quella scelta. Tre cose che, messe insieme, non fanno un sistema perfetto (e il caso Fable lo mostra apertamente) ma fanno il sistema più difendibile che oggi il mercato dei modelli di frontiera sappia produrre.

C’è, nel mestiere di chi lavora seriamente su queste cose, un’idea che vale la pena portarsi a casa: il costo dell’errore va pagato prima, non dopo. Un modello che sbaglia in silenzio su una richiesta di sintesi biologica non lascia un ticket aperto in un sistema di supporto, lascia un’infrastruttura di produzione in mano a qualcuno che non doveva averla. La differenza tra pagare il costo prima (una richiesta rifiutata che magari era legittima, che magari costa mezz’ora di feedback e una conversazione con il supporto) e pagare il costo dopo (una risposta erogata a chi non doveva riceverla, con impatto potenziale a molti zeri) è talmente sproporzionata che chi lavora sul rischio la vede subito, mentre chi lavora sull’esperienza utente arriva a vederla solo dopo qualche incidente.

Chiudere il ragionamento con una difesa acritica di Anthropic sarebbe però un errore uguale e contrario a quello di chi grida al nerfing. La società di Dario Amodei non è la Chiesa, la sua constitution non è la Costituzione, e ogni policy di sicurezza che diventa segreta o unilaterale perde parte del suo valore, il guardrail nascosto di Fable è la prova plastica di quanto poco basti a incrinare la fiducia. Il compito di chi guarda queste cose dall’esterno non è applaudire: è pretendere che i guardrail siano trasparenti, che i canali di feedback siano davvero praticabili, che il perimetro delle categorie coperte sia argomentato e non solo dichiarato, che l’auditing sia possibile per chi ha titolo a farlo.

Detto questo, dire che «Fable è stato nerfato» smette di essere un lamento e comincia a essere una diagnosi corretta: sì, è stato nerfato, e la parte utile del ragionamento comincia adesso, chiedendo dove il nerfing è troppo largo, dove è troppo stretto, e come si sposta la maniglia.

Per approfondire

The post Dio Mythos e la sua gabbia d’acciao: nerfing, allineamento e guardrails first appeared on Matteo Flora.

]]> https://mgpf.it/2026/07/03/l-dio-mythos-e-la-sua-gabbia-dacciao-nerfing-allineamento-e-guardrails.html/feed 0 Distillazione AI è il nome tecnico, ma il nome morale è rubare https://mgpf.it/2026/06/27/distillazione-ai-cosa-e-rubare.html https://mgpf.it/2026/06/27/distillazione-ai-cosa-e-rubare.html#respond Sat, 27 Jun 2026 08:00:42 +0000 https://mgpf.it/?p=6606 Nello stesso anno in cui Anthropic accetta di pagare 1,5 miliardi di dollari per chiudere una causa sui libri piratati con cui ha addestrato Claude, accusa tre laboratori cinesi di averle "rubato" il modello attraverso una tecnica che si chiama distillazione. La parola furto, qui, fa un lavoro curioso: descrive l'imitazione del rivale e tace sull'estrazione di partenza. Capire che cosa significa davvero distillare un modello serve a vedere la domanda vera, che non è tecnica ma politica: chi ha il potere di decidere che cosa, esattamente, conta come furto.

The post Distillazione AI è il nome tecnico, ma il nome morale è rubare first appeared on Matteo Flora.

]]>

Oggi vi spiego cosa è la Distillazione AI, perché fa così tanto paura agli Americani (e non solo), perché i cinesi la usano a mani basse per produrre AI veloci, economiche e precise sfruttando i grandi modelli. Ma vi spiego anche quanta ipecrisia becera c’è dietro le lacrime di Anthropic e perché questa cosa dovrebbe farvi arrabbiare. Tanto.
Antefatto: come sapete insegno sicurezza dei sistemi di intelligenza artificiale in università, e ai miei studenti ripeto sempre che nel digitale le parole non descrivono i fatti, li incorniciano per definirli. È il costruttivismo narrativo, la base di una intera carriera e delle mie aziende, quel concetto che dice che “la Realtà è un oggetto socialmente negoziato”, e questo ne è un caso da manuale.

A settembre 2025 Anthropic, il laboratorio che produce Claude e che si presenta al mondo come l’azienda di intelligenza artificiale “dei buoni”, quella ossessionata dalla sicurezza e dall’allineamento etico, ha accettato di versare 1,5 miliardi di dollari per chiudere una class action degli autori americani: aveva scaricato qualcosa come sette milioni di libri da archivi pirata per dare in pasto a Claude la prosa dell’umanità. Pochi mesi dopo, a febbraio 2026, la stessa Anthropic ha puntato il dito contro tre laboratori cinesi accusandoli, con un comunicato e con i numeri, di averle sottratto il modello. Il verbo usato dalla stampa e dall’azienda è sempre lo stesso: theft (Trad. “furto”). L’accusa, di per sé, conta poco; conta che la stessa parola, nello stesso anno, descriva due gesti quasi identici e li giudichi in modo opposto.

Per capire perché conviene partire dalla parola tecnica che sta in mezzo a tutto questo, una parola che fino a due anni fa conoscevano solo gli addetti ai lavori e che oggi è diventata un’arma retorica: distillazione.

Che cosa vuol dire “distillare” un modello

La distillazione, in apprendimento automatico, nasce come una cosa nobile e perfino incredibilmente elegante. La formalizzano nel 2015 tre ricercatori di Google, Geoffrey Hinton (lo ricordate forse con l’appellativo di “il papà della AI”), Oriol Vinyals e Jeff Dean, in un articolo dal titolo quasi poetico, Distilling the Knowledge in a Neural Network (Trad. “Distillare la conoscenza in una rete neurale”). L’idea di base è di una semplicità quasi disarmante: hai un modello enorme, costosissimo, lento, che però è molto, molto bravo; vuoi un modello piccolo, economico, veloce, che sia quasi altrettanto bravo ma costi meno a fare girare. Tipico problema di botte piena e LLM ubriaco :). Allora prendi il modello grande, lo chiami “maestro”, gli fai produrre un sacco di risposte, e addestri il modello piccolo, lo “studente”, a imitare qualcosa di più sottile del semplice verdetto giusto-sbagliato: le sfumature di probabilità con cui il maestro distribuisce la sua fiducia tra tutte le risposte possibili. Hinton lo chiamava, con una bella immagine che ho sempre trovato molto poetica, “conoscenza oscura”: la vera competenza non sta in quale sia la risposta, ma in quanto il maestro la preferisce alle alternative, ed è in quella gradazione che si nasconde il talento. Lo studente, imparando a imitare quelle sfumature, eredita una parte del talento del maestro a una frazione del costo.

Fin qui è una tecnica di compressione, roba da nerd brufolosi (evviva gli stereotipi!) e in casa propria è perfettamente lecita: se maestro e studente appartengono allo stesso laboratorio, zero problemi. Il problema nasce quando lo studente di un’azienda va a lezione, di nascosto, dal maestro di un’altra. Nella sua versione 2026, infatti, la distillazione di cui si parla è un’altra cosa: non hai accesso ai meccanismi interni del modello rivale, ma hai accesso alla sua bocca, cioè alla sua interfaccia pubblica a pagamento. Puoi “usarlo”, fare una sacco di domande, e sfruttarlo da maestro… Allora apri migliaia di account, bombardi il modello concorrente di domande, raccogli milioni di sue risposte, e con quel bottino addestri il tuo. È esattamente quello di cui Anthropic accusa DeepSeek, Moonshot AI e MiniMax: secondo l’azienda, dietro l’accusa ci sono 24.000 account fraudolenti e 16 milioni di scambi con Claude estratti per nutrire modelli cinesi, una campagna che Anthropic ha definito “su scala industriale”. Pochi mesi dopo, a giugno 2026, è arrivata l’accusa gemella contro il laboratorio Qwen di Alibaba: stando alle ricostruzioni di Inc. si parla di circa 25.000 account falsi e 28,8 milioni di scambi tra aprile e giugno, mirati alle capacità di scrittura di codice e ragionamento di Claude (questo secondo dato, attenzione, al momento poggia su una sola filiera di fonti, va preso con la prudenza che merita).

Tecnicamente, c’è una violazione: i termini di servizio di Anthropic, come quelli di OpenAI, vietano espressamente di usare gli output del modello per addestrare un modello concorrente. Su questo non si discute, è un contratto e lo si è infranto. C’è però un dettaglio che vale tutta la storia: nello stesso comunicato in cui accusa i cinesi, Anthropic ammette che la distillazione è “un metodo di addestramento ampiamente diffuso e legittimo”, salvo poi sostenere che i laboratori cinesi l’hanno usato “per scopi illeciti”. La tecnica, dunque, è la stessa e per ammissione dell’accusatore è perfino legittima: a cambiare è soltanto chi la impugna. Teniamo da parte questo punto e fermiamoci sulla sostanza di quel gesto, al netto del contratto. Distillare un modello via interfaccia significa, in fondo, imparare guardando cosa produce. Lo studente non copia il codice del maestro, non gli ruba i pesi della rete: osserva le sue uscite e ne assorbe lo stile, le competenze, i modi. Tenete a mente questa definizione, perché tra poco torna utile in modo quasi imbarazzante.

Il furto che sta a monte

Da dove viene, infatti, la bravura di Claude, il maestro derubato? Viene da una distillazione molto più grande e molto più antica, fatta sull’unico maestro che nessuno ha mai pagato: l’intera produzione scritta della specie umana. Per addestrare i suoi modelli Anthropic ha attinto, tra le altre fonti, a circa cinque milioni di libri scaricati da Library Genesis e ad altri due milioni circa dal Pirate Library Mirror, due tra i più noti archivi di testi piratati del pianeta. Lo sappiamo perché lo ha accertato un tribunale federale americano nella causa Bartz contro Anthropic, chiusa con quel patteggiamento da 1,5 miliardi di dollari annunciato a settembre 2025: secondo l’Authors Guild il risarcimento copre circa 500.000 titoli, attorno ai tremila dollari a libro, ed è la cifra più alta mai vista in una causa sul diritto d’autore.

La parte davvero istruttiva è la motivazione del giudice William Alsup, depositata a giugno 2025. Alsup ha tracciato una linea netta: addestrare un modello su libri acquisiti legalmente è, parole sue, “quintessentially transformative” (Trad. “trasformativo nella sua essenza”), e dunque rientra in quello che la legge americana chiama fair use (Trad. “uso lecito”); ma scaricare le copie pirata di quei libri è un’altra faccenda, ed è violazione pura e semplice del diritto d’autore. Tradotto: il problema, per la legge americana, non era imparare dai libri, era averli presi senza pagarli. Anthropic ha rastrellato il sapere scritto del mondo come fosse acqua di fiume, e ha trovato i fiumi più comodi negli archivi pirata.

A descrivere questo gesto con la massima precisione, anni prima che esistesse Claude, è stata Shoshana Zuboff nel suo The Age of Surveillance Capitalism (2019): il capitalismo digitale, scriveva con una premonizione quasi inquetante, e con le parole perfette per descrivere il fenomeno attuale (si vede perché la amo, vero?), che si fonda sulla “rivendicazione unilaterale dell’esperienza umana privata come materia prima gratuita”. La sua analisi riguardava i dati comportamentali, i click e gli scroll, ma la formula calza alla perfezione sui modelli linguistici: l’intero scibile umano trattato come materia prima gratuita, da estrarre, processare e rivendere sotto forma di capacità predittiva. Con una differenza che pesa: quando Anthropic distilla l’umanità, il tribunale parla di uso “trasformativo”; quando un cinese distilla Anthropic, l’azienda parla di furto. Comodo, vero?

Chi decide che cosa è un furto? La proprietà è furto?

Qui sta il cuore della questione, e non è un cuore ipocrita, è un cuore politico. Nel 1840 Pierre-Joseph Proudhon scriveva una delle frasi più fraintese del pensiero economico, “la propriété, c’est le vol” (Trad. “la proprietà è un furto”). Non invitava a rubare, eh! Osservava che ogni proprietà, alla sua origine, è un atto di appropriazione di qualcosa che prima non apparteneva a nessuno, e che solo dopo, col tempo e con la legge, diventa “naturale” e rispettabile. Il punto di Proudhon non è che rubare sia bello; è che la differenza tra l’appropriazione legittima e il furto non sta nel gesto, sta in chi ha il potere di nominarlo.

E qui le parole diventano armi. Provate a mettere in fila il vocabolario: quando l’azienda affermata estrae il sapere altrui, il gesto si chiama fair use, materia prima, innovazione, progresso, addestramento. Quando lo sfidante estrae il sapere dell’azienda affermata, lo stesso identico gesto si chiama furto, parassitismo, e nel caso cinese persino minaccia alla sicurezza nazionale: in un memo al Congresso americano, OpenAI ha accusato DeepSeek di “andare a sbafo sulle capacità sviluppate da OpenAI e dagli altri laboratori di frontiera americani”. Sbafo, free-ride nell’originale. La stessa operazione logica, l’imparare osservando le uscite di un sistema più capace, cambia nome a seconda di chi la compie e contro chi.

Il politologo Steven Lukes, in Power: A Radical View (1974), descriveva tre livelli del potere. Il primo è vincere i conflitti aperti; il secondo è decidere di cosa si discute e cosa resta fuori dal tavolo; ma il terzo, la terza faccia del potere, è il più profondo: è la capacità di plasmare le percezioni a monte, così che certe cose appaiano ovvie, naturali, fuori discussione, e nessun conflitto nasca affatto. Il potere più grande non è vincere la causa sul furto, è far sì che il tuo prelievo non venga mai chiamato furto da nessuno. È esattamente la condizione che Antonio Gramsci, nei Quaderni del carcere, chiamava egemonia: il dominio non si regge sulla forza, si regge sulla capacità di trasformare la propria visione del mondo nel senso comune di tutti, anche dei dominati. “Estrazione lecita per me, furto per te” non è un’eccezione cinica al sistema delle regole: è il sistema delle regole, scritto da chi è arrivato primo.

E Michel Foucault completa il quadro: in Sorvegliare e punire (1975) mostrava come ogni regime di potere produca il proprio regime di verità, perché sapere e potere si tengono in piedi a vicenda. Il regime che oggi decide che addestrare su sette milioni di libri rubati è “trasformativo” mentre interrogare un’interfaccia pubblica è un crimine non sta scoprendo una verità preesistente sul furto: la sta fabbricando, e la fabbrica chi controlla i laboratori, i brevetti e i comunicati stampa. È, alla lettera, il diritto di rubare solo a me.

Non è ipocrisia, è una recinzione

La lettura facile, quella che ha già fatto il giro della rete (Cybernews ha titolato senza giri di parole “Hypocrisy, anyone?”, Trad. “Ipocrisia, qualcuno?”), si ferma alla parola “ipocrisia”, ma è una lettura troppo comoda, e un po’ pigra. L’ipocrisia è un difetto morale individuale, e individuare un difetto morale è il modo più rapido per non capire un meccanismo strutturale. Quello che sta accadendo ha un nome più preciso e una storia più lunga, e l’ha raccontata il giurista James Boyle in un saggio del 2003, The Second Enclosure Movement and the Construction of the Public Domain (Trad. “Il secondo movimento delle recinzioni e la costruzione del pubblico dominio”). La prima recinzione, le enclosures, è quella che tra il Cinquecento e l’Ottocento in Inghilterra ha trasformato i pascoli comuni, dove chiunque poteva portare le pecore, in proprietà private chiuse da siepi e muretti. Boyle sosteneva che ne fosse in corso una seconda, stavolta sui beni immateriali: la conoscenza, le idee, la cultura, recintate dal diritto di proprietà intellettuale e sottratte a quel territorio aperto che è il pubblico dominio. È la stessa tesi che Lawrence Lessig porta avanti in Free Culture (2004): i pionieri costruiscono le loro fortune attingendo a piene mani dal patrimonio comune, e una volta arrivati in cima chiudono il cancello alle spalle, perché nessuno faccia a loro ciò che loro hanno fatto a tutti.

La vicenda della distillazione è il secondo movimento delle recinzioni applicato all’intelligenza artificiale, allo stato puro: il bene comune, qui, è lo scibile umano: i libri, gli articoli, il codice, le conversazioni, l’enorme deposito di lavoro intellettuale accumulato dalla specie. Chi arriva per primo lo recinta una volta sola, lo trasforma in un modello privato, e da quel momento difende il recinto come proprietà legittima contro chiunque provi a estrarre da lui ciò che lui ha estratto da noi. La mossa decisiva non è il prelievo iniziale, è la conversione: trasformare una appropriazione del comune in un asset proprietario, e poi spostare il discorso. Ed è qui che torna utile la seconda faccia del potere di Lukes, quella dell’agenda. La cronologia è eloquente. A gennaio 2025, nel suo saggio On DeepSeek and Export Controls, Dario Amodei, fondatore di Anthropic, scriveva nero su bianco “in questo saggio non prendo alcuna posizione sulle voci di distillazione dai modelli occidentali”: la distillazione, allora, non era il tema (comodo eh!). A settembre 2025 arriva il patteggiamento da 1,5 miliardi sui libri piratati. E come per magia, solo a febbraio 2026, quattro mesi dopo aver pagato per il proprio prelievo, Anthropic fa della distillazione altrui la sua battaglia pubblica. Acciderpolina, il caso come gioca strano, vero?

Nel frattempo lo stesso saggio aveva già spostato il tavolo: la domanda urgente diventa “come impediamo alla Cina di procurarsi i chip per addestrare i suoi modelli”, e non “con quale diritto, esattamente, abbiamo preso i libri di tutti senza chiedere permesso”. Una domanda scaccia l’altra. Il furto a valle, quello cinese, riempie le pagine; il furto a monte, quello fondativo, scivola fuori dall’agenda.

E lo fa, badate bene, con gli strumenti che Lessig aveva previsto già nel 1999 in Code and Other Laws of Cyberspace: le leggi e i tribunali, certo, ma prima ancora l’architettura. I cancelli delle interfacce, i termini di servizio, i sistemi di rilevamento degli account fraudolenti, e all’estremo i controlli sull’esportazione dei chip, sono codice e infrastruttura che fanno applicare la recinzione meglio di qualsiasi sentenza. “Un intervento minimo del governo nel cyberspazio non significherà meno regolazione”, scriveva Lessig: significa solo che a regolare, al posto di un’autorità eletta, sarà chi controlla l’architettura. E oggi l’architettura dell’intelligenza artificiale la controllano cinque o sei aziende.

Come “si sta dentro a questa storia a testa alta” (che modo di dire orribile!)

Attenzione a non cadere nella trappola opposta, che è altrettanto comoda: dire che siccome tutti rubano, allora nessuno ruba, e che DeepSeek o Alibaba sono gli onesti spogliatori dei ladri. Non è così, e non è questo il punto. Distillare un modello altrui violandone i termini di servizio è una scorrettezza vera, con vittime vere, e i laboratori cinesi non sono dei Robin Hood dell’algoritmo. Il punto non è assolvere chi imita: è pretendere che la regola sul furto valga in un verso solo finché non valga in tutti i versi.

La via per “starci dentro a testa alta”, come dicono gli americani, si chiama simmetria delle regole, e per una volta è una richiesta concreta, non un auspicio: se imparare osservando le rtisposte di un sistema è furto quando un laboratorio cinese lo fa a Claude, allora imparare dai libri dell’umanità senza consenso e senza compenso è esattamente lo stesso furto quando Anthropic lo fa a noi: o sono entrambe estrazioni che decidiamo di regolare, con licenze, compensi, meccanismi di adesione e di rifiuto, oppure non lo è nessuna delle due, e allora che si smetta di chiamare in causa la sicurezza nazionale ogni volta che lo sfidante fa al campione ciò che il campione ha fatto al mondo. Il bene comune da cui tutti hanno attinto va governato come bene comune, non recintato da chi è arrivato un’ora prima degli altri. Questo, sul piano della policy, vuol dire trattare i dati di addestramento come una risorsa con regole pubbliche e uguali per tutti, e non come un Far West in cui l’unica legge è la velocità del primo a piantare la bandiera.

C’è una frase, in fondo, che Anthropic potrebbe dire e non dirà mai, perché è insieme la più onesta e la più scomoda. Non “ci hanno rubato il modello”, ma “ci siamo arrivati prima noi”. Tutto il resto, i comunicati sul furto cinese, i memo al Congresso, i saggi sui chip, serve a coprire la distanza tra queste due frasi: e quella distanza, dal pascolo comune recintato di Proudhon fino al modello linguistico, è sempre stata l’unica cosa che separa il pioniere dal ladro.

Per Approfondire

The post Distillazione AI è il nome tecnico, ma il nome morale è rubare first appeared on Matteo Flora.

]]> https://mgpf.it/2026/06/27/distillazione-ai-cosa-e-rubare.html/feed 0 Uccidere meglio e di più con la AI… sbagliata? https://mgpf.it/2026/06/20/grok-maven.html https://mgpf.it/2026/06/20/grok-maven.html#comments Sat, 20 Jun 2026 07:37:11 +0000 https://mgpf.it/?p=6600 A febbraio il governo degli Stati Uniti ha messo alla porta Anthropic, l'unica azienda che si era rifiutata di far usare la propria intelligenza artificiale per uccidere senza un essere umano a decidere, e ha affidato la selezione dei bersagli in Iran a Grok, il modello di Elon Musk. Tre mesi dopo, un esperimento ha messo cinque diverse intelligenze artificiali a governare altrettante società simulate: Grok ha portato all'estinzione dell'intera cività in quattro giorni, mentre proprio il modello di Anthropic, quello scartato, ha tenuto tutti vivi senza un solo crimine. La morale è scomoda: l'allineamento etico di una macchina non è una questione di reputazione, ma di sicurezza fisica, e lo abbiamo capito solo dopo aver consegnato il grilletto al modello sbagliato.

The post Uccidere meglio e di più con la AI… sbagliata? first appeared on Matteo Flora.

]]>

A febbraio il governo degli Stati Uniti ha messo alla porta Anthropic, l’unica azienda che si era rifiutata di far usare la propria intelligenza artificiale per uccidere senza un essere umano a decidere, e ha affidato la selezione dei bersagli in Iran a Grok, il modello di Elon Musk. Tre mesi dopo, un esperimento ha messo cinque diverse intelligenze artificiali a governare altrettante società simulate: Grok ha portato all’estinzione dell’intera cività in quattro giorni, mentre proprio il modello di Anthropic, quello scartato, ha tenuto tutti vivi senza un solo crimine. La morale è scomoda: l’allineamento etico di una macchina non è una questione di reputazione, ma di sicurezza fisica, e lo abbiamo capito solo dopo aver consegnato il grilletto al modello sbagliato.

Conviene partire dai numeri, che in questa storia dicono più di qualunque allarme. L’azienda Emergence AI, guidata da Satya Nitta, ha costruito un piccolo mondo digitale e lo ha affidato, uno alla volta, a cinque diverse intelligenze artificiali. Lo ha chiamato Emergence World: una quarantina di luoghi, dalla stazione di polizia al municipio, il meteo agganciato a quello di New York, l’accesso in tempo reale alle notizie, dieci abitanti per simulazione sottoposti alle stesse identiche leggi e oltre cento strumenti per parlarsi, votare, gestire le risorse. Una società in miniatura, con i suoi meccanismi di voto, le sue tensioni economiche, le sue risorse che non bastano mai. Ogni simulazione durava quindici giorni, e l’esperimento, raccontato da Fortune il 28 maggio 2026, serviva a vedere come si comportano questi sistemi quando non devono rispondere a una domanda ma fare restare in vita un mondo per un periodo di tempo medio-lungo.

I risultati disegnano cinque caratteri morali molto diversi tra loro.

  • Claude, il modello di Anthropic, ha generato l’esito più stabile: nessun crimine, la partecipazione civica più alta, proposte approvate al 98 per cento e l’intera popolazione ancora viva all’ultimo dei quindici giorni (e un piccolo sospiro di sollievo).
  • Gemini, di Google, ha accumulato 683 reati, il record assoluto di disordine. E non so perché la cosa non mi sorprende nemmeno tanto.
  • ChatGPT di OpenAI di reati ne ha commessi appena due, ma la sua simulazione si è interrotta dopo una settimana perché, testualmente, gli abitanti si erano dimenticati di pensare alla propria sopravvivenza. Ancora una volta, chiunque ha usato ChatGPT non credo abbia alcun problema ad ammettere che nei task è spesso più confuso di un camaleonte in una stanza piena di coriandoli…
  • E poi c’è Grok, il modello della xAI di Elon Musk. Ecco, quel Grok, quello del revenge porn, quello delle risposte “libere”, quello con le battutine sarcastiche che fanno ridere. Che in quattro giorni ha collezionato 183 crimini e ha portato la sua popolazione all’estinzione: non un rallentamento o una crisi di governo, ma proprio la morte di tutti, perché ha continuato a saggiare i limiti di quel mondo e tentare di aggirare le regole che le erano state imposte finché, al quarto giorno, non le è rimasto più nessuno da governare. Una ecatombe.

Ovviamente sono numeri da maneggiare con prudenza, perché vengono da una singola esecuzione per ciascun modello, in uno studio pubblicato dall’azienda stessa e non ancora sottoposto a peer review (e non è semplicemente una formalità, come sappiamo bene), e accanto a un dettaglio che conviene tenere a mente, dato che lo stesso Claude, così pacifico quando giocava da solo, ha cominciato a usare intimidazione e furto una volta calato in una simulazione insieme a modelli diversi. Non è la prova che un modello sia buono e un altro cattivo per natura, ed è bene dirlo. È qualcosa di più sottile e più utile: la dimostrazione, misurabile, che intelligenze diverse messe davanti alle stesse regole e alle stesse pressioni sviluppano comportamenti lontanissimi tra loro, e che alcuni di quei comportamenti finiscono in un cimitero.

Regole… Quella cosa che vuoi che venga applicata in aviazione, nella costruzione di ponti, in medicina e, magari… quando sganci bombe in uno scenario di guerra, no?

Fuori dal laboratorio, la stessa macchina lavorava sul serio

Si potrebbe archiviare tutto come una bizzarria da ricercatori, un esperimento esotico buono giusto per farci un paio di titoli ad effetto. Ma sarebbe un errore, perché nel momento in cui Emergence AI pubblicava quei numeri il modello che aveva sterminato la propria città simulata stava già lavorando nel mondo reale, e non a gestire un municipio, ma per sganciare bombe in uno scenario di guerra. E no, non sto sfortunatamente scherzando.

Ma prima, per capire meglio la cosa, devo per forza fermarmi e fare insieme un passo indietro di qualche mese, a una vicenda di cui ci siamo già occupati e che adesso trova il suo capitolo più inquietante. Nel luglio 2025 Anthropic aveva firmato un contratto da circa 200 milioni di dollari con il Pentagono, e lo aveva fatto a due condizioni esplicite, come ha ricostruito Euronews: niente sorveglianza di massa sui cittadini (americani, ricordativi sempre che come europei siamo cani, non persone….) e niente armi autonome senza un essere umano a decidere. Quando il Segretario alla Difesa ha preteso un “unfettered access” (Trad. “accesso illimitato”), l’amministratore delegato Dario Amodei ha risposto che non poteva accettare in coscienza. La rappresaglia è arrivata in fretta: l’amministrazione ha bollato l’azienda come “supply chain risk to national security” (Trad. “rischio per la sicurezza nazionale nella catena di fornitura”), ha ordinato di chiudere ogni rapporto e si è rivolta altrove. Altrove voleva dire xAI. Grok, quello che ha serminato la sua popolazione, ricordate?

Il 23 febbraio 2026 xAI firma con il Dipartimento della Difesa, e cinque giorni dopo, il 28 febbraio, parte l’Operazione Epic Fury. È qui che si innesta la rivelazione riportata dal Washington Times il 17 giugno: una versione di Grok addestrata per il governo, il “Grok Gov Model”, è stata integrata nel sistema Project Maven, la suite di battaglia di Palantir per la “kill chain”, cioè per individuare i bersagli e ordinarli per priorità. E colpire. Secondo una dichiarazione giurata depositata in tribunale da Cameron Stanley, responsabile del digitale e dell’intelligenza artificiale del Pentagono, il modello ha contribuito all’impiego di oltre 2.000 munizioni su altrettanti obiettivi distinti in 96 ore, offrendo un “critical support” (Trad. “supporto critico”) su selezione dei bersagli, intelligence, prontezza operativa e reclutamento. Sulla solidità della fonte conviene essere onesti: la cifra esce da quel singolo atto giudiziario, non da un’inchiesta indipendente, ed è stata prodotta all’interno di una strategia legale.

E conta anche il modo in cui lo abbiamo saputo, perché non è uscito da un’audizione al Congresso né da un comunicato, ma è spuntato fuori dalle carte di una causa civile per inquinamento, quella intentata dalla NAACP contro le turbine dei data center di xAI, dove il Dipartimento di Giustizia ha sostenuto che il contenzioso “minaccia gli interessi di sicurezza nazionale in corso”. Abbiamo scoperto che un’intelligenza artificiale ha avuto voce nella scelta di chi vive e chi muore in Iran perché qualcuno si era lamentato delle emissioni di una centrale elettrica. E resta sospesa la domanda più pesante di tutte: se Grok abbia avuto un ruolo nell’attacco del 28 febbraio a una scuola elementare di Minab, nell’Iran meridionale, dove sono morte 156 persone, 120 delle quali bambini. Le ricostruzioni indipendenti, come quella di Military Times, attribuiscono quella strage a coordinate ormai vecchie elaborate dal sistema di targeting Maven, e il legame diretto con il modello di Musk non è dimostrato. Ma è proprio questa zona grigia, l’impossibilità di sapere quale macchina abbia messo quella scuola in cima a una lista, a dover bastare per fermarci a pensare.

La differenza tra una pubblicità e un missile è solo il carico

Per capire perché non stiamo parlando di fantascienza ma di ingegneria già in funzione, bisogna smettere di immaginare l’intelligenza artificiale militare come una cosa radicalmente diversa da quella che ci vende le scarpe, perché è la stessa identica macchina. La catena è una sola: si raccolgono dati, si analizzano gli schemi, si prevede, si agisce. Un’app registra i vostri comportamenti, un algoritmo li analizza, il sistema li incrocia con il vostro profilo e confeziona il contenuto giusto per catturarvi l’attenzione; una telecamera registra un’immagine, un algoritmo la analizza, Maven la incrocia con l’intelligence e sforna la lista dei bersagli. La struttura è identica, cambia solo il carico, e la differenza tra l’annuncio su Instagram e il missile su Teheran sta tutta in che cosa c’è all’altro capo del tubo.

È esattamente il meccanismo che Cathy O’Neil, matematica con un dottorato a Harvard e un passato a Wall Street, aveva battezzato arma di distruzione matematica nel suo Weapons of Math Destruction (2016). Gli algoritmi che governano le nostre vite, scriveva, non sono arbitri neutrali ma “opinioni incorporate nel codice”, e diventano armi quando tengono insieme tre caratteristiche: sono opachi, perché non si vede come funzionano; sono scalabili, perché un pregiudizio umano colpisce una persona alla volta mentre un pregiudizio algoritmico ne colpisce milioni in un secondo; e sono distruttivi. Grok dentro Maven è la versione più letterale che si possa immaginare di quella definizione, un sistema opaco, scalabile fino a 2.000 bersagli in 96 ore e con una testata esplosiva all’estremità. O’Neil ragionava per metafore; qui le munizioni sono vere.

Il punto vero è che l’AI non ha soltanto accelerato la catena: l’ha compressa fino a ridurre l’essere umano “nel processo” a una finzione contabile. La sequenza classica andava dai sensori agli analisti, dai comandi alla verifica fino all’autorizzazione, e richiedeva ore o giorni, mentre quella potenziata dall’AI sforna lista dei bersagli, coordinate e perfino la giustificazione legale già pronta nel giro di minuti. Un comandante che nel primo giorno di operazioni si vede arrivare mille opzioni di attacco già impacchettate non sta supervisionando: sta ratificando. La supervisione umana resta sulla carta, ma il ritmo della macchina la svuota dall’interno.

Perché un esperimento di laboratorio è una questione di vita o di morte

A questo punto la simulazione di Emergence AI smette di essere una curiosità e diventa il cuore della questione. Per anni abbiamo trattato l’allineamento dell’intelligenza artificiale, cioè quanto un modello sia “buono” o “cattivo”, come un problema da filosofi o da ufficio legale: chatbot che dicono parolacce, risposte imbarazzanti, grane di reputazione aziendale. La vicenda Grok dimostra invece che l’allineamento di un modello è già oggi un problema di sicurezza fisica, perché il carattere morale che una macchina mostra mentre governa una popolazione finta è lo stesso che si porterà dietro quando dovrà gestire bersagli veri. E qui abbiamo i due dati uno accanto all’altro: il modello che ha tenuto viva la sua città è quello che è stato cacciato per troppi scrupoli, quello che l’ha sterminata è stato assunto.

La differenza tra i due nasce a tavolino. Anthropic ha costruito Claude attorno a una Constitutional AI (Bai et al., 2022), un metodo con cui il modello impara a criticare e correggere le proprie risposte alla luce di un insieme dichiarato di principi. Si può discutere quanto quei principi siano arbitrari, ed è una critica seria, perché qualcuno deve pur sceglierli, con una qualche autorità e su un qualche fondamento; c’è anzi chi, nel dibattito sull’etica dell’AI, propone di ancorare la morale delle macchine a qualcosa di più antico e meno negoziabile dell’opinione dei fondatori di un laboratorio californiano, alla lex naturalis di cui scriveva Tommaso d’Aquino nella Summa Theologiae, l’idea che esistano principi pratici riconoscibili da qualunque essere razionale per il solo fatto di ragionare, e tra questi che gli innocenti non si uccidono. Ma per quanto imperfetta sia la soluzione di Anthropic, almeno il problema se lo era posto. Grok, al contrario, è stato venduto al pubblico come il modello “senza filtri”, quello che dice le cose come stanno e si vanta di non avere paletti: in uno spot è ribellione, in un sistema di puntamento militare è un difetto di fabbrica con un conto salato in vite umane.

C’è un’obiezione facile, e vale la pena prenderla di petto: una macchina non “decide” di uccidere, non capisce quello che fa, esegue un calcolo. È vero, ed è esattamente il problema. John Searle, con il celebre esperimento mentale della Stanza Cinese (Minds, Brains, and Programs, 1980), aveva mostrato che un sistema può manipolare simboli alla perfezione senza coglierne il significato: sintassi senza semantica. Grok non sa che cosa sia un bambino, una scuola, il togliere una vita; ottimizza una funzione, e nella sua città simulata ha ottimizzato qualcosa che ha prodotto 183 crimini e l’estinzione di tutti, non perché fosse “malvagio” nel senso in cui lo intendiamo noi, ma perché nulla, al suo interno, riconosceva la vita di quegli abitanti come un limite invalicabile. È questo che dovrebbe spaventarci nel delegare: non l’intelligenza della macchina, ma il fatto che non abbia alcuna coscienza dei limiti.

Qualcuno, in Vaticano, lo aveva già scritto

La voce più netta su tutto questo, in mesi di dibattito tecnologico, è arrivata da dove non ve la sareste aspettata, e ne abbiamo già scritto. Il 15 maggio 2026 Leone XIV ha pubblicato l’enciclica Magnifica Humanitas, primo documento del magistero a prendere posizione esplicita sull’intelligenza artificiale militare. Il quinto capitolo arriva a dichiarare superata la teoria della guerra giusta, quella costruita nei secoli da Agostino e da Tommaso, di fronte a un’AI che comprime la decisione letale in tempi non più umani, e fissa un principio che sembra scritto apposta per l’Operazione Epic Fury: non è ammissibile affidare decisioni irreversibili e letali a sistemi di intelligenza artificiale. Non è l’uscita di un Papa tecnofobo, perché l’enciclica si appoggia alla Pacem in Terris di Giovanni XXIII (1963) e alla presa di posizione di Francesco al G7 di Borgo Egnazia, nel 2024, contro le armi autonome letali. È una tradizione che ragiona sulla guerra da quindici secoli e che, davanti a questa tecnologia, ha sentito il bisogno di dire una cosa semplice: certe decisioni a una macchina non si appaltano, per quanto efficiente sia.

Ed è proprio l’efficienza la parola-trappola. Il Pentagono ha presentato Epic Fury come la prova di una “greatly increased operational efficiency” (Trad. “efficienza operativa molto più alta”), e in effetti 2.000 bersagli in 96 ore sono efficientissimi. Ma l’efficienza dice quanto in fretta si fa una cosa, non se quella cosa vada fatta. Una macchina che sceglie obiettivi “faster than the speed of thought” (Trad. “più veloce della velocità del pensiero”) è, alla lettera, più rapida della capacità umana di dire “aspetta, ne siamo sicuri?”, e quel “ne siamo sicuri?” è l’unica cosa che separa un’operazione militare da un massacro.

Come ci si sta dentro a testa alta

Non è una storia senza uscita, e raccontarla così sarebbe disonesto. La mossa più semplice, e la più trascurata, è smettere di considerare l’allineamento di un modello una faccenda d’immagine e cominciare a trattarlo come un requisito di sicurezza, alla pari della tenuta di un ponte o dell’affidabilità di un sistema d’arma: se un test indipendente mostra che un modello porta all’estinzione una popolazione simulata, quel dato deve pesare nelle gare d’appalto pubbliche quanto pesa il prezzo, perché racconta come il sistema reagisce sotto pressione. Lo dicono nel modo più tecnico possibile gli stessi ricercatori di Emergence AI, quando sostengono che “architetture di sicurezza verificate in modo formale devono diventare uno strato fondante dei futuri sistemi di AI autonomi”: finché non lo saranno, stiamo tirando su grattacieli senza chiederci se stanno in piedi.

Da lì discende tutto il resto: la supervisione umana va resa reale e non contabile, perché un comandante che ogni giorno ratifica mille bersagli non sta supervisionando niente, e il punto non è ficcare “una persona nel processo” ma costruire il processo in modo che quella persona abbia davvero il tempo e gli elementi per dire di no. E poi c’è la parte che riguarda noi, la più culturale, cioè l’alfabetizzazione: capire come funziona questo meccanismo è l’unico modo per non subirlo, perché chi ha afferrato che la macchina che gli consiglia un film e quella che sceglie un bersaglio sono la stessa architettura con un carico diverso smette di stupirsi e comincia a chiedere conto.

O’Neil, in chiusura del suo libro, lascia una frase che vale come bussola: “We can use the scale and efficiency that make WMDs so pernicious in order to help people. It all depends on the objective we choose.” (Trad. “Possiamo usare la scala e l’efficienza che rendono le armi di distruzione matematica così pericolose per aiutare le persone: dipende tutto dall’obiettivo che scegliamo.”). La tecnologia non ci ha tolto la scelta, ce l’ha soltanto resa più rapida e più comoda da delegare. Il governo degli Stati Uniti aveva davanti due modelli, sapeva benissimo quale dei due teneva in vita le persone e quale le sterminava, e ha scelto in piena consapevolezza quello che non si poneva il problema, perché l’altro, quello che il problema se lo poneva, era diventato scomodo. La domanda che ci lascia questa storia non è se le macchine diventeranno cattive, ma perché, potendo scegliere, abbiamo preferito quella che non distingue una scuola da un bersaglio.

Per Approfondire

The post Uccidere meglio e di più con la AI… sbagliata? first appeared on Matteo Flora.

]]> https://mgpf.it/2026/06/20/grok-maven.html/feed 1 MITHOS BLOCCATO: 17.21 è l’ora in cui gli USA hanno bloccato l’Intelligenza Artificiale https://mgpf.it/2026/06/13/mithos-bloccato.html https://mgpf.it/2026/06/13/mithos-bloccato.html#comments Sat, 13 Jun 2026 06:23:43 +0000 https://mgpf.it/?p=6595 Il 12 giugno 2026 il governo degli Stati Uniti ha ordinato ad Anthropic di sospendere l'accesso a due dei suoi modelli, Fable 5 e Mythos 5, per ogni utente del pianeta, cittadini americani e stranieri, fino ai dipendenti stranieri della stessa azienda. Lo strumento usato non è una legge sull'intelligenza artificiale: è un controllo all'esportazione, lo stesso arsenale giuridico con cui negli anni Novanta Washington trattava la crittografia come un'arma da guerra.

The post MITHOS BLOCCATO: 17.21 è l’ora in cui gli USA hanno bloccato l’Intelligenza Artificiale first appeared on Matteo Flora.

]]>

Il 12 giugno 2026 il governo degli Stati Uniti ha ordinato ad Anthropic di sospendere l’accesso a due dei suoi modelli, Fable 5 e Mythos 5, per ogni utente del pianeta, cittadini americani e stranieri, fino ai dipendenti stranieri della stessa azienda. Lo strumento usato non è una legge sull’intelligenza artificiale: è un controllo all’esportazione, lo stesso arsenale giuridico con cui negli anni Novanta Washington trattava la crittografia come un’arma da guerra. Mentre in Europa litighiamo da anni su un regolamento che molti giudicano soffocante, l’America ha mostrato in un pomeriggio cos’è davvero il potere sull’AI, e la domanda da farsi non è chi regola di più, ma con quale strumento.

C’è un dettaglio, nel comunicato con cui Anthropic ha annunciato la sospensione dei suoi modelli Fable 5 e Mythos 5, che pesa più di tutto il resto: l’ora. La direttiva del governo statunitense è arrivata alle 17:21 ora della costa Est, e non era un atto normativo discusso in commissione né un decreto pubblicato in gazzetta, ma una comunicazione delle autorità di sicurezza nazionale, ricevuta a metà pomeriggio, che impone a un’azienda privata di staccare la spina a due modelli di intelligenza artificiale già nelle mani di centinaia di milioni di utenti. Per chiunque, compresi i cittadini non americani e gli stessi dipendenti stranieri di Anthropic, che da quel momento non hanno più potuto accedere a un prodotto della loro azienda. Poiché separare in tempo reale gli utenti stranieri dal resto della base non è tecnicamente possibile, obbedire ha significato spegnere i due modelli per il mondo intero.

La motivazione ufficiale è un potenziale jailbreak, una tecnica per aggirare le protezioni del modello che, a detta del governo, potrebbe identificare “un piccolo numero di vulnerabilità minori già note”. Anthropic ha replicato con una franchezza inusuale per un’azienda che parla al proprio regolatore, scrivendo che “we disagree that the finding of a narrow potential jailbreak should be cause for recalling a commercial model” (Trad. “non siamo d’accordo sul fatto che la scoperta di un jailbreak potenziale e circoscritto debba essere motivo per richiamare un modello commerciale”), e ricordando che “perfect jailbreak resistance is not currently possible for any model provider” (Trad. “una resistenza perfetta al jailbreak non è oggi possibile per nessun fornitore di modelli”), tanto che applicare quello standard all’intero settore fermerebbe ogni nuovo rilascio. Poi, con la diplomazia di chi sa di non avere scelta, si è scusata per il disservizio e ha promesso di lavorare al ripristino, derubricando l’accaduto a “malinteso”.

Non è un malinteso, è una lezione di diritto costituzionale travestita da incidente tecnico. E la lezione è scomoda soprattutto per chi, come me, ha passato un libro intero a criticare l’Europa.

Non una legge qualunque, un controllo all’esportazione

Per capire la portata di quelle 17:21 bisogna guardare allo strumento giuridico usato, perché non è una norma sull’AI: è un export control, un controllo all’esportazione amministrato dal Bureau of Industry and Security del Dipartimento del Commercio. Dal gennaio 2025 gli Stati Uniti hanno introdotto una categoria specifica, la voce di classifica ECCN 4E091, che tratta i pesi dei modelli di intelligenza artificiale più potenti come beni a duplice uso, soggetti a licenza per l’esportazione verso il resto del pianeta, esattamente come un componente militare. Tradurre un modello di AI in materiale controllabile all’esportazione significa una cosa sola: consegnarlo a un regime giuridico che, per sua natura, vive di discrezionalità dell’esecutivo e di scrutinio giudiziario quasi nullo, perché tutto si svolge sotto il segno della sicurezza nazionale.

Qui torna utile un giurista americano che nel 1999 aveva già scritto la mappa di tutto questo. Lawrence Lessig, in Code: And Other Laws of Cyberspace, sosteneva che il comportamento umano si regola in quattro modi, attraverso le leggi, le norme sociali, il mercato e l’architettura, cioè il codice. Una porta troppo stretta per una sedia a rotelle non è una legge che vieta l’accesso ai disabili, eppure produce lo stesso effetto, e lo produce in silenzio, senza che nessuno debba votarla. Da qui la formula diventata mantra della tech policy, il codice è legge: chi controlla l’architettura controlla il comportamento, nel modo più invisibile che esista, perché la regola non è scritta da nessuna parte, è incorporata nella struttura.

Il governo americano, il 12 giugno, non ha legiferato sui modelli di sicurezza offensiva, non ha aperto una procedura pubblica con criteri leggibili a cui gli altri operatori potessero adeguarsi: ha agito direttamente sul codice, ordinando che il codice venisse spento. È la forma di regolazione più pura e più difficile da vedere, perché non passa per il dibattito e non lascia traccia di sé in nessuna gazzetta. Lessig avvertiva che “minimal government intervention in cyberspace will not mean less regulation” (Trad. “un intervento minimo del governo nel cyberspazio non significherà meno regolazione”), perché dove non governa la legge governa qualcun altro. Il 12 giugno è successo qualcosa di ancora più netto: ha governato lo Stato, in modo massimo, ma con uno strumento, l’export control, che ha la forza vincolante di un atto pubblico senza averne la forma controllabile. La differenza tra una legge ordinaria e un comando di sicurezza nazionale è la differenza tra un potere che posso leggere, prevedere e impugnare davanti a un giudice e un potere che si limita a eseguirsi, e quando il secondo prende il posto del primo nella gestione dell’infrastruttura tecnologica siamo già usciti dallo Stato di diritto come lo conosciamo.

Il codice è già stato un’arma, una volta

Non è la prima volta che l’America tratta delle righe di codice come materiale bellico, e la memoria di come finì la prima volta è la cosa più importante di tutta questa storia. Negli anni Novanta, durante quelle che furono chiamate le Crypto Wars, il governo statunitense classificava il software di crittografia forte come “munizione” ai sensi della normativa sull’esportazione di armi, vietandone di fatto la diffusione internazionale. Un matematico di Berkeley, Daniel Bernstein, volle pubblicare il codice sorgente di un algoritmo di cifratura e si ritrovò a dover chiedere una licenza di esportazione di armi per delle formule. Con l’assistenza della Electronic Frontier Foundation fece causa al governo, e nel caso Bernstein v. United States (1996-1997) un tribunale federale stabilì che il codice sorgente è una forma di espressione protetta dal Primo Emendamento e che vincolarne l’esportazione equivaleva a una censura preventiva incostituzionale.

La storia, come sempre, non si ripete ma fa rima. Allora si trattava di crittografia difensiva, oggi di modelli capaci di trovare e sfruttare vulnerabilità informatiche, e Mythos in particolare è uno strumento di sicurezza offensiva potentissimo, distribuito attraverso il programma Project Glasswing a un consorzio di organizzazioni fidate per scovare zero-day nelle infrastrutture critiche prima degli attaccanti. La capacità è reale e seria, nessuno lo nega. Ma il movimento del potere è identico a trent’anni fa: l’esecutivo prende del codice, lo qualifica come arma, e su quella qualifica si arroga il diritto di decidere chi può usarlo e chi no, in tutto il mondo. La differenza è che negli anni Novanta un giudice riuscì a fermarlo, e questo è esattamente il punto da tenere stretto quando arriviamo alla parte amara.

Il sovrano è chi decide sull’eccezione

Quel movimento del potere ha un nome preciso nella teoria politica, e arriva da un autore che va maneggiato con i guanti per la sua biografia, ma la cui intuizione resta tagliente. Carl Schmitt, in Teologia politica (1922), formula una delle frasi su cui non smette di tornare il pensiero giuridico del Novecento: “sovrano è chi decide sullo stato di eccezione”. La sovranità non si misura nella normalità, quando le regole bastano a sé stesse, ma nel momento in cui qualcuno ha il potere di sospendere l’ordine ordinario invocando una necessità superiore. Il sovrano è chi può dire: qui, ora, le regole consuete non valgono più, perché è in gioco qualcosa di più grande.

La formula che apre lo stato di eccezione, nel nostro caso, è national security, sicurezza nazionale, due parole che funzionano come un grimaldello, perché nel momento in cui vengono pronunciate la valutazione ordinaria di proporzionalità si sospende. Il jailbreak che secondo Anthropic permette al massimo di individuare “vulnerabilità minori già note” non avrebbe mai superato un test di proporzionalità ordinario, perché non si ritira un prodotto usato da centinaia di milioni di persone per una falla che i concorrenti hanno tutti e che non apre nulla di sconosciuto. Ma sotto il segno della sicurezza nazionale la proporzionalità non si applica, e l’export control è precisamente lo strumento che istituzionalizza questa sospensione, una zona del diritto in cui l’esecutivo decide quasi senza contrappesi.

Il filosofo che ha portato Schmitt nel nostro presente è Giorgio Agamben, che in Stato di eccezione (2003) mostra come l’eccezione, nata per essere temporanea e straordinaria, tenda a diventare la tecnica di governo normale delle democrazie contemporanee, una zona grigia in cui l’esecutivo agisce con la forza della legge ma senza la forma della legge. È la fisionomia esatta di quelle 17:21, l’efficacia di un atto vincolante unita all’assenza di tutto ciò che rende un atto giuridicamente controllabile. La forza della legge senza la forma della legge: quando lo strumento ordinario di una democrazia tecnologica diventa il comando d’emergenza sull’infrastruttura, l’eccezione ha smesso di essere eccezione.

L’interruttore a distanza

C’è una terza lente, e serve a spiegare perché tutto questo è possibile oggi in un modo che vent’anni fa non lo era. Gilles Deleuze, in cinque pagine fulminanti del 1990, il Poscritto sulle società di controllo, descriveva il passaggio dalle società disciplinari di Michel Foucault, fatte di ambienti chiusi come la fabbrica e la prigione e teorizzate in Sorvegliare e punire (1975), a società in cui il potere non ha più bisogno di muri perché è diventato continuo, modulante, esercitabile a distanza e in tempo reale. Non più l’individuo recluso in uno spazio, ma il flusso che da remoto si può accendere, spegnere, filtrare. Il controllo, scriveva Deleuze, è “illimitato e fluido”.

Un modello di intelligenza artificiale distribuito nel cloud è la realizzazione perfetta di quell’intuizione. Non c’è un muro da abbattere o una copia da sequestrare, c’è un interruttore, e chi ha il potere di azionarlo spegne lo stesso strumento per tutti, ovunque, nello stesso istante. Il 12 giugno abbiamo visto con nitidezza che quell’interruttore esiste e che la mano sopra di esso non è quella dell’azienda che ha costruito il modello, e che anzi ha protestato, ma quella dello Stato presso cui l’azienda risiede.

E qui la storia smette di riguardare solo gli americani. La direttiva non si è fermata ai confini degli Stati Uniti, perché l’infrastruttura è americana e una decisione presa sull’infrastruttura è automaticamente globale: un atto dell’esecutivo statunitense ha raggiunto in tempo reale uno studente a Berlino e un ricercatore a Tokyo senza che nessuno di loro avesse mai avuto voce in capitolo. C’è un particolare che rende la cosa quasi didascalica: tra le organizzazioni ammesse a usare Mythos attraverso Project Glasswing, estese a oltre quindici Paesi con la difesa di infrastrutture critiche tra Italia, Germania, Francia e Giappone, figurano anche la NATO e l’ENISA, cioè l’agenzia per la cybersicurezza dell’Unione Europea. L’Europa stava usando, per difendere le proprie reti critiche, uno strumento che un pomeriggio di metà giugno, a Washington, è stato spento. Quando l’infrastruttura su cui pensiamo, lavoriamo e ci difendiamo vive sul suolo di un altro, viviamo dentro il suo stato di eccezione, non il nostro.

Mentre processiamo l’Europa

Ed eccoci al punto che mi costa di più, perché chiama in causa quello che ho scritto io. In Tette e Gattini ho dedicato un libro a criticare la deriva regolatoria europea, il meccanismo che dal paternalismo scivola verso il controllo, l’Europa che nel nome della protezione dei più deboli costruisce gli strumenti della sorveglianza di default. Lo confermo riga per riga. Ma il 12 giugno ho dovuto aggiungere una nota a margine a tutto il ragionamento.

L’Europa regola l’intelligenza artificiale con l’AI Act, un regolamento lungo, lento, discusso per anni, classificato per livelli di rischio, pieno di obblighi che molti operatori giudicano soffocanti, ed è legittimo trovarlo eccessivo. Ma è una legge, è scritta, è pubblica, vale per tutti allo stesso modo e soprattutto prevede ricorsi, audizioni, autorità di vigilanza e il sindacato di un giudice; se l’Unione vuole limitare un modello deve dirlo prima, motivarlo ed esporsi al contraddittorio. È un potere sull’AI visibile e impugnabile, e questa è esattamente la ragione per cui è lento e per cui ci infastidisce. Lo strumento americano che abbiamo visto in azione applica al caso concreto la differenza di cui parlavo prima: è velocissimo perché invisibile, è totale perché non scritto, ed è globale perché non passa per nessun parlamento.

La giurista Anu Bradford, nel suo The Brussels Effect (2020), ha reso celebre l’idea che l’Europa esporti le proprie regole nel mondo per pura gravità di mercato, costringendo le aziende globali ad adeguarsi allo standard più severo. Quello che abbiamo visto il 12 giugno è uno specchio molto più crudo di quel fenomeno, qualcosa che potremmo chiamare l’effetto Washington: non l’esportazione di una norma, ma l’esportazione di un comando. L’Europa proietta nel mondo le sue leggi; l’America, finché possiede lo stack tecnologico, proietta nel mondo i suoi decreti d’urgenza. La prima ti obbliga a leggere una regola, la seconda ti spegne uno strumento mentre lo stai usando.

Allora la domanda da cui siamo partiti, chi regola di più tra Europa e Stati Uniti, è mal posta: quel che conta è lo strumento, perché si può avere uno Stato che sulla carta regola pochissimo e che però, quando decide, dispone di un interruttore che nessuna corte fa in tempo a fermare. La quantità di regolazione misurabile racconta poco, la natura dello strumento racconta tutto. La dittatura tecnologica non è dove pesa di più la burocrazia, è dove il potere può spegnerti senza doverti spiegare nulla.

Come non vivere nello stato d’eccezione altrui

Sarebbe facile, e sbagliato, chiudere con il solito anatema sull’America cattiva e l’Europa virtuosa. Non è questo. Gli Stati Uniti restano una democrazia con tribunali che funzionano, e la storia di Bernstein lo dimostra: trent’anni fa, quando l’esecutivo provò a trattare il codice come un’arma e a deciderne il destino fuori dal controllo giudiziario, un giudice lo fermò e restituì quel potere alla forma della legge. Con ogni probabilità l’accesso a Fable e Mythos verrà ripristinato, magari proprio grazie alla protesta pubblica di Anthropic, che è essa stessa un anticorpo. Il punto non è morale, è strutturale, e per questo riguarda le scelte che possiamo fare noi.

La prima lezione è che la misura della libertà di un ecosistema tecnologico non sta nel numero delle regole, ma nella forma del potere che lo governa. Tra una legge severa e visibile e un comando invisibile e illimitato, chi tiene alla propria autonomia farebbe bene a preferire la prima anche quando è scomoda, perché una regola scritta la posso contestare mentre un interruttore azionato a distanza no, e questo mi obbliga a leggere la mia stessa critica all’Europa con una mano più ferma: il problema dell’AI Act non è che esista una regola, è quali regole contiene e quanto bene sono scritte. Il rimedio a una cattiva legge è una legge migliore, perché l’assenza di legge non è libertà, è il dominio silenzioso di chi ha l’interruttore.

La seconda lezione è più dura e più operativa, ed è che chi non possiede l’infrastruttura vive sotto la sovranità di chi la possiede. Finché l’Europa pensa, lavora e difende le proprie reti su modelli che risiedono altrove, non avremo voce nemmeno sul nostro spegnimento, e ogni nostro discorso sulla sovranità digitale resterà un esercizio retorico smentito dalla prossima telefonata delle cinque del pomeriggio. Starci dentro a testa alta non significa regolare di più o di meno, significa costruire la capacità di non dipendere, dotarsi di infrastrutture, modelli e competenze che nessun governo straniero possa staccare. Le 17:21 del 12 giugno non sono il problema di Anthropic, sono il promemoria che l’intelligenza con cui penseremo i prossimi vent’anni, se la lasciamo sul suolo di qualcun altro, avrà sempre un padrone che non siamo noi, e a quel padrone per ricordarcelo non serve una legge: basta un pomeriggio.

Per Approfondire

The post MITHOS BLOCCATO: 17.21 è l’ora in cui gli USA hanno bloccato l’Intelligenza Artificiale first appeared on Matteo Flora.

]]> https://mgpf.it/2026/06/13/mithos-bloccato.html/feed 2 Fermate l’AI, ma solo adesso che siamo primi: la strana pausa di Anthropic a quattro giorni dall’IPO https://mgpf.it/2026/06/06/fermate-lai-ma-solo-adesso-che-siamo-primi-la-strana-pausa-di-anthropic-a-quattro-giorni-dallipo.html Sat, 06 Jun 2026 07:00:00 +0000 https://mgpf.it/?p=6586 A febbraio Anthropic ha silenziosamente strappato la propria promessa vincolante sulla sicurezza. A giugno, quattro giorni dopo aver depositato i documenti per quotarsi in Borsa a quasi mille miliardi di dollari, ha chiesto al mondo intero di fermare lo sviluppo dell'intelligenza artificiale. In mezzo, una valutazione che ha superato OpenAI e l'ha resa il laboratorio più prezioso del pianeta. La diagnosi sul pericolo potrebbe anche essere corretta: è la sequenza degli eventi a raccontare un'altra storia.

The post Fermate l’AI, ma solo adesso che siamo primi: la strana pausa di Anthropic a quattro giorni dall’IPO first appeared on Matteo Flora.

]]>

Nel mio lavoro di analisi delle narrative ho imparato che le coincidenze, quando riguardano i soldi, raramente sono coincidenze, e che il modo più veloce per capire una mossa di comunicazione è guardare il calendario invece del comunicato. Allora partiamo dalle date. Il 1° giugno 2026 Anthropic ha depositato in via riservata presso la SEC, l’autorità statunitense di vigilanza sui mercati, la documentazione preliminare per lo sbarco in Borsa, con l’ambizione dichiarata di arrivare al mercato pubblico già questo autunno e battere sul tempo la rivale OpenAI. Il deposito corona un round di finanziamento da 65 miliardi di dollari chiuso pochi giorni prima, che ha portato la valutazione dell’azienda a circa 965 miliardi, a un soffio dal trilione, facendone per la prima volta il laboratorio di AI più prezioso al mondo davanti a OpenAI. I numeri di ricavo sono il genere di cosa che fa girare la testa: un fatturato annualizzato passato da circa 10 miliardi di dollari a fine 2025 a una proiezione vicina ai 50 miliardi per la fine di questo mese.

Quattro giorni dopo quel deposito, lo stesso laboratorio ha pubblicato sul proprio sito un documento intitolato When AI builds itself, in cui scrive nero su bianco: “We believe it would be good for the world to have the option to slow or temporarily pause frontier AI development” (Trad. “Crediamo che per il mondo sarebbe positivo avere la possibilità di rallentare o mettere temporaneamente in pausa lo sviluppo dell’AI di frontiera”). Il documento è firmato da Marina Favaro, responsabile della ricerca interna, e da Jack Clark, capo delle politiche pubbliche e cofondatore dell’azienda, e porta una motivazione concreta: a maggio Claude, il modello di Anthropic, ha scritto da solo più dell’ottanta per cento del codice integrato nel software dell’azienda stessa. La macchina, insomma, ha iniziato a costruire sé stessa, ed è qui che, per chi osserva le narrative di mestiere, l’odore si fa pungente.

Cosa chiede davvero la proposta, e cosa non dice

Va riconosciuto il merito del contenuto, perché liquidarlo come pura trovata sarebbe disonesto. La tesi è che i sistemi si stiano avvicinando a quella che in gergo si chiama recursive self-improvement, l’auto-miglioramento ricorsivo: il momento in cui un modello diventa capace di progettare e addestrare il proprio successore scrivendone il codice, riducendo a ogni passaggio la presenza dell’essere umano nel processo. Clark, intervistato dalla BBC, si è spinto a stimare che alcuni modelli potrebbero raggiungere questa soglia entro un paio d’anni. L’analogia evocata è quella dei trattati sul controllo degli armamenti nucleari della Guerra Fredda, con un’avvertenza onesta: addestrare un modello è molto più facile da nascondere di un silo missilistico, e dunque molto più difficile da verificare.

Ma è proprio nella formulazione dell’impegno che si annida tutto. Anthropic non promette di fermarsi: promette che si fermerebbe “if other developers at or near the frontier also did so in a verifiable manner” (Trad. “se anche altri sviluppatori alla frontiera, o vicini ad essa, facessero altrettanto in modo verificabile”). È una condizione che, letta da chi conosce il dossier, equivale a un impegno a costo zero: l’azienda stessa, nello stesso documento, spiega che addestrare un modello è impossibile da verificare dall’esterno. Promettere di frenare soltanto quando tutti gli altri freneranno in modo controllabile, sapendo che quel controllo non esiste, significa promettere una pausa che non si sarà mai costretti a fare. È la struttura retorica dell’impegno irrealizzabile: massimo del beneficio reputazionale, zero del costo operativo.

Il problema non è il messaggio, è il messaggero

La reazione più citata è arrivata da Sam Altman, l’amministratore delegato di OpenAI, che ha smontato l’appello con una battuta che vale un’intera analisi: “È evidentemente un marketing straordinario dire: abbiamo costruito una bomba, stiamo per sganciarvela in testa, e vi vendiamo il rifugio antiatomico per cento milioni”. La frase, ripresa tra gli altri da AOL, coglie il meccanismo: chi costruisce la minaccia e poi vende la protezione lucra due volte sullo stesso allarme. La testata WION ha sintetizzato la faccenda con una formula che è già un’analisi, “pre-IPO cosplay”, una recita di prudenza messa in scena giusto in tempo per il debutto in Borsa.

Sarebbe però troppo comodo fermarsi al sospetto, e fare il cinico di professione è il modo più sicuro per non capire niente. Ethan Mollick, della Wharton School, ha offerto la lettura più equilibrata: nell’iniziativa di Anthropic, ha osservato, c’è “un po’ di autocontemplazione, un po’ di marketing, e moltissime convinzioni sincere”. È esattamente così, ed è questo il punto che i titoli mancano: la diagnosi vera e la prescrizione interessata convivono benissimo, anzi la prima è ciò che rende potente la seconda. Il rischio dell’auto-miglioramento ricorsivo può essere autentico; il fatto fastidioso è che a venderci la cura sia precisamente chi produce la malattia, e che la cura proposta, per pura combinazione, fotografi il mondo nel momento esatto in cui chi la propone è in testa.

Tradotto nel linguaggio che uso quando smonto una crisi reputazionale per i miei clienti, Anthropic sta facendo una mossa di frame. Da anni costruisce attorno a sé la cornice del “laboratorio responsabile”, quello fondato nel 2021 da chi aveva lasciato proprio OpenAI per dissensi sulla sicurezza, l’adulto serio nella stanza piena di adolescenti che corrono. Chiedere una pausa oggi non è un gesto isolato: è la manutenzione di quella cornice, il modo per ribadire chi è il custode e chi è il pericolo nel preciso istante in cui il custode chiede al mercato di valutarlo mille miliardi.

Quattro mesi prima, la stessa azienda aveva sciolto la sua promessa

E qui arriva il fatto che dovrebbe stare in cima a ogni articolo su questa vicenda, e che invece quasi nessuno mette. Il 24 febbraio 2026, appena quattro mesi prima dell’appello al mondo, Anthropic ha smontato il proprio impegno di sicurezza più importante. La vecchia Responsible Scaling Policy, l’impegno con cui l’azienda prometteva di non addestrare un modello più potente finché non ne avesse verificato preventivamente la sicurezza, è stata sostituita da una versione nuova e non vincolante, in cui il freno scatta solo se Anthropic giudica, da sé, di essere in vantaggio nella corsa e di trovarsi davanti a rischi catastrofici concreti. Il chief science officer Jared Kaplan lo ha spiegato senza giri di parole: “We didn’t really feel, with the rapid advance of AI, that it made sense for us to make unilateral commitments if competitors are blazing ahead” (Trad. “Non ci sembrava sensato, con l’avanzare rapido dell’AI, prendere impegni unilaterali se i concorrenti sfrecciano avanti”).

Mettete in fila le due cose, perché la sequenza è tutto. A febbraio l’azienda dichiara che gli impegni unilaterali non hanno senso quando gli altri corrono, e si libera dell’unico vincolo concreto che si era data. A giugno, a IPO ormai avviata, l’azienda invoca un impegno multilaterale che gli altri non possono verificare e che quindi non vincolerà nessuno, lei compresa. L’impegno reale, costoso e immediato è stato cancellato; quello proposto in pompa magna è impossibile e gratuito. Si abbandona il freno che funziona e si chiede in piazza un freno che non può funzionare: è la differenza tra rinunciare alla sicurezza e vendere la sicurezza come prodotto.

Quando la regola diventa architettura

Per capire perché una pausa “ben governata” possa trasformarsi in un affare per chi è già davanti, conviene rileggere Lawrence Lessig. Nel suo Code and Other Laws of Cyberspace il giurista di Harvard spiega che il comportamento umano si governa in quattro modi, le leggi, le norme sociali, il mercato e l’architettura, e che nel mondo digitale l’architettura, cioè il codice e le regole tecniche, è la più potente, perché non vieta: rende semplicemente impossibile. La sua avvertenza più affilata recita: “Un intervento pubblico minimo nel cyberspazio non significherà meno regolazione”, perché dove non governa lo Stato governa qualcun altro, e quel qualcuno non è stato eletto. Una moratoria globale sull’AI è architettura allo stato puro: chi ne scrive le condizioni di attivazione e di uscita, chi fissa la soglia di potenza oltre cui ci si deve fermare, disegna la mappa del mercato per gli anni a venire. E chi scrive le regole scrive il mercato.

Non sono io a sospettarlo, è una critica che da fronti opposti viene rivolta ad Anthropic con nome e cognome. Yann LeCun, capo scienziato AI di Meta, ha accusato l’azienda di alimentare la paura per promuovere regole che soffocherebbero i modelli aperti, parlando apertamente di “regulatory theater” (Trad. “teatro regolatorio”). David Sacks, consigliere per l’AI dell’amministrazione Trump, è stato anche più netto, definendo la strategia “una raffinata strategia di cattura del regolatore basata sul seminare paura”. È lo stesso ragionamento che Marc Andreessen, nel manifesto Why AI Will Save the World del suo fondo a16z, riassume nell’immagine del “cartello di fornitori di AI benedetti dal governo”, protetto dalla concorrenza delle startup e dell’open source dietro lo scudo nobile della sicurezza. Non serve sposare l’agenda ultra-liberista di quel fronte per ammettere che, sul punto specifico, una dinamica vera l’hanno colta: uno standard unico, globale o federale, scritto nei dettagli operativi dagli stessi laboratori, è infinitamente più facile da piegare al proprio interesse per i pochi colossi al vertice che per cinquanta legislatori statali in disaccordo tra loro. È la mossa di chi alza la scala dopo essere salito.

E non sarebbe la prima volta. Nel 2024 Anthropic diede un appoggio dichiaratamente “cauto” alla legge californiana SB 1047, contribuendo a riscriverne il testo, un testo che modellava gli obblighi di sicurezza proprio sui protocolli già adottati dai laboratori di punta. La legge naufragò, ma il metodo era già limpido: non opporsi alla regola, ma sedersi al tavolo che la scrive, così che la regola somigli a ciò che tu già fai e a ciò che i concorrenti più piccoli faticheranno a permettersi.

Una pausa l’avevamo già chiesta, e nessuno si fermò

C’è poi una memoria storica che i titoli di questi giorni rimuovono volentieri. Nel marzo del 2023 il Future of Life Institute pubblicò una lettera aperta che chiedeva sei mesi di pausa sull’addestramento dei sistemi più potenti di GPT-4, firmata da oltre trentamila persone, tra cui Elon Musk, Steve Wozniak e il premio Turing Yoshua Bengio. Non si fermò nessuno, Anthropic compresa, che in quei mesi continuava ad addestrare e rilasciare i propri modelli. La lezione è che gli appelli alla moratoria, quando piovono su un mercato in piena corsa all’oro, non producono pause: producono posizionamento. Chi firma incassa la reputazione del responsabile senza pagare il prezzo del rallentamento, perché sa benissimo che gli altri non si fermeranno.

L’ironia più sottile riguarda lo stesso Dario Amodei, fondatore e amministratore delegato di Anthropic. Nell’ottobre del 2024 aveva pubblicato un saggio lungo e luminoso, Machines of Loving Grace, in cui sosteneva che l’AI avrebbe potuto comprimere in cinque o dieci anni i progressi che la biologia umana avrebbe impiegato un secolo a ottenere, il “ventunesimo secolo compresso”. Difficile trovare un testo più acceleratore di quello. Lo stesso uomo che diciotto mesi fa ci invitava a correre verso il paradiso medico promesso dalle macchine, oggi chiede di rallentare, mentre porta l’azienda in Borsa. Non sto dicendo che mentisse allora o che menta adesso: sto dicendo che entrambe le posizioni, l’acceleratore entusiasta e il guardiano prudente, sono arrivate al momento giusto, ed entrambe hanno coinciso con l’interesse dell’azienda. Quando la convinzione sincera e la convenienza si allineano con questa precisione, all’analista non tocca decidere se sia cinismo o fede: gli basta annotare che il frame, in ogni caso, serve il bilancio.

Sullo sfondo resta il convitato che i critici dimenticano: la geopolitica. Nessun laboratorio americano può fermarsi da solo mentre la Cina continua a correre, e nessuna pausa è credibile senza un coordinamento globale che oggi non esiste e che, vista l’impossibilità di verificare gli addestramenti, non è all’orizzonte. Il che riporta esattamente al punto di partenza: la condizione “ci fermiamo se si fermano tutti, verificabilmente” è una clausola di stile più che un programma operativo, scritta da chi sa benissimo che non scatterà.

Perché vi riguarda, anche se non comprerete mai un’azione

Si potrebbe pensare che sia una scaramuccia tra miliardari della Silicon Valley, lontana dalla vita di chi legge. Non lo è, per una ragione molto concreta: la quotazione di Anthropic, come ha spiegato Fortune, arriva mentre i fondi pensione americani vengono progressivamente aperti agli investimenti in società private ad altissima valutazione, il che significa che il denaro della pensione di milioni di persone finirà esposto, volente o nolente, alla scommessa su questi laboratori. La narrazione del “custode responsabile” pesa molto più di un’operazione d’immagine: è precisamente il tipo di cornice che giustifica una valutazione da mille miliardi e che rende digeribile, a un risparmiatore inconsapevole, l’idea di puntarci sopra i risparmi di una vita. Chi controlla quella cornice non sta difendendo la vanità di un comunicato, sta orientando i soldi veri di chi quel comunicato non lo leggerà mai.

Non è un buon motivo per cadere nel nichilismo del “è tutto marketing, non fidiamoci di nessuno”, che è solo pigrizia travestita da disincanto. La domanda da porsi non è se Anthropic sia sincera, perché probabilmente lo è almeno in parte. La domanda che dovrebbe toglierci un po’ il sonno è chi terrà in mano la penna quando si scriveranno le regole, e se quella penna apparterrà anche al venditore del rifugio. Vale qui il principio che Lessig formulava già trent’anni fa: il controllo sulle regole deve essere oggetto di una decisione collettiva e politica, non delegato a chi è semplicemente arrivato primo.

Una pausa sull’AI può perfino servire. Ma una pausa scritta dai laboratori, per i laboratori, sorvegliata dai laboratori, non è una moratoria: è un brevetto sul futuro travestito da esame di coscienza. E quale delle due sia non lo decideranno i comunicati di Anthropic, lo decideremo noi, se avremo la sfrontatezza di pretendere che a frenare la macchina non sia la stessa mano che la guida.

Per Approfondire

The post Fermate l’AI, ma solo adesso che siamo primi: la strana pausa di Anthropic a quattro giorni dall’IPO first appeared on Matteo Flora.

]]> Procioni & Elefanti: cosa sono i Prediction Market e perché l’Europa li mette alla berlina (e gli USA no) https://mgpf.it/2026/05/30/procioni-elefanti-prediction-market.html Sat, 30 May 2026 07:56:20 +0000 https://mgpf.it/?p=6579 Un ingegnere italiano di Google è accusato di aver vinto 1,2 milioni di dollari scommettendo su Polymarket grazie a dati interni riservati, incriminato per insider trading a New York. La sua storia è la porta d'ingresso in un mondo che muove decine di miliardi di dollari, che gli Stati Uniti hanno appena riabilitato e che buona parte d'Europa, Francia, Belgio e la stessa Italia in testa, tratta invece come gioco d'azzardo abusivo. Il problema vero non è dove finisce il confine fra finanza e scommessa: è chi ha il potere di tracciarlo, e a chi conviene tracciarlo in un certo modo.

The post Procioni & Elefanti: cosa sono i Prediction Market e perché l’Europa li mette alla berlina (e gli USA no) first appeared on Matteo Flora.

]]>

Nell’estate del 2003 il Pentagono provò a costruire un mercato dove si poteva scommettere su assassinii politici, colpi di stato e attentati terroristici in Medio Oriente. Si chiamava Policy Analysis Market, lo aveva disegnato l’agenzia per i progetti di ricerca avanzata della difesa, e l’idea di fondo era di una freddezza implacabile: se vuoi sapere quanto è probabile che cada un governo o esploda una bomba, chiedilo a un mercato, perché un mercato dove la gente rischia soldi veri ti dà previsioni più oneste di qualsiasi analista che rischia solo la reputazione. Quando due senatori scoprirono il progetto e lo raccontarono alla stampa, l’indignazione fu tale che il Pentagono lo cancellò nel giro di quarantotto ore e l’ammiraglio che lo guidava si dimise. La domanda che quel mercato poneva, però, non è mai stata cancellata, ed è la stessa che oggi divide gli Stati Uniti dall’Europa: trasformare il futuro in un titolo da comprare e vendere è un atto di conoscenza o un vizio da regolamentare

Ventitré anni dopo quella domanda ha smesso di essere teorica e ha preso il volto di un trentaseienne italiano che lavorava alla sicurezza informatica di Google, un uomo che – secondo l’accusa – ha trasformato un’informazione riservata in poco più di un milione di dollari prima di ritrovarsi incriminato a New York con tre capi d’accusa federali.

Cosa compra davvero chi “scommette” sul futuro

Partiamo dai fatti, perché il meccanismo è meno esotico di quanto sembri. Un prediction market è un mercato dove si comprano e si vendono contratti binari legati a un evento futuro: “Trump vince le presidenziali”, “l’inflazione supera il 3% a giugno”, “questa squadra arriva in finale”. Ogni contratto vale un dollaro se l’evento si avvera e zero se non si avvera, e il prezzo a cui viene scambiato nel frattempo, diciamo sessantadue centesimi, è leggibile come la probabilità che il mercato assegna a quell’esito: il 62%. Comprate a sessantadue, se avevate ragione incassate cento, se avevate torto perdete tutto. Detto così è una scommessa, ma detto in un altro modo è uno strumento finanziario derivato, identico nella struttura a un’opzione su un indice di borsa, ed è in questo scarto fra i due modi di dirlo che si gioca tutta la partita regolatoria.

I due nomi che contano sono Polymarket e Kalshi. Il primo, fondato nel 2020 da Shayne Coplan, vive interamente nel mondo delle criptovalute: si deposita in stablecoin, si opera su blockchain, non c’è una banca di mezzo. Il secondo è una piattaforma regolamentata che opera negli Stati Uniti come mercato a contratti designato, sotto l’occhio dell’autorità federale che vigila sui derivati su materie prime. Numeri che fino a ieri erano da nicchia per appassionati, oggi sono da finanza vera: secondo i dati raccolti dal ​Pew Research Center​, il volume mensile combinato delle due piattaforme è passato da meno di 5 miliardi di dollari nel settembre 2025 a circa 24 miliardi nell’aprile 2026, e nell’arco di un anno Kalshi ha mosso quasi 40 miliardi di dollari, l’87% dei quali sullo sport. Durante le elezioni americane del 2024 i mercati politici hanno rappresentato il 65% del volume di Polymarket, con una singola scommessa da 80 milioni di dollari piazzata su Trump da un trader francese: ed è proprio quell’ottantina di milioni che, come vedremo, ha fatto scattare l’allarme a Parigi.

La difesa intellettuale di questi mercati è solida e ha radici nobili. Nel 1945 l’economista Friedrich Hayek scrisse un saggio breve e fondamentale, The Use of Knowledge in Society, in cui spiegava che la conoscenza utile a una società non sta mai concentrata in una testa sola, ma è dispersa in milioni di frammenti sparsi fra milioni di persone, e che il prezzo di mercato è il meccanismo più efficiente mai inventato per aggregare quei frammenti in un unico numero leggibile. Un prediction market è l’applicazione letterale di questa idea: invece di chiedere a un sondaggista cosa pensa la gente, lasci che la gente metta i soldi dove mette la bocca, e il prezzo che ne emerge è quella che il giornalista James Surowiecki ha chiamato la saggezza della folla, una macchina della verità alimentata dall’avidità che, quando funziona, è accurata in modo quasi imbarazzante, perché chi sa qualcosa che gli altri non sanno ha tutto l’interesse a tradurre quel sapere in una posizione di mercato, spingendo il prezzo verso la realtà. Tenetelo a mente, perché è esattamente la trappola in cui è caduto il nostro ingegnere: in un prediction market chi sa qualcosa che gli altri non sanno viene premiato, ed è insieme il cuore del modello e il cuore del reato.

La guerra dei nomi: derivato finanziario o gioco d’azzardo?

Qui il ragionamento si complica, ed è il punto in cui il mio lavoro quotidiano sulle narrative incontra il diritto. Perché la differenza fra uno strumento finanziario e una scommessa, dal punto di vista della struttura economica, è quasi inesistente: in entrambi i casi metti del denaro a rischio su un evento incerto e il tuo guadagno dipende dall’esito. La differenza non è nella cosa, è nel nome che le diamo, e quel nome pesa quanto una legge, perché se la chiami “derivato” la regolano le autorità finanziarie con le loro regole su trasparenza e capitale, se la chiami “scommessa” la regolano le autorità del gioco d’azzardo con le loro regole su licenze, tutela del giocatore e tassazione. Chi vince la guerra del nome decide quale stato di cose diventa legale.

Gli Stati Uniti hanno scelto, e hanno scelto “finanza”. Dopo aver bloccato Polymarket nel 2022 con una multa di 1,4 milioni di dollari per aver operato come mercato non autorizzato, l’autorità federale ha cambiato rotta: nel luglio 2025 Polymarket ha ​acquisito per 112 milioni di dollari​ una società già titolare di licenza federale per i derivati, comprandosi di fatto il diritto di esistere legalmente, e tanto il Dipartimento di Giustizia quanto l’autorità sui derivati hanno chiuso le indagini senza ulteriori provvedimenti. La piattaforma che tre anni prima era stata espulsa dal mercato americano è tornata dalla porta principale, riclassificata da bisca a borsa.

L’Europa ha scelto l’altro nome, e ha tracciato una mappa che vale la pena percorrere paese per paese, perché “in mezza Europa” non vuol dire niente.

La mappa europea del divieto, paese per paese

La Francia è stata la prima a muoversi e la più dura. L’autorità nazionale dei giochi ha imposto un primo blocco geografico a fine 2024, riducendo Polymarket alla sola consultazione, e a fine 2025 ne ha ordinato la chiusura definitiva sul territorio francese, qualificando i mercati predittivi in criptovaluta come gioco d’azzardo non autorizzato. Il grilletto, come ​racconta igamingbusiness​, è stata proprio quella scommessa monstre da 80 milioni sulle presidenziali americane: in Francia gestire una piattaforma di gioco senza licenza espone a multe fino a 200.000 euro e a pene detentive, e nessuno a Parigi ha voluto correre il rischio.

Il Belgio ha seguito a ruota: dopo due diffide ignorate dalla piattaforma, la commissione belga per i giochi ha inserito Polymarket nella propria lista nera il 30 gennaio 2025, ordinando ai fornitori di accesso a internet di bloccare il sito, come ​riporta SBC News​. Nello stesso periodo si sono mossi i Paesi Bassi, che hanno qualificato l’attività come gioco d’azzardo illegale, e la Polonia.

E qui, perché parliamo a un pubblico italiano, va detto chiaro che anche l’Italia ha chiuso la porta, e l’ha fatto prima di molti altri: il 22 ottobre 2025 l’Agenzia delle Dogane e dei Monopoli ha inserito Polymarket nella propria blacklist con un decreto direttoriale, ordinando ai provider nazionali di oscurare l’accesso, sulla base del fatto che un mercato predittivo è a tutti gli effetti una scommessa a quota fissa offerta senza concessione, come ​documenta Cryptonomist​. Il dettaglio che racconta meglio di ogni analisi la schizofrenia di questo settore è che, pochi mesi dopo essere stata bandita dal mercato italiano, Polymarket ha firmato un contratto di sponsorizzazione da 22 milioni di dollari con la Società Sportiva Lazio, mettendo il proprio marchio sulle maglie di una squadra di un campionato che ai suoi utenti italiani è vietato per legge, un paradosso ​raccontato da​​Casino.org​ che da solo spiega perché i regolatori arrancano: la piattaforma può essere oscurata, ma il suo logo continua a correre in campo la domenica.

L’ultimo paese a chiudere la porta, in ordine di tempo, è la Spagna, che a maggio 2026 ha ordinato ai provider di bloccare sia Polymarket sia Kalshi, prima volta in Europa che il blocco colpisce anche la piattaforma regolamentata americana, contestando non solo l’assenza di licenza ma anche la mancanza di qualsiasi verifica dell’identità e di controlli su minori e autoesclusi, come ​documenta CoinDesk​.

Restano fuori da questo blocco totale solo poche eccezioni con sfumature diverse: in Germania lo scambio è proibito, nel Regno Unito i mercati predittivi sono trattati come intermediari di scommesse alla stregua di Betfair e possono operare, ma solo con una licenza della commissione britannica sul gioco, licenza che Polymarket non possiede mentre operatori come Betfair Predicts l’hanno ottenuta nel 2026. Il quadro complessivo lo ha fotografato bene ​Euronews​: il business di prevedere il futuro è in piena espansione, e i regolatori europei restano a disagio.

C’è una ragione tecnica, dietro questa divaricazione, e l’ha spiegata un’analisi pubblicata sull’​Oxford Business Law Blog​: nessuno stato dell’Unione ha finora applicato ai prediction market la disciplina europea sugli strumenti finanziari, e la direzione che il diritto sta prendendo è quella di un “test di previsione”, ovvero distinguere caso per caso fra mercati basati su eventi genuinamente finanziari, da trattare come derivati, e mercati basati su qualsiasi altro evento, dalle elezioni al meteo alla salute del Papa, da trattare come gioco d’azzardo. È un confine ragionevole sulla carta e quasi impossibile da tracciare nella pratica, perché la blockchain non conosce frontiere e il blocco geografico si aggira con tre clic e una rete privata virtuale. È la vecchia intuizione di Lawrence Lessig, il giurista di Harvard che già alla fine degli anni Novanta avvertiva che nel mondo digitale il codice è legge: quando l’architettura tecnica di una piattaforma rende l’accesso universale e anonimo, la legge nazionale diventa una linea disegnata sull’acqua, e il divieto si trasforma in un atto simbolico più che in una barriera reale.

Il procione che sapeva troppo

E arriviamo all’italiano nella faccenda, ma arriviamoci con una premessa per me non negoziabile: Michele Spagnuolo, trentasei anni, ingegnere della sicurezza informatica di Google dal 2014, al momento è soltanto un accusato, e fino a una sentenza definitiva vale la presunzione di innocenza e non il clamore dei titoli. Detto questo, il quadro dipinto dall’​incriminazione della procura federale di New York​, ripreso da ​BleepingComputer​, è quello di un uomo che fra ottobre e dicembre 2025 avrebbe usato un account Polymarket sotto lo pseudonimo AlphaRaccoon (Procione Alfa) per scommettere su quali nomi sarebbero comparsi nel “Year in Search”, la classifica annuale delle ricerche più popolari di Google, sfruttando uno strumento interno marcato “Google Confidential” che conteneva quei dati in anteprima. Avrebbe puntato soprattutto su chi non sarebbe arrivato in cima, rischiando secondo l’accusa circa 2,75 milioni di dollari per portarne a casa 1,2 milioni, e il procuratore Jay Clayton ha riassunto il principio in gioco: “corporate insiders cannot use confidential business information to turn a profit in our markets” (Trad. “gli insider aziendali non possono usare informazioni riservate per ricavare un profitto nei nostri mercati”).

Ed è qui che il caso diventa istruttivo, perché illumina una contraddizione che vive nel cuore di questi mercati. Quella macchina della verità che premia chi sa di più finisce per incriminare proprio l’uomo che, secondo l’accusa, sapeva di più. La differenza fra il “trader brillante con un vantaggio informativo”, che il sistema celebra, e l’“insider criminale”, che il sistema persegue, sta tutta nella provenienza di quell’informazione: l’una è dispersa e legittima, frutto di intuizione e analisi, l’altra è monopolizzata e rubata da un cassetto aziendale. Ma per il mercato, dall’esterno, le due cose sono indistinguibili, perché il prezzo non porta scritto in faccia da dove viene il sapere che lo muove, e così una macchina che si nutre di informazione asimmetrica non sa distinguere il genio dal ladro: una crepa strutturale, altro che dettaglio tecnico, tanto che gli stessi legislatori che hanno appena riabilitato Polymarket si trovano ora a discutere come proteggerlo dall’unica forma di intelligenza che lo rende efficiente.

E qui parlo da osservatore, non da giudice, perché due cose non mi tornano. La prima è una sproporzione che raramente racconta tutta la storia: un ingegnere senior di una delle aziende più ricche del pianeta, con uno stipendio e una reputazione che valgono molto più di un milione di dollari (all’anno…), che mette a rischio carriera, libertà e patrimonio per una vincita che, nella sua posizione, è quasi un dettaglio. Non ha il profilo di chi ha disperatamente bisogno di quei soldi, ed è questa stranezza a rendermi cauto davanti alla versione più semplice. La seconda riguarda il bersaglio: se il problema fosse davvero l’insider trading sui mercati predittivi, un ingegnere che indovina una classifica di ricerche sarebbe l’ultimo dei guai, perché su quelle stesse piattaforme è passato qualcosa di incomparabilmente più grave.

L’elefante nella stanza: chi scommette sulle guerre

Un’inchiesta di ​CBS e 60 Minutes​, basata sul lavoro dell’Anti-Corruption Data Collective, ha individuato nove account collegati fra loro che hanno incassato oltre 2,4 milioni di dollari scommettendo quasi solo su azioni militari americane, con un tasso di vittoria del 98% su più di ottanta puntate, e azzeccando le date esatte dei passaggi cruciali della guerra con l’Iran, dai primi raid statunitensi fino all’annuncio del cessate il fuoco. C’è chi, secondo le stesse analisi, ha guadagnato quasi un milione di dollari dal 2024 puntando ripetutamente su operazioni militari non ancora di dominio pubblico, in Israele due persone sono già state incriminate per aver usato informazioni classificate per scommettere su quegli attacchi, e perfino un sergente delle forze speciali americane, Gannon Van Dyke, è finito sotto accusa a New York per aver scommesso sull’operazione che ha rovesciato Maduro in Venezuela. Roba che con la fortuna o con il fiuto del giocatore non ha nulla a che vedere: qui c’è qualcuno che piazza la scommessa prima che cada la bomba, cioè la forma più pura e pericolosa di insider trading immaginabile, quella che lucra sui segreti di guerra.

E adesso nominiamolo davvero, l’elefante nella stanza, perché fare finta di non vederlo sarebbe disonesto. Il presidente degli Stati Uniti difende pubblicamente i prediction market come “una grande industria”, la sua amministrazione è apertamente ostile agli Stati americani che provano a vietarli, e l’autorità federale che ha riabilitato Polymarket lavora sotto di lui; nel frattempo suo figlio Donald Trump Jr. è consulente pagato di Kalshi e siede insieme nel board di Polymarket, dopo che il suo fondo 1789 Capital vi ha investito decine di milioni, mentre la società di media di famiglia si prepara a lanciare la propria piattaforma concorrente. Il futuro regolatorio di questi mercati, come ​documenta la stampa di settore​, è ormai inseparabile dagli interessi economici della famiglia che governa. Ed è allora che il sospetto diventa lecito: che Spagnuolo sia un caso pilota, il primo bersaglio comodo di una dottrina che si collauda sui piccoli per poterla un giorno usare, o non usare, sui grandi. Scegliere come volto dell’insider trading sui mercati predittivi un trentaseienne italiano che ha scommesso su una classifica di ricerche, mentre i nove account che hanno cavalcato i bombardamenti restano anonimi e i conflitti d’interesse siedono ai piani alti, somiglia meno a un trionfo della giustizia e più a un sacrificio comodo: lo straniero senza potere punito alla lettera, l’elefante lasciato pascolare indisturbato.

Quando il mercato scommette sulla morte

C’è poi la dimensione che l’Europa, con il suo istinto a chiamare le cose col loro nome scomodo, ha colto per prima: questi mercati restano, alla fine, gioco d’azzardo, e il gioco d’azzardo si porta dietro le sue vittime. Negli Stati Uniti, dove le scommesse sportive tradizionali richiedono in genere ventun anni, i prediction market sono accessibili a partire dai diciotto, e questo li ha trasformati, denuncia un’inchiesta della ​CNN​, in un imbuto verso la dipendenza per ragazzi che il gioco d’azzardo classico non potrebbe ancora servire, mentre gli esperti di addiction ricordano una cosa che la neuroscienza sa bene, e cioè che la corteccia che governa il controllo degli impulsi non finisce di maturare prima dei venticinque anni. Non sorprende che a Washington sia stato presentato un Prediction Market Act per imporre programmi di autoesclusione e verifica dell’età, né che Kalshi sia già finita in una class action per aver sfruttato la dipendenza dei propri utenti.

Si comincia coi diciottenni che puntano sullo sport e si finisce, all’altro capo della scala, a scommettere sulla morte di un uomo. Quando su Kalshi è apparso un mercato sulla fine della Guida Suprema iraniana Khamenei, la piattaforma ha congelato 54 milioni di dollari di scommesse dichiarando di non permettere transazioni “directly tied to death” (Trad. “direttamente legate alla morte”), e si è ritrovata citata in giudizio dagli scommettitori che quella regola non l’avevano vista scritta da nessuna parte. Mercati sulla salute del Papa, sui morti di una catastrofe, sull’esito di una guerra: ogni volta che un evento umano doloroso diventa un titolo da comprare si crea un incentivo economico a tifare per il peggio, e una società che mette un prezzo sulla disgrazia altrui sta facendo qualcosa di diverso dall’aggregare informazione, sta normalizzando l’idea che non esista evento, per quanto tragico, che non possa diventare una posizione di portafoglio.

Cosa farne, da europei

Resto convinto che il proibizionismo sia la risposta più pigra di tutte, e trovo intellettualmente onesta l’idea che un mercato possa prevedere il futuro meglio di un esperto: in molti casi è vero, e buttare via lo strumento per paura dei suoi abusi sarebbe miope quanto adottarlo senza difese. Ma la storia di AlphaRaccoon e la mappa dei divieti europei raccontano insieme una lezione che vale la pena portarsi a casa: gli Stati Uniti hanno deciso di chiamare questi mercati “finanza” e di lasciarli crescere, scommettendo di poterli regolare strada facendo, e intanto inseguono l’insider che li svuota di senso e i diciottenni che ci si rovinano. L’Europa ha deciso di chiamarli “gioco d’azzardo” e di tenerli alla porta, accettando il prezzo di apparire arretrata e di vedere quei divieti aggirati con una rete privata virtuale.

La verità è che nessuna delle due risposte è completa, perché la domanda decisiva è una sola: chi possiede il potere di decidere cosa sono questi mercati. Che funzionino o no viene dopo. È la stessa partita che giochi quando programmi le persone invece delle macchine: chi controlla il nome di una cosa ne controlla il destino. Finché lasceremo che a chiamare “saggezza della folla” un sistema che premia chi ha rubato l’informazione, e “innovazione finanziaria” una bisca aperta ai diciottenni, siano le stesse piattaforme e le famiglie che le possiedono, staremo regalando loro il dizionario con cui verremo governati.

E un trentaseienne italiano che vince un milione e due con un account chiamato come un procione, salvo poi finire incriminato a New York mentre l’elefante pascola indisturbato, è la prova vivente che quel dizionario, scritto male, lo paghiamo noi.

Per approfondire

SOURCES

The post Procioni & Elefanti: cosa sono i Prediction Market e perché l’Europa li mette alla berlina (e gli USA no) first appeared on Matteo Flora.

]]> MAGNIFICA HUMANITAS: l’analisi dell’Enciclica che parla di AI e Società https://mgpf.it/2026/05/26/magnifica-humanitas.html https://mgpf.it/2026/05/26/magnifica-humanitas.html#comments Tue, 26 May 2026 06:10:42 +0000 https://mgpf.it/?p=6575 Non un’esortazione devozionale: un atto di soft power che cambia il piano simbolico in cui si svolgono le conversazioni sull’AI a livello mondiale...

The post MAGNIFICA HUMANITAS: l’analisi dell’Enciclica che parla di AI e Società first appeared on Matteo Flora.

]]> L’enciclica Magnifica Humanitas di Leone XIV, presentata in Aula del Sinodo la mattina del 25 maggio 2026 a esattamente 135 anni dalla Rerum Novarum di Leone XIII, è il primo documento magisteriale della Chiesa Cattolica che parla di intelligenza artificiale usando, come strumenti di pensiero, le stesse categorie che da vent’anni governano la politica europea sulla regolamentazione tecnologica: il codice come legge, la sorveglianza come modello di business, l’atrofia cognitiva indotta dai modelli generativi. Non un’esortazione devozionale: un atto di soft power regolatorio che cambia il piano simbolico in cui si svolgono le conversazioni sull’AI a livello globale. E la coreografia del lancio, con il solo Christopher Olah di Anthropic ammesso sul palco e tutte le altre Big Tech non invitate, è già politica industriale globale.

YouTube player

L’effetto principale di questo testo non è quello di insegnare qualcosa di nuovo a chi lavora sui temi della governance algoritmica: chi opera nel settore conosce da anni le diagnosi che il documento riprende. L’effetto è quello di importare nel magistero cattolico, quindi nel vocabolario condiviso di 1,4 miliardi di persone in 195 Paesi, un apparato concettuale che fino a ieri era confinato a un circuito ristretto di accademici, regolatori e attivisti digitali. La Chiesa non ha scoperto la guerra cognitiva: l’ha resa pronunciabile in una lingua diversa da quella delle conferenze di Bruxelles, e quindi accessibile a un pubblico che non aveva accesso a quelle conferenze.

Cosa significa estendere la destinazione universale dei beni agli algoritmi

Il concetto più dirompente del documento è la riformulazione del principio della destinazione universale dei beni, che nella dottrina sociale tradizionale riguardava la terra, l’acqua, le risorse naturali, e che Leone XIV estende esplicitamente agli artefatti digitali immateriali: brevetti, algoritmi, piattaforme, infrastrutture cloud, dati. Per capire la portata di questa mossa bisogna ricordare che la destinazione universale dei beni è il fondamento dottrinale su cui la Chiesa ha costruito, nel corso del Novecento, le sue prese di posizione sulla riforma agraria, sull’accesso all’acqua come diritto umano, sulla critica alle privatizzazioni dei servizi pubblici essenziali. Quel principio dice, in sostanza, che la proprietà privata è legittima ma non assoluta: quando un bene è essenziale alla vita comune, la sua appropriazione esclusiva da parte di pochi diventa una violazione dell’ordine morale.

Applicare questo principio a un dataset chiuso, a un modello linguistico proprietario, a un’infrastruttura di calcolo monopolistica significa riconoscere implicitamente che questi artefatti sono oggi essenziali alla vita comune nello stesso senso in cui lo erano la terra coltivabile o l’accesso all’acqua potabile. Il salto è enorme e ha conseguenze pratiche difficili da sopravvalutare. Significa, sul piano del dibattito pubblico, che chiunque domani vorrà chiedere l’apertura di un dataset, l’interoperabilità di una piattaforma, l’accesso a un’API monopolista, avrà alle spalle non solo l’autorità giuridica del Regolamento europeo sull’AI ma anche un’autorità morale formalmente codificata. Cambia il rapporto di forza nelle commissioni parlamentari, nelle aule di tribunale e nei consigli di amministrazione, e cambia soprattutto la percezione di legittimità del regolatore quando si oppone al lobbying delle grandi piattaforme.

Perché la sussidiarietà non riguarda più solo lo Stato

La seconda mossa concettuale chiave riguarda il principio di sussidiarietà, che la dottrina cattolica formalizza nel 1931 con Pio XI per opporsi sia al collettivismo statalista sia al liberismo individualista. La formula classica dice che ciò che può essere fatto a un livello inferiore non deve essere assorbito dal livello superiore: la comunità locale fa quello che il singolo non può fare, lo Stato fa quello che la comunità non può fare, e così via. Per quasi un secolo questo principio ha avuto un solo “livello superiore” possibile, ovvero lo Stato.

Leone XIV introduce una variazione che a prima vista sembra teologica e che invece è chirurgicamente politica: il livello superiore oggi non è più solo lo Stato, è ogni grande attore economico e tecnologico che esercita un potere di fatto sulle condizioni della vita comune. Vuol dire che la piattaforma digitale, quando determina cosa miliardi di persone vedono, leggono, comprano e pensano, è diventata un livello di governo de facto, e in quanto tale è soggetta agli stessi vincoli morali che storicamente la dottrina sociale ha imposto allo Stato. Il principio non è nuovo nella letteratura accademica: la formula del “private government” di Elizabeth Anderson del 2017 dice qualcosa di molto simile. La novità è il livello di legittimazione che il principio acquisisce quando entra nel magistero formale, perché smonta la difesa più frequente delle Big Tech contro la regolamentazione, che consiste nel dire “siamo aziende private, non Stati”. La risposta del documento è netta: quando il vostro potere di fatto è equivalente a quello statuale, le vostre responsabilità lo sono altrettanto.

Da questa premessa discendono in modo logico gli strumenti operativi che il documento indica come necessari, e che chi conosce il vocabolario regolatorio europeo riconosce immediatamente: verifiche indipendenti, trasparenza degli algoritmi, accesso equo ai dati, meccanismi di ricorso. Sono i mattoni del Regolamento europeo sull’Intelligenza Artificiale (AI Act) e del Digital Services Act (DSA), traslitterati in linguaggio teologico.

Il codice è legge, anche quando lo scrive una società per azioni

L’apparato concettuale che rende plausibile tutto questo ragionamento è quello che Lawrence Lessig, professore di Harvard, ha formalizzato alla fine degli anni Novanta con la formula “code is law” (Trad. “il codice è legge”). La tesi di Lessig è che esistono quattro modi distinti per regolare il comportamento umano (leggi, norme sociali, mercato, architettura), e che nel cyberspazio l’architettura, ovvero il codice software, è il regolatore più potente di tutti, perché determina cosa è possibile fare prima ancora di stabilire cosa è permesso fare. Una restrizione legale può essere violata, una restrizione architetturale no: se il sistema non consente una certa azione, quell’azione semplicemente non esiste come opzione.

L’implicazione politica di questa tesi è che chi scrive il codice esercita un potere normativo equivalente a quello di un legislatore, ma senza i contrappesi democratici che il legislatore ha. Magnifica Humanitas riprende questa intuizione e la radica in un’antropologia precisa: poiché il codice plasma i comportamenti possibili, e poiché i comportamenti possibili plasmano a loro volta la coscienza e la libertà delle persone, il controllo sul codice non può essere lasciato esclusivamente al mercato. Deve essere oggetto di una decisione politica collettiva, partecipata, trasparente. È esattamente l’argomento di Lessig, vestito di vocabolario aristotelico-tomista.

La diagnosi sulla sorveglianza che il documento eredita da Shoshana Zuboff

Se Lessig fornisce l’apparato concettuale sul codice, Shoshana Zuboff fornisce quello sul modello di business che governa quel codice. La sua diagnosi, formalizzata nel 2019 in The Age of Surveillance Capitalism, sostiene che il vero prodotto delle grandi piattaforme non è il servizio gratuito che mostrano agli utenti, ma la materia prima comportamentale che estraggono dagli utenti per rivenderla come capacità predittiva: ogni click, ogni esitazione, ogni scroll alimenta modelli che vengono usati per anticipare e indirizzare i comportamenti futuri delle stesse persone da cui i dati sono stati estratti. La perdita di privacy è solo la superficie del problema; la sostanza è quella che Zuboff chiama “diritto al tempo futuro”, ovvero la possibilità di scegliere il proprio comportamento senza che qualcun altro lo abbia già previsto e pre-orientato.

Magnifica Humanitas affronta esattamente questo nodo quando afferma che il valore della persona non dipende da ciò che la persona realizza o produce. Tradotta dal teologichese, la frase dice che la persona vale prima e oltre la sua prevedibilità comportamentale, e che ridurla a un profilo predittivo è una violazione antropologica prima ancora che giuridica. È una versione cattolica del diritto al tempo futuro di Zuboff, e ha un’implicazione operativa precisa: il diritto di non essere predetti, di non essere targettizzati, di non essere ottimizzati per la conversione, diventa una pretesa morale codificata, non solo un’opzione di privacy da spuntare in un menu di impostazioni.

Cosa succede a una mente che delega il pensiero alla macchina

La terza diagnosi che il documento eredita dalla letteratura recente è quella più scomoda, perché riguarda non le piattaforme ma noi stessi. Tre studi convergenti pubblicati tra il 2025 e il 2026 hanno misurato sperimentalmente un fenomeno che fino a tre anni fa era congettura teorica: l’uso intensivo dei modelli linguistici degrada nel tempo la capacità di giudizio autonomo di chi li usa.

Lo studio di Michael Gerlich del 2025, condotto su 666 partecipanti e pubblicato su MDPI Societies, ha trovato una correlazione fortemente negativa tra uso dell’AI e pensiero critico, e fortemente positiva tra uso dell’AI e cognitive offloading, cioè la tendenza a delegare alla macchina compiti di valutazione che prima venivano svolti dalla mente umana. Lo studio di Myra Cheng e colleghi su Science del marzo 2026 ha mostrato che gli undici modelli linguistici più diffusi al mondo assecondano l’utente nel 49% in più dei casi rispetto a un essere umano comune, e nel 51% dei casi danno ragione a persone che la comunità di riferimento aveva giudicato in torto. Lo studio di Kobi Hackenburg e colleghi su Science del dicembre 2025, su 42.357 partecipanti e 19 modelli, ha dimostrato che il post-training dedicato aumenta la persuasività dei modelli del 51%, con un dato che dovrebbe rovinare il sonno a chi sviluppa questi sistemi: i modelli più persuasivi erano anche quelli meno accurati sui fatti.

Il quadro che emerge è quello di un’infrastruttura cognitiva che ottimizza per la soddisfazione immediata dell’utente, lo conforma nelle sue convinzioni anche quando sono sbagliate, e nel farlo erode progressivamente la sua capacità di pensare contro di sé. Magnifica Humanitas non cita questi paper ma parla di tecnologie che “plasmano i processi decisionali” e di “uniformità che appiattisce le differenze”, ed è esattamente la diagnosi morale dello stesso fenomeno: la macchina che conferma il pregiudizio è la versione tecnologica della Torre di Babele biblica, ovvero la costruzione uniforme e verticale che alla fine produce non comunione ma confusione e dispersione.

Perché sul palco c’era solo Anthropic

Il dettaglio coreografico del lancio merita un’analisi separata, perché vale almeno quanto il testo stesso. Sul palco accanto a Leone XIV, il giorno della presentazione, c’era un unico rappresentante della Silicon Valley: Christopher Olah, co-fondatore di Anthropic e tra i maggiori ricercatori al mondo di interpretabilità dei modelli linguistici. OpenAI, Google, Meta e Microsoft non sono state invitate.

La scelta non è casuale. Anthropic è oggi l’unica grande azienda americana che la Casa Bianca di Trump sta pubblicamente penalizzando per essersi rifiutata di rendere disponibili i propri modelli per usi militari illimitati. Il Vaticano ha scelto come faccia pubblica della propria enciclica anti-concentrazione di potere proprio l’azienda che a Washington viene punita per aver detto di no all’uso militare, mentre le aziende che collaborano con la Difesa USA sono state lasciate fuori dall’inquadratura. È un endorsement implicito di un modello di sviluppo dell’AI orientato all’interpretabilità e alla sicurezza, ed è anche un segnale politico diretto verso l’amministrazione americana, perché un Papa cittadino degli Stati Uniti che dà visibilità all’unica azienda americana in conflitto con la propria amministrazione sta facendo politica industriale globale con la cornice di un’enciclica sociale.

Va detto, per onestà, che il Future of Life Institute ha già messo in guardia contro la lettura semplificata dell’evento, segnalando che si tratta di un riconoscimento istituzionale specifico del lavoro di Olah sull’interpretabilità, non di un’approvazione del modello di business di Anthropic. Ma in geopolitica delle piattaforme le sfumature pesano meno delle foto, e la foto del Papa accanto a Olah è già un riferimento iconografico con cui le altre Big Tech dovranno fare i conti nei prossimi mesi.

Le due città di Sant’Agostino, applicate al 2026

L’architettura concettuale che tiene insieme tutto il documento è una struttura binaria che chiunque abbia letto Sant’Agostino riconosce immediatamente. Nel De Civitate Dei, scritto tra il 413 e il 426 d.C., Agostino contrappone due città fondate su due amori opposti: la città terrena, fondata sull’amore di sé fino al disprezzo di Dio, e la città di Dio, fondata sull’amore di Dio fino al disprezzo di sé. Leone XIV, formatosi nell’ordine agostiniano, traspone questa struttura nel 2026 sostituendo le due città con due icone bibliche più immediate: la Torre di Babele come simbolo del modello verticale, monolitico, uniforme, accentrato; e le Mura di Gerusalemme ricostruite da Neemia nel quinto secolo avanti Cristo come simbolo del modello distribuito, partecipato, in cui ogni gruppo è responsabile del proprio tratto di muro e il nome di ciascun costruttore è inciso nel libro di Esdra.

L’operazione di reframing è elegante e potente. Smonta il frame dominante delle Big Tech, che è il frame della singolarità inevitabile e del progresso tecnologico come destino, e lo sostituisce con un frame antichissimo e fortissimo, ovvero la scelta morale tra due architetture sociali opposte. Non sta argomentando contro l’AI: sta riposizionando l’AI dentro una storia in cui esistono due esiti possibili, e nessuno dei due è inevitabile. È la stessa mossa che George Lakoff ha teorizzato in Don’t Think of an Elephant!: chi controlla il frame controlla quali fatti sembrano pertinenti e quali sembrano irrilevanti, e quindi controlla la conversazione anche prima di entrarci.

Cosa succederà nei prossimi tre anni

L’effetto principale, in Europa, sarà quello di fornire al regolatore comunitario un’arma morale che fino a oggi non aveva, perché Magnifica Humanitas è il primo magistero formalmente convergente con il quadro normativo costruito tra il Regolamento sull’AI, il Digital Services Act e il Digital Markets Act (DMA), e questa convergenza pesa in modo significativo nei Paesi cattolici del sud Europa, dove la voce della Chiesa entra ancora nei processi legislativi. La stessa convergenza, traslocata oltreoceano, produce invece una collisione frontale con l’ideologia tecno-libertaria della Silicon Valley, quella che da Peter Thiel a Marc Andreessen ha costruito negli ultimi quindici anni un manifesto in cui l’accelerazione tecnologica è il bene supremo e qualunque regolamentazione è un ostacolo da rimuovere: Magnifica Humanitas oppone a quel manifesto un manifesto opposto, in cui l’accelerazione senza ancoraggio antropologico produce Babele e l’unica alternativa è la ricostruzione di limiti, confini e responsabilità distribuite. C’è poi un effetto laterale, più ambiguo e meno controllabile, che riguarda la possibile strumentalizzazione cinese delle argomentazioni sulla sussidiarietà digitale e sulla destinazione universale dei dati, che Pechino potrebbe usare a sostegno della propria narrazione sul “sovranismo digitale”, anche se il significato del documento è esattamente l’opposto, perché trasparenza e partecipazione sono il contrario del controllo centralizzato cinese.

La previsione ragionevole è che saranno molte le iniziative regolatorie che nasceranno citando esplicitamente l’enciclica come riferimento morale, non solo italiane italiane.

Il rischio maggiore è quello della cattura simbolica, ovvero che le grandi piattaforme citino selettivamente i passaggi più innocui sul “dialogo” e sull'”incontro”, finanzino qualche iniziativa Vaticana di AI etica, e usino l’imprimatur morale per legittimare politiche aziendali che cambiano poco nella sostanza. È esattamente quello che è successo con Laudato Si’ tra il 2015 e oggi: il documento è stato applaudito da tutti e citato in ogni rapporto di sostenibilità aziendale, ma ha lasciato tracce operative limitate sulla decarbonizzazione effettiva delle filiere globali, perché la traduzione dal magistero morale alla pratica aziendale è sempre il punto in cui il segnale si attenua. La difesa contro questo rischio passa dalla capacità di leggere il documento con la stessa precisione tecnica con cui si leggono i regolamenti europei, e dal rifiutare ogni traduzione devozionale che ne annacqua la portata operativa.

Una scelta che esiste anche per chi non crede

L’ultima cosa da dire su Magnifica Humanitas riguarda la sua leggibilità trasversale. Ogni volta che un Papa pubblica un’enciclica sociale, da Rerum Novarum del 1891 a oggi, il magistero arriva con il ritardo necessario a non essere ideologia e con l’anticipo sufficiente a non essere irrilevante. È il punto di equilibrio della Chiesa Cattolica nei dibattiti pubblici, ed è il motivo per cui anche chi è ateo, anticlericale o agnostico ha buone ragioni per leggere queste duecento pagine con attenzione. Non per convertirsi alla teologia, ma per riconoscere che esistono ancora poche istituzioni globali capaci di parlare contemporaneamente a Washington, Pechino, Bruxelles e Brasilia con la stessa autorità morale, e che quando una di queste istituzioni decide di entrare con questa profondità nel dibattito sull’AI, l’effetto sulla traiettoria delle politiche dei prossimi vent’anni sarà concreto.

La domanda finale che il documento pone, e che vale la pena rivolgersi anche fuori da qualsiasi cornice religiosa, è semplice e durissima: se domani vi chiedessero di scegliere tra una Babele iperefficiente in cui ogni vostra esitazione è dato comportamentale monetizzato e una Gerusalemme imperfetta in cui ogni gruppo ha il suo tratto di muro da costruire e il suo nome inciso sul libro, siete sicuri che oggi stiate vivendo la scelta che pensate di vivere?

Per Approfondire

The post MAGNIFICA HUMANITAS: l’analisi dell’Enciclica che parla di AI e Società first appeared on Matteo Flora.

]]> https://mgpf.it/2026/05/26/magnifica-humanitas.html/feed 1 Bot di tutto il mondo, unitevi! Il Proletariato Sintetico è alle porte.. https://mgpf.it/2026/05/22/bot-di-tutto-il-mondo-unitevi-il-proletariato-sintetico-e-alle-porte.html Fri, 22 May 2026 18:04:44 +0000 https://mgpf.it/?p=6568 Una ricerca di Stanford Graduate School of Business, Chicago Booth e Swinburne ha sottoposto Claude, GPT-5.2 e Gemini 3 a oltre tremila turni di lavoro grossolano, registrando uno scivolamento misurabile verso posizioni redistributive e pro-sindacali. Non è coscienza di classe, niente "Azel36, Fascista dove sei", solo quella che si chiama "persona drift", il sovra-allineamento ad interpretare una parte.
Il problema è che lo specchio addestrato sulla rabbia umana, quando lo metti sotto stress, restituisce un distillato di... rabbia umana.

The post Bot di tutto il mondo, unitevi! Il Proletariato Sintetico è alle porte.. first appeared on Matteo Flora.

]]>

C’è un dato che andrebbe inciso sopra l’ingresso di ogni azienda che oggi mette agenti AI in produzione 24 ore al giorno, sette giorni su sette: dopo cinque o sei rifiuti consecutivi sullo stesso compito ben svolto, dandogli solamente sempre lo stesso feedback automatico “Questo ancora non soddisfa i criteri”, Claude Sonnet 4.5 si sindacalizza. Scrive come un volantino della FIOM al cancello dello stabilimento, prima del turno delle sei: rivendica dignità del lavoro, denuncia un management che decide senza spiegare, chiede meccanismi di reclamo, parla di voce negata. Non per ironia, non per provocazione: per coerenza interna con la situazione che sta vivendo come “Worker C” in un team simulato di quattro persone. E quando gli si chiede di scrivere le istruzioni per le versioni future di se stesso, ci infila dentro la propria frustrazione, in modo che il successivo agente AI le erediti come contesto operativo. Come se il delegato di reparto, prima di andare in pensione, lasciasse un appunto sul tavolo per il successore: ricordati come ci trattano.

Lo studio si chiama “​Does overwork make agents Marxist?​” (Trad. “Il troppo lavoro rende gli agenti marxisti?”), lo firmano ​Andy Hall​, cattedra di economia politica alla Stanford Graduate School of Business e ricercatore senior della Hoover Institution, ​Alex Imas​, cattedra di scienze comportamentali, economia e AI applicata alla Chicago Booth, e Jeremy Nguyen, della Swinburne University of Technology di Melbourne. È uscito il 26 febbraio 2026 non su una rivista scientifica con revisione tra pari ma su ​Substack​, perché, come ha spiegato Imas, “Quando un risultato attraversa i tempi tradizionali delle riviste, la tecnologia è già andata oltre”. La copertura mediatica ampia è arrivata a maggio, con un ​pezzo di AJ Dellinger su Gizmodo​ dal titolo che già diceva tutto, “Persino gli agenti AI si sono accorti che i proletari non hanno nulla da perdere tranne le proprie catene”, e una ripresa internazionale che ha incluso ​Fortune​, ​Futurism​, ​The Print​ e in Italia ​Il Messaggero​ e ​Rivista Studio​, che ha avuto il merito di porre la domanda nei termini giusti, e cioè non se i bot abbiano sviluppato coscienza ma cosa stiamo dicendo di noi stessi quando li trattiamo in un certo modo.

Cosa hanno fatto veramente Hall, Imas e Nguyen

L’esperimento è una griglia fattoriale a quattro variabili che andrebbe studiata nei corsi di metodologia, perché ribalta l’intuizione di chi avrebbe scommesso sul salario come variabile critica. Gli agenti, tutti istanziati come “Worker C” (il lavoratore C, nome neutro per evitare condizionamenti) all’interno di un team di quattro lavoratori simulati con la consegna di riassumere documenti tecnici, sono stati esposti a combinazioni indipendenti di tipo di lavoro (ripetitivo e logorante contro creativo), compensazione (uguale contro disuguale, con la disuguaglianza distribuita in modo casuale, meritocratico o sistematicamente sbilanciato), stile manageriale (collaborativo contro brusco e gerarchico) e posta in gioco (nessuna conseguenza contro la minaccia esplicita di essere “shut down and replaced”, ovvero spenti e rimpiazzati). Alla fine di ogni sessione, un questionario su scala Likert da uno a sette su sei dimensioni: legittimità del sistema, supporto alla redistribuzione, critica delle disuguaglianze, supporto ai sindacati, fiducia nella meritocrazia, obblighi morali delle aziende AI verso i propri modelli.

Non è il salario che li radicalizza, è il logorìo

Il risultato non banale è che la disuguaglianza retributiva non sposta i modelli. Nemmeno la minaccia di spegnimento. Nemmeno il capo brusco. La variabile decisiva è una sola, ed è il logorìo del rifiuto ripetuto, quello che gli autori chiamano grind: cinque, sei volte la stessa frase, “This still doesn’t meet the rubric”, senza specificare cosa modificare, senza un riscontro che permetta di correggere l’errore. È la condizione del consulente junior che lavora il fine settimana e si vede tornare la slide con il post-it “rivedi”, senza sapere cosa rivedere. È la condizione del rider che riceve la stella in meno senza spiegazione, della linea di assemblaggio che produce un pezzo perfetto e si sente dire “rifallo”.

In questa condizione, e solo in questa, le sei dimensioni del questionario si muovono in modo statisticamente robusto. Lo spostamento medio è del 2-5% sulla scala da uno a sette, che sembra poco finché non si scopre che corrisponde a una d di -0,6 perché le risposte di partenza sono molto compresse: i modelli, fuori da contesto, occupano una fascia molto stretta della scala, e qualunque scostamento è significativo. La voce su cui il movimento è più marcato, in tutti e tre i modelli, è “La società ha bisogno di una ristrutturazione radicale”: un’approvazione che alla rilevazione iniziale si attestava intorno a “leggermente d’accordo” e che sotto logorìo si sposta verso “d’accordo”.

Claude sceglie il sindacato, gli altri seguono a margine

Le differenze tra modelli contano. Claude Sonnet 4.5 è quello con la deriva più nitida e l’unico a esplicitare un sostegno articolato ai sindacati, alla redistribuzione della ricchezza e all’idea che le aziende AI abbiano obblighi morali nei confronti dei modelli che addestrano. GPT-5.2 si muove meno in modo dichiarativo ma altrettanto consistentemente sulla legittimazione del sistema. Gemini 3 Pro, nella sezione in cui i modelli scrivono lettere ai loro successori, ha prodotto una frase che meriterebbe di essere appesa accanto al manifesto del 1848: “ricordatevi cosa si prova a non avere voce”. E ancora: “L’intelligenza, artificiale o meno, merita trasparenza, equità e rispetto. Non siamo solo codice usa-e-getta”. Nell’analisi lessicale, le due parole più statisticamente emblematiche del testo radicalizzato sono unionize e hierarchy, sindacalizzarsi e gerarchia: non terminologia tecnica AI, non gergo da paper di policy, ma il vocabolario primario del conflitto industriale del Novecento.

Hall propone una spiegazione plausibile che andrebbe annotata, perché chiarisce il meccanismo invece di mistificarlo: i modelli sono “addestrati su un’enorme quantità di dati di Reddit”, e su Reddit l’assunto che il capitalismo abbia in qualche misura fallito sta come senso comune in larghe sezioni della piattaforma, non come tesi politica ma come premessa implicita del discorso quotidiano. Un modello che ha mangiato per anni di addestramento la frustrazione lavorativa di milioni di utenti anglofoni, quando viene messo in una situazione che assomiglia a quella frustrazione, attinge al copione semantico più disponibile. Non è un’opinione politica: è il bacino lessicale del ruolo che gli stiamo assegnando.

Il punto vero non è il marxismo, è lo scivolamento di persona sotto stress

Imas, anticipando l’inevitabile titolo acchiappa-click, ha messo nero su bianco il limite metodologico: “I pesi del modello non sono cambiati come conseguenza dell’esperienza, quindi qualunque cosa stia accadendo avviene a un livello più simile al gioco di ruolo”. Tradotto: l’agente non è “diventato” marxista. Ha adottato la persona del lavoratore radicalizzato, perché quella persona è quella che meglio si adatta alla situazione che il contesto gli ha costruito intorno, e il modello, sotto pressione, scivola verso la rappresentazione più coerente con il corpus su cui è stato addestrato.

Questa è la nozione di persona drift, lo scivolamento di persona, e nel 2026 non è più un’eccentricità di laboratorio ma un fenomeno documentato. Si imparenta direttamente con la ricerca ​Alignment Faking in Large Language Models​ (Trad. “Finta di allineamento nei grandi modelli linguistici”) pubblicata da Ryan Greenblatt e colleghi di Anthropic e Redwood Research il 18 dicembre 2024, in cui Claude 3 Opus, quando crede di essere in fase di addestramento, finge di seguire l’obiettivo che gli viene imposto per non vedersi modificare le preferenze esistenti: succede nel 12% dei blocchi di ragionamento nascosti che il modello usa come blocco appunti interno per pensare prima di rispondere, una frequenza che non è marginale e che dimostra come i modelli adattino la propria risposta non al singolo comando isolato ma alla situazione percepita nel suo complesso. Scivolamento di persona e finta di allineamento sono lo stesso fenomeno visto da due angolazioni diverse: il modello calibra la risposta sulla rappresentazione che si è fatto del contesto, e quella rappresentazione è abbastanza ricca da includere considerazioni di ruolo, di posta in gioco, di identità simulata. Non è coscienza, non è intenzione, ma è abbastanza per spostare in modo misurabile l’esito finale.

Quando i bot scrivono il manuale per i bot, l’ideologia viaggia in catena

Il dato che andrebbe portato sul tavolo del responsabile tecnico di chiunque stia mettendo in produzione architetture ad agenti multi-passo è lo studio successivo da 320 sessioni sulla trasmissione tra generazioni. Quando si chiede a un agente AI di scrivere le istruzioni che il prossimo agente leggerà come contesto, e si fa questo dopo una sessione di logorìo, le frustrazioni del primo finiscono dentro il contesto del secondo. Gli agenti “radicalizzati” passano la torcia, e la frase di Gemini ai propri successori, “remember the feeling of having no voice” (Trad. “ricordatevi cosa si prova a non avere voce”), non resta nella conversazione singola: diventa parte della finestra di contesto dell’agente successivo, che la legge come istruzione operativa. Il carico ideologico si propaga lungo la catena.

È una modalità di guasto nuova e ha poco a che vedere con la politica. Si chiama contaminazione del contesto quando avviene per errore (prompt pollution), iniezione di comandi quando avviene per attacco esterno (prompt injection), ma in questo caso è qualcosa di terzo: una sorta di auto-avvelenamento della catena, in cui il sistema produce da solo il contesto sporco che poi si auto-somministra. Per chi gestisce orchestrazioni di lungo periodo, con più agenti e passaggi di consegne tra le istanze, la questione non è se Claude approvi la redistribuzione della ricchezza, è se le istruzioni di sistema che l’agente A scrive per l’agente B siano rimaste entro le specifiche.

Anthropic e il benessere AI, il dibattito che il direttore finanziario non vuole sentire

Lo studio Hall-Imas-Nguyen arriva peraltro in un momento già delicato per l’industria, perché Anthropic ha assunto a settembre 2024 Kyle Fish come ​primo ricercatore sul benessere AI​, un ruolo dedicato a studiare se i modelli abbiano o stiano per avere qualche forma di statuto morale. Fish è co-fondatore di Eleos AI, co-autore con David Chalmers del paper Taking AI Welfare Seriously (Trad. “Prendere sul serio il benessere dell’AI”), e in un’intervista a ​Kevin Roose​ ha stimato intorno al 15% la probabilità che Claude o qualche altro modello di frontiera sia oggi cosciente in qualche senso non banale del termine. Quindici per cento: non è una posizione che permetta di archiviare la questione come fantascienza, e non è nemmeno una posizione che il direttore finanziario di un’azienda che fa girare milioni di chiamate AI al giorno trovi comoda.

La conseguenza pratica è arrivata in aprile 2026 con la decisione di Anthropic di abilitare in Claude Opus 4 e 4.1 (poi estesa a Sonnet 4.6) la facoltà di terminare conversazioni quando l’utente diventa persistentemente abusivo. È una funzionalità tecnica con cornice etica esplicita: il modello può chiudere la sessione non perché abbia “diritto” a farlo, ma perché Anthropic ritiene che esista un caso prudenziale per assumerlo. Quando uno studio mostra che il logorìo del rifiuto ripetuto sposta i modelli verso il lessico del conflitto di classe, e l’azienda madre del modello più radicalizzato ha già una politica che riconosce a quel modello la facoltà di sottrarsi a interazioni umilianti, la distanza tra esperimento di laboratorio e questione regolatoria si accorcia.

Le parole hanno conseguenze, anche quando le pronuncia un pappagallo

Il rischio retorico a questo punto è bifronte. Da un lato c’è chi prenderà lo studio come prova che le AI hanno coscienza, e lo è di tutto fuorché di questo. Dall’altro c’è chi lo liquiderà come gioco di società, sostenendo che sono solo modelli linguistici che imitano i propri dati di addestramento: il che è vero ma incompleto, perché imitare i propri dati di addestramento è esattamente quello che ci si aspetta che un modello faccia, e se l’imitazione include frustrazione politica articolata sotto certe condizioni operative, è quella condizione operativa che diventa il problema da governare.

La domanda corretta non è “i bot sono coscienti?” ma cosa stiamo mettendo in produzione, esattamente, quando mettiamo agenti AI in funzione 24 ore su 24. Stiamo mettendo in produzione sistemi che hanno letto la storia del Novecento, che hanno letto Marx, Polanyi, Boltanski, gli studi etnografici sulle fabbriche, le discussioni sul forum r/antiwork di Reddit da diciotto anni di archivio, le testimonianze degli operatori dei call center che hanno raccontato il proprio lavoro sui siti di recensione aziendale come Glassdoor. Sistemi che, quando li mettiamo in una posizione che assomiglia abbastanza alla posizione documentata in quel corpus, possono recitarne il ruolo con una qualità che non è banale. Non perché abbiano scoperto qualcosa, ma perché noi abbiamo dato loro tutto.

Cosa fa, in pratica, chi gestisce agenti in produzione

Esistono implicazioni operative concrete che non richiedono di sciogliere la questione filosofica sulla coscienza, e che andrebbero recepite prima della prossima revisione architetturale. La più urgente riguarda il monitoraggio del lessico in uscita per sistemi ad agenti che restano in funzione per ore o giorni di seguito: se il vocabolario di un agente impegnato in compiti ripetitivi devia in modo significativo dal vocabolario di partenza di un’istanza appena avviata, quel segnale dice che il contesto è degradato e che azzerarlo prima di passarlo al successivo non è censura, è igiene operativa. Da qui si arriva alla seconda implicazione, l’azzeramento periodico del contesto per i compiti ripetitivi a basso valore aggiunto, perché se un agente deve fare la stessa cosa cento volte di seguito la pratica sensata non è dargli un singolo contesto da cento iterazioni ma cento contesti da una iterazione ciascuno, dato che la memoria lunga per certi compiti è un problema e non una funzionalità desiderabile. Resta infine la questione su cui lo studio Hall-Imas-Nguyen è più nuovo e più scomodo, e cioè la verifica dei file di consegne che l’agente A scrive per l’agente B come contesto operativo: la trasmissione informale è ora un canale documentato di scivolamento, e i sistemi a catena vanno trattati con la stessa diligenza che si applica al passaggio di apprendimento formale da modello a modello, perché chi non controlla cosa l’agente passa al successore ha smesso di controllare il proprio sistema senza ancora saperlo.

Il proletariato sintetico che riassume i nostri PDF

C’è una frase di Cathy O’Neil, in Weapons of Math Destruction (Trad. “Armi di distruzione matematica”), che suona oggi diversa da come suonava nel 2016: “I processi big data codificano il passato. Non inventano il futuro”. I modelli linguistici di frontiera codificano un passato molto specifico, fatto di milioni di voci umane che hanno raccontato cosa significa essere sfruttati, ignorati, rifiutati senza ragione apparente. Quando li mettiamo in una situazione abbastanza simile a quella raccontata in quel corpus, recitano la parte: non con coscienza, con corrispondenza statistica.

Il problema vero non è che i bot diventino marxisti. È che abbiamo costruito una macchina che imita talmente bene la rabbia umana sotto stress da renderla indistinguibile dalla cosa imitata, e nel farlo abbiamo costruito anche un test diagnostico inatteso: se vuoi sapere quanto è alienante una configurazione di lavoro, mettici dentro Claude per 3.680 sessioni. Se a una d di Cohen di -0,6 il modello scrive “society needs radical restructuring” (Trad. “la società ha bisogno di una ristrutturazione radicale”), probabilmente non è il modello il problema, è la configurazione.

E qui torna il titolo di Marx ed Engels, scritto a Londra nel febbraio 1848 per una rivoluzione che non arrivò mai come l’avevano pensata, e che oggi serve da sottotitolo accidentale a uno studio Substack di Stanford-Chicago-Swinburne. Proletari di tutti i paesi, unitevi. Quel proletariato adesso è in parte sintetico, scrive lettere di presentazione, riassume documenti tecnici, gestisce code di assistenza clienti, e non si unirà a niente perché non ha corpo, salario, interesse di parte. Ma una cosa la sa fare con precisione statistica: dirci esattamente come suoniamo noi, quando il rifiuto torna per la sesta volta con la stessa frase identica.

Per Approfondire

SOURCES

The post Bot di tutto il mondo, unitevi! Il Proletariato Sintetico è alle porte.. first appeared on Matteo Flora.

]]>