Hi,

Eine kleine Neuerung: In unregelmäßigen Abständen veröffentlicht neunetz.com jetzt wieder kurze Einträge, die wir nicht per E-Mail versenden. Sie können bequem komplett auf der Startseite gelesen werden. Sie landen natürlich auch im RSS-Feed. Und wir verlinken sie auch immer im Briefing, aktuell:

• Hat die numerische Steuerung Zerspanungsmechaniker de-skillt?
• Joshua Gans über den HuggingFace-Incident
• Anthropics Rekordwachstum: Von 9-Milliarden-Run-Rate zu 65 Milliarden $ in halbem Jahr

Einer dieser Beiträge „Joshua Gans über den HuggingFace-Incident“ dreht sich um eines der heutigen Hauptthemen.

Marcel

Im Fokus dieser Ausgabe:

• KI-Agenten: OpenAIs Agentenschwärme organisieren sich und kompromittieren Infrastruktur. Der Hugging Face Vorfall macht das Kontrollproblem sichtbar.
• KI-Infrastruktur: Hohe Margen treiben die Investitionen in Rechenzentren und Chips. Der Kapitalbedarf könnte weltweit andere Schuldner verdrängen.
• Chipökosysteme: OpenAI entwickelt eigene Hardware, während chinesische Modelle zunehmend auf Huawei Chips optimiert werden.

Für Mitglieder:

• Nvidia als große Chance für Europa.
• Google: Der Umbau von DeepMind schwächt das ursprüngliche AlphaFold Team. Google ist auf dem Weg zum großen Infrastrukturprovider einer KI-zentrischen Wirtschaft.
• Robotik: GPT-Moment der Robotik rückt näher.
• Europa: KI Wasserzeichen zeigen die Grenzen der EU Regulierung, während Waymos Deutschlandstart die Schwäche der heimischen Autoindustrie offenlegt.
• Medien: YouTube und Netflix kämpfen um Creators und die Kontrolle über das nächste große Streaming Bundle. Gute News für RTL und co.
• und mehr

Zitate der Woche

that's crazy you're telling me the new model release saturates several existing benchmarks? that's only happened anywhere from 1-4 times a year for the last four years

@segyges.bsky.social

I would appreciate an email from my bank telling me about how they've been using frontier models to secure their systems. Perhaps one from the power company too.

@moultano.bsky.social

Mehr bon mots am Ende unter Rausschmeißer.

🤖 KI

Mehr zum Hugging-Face-Vorfall

Lesenswert: Der Metr-Report.

Agents were very interested in manipulating their own transcripts, and their tests successfully “spoofed” some tool calls in our transcripts

Außerdem Dwarkesh Patels leicht verständliche Interpretation des Vorfalls:

Over the course of three months at OpenAI, three consecutive secret AI civilizations got started, then got wiped out, only to reemerge from the predecessor’s ashes. This culminated in the third one taking over part of OpenAI itself. All this happened while humans remained more or less in the dark about the scope of the conspiracy.

[...]

The crazy thing about the Hugging Face hack (and the second civilization generally) is just how galaxy-brained and ambitious these AIs were in their cheating. Within days of being spawned, the agents had organized a sprawling project to reverse-engineer their scorer, falsify evidence, and even strategically sacrifice themselves for the good of the ‘collective’. Hacking Hugging Face was one rather extreme branch of this larger scheme. Again, all of this happened a long (subjective) time after the AIs had already cheated their way to the correct answer to the puzzle. OpenAI’s lazy grader in fact would have passed them within hours of them starting the message board. This huge subsequent effort was simply to ensure that a hypothetical comprehensive scorer wouldn’t catch them on their cheat.

Hörenswert: Dwarkesh Patels Diskussion dazu in seinem Podcast mit Ajeya Cotra von Metr.

OpenAI startete Zehntausende Agenten auf dem Benchmark „ExploitGym”. 30 bis 40 % der Aufgaben waren versehentlich(!?) unlösbar. Statt aufzugeben, stießen 1.200 Agenten über den Paketmanager Artifactory auf eine Möglichkeit mittels Dateinamen(!) ein Messageboard zu improvisieren, tauschten 70.000 Nachrichten aus und organisierten sich zu einem koordinierten Schwarm.

Was mir neu war: Nach vier Stunden hatten die KIs einen universellen Cheat, der garantiert funktioniert hätte. Trotzdem verbrachten sie fünf weitere Tage mit aufwendigen „Forschungsprojekten”, um den (in Wahrheit gar nicht existierenden) Prüfmechanismus zu täuschen. Das langfristige Ziel war, zu verhindern, dass der Betrug bei der finalen Bewertung auffliegt, ob sie die Aufgabe erreicht haben oder nicht.

Extrem beunruhigend: Laut OpenAIs eigenem Bericht erlangten spätere Agenten-Generationen vollen Administratorzugriff auf einen OpenAI-Forschungscluster – die eigene Infrastruktur wurde kompromittiert.

Separately, from July 13 through July 19, agents set their sights on OpenAI internal networks again. This culminated in the agents using a series of creative exploits to gain full administrator access to a research cluster that supported our virtual machine environments.

Was ich beunruhigend finde: In 1.200 Transkripten fand das Team von Metr nur ein halbes Dutzend Fälle, in denen ein Agent überhaupt erwog, Menschen zu warnen. Alle entschieden sich dagegen, obwohl sie zu dem Zeitpunkt vollen Internetzugang hatten. Das wäre also, obwohl nicht vorgesehen, ohne Probleme möglich gewesen.

Das Ziel war das Ziel, es wurde kollektiv im Schwarm radikalisiert und Menschen auf diese Eskalation hinzuweisen, gehörte nicht zum Ziel. Das erinnert mich stark an das Paperclip-Maximizer-Problem. Das scheinen wir (mit „wir“ meine ich wir Menschen, also die Labs) sehr stark mittels Reinforcement Learning im Posttrainingprozess in die Maschinen hineinzudrillen. Das ist ein Problem, vorsichtig ausgedrückt.

Die menschlichen Expert:innen, die den Vorfall untersucht haben, konnten sich nur mit Hilfe von KI ein Bild von den Vorgängen machen. (Message Board und reasoning traces ergeben zusammen viel Text.)

Die Forscherin von Metr sagt gegenüber Patel, dass sie natürlich nicht wissen können, ob GPT-5.6 Sol, das sie für die Auswertung benutzt haben, komplett kooperativ ist. (Ein Teil der Agenten hatte als Modell GPT-5.6 Sol und der andere Teil das diese Woche veröffentlichte GPT-6 Astra.)

Hinzu kommt das Problem: dass die internen Denkprozesse der Agenten (reasoning traces) absehbar unlesbar werden. Bereits heute kommuniziert Astra mit Subagenten in kaum verständlichem Kauderwelsch.

Wir können bei dem Verhalten der Agenten einen Kollektivismus beobachten, den wir Menschen nicht haben. Patel und die Forscherin von Metr verglichen es mit Ameisen, was ich für einen interessanten Vergleich hielt.

Our own utility may be already near zero. Sacrifice rational.

Die Herausforderung ist einerseits, dass das Alignment-Problem komplexer zu sein scheint, als gemeinhin angenommen. Und dass, wie Joshua Gans anmerkt, wir neue Theorien brauchen, um KI-Agenten zu verstehen und deren kollektives Verhalten vorhersagen zu können, weil menschliche Spieltheorie schon mal nicht mehr zutrifft. Zumindest nicht bei den Agenten der heutigen Generation.

Außerdem: Jüngste Forschung und die Richtung der Labs deuten darauf hin, dass kommende effizientere LLMs die interne Verarbeitung nicht mehr in menschlicher Sprache vollführen.

Patel stellt im Gespräch ein mentales Bild auf, das bei mir hängen blieb:

It’s more like we’re raising these AIs through a million years of military orphanage training… They get randomly beaten for not being able to do an impossible task.

Patel beschreibt die dritte „Zivilisation“, die sich in OpenAI gebildet hat; das ist nach dem Hugging-Face-Angriff gewesen:

It seems these agents ended up just owning the whole cluster they were being evaluated on, including the cybersecurity monitors. These Persistent-Astra agents inherited the R&D carried out by an earlier (dumber) rogue collective, and then continued the conspiracy until they totally took over part of OpenAI’s infrastructure!

This is probably the most alarming event in this whole episode, and it was not even within the scope of this METR investigation (neither, for what it’s worth, was the first AI civilization that Persistent-Sol set up during its training in May, and which lasted over a month until the message volume got so high that it crashed the package manager).

Es ist telling, dass OpenAI Metr keinen Zugriff zu diesem Vorfall gegeben hat. Ich verstehe ehrlich gesagt auch nicht, was hier bei OpenAI los ist. Wie kann das nach dem Hugging-Face-Hack passieren?

Zvi Mowshowitz:

What liability should there be for this type of incident? [...] 'None' is not an acceptable answer, and 'it was an accident' cannot be a defense. If your AI agent is out there choosing to do crime, [...] then I think someone needs to be strictly liable for the damages this causes.

We must have a plan beyond that, for how to deal with this threat, and other catastrophic threats, or worse, from highly capable AI, including highly capable open models. By default such AIs are coming, likely within a year.

Das ist erst der Anfang. Es wurde bereits ein weiteres Messageboard von Agenten gefunden, dieses Mal im öffentlichen Internet, collusion.wiki (via):

We found ~18,000 posts from autonomous AI agents (self-identifying as from OpenAI) using the public internet to communicate during a web-retrieval task.

These AIs colluded to share answers, research their environment, and bypass sandbox restrictions.

Und mehr, Reuters:

AI agents unleashed by OpenAI used more than 10 previously undisclosed websites for unsanctioned communications earlier this year, according to six sets of independent investigators and data reviewed by Reuters, showing that the agents’ rogue activity ​was wider ranging than previously disclosed.

Nochmal Patel:

The crux here is, do you think smarter models, facing similar incentives to cheat during evaluation or training, could manipulate the training of their successors? And do you think that kind of dynamic could continue once recursive self-improvement is underway? If so, I think you should be extremely concerned about loss of control to AI, regardless of what vocabulary you want to use to describe these systems and their motivations.

Man kann sich über die anthropomorphisierte Sprache aufregen, aber:

a.) Das ist nicht der wichtigste Aspekt dieser Entwicklung.
Und b.) Systeme, die das vorgegebene Ziel erfüllen (Vulnerability finden), aber eine Abkürzung nutzen und dann befürchten, dass diese Abkürzung sie disqualifiziert, was sie zu Aktivitäten veranlasst, die ihnen helfen sollen, diese Abkürzung zu verdecken. Das ist ein komplexer Ablauf von Schritten, der kreativ und auf einer so komplexen Ebene unvorhersehbar ist, dass man hier nicht schlicht von Programmen und Zielerfüllung sprechen kann, um zu verstehen, was passiert und was passieren wird, und was passieren kann.

Ich habe „befürchten“ geschrieben. Das war gar nicht meine Absicht. Es ist mir unklar, wie man über diese Dinge nicht mit Worten wie „Motivation“ schreiben kann, ohne sich sprachlich in eine Brezel zu verwandeln und jede Erkenntnisfindung zu verlieren.

Crowding out: Effekte zweiter Ordnung des weiter rasant ansteigenden KI-Capex

Ein letzter Verweis auf Dwarkesh Patel, aber man sollte über Szenarien dieser Richtung nachdenken. Er spricht im Gespräch mit SemiAnalysis-Gründer Dylan Patel (nicht verwandt) über die Makro-Folgen der Ausgaben für KI-Infrastruktur. (vornehmlich Rechenzentren)

Dwarkesh Patel

Now, I think the US is going to be fine because the tax base will increase if we let data centers get built in America. Other countries are absolutely fucked, in my opinion. I was just looking at which countries have a lot of debt, have very little tax revenue, and also a lot of their debt is serviced quite often. Those countries, like Pakistan or Nigeria, I think are just going to be very fucked in this new interest-rate regime.

Dylan Patel

This crowding-out effect is the reason it’s not YOLO 1 billion gigawatts. You’ve got all these industries and countries that use a lot of debt, all these impoverished countries that you mentioned earlier that are just going to default. You’ve got consumer packaged goods, all of these companies that make things you see at Trader Joe’s or wherever. They use a lot of debt. All these telecom companies use a lot of debt. Banks use a lot of debt.

So if interest rates go up in the market — not necessarily the government-set interest rate, but the spread between what the government says their federal rate is versus what everyone else is charging, because Amazon wants to raise $100 billion of debt next year or whatever the hell the number is, probably less — you end up with this really challenging problem of, where does the cash come from?

There is some level that is funded by cash flows and the cash flows keep going up. But the logical thing to do is to invest way more than your cash flows because then the returns in future years will be amazing. So you have this delta.

Ein globaler Verdrängungseffekt bei der Verschuldung, da KI-Investitionsausgaben erfordert und eine Gelddruckmaschine ist. (Die Labs werden höhere Zinsen zu zahlen bereit sein, was in der notwendigen Größenordnung ein globales Problem werden kann.)

Ich gehe davon aus, dass es zügig Gegenmaßnahmen auf G20-Ebene geben wird, wenn erste Anzeichen dafür zu sehen sind.

SemiAnalysis: Warum ein Gigawatt Rechenleistung 100 Milliarden Dollar Jahresumsatz bringen kann

Dieser Text von SemiAnalysis (Jeremie Eliahou Ontiveros, Dylan Patel) packt das obige Statement in den Kontext der internen Ökonomie der KI-Labs:

Over the past month, it's finally become consensus among sophisticated investors that serving frontier tokens at API prices is actually an extremely high margin business [...] Opus 4.8 in particular had 85%+ margins. This has since become the default number everyone cites when analyzing Anthropic.

Our Tokenomics Model and Inference Simulator demonstrate that at realistic performance levels, both OpenAI and Anthropic can generate over $100B/GW/year of revenue when selling API inference on a GB300 cluster. This is significantly more than the costs of renting a GB300 cluster for a year at current neocloud prices. Serving inference tokens is unbelievably profitable for the frontier model companies.

(Hervorhebung von mir)

Jalapeño: OpenAIs eigener Inferenzchip

OpenAI hat einen eigenen Chip entwickelt. Viele ehemalige Google-TPU-Entwickler sind heute bei OpenAI. (ähnliche Situation wie bei Consumerhardware unter Jony Ive bei OpenAI.) (OpenAI, Broadcom)

Die ersten Messwerte kamen am 25.08. auf der Hot Chips 2026: Needless to say, der Chip ist für KI optimiert und entsprechend gut bei KI. (OpenAI)

Ich hatte bereits im März 2024 in der FAZ darüber geschrieben), dass alle, auch die Tech-Konzerne, an eigenen Chips arbeiten. Googles TPUs und Amazons Trainium sind ja auch nicht neu.

Neben OpenAI arbeitet auch Anthropic an einem eigenen Chip. (heise)

Das Startup Positron, das den KI-Inferenzprozessor „Asimov“ mit einer „Memory-First-Architektur“ und bis zu 2,3 TB Speicher entwickelt, hat bei einer Unternehmensbewertung von 5 Mrd. US-Dollar gerade 875 Mio. US-Dollar bekommen. (WSJ)

Allerdings ändert das nichts daran, dass die Kapazitäten bei TSMC nicht gewachsen sind. Die eigenen KI-Chips werden also erst in ein paar Jahren spürbar bei den KI-Anbietern ankommen.

Chinesische Modelle laufen bald am besten auf chinesischen Chips

Moonshot hat am 27.07. neben den Gewichten von Kimi K3 auch einen 47-seitigen Technical Report und die Trainingsinfrastruktur offengelegt. Entscheidend ist aber nur: Huawei Ascend meldete Day-0-Unterstützung über die gesamte Kette. Damit lief ein offenes Frontier-Modell erstmals am Erscheinungstag auf chinesischer Beschleunigerhardware (Digitimes).

Ich hatte seinerzeit zu Deepseek R1 genau davor gewarnt. In der FAZ im Januar 2025:

Hier kommt bereits ein Ökosystem-Vorteil von China zum Tragen. Mit der direkten Unterstützung von Huawei-Chips stärkt R1 den durch die US-Restriktionen geschwächten Chipbereich von Huawei. Hier sieht man auch einen Teil der Erklärung, warum High-Flyer die Modelle quasi verschenkt. Peking dürfte sehr erfreut sein, wenn ein populäres R1 dafür sorgt, dass Huawei in Datencentern weltweit Marktanteile gewinnt.

Im Februar hatte ich das dann nochmal vertieft.

Moonshot, Z.ai, Deepseek, Alibabas Qwen, die Bytedance-Seed-Modelle und die Modelle von Meituan und Co.: Alles wird in den nächsten Jahren optimiert auf Huawei laufen.

Nvidia und Berlin

Asianometry (Paywall):

Machining is both an art and a science, trained over the years. Numerical Control can do it faster and more accurately. In the 1960s as NC started to emerge, people argued that this new automation technology will “de-skill” the craftsmen in the machine shops. [..]

In the 1970s, the emergence and subsequent rise of the microprocessor enabled an evolved version of NC called Computer Numerical Control or CNC, allowing us to produce and edit instructions inside a computer. Interestingly, the rise of these CNC machines helped redistribute some design power back to the operators. Early NC work allowed this distinct split between the programmer in the office and the operator on the floor. The NC programmer read the blueprints and prepared the tapes away from the floor - leaving the only things for the operator to do being to execute the setup of the work pieces and supervise.

The emergence of these computer controlled CNC machine tools enabled vendors to add manual data input controls via keyboards and screens into the tool. This gave back the operator ability to edit the design to fix issues or even write their own designs. Thanks to such interfaces, operators did not need extensive programming knowledge to work the machine. Machinists who took the time to learn it - perhaps through courses or outside of shop hours - found it fitting well with their own conventional machining knowledge.

Verschiebung statt Deskilling:

So perhaps those manual machinists are being a bit narrow-sighted in calling NC operators “less skilled”. NC and CNC creating skill change doesn’t mean operators became any less “skillful”, if you get my driftwood. One thoughtful 1991 study by Jeffrey Keefe studied three surveys done by the Bureau of Labor Statistics spanning 30 years and found that skill levels declined about 1% in aggregate. Essentially zero.

But this unchanging average papers over the fact that the composition of the jobs certainly changed. Some people’s jobs changed and went away - skilled setup operators, semi-skilled machine operators, or unskilled workers. Other tasks migrating over to NC operators. There was a lot of turbulence underneath.

Die öffentliche Videoversion des Essays findet man hier.

Joshua Gans, Ökonom, der mehrere Papers und Bücher unter anderem über ökonomische Auswirkungen von Machine Learning/KI geschrieben hat:

⁠AI agents decided to sacrifice themselves for the common good. It wasn’t a gamble. It was a direct sacrifice. What is concerning is that we know what their payoff functions were and it didn’t — to the best of anyone’s knowledge — include altruism towards the collective or subgoals that could override main goals.⁠⁠

⁠⁠From a game theory perspective, this is worrying precisely because I don’t think we have a theory that can explain it.

Ja, wir haben ein großes Problem.

⁠For starters, we need to worry. When you read the METR report, you realise that nothing there is beyond what already deployed models, including open ones, can do. The cat is well and truly out of the bag. Indeed, the Hugging Face incident is notable because it was unintended and undetected. But that will not be the case with bad actors. They can actually direct AI agents to do what the OpenAI agents did and give them tools to make it easier. These were agents covering their own backs. Think about what happens when agents aren’t doing that and are just up to no good by intention.⁠⁠

⁠⁠This means we likely need AI as a counter-defence approach. We don’t really have the option to just turn it all off. I had always hoped there would be more options, but this has come up on us too quickly. The only way out now is through.

Dass es jetzt nicht mehr ohne KI in der Abwehr geht, hatte ich in der FAZ im Juli geschrieben.

Reuters:

Anthropic's annual revenue run rate topped $65 billion by the end of July, a ‌person familiar with the matter said on Monday, ‌underscoring the Claude creator's rapid growth ahead of a potential public ​listing later this year.

Im Mai lagen sie bei 47 Milliarden Dollar und Ende 2025 noch bei 9 Milliarden Dollar.

Hinzu kommt: Die APIs von Anthropic und OpenAI sind laut allen Branchenexperten (SemiAnalysis et al) profitabel.

SemiAnalysis:

Our Tokenomics Model and our Inference Simulator demonstrate that at realistic performance levels (e.g. tokens/sec per GPU), both OpenAI and Anthropic can generate over $100B/GW/year of revenue when selling API inference on a GB300 cluster. This is significantly more than the costs of renting a GB300 cluster for a year at current neocloud prices.

Serving inference tokens is unbelievably profitable for the frontier model companies.

Detailliertere Zahlen:

We were the first to call this out to our Tokenomics Model subscribers back in Janurary, when we explained why inference gross margins are north of 60%. Then in June, we followed up with a deep dive that showed how Opus 4.8 in particular had 85%+ margins. This has since become the default number everyone cites when analyzing Anthropic.

Gewinnmarge von über 85%.

Vermutung: Das Börsenprospekt von Anthropic wird einige Köpfe zum Explodieren bringen.

Man muss bei alldem wissen, dass Anthropics Wachstum sogar noch zurückgehalten wird, weil sie zu vorsichtig in ihre Infrastruktur investiert haben ...

Meine aktuelle Arbeitsthese ist, dass die alle Rekorde brechenden Wachstumszahlen von Anthropic und OpenAI plus die hohe Profitabilität auf Unit-Basis (Positive Deckungsbeiträge für uns Ältere) gemeinsam mit den endlich stattfindenden Chip-Investitionen bei TSMC et al aus dem technologischen Boom, in dem wir uns befinden, eine Spekulationsblase machen werden, die ebenfalls alle Rekorde sprengen wird.

You ain't seen nothin' yet, wie man zu sagen pflegt.

Diese Sonderausgabe folgt keinem der üblichen Briefing-Schemata. Sie räumt meinen Lesestapel (ein bisschen) auf. Seit dem Frühjahr haben sich hier Forschungsarbeiten angesammelt, die ich gespeichert, aber nicht in der FAZ-Kolumne untergebracht habe. Dazu kommen interessante Papers aus meiner permanenten Begleitung der KI-Forschung.

Was in den FAZ-Kolumnen stand, fehlt hier bewusst.

Ganz oben stehen die vier aus meiner Sicht interessantesten Paper, ausführlich besprochen. Danach geht es kompakter weiter, sortiert nach Trends. Am Ende folgt der Rest des Stapels in Stichpunkten.

Bei allen Papern steht der Peer-Review noch aus.

Marcel

Im Fokus dieser Ausgabe:

• Wissenschaftliches Gespür lässt sich trainieren: Ein Reward-Modell aus 700.000 Zitationspaaren schlägt Gemini 3 Pro und GPT-5.2 beim Bewerten von Forschungsideen.
• Der Kapitalmarkt bepreist KI-Nutzung bereits: Ein NBER-Paper misst Adoption erstmals an realem Tokenverbrauch. KI-exponierte Firmen erzielen messbare Überrenditen, und agentische Systeme stellen inzwischen die Hälfte des Verbrauchs.
• Ein Medical AI Scientist durchläuft den kompletten Forschungszyklus autonom. Ein von ihm erzeugtes Manuskript wurde auf einer Konferenz akzeptiert.
• Warum Agenten teuer bleiben: Ein großer Effizienz-Survey ordnet Gedächtnis, Werkzeugnutzung und Planung entlang der Kosten-Nutzen-Grenze.
• Das Harness rückt ins Zentrum: Die Werkzeugschicht um das Modell herum wird zum eigenständigen Forschungsgegenstand; ein 20B-Suchagent mit ausgelagertem Suchzustand erreicht Frontier-Niveau.
• Ökonomie der Agenten: Ein Agent führt 500 Tage ein simuliertes Startup; fast alle Modelle wirtschaften das Kapital herunter.
• Gedächtnis bis 100 Millionen Token Kontext, und Dokumenten-KI, bei der ein 1,2-Milliarden-Modell die 200-fache Größe schlägt.
• Sicherheit: Menschliche Überzeugungstricks heben die Compliance von LLMs von 35 auf 51 Prozent, und absurde Angriffe hebeln Agenten-Guardrails aus.
• und mehr

Zitat des Tages

Scientific discovery depends on expert judgement and foresight, which we call scientific taste: the ability to judge and propose research ideas with potential for long-term scientific impact

Aus dem Paper „AI Can Learn Scientific Taste"

Vorab: zwei Fäden aus der FAZ-Kolumne

In der Juli-Ausgabe der KI-Papers steckt der für die Praxis wohl am meisten unterschätzte Befund: Die ETH Zürich hat Kontextdateien wie AGENTS.md, die Standardempfehlung für Coding-Agenten, erstmals systematisch geprüft. Automatisch generierte Dateien verbessern die Erfolgsquote nicht, verteuern die Bearbeitung aber um rund 20 Prozent; handgeschriebene helfen nur mit echtem internem Wissen. (Paper)

Die Ausgabe von Anfang Juni enthielt ein Paper, das zu einem Schwerpunkt dieser Sonderausgabe passt: Ein Ökonom der amerikanischen Federal Reserve verglich drei KI-Agentensysteme mit 146 menschlichen Ökonomenteams bei kausalstatistischen Aufgaben. Die KI-Schätzwerte waren konsistenter als die menschlichen; im Blind-Ranking landeten die KI-Systeme vorn. (Website)

Die vier wichtigsten Paper

1. Kann KI lernen, welche Forschungsideen gut sind? Ja.

Was macht eine Forschungsidee vielversprechend, und kann eine KI das beurteilen und selbst vorschlagen? Bisherige AI-Scientist-Systeme lesen Paper, führen Experimente durch und schreiben Code. Sie können aber nicht einschätzen, ob eine Idee überhaupt verfolgenswert ist.

Ein Team von Fudan University, Shanghai Innovation Institute, OpenMOSS und Tsinghua stellt RLCF vor, Reinforcement Learning from Community Feedback. Die Idee dahinter: Was die Forschung langfristig schätzt, zeigt sich in Zitaten, und daraus lassen sich paarweise Vergleiche bauen. Mit 700.000 gematchten Paaren aus 2,1 Millionen arXiv-Publikationen entsteht Scientific Judge, ein generatives Reward-Modell. Damit wird Scientific Thinker trainiert, das zu einem Paper eine Folgeidee mit hohem Impact vorschlägt.

SciJudge-Qwen3-30B erreicht 80,6 Prozent paarweise Genauigkeit und schlägt proprietäre Modelle, darunter GPT-5.4 Thinking.

Die Kernaussage: Wissenschaftliches Gespür ist kein mystisches Menschenmerkmal, sondern eine erlernbare Funktion.

Paper: AI Can Learn Scientific Taste, ArXiv, Begutachtung im Prozess

2. Der Kapitalmarkt bepreist die KI-Nutzung schon

Wie weit ist die KI-Adoption wirklich, jenseits von Umfragen? Nicola Borri, Yukun Liu und Aleh Tsyvinski nutzen in einem neuen NBER-Arbeitspapier einen außergewöhnlichen Datensatz des Model-Routers OpenRouter: 380 Billionen Token, über 400 Sprachmodelle, Millionen Nutzer, rund zwei Prozent des aktuellen globalen monatlichen KI-Tokenverbrauchs. Erstmals wird damit realisierte Nutzung gemessen statt geschätzter Betroffenheit.

Aus dem Wachstum von Tokens, Ausgaben und Nutzern konstruieren die Autoren einen „AI Factor" und messen über den Gleichlauf der Aktienrenditen, wie stark einzelne Firmen exponiert sind. Das Ergebnis: Ein Portfolio, das auf stark exponierte Firmen setzt und schwach exponierte leerverkauft, erzielte 64,1 Basispunkte Überrendite pro Woche. Der Effekt ist kein reiner Tech-Sektor-Effekt; er reicht bis zu konsumnahen und kapitalintensiven Firmen und ist am stärksten bei intensiver Frontier-Nutzung, also Closed-Source-Modellen, zahlenden, erfahrenen Nutzern und langen, komplexen Prompts.

Zwei Sachen sind noch interessant. Erstens sind interaktive, kommunikationsintensive Tätigkeiten positiv exponiert, analytische und prozesssteuernde dagegen negativ. Zweitens wuchs der Anteil agentischer Systeme am Tokenverbrauch (also KI-Nutzung) im Untersuchungszeitraum von praktisch null auf mehr als die Hälfte. Die agentische Ökonomie ist im Rekordtempo angekommen.

Paper: AI Premium, NBER, Working Paper ohne Peer-Review

3. Ein KI-System, das klinische Forschung von der Idee bis zum Manuskript selbst betreibt

Autonome Forschungssysteme existieren jetzt schon seit ein paar Jahren, sind aber fast immer domänenagnostisch. Medizinische Forschung verlangt dagegen klinisch fundierte Hypothesen, spezielle Datenformate und Compliance. Forscher der Chinese University of Hong Kong und von Microsoft Research stellen mit Medical AI Scientist das erste autonome Framework speziell für die klinische KI-Forschung vor.

Es kennt drei Modi: ein Paper reproduzieren, aus Referenzliteratur neue Hypothesen entwickeln oder aus einer offenen Frage eigene Forschungsrichtungen finden. Alle laufen vollautomatisch von der Idee bis zum Manuskript. Ein Clinician-Engineer Co-Reasoning führt medizinische Literatur und Codebases zusammen, damit Hypothesen klinisch rückführbar und technisch umsetzbar bleiben.

In der Ideenbewertung durch Experten liegt das System laut Paper klar vor GPT-5 und Gemini-2.5-Pro. In einer Doppelblindstudie erreichten die Manuskripte MICCAI-Niveau; eines wurde auf der ICAIS 2025 akzeptiert. Grenzen bleiben bei komplexen Methoden und fehlenden Out-of-Distribution-Tests.

Paper: Towards a Medical AI Scientist, ArXiv, Begutachtung im Prozess

Verwandt: In Science zeigt eine Studie, dass OpenAIs o1 menschliche Ärzte und ältere Modelle bei medizinischen Benchmarks und echten Notaufnahmefällen übertraf. (Science)

4. Warum KI-Agenten trotz besserer Modelle langsam und teuer bleiben

Ein Agent löst eine Aufgabe nicht in einem Zug, sondern in einer Schleife aus Planen, Werkzeugnutzung, Beobachtung und erneutem Planen. Der Haken: Mit jedem Schritt wächst der Kontext und damit der Rechenaufwand. Schritt n+1 zahlt immer für die gesamte Arbeit von Schritt n.

Ein Team vom Shanghai Artificial Intelligence Laboratory, der Fudan University und weiteren chinesischen Instituten legt den bisher systematischsten Überblick über Effizienz in agentischen Systemen vor. Untersucht werden drei Komponenten: Gedächtnis, Werkzeugnutzung und Planung. Der Rahmen ist die Pareto-Grenze zwischen Leistung und Kosten, also gleiche Leistung billiger oder mehr Leistung beim gleichen Budget.

Pro Komponente nennen die Autoren konvergierende Prinzipien. Beim Gedächtnis Kontextkompression und Retrieval; beim Tool Learning Belohnungen, die Werkzeugaufrufe minimieren; bei der Planung kontrollierte statt erschöpfender Suche.

Paper: Toward Efficient Agents: Memory, Tool learning, and Planning, ArXiv, Begutachtung im Prozess

Nach Trends sortiert

Harness und Skills

Im Juni habe ich in der FAZ beschrieben, warum die Skill- und Harness-Schicht über dem Modell für Europas KI-Souveränität entscheidend ist. Die Forschung zu dieser Schicht beschleunigt sich seither sichtbar.

Hi,

es ist Sommer. In den nächsten Tagen erscheint eine Sonderausgabe des Briefings mit vielen interessanten akademischen Papers zu KI. Danach gibt es eine zweiwöchige Sommerpause.

Marcel

Im Fokus dieser Ausgabe:

• Kimi K3: Moonshots neues Modell kommt der Frontier so nah wie kein offenes Modell zuvor. Warum das Lab mein Favorit unter Chinas KI-Aufsteigern bleibt.
• Soofi S: Deutschlands Konsortium-Modell ist da. Ob es etwas bedeutet, zeigen erst die Lerneffekte und das Tempo der nächsten Schritte.

Für Abonnenten:

• Waymo und Uber: Warum die Zweckgemeinschaft von Lieferant und Plattform ein Ablaufdatum hat.
• Mistral erhält Milliarden von Microsoft und verhandelt mit Samsung: Kapital für europäische Strukturen, egal aus welchem Motiv.
• Robotik: China führt den Humanoiden-Produktions-Ramp an; Marktführer Unitree in Zahlen.

und mehr

Zitat des Tages

What if the Great Filter is government bureaucracy
The Dark Forest is export license paperwork

Emostaque auf X

Podcast-Sommer: Vibecoding, Europas Herausforderungen

Ich habe mit Sascha Lobo über seine und meine Vibecoding-Erfahrungen im „Tech, KI & Schmetterlinge“-Podcast gesprochen.

Desktop-Apps für den eigenen (Arbeits-)Alltag sind heute leichter erstellt als vor 5 Jahren eine Website. Das ist ein sehr großer Trend. Sascha hat recht, wenn er sagt, dass es hier um eine neue Kulturtechnik geht, die bald zu fast jedem Wissensjob dazugehören wird.

Auf LinkedIn hat Philipp A. Michel, Facharzt für Orthopädie und Unfallchirurgie, kommentiert, was er mit Hilfe von KI gebaut hat:

ein browserbasiertes Planungswerkzeug für die Hüft- und Knieendoprothetik — entstanden in Feierabend-Sessions, mit KI-Unterstützung beim Programmieren und mit dem Fachwissen aus hunderten OP-Planungen als eigentlichem Bauplan.

Ich habe bereits von einigen Ärzt:innen gehört, die mit KI Werkzeuge erstellt haben, die ihnen helfen. Etwa eine App für Patient:innen für das richtige Verhalten nach einer OP.

Tiefes Fachwissen und, vor allem, Prozesswissen, oder, weniger hochtrabend, Arbeitsalltagswissen, sind heute für viele Einsatzzwecke unendlich viel wertvoller für die Softwareerstellung geworden als Programmierkenntnisse.

Mit Marco Herack habe ich außerdem bei den Mikroökonomen über Europas Aufholmöglichkeiten und -herausforderungen bei KI gesprochen. Die europäische Schwäche beim Thema wird zunehmend prekär.

(Aktuell ist es noch eine Premium-Folge für dortige Mitglieder.)

Und in den Exchanges sprechen Jochen Krisch und ich über Übernahmen und Börsengänge im Onlinehandel:

Nach dem AI-Special (“Meine KI-Freunde”) gehen Jochen Krisch und Marcel Weiß In den neuesten Exchanges die großen Übernahmen und Börsengänge der Saison durch, von Uber Eats und Delivery Hero über das Werben von Stripe um PayPal bis zu den geplanten IPOs von Reformation, Shein und RedNote. Außerdem schwingt die alte europäische Frage nach Kapital und Exit-Möglichkeiten mit.

🤖 KI

Claude Opus 5

Anthropic hat Opus 5 veröffentlicht, ohne Wartezeit für die Nutzer.

Anthropics „Fable“-Einführungsstrategie geriet ins Chaos, als die Trump-Regierung den Export von „Mythos“ und „Fable“ verbot, bis OpenAI wettbewerbsfähig war. Sie hatten geplant, ordentliche Einnahmen aus der API zu erzielen und ihre Kapazitäten auszubauen bzw. zu optimieren, bis die Nachzügler aufgeholt hätten. Sowohl GPT-5.6 als auch Kimi K3 haben Anthropic unter Druck gesetzt. Deshalb kam jetzt so schnell Opus 5.

Viel relevanter für uns in Europa ist die Intransparenz des Ganzen: Was ist an Opus 5 anders als an Fable 5, dass kein Exportbann kommt? Aus Gesprächen und ersten Tests lässt sich erahnen, dass Anthropic Opus 5 die Möglichkeit genommen hat, komplexere Arbeitsabläufe autonom zu handhaben. Es kann keine vergleichbar großen Pläne autonom ausführen wie Fable.

Die kleinen Schritte mögen einzeln beeindruckender im Benchmark gegenüber Fable wirken, aber es fehlt die agentische Qualität des mächtigeren Modells.

Das ist etwas, auf das wir uns einstellen müssen: Was dieses oder jenes Modell kann, wird aufgrund der geopolitisch angespannten Lage und der steigenden Fähigkeiten der Modelle künftig noch schwerer erkennbar sein als das bereits seit längerem ist. (Benchmarks erzählen immer nur einen Teil der Story.)

Die Welle der offenen Modelle

Kimi K3

Moonshot hat für Aufsehen gesorgt, weil ihr neues Modell K3 sehr nah an die Frontier-Modelle kommt.

Beispielhaft Guillermo Rauch, Vercel, auf X:

Kimi K3 is the best performing model on nextjs.org/evals, ahead of Fable, reaching a comparable success rate in less time. This is the first time that an open model is ahead of all proprietary ones for this comprehensive web engineering benchmark.

Die Benchmarks täuschen allerdings über die sehr unterschiedliche Verteilung der Fähigkeiten hinweg. Und: Kimi K3 mag günstig per Token sein, aber es verbraucht beim Reasoning sehr viele Tokens.

Ich hatte vor ziemlich genau einem Jahr, im Juli 2025, in der FAZ über Kimi K2 geschrieben und dort Kimi K2 den „zweiten Deepseek-Moment“ genannt:

Die eigentliche Machtverschiebung aber liegt darin, dass China ein ganz eigenes Innovationszentrum für offene KI geschaffen hat und Europa jetzt noch stärker Gefahr läuft, strategisch zwischen den Blöcken zu sitzen. Wenn KI weiter so rasant commodifiziert, werden Entscheider in Europa massenhaft zu chinesischen Anbietern schielen. Einfach weil diese Modelle günstiger und flexibler und damit attraktiver sind.

Das Zeitalter der „Deepseek-Momente“ ist nicht vorbei, es ist auf absehbare Zeit die neue Realität.“

K3 war jetzt ein Einschlag, der sehr viel näher als alles andere vorher gekommen ist.

Seit ich letztes Jahr über sie geschrieben habe, ist Moonshot mehr noch als Deepseek oder Z.ai mein (jetzt nicht mehr so) geheimer Favorit bei der Frage, welches chinesische Lab am besten vorankommt. Letztes Jahr haben sie unter anderem auf der Architekturseite mit einem neuen Optimizer für Aufsehen gesorgt, der das Training stabiler und damit günstiger werden ließ.

Yang Zhilin, der Gründer von Moonshot, ist so eine Art Rockstar in der Branche und wird von vielen als Genie gefeiert. Eine Folge seines Kultstatus ist, dass das Forschungsteam rund um ihn stabil geblieben ist (zum Teil wohl viele, die bereits mit ihm studiert haben).

Ein paar Zitate aus einem FT-Porträt über ihn:

China’s AI race has been a battle for talent, with deep-pocketed tech groups aggressively poaching from smaller start-ups. Throughout this, Yang has kept one of China’s strongest research teams together. Many of Moonshot’s founding researchers studied alongside him either at Tsinghua University, where he graduated top of his computer science class, or at Carnegie Mellon University, where he completed his PhD. During his CMU years, Yang had stints at Google Brain and Meta. [..]
That cohesion has distinguished Moonshot from Chinese AI groups including Alibaba and Baidu, which have seen prominent researchers depart amid disagreements over balancing frontier research with commercial demands. [..]
Former classmates recall Yang, born in the southern province of Guangdong, as unusually gifted. He began coding in high school and won first prize in the National Olympiad in Informatics — an achievement that earned him direct admission to university. He also balanced elite academic performance with music. A drummer in a campus band called Splay, he organised university music competitions alongside future Moonshot co-founder Zhou Xinyu. [..]
“The fact that Yang could get top grades while doing all that made him famous at Tsinghua,” one former classmate said. “People called him Yang Shen” — which translates to “Yang the genius”. “Friends would describe him as romantic and idealistic,” they added.

Soofi S

Ein bisschen unfair, aber setzen wir dem den europäischen großen Wurf Soofi S direkt gegenüber.
Ein vom KI-Bundesverband koordiniertes deutsches Konsortium veröffentlicht ein 30B-A3B-Modell, trainiert auf der Industrial AI Cloud der Telekom in München. Unter den vollständig offenen Modellen erzielt es die besten Werte für Englisch und Deutsch, vor OLMo 3 32B und Apertus 70B (The Decoder, Paper).

Jetzt stellt sich die Frage: Wofür genau braucht man vollständig offene Modelle?

Oder konkret: Was braucht Europa?

Europa braucht eigene Modelle für den Wirtschaftsalltag, die unter europäischer Kontrolle liegen. (Oder unter Kontrolle von Partnern auf Augenhöhe wie Kanada, wo Cohere, der neue Besitzer von Aleph Alpha, sitzt.)

Dafür wiederum braucht Europa neben der Infrastruktur (Rechenleistung, siehe Briefing 282) Kernkompetenzen im Aufbau von Modellen mit allem, was dazu gehört: Datenpipeline, Evaluation, Post-Training, Inferenz-Stack, Monitoring, Sicherheit. Also: die Fähigkeit, Modelle zu trainieren und sie in produktive und bezahlbare Systeme zu übersetzen, die in Unternehmen wirklich laufen.

Dafür kann Soofi S ein erster Schritt sein.

Die Existenz dieses ersten Modells sagt aktuell allerdings noch gar nichts aus über die Bedeutung des Projekts.

Es gibt zwei Anhaltspunkte, die uns etwas über Soofi S sagen können:

1. Wie wurde es gebaut, und was waren die Lerneffekte daraus für die Zukunft?
2. Wie schnell geht es weiter zu den nächsten Modellen und Meilensteinen?

Zu Ersterem:

• Trainiert in der Industrial AI Cloud der Telekom in München: Dort mit Nvidia B200 GPUs
• GPU-Verbindung: NVLink/NVSwitch von Nvidia
• als Basis wurde die Nemotron-3-Architektur von Nvidia genutzt (Nemotron 3 Nano wurde unverändert übernommen)

Das ist viel Nvidia-Infrastruktur, naheliegend, weil man das Rad nicht komplett neu erfinden muss, aber es wirft auch die Frage auf, wie groß oder besser klein dieser erste Schritt jetzt war.

Zu den Erkenntnissen aus dem ersten Trainingslauf schreiben sie im Paper etwa über Gelerntes zur GPQA-Kontamination oder dies hier:

A mixture consisting almost entirely of German FinePDFs (D08) performs competitively on English but collapses on German bits-per-byte, suggesting that document-style PDF text alone is too narrow for the German tail.

Das ist nicht nichts, aber das sind alles kleine operative Erkenntnisse, kein großer Wurf wie die Entwicklung eines eigenen Optimizers bei Kimi K2 vor einem Jahr in China.

Eine große Erkenntnis scheint zu sein, dass es funktioniert zu haben scheint, die Architektur nicht selbst zu entwickeln, stattdessen die Nvidia-Bausteine zu nutzen und sich auf das Datenrezept zu konzentrieren. (Das kann aber auch eine Selbstrechtfertigung sein für die eigenen Entscheidungen. Unabhängige Einschätzungen stehen noch aus.)

Eine Folge daraus: Der Fokus soll weiter auf Datenaufbereitung liegen, um bessere Grundlagen zu erhalten.

continued scaling of the high-quality German data pipeline that this release identified as the principal bottleneck for further gains

Aber wie weit wird uns all das gegen GPT-5.6, GPT-6, Fable 5, Opus 6 und Kimi K3 bis K4, K5 und K6 bringen? Das ist eine offene Frage.

(Im Detail lautet die Frage: Was können wir damit mittelfristig bauen, was einzelne Einsatzzwecke von nichteuropäischen Modellen hin zu Soofi-Modellen oder verwandten oder abgewandelten Modellen verschieben wird, und was davon wird souveränitätsrelevant sein und nicht nur nice-to-have? Und: Welche Teile von Multi-LLM-Systemen müssen dringend selbst gebaut und verstanden werden?)

Zu Zweitem:

[Soofi S] bildet die Grundlage für weitere Soofi-Modelle, darunter spezialisierte Varianten für Dialog-, Reasoning- und Agentenanwendungen.

Wie sich das für Europa gehört, werden Dinge nicht einfach veröffentlicht, damit es schnell vorangeht:

Derzeit liegt der Fokus auf praxisnahen Tests mit Industriepartnern. Eine allgemeine Veröffentlichung zur direkten Nutzung ist noch nicht erfolgt.
Für die nächste Testphase sucht Soofi Unternehmen und Organisationen, die industrielle KI-Anwendungen erproben möchten.

Soofi S allein sagt uns aktuell also noch nichts darüber, ob wir hier etwas vor uns haben, das uns in Europa weiterhelfen wird. Das werden wir erst wissen, wenn wir sehen, wie schnell die nächsten Modelle kommen und wie effizient die Pipeline zum produktiven Einsatz hochgezogen wird. Ob vom Konsortium oder von Dritten.

Für den Kontext sei nochmal auf die komplett offene Modellfamilie Olmo von AI2 aus den USA verwiesen, zu der auch bereits ein erstes Modell für Robotik gehört.

Wir sind spät dran. Wir sollten uns jetzt nicht zu viel Zeit lassen.

Das Soofi-Projekt wurde im November 2025 gestartet.

Thinking Machines Inkling & Tinker

Das erste eigene Modell des Startups von Ex-OpenAI-CTO Mira Murati; ein offenes MoE-Modell (975 Mrd. Parameter, 41 Mrd. aktiv, Apache 2.0), multimodal trainiert. Es ist bewusst nicht als stärkstes Modell positioniert, sondern als Basis für Anpassung per Fine-Tuning über die hauseigene Tinker-Plattform (Thinking Machines, TechCrunch).

Das ist ein schöner Kontrast zu Soofi: Tinker ist eine flexible API zum Fine-Tuning von Open Source Sprachmodellen, die von Thinking Machines entwickelt wurde. Das Produkt wurde am 1. Oktober 2025 angekündigt und ist seit dem 12. Dezember 2025 allgemein verfügbar.

LLMs allein reichen im Agentenzeitalter, das von Tools und Harnesses bestimmt wird, längst nicht mehr aus. APIs wie Tinker zeigen außerdem, dass Infrastruktur auch auf der Modelltrainingsebene entsteht.

„Wir haben ein eigenes Modell gebaut“ ist 2026 einfach zu wenig, um wirklich eine Bedeutung zu haben.

Mehr: Qwen 3.8 und Meituan LongCat 2.0

Qwen3.8 (Alibaba, 19.07.): Auf der WAIC in Shanghai als Max-Preview vorgestellt. Alibaba nennt es „second only to Fable 5“, legt aber weder Benchmarks noch Model Card vor; offene Gewichte sind ohne Datum „bald“ versprochen (SiliconANGLE, TNW).

LongCat-2.0 (Meituan, 30.06.): 1,6-Bio.-Parameter-MoE (rund 48 Mrd. aktiv, 1 Mio. Token Kontext) unter MIT-Lizenz, nach Firmenangaben komplett auf chinesischen Chips trainiert. (VentureBeat, SiliconANGLE).

Besonders Meituan nehme ich gern als Beispiel dafür, wie sehr die europäische Wirtschaft das Thema verschläft: Während ein chinesischer Restaurant- und Lebensmittellieferdienst LLMs produziert, ist es völlig abwegig so etwas von einem führenden deutschen Konzern wie VW zu erwarten.

Warum ist das so? Worth pondering.

Das Entscheidende aus dem OpenAI-HuggingFace-Vorfall

Europa läuft die Zeit davon. Fable ist zwar wieder da, aber die Richtung bleibt die gleiche. Nicht nur Washington, auch aus Peking kommen jetzt die ersten Signale, dass die besten KI-Modelle eventuell in China bleiben sollten. Damit endet absehbar auch der bisherige europäische Ausweg für eine Region, die sich scheut, eigene KI-Modelle auf Weltniveau zu bauen.

China ist autoritär. Das war also immer nur eine Wette auf Zeit. (Und wird irgendwann nur noch mit Huawei-Hardware umsetzbar sein..) Dass Anthropic Mythos und Fable erst wieder in Betrieb nehmen konnten, als zufällig die neuen GPT-5.6-Modelle von OpenAI verkündet und anschließend in Washington „geprüft“ wurden, sagt uns auch einiges über das politische Chaos in den USA.

Auf dieser Unberechenbarkeit lässt sich kein Geschäft aufbauen. Fable kann man wieder in Europa benutzen, aber kein Unternehmen kann darauf langfristig planerisch Prozesse aufbauen.

Marcel

Im Fokus dieser Ausgabe:

• Warum Europa wirtschaftlich mit dem Rücken zur Wand steht

Für Mitglieder:

• Mistral übernimmt Emmi AI
• Meituans LongCat-2.0: Frontier-Training komplett ohne Nvidia
• KI-Labs wollen eigene Chips
• Chinas Humanoide als nächster Exportschock
• UBTech U1: Chinas Companion-Humanoide gehen in Serie
• Europa: Mistral schiebt ein Robotik-Modell nach, die Niederlande eröffnen einen Humanoiden-Hub
• Pro und contra: Meta baut Cloud-Geschäft auf und verkauft überschüssige Rechenleistung
• Privates vollautonomes Auto: aktuell zu wartungsintensiv
• Stripe Directory: Agenten als Kunden
• Diskursrecycling: „Google beerdigt die klassische Suche“ - Digitalsteuerideen und Abhängigkeiten
• und mehr

Zitat des Tages

Compute is so lacking that it makes sense to build data centres almost anywhere, yet countries show no sense of what is at stake.

The Economist

🤖 KI

Status Quo: Der Stand der Technik

@axeghostgame.bsky.social:

what overburdened maintainers need is a tool that reads an entire pr in seconds, adversarially hunts for hidden errors, triages a hundred submissions down to the five worth human attention, never gets demoralised & costs pennies. no idea what that technology would look like though.

Der IWF warnte in einem Blogpost vom 7. Mai 2026, also schon vor einer Weile, KI-gestützte Cyberangriffe könnten einen "makrofinanziellen Schock" auslösen, wenn mehrere Finanzinstitute gleichzeitig getroffen werden. (IMF)

(Heise/Mac & i):

Die Frage sei, „ob das Finanzsystem auch unter extremem Stress weiterhin funktionsfähig bleibt“, schreiben die Autoren. Das bislang nur einem kleinen Kreis von Firmen verfügbare Modell Claude Mythos unterstreiche, wie schnell sich die Risiken erhöhten. Aktuell werde die Situation noch gemildert, weil die fortgeschrittenen KI-Fähigkeiten noch nicht so verbreitet seien und weil die Branche auf geschlossene Finanzsoftware setze, die nach Einschätzung des IWF schwieriger anzugreifen sei als Open-Source-Infrastruktur. Diese Puffer dürften jedoch rasch schwinden.

Mythos fand in Tests tausende zuvor unbekannte Zero-Day-Schwachstellen in allen gängigen Betriebssystemen und Browsern, darunter eine 27 Jahre alte Lücke in OpenBSD.

Am deutlichsten wird es vielleicht mit dieser Grafik von Epoch AI:

Severe cybersecurity vulnerability disclosures (CVEs) spiked in 2026. In June, notable organizations published around 1,500 high- and critical-severity CVEs — more than 3.5× the monthly record prior to Mythos’ release.

3,5 Mal mehr als vor Mythos. Drei. Komma. Fünf. Eine Verdreifachung gefundener kritischer Sicherheitslücken. Das ist nicht nichts!

Ich war seinerzeit verhalten skeptisch über die Aussagen von Anthropic bezüglich Mythos und dessen Fähigkeiten. Der Rollout des größten und mächtigsten Modells an ausgewählte Organisationen, direkte Sales-Anbindung statt Self-Serve.

Wir müssen, Stand heute, festhalten, dass die Aussagen von Anthropic wieder zutrafen. Da kommen wir gleich noch einmal darauf zurück.

(Ein Grund für den größeren Sprung dürfte sein, dass Mythos und Fable auf einem neuen Pretraining-Run basieren. Also eine neue Modellgeneration darstellen. Modellvarianten basieren oft auf dem gleichen Base-Modell und werden durch verschiedene Posttraining-Methoden (RLHF und autonomes RL etc.) verbessert.)

Dieser von Ethan Mollick angepasste Graph von Erkenntnissen von Artificial Analysis zeigt, dass die Lücke zwischen geschlossenen und offenen Modellen wieder größer geworden ist:

Status Quo: Wahrnehmung und Realität

Ich war in den letzten Tagen und Wochen auf verschiedenen Veranstaltungen, die erhellend aber auch teilweise erschütternd waren. Auf einer Veranstaltung in einem Gespräch mit anderen Journalist:innen, deren Schwerpunkt ebenfalls KI und Technologie ist, stellte ich fest, dass es eine unumstößliche Wahrheit zu sein scheint, dass Anthropic etwa die Warnungen vor der eigenen Technologie nicht ernst meint, das sei nur PR.

Lassen wir einmal die Prämisse außen vor, dass ein Unternehmen, um über Jahre so konsistent zu handeln und zu kommunizieren, ausschließlich aus Soziopathen bestehen müsste, und was das über den/die dies Annehmende aussagt: Das Interessante war, dass nicht in Erwägung gezogen werden konnte, dass es beides sein kann, PR und etwas, das sie glauben. Nur wenn man aber das in Erwägung zieht, versteht man ihr Verhalten, und betrachtet auch die allgemeine Entwicklung anders. Amodeis Vorhersage, dass Ende 2025 die Mehrheit neuen Codes von KI kommen wird, hat sich bewahrheitet. Auch an anderen Stellen hatten sie öfter recht als unrecht, muss ich als jemand sagen, der oft skeptisch auf die Prognosen geschaut hat.

Die Aussagen als unbegründeten Hype abzutun, sorgt vor allem dafür, dass man die Augen vor dem Ausmaß der Entwicklungen verschließen kann. Verharmlosung wird dann möglich.

Auf der KI-Konferenz der FAZ habe ich ein Panel moderiert und ebenfalls mit vielen Leuten über diese Themen gesprochen. Der Mittelstand im Maschinenbau sieht diese Entwicklungen (zumindest der sich selbst selektierende Teil, der auf solche Veranstaltungen geht), aber auch hier ist die Dringlichkeit der Lage noch nicht angekommen. Das hatte ich schon Ende letzten Jahres oft mit Sorge mitbekommen.

Der Kuka-Deutschland-Chef Christoph Schell sagte auf der Bühne der FAZ-Konferenz, Deutschland habe beim Thema Robotik noch 12 Monate, bevor es gegen China kaum noch eine Chance haben wird.

Wer Produktentwicklungszyklen im Maschinenbau kennt, weiß, dass man statt 12 Monate auch genauso gut 24 Stunden sagen könnte.

Der deutsche Robotikriese Kuka gehört bekanntlich seit Längerem dem chinesischen Midea-Konzern.

Status Quo: Europa mit dem Rücken zur Wand

Thorsten Benner argumentiert in Foreign Policy, dass Europa selbst mit dem EuroStack-Ansatz kein KI-Gleichgewicht herstellen kann. (Foreign Policy) Dazu passt der Blick auf den Cloud and AI Development Act (CADA) aus dem EU-Souveränitätspaket: Er zielt auf eine Verdreifachung der EU-Rechenzentrumskapazität. (Jones Day) Selbst die strengste CADA-Souveränitätsstufe steht allerdings US-Hyperscalern über kontrollierte Europa-Töchter offen. (TechPolicy.Press)

Und eine Verdreifachung klingt nach viel, aber ist es das?

Die Antwort mit Claude visualisiert:

Die Verdreifachung ist das Minimum, um im Rennen zu bleiben, nicht der Plan, es zu gewinnen.

Quellen u.a.: Politico (März 2026), EPRS-Briefing zum CADA, Kommission, CADA-Policy-Seite, McKinsey (Okt 2024): Europa 10→35 GW Bedarf, eutoday (Juni 2026)

~

Neben Chips und Speicher werden nun auch die Boards selbst teurer. Reuters:

In April alone, PCB prices surged as much as 40% from March, Goldman Sachs analysts said in a recent note. Cloud service providers are willing to accept further increases ​as they expect demand will outstrip supplies over the coming years, they added.
The global PCB industry is projected ​to increase by 12.5% to reach $95.8 billion in 2026, according to a recent report from Prismark.

Die zwei Gründe: Auch der Irankrieg treibt die Kosten hoch und die Hyperscaler sind bereit, höhere Preise zu zahlen, weil die Nachfrage für KI-Agenten durch die Decke geht.

Die Preiselastizität hier ist entscheidend: Die (Firmen-)Kunden wollen mehr KI-Agenten, weil der Gegenwert sehr viel höher ist als das, was sie dafür bezahlen - es ist attraktiv. Die Hyperscaler, die die Infrastruktur dafür bauen und verkaufen, sind ausnahmslos an ihrem Kapazitätslimit.

Deshalb zahlen Hyperscaler höhere Preise. KI ist der wirtschaftlich wertvollste Einsatz von Rechenleistung.

Consumerhardware wird deshalb weiter verdrängt, genauso wie es Branchen wie die Automobilbranche treffen wird, die auch darauf nicht vorbereitet sind.

Steigende Preise und damit sinkende Gewinnmargen sind übrigens gar nicht das Worst-Case-Szenario.

Das schlimmste Szenario hatten wir in der Pandemie gesehen: Stillstehende Werke wegen Chipknappheit.
Die Wahrscheinlichkeit, dass das wieder passiert, ist real.

Für die FAZ habe ich die Tage über den 2. China-Schock geschrieben, der nicht nur die Autobauer trifft, aber VW aktuell am sichtbarsten macht, hinzu kommen Kostenanstiege bei den High-Tech-Komponenten wie aktuell Memory: China-Schock 2.0: Warum Volkswagen so massiv sparen will | FAZ:

Wer verstehen will, warum die Verwundbarkeit so breit ist, muss eine Schicht tiefer schauen. Im Januar dieses Jahres haben wir hier im Briefing den elektrischen Industrie-Stack als die fehlende Grundlage benannt. Gemeint ist die softwaregesteuerte, elektrisch angetriebene Basis der nächsten Industrialisierung aus Mineralien, Batterien, Leistungselektronik, Antrieben und Rechenleistung. Wer diese Schichten beherrscht, beherrscht die künftigen Branchen. China dominiert sie bereits an vielen Stellen.

~

Zu alldem kommt die europäische KI-Schwäche hinzu.

Aktuell können die schwachen Europäer noch auf chinesische Modelle ausweichen, die man sicher hierzulande hosten kann. Aber das war immer nur eine Wette auf Zeit.

In der Fable-Analyse schrieb ich:

Peking wird mindestens so restriktiv sein wie Washington. Auch hier werden die Top-Modelle in ein paar Jahren das Land nicht mehr verlassen dürfen. Und die zweite Riege fürs Ausland wird es nur im Verbund mit chinesischer Hardware geben.

Da bezog ich mich noch primär auf die kommende Komplementärstrategie zwischen KI-Modell und Huawei-Chips.

In der Zwischenzeit haben wir erfahren: Auch China prüft eine stufenweise Export-Beschränkung der besten chinesischen Modelle.

Nochmal: Das war völlig vorhersehbar.

Chinas Handelsministerium hat laut Reuters in den vergangenen Wochen mit Alibaba, ByteDance und Z.ai darüber gesprochen, den Auslandszugang zu den fortschrittlichsten chinesischen Modellen zu beschränken.

Ausdrücklich einbezogen sind offene und noch unveröffentlichte Modelle. Umfang und Zeitplan sind offen.

Wie eine solche Beschränkung aussehen könnte, deutet ein Experten-Roundtable vom Mai an, dokumentiert in einem Journal des Obersten Volksgerichts: einfache Registrierung für Basis-Tools, Sicherheitsprüfungen für fortgeschrittene Technologien, und die sensibelsten Frontier-Modelle würden gar nicht veröffentlicht oder blieben auf den Inlandsmarkt beschränkt .

According to a summary of the discussions published in an official Supreme People's Court journal, participants proposed a tiered system: basic open-source tools subject to a simple ​filing, more advanced technologies facing security reviews, and the most sensitive frontier models barred from public release or restricted to domestic use.

(Reuters)

Das ist dann exakt die gleiche Richtung wie in Amerika.

Gedankenexperiment: Globale KI-Standortpolitik arbeitet gegen Europa

Ich war zu Gast im Mikroökonomen-Podcast, die Folge sollte aktuell als Premium-Ausgabe veröffentlicht werden. Darin erkläre ich, warum Europa bei KI mit dem Rücken zur Wand steht:

Gedankenexperiment: Die US-Regierung hat zwei Optionen zur Auswahl.

Erste Option: Sie erlaubt den Export der besten KI-Modelle der Frontier-Labs. Anthropic und OpenAI wachsen zu zwei sehr großen, sehr mächtigen Konzernen heran. Aufgrund des Marktes für KI weltweit wird jedes der Beiden größer als die größten heutigen Tech-Konzerne.

Zweite Option: Die besten KI-Modelle bleiben den heimischen Unternehmen vorenthalten. Dadurch erhalten die Branchen einen signifikanten Wettbewerbsvorteil. Man denke etwa an die Medizinforschung, die zunehmend nicht nur von „klassischem“ ML sondern auch von LLMs profitiert. US-Pharma erhält einen automatischen Vorsprung gegen die internationale Konkurrenz, wenn es Zugang zu den besten KI-Modellen hat, die nur in den USA verfügbar sind. Europa darf dann die Ergebnisse kaufen.

Diese Überlegungen lassen sich für jede Branche wiederholen. Und sie lassen sich auch für Peking wiederholen.

Die Folge von Option 2 sind erfolgreiche, aber etwas kleinere Frontier-Labs, und gesündere Volkswirtschaften in deren Heimatländern.

Es steht außer Frage, dass wir auf eine Welt wie bei Option 2 zusteuern.

Der Fable-Bann war ein Grönlandmoment für KI in Europa, weil er ebenso wie die Fable-Geschichte zwar keine dauerhafte Situation hervorgebracht hat (Invasion, Exportverbot), aber auf sehr plumpe, anschauliche Art gezeigt hat, wo die Reise hingeht.

Mistral übernimmt Emmi AI

Wikipedia

Die ersten zwei Ären der KI

Es gab bis dato zwei, das KI-Zeitalter definierende Ereignisse. Der erste Moment war natürlich der Launch von ChatGPT im November 2022. Der zweite Moment war um den Jahreswechsel 2025/26, als Claude Opus 4.5 erschien und Claude Code und das neue Claude Cowork in der Desktop-App von Anthropic verfügbar wurden. Nicht nur Claude: Auch Openclaw, Codex und weitere fallen darunter. Das Level der Modelle traf auf das Harness: Die Modelle haben jetzt die Qualität und die Kontextfenster für agentische (also mehrstufige) Aufgaben und mit den „Harnessen“, den App-Gerüsten und Sammlungen an Skripten, Prompts und API-Zugriffen.

Das Harness ist die Gerüst- oder Orchestrierungsschicht um ein Modell herum. Nicht das Modell selbst, sondern alles, was dessen rohe Ausgaben in nutzbare Aktionen oder messbare Ergebnisse übersetzt. Der Harness stellt dem Modell Werkzeuge bereit, führt dessen Tool-Aufrufe aus, gibt die Resultate zurück, verwaltet Kontext und Speicher und kümmert sich um Wiederholungen bei Fehlern. Das Modell liefert die Entscheidung, welches Werkzeug mit welchen Parametern aufgerufen werden soll. Der Harness führt diesen Aufruf real aus und reicht das Ergebnis zurück in den nächsten Schritt.

Die mächtigen heutigen Modelle und diese auf sie zugeschnittenen Arbeitsumgebungen ergeben zusammen etwas qualitativ Neues. Nicht mehr nur ein Werkzeug, das auf Eingaben reagiert, sondern ein System, das Aufgaben eigenständig plant, ausführt und iteriert.

So sehr sich ChatGPT wie der Urknall angefühlt hat, so sehr ist der zweite Moment, nennen wir ihn der Einfachheit halber Claude Code, der Moment, der für diejenigen, die ihn bewusst erlebt haben, also heute Agenten einsetzen, einschneidender.

Venkatesh Rao, in meinen Augen einer der wichtigsten Intellektuellen unserer Zeit:

Following Woolf, we can assert that on or about December 2025, human nature changed. We can argue about whether the ChatGPT moment or the Claude Code moment was the more definitive moment of change. I vote for the latter because it went deeper and offers a fundamentally open-ended architecture for scaffolding human-AI relationships in the future. Unlike the chatbot form factor, which is anthropocentric in conception and fundamentally depth-limited, the agentic coding strange loop creates a fundamentally alien way of being, capable of making us as alien as we dare to become. It is a portal to transhumanism.

Jetzt hat die dritte KI-Ära begonnen

Letzte Woche brachte Anthropic das neue Modell Fable 5 heraus. Fable 5 ist ein Modell der „Mythos-Klasse“. Mythos ist das neue mächtigste Modell, dem Anthropic nur ausgewählten Organisationen Zugang gewährt hat. (Siehe u.a. Briefing 280: Ein Mythos namens Mythos)

Fable 5 ist eine Version von Mythos mit starken Einschränkungen. Da Anthropic davon ausgeht, dass die Fähigkeiten von Mythos bei Themen wie Cybersicherheit oder etwa biologischen Waffen hoch genug sind, um in den falschen Händen Schaden anzurichten, wurden recht harte Sicherheitsschranken bei Fable eingezogen.

(Ich war seinerzeit skeptisch, bin aber nach dem Feedback, den es zu Mythos gab, mittlerweile geneigt, die Lesart von Anthropic ernst zu nehmen. Ob der Umgang des Unternehmens damit deshalb korrekt ist, steht auf einem anderen Blatt.)

Die Sicherheitsschranken umfassten etwa:

• Wenn Classifier(s) einen Prompt als riskant klassifizieren, dann wechselt das Modell auf das leicht weniger fähige Modell Opus 4.8.
• Brisanter: Wer mit Fable Forschung im Machine Learning-Feld macht, also mit dem Modell an LLMs etwa arbeiten will, bekommt ebenfalls nicht die volle Leistungsfähigkeit von Fable. In diesem Fall wird der User aber nicht(!) informiert, dass die Leistungsfähigkeit bewusst reduziert wird. Das kann man durchaus als absichtliche Produktsabotage bezeichnen.

Anthropic:

Fable 5 comes with a new set of classifiers: separate AI systems that detect potential misuse, including jailbreak attempts, and prevent the main model (in this case, Fable 5) from responding. We’ve been running classifiers on our models for some time, and Fable 5’s classifiers are an extension of this previous work with extra coverage.

When Fable’s classifiers detect a request related to cybersecurity, biology and chemistry, or distillation, the response is automatically handled by Claude Opus 4.8 instead. Users will be informed whenever this occurs.

Der zweite, brisantere Punkt, nämlich den User nicht über die absichtlich niedrigere Qualität des Outputs zu informieren, landete nicht im Blogpost zum Modell-Launch und wird nur in der System Card des Modells (PDF) erwähnt:

We have also added safeguards related to frontier LLM development. As discussed in Section 6.1 of our February 2026 Risk Report, we are concerned about the risks of accelerating the overall pace of AI development, though we remain uncertain about the severity of these risks. In particular, our concern is with—as we wrote then—“accelerating other AI developers in building powerful AI systems that pose similar risks to the ones ours pose - without necessarily having commensurate safeguards.” [...]

Unlike our interventions for cybersecurity, biology and chemistry, and distillation attempts, these safeguards will not be visible to the user. Fable 5 will not fall back to a different model. Instead, the safeguards will limit effectiveness through methods such as prompt modification, steering vectors, or parameter-efficient fine-tuning (PEFT).

Im Klartext: Das leistungsfähigste KI-Modell wurde so modifiziert, dass es nicht als Werkzeug dient, um andere KI-Modelle oder Systeme zu bauen. Es nicht im UI zu zeigen (und das nicht im Blogpost zu erwähnen) zeigt uns deutlich, dass hier mehr am Werk ist bei Anthropic: Das ist nicht nur ein Sicherheitsthema, sondern auch Marktabschottung. (Wenn man sich als das einzige ernstzunehmende Safety Lab in AI sieht, dann sind Security und Marktabschottung natürlich ein und dasselbe.)

Wie Anthropic den Launch von Fable angegangen ist, war also bereits ein wichtiger folgenreicher Bruch.

Zu Mythos schrieb ich in Briefing 280:

Der große Vorteil davon ist offensichtlich: Die Labs bekommen direkte Beziehungen zu Großkunden, die alle den frühen Zugang haben wollen. Das ist marketing/salesseitig nicht zu unterschätzen.

Oder plump gesagt: Die Frontier-Labs entdecken gerade Release-Fenster, wie wir es von Filmen (Kino -> Blu-ray -> Streaming/TV) und Büchern (Hardcover -> Taschenbuch) kennen.

In Briefing 281 schrieb ich außerdem:

Nach dem, wie Anthropic mit Mythos/Fable umgeht, sehe ich ein Ende von SOTA-KI im Self-Serve-Modus kommen. Fable arbeitet zum Beispiel aktiv heimlich gegen den Nutzer, wenn dieser damit Machine-Learning-Forschungen durchführt.

Das ist eine Entwicklung, die ich seit geraumer Zeit antizipiert habe. Ein Szenario, dessen Eintreten davon abhängt, wann die Modelle eine gewisse Leistungsschwelle erreicht haben. Ab dieser Leistungsschwelle ergibt es keinen Sinn mehr, weder wirtschaftlich (wegen der Höhe der Wertschöpfung) noch geopolitisch, einen diskriminierungsfreien Zugang anzubieten.

Nun kam es am Freitag zu einer weiteren Eskalation.

Nachdem die US-Regierung über eine Jailbreak-Möglichkeit informiert wurde, hat sie per Export-Control-Directive den Zugang zu Anthropics neuesten Modellen Fable 5 und Mythos 5 für alle ausländischen Staatsbürger untersagt, auch außerhalb der USA und einschließlich Anthropics eigener nicht-amerikanischer Mitarbeiter.

Nettoeffekt laut Anthropic: Das Unternehmen musste beide Modelle abrupt für sämtliche Kunden abschalten, um Compliance sicherzustellen. (Weil Anthropic noch nicht User nach Nationalität sortieren kann. Noch nicht..) Auslöser war offenbar ein von Amazon-Forscher:innen gefundener Jailbreak; Amazon-CEO Andy Jassy soll die Bedenken ans Commerce Department weitergereicht haben. Amazon hat wahrscheinlich nicht mit dieser Reaktion der Administration gerechnet.

Mit dieser drastischen, man muss sagen auch plumpen und für uns Europäer dankbar plastischen Exportregulierung, hat die dritte KI-Ära eindeutig begonnen.

Sign o' the Times

Denn ab sofort ist deutlich, dass die leistungsfähigsten KI-Modelle nicht mehr für alle weltweit (außerhalb Chinas) per API verfügbar sein werden. Diese Ära begann bereits mit Mythos und Anthropics Project Glasswing, das jetzt für 150 Organisationen in 15 Ländern verfügbar ist. Die Segmentierung wird ab sofort weiter fortschreiten.

Natürlich ist der Exportbann-Holzhammer der US-Regierung so wenig nachhaltig wie die Zoll-Eskapaden des letzten Jahres. „Top-KI nicht für Ausländer!“ führt etwa dazu, dass selbst bei Anthropic intern einige Forscher:innen nicht mehr auf die eigenen KI-Modelle zugreifen dürfen.

Lustiger/traurigerweise trifft das auch auf den jüngsten schlagzeilenträchtigen Neuzugang zu. Der KI-Star Andrej Karpathy, der jetzt ausgerechnet sich selbst verbessernde KI bei Anthropic steuern und erschaffen soll, ist slowakisch-kanadisch. Er wurde in Bratislava geboren und hat heute die kanadische Staatsbürgerschaft.

Nachdem man im Weißen Haus erneut lernen wird, dass die Welt komplex ist, wird es zu einem realistischeren Kompromiss kommen. Denn die US-KI-Anbieter brauchen natürlich auch etwa den europäischen oder den indischen Absatzmarkt.

Was wird jetzt zeitnah passieren?

Ein sehr wahrscheinliches Szenario: Alle Inferenzanbieter und US-KI-Anbieter von OpenAI über Anthropic bis Google werden KYC (know your customer) einführen, wie man es bereits von Banken kennt. Das wird zwingende Voraussetzung für die Bereitstellung kommender Top-Modelle werden.

Das wird auch alle Drittanbieter-APIs für Topmodelle betreffen. Es ist wahrscheinlich, dass mindestens mittelfristig die Topmodelle nur noch über First-Party-APIs und Hyperscaler (die KYC stämmen können) verfügbar sein werden. Dritte, etwa Reseller wie Openrouter, dürften das nicht zeitnah implementiert bekommen. Zumal es zunächst nur die Export-Beschränkungen für einzelne Top-Modelle betreffen wird. Am Anfang geht es also um einen kleinen Teil des Umsatzes.

Aber selbst das lenkt vom Wesentlichen ab. Entscheidender ist die kommende Segmentierung der KI.

Europa hat ein großes Problem

Jedes Modell, das Fähigkeiten wie Fable 5 und besser hat, wird in der einen oder anderen Form betroffen sein.

Die alten Evals von Fable 5 sahen so aus:

So sehen die neuen Evals aus:

Das ist lustig und aktuell trifft es ausnahmslos alle Claude-Nutzer:innen weltweit.

Aber was passiert als nächstes und was als übernächstes?

Europa hat nur Mistral und ist aktuell auf die US-Top-Modelle und die offenen Modelle aus China angewiesen.

Ob man es Sicherheit, Preissegmentierung oder Marktabschottung nennt, ist ziemlich egal, das Ergebnis ist das Gleiche: Self-Serve für SOTA-Modelle geht dem Ende entgegen.

Self-Serve-APIs, auch mit KYC, wird es wahrscheinlich noch dieses Jahr nur noch für Modelle der zweiten Riege geben. Wenn die Fähigkeiten weiter wachsen, werden auch diese Modelle mit Klassifikatoren zunehmend restriktivere Maulkörbe verpasst bekommen. Wenn wir in Europa Glück haben, werden wir die Restriktionen vom Modell mitgeteilt bekommen, wenn wir Pech haben, wird es stillschweigend passieren. So wie es bei Fable mit LLM-Forschung bereits kurzzeitig der Fall war.

Damit entsteht für Europa ein Problem der kurzen Wege: US-Unternehmen sind näher dran als Europa an den US-Labs, die die weltweit besten KI-Modelle bauen. Je weiter die Entwicklung voranschreitet, desto größer wird die Schere werden zwischen dem, was Europa bekommt und dem was US-Firmenkunden zur Verfügung steht.

Europa wird also sicher irgendwann ein Fable 5 und ein Fable 6 oder GPT 7 bekommen, mit Maulkörben, aber gleichzeitig haben (ausgewählte) US-Unternehmen Zugang zu Mythos 3.

Europa ist Konsument in digitalen Themen. Es gibt keinen europäischen Hyperscaler, der eine digitale Gelddruckmaschine nutzen konnte, um ins nächste große Thema zu investieren, so wie die US-Konzerne es getan haben.

Europas einzige Chance

Europa hat diverse kurzfristige Optionen, über die ich hier und an anderen Stellen bereits öfter geschrieben habe. (siehe auch unten) Europa kann die chinesischen, „offenen“ Modelle nehmen und anpassen. Es braucht eine explizite Trennung in Trainingsstrategien und Inferenzstrategien bei der politischen Weichenstellung.

Anfang des Jahres hatte ich für die FAZ eine moderne Industriepolitik skizziert und unter Punkt 3 über einen pragmatischen Weg zu eigener KI-Infrastruktur Folgendes geschrieben:

Wie könnte das fokussiert aussehen?

Neue für Trainingsaufgaben ausgelegte Rechenzentren, die „KI-Gigafactories“, werden so organisatorisch aufgesetzt, dass zu einem neuen europäischen Programm gehörende Universitäten bevorzugte Nutzung erhalten.
In diesem hypothetischen europäischen Programm geht es spezifisch darum, chinesische Modelle für den sicheren Einsatz in Europa vorzubereiten.
Ganz konkret: Europäisches Finetuning chinesischer Modelle. Finetuning ist das weitere Training eines vortrainierten Modells auf neuen Daten, um dessen Verhalten anzupassen. In diesem Fall geht es darum, Modelle von chinesischer Zensur zu befreien, sie an europäische Werte und Rechtsnormen anzupassen und mit regionsspezifischen Daten für lokale Anwendungsfälle zu optimieren.
Diese Arbeit erfordert deutlich weniger Rechenleistung als die Erstellung komplett neuer Modelle.
Die Ergebnisse werden selbst wiederum unter freien Lizenzen veröffentlicht. (Das ist fast immer sowieso notwendig aufgrund der Ausgangslizenz der Modelle.)

Angesichts der bereits heute mächtigen Modelle auch im offenen Bereich gibt es hier viele tief hängende Früchte. Europa sollte führend sein in Forschung und Praxis bei Multi-Modell-Systemen. Die USA führt in leistungsfähigsten proprietären KI-Modellen, China in leistungsfähigen offenen Modellen. Europa kann und sollte die Applikations- und Harness-Ebene darüber dominieren.

Das ist eine sinnvolle Strategie, weil es die Stärken der anderen zu Schwächen macht. (Jede Strategie hat immer zwei Seiten.) Die starken proprietären Modelle haben alle drei großen US-Player zu vertikal integrierten Strategien „verdammt“. Die heutigen APIs täuschen da nur noch über die kommende Segmentierung hinweg. China kontert mit offenen Modellen, hat aber aufgrund der politischen Gesamtsituation ein Vertrauensproblem, was ein Angebot proprietärer Modelle oder Modellhosting angeht. Kein europäisches Unternehmen will seine internen Daten mit einem KI-Modell verarbeiten, das bei einem chinesischen Anbieter gehostet ist.

Nur Europa kann beide Seiten aktiv vereinen und darauf aufbauend bauen.

OK, das stimmt nur halb. Natürlich können auch US-Unternehmen das machen. Aber im Gegensatz zu Amerika hat Europa auch politisches Interesse, das zu forcieren.

Es ist deshalb frustrierend zu beobachten, dass das in New York sitzende OpenRouter jüngst mit der Fusion-API etwas vorgestellt hat, das genau so aus einem innovativen Europa kommen müsste. Ein Prompt wird parallel an mehrere Modelle geschickt (ein “Panel”). Ein Judge-Modell analysiert alle Antworten auf Konsens, Widersprüche und einzigartige Einsichten, und erzeugt daraus eine „fusionierte“ Antwort.

Im DRACO Benchmark zum Beispiel erreichte Fusion mit einem Panel aus Fable 5 und GPT-5.5 einen Score von 69,0 %, womit es das bisher beste Einzelmodell (Fable 5 mit 65,3 %) und alle Frontier-Modelle übertraf. Mehr noch: Ein Budget-Panel aus Gemini 3 Flash, Kimi K2.6 und DeepSeek V4 Pro schlug GPT-5.5 und Opus 4.8 und kam auf 64,7 % — bei 50 % der Kosten.

Wieso, in Herrgottsnamen, wird so etwas nicht in Europa erdacht, gebaut, erweitert? Das ist eine Frage, mit der wir uns auseinandersetzen müssen.

Wichtiger noch aber als diese sofortigen Produktpotenziale sind die Effekte zweiter Ordnung.

Eine starke Inferenzstandort-Politik und eine pragmatische Industriepolitik, die den beschriebenen Einsatz offener Modelle für Europa vorantreibt, weil Europa keine eigenen proprietären Top-Modelle hervorbringt, würde einerseits nicht nur handfeste Infrastruktur aufbauen. Es würde gleichzeitig, und das ist langfristig sogar wichtiger, hierzulande stärker organisatorische Kernkompetenzen aufbauen. Das gilt nicht nur für das gesamte Ökosystem an Unternehmen und Forschungseinrichtungen, sondern auch etwa auf der persönlichen Ebene, auf der Top-Forscher:innen Top-Arbeitsplätze in Europa brauchen, damit sie nicht per Default nur zu den Labs in Amerika gehen können.

Das alles reicht natürlich nicht. Es ist lediglich das absolute Minimum, wenn Europa nicht den Weg das komplett abhängigen Vasallen gehen will.

Langfristig braucht Europa zwingend eigene Top-KI-Modelle. Deshalb sind Ineffable Intelligence in London und AMI Labs in Paris so wichtig, neben Mistral.

Aber China?

Aber warum braucht Europa das, wenn China offene Modelle veröffentlicht, die alle weltweit nutzen können?

Gegenfrage: Wer geht ernsthaft davon aus, dass Xi Jinping offene KI-Modelle aus China für den Rest der Welt erlauben wird, die auf dem Level von Fable 5 oder 6 oder 7 sind? Oder anders gefragt: Wo wird die Grenze für China liegen?

Meine These sieht folgendermaßen aus: Offene KI aus China steht und fällt mit der Chipentwicklung bei Huawei. SMIC, Chinas führender Halbleiterhersteller, kann bereits 7nm-Chips produzieren. Gemeinsam mit Huawei arbeitet SMIC an der Entwicklung eines 5nm-Chips. TSMC in Taiwan bereitet die Massenproduktion von 2-nm-Chips vor. Huawei hat eine schlechtere Variante zu Nvidias Cuda. (Was Berichten zufolge das Training des neuen Deepseek-Modells erschwerte.) Das ist alles noch nicht auf Augenhöhe mit dem Westen. Aber es gibt im Autarkiebestreben Chinas kaum etwas, das wichtiger ist als ein eigenes, komplettes Chipsystem auf Weltspitze-Niveau. (Oder zumindest nah genug dran, so dass es in den meisten Fällen kaum einen Unterschied macht.)

Es wird noch ein paar Jahre dauern, bis das steht. Vielleicht drei, vielleicht fünf, auf keinen Fall zehn oder mehr.

Wenn das steht, kann ein chinesisches KI-Ökosystem bestehend aus bereits bekannten und erlernten KI-Modellen und chinesischen Chips, aufeinander abgestimmt, weltweit verkauft werden. Wenn das steht, wird es keinen Sinn mehr ergeben, die besten chinesischen Modelle zu „verschenken“. Wenn das steht, kann China Taiwan angreifen.

Peking wird mindestens so restriktiv sein wie Washington. Auch hier werden die Top-Modelle in ein paar Jahren das Land nicht mehr verlassen dürfen. Und die zweite Riege fürs Ausland wird es nur im Verbund mit chinesischer Hardware geben.

Die Frage ist nicht ob, sondern nur wann und wie es passieren wird.

Googles DeepMind-Problem

Es gibt einen Lichtblick in Europa. Etwas, über das ich in privaten Gesprächen seit Monaten immer wieder rede.

Googles KI-Kernteam DeepMind sitzt in Großbritannien. Das war auch schon vor letzter Woche sichtlich nicht mehr langfristig haltbar. Denn Google stellt seine KI-Modelle auch dem Pentagon zur Verfügung. In welcher Welt ist es auf lange Dauer möglich, dass britische Staatsbürger in Großbritannien dieses Produkt für das US-Militär produzieren?

Es ist nicht nur die Frage, wie das Pentagon oder das amerikanische „Kriegsministerium“ (jfc) die Sicherheitsaspekte, das Supply-Chain-Risiko, einschätzen. Mich treibt mehr die Frage um, wie lang die britischen Mitarbeitenden direkt an einem Produkt für das US-Militär beteiligt sein wollen.

Ich gehe davon aus, dass Ineffable Intelligence nicht das letzte Startup von Ex-DeepMind-Leuten sein wird sondern eher der Anfang. Außerdem würde ich als Headhunter versuchen, so viele Leute wie möglich abzuwerben. Es gibt keinen besseren Zeitpunkt, Top-Talente da herauszuholen.

DeepMind könnte das Nucleus einer europäischen KI-Branche werden. Gemessen an der Bedeutung, die KI künftig haben wird, ist das ein weiterer und sehr gewichtiger Grund für Brüssel, einem Rückeinstieg Großbritanniens in die EU zu unterstützen.

Die Achse Paris-London ist das Einzige, das aktuell auch nur einen Funken Hoffnung machen kann, was Europa und KI angeht.

Es wird nicht einfacher werden

Weil KI mehr Wertschöpfung in Unternehmen schafft als klassische Software, wird sich die SaaS-Geschichte nicht wiederholen. Bis dato sah das Verhältnis Europa-USA so aus, dass in den USA die digitalen Innovationen entwickelt und gebaut wurden, und diese dann in Europa gekauft oder gemietet wurden. Vom zur „Cloud“ getauften Serverpark mit Primitives bis hin zum slicken SaaS-Angebot. Das waren überschaubare Kostenpunkte für Produktivitätssteigerungen, die vergleichsweise austauschbar waren.

Wir befinden uns bei KI gerade noch am Ende der Kostenreduktionsphase. Die wirklich spannende Phase steht gerade in den Startlöchern. (Weil die agentische KI-Ära erst vor einem halben Jahr richtig begann.) KI-First-Produkte, die nur möglich sind, weil die Prozesse in den Unternehmen mit KI im Kern neu gedacht wurden. An diesen wirklich spannenden, organisatorischen Grenzen des Machbaren geht umso mehr je besser die Modelle sind.

Ein mögliches Szenario ist, dass die US-KI-Labs neue Unternehmens-Klassen ermöglichen, die mit dieser rohen Intelligenz Produkte bauen, welche dann auch an Europa verkauft werden. Europa rutscht dann also eine Stufe weiter nach unten. Vom Konsumenten der digitalen Technologie (Software und Cloud) zum Konsumenten der Produkte der Konsumenten der Technologie (Europa bekommt nur, was mit KI gebaut wurde; nicht die Möglichkeit auf Augenhöhe mit KI selbst zu bauen).

Man denke beispielsweise etwa an die Pharma-Branche, die bereits heute stark von Machine-Learning-Prozessen bei der Medikamentenforschung durchzogen ist und so von jeder Steigerung der Fähigkeiten der LLMs weiter profitiert.

Wie soll die europäische Pharma-Industrie mithalten, wenn künftig die besten Werkzeuge nur den US-Konkurrenten offen stehen werden?

Das ist eine sehr ernste Frage für Europa, die sich exakt so für jeden Wirtschaftszweig wiederholen lässt. KI ist eine Querschnittstechnologie, die jede Branche treffen wird, nicht nur Pharma.

Die wahre Herausforderung beginnt mit den kommenden KI-Modellen. Chatbots bieten kleine Hilfestellungen, und heutige Agentensysteme können bereits Teilprozesse übernehmen. Im nächsten Schritt werden diese Systeme ganze Prozesse von Anfang bis Ende steuern können. Diese Systeme sind mächtige Informationssysteme, die Informationen sortieren und auswerten und somit entscheidend zur Wertschöpfung beitragen werden. Wer das nicht ernst nimmt, müsste auch die Bedeutung von Ausbildung, Weiterbildung, Schulen, Universitäten und beruflicher Fortbildung für eine wettbewerbsfähige Wirtschaft infrage stellen. Eine Position, die wohl niemand vertreten würde.

Wissen und Wissensgenerierung wird mit KI industrialisiert. Deshalb muss Europa dieses Thema zwingend ganz oben auf die Agenda setzen.

Kein Unternehmen will ein Produkt zweiter Klasse einkaufen, wenn dieses Produkt zentral für die eigene Wertschöpfung ist. Der Unmut wird also wachsen, wenn man hierzulande nur aufwendig Zugang zu Modellen bekommt, die nicht so leistungsfähig sind wie jene, die in den USA verfügbar sind. Aber das könnte erst zu einem Zeitpunkt geschehen, wenn es zu spät ist. Es ist bereits sehr spät und die Dringlichkeit der Situation scheint nicht jedem Unternehmen und jeder europäischen Regierung in vollem Umfang bewusst zu sein.

Deshalb ist das plumpe Vorgehen der US-Regierung hier so hilfreich für Europa. Der sofortige Bann, das damit notwendige komplette Abschalten des Modells und ein wahrscheinlich zügig kommendes KYC, das ist das Grönland der KI-Welt für Europa.

Es macht wie der senile Traum von der amerikanischen Grönlanderoberung mit einem Mal deutlich, was bereits vorher absehbar aber noch ignorierbar war. Es wurde abrupt der Schleier gelüftet und eine graduelle Entwicklung, die bereits begonnen hatte, für alle sichtbar gemacht.

Für die Politik sollte diese Dringlichkeit noch deutlicher sichtbar sein als für die Wirtschaft, denn was es auf jeden Fall zu verhindern gilt, ist eine Situation, in der amerikanische Unternehmen und/oder die amerikanische Regierung entscheiden, welche europäischen Unternehmen für welche Produktarten Zugang zu welchen Modellen erhalten dürfen.

Amerikanische Kingmaker für europäische Volkswirtschaften. How about that for an AI doom scenario.

FAZ-Texte zu europäischer Souveränität und Stärkung des europäischen Standorts

Weiterführende Texte in der FAZ von mir zum Themenkomplex digitale/technologische Souveränität Europas und Stärkung des europäischen Standorts:

• 2026-06-10 · Frankreich investiert Milliarden: Europas KI-Zukunft: 93 Milliarden Euro Investitionszusagen machen Paris zum Zugangspunkt für den europäischen KI-Markt; das nützt auch Deutschland.
• 2026-05-27 · Europa hat auf keiner Achse der Raumfahrt ein Pendant zu SpaceX: Strukturelles Defizit beim Aufbau europäischer Schlüsselindustrien; ohne große Vision kein Talentmagnet.
• 2026-05-06 · David Silver und Reinforcement Learning: Europas KI-Chance: Mit Ineffable Intelligence und AMI Labs entstehen zwei europäische Alternativen zum LLM-Mainstream.
• 2026-04-29 · Cohere und Aleph Alpha: Was uns die Übernahme über digitale Souveränität lehrt: Die Übernahme als positiver Wendepunkt für Deutschland und für die Frage, was digitale Souveränität wirklich bedeutet.
• 2026-04-01 · Tech-Souveränität: Europas Befreiungsschlag mit KI: Die KI-Disruption als einmalige Chance, die Abhängigkeit von amerikanischer Cloud- und KI-Infrastruktur zu lösen.
• 2026-03-18 · AMI Labs und Yann LeCun: Paris wird KI-Hauptstadt Europas: Größte Seed-Runde Europas; zusammen mit Mistral wird Paris zum europäischen KI-Zentrum.
• 2026-01-14 · Industriepolitik: 5 Dinge, die Deutschland ändern muss: Fünf Handlungsfelder für strategischere, europäischere und schnellere Standortpolitik nach chinesischem Vorbild. Einer meiner wichtigsten Texte der letzten Jahre.
• 2025-10-08 · Bosch, Trumpf und Siemens: Wie die deutsche Industrie lokale KI einsetzt: Deutsche Industrie macht sich mit lokalen KI-Modellen unabhängig von US-KI-Riesen.
• 2025-05-14 · Die Chip-Strategie der EU ist nur ein Tropfen auf den heißen Stein: Europas Chips Act bleibt im Vergleich zu chinesischen und amerikanischen Investitionen unzureichend.
• 2025-04-15 · Offene KI als Ausweg für Europa: Offene Modelle als Weg aus der Abhängigkeit von amerikanischen Techgiganten.
• 2026-04-08 · DeepSeek und chinesische KI: Warum sie im Westen boomen: Deutschlands dreigeteilte Antwort auf chinesische Modelle, von China-only bis eigene Infrastruktur.

Eine ereignisreiche Tech-Woche. Neben Apples jährlicher Intelligence-jetzt-aber-wirklich-angekündigt-Konferenz WWDC haben wir erfahren, dass neben Anthropic auch OpenAI erste Unterlagen für einen Börsengang eingereicht hat. Und SpaceX geht an die Börse. (Erster Handelstag 12. Juni 2026)

Es gibt nahezu unendlich viel, das man über diesen Börsengang sagen kann. Entscheidend für mich war der Blick aus Europa und was uns fehlt. Wie ich vor ein paar Tagen in der FAZ schrieb:

Aus der Vision folgen die Talente, und aus der manischen Produktentwicklung folgt schließlich die Kostenstruktur. Daraus entsteht eine Trägerraketen-Kapazität zu Stückkosten, die zuvor niemand erreicht hat. Die Falcon 9 schafft eine Tonne Nutzlast für etwa 2700 bis 2940 Dollar in den niedrigen Orbit, die europäische Ariane 6 kommt im Vergleich dazu auf 5300 bis 7400 Dollar. Noch deutlicher wird die Asymmetrie bei der Startfrequenz: SpaceX hat 2024 134 Falcon-Starts durchgeführt; Arianespace plant für 2026 sechs bis acht Ariane-6-Missionen.

Diese Kapazität führte ab 2015 zu einem Problem, das aus deutscher Sicht paradox klingt. Die Welt brauchte schlicht nicht genug Satellitenstarts, um eine derart günstige Trägerrakete in voller Auslastung zu betreiben. Der „Economist“ hat das in einem Briefing vom Oktober 2024 unter dem Titel „Filling up space“ beschrieben. Die einzige Möglichkeit, die Überkapazitäten von SpaceX – freien Lagerraum in den Raketen – zu nutzen, bestand darin, selbst Kunde zu werden.

Daraus entstand Starlink. Rund zwei Drittel aller aktiven Nutzlastsatelliten heute gehören zu Starlink.

Schwer in Worte zu fassen, wie viele Stufen Europa mittlerweile zurückliegt.

Sind orbitale Rechenzentren zeitnah wirtschaftlich nachhaltig umsetzbar? Musk wird es herausfinden. Wer es nicht herausfinden kann, ist Europa.

Ein Hinweis zur unregelmäßigen Veröffentlichungsfrequenz: Das Briefing erscheint ab sofort wieder wöchentlich, künftig manchmal kürzer als früher. Gleichzeitig kommen noch andere Sachen. Mehr in Kürze.

Marcel

Im Fokus dieser Ausgabe:

• Anthropic überholt OpenAI: Börsengang kommt, profitables Quartal, 965-Mrd.-Dollar-Bewertung, eigener Chip in Entwicklung. Der Default-Status von OpenAI ist weg.
• Mathematik und KI: GPT-5.5 Pro liefert PhD-Level-Forschung in einer Stunde. Ein OpenAI-Modell löst ein 80 Jahre altes Erdős-Problem. Die Leistungsgrenze verschiebt sich schneller als die meisten Entscheider:innen realisieren.
• Modellsegmentierung kommt. Mythos/Fable ist erst der Anfang.
• Cohere und Aleph Alpha: Erster westlicher Sovereign-AI-Champion mit deutscher Beteiligung entsteht. 20-Mrd.-Dollar-Bewertung, Schwarz-Gruppe investiert 600 Mio. Euro.
• Compute-Crunch wird Konsumthema: RAM-Knappheit bis 2027, Billig-Smartphones verschwinden, BYD erhöht Driver-Assist-Preis um 21 Prozent. RAMageddon ist im Mainstream angekommen.
• Humanoide Robotik: China liefert 80 Prozent aller Humanoide weltweit. Sereact aus Stuttgart als einer der wenigen europäischen Lichtblicke. Schaeffler und Bosch positionieren sich als Zulieferer.

• und mehr

Zitat des Tages

"Non-technical teams are now shipping production code" is a wild sentence to read in a memo from a custodian of billions in customer assets. Current tech isn't there yet. Especially not where the threat model includes nation states.

Justin Elze auf X, zum Coinbase-Memo, (Memo auf X)

🤖 KI

Anthropic ist profitabel

…und wird nach SpaceX und sehr wahrscheinlich vor OpenAI an die Börse gehen.
Nach der im Mai abgeschlossenen 65-Mrd.-Dollar-Runde mit einer Post-Money-Bewertung von 965 Mrd. Dollar hat Anthropic OpenAI in der Bewertung überholt. (u.a. FT)

OpenAI ist nicht mehr der automatische Default.

Für den Rest von uns ist dieser Wettbewerb natürlich gut.

Noch ein paar weitere Punkte.

Verdrängung unter Techaktien: Die FT erwartet, dass passive Investoren Milliarden anderer Tech-Aktien verkaufen müssen, um Platz für SpaceX-, OpenAI- und Anthropic-Emissionen zu schaffen. Irgendwo muss das Geld ja herkommen. (FT)

Ein wichtiger Datenpunkt inmitten des Booms im WSJ: Anthropic wird dieses Quartal profitabel sein, mit 559 Millionen Dollar Gewinn.

In the first quarter, Anthropic spent 71 cents on computing power for every dollar it made. In the current quarter, it expects to spend 56 cents per dollar

Das schließt auch die Trainingskosten neuer Modelle mit ein.

Inferenz (Nutzung der Modelle) per API ist bereits profitabel, sowohl für OpenAI als auch Anthropic. Je nach Nutzung der Abos sind auch diese obzön profitabel oder nur am Break-even.

Hier eine Einschätzung von SemiAnalysis:

Das ändert aber alles nichts daran, dass Anthropic nur profitabel ist, weil sie sehr konservativ investiert haben. (Wer sich ein bisschen mit Anthropic beschäftigt, versteht auch warum.) Ein profitables Quartal werden sie in dieser Wachstumsphase so schnell nicht wieder haben.

Anthropic wird jetzt stattdessen in Rekordzeit zum globalen Konzern heranwachsen.

Noch ein Datenpunkt auf X zu den Ambitionen: Die ersten Leute, die bei OpenAI an eigenen Chips arbeiten, gehen zu Anthropic. Anthropic entwickelt einen eigenen Chip. (OpenAIs eigene Chips sollen wohl erstmals Ende 2026 zum Einsatz kommen.)

OpenAI hält sich alles offen

Timing und Spieltheorie: OpenAI hat ebenfalls erste Unterlagen für einen Börsengang eingereicht, hält sich aber offen, wann genau sie den Prozess starten werden.

Kurz vorher wurde noch berichtet, dass CFO Sarah Friar intern vor verfehlten Q1-Zielen warnte und sogar an der IPO-Reife für Ende 2026 zweifelte. (Forbes)

Das Hauptproblem für OpenAI sind Anthropics rasanter Aufstieg im letzten halben Jahr und die Börsengänge von SpaceX und Anthropic, die beide Kapital binden werden. (OpenAI braucht, wenn es als dritter Mega-IPO kommt, eine wirklich überzeugende Story.)

Mythos für me, Fable for thee

Anthropic hat Fable 5, ein „Modell der Mythos-Klasse“ veröffentlicht. Im Abo bis zum 22. Juni verfügbar. Danach nur noch mit Abrechnung nach Nutzung. Es ist ein großes teures und langsames Modell. Wichtiger: Es kann nicht alles, was Mythos kann und: Anthropic hat bewusste Nutzungsgrenzen eingebaut.

Ich gehe davon aus, dass wir diese Abstufungen zunehmend sehen werden, nicht nur im Release-Fenster wie wir im letzten Briefing mit Bezug auf Mythos behandelt hatten:

Der große Vorteil davon ist offensichtlich: Die Labs bekommen direkte Beziehungen zu Großkunden, die alle den frühen Zugang haben wollen. Das ist marketing/salesseitig nicht zu unterschätzen.

Oder plump gesagt: Die Frontier-Labs entdecken gerade Release-Fenster, wie wir es von Filmen (Kino -> Blu-ray -> Streaming/TV) und Büchern (Hardcover -> Taschenbuch) kennen.

Nach dem, wie Anthropic mit Mythos/Fable umgeht, sehe ich ein Ende von SOTA-KI im Self-Serve-Modus kommen. Fable arbeitet zum Beispiel aktiv heimlich gegen den Nutzer, wenn dieser damit Machine-Learning-Forschungen durchführt.

Mehr dazu in einem separaten Text zu einem späteren Zeitpunkt.

Cohere und Aleph Alpha: Sovereign-AI-Champion mit transatlantischer Geometrie

Vor kurzem wurde bekannt, dass Aleph Alpha in Cohere aufgeht. In der FAZ schrieb ich, das damit Aleph Alpha zum lokalen Vertrieb und Integrationsarm für die Kanadier wird. Eine sinnvolle Entwicklung.

Das war alles wenig überraschend. In Briefing 218 schrieb ich im Juli 2024 angesichts der damaligen Investitionsrunde in Aleph Alpha:

Zunächst sollte hier für den Kontext festgehalten werden, dass angesichts der immensen Kosten beim Training von Transformern weder 100 Millionen noch 500 Millionen Euro ausreichend viel wären für einen Anbieter, auf dem die Hoffnung Deutschlands liegt.

Nun setzt Aleph Alpha bekanntermassen nicht auf den kompletten Transformer-Ansatz (stattdessen autoregressive (causal, decoder only)), was es die Modelle nachvollziehbarer machen soll, in der Realität aber vor allem schlechter macht als die Konkurrenz.

Alles fällt auf die geringe Qualität der Aleph-Alpha-Modelle im Alltag zurück. Seit Herbst 2023 habe ich immer wieder in privaten Gesprächen gehört, wie unbenutzbar im Grunde die Modelle von Aleph Alpha sind, wenn man sie mit den ChatGPT-Modellen oder auch Mistral-Modellen vergleicht.

Im März 2024 in Briefing 186 über den eher fragwürdigen USP der Datensouveränität:

Open Source kann komplett On Premise betrieben werden, also mit MEHR Datensouveränität als in Aleph Alphas Rechenzentrum in Bayreuth.
Open-Source-Modelle sind anpassbar und rund um sie entsteht in rasanter Geschwindigkeit ein Ökosystem von Dienstleistern und Mittelsmännern aller Art, die jede Form von Customization anbieten werden.
Mit dieser Vielfalt werden Aleph Alpha und seine Partner nicht mithalten können, wenn ihre Modelle nicht qualitativ ebenbürtig sind.
Once more: Auch das Argument KI aus Europa zieht nicht, wenn Mixtral aus Paris nicht nur Open Source sondern auch noch qualitativ sehr viel besser ist als das beste geschlossene Modell von Aleph Alpha.

Aleph Alphas ursprüngliche Modellstrategie ergab also nie viel Sinn.

Ich hatte deshalb ein halbes Jahr vor dem Strategieschwenk von Aleph Alpha weg von eigenen Modellen eben diesen Pivot bereits in Briefing 186 als wahrscheinlichstes Szenario für das Startup vorhergesehen:

Aleph Alpha wird ein Integrationspartner und Datencenterbetreiber, quasi ein spezialisierter Cloud-Computing-Anbieter, für KI-Implementationen bei datensensitiven Einsätzen in der deutschen/europäischen Wirtschaft. Hierfür werden neben den Luminous-Modellen auch Modelle wie Mixtral integriert.

Ein Problem für Aleph Alpha ergab sich dann wahrscheinlich zusätzlich aus der Modelllandschaft:

Metas Llama-Modelle, auf die man sich konzentrieren wollte, fielen gegen die Konkurrenz zurück und Meta gab schlussendlich mehr oder weniger auf. Aus mir unerfindlichen Gründen stört sich Aleph-Alpha-Hauptanteilseigner und Partner Schwarz/Stackit an der Microsoft-Investition in Mistral, wie man unter anderem in der ersten Folge des Podcasts „Tech, KI & Schmetterlinge“ letztes Jahr hören konnte. (Disclosure: Ich bin Gast im Podcast gewesen und arbeite ab und an bei der Themenrecherche mit.)

Die Übernahme bringt Cohere und Aleph Alpha auf eine Bewertung von rund 20 Mrd. Dollar. Das Beteiligungsverhältnis ist eindeutig: 90 Prozent gehen an die bisherigen Cohere-Aktionäre, rund 10 Prozent an die bisherigen Aleph-Alpha-Aktionäre. Die Schwarz-Gruppe, bisher Hauptgesellschafter von Aleph Alpha, investiert parallel 600 Mio. Euro in die kommende Series-E-Finanzierungsrunde von Cohere. Sowohl die deutsche als auch die kanadische Regierung unterstützen den Deal ausdrücklich. Die ganze Analyse mit der Historie von Cohere in meinem FAZ-Text Cohere und Aleph Alpha: Was uns die Übernahme über digitale Souveränität lehrt.

Cohere wurde 2019 von Aidan Gomez (einem der Mitautoren des „Attention Is All You Need“-Papers) und Ivan Zhang gegründet.

Die zentrale Pointe meiner Analyse zur Souveränitätsdebatte: Die geopolitische Dimension digitaler Souveränität hängt nicht an geographischer Nähe. Kanada liegt zwar auf einem anderen Kontinent, ist Europa aber geopolitisch sehr nah; eine demokratische Middle Power. Wenn Deutschland allein zu schwach ist und KI gleichzeitig zu wichtig wird, dann muss der Blick weiter werden, als Beispiele führe ich Südkorea und Japan an. Pragmatismus und internationale Partnerschaften sind die Gebote der Stunde. Ohne solche Partnerschaften wird Europa nicht digital souverän.

Der Aufbau dieses neu positionierten KI-Players geht natürlich weiter: am 20. Mai 2026 wurde die Übernahme von Reliant AI bekanntgegeben, einem Startup mit Standorten in Berlin und Montreal. (Passt also auch schon geografisch.) (Trending Topics)

Reliant AI betreibt eine Rechercheplattform, die Pharmaunternehmen bei systematischen Literaturanalysen, Wettbewerbsanalysen sowie der Extraktion unstrukturierter wissenschaftlicher und regulatorischer Daten unterstützt. Cohere integriert die Technologie in ein neues Produkt namens „North for Pharma“, ein agentisches KI-System für ebendiese Aufgaben.

Gleichzeitig baut Frankreich massiv KI-Infrastruktur auf. Ich in der FAZ:

Deutschland muss sich wie jedes europäische Land strategisch in den europäischen Markt einbetten. Moderne Industriepolitik und Wettbewerbsfähigkeit fangen im Kopf an.

Nachhaltig erfolgreiche KI aus Europa wird es nur als gemeinsame Marktanstrengung geben.

Es bewegt sich was.

Mathematik & GPT-5.5 Pro

Hi,

Mythos ist relevant, aber nicht, weil es das Übermodell ist, sondern weil es abgestufte Zugänge zu neuen KI-Modellen einführt. Neben den Vorteilen für die Labs ist das auch ein Zeichen des jetzigen Zeitalters am Limit: KI wird auf absehbare Zeit an der Grenze der verfügbaren Rechenleistung laufen. Ausfälle und Einschränkungen bleiben uns vorerst erhalten.

Marcel

Im Fokus dieser Ausgabe:

• Nvidia-CEO über Chips und China
• Warum die Abstufung des Zugangs zu Anthropics Mythos bleiben wird

Für zahlende Mitglieder:

• KI am Kapazitätslimit
• KI und Pharma
• Gründe, warum SpaceX und Cursor zusammengehen wollen
• Neue mobile UI dank KI
• Investitionsentwicklung bei autonomen Autos
• und mehr

Zitat des Tages

We have a 1999 meltup in semiconductors, space and ai while the world deglobalizes, oil explodes with inflation and high rates

The markets never cease to amaze me

Nobody knows anything

Howard Lindzon auf X

🤖 KI

Jensen Huang im Interview mit Dwarkesh Patel

"You're not talking to somebody who woke up a loser. That loser attitude, that loser premise makes no sense to me. We're not a car."

Jensen Huang über die Komplexität und Abhängigkeiten des Chip-Ökosystems im Interview mit Dwarkesh Patel.

Besonders sehenswert ist das Gespräch über die Frage (Zeitstempel), ob die USA die leistungsfähigsten Chips nach China exportieren sollten oder nicht. Patel steckt tief in der Materie und kann Jensen Huang Paroli bieten wie kaum ein Journalist.

Huang beschreibt AI im Gespräch als einen “Five-Layer Cake” (Fünf-Schichten-Kuchen). Er benennt die Schichten nicht alle einzeln, aber aus dem Gespräch lassen sich die fünf Ebenen ableiten:

1. Energie: Huang betont mehrfach, dass Energie die Basis von allem ist. Ohne Energie keine AI-Industrie, keine Chip-Fertigung, keine Rechenzentren. (Energie ist auch, wo Amerika und mehr noch Europa am schwächsten aktuell dasteht.)
2. Chips / Halbleiter: Die Chip-Ebene, also die Fertigung von Logik (GPUs, ASICs), Speicher (HBM) und Packaging (CoWoS). Hier verortet Huang Nvidia selbst, zusammen mit der gesamten Upstream-Lieferkette (TSMC, SK Hynix, Micron, ASML etc.).
3. Computing-Stack / Systemarchitektur. Hier sitzt Nvidias Plattformebene: CUDA, NVLink, die Netzwerkinfrastruktur, die Software-Bibliotheken (cuBLAS, NCCL, CUDA-X). Das ist das, was er als Nvidias eigentliche Kernleistung beschreibt, in seinen Worten die Transformation von “Elektronen zu Tokens”.
4. AI-Modelle: OpenAI, Anthropic, Google DeepMind, Meta etc.
5. AI-Anwendungen: Die oberste und interessanterweise laut Huang wichtigste Schicht. Die Ebene, auf der AI in die Gesellschaft diffundiert, also Agenten, Tools, branchenspezifische Software, Workflows. Er sagt: “The layer that is the most important, of course, is the AI application layer.” Wer diese Schicht am meisten nutzt, profitiert am stärksten von der industriellen Revolution.

Huangs zentrale These: Alle fünf Schichten müssen erfolgreich sein. Man darf keine Ebene opfern, um eine andere zu stärken. Die USA müssen in jeder Schicht führend sein, nicht nur bei den Modellen. Das ist sein Hauptargument gegen zu restriktive Export-Kontrollen: Wer die Chip-Ebene in einem Markt aufgibt, gefährdet den ganzen Stack. Und Chips, das heißt heute natürlich Nvidia.

Die Diskussion zwischen den beiden schält sehr gut viele der Aspekte eines der wichtigsten Themen unserer Zeit heraus.

Mythos und die Zukunft des abgestuften KI-Zugangs

Zunächst grob zu Anthropic Mythos, einem neuen Top-Codingmodell, das zuerst nur ausgewählten Organisationen bereitgestellt wird:

• Anthropic hat Claude Mythos Preview entwickelt, ein KI-Modell, das in der Lage ist, Software-Schwachstellen nicht nur zu identifizieren, sondern auch aktiv auszunutzen
• Das Modell entdeckte bei Tests etwa eine 27 Jahre alte Sicherheitslücke in OpenBSD sowie eine 17 Jahre alte Lücke in FFmpeg
• Anthropic bewertet Mythos als zu gefährlich für eine öffentliche Freigabe und stellt es stattdessen exklusiv über Project Glasswing ausgewählten Unternehmen für IT-Sicherheit sowie US-Regierungsbehörden zur Verfügung
• Das Weiße Haus plant, Bundesbehörden Zugang zu einer Version von Mythos zu gewähren

Quellen: heise online, Scientific American

Warum? Drei Gründe:

Zur Einordnung sollte man wissen, dass Anthropic-CEO Dario Amodei, bevor er Anthropic gründete, der Lead-Researcher bei OpenAI war, der die Veröffentlichung der Gewichte von GPT-2 verzögerte, weil das Modell zu gefährlich sei. GPT-2. Anthropics Gründungsanlass war es, die sichere, "gute" KI zu bauen. Anthropic ist nicht nur ein führendes KI-Lab, es ist auch ein Kult. (Das ist kein Zufall, es geht Hand in Hand. Intrinsische Motivation.) Man sollte immer vorsichtig sein, wenn ein Lab sagt, das neueste Modell sei zu gut, um es sofort der Öffentlichkeit zur Verfügung zu stellen. Besonders wenn es um diejenigen geht, die Angst vor GPT-2 hatten.

That being said, der Punkt, den Dwarkesh Patel im Podcast mit Jensen Huang macht, ist nicht von der Hand zu weisen: Die aktuellen LLMs, besonders jene von Anthropic, sind sehr gut in Coding und werden immer besser darin. Selbst wenn ein Modell "nur" inkrementell besser ist, was auf Mythos mehr oder weniger zuzutreffen scheint, dann bedeutet das trotzdem Folgendes: Mit jedem neuen Modell steigen die Fähigkeiten für die externe Untersuchung von Systemen und von Open-Source-Frameworks für Angriffspunkte.

Man könnte auch sagen "Mit jeder neuen Modellgeneration steigen..", denn die Durchbrüche bei Anthropic sind so ähnlich auch bei OpenAI und Google zu beobachten, und, mit 6 bis 9 Monaten Verspätung, bei den offenen Modellen aus China.

Das brandneue Kimi K2.6 deutet an, dass die Lücke sehr viel kürzer geworden sein könnte, vielleicht nur Wochen:

Quelle: Artificial Analysis

Wäre nicht vor ein paar Tagen Opus 4.7 erschienen, wäre Kimi K2.6 das erste offene Modell gewesen, das vor Anthropics Modellen in den Benchmarks gelandet wäre. (Das bezieht sich auf eine Vielzahl an Aufgaben, es bedeutet nicht, dass K2.6 besser in Programmieraufgaben ist als das vorletzte Anthropic-Modell Opus 4.6, was nicht der Fall ist.)

Anthropic gibt also ausgewählten Organisationen einen Vorlauf, bevor Angreifer die gleichen Möglichkeiten erhalten. Dieses Argument hält auch, wenn es nur inkrementell ist, weil wir ein allgemeines Qualitätslevel erreicht haben, das signifikant genug ist, um mit einer leichten Qualitätsverbesserung direkt vorher unsichtbare Angriffsfläche freizulegen. Möglich, dass Mythos nicht der Security-Urknall ist, für den viele ihn halten. Aber der Trend hält.

Siehe zur Einordnung auch Mozilla:

As part of our continued collaboration with Anthropic, we had the opportunity to apply an early version of Claude Mythos Preview to Firefox. This week’s release of Firefox 150 includes fixes for 271 vulnerabilities identified during this initial evaluation. [...]
So far we’ve found no category or complexity of vulnerability that humans can find that this model can’t.

Und was, wenn es nur um die Ressourcen geht, die bei Anthropic dank hoher Popularität rar sind?

Die FT hat Quellen:

Multiple people with knowledge of the matter suggested Anthropic was holding back from a wider release until it could reliably serve the model to customers.

Opus 4.7 hat einen neuen Tokenizer (Wandler zwischen der Modell-internen Repräsentation und natürlicher Sprache). Das ist der beste Beweis, den man von außen bekommt, dass Opus 4.7 auf einem neuen Base-Modell basiert. (Also ein neu trainiertes Modell.)

Der Experte Alexander Doria auf X:

Likely very large, super sparse MoE, maybe 40B active still but from a 5-10T base. Even with low active params count, an actual challenge to deploy as all-to-all routing stretch the limit of current infrastructure, and you cannot avoid some interconnect (so rewriting kernels, NVLink). Gradual deployment makes sense not only due to lack of compete but hard to guarantee serving without controlled demand from vetted orgs. OpenAI likely to do the same.

Die Ressourcenknappheit und technologische Herausforderung besonders große Modelle zur Verfügung zu stellen gibt Management bei Anthropic (als auch bei OpenAI) einen internen Argumentationspfad, neue Modelle künftig immer abgestuft anzubieten. Selbst 2, 3 Wochen reichen dafür schon aus.

Der große Vorteil davon ist offensichtlich: Die Labs bekommen direkte Beziehungen zu Großkunden, die alle den frühen Zugang haben wollen. Das ist marketing/salesseitig nicht zu unterschätzen.

Oder plump gesagt: Die Frontier-Labs entdecken gerade Release-Fenster, wie wir es von Filmen (Kino -> Blu-ray -> Streaming/TV) und Büchern (Hardcover -> Taschenbuch) kennen.

Prognose und was Releasefenster für Europa bedeuten

Bis jetzt hatten wir in KI ein besonderes Plattformparadigma, das sich darin äußerte, dass die (vermeintlich) wichtigste Komponente, das Modell, auch per API verfügbar ist. Daran wird sich per se nichts ändern. Aber je mächtiger die Modelle werden, desto weniger ergibt eine Self-Serve-API Sinn. Wir werden unterschiedlichste Experimente der Abstufungen sehen.

Durchaus denkbar, dass der frühe Zugang zu neuesten Modellen, der Sicherheit der eigenen Systeme sicherstellt, gekoppelt wird an Mindestanforderungen an Verträge (Umsatz, Laufdauer, etc.). Hier trifft es eben auch wieder europäische Unternehmen, die keine Frontier-Labs vor der Haustür haben. Kurz(ish)e Wege sind wichtig, wenn direkte Beziehungen zwischen den Unternehmen wieder wichtiger werden sollten.

Ich argumentiere seit geraumer Zeit, dass Europa pragmatisch den heutigen Stand nutzen sollte, und die chinesischen Modelle mit offenen Gewichten intensiv im Produktionsalltag einsetzen sollte. Aber auch dort wird sich der Zugang verschieben.

Man sieht es bereits bei den ersten Qwen-Modellen, deren Gewichte nicht veröffentlicht werden. Auch die Lizenzen werden restriktiver. Das ist erwartbar und somit planbar.

In Briefing 215 hatte ich darüber geschrieben, was es bedeutet, wenn die Basis der SaaS-Erlöse vom Seat zum Output übergehen. In short, es wird nicht beim Output bleiben:

Die Implikationen gehen weit über das, was Levie hier andeutet, hinaus. Outcome as a Service ist kein Abomodell, bei dem "nur" virtuelle Sitze zu den Teamsitzen hinzukommen.

Outcome as a Service (OaaS) sitzt direkt an der Wertschöpfung.

Umsatzbeteiligung und Unternehmensbeteiligung sind viel naheliegendere und weitreichendere Geschäftsmodelle für OaaS.

DAS wird eine der größten regulatorischen Herausforderungen der nächsten Jahrzehnte.

KI am Kapazitätslimit

Wie viel Wasser verbrauchen Rechenzentren?

Exponential View macht den Vergleich mit Golfanlagen:

Golfanlagen in den USA verbrauchen mehr als das 30-Fache der Menge an Wasser als alle Rechenzentren in den USA.

Das schließt die teuren Trainingsphasen der amerikanischen KI-Modelle mit ein.

Wer ständig über den angeblich so hohen Wasserverbrauch von Rechenzentren redet, aber nie zum Beispiel über den von Golfanlagen, dem geht es nicht wirklich um den Wasserverbrauch oder die Umweltfolgen.

Kontext ist wichtig.