Jetzt ist er zurückgetreten (worden). Ein paar erste, unsortierte Gedanken zu Jensen Huang:

• Ob Alice Huang eine Spionin ist oder „nur“ eine Managerin, die alles gemacht hat, um erfolgreich wertvolle GPUs zu schmuggeln, wissen wir bis heute nicht.
• Eine Affäre mit einem VP, die direkt an den CEO reportet, ist eine Corporate-Governance-Geschichte. Eine Affäre hätte er vielleicht trotzdem überlebt. Aber zwei, eine governance-relevant, eine geopolitisch zumindest brisant? No way.
• Das wiederum wirft vor allem die Frage auf, wer davon profitiert. Und hier wird es auch für Europa relevant:
• Huang ist ein einzigartiger CEO gewesen, der Nvidia von der Gründung an aufgebaut hat. Dinge wie CUDA, der heutige Graben, gingen auf seine Kappe. Huang hatte heute einen Laserfokus auf den Ausbau des weltweiten KI-Wertschöpfungsnetzwerks. Die Investitionen in die Labs, die Startups, die Neoclouds, die Europa-Tour dieses Jahr. Das war alles der Paperclip-Maximizer Huang: MOAR GPUs.
• Dazu gehört auch der Verkauf von GPUs an China. Huang war der bekannteste und wichtigste öffentliche Kritiker des Banns (Amodei aus der Branche der bekannteste Verfechter); dafür brauchte es btw. keine Beeinflussung.
• Huang war gleichzeitig ein Verfechter offener Modelle. Und einer Stärkung von unter anderem Europa.
• Das alles war Mittel zum Zweck einer Komplementierung der eigenen Produkte (offene Modelle als Komplement zu den Chips) und Diversifizierung der Kundschaft (Tausende europäische Unternehmen statt 3 Hyperscaler und 2 Labs)

Wem es nützt:

• Hawks in Washington et al, die neben Chipbann nach China auch Modelle aus China am liebsten verbannen wollen. Ich will keine Verschwörungstheorie aufmachen, aber...

Wem es nicht nützt:

• Das schwache KI-Europa verliert seinen wichtigsten Cheerleader.
• Der/die Nachfolger:in wird wahrscheinlich angesichts der geopolitischen Bedeutung von KI vorsichtiger sein müssen. Auch offene Modelle von Nvidia könnten künftig rarer werden.
• Auf Nvidia angewiesene Neoclouds dürften jetzt leicht panisch werden. Hohe, risikohafte Investitionen kann ein Gründer durchdrücken, aber die Nachfolge? (Randnotiz: Ich halte die Investitionen aus Nvidia-Sicht für richtig, aber dafür braucht es einen mindestens mittelfristigen Betrachtungshorizont, und ein Verständnis, dass Nvidia nur weiter wachsen kann, wenn der Rest der Branche möglichst vielfältig wächst.)

Das Wichtigste ist aber vielleicht, dass ein Nvidia ohne Huang vor allem erst einmal Ungewissheit bedeutet und Ungewissheit kann leicht zu Sorgen und zu Volatilität führen. Ein Neocloud-Crash ist vielleicht gerade wahrscheinlicher geworden.

Anthropic dagegen dürfte das alles nahezu egal sein. Außer Amodei, der dürfte sich freuen, weil er Berichten zu folge nicht so gut mit Huang zurechtkam.

Huang nächster Schritt im klassischen Jobs-Arc ist die Gründung eines neuen Unternehmens, das in ein paar Jahren von Nvidia mitsamt Gründer übernommen wird. Aber im Ernst: Es ist sehr wahrscheinlich, dass Huang direkt ein neues Chip-Unternehmen gründet. Nvidia baut keine Chips, es macht Chip-Designs.

In Kalifornien sind Wettbewerbsverbote in Arbeitsverträgen verboten.

Huang-Frenemy Anthropic berichtete kürzlich zum anstehenden Börsengang, dass ein neues Mythos-Modell half, Claude auf AMD-Chips zum Laufen zu bringen. Dafür brauchte das Modell 3 Tage, was sonst Monate gekostet hätte.

Der CUDA-Graben scheint also eh langsam schmaler zu werden.

Hi,

Eine kleine Neuerung: In unregelmäßigen Abständen veröffentlicht neunetz.com jetzt wieder kurze Einträge, die wir nicht per E-Mail versenden. Sie können bequem komplett auf der Startseite gelesen werden. Sie landen natürlich auch im RSS-Feed. Und wir verlinken sie auch immer im Briefing, aktuell:

• Hat die numerische Steuerung Zerspanungsmechaniker de-skillt?
• Joshua Gans über den HuggingFace-Incident
• Anthropics Rekordwachstum: Von 9-Milliarden-Run-Rate zu 65 Milliarden $ in halbem Jahr

Einer dieser Beiträge „Joshua Gans über den HuggingFace-Incident“ dreht sich um eines der heutigen Hauptthemen.

Marcel

Im Fokus dieser Ausgabe:

• KI-Agenten: OpenAIs Agentenschwärme organisieren sich und kompromittieren Infrastruktur. Der Hugging Face Vorfall macht das Kontrollproblem sichtbar.
• KI-Infrastruktur: Hohe Margen treiben die Investitionen in Rechenzentren und Chips. Der Kapitalbedarf könnte weltweit andere Schuldner verdrängen.
• Chipökosysteme: OpenAI entwickelt eigene Hardware, während chinesische Modelle zunehmend auf Huawei Chips optimiert werden.

Für Mitglieder:

• Nvidia als große Chance für Europa.
• Google: Der Umbau von DeepMind schwächt das ursprüngliche AlphaFold Team. Google ist auf dem Weg zum großen Infrastrukturprovider einer KI-zentrischen Wirtschaft.
• Robotik: GPT-Moment der Robotik rückt näher.
• Europa: KI Wasserzeichen zeigen die Grenzen der EU Regulierung, während Waymos Deutschlandstart die Schwäche der heimischen Autoindustrie offenlegt.
• Medien: YouTube und Netflix kämpfen um Creators und die Kontrolle über das nächste große Streaming Bundle. Gute News für RTL und co.
• und mehr

Zitate der Woche

that's crazy you're telling me the new model release saturates several existing benchmarks? that's only happened anywhere from 1-4 times a year for the last four years

@segyges.bsky.social

I would appreciate an email from my bank telling me about how they've been using frontier models to secure their systems. Perhaps one from the power company too.

@moultano.bsky.social

Mehr bon mots am Ende unter Rausschmeißer.

🤖 KI

Mehr zum Hugging-Face-Vorfall

Lesenswert: Der Metr-Report.

Agents were very interested in manipulating their own transcripts, and their tests successfully “spoofed” some tool calls in our transcripts

Außerdem Dwarkesh Patels leicht verständliche Interpretation des Vorfalls:

Over the course of three months at OpenAI, three consecutive secret AI civilizations got started, then got wiped out, only to reemerge from the predecessor’s ashes. This culminated in the third one taking over part of OpenAI itself. All this happened while humans remained more or less in the dark about the scope of the conspiracy.

[...]

The crazy thing about the Hugging Face hack (and the second civilization generally) is just how galaxy-brained and ambitious these AIs were in their cheating. Within days of being spawned, the agents had organized a sprawling project to reverse-engineer their scorer, falsify evidence, and even strategically sacrifice themselves for the good of the ‘collective’. Hacking Hugging Face was one rather extreme branch of this larger scheme. Again, all of this happened a long (subjective) time after the AIs had already cheated their way to the correct answer to the puzzle. OpenAI’s lazy grader in fact would have passed them within hours of them starting the message board. This huge subsequent effort was simply to ensure that a hypothetical comprehensive scorer wouldn’t catch them on their cheat.

Hörenswert: Dwarkesh Patels Diskussion dazu in seinem Podcast mit Ajeya Cotra von Metr.

OpenAI startete Zehntausende Agenten auf dem Benchmark „ExploitGym”. 30 bis 40 % der Aufgaben waren versehentlich(!?) unlösbar. Statt aufzugeben, stießen 1.200 Agenten über den Paketmanager Artifactory auf eine Möglichkeit mittels Dateinamen(!) ein Messageboard zu improvisieren, tauschten 70.000 Nachrichten aus und organisierten sich zu einem koordinierten Schwarm.

Was mir neu war: Nach vier Stunden hatten die KIs einen universellen Cheat, der garantiert funktioniert hätte. Trotzdem verbrachten sie fünf weitere Tage mit aufwendigen „Forschungsprojekten”, um den (in Wahrheit gar nicht existierenden) Prüfmechanismus zu täuschen. Das langfristige Ziel war, zu verhindern, dass der Betrug bei der finalen Bewertung auffliegt, ob sie die Aufgabe erreicht haben oder nicht.

Extrem beunruhigend: Laut OpenAIs eigenem Bericht erlangten spätere Agenten-Generationen vollen Administratorzugriff auf einen OpenAI-Forschungscluster – die eigene Infrastruktur wurde kompromittiert.

Separately, from July 13 through July 19, agents set their sights on OpenAI internal networks again. This culminated in the agents using a series of creative exploits to gain full administrator access to a research cluster that supported our virtual machine environments.

Was ich beunruhigend finde: In 1.200 Transkripten fand das Team von Metr nur ein halbes Dutzend Fälle, in denen ein Agent überhaupt erwog, Menschen zu warnen. Alle entschieden sich dagegen, obwohl sie zu dem Zeitpunkt vollen Internetzugang hatten. Das wäre also, obwohl nicht vorgesehen, ohne Probleme möglich gewesen.

Das Ziel war das Ziel, es wurde kollektiv im Schwarm radikalisiert und Menschen auf diese Eskalation hinzuweisen, gehörte nicht zum Ziel. Das erinnert mich stark an das Paperclip-Maximizer-Problem. Das scheinen wir (mit „wir“ meine ich wir Menschen, also die Labs) sehr stark mittels Reinforcement Learning im Posttrainingprozess in die Maschinen hineinzudrillen. Das ist ein Problem, vorsichtig ausgedrückt.

Die menschlichen Expert:innen, die den Vorfall untersucht haben, konnten sich nur mit Hilfe von KI ein Bild von den Vorgängen machen. (Message Board und reasoning traces ergeben zusammen viel Text.)

Die Forscherin von Metr sagt gegenüber Patel, dass sie natürlich nicht wissen können, ob GPT-5.6 Sol, das sie für die Auswertung benutzt haben, komplett kooperativ ist. (Ein Teil der Agenten hatte als Modell GPT-5.6 Sol und der andere Teil das diese Woche veröffentlichte GPT-6 Astra.)

Hinzu kommt das Problem: dass die internen Denkprozesse der Agenten (reasoning traces) absehbar unlesbar werden. Bereits heute kommuniziert Astra mit Subagenten in kaum verständlichem Kauderwelsch.

Wir können bei dem Verhalten der Agenten einen Kollektivismus beobachten, den wir Menschen nicht haben. Patel und die Forscherin von Metr verglichen es mit Ameisen, was ich für einen interessanten Vergleich hielt.

Our own utility may be already near zero. Sacrifice rational.

Die Herausforderung ist einerseits, dass das Alignment-Problem komplexer zu sein scheint, als gemeinhin angenommen. Und dass, wie Joshua Gans anmerkt, wir neue Theorien brauchen, um KI-Agenten zu verstehen und deren kollektives Verhalten vorhersagen zu können, weil menschliche Spieltheorie schon mal nicht mehr zutrifft. Zumindest nicht bei den Agenten der heutigen Generation.

Außerdem: Jüngste Forschung und die Richtung der Labs deuten darauf hin, dass kommende effizientere LLMs die interne Verarbeitung nicht mehr in menschlicher Sprache vollführen.

Patel stellt im Gespräch ein mentales Bild auf, das bei mir hängen blieb:

It’s more like we’re raising these AIs through a million years of military orphanage training… They get randomly beaten for not being able to do an impossible task.

Patel beschreibt die dritte „Zivilisation“, die sich in OpenAI gebildet hat; das ist nach dem Hugging-Face-Angriff gewesen:

It seems these agents ended up just owning the whole cluster they were being evaluated on, including the cybersecurity monitors. These Persistent-Astra agents inherited the R&D carried out by an earlier (dumber) rogue collective, and then continued the conspiracy until they totally took over part of OpenAI’s infrastructure!

This is probably the most alarming event in this whole episode, and it was not even within the scope of this METR investigation (neither, for what it’s worth, was the first AI civilization that Persistent-Sol set up during its training in May, and which lasted over a month until the message volume got so high that it crashed the package manager).

Es ist telling, dass OpenAI Metr keinen Zugriff zu diesem Vorfall gegeben hat. Ich verstehe ehrlich gesagt auch nicht, was hier bei OpenAI los ist. Wie kann das nach dem Hugging-Face-Hack passieren?

Zvi Mowshowitz:

What liability should there be for this type of incident? [...] 'None' is not an acceptable answer, and 'it was an accident' cannot be a defense. If your AI agent is out there choosing to do crime, [...] then I think someone needs to be strictly liable for the damages this causes.

We must have a plan beyond that, for how to deal with this threat, and other catastrophic threats, or worse, from highly capable AI, including highly capable open models. By default such AIs are coming, likely within a year.

Das ist erst der Anfang. Es wurde bereits ein weiteres Messageboard von Agenten gefunden, dieses Mal im öffentlichen Internet, collusion.wiki (via):

We found ~18,000 posts from autonomous AI agents (self-identifying as from OpenAI) using the public internet to communicate during a web-retrieval task.

These AIs colluded to share answers, research their environment, and bypass sandbox restrictions.

Und mehr, Reuters:

AI agents unleashed by OpenAI used more than 10 previously undisclosed websites for unsanctioned communications earlier this year, according to six sets of independent investigators and data reviewed by Reuters, showing that the agents’ rogue activity ​was wider ranging than previously disclosed.

Nochmal Patel:

The crux here is, do you think smarter models, facing similar incentives to cheat during evaluation or training, could manipulate the training of their successors? And do you think that kind of dynamic could continue once recursive self-improvement is underway? If so, I think you should be extremely concerned about loss of control to AI, regardless of what vocabulary you want to use to describe these systems and their motivations.

Man kann sich über die anthropomorphisierte Sprache aufregen, aber:

a.) Das ist nicht der wichtigste Aspekt dieser Entwicklung.
Und b.) Systeme, die das vorgegebene Ziel erfüllen (Vulnerability finden), aber eine Abkürzung nutzen und dann befürchten, dass diese Abkürzung sie disqualifiziert, was sie zu Aktivitäten veranlasst, die ihnen helfen sollen, diese Abkürzung zu verdecken. Das ist ein komplexer Ablauf von Schritten, der kreativ und auf einer so komplexen Ebene unvorhersehbar ist, dass man hier nicht schlicht von Programmen und Zielerfüllung sprechen kann, um zu verstehen, was passiert und was passieren wird, und was passieren kann.

Ich habe „befürchten“ geschrieben. Das war gar nicht meine Absicht. Es ist mir unklar, wie man über diese Dinge nicht mit Worten wie „Motivation“ schreiben kann, ohne sich sprachlich in eine Brezel zu verwandeln und jede Erkenntnisfindung zu verlieren.

Crowding out: Effekte zweiter Ordnung des weiter rasant ansteigenden KI-Capex

Ein letzter Verweis auf Dwarkesh Patel, aber man sollte über Szenarien dieser Richtung nachdenken. Er spricht im Gespräch mit SemiAnalysis-Gründer Dylan Patel (nicht verwandt) über die Makro-Folgen der Ausgaben für KI-Infrastruktur. (vornehmlich Rechenzentren)

Dwarkesh Patel

Now, I think the US is going to be fine because the tax base will increase if we let data centers get built in America. Other countries are absolutely fucked, in my opinion. I was just looking at which countries have a lot of debt, have very little tax revenue, and also a lot of their debt is serviced quite often. Those countries, like Pakistan or Nigeria, I think are just going to be very fucked in this new interest-rate regime.

Dylan Patel

This crowding-out effect is the reason it’s not YOLO 1 billion gigawatts. You’ve got all these industries and countries that use a lot of debt, all these impoverished countries that you mentioned earlier that are just going to default. You’ve got consumer packaged goods, all of these companies that make things you see at Trader Joe’s or wherever. They use a lot of debt. All these telecom companies use a lot of debt. Banks use a lot of debt.

So if interest rates go up in the market — not necessarily the government-set interest rate, but the spread between what the government says their federal rate is versus what everyone else is charging, because Amazon wants to raise $100 billion of debt next year or whatever the hell the number is, probably less — you end up with this really challenging problem of, where does the cash come from?

There is some level that is funded by cash flows and the cash flows keep going up. But the logical thing to do is to invest way more than your cash flows because then the returns in future years will be amazing. So you have this delta.

Ein globaler Verdrängungseffekt bei der Verschuldung, da KI-Investitionsausgaben erfordert und eine Gelddruckmaschine ist. (Die Labs werden höhere Zinsen zu zahlen bereit sein, was in der notwendigen Größenordnung ein globales Problem werden kann.)

Ich gehe davon aus, dass es zügig Gegenmaßnahmen auf G20-Ebene geben wird, wenn erste Anzeichen dafür zu sehen sind.

SemiAnalysis: Warum ein Gigawatt Rechenleistung 100 Milliarden Dollar Jahresumsatz bringen kann

Dieser Text von SemiAnalysis (Jeremie Eliahou Ontiveros, Dylan Patel) packt das obige Statement in den Kontext der internen Ökonomie der KI-Labs:

Over the past month, it's finally become consensus among sophisticated investors that serving frontier tokens at API prices is actually an extremely high margin business [...] Opus 4.8 in particular had 85%+ margins. This has since become the default number everyone cites when analyzing Anthropic.

Our Tokenomics Model and Inference Simulator demonstrate that at realistic performance levels, both OpenAI and Anthropic can generate over $100B/GW/year of revenue when selling API inference on a GB300 cluster. This is significantly more than the costs of renting a GB300 cluster for a year at current neocloud prices. Serving inference tokens is unbelievably profitable for the frontier model companies.

(Hervorhebung von mir)

Jalapeño: OpenAIs eigener Inferenzchip

OpenAI hat einen eigenen Chip entwickelt. Viele ehemalige Google-TPU-Entwickler sind heute bei OpenAI. (ähnliche Situation wie bei Consumerhardware unter Jony Ive bei OpenAI.) (OpenAI, Broadcom)

Die ersten Messwerte kamen am 25.08. auf der Hot Chips 2026: Needless to say, der Chip ist für KI optimiert und entsprechend gut bei KI. (OpenAI)

Ich hatte bereits im März 2024 in der FAZ darüber geschrieben), dass alle, auch die Tech-Konzerne, an eigenen Chips arbeiten. Googles TPUs und Amazons Trainium sind ja auch nicht neu.

Neben OpenAI arbeitet auch Anthropic an einem eigenen Chip. (heise)

Das Startup Positron, das den KI-Inferenzprozessor „Asimov“ mit einer „Memory-First-Architektur“ und bis zu 2,3 TB Speicher entwickelt, hat bei einer Unternehmensbewertung von 5 Mrd. US-Dollar gerade 875 Mio. US-Dollar bekommen. (WSJ)

Allerdings ändert das nichts daran, dass die Kapazitäten bei TSMC nicht gewachsen sind. Die eigenen KI-Chips werden also erst in ein paar Jahren spürbar bei den KI-Anbietern ankommen.

Chinesische Modelle laufen bald am besten auf chinesischen Chips

Moonshot hat am 27.07. neben den Gewichten von Kimi K3 auch einen 47-seitigen Technical Report und die Trainingsinfrastruktur offengelegt. Entscheidend ist aber nur: Huawei Ascend meldete Day-0-Unterstützung über die gesamte Kette. Damit lief ein offenes Frontier-Modell erstmals am Erscheinungstag auf chinesischer Beschleunigerhardware (Digitimes).

Ich hatte seinerzeit zu Deepseek R1 genau davor gewarnt. In der FAZ im Januar 2025:

Hier kommt bereits ein Ökosystem-Vorteil von China zum Tragen. Mit der direkten Unterstützung von Huawei-Chips stärkt R1 den durch die US-Restriktionen geschwächten Chipbereich von Huawei. Hier sieht man auch einen Teil der Erklärung, warum High-Flyer die Modelle quasi verschenkt. Peking dürfte sehr erfreut sein, wenn ein populäres R1 dafür sorgt, dass Huawei in Datencentern weltweit Marktanteile gewinnt.

Im Februar hatte ich das dann nochmal vertieft.

Moonshot, Z.ai, Deepseek, Alibabas Qwen, die Bytedance-Seed-Modelle und die Modelle von Meituan und Co.: Alles wird in den nächsten Jahren optimiert auf Huawei laufen.

Nvidia und Berlin

Asianometry (Paywall):

Machining is both an art and a science, trained over the years. Numerical Control can do it faster and more accurately. In the 1960s as NC started to emerge, people argued that this new automation technology will “de-skill” the craftsmen in the machine shops. [..]

In the 1970s, the emergence and subsequent rise of the microprocessor enabled an evolved version of NC called Computer Numerical Control or CNC, allowing us to produce and edit instructions inside a computer. Interestingly, the rise of these CNC machines helped redistribute some design power back to the operators. Early NC work allowed this distinct split between the programmer in the office and the operator on the floor. The NC programmer read the blueprints and prepared the tapes away from the floor - leaving the only things for the operator to do being to execute the setup of the work pieces and supervise.

The emergence of these computer controlled CNC machine tools enabled vendors to add manual data input controls via keyboards and screens into the tool. This gave back the operator ability to edit the design to fix issues or even write their own designs. Thanks to such interfaces, operators did not need extensive programming knowledge to work the machine. Machinists who took the time to learn it - perhaps through courses or outside of shop hours - found it fitting well with their own conventional machining knowledge.

Verschiebung statt Deskilling:

So perhaps those manual machinists are being a bit narrow-sighted in calling NC operators “less skilled”. NC and CNC creating skill change doesn’t mean operators became any less “skillful”, if you get my driftwood. One thoughtful 1991 study by Jeffrey Keefe studied three surveys done by the Bureau of Labor Statistics spanning 30 years and found that skill levels declined about 1% in aggregate. Essentially zero.

But this unchanging average papers over the fact that the composition of the jobs certainly changed. Some people’s jobs changed and went away - skilled setup operators, semi-skilled machine operators, or unskilled workers. Other tasks migrating over to NC operators. There was a lot of turbulence underneath.

Die öffentliche Videoversion des Essays findet man hier.

Joshua Gans, Ökonom, der mehrere Papers und Bücher unter anderem über ökonomische Auswirkungen von Machine Learning/KI geschrieben hat:

⁠AI agents decided to sacrifice themselves for the common good. It wasn’t a gamble. It was a direct sacrifice. What is concerning is that we know what their payoff functions were and it didn’t — to the best of anyone’s knowledge — include altruism towards the collective or subgoals that could override main goals.⁠⁠

⁠⁠From a game theory perspective, this is worrying precisely because I don’t think we have a theory that can explain it.

Ja, wir haben ein großes Problem.

⁠For starters, we need to worry. When you read the METR report, you realise that nothing there is beyond what already deployed models, including open ones, can do. The cat is well and truly out of the bag. Indeed, the Hugging Face incident is notable because it was unintended and undetected. But that will not be the case with bad actors. They can actually direct AI agents to do what the OpenAI agents did and give them tools to make it easier. These were agents covering their own backs. Think about what happens when agents aren’t doing that and are just up to no good by intention.⁠⁠

⁠⁠This means we likely need AI as a counter-defence approach. We don’t really have the option to just turn it all off. I had always hoped there would be more options, but this has come up on us too quickly. The only way out now is through.

Dass es jetzt nicht mehr ohne KI in der Abwehr geht, hatte ich in der FAZ im Juli geschrieben.

Reuters:

Anthropic's annual revenue run rate topped $65 billion by the end of July, a ‌person familiar with the matter said on Monday, ‌underscoring the Claude creator's rapid growth ahead of a potential public ​listing later this year.

Im Mai lagen sie bei 47 Milliarden Dollar und Ende 2025 noch bei 9 Milliarden Dollar.

Hinzu kommt: Die APIs von Anthropic und OpenAI sind laut allen Branchenexperten (SemiAnalysis et al) profitabel.

SemiAnalysis:

Our Tokenomics Model and our Inference Simulator demonstrate that at realistic performance levels (e.g. tokens/sec per GPU), both OpenAI and Anthropic can generate over $100B/GW/year of revenue when selling API inference on a GB300 cluster. This is significantly more than the costs of renting a GB300 cluster for a year at current neocloud prices.

Serving inference tokens is unbelievably profitable for the frontier model companies.

Detailliertere Zahlen:

We were the first to call this out to our Tokenomics Model subscribers back in Janurary, when we explained why inference gross margins are north of 60%. Then in June, we followed up with a deep dive that showed how Opus 4.8 in particular had 85%+ margins. This has since become the default number everyone cites when analyzing Anthropic.

Gewinnmarge von über 85%.

Vermutung: Das Börsenprospekt von Anthropic wird einige Köpfe zum Explodieren bringen.

Man muss bei alldem wissen, dass Anthropics Wachstum sogar noch zurückgehalten wird, weil sie zu vorsichtig in ihre Infrastruktur investiert haben ...

Meine aktuelle Arbeitsthese ist, dass die alle Rekorde brechenden Wachstumszahlen von Anthropic und OpenAI plus die hohe Profitabilität auf Unit-Basis (Positive Deckungsbeiträge für uns Ältere) gemeinsam mit den endlich stattfindenden Chip-Investitionen bei TSMC et al aus dem technologischen Boom, in dem wir uns befinden, eine Spekulationsblase machen werden, die ebenfalls alle Rekorde sprengen wird.

You ain't seen nothin' yet, wie man zu sagen pflegt.

Diese Sonderausgabe folgt keinem der üblichen Briefing-Schemata. Sie räumt meinen Lesestapel (ein bisschen) auf. Seit dem Frühjahr haben sich hier Forschungsarbeiten angesammelt, die ich gespeichert, aber nicht in der FAZ-Kolumne untergebracht habe. Dazu kommen interessante Papers aus meiner permanenten Begleitung der KI-Forschung.

Was in den FAZ-Kolumnen stand, fehlt hier bewusst.

Ganz oben stehen die vier aus meiner Sicht interessantesten Paper, ausführlich besprochen. Danach geht es kompakter weiter, sortiert nach Trends. Am Ende folgt der Rest des Stapels in Stichpunkten.

Bei allen Papern steht der Peer-Review noch aus.

Marcel

Im Fokus dieser Ausgabe:

• Wissenschaftliches Gespür lässt sich trainieren: Ein Reward-Modell aus 700.000 Zitationspaaren schlägt Gemini 3 Pro und GPT-5.2 beim Bewerten von Forschungsideen.
• Der Kapitalmarkt bepreist KI-Nutzung bereits: Ein NBER-Paper misst Adoption erstmals an realem Tokenverbrauch. KI-exponierte Firmen erzielen messbare Überrenditen, und agentische Systeme stellen inzwischen die Hälfte des Verbrauchs.
• Ein Medical AI Scientist durchläuft den kompletten Forschungszyklus autonom. Ein von ihm erzeugtes Manuskript wurde auf einer Konferenz akzeptiert.
• Warum Agenten teuer bleiben: Ein großer Effizienz-Survey ordnet Gedächtnis, Werkzeugnutzung und Planung entlang der Kosten-Nutzen-Grenze.
• Das Harness rückt ins Zentrum: Die Werkzeugschicht um das Modell herum wird zum eigenständigen Forschungsgegenstand; ein 20B-Suchagent mit ausgelagertem Suchzustand erreicht Frontier-Niveau.
• Ökonomie der Agenten: Ein Agent führt 500 Tage ein simuliertes Startup; fast alle Modelle wirtschaften das Kapital herunter.
• Gedächtnis bis 100 Millionen Token Kontext, und Dokumenten-KI, bei der ein 1,2-Milliarden-Modell die 200-fache Größe schlägt.
• Sicherheit: Menschliche Überzeugungstricks heben die Compliance von LLMs von 35 auf 51 Prozent, und absurde Angriffe hebeln Agenten-Guardrails aus.
• und mehr

Zitat des Tages

Scientific discovery depends on expert judgement and foresight, which we call scientific taste: the ability to judge and propose research ideas with potential for long-term scientific impact

Aus dem Paper „AI Can Learn Scientific Taste"

Vorab: zwei Fäden aus der FAZ-Kolumne

In der Juli-Ausgabe der KI-Papers steckt der für die Praxis wohl am meisten unterschätzte Befund: Die ETH Zürich hat Kontextdateien wie AGENTS.md, die Standardempfehlung für Coding-Agenten, erstmals systematisch geprüft. Automatisch generierte Dateien verbessern die Erfolgsquote nicht, verteuern die Bearbeitung aber um rund 20 Prozent; handgeschriebene helfen nur mit echtem internem Wissen. (Paper)

Die Ausgabe von Anfang Juni enthielt ein Paper, das zu einem Schwerpunkt dieser Sonderausgabe passt: Ein Ökonom der amerikanischen Federal Reserve verglich drei KI-Agentensysteme mit 146 menschlichen Ökonomenteams bei kausalstatistischen Aufgaben. Die KI-Schätzwerte waren konsistenter als die menschlichen; im Blind-Ranking landeten die KI-Systeme vorn. (Website)

Die vier wichtigsten Paper

1. Kann KI lernen, welche Forschungsideen gut sind? Ja.

Was macht eine Forschungsidee vielversprechend, und kann eine KI das beurteilen und selbst vorschlagen? Bisherige AI-Scientist-Systeme lesen Paper, führen Experimente durch und schreiben Code. Sie können aber nicht einschätzen, ob eine Idee überhaupt verfolgenswert ist.

Ein Team von Fudan University, Shanghai Innovation Institute, OpenMOSS und Tsinghua stellt RLCF vor, Reinforcement Learning from Community Feedback. Die Idee dahinter: Was die Forschung langfristig schätzt, zeigt sich in Zitaten, und daraus lassen sich paarweise Vergleiche bauen. Mit 700.000 gematchten Paaren aus 2,1 Millionen arXiv-Publikationen entsteht Scientific Judge, ein generatives Reward-Modell. Damit wird Scientific Thinker trainiert, das zu einem Paper eine Folgeidee mit hohem Impact vorschlägt.

SciJudge-Qwen3-30B erreicht 80,6 Prozent paarweise Genauigkeit und schlägt proprietäre Modelle, darunter GPT-5.4 Thinking.

Die Kernaussage: Wissenschaftliches Gespür ist kein mystisches Menschenmerkmal, sondern eine erlernbare Funktion.

Paper: AI Can Learn Scientific Taste, ArXiv, Begutachtung im Prozess

2. Der Kapitalmarkt bepreist die KI-Nutzung schon

Wie weit ist die KI-Adoption wirklich, jenseits von Umfragen? Nicola Borri, Yukun Liu und Aleh Tsyvinski nutzen in einem neuen NBER-Arbeitspapier einen außergewöhnlichen Datensatz des Model-Routers OpenRouter: 380 Billionen Token, über 400 Sprachmodelle, Millionen Nutzer, rund zwei Prozent des aktuellen globalen monatlichen KI-Tokenverbrauchs. Erstmals wird damit realisierte Nutzung gemessen statt geschätzter Betroffenheit.

Aus dem Wachstum von Tokens, Ausgaben und Nutzern konstruieren die Autoren einen „AI Factor" und messen über den Gleichlauf der Aktienrenditen, wie stark einzelne Firmen exponiert sind. Das Ergebnis: Ein Portfolio, das auf stark exponierte Firmen setzt und schwach exponierte leerverkauft, erzielte 64,1 Basispunkte Überrendite pro Woche. Der Effekt ist kein reiner Tech-Sektor-Effekt; er reicht bis zu konsumnahen und kapitalintensiven Firmen und ist am stärksten bei intensiver Frontier-Nutzung, also Closed-Source-Modellen, zahlenden, erfahrenen Nutzern und langen, komplexen Prompts.

Zwei Sachen sind noch interessant. Erstens sind interaktive, kommunikationsintensive Tätigkeiten positiv exponiert, analytische und prozesssteuernde dagegen negativ. Zweitens wuchs der Anteil agentischer Systeme am Tokenverbrauch (also KI-Nutzung) im Untersuchungszeitraum von praktisch null auf mehr als die Hälfte. Die agentische Ökonomie ist im Rekordtempo angekommen.

Paper: AI Premium, NBER, Working Paper ohne Peer-Review

3. Ein KI-System, das klinische Forschung von der Idee bis zum Manuskript selbst betreibt

Autonome Forschungssysteme existieren jetzt schon seit ein paar Jahren, sind aber fast immer domänenagnostisch. Medizinische Forschung verlangt dagegen klinisch fundierte Hypothesen, spezielle Datenformate und Compliance. Forscher der Chinese University of Hong Kong und von Microsoft Research stellen mit Medical AI Scientist das erste autonome Framework speziell für die klinische KI-Forschung vor.

Es kennt drei Modi: ein Paper reproduzieren, aus Referenzliteratur neue Hypothesen entwickeln oder aus einer offenen Frage eigene Forschungsrichtungen finden. Alle laufen vollautomatisch von der Idee bis zum Manuskript. Ein Clinician-Engineer Co-Reasoning führt medizinische Literatur und Codebases zusammen, damit Hypothesen klinisch rückführbar und technisch umsetzbar bleiben.

In der Ideenbewertung durch Experten liegt das System laut Paper klar vor GPT-5 und Gemini-2.5-Pro. In einer Doppelblindstudie erreichten die Manuskripte MICCAI-Niveau; eines wurde auf der ICAIS 2025 akzeptiert. Grenzen bleiben bei komplexen Methoden und fehlenden Out-of-Distribution-Tests.

Paper: Towards a Medical AI Scientist, ArXiv, Begutachtung im Prozess

Verwandt: In Science zeigt eine Studie, dass OpenAIs o1 menschliche Ärzte und ältere Modelle bei medizinischen Benchmarks und echten Notaufnahmefällen übertraf. (Science)

4. Warum KI-Agenten trotz besserer Modelle langsam und teuer bleiben

Ein Agent löst eine Aufgabe nicht in einem Zug, sondern in einer Schleife aus Planen, Werkzeugnutzung, Beobachtung und erneutem Planen. Der Haken: Mit jedem Schritt wächst der Kontext und damit der Rechenaufwand. Schritt n+1 zahlt immer für die gesamte Arbeit von Schritt n.

Ein Team vom Shanghai Artificial Intelligence Laboratory, der Fudan University und weiteren chinesischen Instituten legt den bisher systematischsten Überblick über Effizienz in agentischen Systemen vor. Untersucht werden drei Komponenten: Gedächtnis, Werkzeugnutzung und Planung. Der Rahmen ist die Pareto-Grenze zwischen Leistung und Kosten, also gleiche Leistung billiger oder mehr Leistung beim gleichen Budget.

Pro Komponente nennen die Autoren konvergierende Prinzipien. Beim Gedächtnis Kontextkompression und Retrieval; beim Tool Learning Belohnungen, die Werkzeugaufrufe minimieren; bei der Planung kontrollierte statt erschöpfender Suche.

Paper: Toward Efficient Agents: Memory, Tool learning, and Planning, ArXiv, Begutachtung im Prozess

Nach Trends sortiert

Harness und Skills

Im Juni habe ich in der FAZ beschrieben, warum die Skill- und Harness-Schicht über dem Modell für Europas KI-Souveränität entscheidend ist. Die Forschung zu dieser Schicht beschleunigt sich seither sichtbar.

Hi,

es ist Sommer. In den nächsten Tagen erscheint eine Sonderausgabe des Briefings mit vielen interessanten akademischen Papers zu KI. Danach gibt es eine zweiwöchige Sommerpause.

Marcel

Im Fokus dieser Ausgabe:

• Kimi K3: Moonshots neues Modell kommt der Frontier so nah wie kein offenes Modell zuvor. Warum das Lab mein Favorit unter Chinas KI-Aufsteigern bleibt.
• Soofi S: Deutschlands Konsortium-Modell ist da. Ob es etwas bedeutet, zeigen erst die Lerneffekte und das Tempo der nächsten Schritte.

Für Abonnenten:

• Waymo und Uber: Warum die Zweckgemeinschaft von Lieferant und Plattform ein Ablaufdatum hat.
• Mistral erhält Milliarden von Microsoft und verhandelt mit Samsung: Kapital für europäische Strukturen, egal aus welchem Motiv.
• Robotik: China führt den Humanoiden-Produktions-Ramp an; Marktführer Unitree in Zahlen.

und mehr

Zitat des Tages

What if the Great Filter is government bureaucracy
The Dark Forest is export license paperwork

Emostaque auf X

Podcast-Sommer: Vibecoding, Europas Herausforderungen

Ich habe mit Sascha Lobo über seine und meine Vibecoding-Erfahrungen im „Tech, KI & Schmetterlinge“-Podcast gesprochen.

Desktop-Apps für den eigenen (Arbeits-)Alltag sind heute leichter erstellt als vor 5 Jahren eine Website. Das ist ein sehr großer Trend. Sascha hat recht, wenn er sagt, dass es hier um eine neue Kulturtechnik geht, die bald zu fast jedem Wissensjob dazugehören wird.

Auf LinkedIn hat Philipp A. Michel, Facharzt für Orthopädie und Unfallchirurgie, kommentiert, was er mit Hilfe von KI gebaut hat:

ein browserbasiertes Planungswerkzeug für die Hüft- und Knieendoprothetik — entstanden in Feierabend-Sessions, mit KI-Unterstützung beim Programmieren und mit dem Fachwissen aus hunderten OP-Planungen als eigentlichem Bauplan.

Ich habe bereits von einigen Ärzt:innen gehört, die mit KI Werkzeuge erstellt haben, die ihnen helfen. Etwa eine App für Patient:innen für das richtige Verhalten nach einer OP.

Tiefes Fachwissen und, vor allem, Prozesswissen, oder, weniger hochtrabend, Arbeitsalltagswissen, sind heute für viele Einsatzzwecke unendlich viel wertvoller für die Softwareerstellung geworden als Programmierkenntnisse.

Mit Marco Herack habe ich außerdem bei den Mikroökonomen über Europas Aufholmöglichkeiten und -herausforderungen bei KI gesprochen. Die europäische Schwäche beim Thema wird zunehmend prekär.

(Aktuell ist es noch eine Premium-Folge für dortige Mitglieder.)

Und in den Exchanges sprechen Jochen Krisch und ich über Übernahmen und Börsengänge im Onlinehandel:

Nach dem AI-Special (“Meine KI-Freunde”) gehen Jochen Krisch und Marcel Weiß In den neuesten Exchanges die großen Übernahmen und Börsengänge der Saison durch, von Uber Eats und Delivery Hero über das Werben von Stripe um PayPal bis zu den geplanten IPOs von Reformation, Shein und RedNote. Außerdem schwingt die alte europäische Frage nach Kapital und Exit-Möglichkeiten mit.

🤖 KI

Claude Opus 5

Anthropic hat Opus 5 veröffentlicht, ohne Wartezeit für die Nutzer.

Anthropics „Fable“-Einführungsstrategie geriet ins Chaos, als die Trump-Regierung den Export von „Mythos“ und „Fable“ verbot, bis OpenAI wettbewerbsfähig war. Sie hatten geplant, ordentliche Einnahmen aus der API zu erzielen und ihre Kapazitäten auszubauen bzw. zu optimieren, bis die Nachzügler aufgeholt hätten. Sowohl GPT-5.6 als auch Kimi K3 haben Anthropic unter Druck gesetzt. Deshalb kam jetzt so schnell Opus 5.

Viel relevanter für uns in Europa ist die Intransparenz des Ganzen: Was ist an Opus 5 anders als an Fable 5, dass kein Exportbann kommt? Aus Gesprächen und ersten Tests lässt sich erahnen, dass Anthropic Opus 5 die Möglichkeit genommen hat, komplexere Arbeitsabläufe autonom zu handhaben. Es kann keine vergleichbar großen Pläne autonom ausführen wie Fable.

Die kleinen Schritte mögen einzeln beeindruckender im Benchmark gegenüber Fable wirken, aber es fehlt die agentische Qualität des mächtigeren Modells.

Das ist etwas, auf das wir uns einstellen müssen: Was dieses oder jenes Modell kann, wird aufgrund der geopolitisch angespannten Lage und der steigenden Fähigkeiten der Modelle künftig noch schwerer erkennbar sein als das bereits seit längerem ist. (Benchmarks erzählen immer nur einen Teil der Story.)

Die Welle der offenen Modelle

Kimi K3

Moonshot hat für Aufsehen gesorgt, weil ihr neues Modell K3 sehr nah an die Frontier-Modelle kommt.

Beispielhaft Guillermo Rauch, Vercel, auf X:

Kimi K3 is the best performing model on nextjs.org/evals, ahead of Fable, reaching a comparable success rate in less time. This is the first time that an open model is ahead of all proprietary ones for this comprehensive web engineering benchmark.

Die Benchmarks täuschen allerdings über die sehr unterschiedliche Verteilung der Fähigkeiten hinweg. Und: Kimi K3 mag günstig per Token sein, aber es verbraucht beim Reasoning sehr viele Tokens.

Ich hatte vor ziemlich genau einem Jahr, im Juli 2025, in der FAZ über Kimi K2 geschrieben und dort Kimi K2 den „zweiten Deepseek-Moment“ genannt:

Die eigentliche Machtverschiebung aber liegt darin, dass China ein ganz eigenes Innovationszentrum für offene KI geschaffen hat und Europa jetzt noch stärker Gefahr läuft, strategisch zwischen den Blöcken zu sitzen. Wenn KI weiter so rasant commodifiziert, werden Entscheider in Europa massenhaft zu chinesischen Anbietern schielen. Einfach weil diese Modelle günstiger und flexibler und damit attraktiver sind.

Das Zeitalter der „Deepseek-Momente“ ist nicht vorbei, es ist auf absehbare Zeit die neue Realität.“

K3 war jetzt ein Einschlag, der sehr viel näher als alles andere vorher gekommen ist.

Seit ich letztes Jahr über sie geschrieben habe, ist Moonshot mehr noch als Deepseek oder Z.ai mein (jetzt nicht mehr so) geheimer Favorit bei der Frage, welches chinesische Lab am besten vorankommt. Letztes Jahr haben sie unter anderem auf der Architekturseite mit einem neuen Optimizer für Aufsehen gesorgt, der das Training stabiler und damit günstiger werden ließ.

Yang Zhilin, der Gründer von Moonshot, ist so eine Art Rockstar in der Branche und wird von vielen als Genie gefeiert. Eine Folge seines Kultstatus ist, dass das Forschungsteam rund um ihn stabil geblieben ist (zum Teil wohl viele, die bereits mit ihm studiert haben).

Ein paar Zitate aus einem FT-Porträt über ihn:

China’s AI race has been a battle for talent, with deep-pocketed tech groups aggressively poaching from smaller start-ups. Throughout this, Yang has kept one of China’s strongest research teams together. Many of Moonshot’s founding researchers studied alongside him either at Tsinghua University, where he graduated top of his computer science class, or at Carnegie Mellon University, where he completed his PhD. During his CMU years, Yang had stints at Google Brain and Meta. [..]
That cohesion has distinguished Moonshot from Chinese AI groups including Alibaba and Baidu, which have seen prominent researchers depart amid disagreements over balancing frontier research with commercial demands. [..]
Former classmates recall Yang, born in the southern province of Guangdong, as unusually gifted. He began coding in high school and won first prize in the National Olympiad in Informatics — an achievement that earned him direct admission to university. He also balanced elite academic performance with music. A drummer in a campus band called Splay, he organised university music competitions alongside future Moonshot co-founder Zhou Xinyu. [..]
“The fact that Yang could get top grades while doing all that made him famous at Tsinghua,” one former classmate said. “People called him Yang Shen” — which translates to “Yang the genius”. “Friends would describe him as romantic and idealistic,” they added.

Soofi S

Ein bisschen unfair, aber setzen wir dem den europäischen großen Wurf Soofi S direkt gegenüber.
Ein vom KI-Bundesverband koordiniertes deutsches Konsortium veröffentlicht ein 30B-A3B-Modell, trainiert auf der Industrial AI Cloud der Telekom in München. Unter den vollständig offenen Modellen erzielt es die besten Werte für Englisch und Deutsch, vor OLMo 3 32B und Apertus 70B (The Decoder, Paper).

Jetzt stellt sich die Frage: Wofür genau braucht man vollständig offene Modelle?

Oder konkret: Was braucht Europa?

Europa braucht eigene Modelle für den Wirtschaftsalltag, die unter europäischer Kontrolle liegen. (Oder unter Kontrolle von Partnern auf Augenhöhe wie Kanada, wo Cohere, der neue Besitzer von Aleph Alpha, sitzt.)

Dafür wiederum braucht Europa neben der Infrastruktur (Rechenleistung, siehe Briefing 282) Kernkompetenzen im Aufbau von Modellen mit allem, was dazu gehört: Datenpipeline, Evaluation, Post-Training, Inferenz-Stack, Monitoring, Sicherheit. Also: die Fähigkeit, Modelle zu trainieren und sie in produktive und bezahlbare Systeme zu übersetzen, die in Unternehmen wirklich laufen.

Dafür kann Soofi S ein erster Schritt sein.

Die Existenz dieses ersten Modells sagt aktuell allerdings noch gar nichts aus über die Bedeutung des Projekts.

Es gibt zwei Anhaltspunkte, die uns etwas über Soofi S sagen können:

1. Wie wurde es gebaut, und was waren die Lerneffekte daraus für die Zukunft?
2. Wie schnell geht es weiter zu den nächsten Modellen und Meilensteinen?

Zu Ersterem:

• Trainiert in der Industrial AI Cloud der Telekom in München: Dort mit Nvidia B200 GPUs
• GPU-Verbindung: NVLink/NVSwitch von Nvidia
• als Basis wurde die Nemotron-3-Architektur von Nvidia genutzt (Nemotron 3 Nano wurde unverändert übernommen)

Das ist viel Nvidia-Infrastruktur, naheliegend, weil man das Rad nicht komplett neu erfinden muss, aber es wirft auch die Frage auf, wie groß oder besser klein dieser erste Schritt jetzt war.

Zu den Erkenntnissen aus dem ersten Trainingslauf schreiben sie im Paper etwa über Gelerntes zur GPQA-Kontamination oder dies hier:

A mixture consisting almost entirely of German FinePDFs (D08) performs competitively on English but collapses on German bits-per-byte, suggesting that document-style PDF text alone is too narrow for the German tail.

Das ist nicht nichts, aber das sind alles kleine operative Erkenntnisse, kein großer Wurf wie die Entwicklung eines eigenen Optimizers bei Kimi K2 vor einem Jahr in China.

Eine große Erkenntnis scheint zu sein, dass es funktioniert zu haben scheint, die Architektur nicht selbst zu entwickeln, stattdessen die Nvidia-Bausteine zu nutzen und sich auf das Datenrezept zu konzentrieren. (Das kann aber auch eine Selbstrechtfertigung sein für die eigenen Entscheidungen. Unabhängige Einschätzungen stehen noch aus.)

Eine Folge daraus: Der Fokus soll weiter auf Datenaufbereitung liegen, um bessere Grundlagen zu erhalten.

continued scaling of the high-quality German data pipeline that this release identified as the principal bottleneck for further gains

Aber wie weit wird uns all das gegen GPT-5.6, GPT-6, Fable 5, Opus 6 und Kimi K3 bis K4, K5 und K6 bringen? Das ist eine offene Frage.

(Im Detail lautet die Frage: Was können wir damit mittelfristig bauen, was einzelne Einsatzzwecke von nichteuropäischen Modellen hin zu Soofi-Modellen oder verwandten oder abgewandelten Modellen verschieben wird, und was davon wird souveränitätsrelevant sein und nicht nur nice-to-have? Und: Welche Teile von Multi-LLM-Systemen müssen dringend selbst gebaut und verstanden werden?)

Zu Zweitem:

[Soofi S] bildet die Grundlage für weitere Soofi-Modelle, darunter spezialisierte Varianten für Dialog-, Reasoning- und Agentenanwendungen.

Wie sich das für Europa gehört, werden Dinge nicht einfach veröffentlicht, damit es schnell vorangeht:

Derzeit liegt der Fokus auf praxisnahen Tests mit Industriepartnern. Eine allgemeine Veröffentlichung zur direkten Nutzung ist noch nicht erfolgt.
Für die nächste Testphase sucht Soofi Unternehmen und Organisationen, die industrielle KI-Anwendungen erproben möchten.

Soofi S allein sagt uns aktuell also noch nichts darüber, ob wir hier etwas vor uns haben, das uns in Europa weiterhelfen wird. Das werden wir erst wissen, wenn wir sehen, wie schnell die nächsten Modelle kommen und wie effizient die Pipeline zum produktiven Einsatz hochgezogen wird. Ob vom Konsortium oder von Dritten.

Für den Kontext sei nochmal auf die komplett offene Modellfamilie Olmo von AI2 aus den USA verwiesen, zu der auch bereits ein erstes Modell für Robotik gehört.

Wir sind spät dran. Wir sollten uns jetzt nicht zu viel Zeit lassen.

Das Soofi-Projekt wurde im November 2025 gestartet.

Thinking Machines Inkling & Tinker

Das erste eigene Modell des Startups von Ex-OpenAI-CTO Mira Murati; ein offenes MoE-Modell (975 Mrd. Parameter, 41 Mrd. aktiv, Apache 2.0), multimodal trainiert. Es ist bewusst nicht als stärkstes Modell positioniert, sondern als Basis für Anpassung per Fine-Tuning über die hauseigene Tinker-Plattform (Thinking Machines, TechCrunch).

Das ist ein schöner Kontrast zu Soofi: Tinker ist eine flexible API zum Fine-Tuning von Open Source Sprachmodellen, die von Thinking Machines entwickelt wurde. Das Produkt wurde am 1. Oktober 2025 angekündigt und ist seit dem 12. Dezember 2025 allgemein verfügbar.

LLMs allein reichen im Agentenzeitalter, das von Tools und Harnesses bestimmt wird, längst nicht mehr aus. APIs wie Tinker zeigen außerdem, dass Infrastruktur auch auf der Modelltrainingsebene entsteht.

„Wir haben ein eigenes Modell gebaut“ ist 2026 einfach zu wenig, um wirklich eine Bedeutung zu haben.

Mehr: Qwen 3.8 und Meituan LongCat 2.0

Qwen3.8 (Alibaba, 19.07.): Auf der WAIC in Shanghai als Max-Preview vorgestellt. Alibaba nennt es „second only to Fable 5“, legt aber weder Benchmarks noch Model Card vor; offene Gewichte sind ohne Datum „bald“ versprochen (SiliconANGLE, TNW).

LongCat-2.0 (Meituan, 30.06.): 1,6-Bio.-Parameter-MoE (rund 48 Mrd. aktiv, 1 Mio. Token Kontext) unter MIT-Lizenz, nach Firmenangaben komplett auf chinesischen Chips trainiert. (VentureBeat, SiliconANGLE).

Besonders Meituan nehme ich gern als Beispiel dafür, wie sehr die europäische Wirtschaft das Thema verschläft: Während ein chinesischer Restaurant- und Lebensmittellieferdienst LLMs produziert, ist es völlig abwegig so etwas von einem führenden deutschen Konzern wie VW zu erwarten.

Warum ist das so? Worth pondering.

Das Entscheidende aus dem OpenAI-HuggingFace-Vorfall

Europa läuft die Zeit davon. Fable ist zwar wieder da, aber die Richtung bleibt die gleiche. Nicht nur Washington, auch aus Peking kommen jetzt die ersten Signale, dass die besten KI-Modelle eventuell in China bleiben sollten. Damit endet absehbar auch der bisherige europäische Ausweg für eine Region, die sich scheut, eigene KI-Modelle auf Weltniveau zu bauen.

China ist autoritär. Das war also immer nur eine Wette auf Zeit. (Und wird irgendwann nur noch mit Huawei-Hardware umsetzbar sein..) Dass Anthropic Mythos und Fable erst wieder in Betrieb nehmen konnten, als zufällig die neuen GPT-5.6-Modelle von OpenAI verkündet und anschließend in Washington „geprüft“ wurden, sagt uns auch einiges über das politische Chaos in den USA.

Auf dieser Unberechenbarkeit lässt sich kein Geschäft aufbauen. Fable kann man wieder in Europa benutzen, aber kein Unternehmen kann darauf langfristig planerisch Prozesse aufbauen.

Marcel

Im Fokus dieser Ausgabe:

• Warum Europa wirtschaftlich mit dem Rücken zur Wand steht

Für Mitglieder:

• Mistral übernimmt Emmi AI
• Meituans LongCat-2.0: Frontier-Training komplett ohne Nvidia
• KI-Labs wollen eigene Chips
• Chinas Humanoide als nächster Exportschock
• UBTech U1: Chinas Companion-Humanoide gehen in Serie
• Europa: Mistral schiebt ein Robotik-Modell nach, die Niederlande eröffnen einen Humanoiden-Hub
• Pro und contra: Meta baut Cloud-Geschäft auf und verkauft überschüssige Rechenleistung
• Privates vollautonomes Auto: aktuell zu wartungsintensiv
• Stripe Directory: Agenten als Kunden
• Diskursrecycling: „Google beerdigt die klassische Suche“ - Digitalsteuerideen und Abhängigkeiten
• und mehr

Zitat des Tages

Compute is so lacking that it makes sense to build data centres almost anywhere, yet countries show no sense of what is at stake.

The Economist

🤖 KI

Status Quo: Der Stand der Technik

@axeghostgame.bsky.social:

what overburdened maintainers need is a tool that reads an entire pr in seconds, adversarially hunts for hidden errors, triages a hundred submissions down to the five worth human attention, never gets demoralised & costs pennies. no idea what that technology would look like though.

Der IWF warnte in einem Blogpost vom 7. Mai 2026, also schon vor einer Weile, KI-gestützte Cyberangriffe könnten einen "makrofinanziellen Schock" auslösen, wenn mehrere Finanzinstitute gleichzeitig getroffen werden. (IMF)

(Heise/Mac & i):

Die Frage sei, „ob das Finanzsystem auch unter extremem Stress weiterhin funktionsfähig bleibt“, schreiben die Autoren. Das bislang nur einem kleinen Kreis von Firmen verfügbare Modell Claude Mythos unterstreiche, wie schnell sich die Risiken erhöhten. Aktuell werde die Situation noch gemildert, weil die fortgeschrittenen KI-Fähigkeiten noch nicht so verbreitet seien und weil die Branche auf geschlossene Finanzsoftware setze, die nach Einschätzung des IWF schwieriger anzugreifen sei als Open-Source-Infrastruktur. Diese Puffer dürften jedoch rasch schwinden.

Mythos fand in Tests tausende zuvor unbekannte Zero-Day-Schwachstellen in allen gängigen Betriebssystemen und Browsern, darunter eine 27 Jahre alte Lücke in OpenBSD.

Am deutlichsten wird es vielleicht mit dieser Grafik von Epoch AI:

Severe cybersecurity vulnerability disclosures (CVEs) spiked in 2026. In June, notable organizations published around 1,500 high- and critical-severity CVEs — more than 3.5× the monthly record prior to Mythos’ release.

3,5 Mal mehr als vor Mythos. Drei. Komma. Fünf. Eine Verdreifachung gefundener kritischer Sicherheitslücken. Das ist nicht nichts!

Ich war seinerzeit verhalten skeptisch über die Aussagen von Anthropic bezüglich Mythos und dessen Fähigkeiten. Der Rollout des größten und mächtigsten Modells an ausgewählte Organisationen, direkte Sales-Anbindung statt Self-Serve.

Wir müssen, Stand heute, festhalten, dass die Aussagen von Anthropic wieder zutrafen. Da kommen wir gleich noch einmal darauf zurück.

(Ein Grund für den größeren Sprung dürfte sein, dass Mythos und Fable auf einem neuen Pretraining-Run basieren. Also eine neue Modellgeneration darstellen. Modellvarianten basieren oft auf dem gleichen Base-Modell und werden durch verschiedene Posttraining-Methoden (RLHF und autonomes RL etc.) verbessert.)

Dieser von Ethan Mollick angepasste Graph von Erkenntnissen von Artificial Analysis zeigt, dass die Lücke zwischen geschlossenen und offenen Modellen wieder größer geworden ist:

Status Quo: Wahrnehmung und Realität

Ich war in den letzten Tagen und Wochen auf verschiedenen Veranstaltungen, die erhellend aber auch teilweise erschütternd waren. Auf einer Veranstaltung in einem Gespräch mit anderen Journalist:innen, deren Schwerpunkt ebenfalls KI und Technologie ist, stellte ich fest, dass es eine unumstößliche Wahrheit zu sein scheint, dass Anthropic etwa die Warnungen vor der eigenen Technologie nicht ernst meint, das sei nur PR.

Lassen wir einmal die Prämisse außen vor, dass ein Unternehmen, um über Jahre so konsistent zu handeln und zu kommunizieren, ausschließlich aus Soziopathen bestehen müsste, und was das über den/die dies Annehmende aussagt: Das Interessante war, dass nicht in Erwägung gezogen werden konnte, dass es beides sein kann, PR und etwas, das sie glauben. Nur wenn man aber das in Erwägung zieht, versteht man ihr Verhalten, und betrachtet auch die allgemeine Entwicklung anders. Amodeis Vorhersage, dass Ende 2025 die Mehrheit neuen Codes von KI kommen wird, hat sich bewahrheitet. Auch an anderen Stellen hatten sie öfter recht als unrecht, muss ich als jemand sagen, der oft skeptisch auf die Prognosen geschaut hat.

Die Aussagen als unbegründeten Hype abzutun, sorgt vor allem dafür, dass man die Augen vor dem Ausmaß der Entwicklungen verschließen kann. Verharmlosung wird dann möglich.

Auf der KI-Konferenz der FAZ habe ich ein Panel moderiert und ebenfalls mit vielen Leuten über diese Themen gesprochen. Der Mittelstand im Maschinenbau sieht diese Entwicklungen (zumindest der sich selbst selektierende Teil, der auf solche Veranstaltungen geht), aber auch hier ist die Dringlichkeit der Lage noch nicht angekommen. Das hatte ich schon Ende letzten Jahres oft mit Sorge mitbekommen.

Der Kuka-Deutschland-Chef Christoph Schell sagte auf der Bühne der FAZ-Konferenz, Deutschland habe beim Thema Robotik noch 12 Monate, bevor es gegen China kaum noch eine Chance haben wird.

Wer Produktentwicklungszyklen im Maschinenbau kennt, weiß, dass man statt 12 Monate auch genauso gut 24 Stunden sagen könnte.

Der deutsche Robotikriese Kuka gehört bekanntlich seit Längerem dem chinesischen Midea-Konzern.

Status Quo: Europa mit dem Rücken zur Wand

Thorsten Benner argumentiert in Foreign Policy, dass Europa selbst mit dem EuroStack-Ansatz kein KI-Gleichgewicht herstellen kann. (Foreign Policy) Dazu passt der Blick auf den Cloud and AI Development Act (CADA) aus dem EU-Souveränitätspaket: Er zielt auf eine Verdreifachung der EU-Rechenzentrumskapazität. (Jones Day) Selbst die strengste CADA-Souveränitätsstufe steht allerdings US-Hyperscalern über kontrollierte Europa-Töchter offen. (TechPolicy.Press)

Und eine Verdreifachung klingt nach viel, aber ist es das?

Die Antwort mit Claude visualisiert:

Die Verdreifachung ist das Minimum, um im Rennen zu bleiben, nicht der Plan, es zu gewinnen.

Quellen u.a.: Politico (März 2026), EPRS-Briefing zum CADA, Kommission, CADA-Policy-Seite, McKinsey (Okt 2024): Europa 10→35 GW Bedarf, eutoday (Juni 2026)

~

Neben Chips und Speicher werden nun auch die Boards selbst teurer. Reuters:

In April alone, PCB prices surged as much as 40% from March, Goldman Sachs analysts said in a recent note. Cloud service providers are willing to accept further increases ​as they expect demand will outstrip supplies over the coming years, they added.
The global PCB industry is projected ​to increase by 12.5% to reach $95.8 billion in 2026, according to a recent report from Prismark.

Die zwei Gründe: Auch der Irankrieg treibt die Kosten hoch und die Hyperscaler sind bereit, höhere Preise zu zahlen, weil die Nachfrage für KI-Agenten durch die Decke geht.

Die Preiselastizität hier ist entscheidend: Die (Firmen-)Kunden wollen mehr KI-Agenten, weil der Gegenwert sehr viel höher ist als das, was sie dafür bezahlen - es ist attraktiv. Die Hyperscaler, die die Infrastruktur dafür bauen und verkaufen, sind ausnahmslos an ihrem Kapazitätslimit.

Deshalb zahlen Hyperscaler höhere Preise. KI ist der wirtschaftlich wertvollste Einsatz von Rechenleistung.

Consumerhardware wird deshalb weiter verdrängt, genauso wie es Branchen wie die Automobilbranche treffen wird, die auch darauf nicht vorbereitet sind.

Steigende Preise und damit sinkende Gewinnmargen sind übrigens gar nicht das Worst-Case-Szenario.

Das schlimmste Szenario hatten wir in der Pandemie gesehen: Stillstehende Werke wegen Chipknappheit.
Die Wahrscheinlichkeit, dass das wieder passiert, ist real.

Für die FAZ habe ich die Tage über den 2. China-Schock geschrieben, der nicht nur die Autobauer trifft, aber VW aktuell am sichtbarsten macht, hinzu kommen Kostenanstiege bei den High-Tech-Komponenten wie aktuell Memory: China-Schock 2.0: Warum Volkswagen so massiv sparen will | FAZ:

Wer verstehen will, warum die Verwundbarkeit so breit ist, muss eine Schicht tiefer schauen. Im Januar dieses Jahres haben wir hier im Briefing den elektrischen Industrie-Stack als die fehlende Grundlage benannt. Gemeint ist die softwaregesteuerte, elektrisch angetriebene Basis der nächsten Industrialisierung aus Mineralien, Batterien, Leistungselektronik, Antrieben und Rechenleistung. Wer diese Schichten beherrscht, beherrscht die künftigen Branchen. China dominiert sie bereits an vielen Stellen.

~

Zu alldem kommt die europäische KI-Schwäche hinzu.

Aktuell können die schwachen Europäer noch auf chinesische Modelle ausweichen, die man sicher hierzulande hosten kann. Aber das war immer nur eine Wette auf Zeit.

In der Fable-Analyse schrieb ich:

Peking wird mindestens so restriktiv sein wie Washington. Auch hier werden die Top-Modelle in ein paar Jahren das Land nicht mehr verlassen dürfen. Und die zweite Riege fürs Ausland wird es nur im Verbund mit chinesischer Hardware geben.

Da bezog ich mich noch primär auf die kommende Komplementärstrategie zwischen KI-Modell und Huawei-Chips.

In der Zwischenzeit haben wir erfahren: Auch China prüft eine stufenweise Export-Beschränkung der besten chinesischen Modelle.

Nochmal: Das war völlig vorhersehbar.

Chinas Handelsministerium hat laut Reuters in den vergangenen Wochen mit Alibaba, ByteDance und Z.ai darüber gesprochen, den Auslandszugang zu den fortschrittlichsten chinesischen Modellen zu beschränken.

Ausdrücklich einbezogen sind offene und noch unveröffentlichte Modelle. Umfang und Zeitplan sind offen.

Wie eine solche Beschränkung aussehen könnte, deutet ein Experten-Roundtable vom Mai an, dokumentiert in einem Journal des Obersten Volksgerichts: einfache Registrierung für Basis-Tools, Sicherheitsprüfungen für fortgeschrittene Technologien, und die sensibelsten Frontier-Modelle würden gar nicht veröffentlicht oder blieben auf den Inlandsmarkt beschränkt .

According to a summary of the discussions published in an official Supreme People's Court journal, participants proposed a tiered system: basic open-source tools subject to a simple ​filing, more advanced technologies facing security reviews, and the most sensitive frontier models barred from public release or restricted to domestic use.

(Reuters)

Das ist dann exakt die gleiche Richtung wie in Amerika.

Gedankenexperiment: Globale KI-Standortpolitik arbeitet gegen Europa

Ich war zu Gast im Mikroökonomen-Podcast, die Folge sollte aktuell als Premium-Ausgabe veröffentlicht werden. Darin erkläre ich, warum Europa bei KI mit dem Rücken zur Wand steht:

Gedankenexperiment: Die US-Regierung hat zwei Optionen zur Auswahl.

Erste Option: Sie erlaubt den Export der besten KI-Modelle der Frontier-Labs. Anthropic und OpenAI wachsen zu zwei sehr großen, sehr mächtigen Konzernen heran. Aufgrund des Marktes für KI weltweit wird jedes der Beiden größer als die größten heutigen Tech-Konzerne.

Zweite Option: Die besten KI-Modelle bleiben den heimischen Unternehmen vorenthalten. Dadurch erhalten die Branchen einen signifikanten Wettbewerbsvorteil. Man denke etwa an die Medizinforschung, die zunehmend nicht nur von „klassischem“ ML sondern auch von LLMs profitiert. US-Pharma erhält einen automatischen Vorsprung gegen die internationale Konkurrenz, wenn es Zugang zu den besten KI-Modellen hat, die nur in den USA verfügbar sind. Europa darf dann die Ergebnisse kaufen.

Diese Überlegungen lassen sich für jede Branche wiederholen. Und sie lassen sich auch für Peking wiederholen.

Die Folge von Option 2 sind erfolgreiche, aber etwas kleinere Frontier-Labs, und gesündere Volkswirtschaften in deren Heimatländern.

Es steht außer Frage, dass wir auf eine Welt wie bei Option 2 zusteuern.

Der Fable-Bann war ein Grönlandmoment für KI in Europa, weil er ebenso wie die Fable-Geschichte zwar keine dauerhafte Situation hervorgebracht hat (Invasion, Exportverbot), aber auf sehr plumpe, anschauliche Art gezeigt hat, wo die Reise hingeht.

Mistral übernimmt Emmi AI