Oh. Entschuldigung. War nur ein Versehen. Wirklich.
Seit letzter Woche werden bei den großen amerikanischen AI-Herstellern die Messer gewetzt. Hugging Face, der größte Anbieter von Open-Source-AI-Modellen, wurde gehackt.
Große Neuigkeit letzte Woche: Kimi K3 wurde veröffentlicht. Für alle, die nicht wissen, was das ist: Kimi K3 wird als ein AI-Modell beschrieben, das nahezu genauso gut ist wie das, was OpenAI und Anthropic — die selbsternannten Marktführer — herstellen. Das hat für ziemlich heftige Reaktionen gesorgt.
Ein Manager von OpenAI (Dean Ball) veröffentlichte selbst einen Beitrag auf X, in dem solche Texte vorkamen: „One probable outcome of an open-weight-model-dominant world is full AI communism, which is precisely what China proposes: rather than a market product, AI is a ‘public good’ which will ultimately be provided by the state as a kind of ‘digital public infrastructure.’ This future strikes me as a dystopian hellscape.”
Und dies: „I would guess that the Trump Administration will at some point realize that their best strategy here would be to create large amounts of regulatory risk around the use of open-weight Chinese models. You don’t need to ‘ban open source’ (one of the dumber motifs of AI policy discussion). You just need to direct every agency to issue soft law that creates FUD.” (FUD = Fear – Uncertainty – Doubt).
An und für sich ist das ein enormes Armutszeugnis und zeigt, dass OpenAI ein bisschen die Ideen ausgehen — denn offenbar sieht man sich nicht mehr in der Lage, das eigene Produkt signifikant gegenüber der Konkurrenz zu verbessern. Ein bisschen die Angst des Monopolisten, das Königreich zu verlieren. Tja, Wettbewerb ist hart.
Zwei Tage später wird bekannt, dass Hugging Face gehackt wurde.
Hugging Face ist DIE Plattform, auf der Open-Source-AI-Modelle angeboten werden. Wer nicht von den kommerziellen Anbietern abhängig sein will — hauptsächlich OpenAI und Anthropic — der landet schnell auf dieser Website.
Hugging Face veröffentlichte folgende Nachricht auf seiner Website: „Earlier this week, we detected and responded to an intrusion into part of our production infrastructure. This one was different from anything we had handled before in one important way: it was driven, end to end, by an autonomous AI agent system — and we detected and dissected it largely with AI of our own.”
Hugging Face Security Incident
Es gibt hervorragende Open-Source-AI-Modelle, die der Plattform eine gewisse Verteidigung ermöglichten: „Autonomous, AI-driven offensive tooling is no longer theoretical. It lowers the cost of running a broad, patient, multi-stage campaign, and it operates at machine speed. Defending an online platform now means treating the data and model surface as a first-class attack surface, and using AI on defense to keep pace.”
Eine völlig neue Dimension von Website-Angriffen also — auf einem Niveau, gegen das man sich kaum verteidigen kann. Der Albtraum jedes Website-Administrators (das zur Verteidigung eingesetzte Modell war übrigens GLM 5.2). Wovor in der Anfangsphase von AI gewarnt wurde, ist nun Realität. Wieder ein Stückchen näher an der dystopischen Terminator-Welt.
Aber die Geschichte ist noch nicht zu Ende. Inzwischen ist bekannt, wer der Angreifer war: OpenAI.
Der kommerzielle Protagonist, der selbst verkündet, ein erhebliches Problem mit Open-Source-AI zu haben, war der Angreifer.
Wir sind ein paar Stunden weiter und beim Punkt: Ja, ups, Versehen. Es war in einer Sandbox und plötzlich war es entkommen. Und tja, wirklich sorry, war echt nicht beabsichtigt. Nur stecken da auch wieder einige Löcher in dieser Geschichte: a) Wieso entkommen? Man hat dieses Modell also nicht unter Kontrolle! Und b) das Ziel ist dann Hugging Face! Einfach so. Aus Versehen? Hat es das selbst entschieden?!
Klingt nicht wirklich überzeugend.
OpenAI sagt jetzt Sorry und es wird wirklich nicht wieder vorkommen, und man wird alles tun, um neue Leitplanken einzuführen, die verhindern, dass es in Zukunft noch einmal passieren kann — trust me bro. Ja, wirklich! Das sagen sie.