Oh. Sorry hoor. Is maar een foutje. Echt.
Sinds afgelopen week worden de messen geslepen bij de grote Amerikaanse AI makers. Huggingface de grootste leverancier van Open Source AI modellen is gehackt.
Groot nieuws afgelopen week: Kimi K3 werdt uitgebracht. Voor wie niet weet wat dat is: Kimi K3 wordt omschreven als vrijwel net zo goed zijnde AI model dan wat OpenAI en Anthropic maken, de zelfverklaarde marktleiders. Dit heeft voor best heftige reacties gezorgd.
Een manager van OpenAI (Dean Ball) plaatste zelf een bericht op X waar dit soort texten in voor kwamen: “One probable outcome of an open-weight-model-dominant world is full AI communism, which is precisely what China proposes: rather than a market product, AI is a “public good” which will ultimately be provided by the state as a kind of “digital public infrastructure.” This future strikes me as a dystopian hellscape.”
En dit: “I would guess that the Trump Administration will at some point realize that their best strategy here would be to create large amounts of regulatory risk around the use of open-weight Chinese models. You don’t need to “ban open source” (one of the dumber motifs of AI policy discussion). You just need to direct every agency to issue soft law that creates FUD.” ( FUD = Fear - Uncertainty - Doubt).
In en op zichzelf is dit een enorm zwaktebod en geeft het aan dat OpenAI een beetje door de ideen heen is want blijkbaar ziet men zichzelf niet meer in staat om het eigen product significant te verbeteren ten opzichte van de concurrentie. Een beetje de angst van de monopolist om het koninkrijk kwijt te raken. Tja, concurrentie is zwaar.
Twee dagen later wordt bekend dat Hugginface gehackt is.
Huggingface is HET platform waar Open Source AI modellen aangeboden worden. Voor wie niet afhankelijk wil zijn van aanbod van de commerciële partijen, OpenAI en Anthropic voornamelijk, die komt snel terecht bij deze website.
Huggingface plaatste het volgende bericht op zijn website: “Earlier this week, we detected and responded to an intrusion into part of our production infrastructure. This one was different from anything we had handled before in one important way: it was driven, end to end, by an autonomous AI agent system - and we detected and dissected it largely with AI of our own.”
Er zijn enorm goede opensource AI modellen die het platform in staat stelden zich enigszins te verdedigen: “Autonomous, AI-driven offensive tooling is no longer theoretical. It lowers the cost of running a broad, patient, multi-stage campaign, and it operates at machine speed. Defending an online platform now means treating the data and model surface as a first-class attack surface, and using AI on defense to keep pace.”
Een hele nieuwe dimensie dus in aanvallen op een website en van een niveau waartegen men zich bijna niet kan verweren. De schrik van elke website beheerder dus (het model dat ter verdediging werdt gebruikt was: GLM 5.2 trouwens). Waarvoor gewaarschuwd werdt in de beginfase van AI is nu dus een realiteit. Weer een stukje dichter bij de dystopian Terminator wereld.
Maar het verhaal is nog niet af. Inmiddels is bekend wie de aanvaller was: OpenAI.
De commerciele protagonist die zelf verkondigd best een probleem te hebben met Open Source AI was de attacker.
We zijn een paar uur verder en op het punt: ja, oeps foutje. Het zat in een sandbox en ineen was het ontsnapt. En tja echt sorry hoor maar was echt nie de bedoeling. Alleen daar zitten ook weer een aantal gaten in dit verhaal: a) Hoezo ontsnapt? Je hebt dat modell dus niet onder controle! En b) het target is dan Huggingface! Zo maar. Per ongeluk? Heeft die zelf besloten?!
Klinkt niet echt overtuigend.
OpenAi zegt nu sorry en zal echt niet meer gebeuren en we gaan er alles aan doen om de nieuwe guardrails in te voeren die voorkomen dat het in de toekomst nog een keer kan gebeuren, trust me bro. Ja echt! Dat zeggen ze.