Excess Compute

Erstens (das hat schon etwas früher angefangen): Anthropics Top-Modelle dürfen wieder verwendet werden. Zweitens: der Börsengang von OpenAI wurde vorerst abgesagt, und drittens: Meta hat eine Schiffsladung Compute bestellt und erhalten — und hat keine Ahnung, was es damit anfangen soll.

So, wie läuft es in der Computerwelt? Für uns normale Computernutzer — also keine AI-Unternehmen — ist es ein ziemlich besonderes Jahr: Die Kosten für Hardware sind explodiert. RAM ist schwer zu bekommen, GPUs sind extrem teuer (besonders die Pro-Varianten), und SSDs sowie HDDs sind bei den Rechenzentrumsbetreibern ebenfalls enorm gefragt und entsprechend teuer.

All das in Erwartung des erschütternden, weltverändernden AI-Wunders, das einfach nicht eintreten will. Sicher, es gibt etwas an AI, das eine brillante Zukunft verspricht. Nur weiß niemand, was das ist. Und genau das wird jetzt zum Problem. Es wurde eine unglaubliche Menge Geld in AI gesteckt — und es kommt nicht zurück. Das ist natürlich ebenfalls ein Problem. Die AI-Unternehmen taten so, als existiere diese Tatsache schlichtweg nicht, aber wenn man an die Börse will, um seine Billionen einzusammeln, muss man Zahlen vorlegen. Und das wird jetzt zum Problem. Was sich zeigt: OpenAI und Anthropic ächzen unter Schulden, und es wird nur ein Bruchteil an Einnahmen im Vergleich zu den Ausgaben verdient. Hinzu kommt, dass diesen Unternehmen die Anwendungsfälle ausgehen. Will heißen: Beide scheinen keine Ahnung zu haben, was sie mit ihrer Technologie anfangen sollen. Ja, es hat Potenzial, das sieht jeder. Nur in der Form, wie man es darstellt, ist „es” einfach nicht da.

Meta war einer der Hauptsponsoren und hat Milliarden in Compute gesteckt. Nur hat Meta keinen Anwendungsfall dafür. Jetzt wird diese Compute auf den freien Markt geworfen mit dem Ruf: „Wir werden das neue AWS.” Das neue Geschäftsmodell: Wir vermieten es. Schön und gut, nur gibt es bereits keine Nachfrage — wer soll das mieten?

Ein weiteres Phänomen: SoftBank wollte einen Kredit aufnehmen und seine Anteile an OpenAI als Sicherheit hinterlegen. Es fand sich keine einzige Bank dafür. Was sagt das über die (finanzielle) Lage von OpenAI aus? Die Unternehmen, die voll auf AI-Nutzung gesetzt haben — Tokenmaxxer — kommen nun sehr schnell davon zurück, da die tatsächlichen Token-Kosten abgerechnet werden. Es ist zu teuer.

Alles in allem entsteht ein Bild, in dem der Hype von der Realität eingeholt wird — und das trifft offenbar hart.

Und dann stellt sich natürlich die Frage: Wie geht es weiter? Wenn man die Compute nicht braucht, baut man dann all die jetzt schon überflüssigen Rechenzentren, an denen eine Abschreibung klebt?

Inzwischen wird der Fall für Open-Source-AI immer stärker. Die Modelle sind mittlerweile enorm gut geworden. Was fehlt, ist: Compute — aber lokal.

Interessante Zeiten.