Kurz gefasst. Im Juli haben wir geschrieben, dass der Open-Weight-Brief Ostlers Liefervereinbarung ist. Seitdem ist den darunterliegenden Schichten zweierlei zugestoßen. Ein anonymer Anbieter hat begonnen, Inferenz auf Spitzenniveau über OpenRouter zu verschenken, mit einem Eintrag, der besagt, dass Prompts und Antworten gespeichert werden. Und Hugging Face, wo offene Modelle leben, sucht Berichten zufolge einen Käufer bei rund 13 Milliarden Dollar. Keines von beidem ist ein Skandal. Beides erinnert daran, dass alles oberhalb Ihrer eigenen Festplatte die Geschäftsentscheidung von jemandem ist. Auch eine von unseren, die wir unten benennen.

Vor einem Monat haben wir über den Open-Weight-Brief geschrieben und ein etwas ungewöhnliches Argument vorgebracht: dass ein Stück Branchenpolitik für uns ein Beschaffungsdokument ist. Ostler führt Modelle auf Ihrem Mac aus. Wenn die Gewichte nicht mehr veröffentlicht werden, haben wir kein Produkt mehr.

In jenem Beitrag stand ein beiläufiger Satz: Hugging Face ist der Ort, an dem offene Modelle leben. Diese Woche hat diesem Satz eine zweite Lesart gegeben.

Kostenlose Inferenz, von niemand Bestimmtem

Vergangene Woche erschien ein Modell namens Ox Alpha auf OpenRouter, als stille Veröffentlichung eines anonymen Drittanbieters. Kostenlos nutzbar, mit einem Kontextfenster von etwas über einer Million Token. Der Open-Source-Agent OpenCode erklärte, das Modell sei eine Woche lang mit nahezu unbegrenzter Nutzung kostenlos und der Anbieter verfüge über Kapazität für hundert Billionen Token pro Tag. Entwickler, die es ausprobierten, zeigten sich beeindruckt; darunter der Vorstandschef von Stripe.

Niemand hat ermittelt, auf wessen Servern es läuft. Die führenden Theorien verwiesen auf ein chinesisches Labor, das Modelle schon zuvor anonym getestet hat, und auf einen großen amerikanischen Konzern, und bis zum Wochenende war die Zuversicht bei beiden verflogen.

Die Identität ist der interessante Teil der Geschichte. Sie ist nicht der wichtige Teil. Der wichtige Teil steht in OpenRouters eigenem Eintrag, der besagt, dass Prompts und Antworten vom Anbieter gespeichert und nicht für das Training verwendet werden.

Lesen Sie das noch einmal, mit einem Arbeitsprojekt im Hinterkopf. Was immer Sie senden, geht an ein Unternehmen, das nicht gesagt hat, wer es ist, und es behält es. The Next Web, die darüber gut berichtet haben, haben die Schlussfolgerung besser formuliert, als wir es könnten: kostenlos hat hier einen Preis, und dieser Preis ist Information.

Das Argument, das die Bekanntgabe überdauert

Es wäre einfach und billig, wenn wir schrieben, anonym bedeute finster. Das werden wir nicht tun, denn es stimmt wahrscheinlich nicht. Ox Alpha könnte sich durchaus als Modell eines bekannten Namens mit einer unauffälligen Aufbewahrungsrichtlinie entpuppen, und eine stille Veröffentlichung ist ein völlig legitimer Weg, ein Modell zu erproben, bevor man sein Logo daraufsetzt.

Beachten Sie aber, dass sich das Problem dadurch nicht auflöst, sondern nur datiert wird. Wenn sich der Anbieter nächsten Monat zu erkennen gibt, hat die Speicherung bereits stattgefunden, in jenem Zeitfenster, in dem niemand die Gegenpartei benennen konnte. Man kann nicht rückwirkend für Daten einwilligen, die man bereits gesendet hat.

Für ein europäisches Unternehmen hört das auf, eine Geschmacksfrage zu sein, und wird zu Papierkram, der sich nicht erledigen lässt. Das Datenschutzrecht verlangt einen Vertrag mit einem benannten Auftragsverarbeiter und eine Bewertung, wohin die Daten fließen. Beides ist unmöglich, wenn die Gegenseite anonym ist. Die Transparenzpflichten des KI-Gesetzes gelten seit dem 2. August, mit Strafen von berichteten bis zu 15 Millionen Euro oder 3 % des weltweiten Umsatzes, in einem Regelwerk, das darauf aufbaut zu wissen, welcher Anbieter wofür verantwortlich ist.

Die belastbare Form des Arguments handelt also nicht von diesem Modell oder diesem Anbieter. Sie lautet schlicht: Sie können eine Gegenpartei nicht bewerten, die Sie nicht benennen können. Dieser Satz gilt, wem auch immer Ox Alpha gehört, und er gilt weiter, nachdem man es uns gesagt hat.

Und dann das Regal, auf dem die Gewichte liegen

Zwei Tage später berichtete Business Insider, Hugging Face spiele mit dem Gedanken einer Übernahme, arbeite mit einer Bank zusammen, bei einer Bewertung von rund 13 Milliarden Dollar. Noch kein Abschluss. Zum Vergleich: Die letzte bekannt gegebene Finanzierungsrunde bewertete das Unternehmen 2023 mit 4,5 Milliarden Dollar, und es lehnte Berichten zufolge ein Angebot von Nvidia ab, das es mit 7 Milliarden Dollar bewertet hätte.

Auch das ist keine Katastrophengeschichte. GitHub wurde 2018 von Microsoft für 7,5 Milliarden Dollar übernommen, und nach den meisten Maßstäben, die Entwicklern wichtig sind, ging das gut aus. Hugging Face war ein ungewöhnlich guter Bürger eines Ökosystems, das es mitgeschaffen hat, und ein gut kapitalisierter Eigentümer könnte genau das sein, was das so hält.

Es ist dennoch eine Veränderung besonderer Art. Ein Gemeingut und ein gut geführter Vermögenswert sind verschiedene Arrangements, selbst wenn sie sich jahrelang identisch verhalten. Eines von beiden hat einen Vorstand, den man fragen kann, wozu das Verzeichnis da ist.

Wo uns das konkret lässt

Hier kommt der Teil, der aus unserer Sicht das Recht auf den Rest des Beitrags erwirbt, denn es wäre sehr leicht, all das Obige so zu schreiben, als schwebten wir darüber.

Tun wir nicht. Hier ist unsere tatsächliche Lage, die wir kennen, weil wir eine Liste jedes Ziels führen, mit dem irgendetwas auf einem Ostler-Mac sprechen kann, und warum, und was dabei übertragen wird.

Das Modell, das Ihre Fragen beantwortet, kommt nicht von Hugging Face. Es gelangt über Ollamas eigenes Verzeichnis zu Ihnen und liegt dann als Datei auf Ihrer Festplatte. Wenn Hugging Face morgen den Besitzer wechselte, würde Ihr Assistent es nicht bemerken.

Wir haben allerdings eine Abhängigkeit von Hugging Face, und sie ist eine pointierte. Der Datenschutzfilter, die Komponente, die mitentscheidet, was als sensibel gilt, lädt eine fest angeheftete Revision eines kleinen Modells von Hugging Face. Was dafür Ihren Mac verlässt, ist eine Modellkennung und eine Revision. Keine Kundendaten, keine Grapheninhalte.

Anheften schützt die Integrität, nicht die Verfügbarkeit. Weil wir eine exakte Revision anheften, kann niemand das Modell, das unter Ihnen läuft, unbemerkt austauschen: Eine angeheftete Revision führt entweder zu denselben Gewichten oder zu gar nichts. Wogegen Anheften nicht schützt, ist eine Änderung des Anbieters, der Bedingungen oder der regionalen Verfügbarkeit, sodass sie für jemanden gar nicht mehr auflöst. Das ist ein Kontinuitätsproblem, und die Antwort auf ein Kontinuitätsproblem ist ein Spiegelserver, also ein langweiliger Nachmittag Technik statt eines Notfalls.

Wir sagen Ihnen lieber selbst von dieser Abhängigkeit, als dass Sie sie finden. Ein Unternehmen, das eine saubere Grenze behauptet und seine eigene nie aufgezählt hat, stellt eine Behauptung auf, die es nicht geprüft hat.

Zwei Fragen, die sich bei allem lohnen

Keine davon ist eine feindselige Frage, und viele gute Produkte haben auf beide gute Antworten. Der Punkt ist, dass es die Antworten überhaupt geben sollte.

Wer führt die Inferenz aus, und können Sie ihn benennen? Nicht die App, die Sie geöffnet haben. Das Unternehmen, auf dessen Hardware Ihre Worte verarbeitet werden und dessen Aufbewahrungsrichtlinie folglich für sie gilt.

Woher kommen die Gewichte, und was passiert mit Ihnen, wenn das den Besitzer wechselt? Wenn die Antwort lautet, Sie würden es aus einer Pressemitteilung erfahren, ist das etwas, das man wissen sollte, bevor es sich lohnt, es zu wissen.

Die Position, die nicht vom Ausgang abhängt

Wir haben keine Ahnung, wem Ox Alpha gehört, und keine Ahnung, wem Hugging Face gehören wird. Sie auch nicht, und genau darum geht es.

Es gibt genau ein Arrangement, in dem diese beiden Fragen nicht ohne Ihr Zutun neu beantwortet werden können: Die Gewichte sind eine Datei auf Ihrer Festplatte, und die Inferenz findet auf Ihrer Maschine statt. Unter diesem Arrangement ist die Identität von Ox Alpha eine Randnotiz und der neue Eigentümer von Hugging Face die Pressemitteilung von jemand anderem.

Das ist keine Behauptung, lokal sei immer besser. Es ist eine viel engere Behauptung, und die einzige, die wir verteidigen würden: Lokal ist das Arrangement, in dem die Antworten aufhören, die von jemand anderem zu ändernden zu sein.

Die Branche wird sich oberhalb der Modellschicht weiter neu ordnen, und meistens wird das gut für alle sein, uns eingeschlossen. Wir hätten nur lieber, dass das Leben unserer Kunden nirgendwo gespeichert ist, wohin eine Neuordnung reichen kann.