En bref. En juillet, nous avons écrit que la lettre sur les poids ouverts était l’accord d’approvisionnement d’Ostler. Depuis, deux choses sont arrivées aux couches situées en dessous. Un fournisseur anonyme s’est mis à distribuer gratuitement de l’inférence de premier plan sur OpenRouter, avec une fiche indiquant que les invites et les réponses sont conservées. Et Hugging Face, là où vivent les modèles ouverts, chercherait à se faire acquérir pour environ 13 milliards de dollars. Aucun des deux n’est un scandale. Les deux rappellent que tout ce qui se trouve au-dessus de votre propre disque relève de la décision commerciale de quelqu’un. Y compris l’une des nôtres, que nous nommons plus bas.

Il y a un mois, nous avons écrit au sujet de la lettre sur les poids ouverts en avançant un argument un peu inhabituel : qu’un épisode de politique industrielle était, pour nous, un document d’approvisionnement. Ostler exécute des modèles sur votre Mac. Si les poids cessent d’être publiés, nous cessons d’avoir un produit.

Ce billet contenait une phrase lâchée en passant : Hugging Face est là où vivent les modèles ouverts. Cette semaine a donné à cette phrase une seconde lecture.

De l’inférence gratuite, de personne en particulier

La semaine dernière, un modèle nommé Ox Alpha est apparu sur OpenRouter, sortie discrète d’un fournisseur tiers anonyme. Gratuit, avec une fenêtre de contexte d’un peu plus d’un million de jetons. L’agent open source OpenCode a indiqué que le modèle serait gratuit pendant une semaine avec un usage quasi illimité, et que le fournisseur disposait d’une capacité de cent mille milliards de jetons par jour. Les développeurs qui l’ont essayé ont été impressionnés ; le directeur général de Stripe parmi eux.

Personne n’a établi sur quels serveurs il tourne. Les principales hypothèses ont désigné un laboratoire chinois qui a déjà testé des modèles de façon anonyme, et un grand acteur américain, et le week-end venu la confiance s’était évaporée pour les deux.

L’identité est la partie intéressante de l’histoire. Ce n’est pas la partie importante. La partie importante figure dans la fiche d’OpenRouter elle-même, qui indique que les invites et les réponses sont conservées par le fournisseur et ne servent pas à l’entraînement.

Relisez cela en pensant à un projet professionnel. Tout ce que vous envoyez part vers une entreprise qui n’a pas dit qui elle est, et elle le garde. The Next Web, qui a bien couvert le sujet, a formulé la conclusion mieux que nous ne saurions le faire : le gratuit a ici un prix, et ce prix est l’information.

L’argument qui survit à l’annonce

Il serait facile, et bon marché, d’écrire qu’anonyme veut dire malveillant. Nous n’allons pas le faire, car ce n’est probablement pas vrai. Ox Alpha pourrait fort bien appartenir à un nom connu doté d’une politique de conservation banale, et une sortie discrète est une façon parfaitement légitime d’évaluer un modèle avant d’y apposer son logo.

Mais notez que cela ne dissout pas le problème, cela le date seulement. Si le fournisseur se déclare le mois prochain, la conservation a déjà eu lieu, pendant la période où personne ne pouvait nommer la contrepartie. On ne peut pas consentir rétroactivement pour des données déjà envoyées.

Pour une entreprise européenne, cela cesse d’être une affaire de goût et devient une affaire de paperasse impossible à remplir. Le droit de la protection des données exige un contrat avec un sous-traitant nommé et une évaluation de la destination des données. Ni l’un ni l’autre n’est possible quand la partie adverse est anonyme. Les obligations de transparence du règlement sur l’IA s’appliquent depuis le 2 août, avec des sanctions annoncées jusqu’à 15 millions d’euros ou 3 % du chiffre d’affaires mondial, dans un régime bâti sur le fait de savoir quel fournisseur est responsable de quoi.

La forme durable de l’argument ne porte donc pas sur ce modèle ni sur ce fournisseur. Elle est simplement : vous ne pouvez pas évaluer une contrepartie que vous ne pouvez pas nommer. Cette phrase reste vraie quel que soit le propriétaire d’Ox Alpha, et elle le reste après qu’il nous l’a dit.

Et puis l’étagère sur laquelle reposent les poids

Deux jours plus tard, Business Insider rapportait que Hugging Face envisageait d’être acquis, avec le concours d’une banque, pour une valorisation d’environ 13 milliards de dollars. Pas encore d’accord. Pour situer, sa dernière levée annoncée le valorisait en 2023 à 4,5 milliards de dollars, et il aurait refusé une offre de Nvidia qui l’aurait valorisé à 7 milliards.

Ce n’est pas non plus une histoire catastrophe. GitHub a été acquis par Microsoft en 2018 pour 7,5 milliards de dollars et, selon la plupart des critères qui comptent pour les développeurs, tout s’est bien passé. Hugging Face a été un citoyen exceptionnellement correct d’un écosystème qu’il a contribué à créer, et un propriétaire bien capitalisé pourrait être ce qui le maintient ainsi.

Cela reste un changement d’un genre particulier. Un bien commun et un actif bien géré sont des arrangements différents, même lorsqu’ils se comportent de façon identique pendant des années. L’un des deux a un conseil d’administration à qui l’on peut demander à quoi sert le dépôt.

Où cela nous laisse, précisément

Voici la partie qui, selon nous, justifie le reste du billet, car il serait très facile d’écrire tout ce qui précède comme si nous flottions au-dessus.

Ce n’est pas le cas. Voici notre position réelle, que nous connaissons parce que nous tenons une liste de chaque destination avec laquelle quoi que ce soit sur un Mac Ostler peut communiquer, et pourquoi, et ce qui y transite.

Le modèle qui répond à vos questions ne vient pas de Hugging Face. Il arrive par le registre d’Ollama puis vit comme un fichier sur votre disque. Si Hugging Face changeait de mains demain, votre assistant ne s’en apercevrait pas.

Nous avons bien une dépendance à Hugging Face, et elle est significative. Le filtre de confidentialité, le composant qui aide à décider de ce qui compte comme sensible, récupère une révision épinglée d’un petit modèle sur Hugging Face. Ce qui quitte votre Mac pour cela, c’est un identifiant de modèle et une révision. Aucune donnée client, aucun contenu du graphe.

L’épinglage protège l’intégrité, pas la disponibilité. Parce que nous épinglons une révision exacte, personne ne peut changer discrètement le modèle qui tourne sous vos pieds : une révision épinglée mène soit aux mêmes poids, soit à rien du tout. Ce contre quoi l’épinglage ne protège pas, c’est un changement d’hébergeur, de conditions ou de disponibilité régionale qui ferait qu’elle ne mène plus à rien pour quelqu’un. C’est un problème de continuité, et la réponse à un problème de continuité est un miroir, soit un après-midi d’ingénierie ennuyeux plutôt qu’une urgence.

Nous préférons vous parler de cette dépendance plutôt que vous la laissiez découvrir. Une entreprise qui revendique une frontière nette sans avoir jamais recensé la sienne avance une affirmation qu’elle n’a pas vérifiée.

Deux questions à poser à n’importe quoi

Aucune des deux n’est une question hostile, et bien des produits de qualité y répondent bien. L’essentiel est que les réponses existent.

Qui exécute l’inférence, et pouvez-vous le nommer ? Pas l’application que vous avez ouverte. L’entreprise sur le matériel de laquelle vos mots sont traités, et dont la politique de conservation s’y applique donc.

D’où viennent les poids, et que vous arrive-t-il si cela change de mains ? Si la réponse est que vous l’apprendriez par un communiqué de presse, cela vaut la peine de le savoir avant que cela ne vaille la peine de le savoir.

La position qui ne dépend pas de l’issue

Nous n’avons aucune idée de qui possède Ox Alpha, ni de qui possédera Hugging Face. Vous non plus, et c’est bien là le problème.

Il existe exactement un arrangement dans lequel ces deux questions ne peuvent pas être reformulées sans vous : les poids sont un fichier sur votre disque et l’inférence a lieu sur votre machine. Sous cet arrangement, l’identité d’Ox Alpha est une anecdote et le nouveau propriétaire de Hugging Face le communiqué de quelqu’un d’autre.

Ce n’est pas affirmer que le local est toujours meilleur. C’est une affirmation bien plus étroite, et la seule que nous défendrions : le local est l’arrangement où les réponses cessent d’appartenir à quelqu’un d’autre.

Le secteur va continuer à se réorganiser au-dessus de la couche modèle, et ce sera surtout une bonne chose pour tout le monde, nous compris. Nous préférerions simplement que la vie de nos clients ne soit stockée nulle part où une réorganisation puisse l’atteindre.