Une seule devrait être la vôtre.
Ce mois-ci, le Wall Street Journal a publié un article dont le titre fait déjà l'essentiel du travail : “AI Knows What You Did Online. Now Your Employer Does, Too.” L'enquête est pire que le titre. Des employeurs engagent des sociétés d'IA pour ratisser les empreintes numériques des candidats à l'embauche. Pas une recherche rapide de votre nom, mais un balayage profond de publications vieilles de plusieurs années, de comptes de forum oubliés, du commentaire que vous avez laissé à deux heures du matin en 2014. Certaines sociétés proposent une surveillance continue du personnel en poste. Certaines utilisent la reconnaissance faciale pour faire correspondre le visage d'un compte anonyme au visage de votre badge, si bien que même les opinions que vous aviez pris soin de ne pas signer se retrouvent classées sous votre nom.
Lisez-le attentivement et vous remarquerez que l'histoire ne parle pas vraiment de surveillance. La surveillance, c'est observer. Ceci est autre chose : c'est de la mémoire. Un dossier permanent sur vous, assemblé à votre insu, indexé sur votre nom, et consulté précisément aux moments qui comptent le plus pour vous (une offre d'emploi, une promotion, une enquête de moralité), par des gens dont les intérêts ne sont pas les vôtres.
Et les vérificateurs au service des employeurs ne sont que les plus récents membres d'un club très ancien. Les régies publicitaires tiennent une mémoire de vous depuis vingt ans ; c'est ainsi qu'elles savent vous montrer, à jamais, les baskets que vous avez regardées une fois. Chaque service doté d'un identifiant en tient une. Chaque produit “gratuit” est financé par une. Il existe, en ce moment même, des dizaines de mémoires institutionnelles de vous dans le monde. Détaillées, durables, lisibles par machine. Et pas une seule n'est pour vous. La loi dit que vous pouvez en demander une copie, et même leur demander de la corriger. Ce qui arrive, c'est un export que vous ne pouvez pas lire, dans une forme que vous ne pouvez pas utiliser, figé à l'instant où il quitte leurs serveurs. Le droit est réel. La mémoire, elle, n'est toujours pas la vôtre.
Le plaidoyer venu de l'intérieur
Plus tôt ce mois-ci, Mira Murati a publié chez Thinking Machines Lab un essai intitulé “The future worth building is human.” Comme directrice technique d'OpenAI, elle a tenu la salle des machines du projet d'IA le plus centralisé de la planète : ce qu'elle défend aujourd'hui mérite donc d'être lu. En résumé : une IA qui vaut la peine d'être construite doit prolonger la volonté et le jugement humains plutôt que les remplacer ; l'avenir qui mérite d'exister est celui d'une IA distribuée et personnalisable, façonnée par les gens qu'elle sert, et non de modèles centralisés imposant un seul jeu de valeurs à tout le monde ; et les gens devraient posséder et cultiver leurs propres connaissances plutôt que d'en louer l'accès.
On peut se montrer cynique devant les récits de conversion. Mais quand quelqu'un qui a contribué à bâtir la chose centralisée écrit que l'avenir est distribué et détenu par l'utilisateur, cela mérite qu'on se redresse. Elle ne décrit pas un chatbot plus sympathique. Elle décrit un changement de propriétaire.
Une mémoire utile conserve plus qu'elle ne montre
Une mémoire réellement utile doit conserver bien plus qu'elle ne vous montrera jamais.
Vous ne savez jamais, en juin, de quel moment vous aurez besoin en novembre. La remarque lancée en passant qui se révèle être le début d'une entreprise. Le nom de la personne croisée une seule fois lors d'une conférence et qui, dix-huit mois plus tard, est exactement celle qu'il faut appeler. Le restaurant que votre amie disait adorer, avant qu'elle ne tombe malade, au moment où vous cherchez où fêter son anniversaire. Rien de tout cela ne paraissait important sur le coup. Une mémoire qui ne garderait que ce qui semblait significatif sur l'instant serait un journal de l'évidence, et inutile pour la seule chose à laquelle la mémoire sert vraiment : être surpris par ce qui finit par compter.
Toute mémoire réelle conserve donc à l'excès. Radicalement. Et cette propriété, la rétention totale et indifférenciée, est précisément ce qui rend monstrueuse l'histoire du WSJ et libératrice une mémoire personnelle. Tout conserver sur vous, chez quelqu'un d'autre, c'est une archive chargée : tout ce que vous avez jamais fait, récupérable par des gens qui ont du pouvoir sur vous, à leur calendrier, pour leurs fins. Tout conserver par vous, sur votre propre machine, c'est simplement se souvenir. C'est ce que fait votre propre cerveau, moins l'effacement.
Même mécanisme. Opposé de toutes les manières qui comptent. La seule variable qui fait basculer l'ensemble, c'est celui qui la détient. La souveraineté n'est pas un agrément optionnel d'une mémoire éthique. C'est ce qui rend une mémoire éthique tout court.
L'étalon-or existe déjà
Si vous voulez la preuve que le milieu de la confidentialité le sait déjà, regardez la seule catégorie où les enjeux ont cessé d'être hypothétiques. Quand les chercheurs de Privacy Not Included chez Mozilla ont passé en revue les applications de suivi des règles (des données qui, depuis l'arrêt Dobbs, peuvent atterrir dans un prétoire), la seule application qu'ils recommandaient sans réserve était Euki. Sa caractéristique distinctive est d'une simplicité presque comique : tout reste sur l'appareil. Rien à réclamer par assignation à un serveur, rien à faire fuiter, rien à revendre en douce.
La leçon se généralise, et elle est plus brutale que la plupart des débats sur les politiques de confidentialité : quand une donnée est véritablement intime, le risque n'est pas de la partager. Le risque, c'est que quelqu'un d'autre la détienne, tout court. Aucune politique, aucun chiffrement en transit, aucun accord de traitement des données juré craché n'y remédie. Seule l'architecture le fait.
Une mémoire de toute votre vie, bâtie à partir de vos conversations, de vos réunions, de vos notes et de vos lectures, est le cas limite de la donnée intime. Elle devrait être tenue au standard du cas limite.
Pourquoi nous l'avons construit ainsi
Ostler n'a pas commencé comme un produit de confidentialité. Il a commencé parce que prendre des notes gâche le moment. Être assis en face de quelqu'un que vous voulez vraiment écouter, à moitié présent, en train de transcrire au lieu de penser. C'est un mauvais marché, et tous ceux qui l'ont conclu le savent. La promesse initiale d'Ostler était modeste et humaine : soyez dans la conversation. Il se souviendra pour vous.
Tout ce qui a suivi a consisté à déterminer ce qu'exige cette promesse. Trois choses, en fin de compte.
Elle doit vous laisser être présent. Une capture qui fonctionne sans que vous ayez à jouer pour elle, pour que le souvenir se fasse sans que vous ayez à le faire.
Elle doit être ancrée dans toute votre vie, pas dans la tranche qu'en voit une seule application. Une mémoire bâtie uniquement à partir de votre calendrier sait quand vous avez rencontré quelqu'un ; une mémoire bâtie à partir de vos réunions, de vos messages, de vos notes et de vos lectures réunis sait qui cette personne est pour vous. Ostler compile le tout en un wiki privé de votre propre vie, sur votre propre Mac.
Et elle doit être à vous, utilisable. La mémoire d'Ostler, ce sont de simples fichiers markdown sur votre machine. Ouvrez-les dans Obsidian. Cherchez dedans. Corrigez-les. Copiez-les. Supprimez-les. Il n'y a pas de jumeau côté serveur, pas de bouton d'export dressé entre vous et votre propre passé, pas de conditions d'utilisation capables de changer ce que votre mémoire a le droit d'être. Ce n'est pas un compte. C'est un bien.
Les mémoires institutionnelles de vous ne vont pas disparaître. Les vérificateurs, les plateformes, les courtiers. Ils garderont leurs archives, et vous ne pourrez jamais les lire. La seule réponse qui tienne à l'échelle, c'est d'avoir une meilleure mémoire à vous : plus complète, plus juste, de votre côté, et sur votre machine.
Tout le monde construit une mémoire de vous.
Une seule devrait être la vôtre.