Esta semana, uno de los grupos más creíbles de la IA – respaldado por General Catalyst, Kleiner Perkins y Sequoia, con Andrej Karpathy como asesor – puso una cifra de nueve dígitos detrás de una sola idea: los modelos que usamos cada día no entienden de verdad lo que hacemos, y la forma de arreglarlo es hacer que aprendan de nuestro propio contexto en lugar de la internet pública.
No podríamos estar más de acuerdo. Como lo expresó uno de sus inversores, los modelos que usamos cada día son "extraños brillantes" – olvidan tu mundo en el instante en que termina un chat, y luego lo reaprenden desde cero en la siguiente consulta. Ese es exactamente el hueco contra el que se ha construido Ostler. Es, casi palabra por palabra, la apuesta que hicimos.
Así que esto no es una refutación. Es una bienvenida. Cuando una tesis que llevas dos años contemplando en silencio recibe el sello de la gente que define el campo, la respuesta correcta no es encogerse. Es decir: bien. Ahora hablemos de la parte que viene después.
El acuerdo, y luego la bifurcación
Aquí es donde casi todo el mundo coincide ya: la frontera ya no es un modelo más grande entrenado con más internet. Esa carrera está tocando techo. El siguiente eje es tu contexto – los proyectos, las personas, las decisiones y el historial con los que ningún modelo público fue entrenado jamás. La memoria es el foso.
Una vez que aceptas eso, queda exactamente una pregunta, y es toda la partida: ¿dónde vive esa memoria, y quién la controla?
Hay dos respuestas honestas.
Una – la respuesta empresarial – es coger los datos de una organización y entrenarlos dentro de un modelo. Hornear los documentos y el historial de chat de la empresa en los pesos, y reentrenar de forma continua para que el modelo siga al día. Para un bufete de abogados o una gran empresa, eso es genuinamente potente. El bufete quiere un modelo que haya interiorizado el bufete entero. Bien.
La otra – la respuesta personal – es distinta en naturaleza, no en grado. Una persona no es una empresa. Tu contexto no es un espacio de trabajo compartido con documentos aprobados. Son diez años de mensajes, fotos, correos y notas a medio terminar – el registro más íntimo que existe de tu vida. Y la idea de que la manera de conseguir que un asistente te entienda sea subir todo eso a un laboratorio y entrenarlo dentro de unos pesos que nunca verás, en servidores que no te pertenecen, ajustados a una métrica que no es la tuya – eso no es un compañero. Es una grabación de ti, en manos de otro.
Hay evidencia detrás de esto, no solo principios. Cuando unos investigadores compararon los dos enfoques cara a cara – afinar hechos nuevos dentro de un modelo frente a recuperarlos hacia el contexto – la recuperación ganó por un margen amplio (Ovadia et al., "Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs", 2023: en torno a 0,87 frente a 0,50 en tareas de conocimiento nuevo). Los modelos son sencillamente malos aprendiendo hechos nuevos por la vía de entrenarlos dentro, y corren el riesgo de olvidar lo que ya sabían. Para los hechos propios de una persona, la respuesta con forma de recuperación es además la que tiene mejor respaldo. Los métodos de entrenamiento más recientes aspiran a cerrar esa brecha, y puede que lo consigan; pero una arquitectura que mantiene tu memoria legible, corregible y en tu propia máquina no depende de ganar esa carrera.
Una memoria que no puedes ver no es tuya
Creemos que la respuesta personal tiene que ser local. No como eslogan, sino como arquitectura.
Ostler no entrena tu vida dentro de un modelo en nuestra nube. No tenemos ninguna nube para tus datos. Ostler lee los almacenes que ya están en tu Mac – Mensajes, Mail, Contactos, Calendario, tus notas – y construye un grafo de conocimiento personal que reside en tu máquina. La memoria es algo que puedes abrir, leer, corregir y borrar. Cuando el asistente te dice algo sobre tu propia vida, está leyendo de un grafo que te pertenece, no recordando algo disuelto en unos pesos que nadie puede inspeccionar.
Esa es la diferencia entre una memoria y un expediente. Una memoria que tú tienes es tuya. Una memoria en el servidor de otro, que no puedes ver y no puedes eliminar, es un expediente que ellos guardan sobre ti. Para una empresa, un expediente puede ser aceptable. Para una persona, no debería serlo.
Por eso también "local-first" se está convirtiendo en el mínimo de entrada y ya no es toda la historia. Ahora muchos productos van a proclamarlo. La promesa más difícil y más honesta es la que está debajo: no solo que los datos sean locales, sino que la costura la tienes tú – tú decides qué se guarda, qué sale a la superficie y qué se olvida. Ostler está construido para que puedas. Niveles de privacidad en cada hecho. Un mecanismo de correcciones que te deja borrar, sustituir o añadir a lo que el sistema cree. Un wiki de tu propia vida que puedes recorrer y auditar de verdad. El control es la función, no la fricción.
La misma apuesta, llevada al rincón personal
Nada de esto nos enfrenta a los laboratorios que ahora vuelcan dinero en el contexto. Nos sitúa en el mismo mapa, en un lugar distinto. Ellos están construyendo la memoria de una organización, en la nube, para la empresa. Nosotros estamos construyendo la memoria de una persona, en su propia máquina, para ella.
Nos alegra que la categoría sea real. Lo pensamos desde hace mucho – el patrón de una base de conocimiento autocompilada, "mantenida como código", lo describió el propio Karpathy, y hoy está dentro de nuestra arquitectura. La validación es bienvenida.
Nosotros simplemente respondimos a la pregunta que viene después del acuerdo. La memoria es el foso – sí. Y la memoria más personal del mundo debería vivir exactamente en un sitio: con la persona a la que pertenece. Eso es lo que estamos construyendo. Se ejecuta en tu Mac. Las llaves no salen nunca de tus manos.
Si ese es el futuro por el que quieres apostar, puedes leer sobre la arquitectura aquí. Preguntas, correcciones, desacuerdos – [email protected].