In breve. Undici giorni fa abbiamo sostenuto che la parte difficile di un assistente personale non è il modello, ma arrivare alla tua vita del tutto. La settimana scorsa Nvidia ha pubblicato una ricerca che indica un secondo collo di bottiglia che non è nemmeno lui il modello: il software costruito attorno. Stessa conclusione, meccanismo diverso, e insieme coprono gran parte di ciò che davvero decide se un assistente vale qualcosa. Riteniamo che conti più per l’IA personale che per qualunque altra cosa, e più sotto diciamo perché quella parte è una nostra affermazione e non loro.

Il 14 agosto abbiamo pubblicato un pezzo in cui sostenevamo che il collo di bottiglia non è mai stato il modello. In breve: «contesto perfetto di tutta la tua vita» è un’affermazione sui dati, non sull’intelligenza. La tua vita sta in dieci anni di Mail, in un database di Messaggi che risale al tuo primo iPhone e in un export di WhatsApp che ufficialmente non esiste. Su un Mac ognuna di queste cose sta dietro un permesso, e quei permessi non si aprono per un modello più sveglio.

Il 21 agosto Nvidia ha pubblicato una ricerca che arriva alla stessa conclusione da una direzione completamente diversa.

Che cosa hanno trovato davvero

Hanno preso Claude Opus 5 e lo hanno eseguito su ARC-AGI-3, un benchmark di ragionamento. Senza modifiche ha ottenuto il 30 %. Poi hanno lasciato il modello del tutto intatto e ricostruito il software attorno: il set di strumenti, il modo in cui memoria e contesto vengono gestiti, come il feedback torna all’agente, più un componente supervisore che interviene quando l’agente si perde. Stesso modello. Il punteggio è salito al 100 %.

Nvidia chiama quell’involucro harness. Il loro vicepresidente Adel El Hallak lo ha detto nel modo più netto possibile: «È il modello. È l’impalcatura attorno al modello, quella che chiamiamo harness».

Non sono l’unico dato dell’articolo. OpenAI avrebbe triplicato il proprio punteggio su ARC-AGI-3 cambiando due impostazioni dell’harness. Databricks viene citata per aver rilevato che la scelta dell’harness può far variare il costo operativo del doppio, più di quanto faccia la scelta del modello.

Due colli di bottiglia diversi, e vale la pena essere precisi

Sarebbe facile, e un po’ disonesto, presentare la cosa come la conferma esatta di ciò che abbiamo scritto. Non lo è del tutto, e la differenza è la parte interessante.

Il nostro collo di bottiglia è far entrare i dati: permessi, export, formati, il decennio di materiale che nessun modello ha mai visto. Quello di Nvidia è ciò che accade attorno al modello a runtime: strumenti, memoria, feedback, supervisione. Non sono la stessa affermazione. Potresti risolvere l’uno e restare bloccato sull’altro.

Ciò che condividono è la forma. Entrambi sono idraulica. Entrambi sono poco appariscenti, invisibili quando funzionano e assenti da ogni presentazione di prodotto. Ed entrambi sono ormai, stando ai dati, più decisivi del numero di parametri su cui tutti discutono.

Perché secondo noi questo morde di più per l’IA personale

Questa parte è il nostro argomento, non quello di Nvidia. Loro hanno testato agenti su rompicapo e non hanno detto assolutamente nulla sugli assistenti personali. Ma la logica si trasferisce, e si trasferisce con più forza, non con meno.

Un modello generale che risponde a una domanda generale può appoggiarsi a ciò che ha assorbito da internet. Ha letto moltissimo su quasi tutto. Ma niente su internet dice che cosa hai promesso a tuo fratello a febbraio, né che la persona che ti scrive oggi è quella che hai incontrato a un convegno quattro anni fa. Nessuna quantità di parametri recupera un fatto che al modello non è mai stato dato. Per un assistente personale l’impalcatura non è un’ottimizzazione sopra l’intelligenza. È la parte che fornisce la materia.

Il che significa che i due colli di bottiglia si sommano. L’harness può lavorare solo con il contesto che riesce a raggiungere, e il contesto è raggiungibile solo se prima qualcosa ha fatto il lavoro poco appariscente di tirarlo fuori da Mail, da Messaggi e da WhatsApp. Risolvi il secondo senza il primo e avrai un ottimo sistema di ragionamento senza niente di personale su cui ragionare.

Che cosa non affermeremo

ARC-AGI-3 è un benchmark di rompicapo. Passare dal 30 % al 100 % su griglie di ragionamento astratto è un risultato reale sull’impalcatura degli agenti, e non è un risultato sul riassumere che cosa è successo con tua sorella l’anno scorso. Nessuno ha dimostrato quel trasferimento, noi compresi, e non citeremo quel numero come se fosse nostro.

Nvidia ha inoltre un evidente interesse commerciale nella conclusione che si debba investire di più nell’impalcatura e nella potenza di calcolo per farla girare. Questo non rende il risultato sbagliato. Significa però che va letto come si legge qualunque ricerca pubblicata da una parte a cui conviene crederci.

E un harness che si supervisiona da solo con un secondo agente costa token e tempo. Su un Mac che esegue un modello, quel budget è reale in un modo in cui non lo è in un data center. Parte di ciò che Nvidia può permettersi, noi non possiamo, e preferiamo dirlo piuttosto che lasciar intendere che la nostra impalcatura sia misurata come migliore di quella di chiunque. Non è misurata affatto. È giusto che tu ce lo ricordi più avanti.

La parte che non dipende da chi ha ragione

C’è qui una lettura strategica che sopravvive a qualunque collo di bottiglia finisca per dominare.

Se non è il modello a decidere la qualità, allora il modello è la parte più sostituibile del sistema. Vale la pena fermarcisi, perché è la stessa conclusione a cui siamo arrivati la settimana scorsa dal lato della catena di fornitura, per una via del tutto diversa. Se i pesi sono un file sul tuo disco e quel file è rimpiazzabile, allora lo strato che tutti temono di perdere è quello che conta meno.

Le parti davvero difficili da sostituire sono quelle che nessuno fotografa: il lavoro sui permessi, i parser, la risoluzione delle identità, il grafo, il recupero, la cosa che si accorge. È la maggior parte di ciò che abbiamo costruito, e per molto tempo è stato difficile spiegare perché ci volesse tanto, perché l’idraulica non si può mostrare in una demo.

Questa settimana è un po’ più facile da spiegare.