Solo una dovrebbe essere tua.
Questo mese il Wall Street Journal ha pubblicato un articolo con un titolo che fa quasi tutto il lavoro: “AI Knows What You Did Online. Now Your Employer Does, Too.” Il contenuto è peggiore del titolo. I datori di lavoro assumono aziende di IA per setacciare le impronte digitali dei candidati. Non una rapida ricerca del tuo nome, ma un rastrellamento profondo di post vecchi di anni, account di forum dimenticati, il commento che hai lasciato alle due di notte nel 2014. Alcune aziende offrono il monitoraggio continuo del personale già in organico. Alcune usano il riconoscimento facciale per abbinare il volto su un account anonimo al volto sul tuo badge, così che perfino le opinioni che avevi avuto cura di non firmare finiscano archiviate sotto il tuo nome.
Leggilo con attenzione e ti accorgi che la storia non parla davvero di sorveglianza. La sorveglianza è guardare. Questa è un'altra cosa: è memoria. Un archivio permanente di te, assemblato a tua insaputa, indicizzato sotto il tuo nome e consultato esattamente nei momenti che contano di più per te (un'offerta di lavoro, una promozione, un controllo dei precedenti), da persone i cui interessi non sono i tuoi.
E i selezionatori aziendali sono solo i membri più recenti di un club molto antico. Le piattaforme pubblicitarie tengono una memoria di te da vent'anni; è così che sanno di doverti mostrare per sempre le scarpe da ginnastica che hai guardato una volta sola. Ogni servizio con un login ne tiene una. Ogni prodotto “gratuito” è finanziato da una. In questo momento nel mondo esistono decine di memorie istituzionali di te. Dettagliate, durevoli, leggibili da una macchina. E nemmeno una di esse è per te. La legge dice che puoi chiederne una copia, e perfino chiedere che la correggano. Quello che arriva è un export che non riesci a leggere, in una forma che non puoi usare, congelato nell'istante in cui lascia i loro server. Il diritto è reale. La memoria continua a non essere tua.
La tesi vista da dentro
All'inizio di questo mese Mira Murati ha pubblicato presso Thinking Machines Lab un saggio intitolato “The future worth building is human.” Da CTO di OpenAI ha diretto la sala macchine del progetto di IA più centralizzato del pianeta, quindi vale la pena leggere cosa sostiene adesso. In sintesi: l'IA che vale la pena costruire dovrebbe estendere la volontà e il giudizio umani anziché sostituirli; il futuro che merita di esistere è un'IA distribuita e personalizzabile, plasmata dalle persone che serve, non modelli centralizzati che impongono a tutti un unico insieme di valori; e le persone dovrebbero possedere e coltivare la propria conoscenza anziché affittarne l'accesso.
Si può essere cinici sulle narrazioni di conversione. Ma quando qualcuno che ha contribuito a costruire la cosa centralizzata scrive che il futuro è distribuito e di proprietà dell'utente, vale la pena drizzare le orecchie. Non sta descrivendo un chatbot più simpatico. Sta descrivendo un cambio di proprietà.
Una memoria utile conserva più di quanto mostri
Una memoria davvero utile deve conservare molto più di quanto ti mostrerà mai.
A giugno non sai mai di quale momento avrai bisogno a novembre. L'osservazione buttata lì che si rivela l'inizio di un'azienda. Il nome della persona incontrata una volta a un convegno che, diciotto mesi dopo, è esattamente quella da chiamare. Il ristorante che una tua amica aveva detto di adorare, prima che si ammalasse, quando stai cercando un posto per il suo compleanno. Nessuna di queste cose sembrava importante sul momento. Una memoria che conservasse solo ciò che pareva significativo lì per lì sarebbe un diario dell'ovvio, e inutile per l'unica cosa a cui la memoria serve davvero: farti sorprendere da ciò che si rivela importante.
Quindi ogni memoria reale conserva in eccesso. Radicalmente. E proprio quella proprietà, la conservazione totale e indiscriminata, è ciò che rende mostruosa la storia del WSJ e liberatoria una memoria personale. Conservare in eccesso su di te, in mano a qualcun altro, è un archivio carico: tutto ciò che hai mai fatto, recuperabile da persone che hanno potere su di te, secondo i loro tempi, per i loro scopi. Conservare in eccesso da parte tua, sulla tua macchina, è semplicemente ricordare. È quello che fa il tuo stesso cervello, meno il decadimento.
Stesso meccanismo. Opposto in ogni senso che conti. L'unica variabile che ribalta tutto è chi la tiene. La sovranità non è un optional gradevole di una memoria etica. È la cosa che rende la memoria etica, punto.
Lo standard di riferimento esiste già
Se vuoi la prova che il mondo della privacy lo sa già, guarda l'unica categoria in cui la posta in gioco ha smesso di essere ipotetica. Quando i ricercatori di Privacy Not Included di Mozilla hanno esaminato le app per il monitoraggio del ciclo mestruale (dati che, dopo la sentenza Dobbs, possono finire in un'aula di tribunale), l'unica app che avrebbero raccomandato senza riserve era Euki. La sua caratteristica distintiva è quasi comicamente semplice: tutto resta sul dispositivo. Niente da farsi esibire da un server, niente da violare, niente da vendere in silenzio.
La lezione si generalizza, ed è più brutale della maggior parte dei dibattiti sulle informative: quando un dato è genuinamente intimo, il rischio non è condividerlo. Il rischio è che lo detenga qualcun altro, punto e basta. Nessuna policy, nessuna cifratura in transito, nessun DPA giurato sul mignolo lo risolve. Lo fa soltanto l'architettura.
Una memoria di tutta la tua vita, costruita dalle tue conversazioni, dalle tue riunioni, dai tuoi appunti e dalle tue letture, è il caso limite del dato intimo. Va tenuta allo standard del caso limite.
Perché lo abbiamo costruito così
Ostler non è nato come prodotto per la privacy. È nato perché prendere appunti rovina il momento. Sedersi di fronte a qualcuno che vuoi davvero ascoltare, presente a metà, a trascrivere invece che a pensare. È un cattivo scambio, e chiunque lo abbia fatto lo sa. La promessa originaria di Ostler era piccola e umana: stai nella conversazione. Ricorderà lui per te.
Tutto ciò che è venuto dopo è stato capire cosa richiede quella promessa. Tre cose, a quanto pare.
Deve lasciarti essere presente. Una cattura che funziona senza che tu reciti per lei, così che il ricordare avvenga e tu non debba farlo.
Deve essere ancorata a tutta la tua vita, non alla fetta di una singola app. Una memoria costruita solo dal tuo calendario sa quando hai incontrato qualcuno; una memoria costruita dalle tue riunioni, dai messaggi, dagli appunti e dalle letture messi insieme sa chi è quella persona per te. Ostler compila tutto quanto in un wiki privato della tua stessa vita, sul tuo Mac.
E deve essere tua da usare. La memoria di Ostler è fatta di semplici file markdown sulla tua macchina. Aprili in Obsidian. Cercali. Correggili. Copiali. Cancellali. Non c'è alcun gemello lato server, nessun pulsante di esportazione fra te e il tuo stesso passato, nessun termine di servizio che possa cambiare ciò che alla tua memoria è consentito essere. Non è un account. È un possesso.
Le memorie istituzionali di te non spariranno. I selezionatori, le piattaforme, i broker. Terranno i loro archivi, e tu non arriverai mai a leggerli. L'unica risposta che scala è avere una memoria tua migliore: più piena, più giusta, dalla tua parte e sulla tua macchina.
Tutti stanno costruendo una memoria di te.
Solo una dovrebbe essere tua.