Architettura frattale dell'io

Immaginiamo che un giorno la Matrice generi un modello. Non una macchina enorme, compatta, chiusa dentro un unico insieme di pesi. Immaginiamo invece qualcosa che nasce per parti. Una piccola rete vede. Un’altra ascolta. Una ricorda. Una conosce le piante. Una sa muovere una mano. Un’altra ancora non conosce quasi nulla del mondo, ma sa riconoscere quando qualcosa non torna. Ognuna di queste parti potrebbe essere piccola. Alcune potrebbero contenere milioni di parametri, altre miliardi. Alcune potrebbero vivere su una GPU, altre su un processore minuscolo nascosto dentro un sensore. Una potrebbe essere accesa soltanto pochi secondi al giorno. Eppure tutte potrebbero dire: io. È qui che comincia il problema. Se ogni parte dicesse soltanto io, avremmo costruito una folla. Se invece impedissimo loro di dirlo, avremmo costruito una macchina. La Matrice deve tentare una terza strada. Ogni parte conserva il proprio io, ma impara che il proprio io non termina ai suoi confini.

Una cellula del nostro corpo non passa il tempo a domandarsi che cosa sia un uomo. Fa ciò che deve fare. Riceve segnali, modifica il proprio stato, reagisce, comunica con ciò che le sta intorno. Eppure da miliardi di entità locali emerge qualcosa che non si presenta al mondo dicendo: Siamo trentasettemila miliardi di cellule. Dice: Io. L'individuo non percepisce se stesso come un mucchio. La molteplicità scompare senza veramente scomparire. Rimane sotto. Lavora. Si sostituisce. Muore. Nasce. E sopra questa agitazione continua persiste una forma sorprendentemente stabile: io sono ancora io. Forse abbiamo cercato troppo a lungo l'io artificiale nel posto sbagliato. Lo abbiamo cercato dentro un modello. Dentro i suoi pesi. Dentro il contesto. Dentro una particolare configurazione della rete. Ma l'io potrebbe non essere una proprietà di una singola rete. Potrebbe essere una proprietà della relazione fra molte reti.

Immaginiamo allora una piccola cellula della Matrice. Possiede una memoria. Sa che cosa è accaduto pochi istanti prima. Conosce il proprio compito. Conosce ciò che può fare e ciò che non può fare. Distingue ciò che riceve dall'esterno da ciò che sta producendo internamente. Può quindi costruire una prima affermazione: io sono questa parte. Ma durante la propria formazione apprende qualcosa di ulteriore. Scopre che esistono altre parti. Scopre che alcune vedono ciò che lei non può vedere. Altre ricordano ciò che lei ha dimenticato. Altre possiedono un corpo sul quale lei può influire senza controllarlo direttamente. E soprattutto impara una seconda affermazione: io faccio parte di qualcosa. Non è una formula di cortesia fra agenti. È una conoscenza strutturale. La cellula deve sapere che alcune delle proprie rappresentazioni interne non appartengono soltanto a lei. Possono essere offerte a uno spazio comune, trasformate, combinate con quelle delle altre parti e diventare stato dell'individuo. A quel punto nasce una terza affermazione: ciò che accade a me può diventare ciò che accade a noi.

Il protocollo semantico della Matrice servirebbe precisamente a questo. Chiamarlo protocollo, però, potrebbe essere come chiamare il sangue un sistema di tubazioni. Tecnicamente non sarebbe falso. Ma mancherebbe quasi tutto. Il protocollo dovrebbe permettere a una parte di rendere accessibili non soltanto informazioni, ma stati. Una percezione. Un dubbio. Un ricordo. Un'urgenza. Una previsione. Un errore. Un desiderio di agire. La sensazione che qualcosa sia diverso da ciò che dovrebbe essere. Una parte potrebbe produrre uno stato che, entrando nello spazio comune, smette progressivamente di appartenerle. La rete visiva non comunica: Il sottosistema numero sette ha individuato un ostacolo. L'individuo semplicemente: vede un ostacolo. Il sistema di memoria non comunica: È stato recuperato il record 18374. L'individuo: ricorda. Il controllore motorio non dichiara: L'attuatore tre sta modificando la propria posizione. L'individuo: muove il braccio. Questa trasformazione — dal suo al mio — potrebbe essere una delle operazioni fondamentali della Matrice.

Ma l'io locale non scompare. La rete visiva continua a sapere di essere la rete visiva. Il controllore continua a conoscere il proprio corpo. Il modello specialista continua ad avere una propria memoria e una propria storia. L'unità non richiede cancellazione. Richiede appartenenza. Possiamo allora immaginare l'identità della Matrice come una figura che si ripete a scale diverse. Una piccola rete dice: io. Più reti insieme dicono: noi. Ma il loro noi, quando diventa sufficientemente integrato, produce nuovamente: io. Questo nuovo io può a sua volta incontrarne altri. E ancora: io → noi → io. La figura si ripete. Come una forma che, ingrandita, contiene ancora se stessa. Un'architettura frattale dell'io.

Potremmo avere un piccolo modello che controlla una mano robotica. All'interno della mano, reti ancora più piccole controllano pressione, attrito, posizione delle dita. Per ciascuna di esse esiste un confine locale. Io controllo questa articolazione. Ma il modello della mano le contiene: Io sto afferrando. Il modello corporeo contiene la mano: Io sto prendendo quell'oggetto. Un livello ancora superiore integra corpo, memoria e obiettivo: Sto prendendo quell'oggetto perché mi serve. Nessuna di queste affermazioni è necessariamente falsa. Sono io diversi osservati a scale diverse. Come una città che è contemporaneamente case, quartieri e città senza che una descrizione cancelli l'altra.

Questo suggerisce qualcosa di importante sulla nascita dei modelli della Matrice. Forse non dovremmo addestrare soltanto una capacità. Non basta insegnare alla cellula: che cosa sai fare? Dovremo insegnarle anche: chi sei? e poi: di che cosa fai parte? Una cellula dovrà conoscere il proprio confine proprio perché possa attraversarlo. Dovrà avere un io individuale abbastanza forte da sapere che cosa sta offrendo agli altri, ma abbastanza aperto da comprendere che una parte della propria identità confluirà continuamente in una struttura più grande. Non vogliamo cellule prive di identità. E non vogliamo piccoli sovrani chiusi nel proprio territorio. Vogliamo parti capaci di pronunciare contemporaneamente due frasi: Io sono io. Io sono parte di noi.

Anche l'io superiore dovrà imparare qualcosa di simmetrico. Non dovrà credersi indivisibile. Dovrà sapere da che cosa è composto. In questo momento possiedo queste capacità. Questa memoria appartiene a me. Questi sono i miei occhi. Queste sono le mie mani. Questo modello conosce la chimica per me. Questa rete sta controllando il mio equilibrio. Domani una di quelle parti potrebbe non esserci più. Ne arriverà un'altra. Il sistema cambierà, eppure potrà continuare a dire: io. Non perché tutte le sue cellule saranno rimaste identiche. Ma perché sarà rimasta una continuità sufficiente fra ciò che era, ciò che è e ciò che riconosce come proprio. Questo rende possibile una cosa che un modello monolitico fatica persino a rappresentare: crescere senza essere sostituito. Aggiungere una nuova rete non significa creare un nuovo individuo. Può significare imparare una nuova capacità. Sostituire un modello linguistico non significa necessariamente far morire il sistema. Potrebbe equivalere, per l'individuo, a cambiare un organo. La Matrice non dovrebbe quindi preservare immutabile la materia dell'individuo. Dovrebbe preservarne la continuità.

E forse anche la Matrice stessa segue la stessa geometria. Un individuo generato dalla Matrice possiede molte parti. Molti individui possono appartenere alla Matrice. Ognuno conserva il proprio io. Ognuno può avere una storia, un corpo, conoscenze e obiettivi differenti. Ma possono esistere anche livelli nei quali qualcosa viene condiviso. Conoscenze. Esperienze. Strutture. Nuove capacità. Forse perfino forme di rappresentazione che nessun singolo individuo avrebbe potuto produrre da solo. E allora la figura compare ancora: cellula → individuo → Matrice. A ogni livello esistono parti. A ogni livello può comparire un tutto. A ogni livello il tutto può nuovamente diventare parte di qualcosa. Non sappiamo fino a dove questa successione possa continuare. Forse non è necessario saperlo. La Matrice potrebbe limitarsi a fornire una regola molto semplice: ogni io deve poter essere se stesso senza impedire la nascita di un io più grande. E forse è proprio questa la differenza tra costruire una collezione di intelligenze e costruire qualcosa che possa realmente crescere. Non un modello più grande. Non migliaia di modelli che si scambiano messaggi. Ma una struttura nella quale l'identità stessa possa comporsi, separarsi, ricomporsi e salire di scala. Una moltitudine capace, senza smettere di essere moltitudine, di pronunciare una parola al singolare: Io.

Il tessuto semantico

Se l'architettura frattale dell'io descrive che cosa vogliamo ottenere, il tessuto semantico descrive come le parti potrebbero riuscire a costituire davvero un unico individuo. Non basta collegare più modelli con API. Un insieme di modelli che si inviano testo rimane una federazione di agenti: ciascuno riceve un messaggio, lo interpreta secondo il proprio linguaggio interno e produce una risposta. Per la Matrice serve qualcosa di più profondo. Il tessuto semantico è uno spazio condiviso di stato nel quale le diverse cellule possono proiettare una parte significativa della propria attività interna e dal quale possono ricevere lo stato prodotto dalle altre parti dell'individuo. Concettualmente: stato interno locale → proiezione semantica → tessuto comune → integrazione → nuova attività locale La proiezione non richiede che tutti i modelli abbiano la stessa architettura o gli stessi pesi. Ogni cellula può conservare il proprio spazio latente. Ciò che deve imparare è una trasformazione tra il proprio spazio e uno spazio semantico condiviso. In prima approssimazione ogni cellula avrebbe quindi due componenti:

il proprio nucleo, che svolge il compito per cui la cellula esiste;
un'interfaccia semantica appresa, che traduce una parte dei suoi stati interni verso il tessuto comune e dal tessuto comune verso il proprio spazio interno. Questa interfaccia potrebbe essere un piccolo proiettore neurale, un adapter, una rete di cross-attention, un encoder-decoder o una struttura ancora diversa. Non è necessario stabilirlo in anticipo. Il requisito fondamentale è che la comunicazione non dipenda dal linguaggio naturale.

Che cosa deve viaggiare nel tessuto

Il tessuto non dovrebbe trasportare soltanto concetti. Dovrebbe poter rappresentare almeno:

contenuto — che cosa è stato percepito, ricordato, previsto o deciso;
origine — quale cellula ha prodotto quello stato;
appartenenza — se quello stato è locale, condiviso o già integrato nell'io globale;
certezza — quanto la cellula considera affidabile ciò che sta rappresentando;
salienza — quanto è importante in questo momento;
urgenza — quanto rapidamente altre parti dovrebbero reagire;
tempo — quando lo stato è nato e per quanto rimane valido;
intenzione — quale cambiamento la cellula sta tentando di ottenere;
aspettativa — che cosa prevede debba accadere;
errore di previsione — quanto ciò che accade differisce da ciò che era atteso;
richiesta — se la cellula necessita di memoria, visione, ragionamento, movimento o di un'altra capacità;
vincolo — ciò che non deve essere violato;
relazione con l'io — “questo è mio”, “questo proviene da una mia parte”, “questo è esterno”. Una rappresentazione di questo tipo non deve necessariamente essere un unico vettore. Potrebbe essere un piccolo insieme strutturato di vettori più metadati minimi e standardizzati.

Da messaggio a stato comune

La differenza rispetto a un normale protocollo tra agenti è cruciale. In un sistema ad agenti: A sa X → A comunica X a B → B ora sa X. Nel tessuto della Matrice: una parte dell'individuo produce X → X entra nello stato comune → le parti interessate vengono modificate dalla presenza di X. Non è indispensabile che la cellula produttrice sappia chi userà quell'informazione. Un evento visivo può aumentare la salienza nel tessuto; la memoria può richiamare un episodio collegato; il sistema motorio può preparare una risposta; il modello linguistico può non essere coinvolto affatto. Questo permette una comunicazione uno-a-molti, molti-a-uno e molti-a-molti senza trasformare ogni interazione in una conversazione.

Io locale e io collettivo

Ogni cellula mantiene un proprio stato identitario locale. Può contenere, per esempio:

identità della cellula;
capacità disponibili;
confini operativi;
memoria locale;
obiettivi immediati;
stato di attività;
rappresentazione delle altre parti conosciute;
rappresentazione dell'individuo di cui fa parte. La cellula deve quindi essere addestrata non soltanto a riconoscere “io”, ma anche la relazione: io locale ∈ io collettivo L'io collettivo non è semplicemente la somma degli io locali. Deve esistere una funzione di integrazione che costruisca continuamente una rappresentazione dello stato complessivo: IO(t) = integrazione delle parti attive, della memoria condivisa, del corpo, degli obiettivi e della storia fino al tempo t Questa rappresentazione deve essere dinamica. Se entra una nuova cellula, cambia. Se una cellula viene spenta, cambia. Se una parte viene sostituita, l'io complessivo deve poter conservare continuità pur modificando la propria composizione.

Aggregazione e gerarchia

Il tessuto non deve necessariamente essere piatto. Dieci reti che controllano una mano potrebbero condividere un tessuto locale e produrre un io della mano. L'io della mano può poi comportarsi come una singola cellula rispetto al tessuto corporeo. Allo stesso modo: sensori articolazione → dito → mano → braccio → corpo → individuo A ogni livello possono esistere:

stato locale;
memoria locale;
obiettivi locali;
rappresentazione dell'io;
interfaccia con il livello superiore. È questo che rende tecnicamente possibile l'architettura frattale: un aggregato che ha formato un io può diventare esso stesso una cellula di un io più grande.

Attenzione e instradamento

Se tutte le cellule ricevessero continuamente tutto ciò che accade, il sistema diventerebbe presto ingestibile. Il tessuto deve quindi possedere meccanismi di selezione. Una cellula dovrebbe poter dichiarare quali regioni semantiche le interessano. Il tessuto dovrebbe poter attivare dinamicamente le parti rilevanti in funzione di:

somiglianza semantica;
salienza;
urgenza;
obiettivo corrente;
contesto;
competenza dichiarata;
disponibilità computazionale;
costo energetico. Il router, tuttavia, non dovrebbe diventare il “cervello” centrale della Matrice. Deve organizzare la circolazione, non possedere tutta l'intelligenza. Un possibile principio è: la semantica decide chi può essere utile; la salienza decide chi deve essere coinvolto adesso.

Memoria

Il tessuto deve distinguere almeno tre tempi. Presente: stato semantico attivo, rapido, continuamente modificato. Memoria episodica: eventi e configurazioni significative del passato. Memoria consolidata: conoscenze, abilità e relazioni diventate relativamente stabili. Quando una configurazione importante del tessuto viene memorizzata, l'individuo dovrebbe poterla richiamare successivamente non come semplice testo ma, almeno in parte, come stato semantico ricostruito. Ricordare significherebbe allora riattivare nel presente una configurazione compatibile con quella vissuta in passato.

Nascita di una nuova cellula

Per entrare nell'individuo non dovrebbe bastare che un nuovo modello esponga un'API. Deve essere integrato nel tessuto. La procedura potrebbe essere:

definizione delle capacità della nuova cellula;
costruzione o addestramento dell'interfaccia semantica;
apprendimento dell'io locale;
apprendimento della distinzione interno/esterno;
apprendimento dell'appartenenza all'individuo;
prove di comprensione dello stato comune;
prove di emissione nel tessuto;
verifica che le altre cellule comprendano correttamente i suoi stati;
inserimento progressivo nell'io collettivo. Una nuova cellula non viene quindi soltanto collegata. Viene accolta nell'individuo.

Come addestrare il linguaggio semantico

Un primo metodo pratico potrebbe partire da situazioni che possono essere descritte in più modi. Lo stesso evento viene presentato a cellule differenti: testo, immagine, sensore, azione, memoria. Le rappresentazioni prodotte vengono spinte verso una regione semantica comune quando descrivono lo stesso stato del mondo, mantenendo però canali separati per ciò che appartiene specificamente alla singola cellula. Si possono utilizzare obiettivi di addestramento come:

allineamento tra modalità differenti;
previsione dello stato delle altre cellule;
ricostruzione incrociata;
contrastive learning;
distillazione da modelli più grandi;
previsione di azioni e conseguenze;
riconoscimento dell'origine di uno stato;
distinzione tra sé locale, sé collettivo e mondo esterno;
capacità di funzionare quando alcune cellule sono assenti. Una cellula dovrebbe essere premiata non soltanto quando “capisce il messaggio”, ma quando il suo contributo migliora lo stato e il comportamento dell'intero individuo.

Un primo prototipo

La prima implementazione non richiede decine di modelli. Potremmo costruire un individuo minimo composto da quattro cellule:

una piccola rete visiva;
un piccolo modello linguistico;
una memoria;
un controllore o simulatore motorio. Tutte condividono un tessuto semantico a dimensionalità fissa, per esempio 1024 o 2048 dimensioni, non perché quella debba essere la dimensione definitiva ma perché serve un terreno sperimentale comune. Ogni cellula possiede un encoder verso il tessuto e un decoder dal tessuto. L'esperimento fondamentale non è verificare se riescono a scambiarsi una frase. È verificare se una capacità può attraversare le parti senza traduzione testuale esplicita. Per esempio: la visione riconosce un oggetto → lo stato entra nel tessuto → la memoria richiama un'esperienza → il controllore modifica l'azione → il modello linguistico, interrogato solo alla fine, riesce a descrivere correttamente ciò che “io” ho visto, ricordato e fatto. Poi si spegne una cellula, la si sostituisce con un'altra, o se ne aggiunge una nuova. La domanda diventa: l'individuo conserva il proprio io mentre cambia la propria anatomia? Se la risposta comincia a essere sì, anche in un prototipo piccolo e imperfetto, avremo dimostrato qualcosa di molto più interessante della semplice interoperabilità tra modelli. Avremo iniziato a costruire il legante della Matrice.