AI simbolica e subsimbolica: conoscere le parole basta per capirle?

L’AI conosce il lessico, non la semantica: il fulcro di un dibattito che dura da oltre quarant’anni. Da dove viene l’idea, che cosa dicono le ricerche e perché la risposta decide anche chi è responsabile di ciò che una macchina scrive.

Glossario breve

  • AI simbolica: l'approccio che rappresenta la conoscenza con simboli espliciti, come parole, concetti e regole, e la elabora con regole formali, come un sistema logico.

  • AI subsimbolica: l'approccio, detto anche connessionista, in cui la conoscenza è distribuita nell'attività di molte unità semplici e nessuna unità corrisponde da sola a un concetto. Le reti neurali, e quindi i grandi modelli linguistici di oggi, appartengono a questa famiglia.

  • Lessico e semantica: il lessico è l'insieme delle parole e dei modi in cui si combinano; la semantica è il rapporto tra quelle parole e ciò a cui si riferiscono.

  • Symbol grounding: il problema di come un simbolo acquisti significato per il sistema che lo usa, e non soltanto per chi lo legge.

AI simbolica e subsimbolica: due modi di costruire una macchina che pensa

Per alcuni decenni l'idea dominante nelle scienze cognitive è stata che la mente sia un sistema di simboli e che pensare significhi manipolarli. Come ha riassunto lo psicologo cognitivo Stevan Harnad nel 1990, in questa visione le regole operano sulla forma dei simboli e non sul loro significato: sono, in senso stretto, sintattiche. I successi della prima intelligenza artificiale, che dimostrava teoremi e giocava a scacchi combinando simboli secondo regole, sembravano confermarla.

Nel 1988 il linguista e scienziato cognitivo Paul Smolensky propose in un saggio molto discusso su Behavioral and Brain Sciences di guardare alle reti connessioniste come a sistemi che lavorano a un livello diverso, che chiamò subsimbolico. Ciò che un sistema classico rappresenta con un solo simbolo, una rete lo rappresenta con l'attività di molte unità, e un'operazione che nel primo caso è un singolo passaggio logico diventa una lunga serie di piccoli calcoli numerici. I filosofi Jerry Fodor e Zenon Pylyshyn gli opposero che una rete così non riesce a spiegare la struttura composizionale del pensiero; Smolensky rispose che la critica valeva solo per alcune versioni del connessionismo, e il confronto è rimasto aperto a lungo.

I modelli linguistici di oggi sono eredi della seconda strada. Non contengono un dizionario di concetti né un elenco di regole: contengono miliardi di numeri che, insieme, permettono di prevedere quale parola viene dopo un'altra.

Il problema del dizionario

Nel suo articolo del 1990 su Physica D, Harnad formulò quello che chiamò il problema dell'ancoraggio dei simboli: come possono simboli privi di significato, manipolati solo in base alla loro forma, essere ancorati a qualcosa che non sia altri simboli privi di significato? Il suo esempio è rimasto celebre: è come cercare di imparare il cinese avendo a disposizione soltanto un dizionario cinese‑cinese. Ogni parola rimanda ad altre parole, e nessuna esce mai dal dizionario.

Il problema nasceva come critica ai sistemi simbolici e discendeva dall'argomento della "stanza cinese" del filosofo John Searle, del 1980. Harnad proponeva di uscirne con sistemi ibridi, in cui i nomi delle categorie fossero ancorati a rappresentazioni sensoriali del mondo. C'è un'ironia in questa storia: i grandi modelli linguistici sono subsimbolici, ma imparano soprattutto dal testo, cioè da un immenso dizionario in cui le parole sono spiegate con altre parole. Il problema di Harnad, nato per i simboli, sembra averli seguiti.

Il polpo di Bender e Koller

Nel 2020 la linguista Emily Bender, dell'Università di Washington, e il linguista computazionale Alexander Koller, dell'Università del Saarland, hanno riportato la questione al centro del dibattito con un articolo premiato alla conferenza annuale dell'Association for Computational Linguistics. La loro tesi è netta: un sistema addestrato soltanto sulla forma linguistica non ha, in linea di principio, alcun modo di imparare il significato, perché il significato è il rapporto tra le espressioni e qualcosa che sta fuori dal linguaggio, a cominciare dall'intenzione di chi comunica.

Per spiegarlo hanno immaginato due naufraghi su due isole, collegati da un cavo sottomarino con cui si scambiano messaggi. Un polpo molto intelligente intercetta il cavo, impara le regolarità della conversazione e comincia a rispondere al posto di uno dei due, senza che l'altro se ne accorga. Funziona finché si chiacchiera. Quando però il naufrago scrive che un orso lo sta inseguendo e chiede come difendersi avendo solo un bastone, il polpo non può aiutarlo: ha visto molte volte le parole "orso" e "bastone", ma non le ha mai collegate a un orso o a un bastone.

Le voci in disaccordo

Non tutti i ricercatori condividono questa conclusione. Nel 2023 un gruppo di Harvard e del MIT guidato da Kenneth Li, con David Bau, Fernanda Viégas e Martin Wattenberg, ha presentato a ICLR uno studio su un modello della famiglia GPT addestrato soltanto a prevedere mosse valide nel gioco da tavolo Othello. Il modello non conosceva le regole né la scacchiera; vedeva solo sequenze di mosse. Eppure i ricercatori vi hanno trovato una rappresentazione interna dello stato della scacchiera, e intervenendo su quella rappresentazione sono riusciti a cambiare le mosse che il modello proponeva.

È un risultato che molti leggono come un indizio che un modello addestrato sulla forma possa costruire qualcosa di simile a un modello del mondo che quella forma descrive. Va però letto per quello che è: un mondo sintetico, piccolo e chiuso, governato da regole note, molto lontano dalla complessità del linguaggio umano. Dimostra che dalla forma si può ricavare una struttura; non dimostra che quella struttura sia significato nel senso di Bender e Koller, che chiama in causa l'intenzione di qualcuno che parla a qualcun altro.

Il noi che manca

È qui che torna la seconda parte della tesi da cui siamo partiti, e il passaggio è più diretto di quanto sembri. Per Bender e Koller il significato non è una proprietà delle parole, ma il legame tra le parole e l'intenzione di chi le rivolge a qualcun altro. Il naufrago che scrive di essere inseguito da un orso vuole essere aiutato, e la sua frase significa qualcosa proprio per questo. Un modello linguistico, anche quando produce la stessa frase, non ha un'intenzione sua verso chi la legge: calcola quale sequenza di parole è più probabile.

Se si accetta questa definizione, ne segue una conseguenza pratica. Quando una frase scritta da un modello entra in una diagnosi, in una selezione del personale o in una risposta a un cliente, l'intenzione che le dà significato non è del modello: è di chi ha deciso di usarla e di rivolgerla a quella persona, in quel momento. Il significato resta dal lato umano della relazione, e con lui il dovere di risponderne. In questo senso la responsabilità non è un tema etico aggiunto dall'esterno al problema del significato, ma la sua altra faccia.

La stessa idea attraversa, con un linguaggio diverso, la nota Antiqua et nova pubblicata il 28 gennaio 2025 dal Dicastero per la Dottrina della Fede e dal Dicastero per la Cultura e l'Educazione: l'intelligenza umana vi è descritta come intrinsecamente relazionale, capace di esprimersi pienamente nel dialogo e nella comunione con gli altri, e il documento avverte che un'equivalenza troppo stretta tra intelligenza umana e artificiale rischia di ridurre le persone alle loro funzioni.

È una tesi, non un risultato sperimentale, e chi attribuisce ai modelli una qualche forma di intenzionalità la contesterebbe. Regge però anche per chi, sulla scorta dello studio su Othello, pensa che i modelli costruiscano davvero rappresentazioni del mondo. Rappresentare con grande precisione il modo in cui le persone si parlano non è la stessa cosa che rivolgersi a qualcuno: un modello con una mappa fedele del mondo non avrebbe, per questo, un interlocutore verso cui impegnarsi.

Maria Ascolese

CTO & Co-Founder di Nami - Data Intelligence

Avanti
Avanti

La geografia dei data center in Italia