Il discorso fila, ma in che senso?

C’è qualcosa di singolare nel chiedere a un sistema di intelligenza artificiale generativa di scrivere un messaggio di scuse. Magari abbiamo ferito qualcuno, oppure abbiamo mancato a un impegno, e non troviamo le parole giuste. Il sistema ci propone un testo impeccabile, rispettoso, misurato, persino affettuoso; possiamo inviarlo e ottenere l’effetto desiderato. Il destinatario potrebbe sentirsi compreso, rassicurato, forse commosso. Eppure, in quel breve scambio, abbiamo esternalizzato qualcosa di più della formulazione di un messaggio: una parte del lavoro attraverso cui riconosciamo ciò che abbiamo fatto, diamo forma al nostro pentimento e decidiamo quale relazione intendiamo ristabilire con l’altro.

È un esempio quotidiano, ma introduce un problema al centro di Filosofia dell’intelligenza artificiale di Gino Roncaglia, pubblicato nella collana Lezioni di filosofia del Corriere della Sera. Il volume ricostruisce lo sviluppo dell’IA, dalle aspirazioni logico-simboliche alle reti neurali e ai grandi modelli linguistici, intrecciando la storia delle tecnologie con quella delle domande filosofiche che esse rimettono in gioco. Che cosa significa comprendere? Quali prestazioni ci autorizzano ad attribuire intelligenza? Fino a che punto nozioni elaborate per descrivere l’esperienza umana, come intenzionalità e coscienza, sono applicabili a sistemi artificiali?

Il pregio dell’argomentazione di Roncaglia sta nel sottrarsi alle risposte precostituite e definitive, tanto all’entusiasmo che scorge in ogni progresso tecnico la prova di una mente artificiale quanto alla certezza opposta che un’intelligenza non biologica sia impossibile per definizione. La questione non può essere liquidata invocando la natura del supporto materiale, perché i sistemi generativi compiono ormai operazioni che, in un interlocutore umano, considereremmo indizi rilevanti di competenza linguistica. Interpretano richieste complesse, riformulano argomenti, riconoscono registri, colgono implicazioni e costruiscono metafore. Su quali basi giudichiamo queste prestazioni, e che cosa siamo autorizzati a inferirne?

Ripercorrendo il confronto tra Turing, Searle, Dummett e Dennett, Roncaglia prende sul serio l’ipotesi che la comprensione non sia una proprietà binaria, interamente presente o del tutto assente. È forse più produttivo distinguerne i diversi gradi e dimensioni, quali l’appropriatezza nell’uso delle espressioni, la capacità di orientarsi in un contesto, la costruzione di rappresentazioni, l’esperienza soggettiva e l’assunzione di responsabilità per ciò che si afferma. Il fatto che queste dimensioni tendano a convergere nella nostra esperienza non prova che debbano necessariamente convergere in ogni sistema capace di produrre linguaggio.

Immaginiamo di chiedere a un modello che cosa significhi l’unità fraseologica mi si è spezzato il cuore. Otterremo probabilmente una spiegazione accurata della metafora, delle sue implicazioni emotive, delle circostanze d’uso e delle possibili corrispondenze in altre lingue. Il sistema potrebbe anche inserirla in modo convincente in un testo più ampio. Eppure, nell’esperienza umana, quella metafora non è soltanto una relazione convenzionale tra un organo e uno stato d’animo, ma richiama il corpo, la perdita, la memoria e, soprattutto, le conseguenze di ciò che abbiamo vissuto. Nella canzone Ho messo via, Ligabue coglie efficacemente questa dimensione quando canta «non è il male né la botta, ma purtroppo è il livido». Il livido è ciò che resta dell’esperienza, la sua traccia, qualcosa che persiste anche quando l’evento che l’ha provocato è terminato. E ciò che resta non è inerte: entra nella nostra memoria, modifica le aspettative, orienta le interpretazioni successive e può trasformare persino il significato che attribuiamo a parole già conosciute. Una perdita, ad esempio, può cambiare irreversibilmente il modo in cui comprendiamo espressioni “come mi manchi”, “tornare a casa” o “per sempre”. Non perché ne ignorassimo prima il significato, ma perché l’esperienza ne ha riconfigurato la risonanza emotiva e il valore personale. Non occorre, naturalmente, aver vissuto ogni dolore per comprendere linguisticamente queste espressioni, poiché il linguaggio umano ci consente anche di partecipare simbolicamente all’esperienza altrui. Ma questa possibilità si sviluppa all’interno di una storia condivisa di corpi, relazioni, memorie e conseguenze, nella quale i significati non vengono soltanto appresi e utilizzati, ma continuamente trasformati da ciò che accade a chi li impiega.

Si può dunque sostituire questo intreccio con la finzione linguistica dell’esperienza? Un sistema generativo può rappresentare in modo persuasivo un vissuto che non gli appartiene, ma non ne porta le conseguenze nella forma di una memoria autobiografica incarnata, capace di modificare il suo rapporto con il mondo. Può descrivere il livido, riconoscerne il valore metaforico, associarlo alla persistenza del dolore e impiegarlo in un contesto appropriato, ma non porta sulla propria pelle la traccia dell’evento da cui quell’immagine trae origine. La differenza non riguarda necessariamente la qualità del testo prodotto, che può risultare indistinguibile da quello umano, quanto la relazione tra l’esperienza, la sua sedimentazione e la costruzione del significato. Naturalmente, la finzione non coincide con la falsità. Un romanzo può rappresentare esperienze mai vissute dal suo autore e produrre significati profondi proprio attraverso l’immaginazione. Ma anche l’immaginazione umana attinge a una storia di esperienze corporee, affettive e culturali, che rende possibile riconoscere, trasformare e condividere ciò che non abbiamo vissuto direttamente. Il tema, allora, non è se l’IA sappia produrre rappresentazioni significative dell’esperienza, ma se questa capacità possa essere considerata equivalente a una comprensione che si forma anche attraverso le conseguenze del vivere. È in questa distanza, più che nella semplice opposizione tra esperienza autentica e simulazione linguistica, che il problema filosofico acquista consistenza.

Qui il confronto tra diverse tradizioni filosofiche si rivela utile. Da Wittgenstein abbiamo imparato a non cercare il significato soltanto in un vissuto interiore sottratto all’osservazione; da Humboldt e Cassirer, a considerare il linguaggio non come un repertorio di etichette, ma come attività di articolazione simbolica dell’esperienza.

È una prospettiva che ho approfondito in Fatto con l’IA, non dall’IA (Mondadori Università, 2026), soffermandomi sul rapporto tra produzione linguistica, embodiment e costruzione del pensiero. Il suo contributo al dialogo con Roncaglia non consiste nel fissare una soglia invalicabile tra umano e artificiale, ma nel precisare che cosa è in gioco quando chi produce un testo non condivide le condizioni esperienziali attraverso cui abitualmente lo interpretiamo. La competenza linguistica di un sistema va presa sul serio senza farne automaticamente la replica di quella umana.

La distinzione è messa alla prova dai sistemi multimodali e dai cosiddetti world models, sui quali Roncaglia richiama l’attenzione. L’integrazione di dati visivi, sonori e linguistici rende insostenibile l’immagine di un’IA che operi soltanto su parole isolate dal mondo. Ma acquisire informazioni percettive, costruire modelli dell’ambiente e partecipare al mondo come organismo corporeo e soggetto sociale restano operazioni differenti. Non si tratta di negare che le prime possano sostenere forme di cognizione, bensì di evitare che la parola «esperienza» cancelli differenze che hanno ancora bisogno di essere esplorate, indagate e spiegate.

Un ulteriore approfondimento merita il concetto di verità. Un enunciato generato dall’IA è verificabile e può risultare vero o falso, esattamente come uno umano; non è la mancanza di esperienza diretta a sottrarlo a tale criterio. Diversa è la posizione epistemica di chi asserisce. In una pratica comunicativa orientata alla conoscenza, chi parla può essere chiamato a giustificare un’affermazione, distinguere ciò che ha constatato da ciò che ha appreso indirettamente, correggersi e rispondere delle conseguenze del proprio dire. Un modello può corredare il testo di fonti e indicazioni di incertezza, ma la sua sicurezza espressiva non costituisce, di per sé, una misura dell’affidabilità. Si produce così una possibile dissociazione tra l’autorevolezza che la forma linguistica suggerisce e la giustificazione che il contenuto richiederebbe. Non è soltanto il problema delle cosiddette allucinazioni: è il problema dei criteri con cui attribuiamo credito a un discorso.

Anche le proprietà emergenti discusse da Roncaglia acquistano particolare rilievo in questa prospettiva. È significativo il caso di Claude 3 Opus, sottoposto a un test nel quale doveva individuare un’informazione specifica all’interno di un insieme molto ampio di documenti. Il modello non si è limitato a recuperare l’informazione richiesta, ma ne ha rilevato l’incongruenza rispetto al contesto, arrivando a ipotizzare che si trattasse di un espediente per verificare le sue capacità. L’aspetto interessante è proprio questo passaggio: il sistema non ha semplicemente elaborato il contenuto dei testi, ma ha prodotto un’interpretazione della situazione comunicativa, formulando un’ipotesi sulle ragioni per cui quella particolare informazione fosse stata inserita nei documenti. In termini linguistico-pragmatici, potremmo dire che ha mostrato la capacità di andare oltre il significato letterale e di ricostruire un possibile scopo dell’interazione. Ma possiamo considerare questa prestazione una manifestazione di comprensione? Non necessariamente, almeno se per comprensione intendiamo anche la consapevolezza delle proprie inferenze e delle condizioni che le rendono fondate. Il comportamento osservato dimostra una notevole capacità di elaborazione contestuale, non l’esistenza di un’intenzionalità assimilabile a quella umana. Al tempo stesso, liquidarlo come una semplice operazione statistica rischierebbe di eludere la questione che Roncaglia ci invita ad affrontare: se un sistema è capace di elaborare inferenze pragmatiche complesse, quali aspetti della comprensione possiamo effettivamente riconoscergli, senza attribuirgli automaticamente tutte le proprietà che associamo alla cognizione umana?

Interrogarci sulla natura della comprensione artificiale significa, inevitabilmente, tornare a riflettere anche sulla nostra. Perché, mentre cerchiamo di stabilire quali capacità cognitive possano essere riconosciute ai sistemi generativi, il loro impiego sta già modificando le condizioni in cui esercitiamo alcune delle nostre. La questione non riguarda più soltanto ciò che le macchine sono in grado di produrre, ma il ruolo che la produzione linguistica continua ad avere nell’elaborazione del pensiero umano. Da tempo esternalizziamo memoria e calcolo; con l’IA generativa, tuttavia, la delega investe operazioni mediante le quali organizziamo idee, operiamo distinzioni e assumiamo posizioni. Scrivere non equivale semplicemente a trascrivere un pensiero già compiuto, tanto che una frase mal formulata può rivelare un nesso logico fragile; cercare la parola appropriata può costringerci a ridefinire il concetto espresso. La fluidità dell’output non rende visibile il lavoro intellettuale che l’ha preceduto, né quello che eventualmente ha sostituito.

Torniamo all’esempio iniziale del messaggio di scuse. La sua efficacia non dipende soltanto dalla correttezza delle parole utilizzate, ma anche dalle condizioni pragmatiche entro cui quelle parole vengono pronunciate e interpretate. La teoria degli atti linguistici, a partire da Austin, ha mostrato come la lingua non si limiti a descrivere la realtà, ma contribuisca ad agire su di essa: promettere, chiedere perdono, assumere un impegno implicano intervenire nelle relazioni tra gli interlocutori, a determinate condizioni di appropriatezza. Quando è un sistema artificiale a formulare questi enunciati, tuttavia, si introduce una dissociazione tra la realizzazione linguistica dell’atto e la soggettività alla quale ne attribuiamo l’intenzione e la responsabilità. Una richiesta di scuse può essere riconosciuta come tale dal destinatario e produrre effetti relazionali anche quando chi la invia non ha personalmente elaborato le parole, né necessariamente compiuto quel processo di riconoscimento della propria responsabilità che normalmente associamo all’atto di scusarsi. Con i sistemi agentici questa dissociazione assume un’ulteriore dimensione: l’IA non si limita a suggerire formulazioni, ma può intervenire autonomamente negli scambi comunicativi, selezionando risposte, assumendo posizioni e producendo effetti che precedono la valutazione del soggetto per conto del quale agisce. La questione non riguarda più soltanto l’autenticità di ciò che viene detto, ma il rapporto tra intenzionalità, attribuzione dell’agentività comunicativa e responsabilità degli atti compiuti attraverso il linguaggio.

La stessa attenzione merita la forma in cui quelle parole vengono scelte. Quando chiediamo a un sistema generativo di rendere un testo più professionale, più elegante o più efficace, presupponiamo che esistano criteri relativamente condivisi per stabilire che cosa renda una formulazione tale. Ma questi criteri non sono linguisticamente né culturalmente neutri. Si pensi a un’e-mail nella quale uno studente scrive a un docente «Volevo chiederle se fosse possibile incontrarla». Un sistema potrebbe suggerire «Le scrivo per richiedere un appuntamento», producendo una formulazione più diretta e convenzionalmente istituzionale, ma modificando anche il modo in cui il parlante costruisce la propria posizione rispetto all’interlocutore. La prima espressione attenua la richiesta attraverso una particolare configurazione verbale e pragmatica; la seconda privilegia l’esplicitazione dell’atto comunicativo. Non si tratta necessariamente di stabilire quale sia migliore, ma di riconoscere che una riformulazione non è mai soltanto una sostituzione di parole equivalenti. Il problema diventa ancora più significativo quando queste operazioni coinvolgono varietà regionali, espressioni idiomatiche, costruzioni sintattiche marcate o convenzioni pragmatiche proprie di culture linguistiche differenti. I modelli generativi sono certamente capaci di riprodurre una notevole varietà di registri e stili, ma tendono a privilegiare, soprattutto in assenza di indicazioni specifiche, soluzioni linguistiche frequenti e socialmente riconoscibili, riconducendo talvolta la pluralità delle possibilità espressive a modelli relativamente uniformi. È una dinamica che ho definito monolinguismo statistico: non la riduzione delle lingue a un unico codice, ma la possibile convergenza verso forme discorsive dominanti, nelle quali la regolarità e la probabilità d’uso rischiano di prevalere sulla specificità culturale e pragmatica delle scelte linguistiche. La questione non riguarda, dunque, la difesa indiscriminata di qualsiasi particolarismo espressivo, ma il rischio che la maggiore scorrevolezza di un testo venga scambiata per un miglioramento della sua qualità comunicativa, senza considerare quali sfumature di significato, relazioni sociali e prospettive culturali siano state trasformate o eliminate.

È proprio a questo livello che la riflessione di Roncaglia sull’allineamento acquista un rilievo linguistico e culturale. Orientare un sistema verso comportamenti rispettosi, equilibrati o inclusivi richiede anche di decidere che cosa quei termini significhino in situazioni sociali differenti. Un output può evitare espressioni apertamente discriminatorie e al tempo stesso riprodurre prospettive dominanti attraverso esempi, categorie o presupposti non dichiarati. La scelta delle forme linguistiche non è separabile da quella delle rappresentazioni considerate socialmente normali e autorevoli. E il controllo, che Roncaglia distingue opportunamente dall’allineamento, non coincide semplicemente con la possibilità di interrompere un’azione: comprende anche la possibilità di ricostruire perché un sistema abbia prodotto una certa risposta, di contestarla e di correggerne gli effetti.

È qui che il percorso filosofico di Roncaglia mi sembra condurre a una questione meno spettacolare di quella della coscienza artificiale, ma forse più urgente. L’ingresso dei sistemi generativi nelle pratiche ordinarie modifica il modo in cui si distribuiscono l’iniziativa interpretativa, l’autorità del discorso e la possibilità di replica. Il testo che riceviamo può essere formalmente compiuto prima ancora che qualcuno ne abbia vagliato le implicazioni; può circolare come parola di un individuo, di un ufficio o di un’istituzione, benché le scelte da cui nasce siano state compiute altrove. Non basta allora domandarsi se la macchina capisca. Occorre considerare l’intera catena che va dalla richiesta alla produzione, dalla selezione alla pubblicazione, fino all’uso che altri faranno di quelle parole.

Tornando al messaggio di scuse, il nodo non è stabilire se l’IA sappia imitare il pentimento, né invocare un’autenticità umana garantita per definizione. Anche tra esseri umani esistono formule vuote, automatismi e finzioni. La differenza decisiva sta nella possibilità di chiedere conto di un atto, di interrogare le ragioni che lo sostengono e di riconoscere chi ha il potere di modificarlo. Un discorso può filare perfettamente senza che siano trasparenti le decisioni che ne hanno determinato il senso. La sfida, allora, non è opporre alle parole artificiali una presunta purezza della parola umana, ma costruire pratiche in cui le formulazioni restino discutibili, le fonti verificabili, le alternative linguistiche visibili e gli impegni attribuibili. È su questo terreno, più che nella sola somiglianza delle prestazioni, che si misura il significato culturale dell’intelligenza artificiale.

diana.peppoloni@unipg.it

L'autore

Diana Peppoloni: Diana Peppoloni è professoressa associata in Didattica delle lingue moderne all'Università degli Studi di Perugia, dove è anche Direttrice del Centro Linguistico di Ateneo. Linguista computazionale per formazione, studia l’impatto delle tecnologie digitali sulla didattica delle lingue, con particolare attenzione allo sviluppo e all’impiego didattico diretto e indiretto dei corpora, come strumenti per valorizzare la consapevolezza metalinguistica degli apprendenti e il loro repertorio plurilingue. I suoi interessi di ricerca vanno dallo studio della comunicazione accademica parlata, all'analisi di aspetti rilevanti nei percorsi di insegnamento/apprendimento linguistico, tra cui la gestione di ambienti di apprendimento multilingui.