Luca Antonini

 

1. Il Verbo fatto carne

Nella recente enciclica Magnifica Humanitas Leone XIV inizia il suo discorso sull’Intelligenza Artificiale affermandone la non definibilità e l’impossibilità di coglierne l’essenza: da una parte, lo sviluppo dell’Intelligenza Artificiale è così rapido da rendere falso quanto ne diciamo di volta in volta; dall’altra nemmeno gli esperti sono del tutto consapevoli del suo funzionamento[1]. Se la verità è aedequatio rei et intellectus, allora pare che sull’Intelligenza Artificiale giaccia un velo di Maya particolarmente difficile da togliere. Dunque, sorge spontanea la domanda: se né noi né gli esperti siamo capaci di dire cosa essa sia, chi lo è?

Il Pontefice fa notare che è più opportuno parlare di “coltivazione” delle intelligenze artificiali, piuttosto che di “costruzione”: ciò che viene creato è l’architettura su cui l’intelligenza artificiale “cresce”[2]. Che vada intesa in senso metaforico, l’idea dietro la “crescita” è che l’architettura informatica che sta alla base delle varie intelligenze artificiali sia tale per cui queste ne derivano attraverso un processo di sviluppo, il cui risultato non è già contenuto nell’architettura iniziale. La risposta, allora, giunge spontanea quanto la domanda ed è “nessuno”: la risultante intelligenza artificiale non è un prodotto di un algoritmo deterministico – sia questo la prassi di sviluppo dei programmatori, sia questo il programma soggiacente all’IA – ma di un’architettura fatta per imparare. Non si può dire cosa sia, si può soltanto scegliere di non usare la parola “intelligenza” nello stesso modo in cui la si usa in riferimento all’intelligenza umana[3].

Questa pagina, densa di implicazioni filosofiche, ci pone di fronte al problema della verità, che l’enciclica stessa affronta in maniera estesa e richiamando i fondamenti della dottrina sociale della Chiesa Cattolica[4]. Il fondamento di questa enciclica, infatti, è la Rerum Novarum[5] dell’omonimo predecessore dell’attuale Pontefice, Leone XIII. È proprio in quelle pagine che quest’ultimo ammoniva la classe dirigente, per il troppo sfruttamento delle classi subalterne, ignorando tuttavia ogni possibile responsabilità della prima nei confronti delle seconde.

Risultano fondamentali i richiami nei quali Leone XIV afferma contemporaneamente il diritto dei lavoratori all’associazione e il diritto alla proprietà privata:

«Il documento [l’enciclica Rerum Novarum] pone al centro della sua riflessione la dignità del lavoro e del lavoratore, afferma il diritto a un salario giusto per sé e per la propria famiglia, riconosce nelle persone un valore essenziale prioritario rispetto al capitale e al profitto, difende la proprietà privata insieme alla sua imprescindibile funzione sociale, apprezza le associazioni dei lavoratori e propone forme di collaborazione tra le diverse componenti della società in alternativa alla logica della “lotta di classe”.»[6]

Notiamo un preciso riferimento a questa affermazione contenuta nella Rerum Novarum:

«[N]on è difficile capire che lo scopo del lavoro, il fine prossimo che si propone l'artigiano, è la proprietà privata. Poiché se egli impiega le sue forze e la sua industria a vantaggio altrui, lo fa per procurarsi il necessario alla vita: e però con il suo lavoro acquista un vero e perfetto diritto, non solo di esigere, ma d'investire come vuole, la dovuta mercede.»[7]

La logica dell’accumulo è vista come scopo di ogni lavoro e fondamento del benessere, il quale non viene messo in pericolo dall’appropriazione dei prodotti del lavoro da parte dei padroni, ma dal tentativo dei socialisti di restituirli ai lavoratori:

«Con l'accumulare pertanto ogni proprietà particolare, i socialisti, togliendo all'operaio la libertà di investire le proprie mercedi, gli rapiscono il diritto e la speranza di trarre vantaggio dal patrimonio domestico e di migliorare il proprio stato, e ne rendono perciò più infelice la condizione.»[8]

L’accumulo non è più riferito all’accentramento in poche mani della maggior parte della ricchezza, quanto alla collettivizzazione dei mezzi di produzione da parte dei proletari. La speranza, poi, viene posta a chiave di volta di un processo di inesorabile asservimento di quest’ultimi.

Anche là dove sembra assumere un tono più duro contro le classi dominanti, non c’è menzione di eventuali loro doveri nei confronti delle classi subalterne:

«Il ceto dei ricchi, forte per sé stesso, abbisogna meno della pubblica difesa; le misere plebi, che mancano di sostegno proprio, hanno speciale necessità di trovarlo nel patrocinio dello Stato. Perciò agli operai, che sono nel numero dei deboli e dei bisognosi, lo Stato deve di preferenza rivolgere le cure e le provvidenze sue.»[9]

In breve, le istanze delle classi subalterne vengono riconosciute formalmente, ma si scontrano con il muro dell’interpretazione della verità. Nel quarto capitolo della Magnifica Humanitas, si riconosce correttamente che quest’ultima non possa essere soggetta a un controllo centralizzato, dimenticando tuttavia che lo stesso centralismo distribuito delle aziende produttrici di Intelligenza Artificiale – centralismo perché è la cultura neoliberista a fare da padrona, distribuito perché ogni azienda mette in pratica in suoi dettami per raggiungere gli stessi scopi: potere e profitto – lo troviamo nei ministri della Chiesa, portavoce del Verbo divino: la differenza non è nella struttura, ma nell’autorità di riferimento. D’altronde, vige ancora il dogma dell’infallibilità papale, entrato in vigore con la Pastor Aeternus, costituzione prodotta nel contesto del Concilio Vaticano I, approvata nel 1870: cioè, quel dogma secondo il quale l’autorità del Papa è direttamente collegata al divino, in quanto successore dell’apostolo Pietro. Di conseguenza, ogni sua affermazione risulta indiscutibile, in quanto ex cathedra.

In questo modo, il Papa è non interprete, ma diretto enunciatore del giudizio divino, del logos universale. Il rispetto di questo giudizio, ovviamente, è dovuto da parte del clero, che si fa portavoce del Verbo. Allo stesso modo, le grandi aziende che controllano l’economia mondiale sono chiaramente voce di un logos superiore, che pervade l’intero spazio sociale e trasforma tutto in capitale.

Ora, il fondamento del Cristianesimo si trova nell’idea che il Verbo divino si sia fatto carne una volta e che, un giorno, questo debba accadere di nuovo. Da un punto di vista più filosofico, questo significa che il logos divino si istanzi in un essere umano, cioè in un membro legittimo di una comunità umana, con le sue pratiche e la sua cultura. Si potrebbe quasi pensare che vi sia spazio per l’adeguamento della metafisica iperuranica del divino a una metafisica di stampo materialista, con il divino che diventa finalmente partecipe delle faccende umane; il divino fatto uomo con l’uomo che diventa punto di riferimento, oggetto di ogni problema, ma soprattutto soggetto di ogni soluzione. Tuttavia, sappiamo, come ci dice Feuerbach, che si tratta dell’esatto contrario: il dio si fa carne per perpetrare la proiezione di quanto pertiene agli esseri umani sull’Iperuranio.

Allo stesso modo, Leone XIV richiama l’idea del Verbo fatto carne[10], ma, ovviamente e con la stessa operazione feuerbachiana, la prassi determinante la forma di vita d’appartenenza delle classi subalterne è presto riconsegnata al divino[11]. Così, la verità non è una faccenda umana, qualcosa che noi a buon diritto possiamo e dobbiamo cercare, ma una faccenda divina: è Yahweh che decide. Come ci insegna Marx[12], il problema della verità – e, di conseguenza, tutti i problemi – è di natura pratica, ma di questo criterio, l’unico capace di restituisce agli oppressi tanto cari ai cristiani la possibilità di liberarsi, non rimane alcunché.

È vero che nel Cristianesimo si parla di verità rivelata: proprio per questo Dio si fa uomo, per portare la legge divina tra le persone. Eppure, con l’Intelligenza Artificiale accade il contrario e la si etichetta come indefinibile, come qualcosa che sfugge alla conoscenza umana e, quindi, al controllo. Questo, ovviamente, è in totale antitesi con l’intera politica delineata nella Magnifica Humanitas.

Di quanto affermato nell’enciclica, quindi, non è problematico soltanto la Dottrina Sociale, ma anche e soprattutto il modo in cui il problema dell’Intelligenza Artificiale viene posto e questa interpretata. In quanto segue, cercheremo di mostrare alcuni degli aspetti che riteniamo più importanti e di trarne le dovute conclusioni.

 

2. Fortuna semantica

Come abbiamo già visto, uno dei temi fondamentali di questo articolo è il concetto di verità. Questo, tipicamente, appartiene alla semantica, cioè alla disciplina che studia il significato. Va da sé che per dire che qualcosa sia vero – generalmente qualcosa che abbia una struttura predicativa, come un enunciato, una proposizione o un giudizio – si deve anche saper dire cosa significano le componenti di quel qualcosa – in una struttura predicativa, almeno un soggetto e, appunto, un predicato.

Quando si parla di Intelligenza Artificiale, soprattutto nella forma che questa acquisisce nei noti LLM (Large Language Models, cioè Modelli Linguistici di Grandi Dimensioni o Grandi Modelli Linguistici, che dir si voglia), ci scontriamo con una sorta di simulatore molto complesso e ben funzionante del linguaggio verbale. Di conseguenza, siamo tenuti a considerare anche cosa significhi per un programma siffatto utilizzare uno strumento – il linguaggio – tipico dell’essere umano, di chi, per quanto complesso sia renderne esplicite le regole, le leggi e le caratteristiche fondamentali, sa cosa significa farne uso.

Ora, l’Intelligenza Artificiale riguarda tanto l’informatica, quanto la matematica e la filosofia. Quale delle sue facce si voglia guardare, si trovano questioni e problemi che investono tutte e tre queste discipline, a partire dalla statistica per arrivare alla logica e all’epistemologia. Di conseguenza, una trattazione completa della semantica relativa a quella che viene generalmente chiamato Natural Language Processing, cioè l’analisi del linguaggio con strumenti statistici, chiederebbe spazi e risorse diverse.

Il nostro scopo, al contrario, è mostrare alcune semplici caratteristiche dell’Intelligenza Artificiale, dei LLM appunto, e alcune conseguenze che derivano da esse. Con “fortuna semantica”, infatti, intendiamo l’idea che un programma di questo genere non sia capace di raggiungere la verità, se non per caso.

2.1. Fortuna epistemica

L’idea della fortuna semantica trova un corrispettivo analogo in epistemologia, in cui si parla di fortuna epistemica. Lo si fa quando un soggetto si trova in una situazione in cui tutte e tre le condizioni necessarie affinché si possa parlare di conoscenza sono soddisfatte, ma il caso gioca un ruolo dirimente. Le condizioni per dire che un soggetto conosce, tradizionalmente, sono le seguenti: (i) il soggetto credere che p, (ii) la credenza del soggetto è effettivamente vera e (iii) il soggetto è capace di giustificarla. Un caso semplice è questo:

• Il soggetto viaggia in auto e lungo la strada vede dei granai.
• Il soggetto crede effettivamente che quelli siano dei granai.
• Tutti i granai sono dei cartonati, tranne uno[13].

Il soggetto forma la sua credenza sulla base dei cartonati, che crede essere granai reali. Di conseguenza, fallisce nel conoscere quei granai per il semplice motivo che non sono granai; tranne in un caso, quello in cui ciò che vede è un granaio vero. Tuttavia, sebbene in quel caso tutte e tre le condizioni di cui sopra siano soddisfatte, accade che il soggetto sia capace di fornire una giustificazione soltanto per caso.

L’Intelligenza Artificiale di cui facciamo più spesso uso, quella che ha un maggiore impatto sulla vita delle persone, è alimentata dai già menzionati LLM – che trovano uso non solo in ambito informatico e nell’uso quotidiano, ma anche in ambito bellico[14] – cioè da modelli statistici che predicono il testo da restituire come risposta all’utente. Più precisamente, si tratta di un predittore di token. Un token è una porzione di un testo, corrispondente a parti più o meno ampie di quest’ultimo, selezionate a seconda del calcolo fatto dal modello: cioè, l’unità di testo su cui la macchina ragiona. La predizione si basa su pesi e distribuzioni di probabilità calcolate a ogni prompt dato in input. Questo è il motivo per cui alla stessa domanda è possibile ottenere risposte diverse. La relazione che si instaura, di conseguenza, avrà come relata unicamente unità di testo.

Quando parliamo di Intelligenza Artificiale, di dati e di informazione, ci troviamo in una situazione analoga a quella descritta per la fortuna epistemica: essa, infatti, non è capace di distinguere il falso dal vero, ma solo di affermare quanto di più probabile stabilisca il modello statistico che la alimenta.

Non vi è, qui, spazio per alcuna rappresentazione del mondo. Siamo di fronte a un caso di solipsismo linguistico, in una forma forse ancora più forte di quella descritta da Wittgenstein[15]: non solo non vi è alcun soggetto metafisico, ma nemmeno un soggetto parlante. In maniera analoga al caso di fortuna epistemica, ci troviamo di fronte a una situazione in cui non vengono soddisfatte le condizioni per dire la verità: affinché questo accada, infatti, c’è bisogno di un soggetto parlante, di un membro legittimo di una comunità linguistica; abbiamo bisogno di un soggetto capace di “considerare come vero”[16] il contenuto di un’asserzione, cioè di “aderire personalmente”[17] a esso. Come vedremo più avanti, è questa la differenza tra quelli che il filosofo statunitense Robert Brandom chiama esseri discorsivi ed esseri non discorsivi.

L’Intelligenza Artificiale è capace soltanto di stabilire relazioni statistiche, per quanto complesse esse siano, con i dati raccolti. Di conseguenza, possiamo parlare di fortuna semantica; giacché la verità risulta determinata solo per caso dalla corrispondenza di quanto prodotto dall’Intelligenza Artificiale con quanto sussistente nel mondo. Si potrebbe obiettare che la relazione con il mondo che hanno le espressioni linguistiche utilizzate dall’Intelligenza Artificiale sia mantenuta dalla traduzione in termini matematici che il sistema opera per poter eseguire i propri calcoli, ma questo, come vedremo in seguito, equivale a rappresentare l’Intelligenza Artificiale come una macchina fotografica, di cui possiamo dire che rappresenta ciò che rappresenta esclusivamente in virtù del fatto che è una fotografia di ciò che rappresenta.

2.2. Il Dato e il Modello Fotografico

2.2.1. Il Dato

Dal punto di vista grammaticale, “dato” è semplicemente il participio passato del verbo “dare”. Questo verbo presuppone che vi sia un soggetto attivo e uno passivo: chi dà e chi riceve. Ora, si dice generalmente che i modelli di Intelligenza Artificiale sono “allenati” a partire dai dati, dove Leone XIV direbbe che i modelli vengono fatti crescere su un’architettura a cui i dati vengono forniti. Quale che sia la formulazione verbale scelta, potremmo dire che il ruolo passivo venga svolto dai modelli stessi; mentre rimane il dubbio su chi effettivamente svolga il ruolo attivo, cioè su chi dia i dati. Il participio passato, a sua volta, presuppone che questa dinamica sia già avvenuta, che sia ormai conclusa. Essendo questa finita, dà l’impressione che non vi sia altro da dire su di essa.

Come ci insegna Hegel[18], in quanto strumento, anche se l’Intelligenza Artificiale fosse un semplice medium passivo, bisognerebbe almeno riconoscere che l’oggetto su cui viene applicata viene conosciuto per come viene presentato dallo strumento e non per come è in sé. Quindi, anche se fosse corretto dire che il dato esiste per l’Intelligenza Artificiale, non sarebbe corretto dirlo per noi, una volta utilizzata l’Intelligenza Artificiale. Allo stesso tempo, provare a esplorare “le modalità di funzionamento dello strumento”, non farebbe altro che “riportarci al punto in cui eravamo in precedenza”[19]. Di conseguenza, il dato non esiste: che l’intelligenza sia artificiale o naturale, una volta applicati i suoi strumenti, l’oggetto della conoscenza viene radicalmente modificato.

In informatica, inoltre, si parla di dato come qualcosa che ancora non è stato interpretato. Questa distinzione, applicata all’Intelligenza Artificiale, sembra replica la dicotomia fenomeno-noumeno, che Hegel ha tanto criticato. Come abbiamo appena detto, infatti, l’oggetto della conoscenza viene radicalmente trasformato dalle categorie e dagli strumenti utilizzati; ma è vero anche che nell’atto del conoscere entrano necessariamente in gioco delle categorie, senza le quali di conoscenza non si potrebbe proprio parlare. Di conseguenza, anche se volessimo dare sfogo alla fantasia più sfrenata e considerare l’Intelligenza Artificiale come un possibile soggetto epistemico, il concetto di dato sarebbe utile al massimo per distinguere ciò che c’è prima da ciò che c’è dopo l’applicazione della statistica.

Per essere precisi, poi, bisognerebbe dire che non esiste l’immediatezza del dato: ogni volta, l’oggetto viene mediato dallo strumento. Nel nostro caso, ovviamente, questo strumento è l’Intelligenza Artificiale. Ma c’è un motivo ben più fondamentale per cui l’immediatezza del dato non esiste: ogni concetto è in relazione con altri concetti, fondamentali essi stessi alla comprensione del concetto di partenza. Così, ogni dato utilizzato dall’Intelligenza Artificiale è già informazione, cioè dotato di un significato all’interno del linguaggio adottato. Questa è la conclusione raggiunta Wilfrid Sellars[20], filosofo statunitense si stampo pragmatista, che tuttavia fa il paio con l’idea che ogni concetto sia theory laden, cioè carico di tutte le assunzioni teoretiche di chi lo utilizza. Questa posizione si trova nell’opera del ben più noto Thomas Khun[21] e in una parte molto estesa dell’epistemologia contemporanea a lui successiva. Ed è proprio per questi due motivi che non esiste nemmeno la neutralità del dato: ogni volta, l’informazione viene elaborata con criteri ben precisi, pensati e formalizzati da chi produce l’Intelligenza Artificiale; che non è un albero che cresce dal seme piantato da matematici e informatici al servizio del Capitale, come afferma Leone XIV, ma il prodotto del loro lavoro, della loro attività (non passività).

C’è un senso, invece, in cui il ruolo passivo viene svolto dall’utente, che non ha controllo su uno strumento che viene utilizzato dalle grandi aziende di informatica per raccogliere e categorizzare le informazioni raccolte nella rete: è passivo nella misura in cui è tendenzialmente lui a riceve le informazioni sintetiche prodotte dall’Intelligenza Artificiale e a essere costretto a prenderle come vere; è passivo nella misura in cui il rapporto che intercorre tra lui e l’Intelligenza Artificiale non è del tutto deciso da lui stesso.

2.2.2. Il Modello Fotografico

Un filosofo britannico del secolo scorso, Gareth Evans, osserva[22] che le relazioni semantiche non possono essere garantite esclusivamente da una relazione causale tra le espressioni linguistiche e le loro controparti extralinguistiche. Il quadro cui fa riferimento è quello della cosiddetta Teoria Causale del Riferimento, sviluppata da diversi filosofi afferenti alla corrente analitica, tra i quali notoriamente spicca Saul Kripke, logico e filosofo del linguaggio statunitense, noto maggiormente per questa teoria e l’enorme contributo nel campo della logica modale (di cui, qui, tuttavia non ci occuperemo). In Naming and Necessity[23], quest’ultimo afferma che alcuni dei cosiddetti termini singolari mantengono il loro riferimento semplicemente sulla base della relazione causale instaurata al momento di quello che lui chiama “battesimo”, cioè l’atto di assegnazione del nome all’entità. (Questo atto non deve necessariamente consistere in una cerimonia ben definita in cui una o più persone decretano l’appartenenza del nome a all’entità, basta che vi sia un momento in cui in qualche modo si decide che l’entità avrà quel nome.) Le espressioni linguistiche alle quali egli limita la sua conclusione sono i nomi propri e i nomi comuni, per ragioni che in questa sede possiamo lasciare da parte.

Quindi la situazione è questa: il soggetto conia un nome per un’entità e questo dovrebbe risultare sufficiente a garantire la relazione di significazione; una relazione causale del tipo parola-entità, che riduce la semantica a lessicografia, tale per cui la dimensione sociale del linguaggio è del tutto esclusa. D’altronde, stabilire una relazione semantica – ad esempio, dare il nome a qualcosa – è un conto; un altro conto è mantenere quella relazione. Alla base di questo quadro, che Evans critica, si trova l’idea che lo studio del linguaggio sia coperto completamente da quel tipo di analisi semantica che coinvolge quasi unicamente gli strumenti della logica matematica; così che il giudizio – inteso come l’atto linguistico e cognitivo di utilizzare i concetti – viene ridotto a semplice enunciato, che nella sua forma più semplice è composto da un predicato e da un soggetto; a loro volta interpretati rispettivamente come una funzione e il suo argomento, cosicché una volta dato il secondo alla prima si ottiene il valore di verità dell’enunciato. L’enunciato “La neve è bianca”, ad esempio, viene tradotto con “B(n)”, dove “B” sta per il predicato “Bianco” e “n” sta per il nome “neve”. In questo quadro, ovviamente, non vi è traccia della comunità linguistica che, in realtà, permette al linguaggio di nascere e svilupparsi. Siamo, quindi, di fronte a una visione puramente formalista dell’analisi linguistica.

Infatti, la predicazione, nel senso di espressione di un giudizio atto a categorizzare una certa entità, a denotare fatti o stati di cose, è qualcosa che l’Intelligenza Artificiale è capace di fare solo formalmente, cioè nei termini della produzione di qualcosa che ha la stessa forma di una formula ben formata – ciò che in logica si definisce come un’espressione linguistica valutabile: cioè, che può essere vera o falsa. Essendo fondamentalmente basata su modelli statistici, le relazioni che stabilisce tra gli oggetti linguistici che pone in analisi è più debole della relazione causale di cui parla Evans.

Certo, si potrebbe obiettare che i modelli statistici sono perfettamente capaci di fare classificazioni; anzi, la statistica predittiva cerca di fare proprio questo: sulla base dei dati, fornire una classificazione di ciò che verrà successivamente. Ma, come abbiamo visto, i LLM sono predittori di unità di testo e, di conseguenza, questa classificazione riguarderà unicamente unità di testo.

Di conseguenza, possiamo notare che ciò che Evans chiama Modello Fotografico non si applica all’Intelligenza Artificiale, ma solamente per via di una sua proprietà essenziale ed essenzialmente deficitaria: non potendo entrare in relazione causale con l’oggetto di riferimento o con il fatto denotato, non è capace di stabilire relazioni causali e, quindi, di associare espressioni linguistiche a entità e fatti nello stesso modo in cui è capace di farlo un essere umano. Al contrario, non è capace di associare niente ad alcunché, se non espressioni linguistiche a espressioni linguistiche.

 

3. La mediazione sociale

Come abbiamo visto, la critica dell’Intelligenza Artificiale ci porta verso il linguaggio naturale e la sua semantica. Riguardo a ciò, rileviamo un fattore essenziale: il linguaggio è un fenomeno sociale. Ciò significa che l’uso individuale – quand’anche il parlare di individui abbia senso – di espressioni linguistiche è basato su regole determinate dalla comunità di parlanti e non il contrario. Infatti, una linguistica o una filosofia del linguaggio che voglia rendere conto della reale natura di questo fenomeno, necessita di tirare in ballo tutta l’impalcatura sociale, a partire dalle relazioni di produzione – sulla base delle quali, diceva il linguista e filosofo sovietico Vološinov, si forma la comunicazione[24] – fino al più astratto concetto wittgensteiniano di forma di vita[25] – cioè l’insieme delle pratiche sociali sulla base delle quali emerge il linguaggio stesso. L’Intelligenza Artificiale, non essendo un soggetto dotato di intenzionalità (la proprietà degli stati mentali di avere un contenuto e riferirsi a quanto c’è nel mondo), ma uno strumento, è ovviamente fuori da ogni dimensione sociale.

In quanto strumento, estende le capacità umane e ci permette di produrre; ma quale che sia il prodotto, esso acquisisce un significato soltanto all’interno della dimensione sociale: sia in generale che in senso economico[26]. Di conseguenza, il concetto di datità risulta fuori luogo da qualunque lato guardiamo l’Intelligenza Artificiale: qualunque concetto è già informazione.

Da un lato, infatti, vediamo che qualunque forma di categorizzazione passa per la mediazione sociale. Dall’altro, invece, vediamo che l’Intelligenza Artificiale riceve informazioni che, oltre alla mediazione di cui abbiamo appena parlato, subiscono anche quella delle aziende che la producono, aziende che hanno direttamente interessi nell’ingegneria sociale.

 

4. Statistica, incertezza e big data

Categorizzare gli enti nel mondo è un’attività complessa che noi umani siamo capaci di fare, ma con il costo enorme di essere costantemente incastrati in processi storici e dialettici all’interno dei quali la categorizzazione avviene lentamente e con difficoltà[27]. La domanda che sta alla base della categorizzazione è il socratico “Ti estì?”, nel rispondere alla quale, come ci insegnano la statistica e la teoria della probabilità, abbiamo a che fare con contesti in cui regna l’incertezza. La distinzione fondamentale, qui, è tra enunciati logici ed enunciati empirici: i primi sono sempre veri – come l’enunciazione dei principi di non contraddizione e del terzo escluso o, per chi è avvezzo ai temi della logica matematica, le formule di De Morgan – mentre i secondi risentono della contingenza del mondo materiale, dell’incertezza dell’osservazione, della parzialità dei concetti che vanno sviluppandosi nei complessi processi dialettici[28]. Così, la verità di quanto diciamo sul mondo è quasi sicuramente parziale e il giudizio inserito in un processo di affinamento concettuale e comprensione che ha bisogno di tempo.

Quando si tratta di decidere che cosa un ente sia, si potrebbe pensare che la logica di fondo sia binaria: qualcosa è o non è quel qualcosa. Tuttavia, proprio in contesti di incertezza, la logica acquisisce più valori, potenzialmente infiniti. La cosiddetta logica fuzzy formalizza un’idea che si trova, ad esempio, nella linguistica cognitiva[29], come nella filosofia del linguaggio e in varie applicazioni della logica matematica: cioè l’idea che il possesso di una proprietà (lo stesso vale per nozioni cognate come quella di verità e di identificazione) non sia sempre una questione binaria, ma spesso sfumata in molteplici gradi di appartenenza a un insieme. L’esempio classico della tazzina mostra che l’appartenenza a questa categoria è molto sfumata: un oggetto, infatti, può essere una tazzina con altezza e larghezza diverse, con o senza manico, di forma più o meno tondeggiante, eccetera. La risposta alla domanda, non banale per quanto possa sembrarlo, “Quand’è che un oggetto smette di essere una tazzina e diventa una tazza?” non ammette una logica semplicemente binaria.

L’Intelligenza Artificiale si trova proprio ad applicare criteri di questo tipo, cioè a categorizzare il mondo seguendo una logica a infiniti valori[30] – compresi nell’intervallo che va da 0 (il Falso) a 1 (il Vero); infiniti valori che, ovviamente, non sono altro che distribuzioni statistiche. Tuttavia, per avere un risultato accettabile, è necessario che il modello lavori su grandi quantità di dati: per questo generalmente Intelligenza Artificiale e Big Data vanno a braccetto; quest’ultimi essendo non semplicemente un fenomeno dovuto al diffondersi di tecnologie informatiche – un’enorme mole di dati che richiede specifiche tecniche e strumenti di analisi – ma soprattutto un contesto in cui è possibile l’applicazione di strumenti statistici predittivi, che proprio in virtù di questo ha bisogno della raccolta di una grande mole di dati. In questo senso, il “big” di “big data” non si riferisce semplicemente alla quantità in generale, ma alla variabilità: la domanda “Quanti sono?”, per quanto possa sembrare banale, non si riferisce solo al numero di dati in sé e per sé, ma soprattutto al numero di categorie e alle varianti delle stesse.

Ci troviamo di fronte alla situazione in cui strumenti complessi come l’Intelligenza Artificiale sono necessari per l’analisi di quantità e varietà enormi di dati ed è necessario avere quantità e varietà enormi di dati per utilizzare questi strumenti. La variabilità è un fenomeno naturale, dovuto alle diverse scelte che le persone fanno quotidianamente, alle differenze personali e all’imprevedibilità degli eventi; ma questa variabilità deve essere intercettata e immagazzinata: come ci ricorda la IBM – che nel campo informatico ha ben pochi rivali – in un mondo governato dai dati, i dati devono essere creati attivamente[31].

Di conseguenza, in un mondo in cui l’incertezza ha portato a sviluppare potenti e complessi strumenti di analisi, l’incertezza viene governata producendola: solo così, la classe dirigente è capace di comprendere e indirizzare le masse. È noto il caso di X – già Twitter – acquisito da Elon Musk e utilizzato per indirizzare il voto negli Stati Uniti. Ma questo è chiaramente il caso più esplicito di un sistema che pervade l’intero spazio dei social network e non solo. Il dato, quindi, è una risorsa e, come ogni risorsa, è tale perché interpretata alla luce dello strumento che la utilizza: non vi è alcuna datità nel dato. Per questo, bisognerebbe mettere tra virgolette anche la parola “dato”, oltre che la parola “intelligenza”, come proposto da Leone XIV e Adriano Fabris.

 

5. Dati e dialettica

Probabilmente, il vero problema dell’Intelligenza Artificiale – con le maiuscole, intesa come categoria generale e non nella specificità dei diversi modelli – è che ci porta direttamente in quell’ambito vastissimo della filosofia che è la teoria della conoscenza, con tutte le sue ramificazioni logiche, epistemologiche e linguistiche. Parlare di intelligenza, che la si metta o meno fra virgolette, richiede un’impalcatura teorica tanto vasta da dover prima mettere fra parentesi tutto quanto pertiene al lato matematico, informatico ed ingegneristico: non al livello teorico, quanto rispetto alle istanze specifiche dei modelli. Solo così è possibile evidenziarne le proprietà costitutive.

Il tratto caratteristico dell’Intelligenza Artificiale – almeno di quella con cui abbiamo a che fare quotidianamente, basata sui LLM – è che interagisce con noi con lo strumento che più ci caratterizza come esseri senzienti: il linguaggio. Lo fa per lo più con il linguaggio verbale, ma permette di interagire anche attraverso immagini, suoni e file di diversa natura; che ovviamente sono un prodotto della stessa cognizione che sta dietro al linguaggio verbale. Qui, il punto fondamentale è il rapporto tra parlanti: è questo che viene simulato con l’interazione tra Intelligenza Artificiale ed esseri umani. Il famoso Test di Turing, che misura l’indistinguibilità del comportamento linguistico di una macchina da quello di un essere umano, si basa proprio sulla simulazione di una conversazione. Si tratta di una simulazione, ovviamente, perché l’Intelligenza Artificiale è uno strumento utilizzabile attraverso l’interazione con una macchina – un computer – che tuttavia, come abbiamo già detto, non è inserito in un contesto sociale, se non proprio come strumento.

Il filosofo statunitense Robert Brandom non distingue tra umani, macchine e animali non umani, ma tra esseri discorsivi e esseri non discorsivi. È discorsivo, secondo il suo pensiero, ciò che pertiene all’applicazione dei concetti: nel parlare di linguaggi non fa semplicemente riferimento alla forma verbale, spesso formalizzata, dell’enunciato, ma al giudizio: un giudizio è un’applicazione di concetti. L’idea fondamentale è che l’applicazione di concetti abbia senso all’interno di una comunità di parlanti, i quali, in un certo senso, si controllano a vicenda per garantire che tale applicazione sia corretta. L’interazione tra parlanti, in questo senso, si traduce nel rapporto tra chi attribuisce responsabilità e chi, invece, la riconosce a se stesso, reclamando autorità[32]. Il riferimento alla responsabilità richiama un vocabolario delle norme, che è appunto quello di cui fa uso Brandom: il contenuto di un giudizio è interpretato nei termini normativi della responsabilità a seguire determinate regole; cioè, quelle già precedentemente instaurate e seguire da altri esseri discorsivi della stessa comunità.

In questo quadro, un giudizio rende responsabile il soggetto giudicante del modo in cui applica i concetti, della loro correttezza o scorrettezza. Essendo l’Intelligenza Artificiale uno strumento – cioè un’estensione delle capacità umane – è possibile applicare concetti attraverso il suo uso, ma non sembra essere corretto dire che essa sia un essere discorsivo. Anzi, essendo uno strumento, dovrebbe risultare nell’estensione delle nostre capacità di giudizio: è la nostra capacità di applicare concetti e di seguire regole che ne risente e, di conseguenza, della nostra reciproca responsabilità. (Da notare che vengono contemporaneamente applicati i concetti della statistica, ogni volta che essa elabora dei dati, e i concetti del linguaggio ordinario ogni volta che le poniamo domande e interpretiamo le sue risposte. La responsabilità, quindi, sembra agire su due livelli linguistici – il linguaggio naturale e il linguaggio matematico – chiamando in ballo più di una comunità linguistica: da una parte quella ordinaria dell’utente, dall’altra quella scientifica del matematico.)

Questo è sostanzialmente il nucleo portante di quella che chiamiamo “intelligenza”. Infatti, si potrebbe dire che le capacità dell’Intelligenza Artificiale appartengono a quello che Hegel chiamava Verstand, cioè il momento dell’intelletto, della determinatezza. Certo, abbiamo visto che gli strumenti statistici si rifanno, da un punto di vista logico, alla logica fuzzy, cioè a un’interpretazione degli insiemi – delle categorie, da un punto di vista ontologico – il cui criterio di appartenenza non è binario, ma basato su un intervallo infinito di possibili valori. Per fare un esempio, l’Intelligenza Artificiale potrebbe essere interessata a capire se l’utente ha figli o meno: a seconda dei “contenuti”[33] (dei social network, ad esempio), potrebbe essere categorizzato come genitore, sebbene non sia sicuro al 100% che lo sia; potrebbe, ad esempio, volere figli e, di conseguenza, cercare informazioni o volgere la propria attenzione a video, testi, immagini, eccetera, riguardanti l’ambito semantico pertinente a chi cerca di avere figli.

Come abbiamo visto, la logica fuzzy caratterizza tanto la categorizzazione umana quanto quella dell’Intelligenza Artificiale. Per quanto non si possa da ciò inferire che i processi mentali umani siano analoghi ai processi statistici messi in atto dai LLM, la collocazione dell’Intelligenza Artificiale nel momento della Verstand sembra quantomeno opportuna. Tuttavia, questa mossa è quanto mai scorretta, proprio per via di quella fortuna semantica di cui abbiamo parlato in precedenza. Parlare di determinazione, infatti, richiede l’adozione di un qualche criterio di verità. In questa sede ci siamo limitati a dare per scontato un criterio di verità rappresentazionale, cioè basato sull’idea che la funzione del linguaggio sia quella di rappresentare il mondo e che il contenuto dei giudizi sia la rappresentazione di porzioni di mondo – i cosiddetti fatti. Se per l’Intelligenza Artificiale la rappresentazione dei fatti è possibile solo casualmente – cioè in contesti fortunati – ne segue che da parte loro non sarà possibile la determinazione di alcunché, se non di distribuzione statistiche, che tuttavia saranno relative non al mondo in quanto tale ma al prossimo token da dare in risposta al prompt dell’utente.

Avendo parlato anche del pensiero di Robert Brandom, tuttavia, vale la pena considerare anche l’alternativa che lui offre al rappresentazionalismo. La corrente cui egli ha dato vita è detta inferenzialismo normativista: dove “inferenzialismo” sta per l’idea che il significato di un espressione linguistica si trova nelle relazioni inferenziali stabilità tra essa e altre espressioni – ad esempio, se la bandiera è rossa, allora possiamo inferire che la bandiera sia colorata – e “normativista” sta per l’idea che il contenuto di un giudizio è restituito nei termini già menzionati di una regola che rende il parlante responsabile di quel che dice nei confronti degli altri. Allora, se sul piano semantico l’Intelligenza Artificiale gode al massimo di una buona dose di fortuna, dobbiamo concludere che anche la sua capacità di rispettare le regole sarà soggetta al caso. Di conseguenza, anche se fossimo portati a dire che essa sia a buon diritto un essere discorsivo, difficilmente potremmo concludere che sia un essere discorsivo responsabile.

Ad ogni modo, l’Intelligenza Artificiale rimane uno strumento e non sarà mai inserita nei processi dialettici in cui è inserito l’essere umano (anche e soprattutto in quanto essere discorsivo): da una parte, non essendo un membro di una società, non è la risultante di processi sociali – non come soggetto, ma solo come strumento creato da chi invece è inserito in un contesto sociale; dall’altra parte, forse è possibile dire che anche l’Intelligenza Artificiale segue un processo dialettico, ma solo nella misura in cui questo riguardi la dimensione linguistica, di carattere puramente verbale e non concettuale, nella forma in cui è per essa possibile modificare pesi e distribuzioni statistiche nella sintesi, di volta in volta basata sui pesi e sulle distribuzioni precedenti.

Una tale analogia risulterebbe corretta solamente nel caso in cui fosse corretta l’associazione di proprietà mentali umane a una macchina; associazione che troviamo discussa nell’ambito della filosofia analitica della mente, ma che troviamo anche nel lessico proprio dell’informatica. La dialettica, infatti, ha bisogno della capacità di ricordare, cioè della memoria: come sappiamo, tanto è importante la memoria per un computer, che se ne parla addirittura in due termini, la RAM e la memoria di archiviazione. Tuttavia, questa associazione è legittima nella misura in cui il riferimento alle capacità della macchina è possibile soltanto traendo spunto da quanto noto, cioè dalle capacità degli esseri umani.

Bisogna infatti tenere a mente che anche soltanto la memoria – quella umana – ha bisogno delle capacità di pensare e interpretare il suo contenuto, che autori come Hilary Putnam[34] hanno provato ad associare anche alle macchine, ma che già Alan Turing[35] aveva riconosciuto come problematiche, nel contesto del già citato Test di Turing. È infatti egli stesso a mettere da parte la domanda originaria, se le macchine siano capaci di pensare, ponendo il problema della somiglianza tra macchine e umani sotto la forma dell’indistinguibilità del loro comportamento linguistico.

Potremmo concludere questa parte affermando che, anche se l’Intelligenza Artificiale fosse capace di seguire processi dialettici, essendo essa essenzialmente un predittore di token, dovremmo inferire che tali processi riguardano solamente relazioni tra token, (s)cadendo così nel solipsismo linguistico.

Tuttavia, qualcuno potrebbe replicare che le obiezioni mosse nelle pagine precedenti dipingono l’Intelligenza Artificiale in maniera tanto negativa da rendere incomprensibile il motivo per cui questa viene utilizzata in così tanti ambiti, compreso quello bellico. Il punto di vista di questo articolo, infatti, non è affermare che l’Intelligenza Artificiale non funzioni, quanto porre sotto esame alcune sue caratteristiche fondamentali, tra le quali spicca il fatto che il suo essere basata sui dati non le permette di produrre niente di nuovo: produrrà sempre qualcosa di fondamentalmente riconducibile ai dati. Il fatto che vi sia un calcolo statistico complesso non implica in alcun modo che i concetti cambino contenuto e che il significato delle espressioni linguistiche utilizzate dall’Intelligenza Artificiale si rinnovi. D’altronde, la somma dei dati raccolti in ogni istante di tempo passato non può corrispondere all’identità degli eventi futuri e questa è una tautologia.

Potremmo anche leggere quanto fatto dall’Intelligenza Artificiale con il formalismo logico, secondo il quale i processi di applicazione dei modelli statistici ai dati sarebbero manipolazioni di simboli. Questo significa che, a partire dal dato, l’applicazione di funzioni matematiche – d’altronde questo fa il modello – non è altro che un atto di manipolazione di simboli e una siffatta manipolazione ha solo il potere di produrre tautologie: d’altronde, tutte le proposizioni matematiche sono tautologie.

Il problema è che l’Intelligenza Artificiale viene sempre più utilizzata negli ambienti che più godono dell’uso massiccio della statistica, dagli ambienti di ricerca fino al commercio. Sebbene il suo utilizzo non debba essere demonizzato, da quanto abbiamo detto bisogna concludere che se dal suo utilizzo scaturisce un cambiamento vero di prospettiva, una rivoluzione di qualche tipo, lo si deve soltanto alla capacità umana della risemantizzazione, come insegna Khun: cioè, la capacità di fornire un significato diverso a quanto prima categorizzato con gli schemi che nella rivoluzione stiamo superando. Ecco, questo non può dipendere dai dati.

 

Conclusione: il Mistico

Contrariamente a quanto affermato dal Pontefice, l’Intelligenza Artificiale non è alcunché di indefinibile. Abbiamo visto, infatti, che si tratta di un predittore linguistico e di un produttore di testo, immagini e file di altro genere. È senza dubbio uno strumento molto potente, e altrettanto senza ombra di dubbio non impossibile da definire. Al contrario, le sue fondamenta sono ben chiare e ciò che emerge da esse, sebbene non determinabile a priori, sappiamo benissimo dipendere dai dati.

Affermare che questo strumento non sia conoscibile nemmeno da coloro i quali sono preposti alla creazione delle sue fondamenta è un atto di mistificazione utile soltanto a porre le grandi aziende di informatica – come OpenAI, Google, Anthropic, Palantir, eccetera – su un piano epistemico dubbio, in cui loro si trovano a creare qualcosa che non conoscono, di cui non sanno dare una definizione. Se ciò fosse vero, saremmo di fronte a una massa enorme di idioti, che fanno economia attirando quantità colossali di capitale per produrre qualcosa di cui non sanno dire le proprietà costitutive. Ciò è assurdo da ogni punto di vista, primo tra cui, ovviamente, quello economico.

Certo, il Pontefice cerca di giustificarsi dicendo che un’intelligenza artificiale – un modello specifico, con le sue caratteristiche specifiche – non è creata direttamente dagli esseri umani, ma “cresce” sulla base dell’architettura atta a imparare dai dati, che è invece il vero oggetto della produzione umana. Ma, sebbene ciò sia vero, non è sufficiente a giustificare la non conoscibilità dell’Intelligenza Artificiale – intesa in termini generali: infatti, sappiamo benissimo a cosa serve l’Intelligenza Artificiale e, di conseguenza, ogni singolo modello, sebbene non sia possibile inferire le proprietà specifiche di quest’ultimo a partire dalla prima.

L’atto del Pontefice, di conseguenza, è mistificatorio: di fronte a uno strumento così potente e di fronte all’ascesa al potere di aziende che promuovono una tecnocrazia fatta e compiuta[36], dire che l’Intelligenza Artificiale non è conoscibile è solamente funzionale alla non attribuzione di responsabilità alle aziende che la producono, contrariamente a quanto sembrerebbe di fronte al richiamo della Dottrina Sociale della Chiesa Cattolica, nucleo fondante della recente Enciclica.

Di fronte al Mistico, infatti, vale sempre la settima proposizione del Tractatus di Wittgenstein, secondo il quale “di ciò, di cui non si può parlare, si deve tacere”. La conclusione, quindi, è che si dovrebbe tacere rispetto all’Intelligenza Artificiale, cioè bisognerebbe smettere di esprimere giudizi su di essa. Ma una mossa del genere significherebbe l’impossibilità di collocare l’Intelligenza Artificiale all’interno di quello che Wilfrid Sellars chiamava “spazio delle ragioni”, cioè lo spazio logico all’interno del quale i concetti vengono posti in relazione gli uni con gli altri, stabilendo le corrette relazioni inferenziali: quelle stesse relazioni che servono poi al giudizio pratico, cioè a decidere il da farsi, cioè alla prassi.

In conclusione, possiamo inferire che il Pontefice dichiara che il Verbo si fa carne, cioè che il Vero si fa mondano, scendendo dall’Iperuranio del divino, ma ovviamente non riesce a fare il passo ulteriore di stabilire la prassi come criterio di verità. Da una parte, non c’è da stupirsi che la Chiesa Cattolica difenda una visione siffatta della verità; dall’altra bisogna riconoscere il ruolo costitutivo del Mistico nell’analisi del ruolo dell’Intelligenza Artificiale e, soprattutto, nella Dottrina Sociale della Chiesa Cattolica: senza prassi non c’è liberazione delle classi subalterne ed è chiaro che non sia questo l’obiettivo attuale della Chiesa.

Notevole, altresì, è che un tale atto di mistificazione avvenga proprio in tempo di guerra[37]. Il Mistico wittgensteiniano emergeva tra le trincee della Grande Guerra, così come l’ermetismo ungarettiano. E, se il bisogno della brevità allora si univa al riconoscimento del fatto non banale che certe cose non si possano dire – ad esempio, ciò che eccede la logica (ovviamente, secondo Wittgenstein) – qua è evidente che la brevità sia concettuale e che il non detto sia funzionale a scavare trincee epistemiche; almeno fintanto che non vengano scavate di nuovo fisicamente.

 

Note

[1] Leone XIV, Magnifica Humanitas, Libreria Editrice Vaticana, 2026; p. 105.

[2] ibid.

[3] ibid. La stessa osservazione è stata fatta da Adriano Fabris, “Can We Trust Machines? The Role of Trust in Technological Environments”, Studies in Applied Philosophy, Epistemology and Rational Ethics, Springer, 2020; §3.

[4] Per quanto riguarda il tema della verità: cap. 4; per quanto riguarda il tema della dottrina sociale: cap. 1.

[5] Leone XIII, Rerum Novarum, 1891.

[6] Leone XIV, op. cit., §30.

[7] Leone XIII, op. cit., §4.

[8] ibid.

[9] ivi, §29.

[10] Leone XIV, op. cit., p. 215.

[11] ivi, p. 217.

[12] K. Marx, Tesi su Feuerbach, Tesi II e VIII.

[13] Questo caso è tratto da D. Pritchard, Epistemic Luck, Clarendon Press, Oxford, 2005. Il tema ha origine in Gettier, Edmund, “Is Justified True Belief Knowledge?”, Analysis 23: 121-3, 1963.

[14] La documentazione tecnica di Palantir riporta l’elenco i LLM supportati: https://www.palantir.com/docs/foundry/aip/supported-llms.

[15] L. Wittgenstein, Tractatus logico-philosophicus, Einaudi, 2009; §§ 5.6 e ssg.

[16] P. Salis, Pratiche discorsive razionali, Mimesis, 2016; p. 63.

[17] ibid.

[18] G. W. F. Hegel, La fenomenologia dello spirito, Einaudi, 2008; p. 57.

[19] ivi, p. 58.

[20] W. Sellars, Empiricism and the Philosophy of Mind, Harvard University Press, 1956/1997.

[21] T. Khun, The Structure of the Scientific Revolutions, Chicago University Press, 1962.

[22] G. Evans, The Varieties of Reference, Clarendon Press, Oxford, 1982; p. 76.

[23] S. Kripke, Naming and Necessity, Blackwell, 1972/1980.

[24] V. Vološinov, Marxism and the philosophy of language, Seminar Press, 1973; p. 19.

[25] L. Wittgenstein, Ricerche Filosofiche, Einaudi, 2009; §23.

[26] S. Garroni, Dialettica e Socialità, Bulzoni Editore, 2000; p. 29.

[27] Una lettura semantica della dialettica, in linea con quanto qui discusso, si ha in R. Brandom, A Spirit of Trust, Belknap & Harvard Press, 2019; cfr. p. 611.

[28] S. Garroni, op. cit., p. 103.

[29] J. R. Taylor, Linguistic Categorization, Oxford University Press, 1989.

[30] Sulla stretta relazione tra logica fuzzy e Intelligenza Artificiale, cfr. C. Elkan et al., “The paradoxical success of fuzzy logic”, IEEE Expert, vol. 9, no. 4, pp. 3-49, 1994.

[31] J. Sadowski, “When data is capital: Datafication, accumulation, and extraction”, Big Data & Society, 6(1), 2019; p. 2. L’articolo, tuttavia, cita un video della IBM non più disponibile su Youtube.

[32] R. Brandom, op. cit.; p. 13-14.

[33] Qui tra virgolette per distinguere questa parola da “contenuto” usato in riferimento al concettuale.

[34] H. Putnam, “The Mental Life of Some Machines”, Mind, Language and Reality, Cambridge University Press, 1975.

[35] A. Turing, “Computing machinery and intelligence”, Mind, Vol. 59, n. 236, 1950.

[36] A. C. Karp, N. W. Zamiska, The Technological Republic, Crown Currency, 2025.

[37] Chi scrive è ormai dell’idea che si possa mettere da parte l’idea che la guerra abbia ancora da venire. Siamo nel bel mezzo della Terza Guerra Mondiale, ormai da molto tempo.