Teoria e pratica dei valori nell'intelligenza artificiale

Introduzione

In occidente il protagonismo più evidente dell'IA è quello genocidario. In oriente ci sono altri progetti. E questa differenza di sfumatura riecheggia nell'ambito culturale. Ma il punto non è stabilire quale dei due sia più umano: è che in entrambi i casi l'IA è uno strumento di supervisione politica, e la filosofia dell'IA è il modo in cui ciascun sistema gestisce e rende presentabile ciò che quella supervisione produce. L'Occidente non mette in discussione l'uso dell'IA nel targeting: lo tratta come un problema di accuratezza. È questo che intendo per 'rendere presentabile'. Il dibattito filosofico sull'IA è spesso presentato come una contrapposizione tra un Occidente ossessionato dal rischio esistenziale e un Oriente più pragmatico. In realtà, sia in Occidente che in Cina, la filosofia dell'IA è oggi un campo di battaglia multi-dimensionale che coinvolge ontologia, epistemologia, etica e politica. Le differenze non stanno nell'oggetto del dibattito, ma nel lessico e nelle priorità: in Occidente l'allineamento è presentato come problema tecnico (sicurezza, accuratezza, rischio esistenziale); in Cina è trattato esplicitamente come problema politico (governance, responsabilità, coesistenza). Sono due declinazioni dello stesso problema.

Quella che segue è una mappa delle principali correnti. Il simposio dell'Università Renmin, riportato più sotto, è un esempio di questa differenza: lì l'allineamento non è presentato come un problema di accuratezza tecnica, ma come una questione di governance, responsabilità e coesistenza.

Il dibattito più antico e ancora più fondamentale sulla direzione della ricerca sull'intelligenza artificiale riguarda le scuole tecniche: da "Simboli" a "Dati" 1

1. Simbolismo vs. Connessionismo

Come si costruisce l'intelligenza? Con simboli e regole (razionalismo, GOFAI) o con reti neurali e dati (empirismo, deep learning)?

Non è un dibattito su come si costruisce l'intelligenza, ma su chi deve poterla controllare.

Il SIMBOLISMO produce sistemi leggibili: regole esplicite, decisioni tracciabili, responsabilità attribuibili.

Il CONNESSIONISMO produce sistemi opachi: pesi distribuiti, output statistici, nessuna regola ispezionabile. 

La scelta tra i due non è solo una scelta epistemica, è anche, e soprattutto, una scelta politica: un sistema leggibile è controllabile dall'esterno (dallo Stato, dal diritto, dal cittadino); un sistema opaco è controllabile solo da chi lo addestra. Il passaggio storico dal simbolismo al connessionismo, presentato come progresso tecnico, è un passaggio di potere: dalla supervisione pubblica alla supervisione privata.

Una controversia più recente riguarda l'essenza dell'intelligenza stessa, che determina direttamente la direzione della ricerca: Realismo vs. Pluralismo. 2

2. Realismo vs. Pluralismo dell'intelligenza

L'intelligenza è una capacità universale unica, misurabile, il cui rischio principale è la superintelligenza (realismo), oppure è multiforme e dipendente dal contesto, non riducibile a un indice unico, con minacce diversificate che richiedono soluzioni differenziate (pluralismo)?

Non è un dibattito su cosa è l'intelligenza, ma su chi ha il diritto di definirla e misurarla. Il realismo produce una metrica universale — benchmark, test, indici — e chi controlla la metrica controlla la gerarchia tra i sistemi, e quindi tra le nazioni che li producono. Il pluralismo rifiuta la metrica unica, ma così facendo rinuncia a un metro universale: la comparazione resta possibile, ma solo all'interno di ogni contesto, e nessun contesto può erigersi a misura di tutti gli altri. Il pluralismo è più ricco di comparazioni e più povero di criteri per decidere tra esse — ed è per questo che, in politica, tende a perdere contro il realismo. In entrambi i casi la posta non è la natura dell'intelligenza: è chi decide quali intelligenze contano e quali restano fuori dal conteggio.

Il punto politico è che il realismo e il pluralismo non sono due teorie neutrali, ma due strategie di potenza:

• Il realismo conviene a chi è già in testa: se esiste una sola scala, chi sta più in alto sulla scala ha diritto di guidare gli altri. La "superintelligenza" è il nome tecnico di questa gerarchia naturale, e l'"allineamento universale" è il nome tecnico del diritto di chi è più avanti di vincolare chi viene dopo.

• Il pluralismo conviene a chi non vuole essere misurato sulla scala di un altro: se non esiste una scala unica, nessuno può dire chi è "più avanti". Ma il pluralismo ha un costo: rinunciando alla misura unica, rinuncia alla possibilità di decidere una gerarchia vincolante per tutti. È la posizione di chi non ha ancora vinto, e non vuole che la partita si giochi su un solo tavolo.

Da qui la differenza nelle "minacce": il realismo vede un solo rischio (la superintelligenza fuori controllo) e una sola soluzione (l'allineamento universale); il pluralismo vede molti rischi (bias, dipendenza, colonizzazione algoritmica) e nessuna soluzione unica. Non è una differenza di analisi: è una differenza di posizione nella partita.

C'è però una differenza interna al pluralismo: quello occidentale (Gardner) pluralizza le capacità dentro un soggetto unico; quello cinese (Zhao Tingyang) pluralizza i mondi semiotici tra cui nessun soggetto unico può fungere da metro. È una differenza che pesa, e che il simposio Renmin mostra in azione. 

Poi esistono le critiche filosofiche all'IA che sono solitamente governate da due principali paradigmi, e attualmente c'è chi cerca di superarli: da Sorveglianza a Ecologia. 3

3. Foucault / Heidegger / Ecologia dell'intelligenza

Tre modi di criticare l'IA: come dispositivo di sorveglianza (Foucault), come riduzione del mondo a calcolo (Heidegger), come relazione da ripensare fuori dall'antropocentrismo (Deleuze, ecologia dell'intelligenza).

Le tre critiche non sono equivalenti, e la loro gerarchia è politica.

• Foucault descrive il potere, ma resta dentro il potere. Mostra come funziona la sorveglianza, come si distribuisce lo sguardo, come si interiorizza il controllo — ma non indica un fuori. La sua critica è compatibile con il potere perché lo rende leggibile senza renderlo vulnerabile. Anzi: un potere che sa di essere descritto è un potere più efficiente, perché può correggere i propri punti ciechi.

• Heidegger rifiuta il potere tecnico, ma il rifiuto è contemplativo. La sua critica della tecnica come "calcolo" e della riduzione dell'uomo a "riserva" è radicale, ma non propone un'alternativa praticabile. È una critica che il potere può permettersi: non tocca le infrastrutture, non modifica gli incentivi, non cambia chi decide. È inutile al potere, e per questo innocua.

• L'ecologia dell'intelligenza propone un'altra relazione, ma è la più fragile. Immagina un rapporto con i sistemi intelligenti che rispetti l'alterità, che abbandoni l'antropocentrismo, che non riduca l'altro a strumento. È la critica più ambiziosa — e la meno finanziata, perché è l'unica che chiede di cambiare le pratiche, non solo di interpretarle.

In altre parole: la critica che descrive è compatibile con il potere; la critica che rifiuta è inutile al potere; la critica che propone è pericolosa per il potere. E la gerarchia del finanziamento accademico segue esattamente questo ordine.

Il punto politico. Le tre critiche non si distribuiscono a caso: Foucault e Heidegger sono diventati canonici proprio perché non chiedono di decidere. Forniscono un vocabolario per parlare del potere senza doverne esercitare uno alternativo. L'ecologia dell'intelligenza, invece, chiede di scegliere — e per questo resta marginale. Non è una questione di profondità filosofica: è una questione di compatibilità con l'ordine esistente.

La sequenza "sorveglianza → ecologia" non è una progressione: è una ritirata. Si passa dalla descrizione del potere alla sua messa in parentesi, e la messa in parentesi è la forma più elegante di resa.

La controversia più intensa si combatte però nel campo della contesa etica e sulle direzioni di sviluppo dell'IA: Accelerazionismo vs. Allineamento.4

4. Accelerazionismo vs. Allineamento

Massimizzare lo sviluppo dell'IA per portare la civiltà a un livello superiore (accelerazionismo efficace), oppure procedere con prudenza, prevenendo i rischi e garantendo che gli obiettivi dell'IA restino allineati ai valori umani (allineamento / altruismo efficace)?

Non è un dibattito su quanto sviluppo, ma su chi controlla la velocità.

• L'accelerazionismo vuole che nessuno possa fermare lo sviluppo: è la posizione di chi ha già il vantaggio e non vuole essere regolato. La "velocità" non è un valore tecnico, è una posizione strategica: chi è avanti ha interesse a che la partita non si fermi, perché ogni pausa è un'occasione per chi è indietro di recuperare. L'accelerazionismo è la richiesta di chi teme la regolazione più della catastrofe.

• L'allineamento vuole che lo sviluppo proceda solo se controllabile: è la posizione di chi vuole mantenere il controllo su chi sviluppa. Presentato come sicurezza, l'allineamento è in realtà la forma più sofisticata di supervisione: non controlla l'IA, controlla chi la sviluppa. Stabilire quali valori sono "umani" e come codificarli significa stabilire chi è dentro e chi è fuori dalla categoria di "umano" che conta.

Il punto politico. Il "valore umano" a cui allineare non è un dato, è una posta in gioco. Chi definisce i valori a cui l'IA deve essere allineata definisce anche:

*quali culture sono rappresentate e quali no;

*quali lingue sono "valori" e quali sono "bias";

*quali usi sono "sicuri" e quali sono "rischio esistenziale";

*chi ha il diritto di decidere tutto questo, e con quale autorità.

In entrambi gli schieramenti, la domanda reale non è "come rendere l'IA sicura", ma "chi decide cosa è sicuro". E la risposta, in entrambi i casi, è: chi già controlla le infrastrutture, i dati, i modelli e i benchmark.

Qui l'Occidente presenta l'allineamento come problema tecnico (sicurezza, accuratezza, rischio esistenziale) — ed è esattamente il "rendere presentabile" già menzionato in apertura: si sposta la questione dal piano politico (chi decide i valori) al piano tecnico (come implementarli). Il simposio Renmin, che segue, mostra la stessa questione trattata esplicitamente come politica: governance, responsabilità, coesistenza, colonizzazione algoritmica, egemonia culturale. Non è che la Cina non discuta di allineamento: è che lì l'allineamento non viene presentato come neutro.

Ma c'è una domanda più fondamentale che attraversa tutte le correnti: l'IA può avere una coscienza? 5

5. Funzionalismo vs. Biologismo (coscienza)

La coscienza dipende dalla materia biologica (biologismo) o dalla funzione, indipendentemente dal substrato (funzionalismo)? 

Searle e Dreyfus, con la stanza cinese e la critica dell'expertise, mettono in dubbio che l'IA possa comprendere davvero il significato e avere un'esperienza soggettiva.

Non è un dibattito su se l'IA può pensare, ma su chi ha diritto di essere soggetto.

• Se la coscienza è funzione, allora un sistema sufficientemente complesso è un soggetto, con diritti e responsabilità. Riconoscere l'IA come soggetto significa attribuirle responsabilità — e quindi scaricare su di essa colpe che sono di chi la usa. Una macchina responsabile è una macchina che assorbe la responsabilità.

• Se la coscienza è materia biologica, allora nessuna macchina lo sarà mai, e la soggettività resta un privilegio umano. Questo mantiene la responsabilità interamente umana — e quindi esigibile. Ma significa anche che l'IA non potrà mai essere un interlocutore morale: resta uno strumento, per quanto potente.

Il punto politico. La posta non è metafisica: è giuridica e politica. La domanda "l'IA è un soggetto?" si traduce immediatamente in:

*chi risponde se l'IA sbaglia;

*chi ha diritto di parlare a nome dell'IA;

*chi può rivendicare i diritti che l'IA produce (proprietà intellettuale, dati, decisioni);

*se l'IA può essere testimone, contraente, o parte in causa.

Searle e Dreyfus, con la stanza cinese, non difendono solo una tesi sulla comprensione: difendono la soglia oltre la quale il potere non può delegare la responsabilità a una macchina. È una difesa nobile, ma ha un effetto politico preciso: mantiene il soggetto umano come unico titolare di responsabilità, e quindi come unico interlocutore del potere. Il funzionalismo, all'opposto, apre la porta a soggetti non umani — e quindi a un potere che non deve più rispondere a un soggetto umano.

In questa sezione, il "rendere presentabile" opera in modo diverso: non si sposta la questione dal politico al tecnico, ma dal politico al metafisico. Si discute di "coscienza", "comprensione", "esperienza soggettiva" — categorie che sembrano eterne e neutrali, ma che servono a decidere chi è soggetto e chi no. E decidere chi è soggetto è la decisione politica per eccellenza.

[Scritto un anno dopo il simposio, questo testo ne riprende le questioni e le inquadra nella mappa che segue - Gabriella Grasso - settembre 2026]