Il 29 marzo OpenAI , l’azienda californiana che ha sviluppato ChatGPT, ha annunciato che sta facendo sperimentare a un ristretto numero di persone Voice Engine , un nuovo sistema di sintesi vocale in grado di riprodurre la voce di una persona che parla, con toni e cadenze estremamente realistici e in lingue diverse, a partire da un processo di addestramento basato su pochi secondi di registrazione di quella persona che parla (https://openai.com/blog/navigating-the-challenges-and-opportunities-of-synthetic-voices – questa pagina contiene vari esempi interessanti di tracce audio generate da Voice Engine). Potrà dunque accadere che una persona ascolti una voce praticamente indistinguibile dalla sua pronunciare frasi che lei o lui non aveva mai pronunciato. Il Sole 24 Ore ha già dato la notizia di questa ulteriore evoluzione dell’intelligenza artificiale, cogliendone la potenziale rilevanza sociale, in termini, come ormai siamo abituati, sia di benefici sia di rischi. Questo genere di tecnologia di intelligenza artificiale generativa ha a che vedere fondamentalmente con la relazione tra entità originali e copie, ed è a questo riguardo che proponiamo qui una prima riflessione in una prospettiva culturale.
In uno dei suoi passi più discussi circa la posizione da prendere nei confronti dell’arte, Platone ci avverte dell’importanza di evitare di costruire, o basare, le nostre opinioni su quelli che lui chiama “i prodotti delle arti imitative”. E questo è quello che conclude:
"Ebbene, la mia impressione è che tutte queste opere siano una rovina per il pensiero di tutti coloro che prestano loro ascolto e che non hanno in loro come antidoto la conoscenza di ciò che tali cose veramente sono."
Il problema a cui Platone allude è che per esempio ciò che un poeta o uno scrittore di romanzi produce è l’imitazione di cose o eventi che accadono nel mondo concreto, ossia – sempre secondo Platone – l’imitazione di una imitazione, perché ciò che accade nel mondo concreto è esso stesso solo l’imitazione di ciò che realmente è: le idee che eternamente esistono. Così, se raccontiamo una storia il cui protagonista agisce in modo giusto, ciò che stiamo facendo è di imitare, nel racconto, l’agire giusto di un uomo che, a sua volta, è giusto in quanto imitazione dell’idea di giustizia che esiste in se stessa.
Con ciò, Platone ci ha messo in guardia contro “l’arte imitativa” come strumento di conoscenza: se vogliamo conoscere davvero – è come se ci dicesse – è necessario avere un accesso diretto alle cose da conoscere. Le imitazioni, per quanto possibilmente di buona qualità, non sono sufficienti. Ma imitare una cosa significa produrre, in un certo modo, una sua copia, e questo ci immerge nell’argomento da cui siamo partiti: la riproduzione della voce di persone.
Come sappiamo, non c’è un unico modo per produrre una copia di qualcosa, poiché in tale produzione occorre, innanzitutto, identificare i tratti distintivi di ciò che intendiamo copiare. In un certo senso, possiamo copiare qualsiasi cosa, in modo più o meno fedele, a seconda dei tratti che abbiamo selezionato, purché la copia sia sufficientemente simile a ciò che copiamo rispetto a questi tratti. Ci sono così copie schematiche e grezze, che riproducono qualcosa relativamente a solo pochi suoi tratti salienti, e copie molto fedeli, che possono apparirci praticamente indistinguibili dall’entità di partenza, fino a diventarne dei cloni.
Nel caso di entità progettate, e prodotte in modo tale che ciò di cui sono fatte non è essenziale alla loro identità, se ciascuna copia è identica a ogni altra rispetto alla relazione che ha con il progetto in base al quale è stata prodotta, la distinzione tra copia e originale si può annullare. È quello che accade per il software, che è clonabile in pratica senza limiti, ma anche nel caso di molti prodotti materiali industriali: di un modello di automobile c’è cronologicamente un primo esemplare prodotto, ma esso non è l’originale di cui gli esemplari successivi sono copie. In queste situazioni la buona, e al limite la perfetta, copiabilità (ciò che in certi contesti si chiama “replicabilità”) non è un problema, e anzi è un obiettivo a cui ha senso tendere.
Al contrario, ci sono situazioni in cui c’è un originale, che almeno di principio rimane distinto dalle sue copie, per quanto fedeli possano essere. Questo è il caso per noi più interessante: quello di copie prodotte per imitare un originale, includendo o meno il supporto materiale dell’originale stesso, quando l’originale è un qualcosa che usiamo per comunicare, come un testo scritto o un discorso. Certamente, non ci stupiamo del fatto che un testo scritto possa essere riprodotto, su un supporto identico o differente, o che uno stesso discorso possa essere pronunciato più volte, dalla stessa persona o da persone differenti. Tuttavia, a seconda del tipo di testo o di discorso che consideriamo, il valore di una sua copia può cambiare radicalmente. La prima edizione manoscritta di un testo (per altro un genere di entità sempre meno diffuso, dato l’uso prevalente dei sistemi digitali per scrivere) può avere un notevole valore, che generalmente non viene trasmesso alle sue copie. Allo stesso modo, un discorso pronunciato per la prima volta in una determinata occasione è tale che le sue copie sono tipicamente soltanto citazioni del discorso originale – pensiamo al discorso di Pericle agli Ateniesi sulla democrazia riferito da Tucidide o al discorso “I have a dream” di Martin Luther King . Ci sono perciò sia testi e copie di testi con lo stesso valore, sia originali che hanno un valore che non può essere ereditato dalle loro copie. Ci sono, infine, testi il cui valore dipende dal fatto che sono stati pronunciati da una specifica persona: perché testimoniano un’esperienza da essa vissuta, a cui la persona ha un accesso privilegiato e autorevole; o perché comunicano il pensiero di una persona ritenuta autorevole in un determinato ambito.
È a questo proposito che un sistema come Voice Engine può avere un impatto imponente. Infatti, la novità cruciale di uno strumento di questo genere è che è in grado di imitare non solo dei prodotti, come i discorsi che pronunciamo, ma anche, e prima ancora, i tratti distintivi del mezzo che utilizziamo per pronunciare discorsi: la nostra voce.
È a questo punto che l’avvertimento di Platone diventa importante: le imitazioni dei poeti sono imitazioni di imitazioni delle idee, non basate sulle idee stesse, pur dando l’impressione di esserlo, e ciò a prescindere dal fatto che presentino correttamente o deformino le idee. In modo analogo, le imitazioni delle espressioni del pensiero di una persona, ossia i discorsi prodotti da uno strumento come Voice Engine, possono non essere basate sul pensiero della persona, pur dando l’impressione di esserlo, e ciò a prescindere dal fatto che esprimano correttamente o deformino ciò che la persona pensa effettivamente.
Non è nostra intenzione di andare qui più a fondo nell’analisi dei rischi che la diffusione sociale di questa tecnologia potrebbe generare, peraltro segnalati da OpenAI stessa quando scrive per esempio che “we encourage steps like [...] phasing out voice based authentication as a security measure for accessing bank accounts and other sensitive information”. Vogliamo solo identificare e segnalare la novità essenziale che abbiamo di fronte: uno strumento che è in grado di copiare, insieme ai prodotti, il mezzo stesso di produzione, e perciò di imitare, oltre a contenuti, il mezzo di espressione proprio di noi esseri umani, lo stile proprio di questo mezzo, e con questo anche il valore percepito di un discorso derivante dal suo essere pronunciato da un particolare persona.
