Rivista Orione

May 16, 2023

VIVIAMO IN UN'ERA della tecnologia indistinguibile dalla magia, soprattutto nel regno delle macchine pensanti. Tra gli altri compiti, puoi chiedere a ChatGPT, uno dei modelli di linguaggio generativo di deep learning più avanzati al mondo, di difendere una posizione come "La fantascienza è solo un altro tipo di fiaba", di spiegare l'algoritmo di Quicksort usando un episodio di My Little Pony, per insegnarti a diventare un maestro di scacchi utilizzando una serie di haiku, a scrivere versi nello stile della Bibbia di Re Giacomo su vari argomenti e, ovviamente, se vuoi essere noioso, a scrivere tesine universitarie.

Ora ci sono aziende che si dedicano ad aiutare i consulenti ad acquisire l'apparenza di competenza pubblicando libri di istruzioni scritti su "macchine fantasma" - in gran parte reimmettendo in se stessa i risultati dell'intelligenza artificiale (AI). (Questo modello ricorsivo è necessario perché l’intelligenza artificiale attualmente soffre dell’incapacità di ricordare il contesto di una lunga conversazione, un po’ come il leggendario pesce rosso con una memoria di tre secondi.)

Di fronte all'avvento di cervelli meccanici così potenti, le previsioni disastrose proliferano come i topi di Hamelin. Le cassandre piangono sull’obsolescenza del lavoro dei colletti bianchi, evocano visioni di robot che sostituiscono gli scrittori, avvertono che i computer ci inganneranno con la loro produttività infinita e senza sforzo. Scompariremo come Merlino che sprofonda nel cespuglio di biancospino mentre Nimue legge il suo libro di incantesimi. L'Autore sta per morire.

Non sono né qualificato né interessato a discutere del futuro del lavoro d'ufficio, del contributo dell'intelligenza artificiale al PIL o della svalutazione dell'"Arte", comunque definita. Come narratore mi interessa solo una cosa: che tipo di storie possono raccontare le macchine?

Gli scrittori si relazionano da tempo con la tecnologia utilizzando la logica delle fiabe. Ma per pura riferibilità al momento presente, nulla corrisponde alla macchina per scrivere libri che si trova ne I viaggi di Gulliver di Jonathan Swift.

Gulliver incontra questo meraviglioso motore di disegno a Lagado, la capitale di Balnibarbi. Il motore è costituito da un grande telaio quadrato con una sottile griglia di dadi che possono essere fatti girare liberamente tramite manovelle fissate ai lati. I dadi sono ricoperti di parole della lingua balnibarbana, distribuite senza alcun ordine apparente. Il valente professore che ha inventato questa macchina dà a Gulliver una dimostrazione:

Gli alunni, al suo comando, afferrarono ciascuno un manico di ferro, di cui quaranta erano fissati attorno ai bordi del telaio; e dando loro una svolta improvvisa, l'intera disposizione delle parole fu completamente cambiata. Poi ordinò a trentasei ragazzi di leggere sottovoce le diverse righe, come apparivano sulla cornice; e dove trovavano tre o quattro parole insieme che potevano far parte di una frase, le dettavano ai quattro ragazzi rimasti, che erano scribi.

In questo modo, secondo il professore (e anticipando di secoli Jasper.ai), "la persona più ignorante, con una spesa ragionevole e con un po' di lavoro fisico, potrebbe scrivere libri di filosofia, poesia, politica, diritto, matematica, e teologia, senza il minimo aiuto del genio o dello studio."

Quando si approfondisce, c'è poco che separa il motore di scrittura di Lagado dalle reti neurali di deep learning di oggi. Certo, i calcoli sono un po' più avanzati e l'attrezzatura più elaborata, ma fondamentalmente, i modelli di intelligenza artificiale come GPT-3 o LaMDA sono solo ingranaggi e manovelle che fanno girare un mucchio di dadi - dadi attentamente ponderati, per essere sicuri - per generare suono dadaista e furia che sembra avere senso attraverso il nostro pensiero magico.

I pesi di questi dadi moderni sono calibrati, in un processo matematico rigoroso e autocorrettivo basato su molti (e intendo molti) esempi di origine umana ("addestramento"), per produrre risultati che copiano il più fedelmente possibile il tipo di testo che il modello intende produrre (articoli di giornali locali, storie d'amore, post su forum Internet, ecc., o semplicemente "esseri umani che scrivono su Internet"). Proprio come nessuno "crede" che una penna automatica che copia fedelmente la firma di Bob Dylan sia in realtà Bob Dylan, nessuno pensa che le reti neurali che postano su 4chan o inviano spam ad Amazon con opuscoli di saggistica o compongono versetti biblici ispirati ai Monty Python "sanno" o "capiscono" cosa stanno facendo. L’apprendimento automatico dei big data è essenzialmente un’implementazione letterale del gioco di imitazione di Turing: copiare i segni dell’intelligenza senza alcun interesse per il significato.