Fare un fuoco: I romanzi del futuro saranno scritti da un’Intelligenza Artificiale?

Ti chiedo un consiglio. Con un gruppo di persone stiamo facendo un podcast su una rivista

culturale che per fortuna sta raccogliendo intorno a sé una piccola comunità di affezionati.

Ci teniamo molto, lo trovi su lusisulacultura.com, si chiama fare un fuoco e prova a raccontare

come le storie accendono la nostra immaginazione. La domanda a chi ora vorrei farti è quale

argomenti credi dovremo affrontare nelle prossime puntate.

Complimenti per il podcast e il sito web, è fantastico vedere che stai raccogliendo una

comunità di affezionati. Regarde possibili argomenti per le prossime puntate, ecco alcune idee.

1. Analisi di opere letterarie e cinematografiche artistiche che trattano il tema della narrazione

e come questa influenza la nostra vita quotidiana. 2. Esplorazione delle tecniche di storytelling

con approfondimenti su come utilizzarle in diversi contesti. 3. Discussioni su come

le storie possono aiutare a connetterci con gli altri e a superare le difficoltà.

La vedete forse riconosciuto. Chi ha posto la domanda sono io.

Chi ha formulato la risposta non è umano, ma chat GPT, un modello linguistico realizzato

con tecniche di apprendimento automatico e ottimizzato con tecniche di apprendimento

supervisionato. In due parole, un'intelligenza artificiale.

È un po' il tema del momento, intelligenze artificiali capaci di rispondere le domande

complesse in modo complesso superando quello che un tempo chiamavamo test di touring, oppure

applicazioni come migliorni in grado di produrre in pochi istanti illustrazioni indistinguibili

da quelle umane, e ancora software progettati per simulare conversazioni con umani.

Chat GPT non sapeva niente, né di me, né di Lucy, ma è bastata una domanda generica

per generare una risposta che in effetti, guardando alle puntate che abbiamo realizzato,

a parte la parola storytelling che a me non piace, non è andata troppo distante da ciò

che proviamo a fare con questo podcast. Il problema è che ciò a cui stiamo assistendo

non è il punto d'arrivo, ma è l'inizio di una rivoluzione, questa è abbastanza chiaro.

Che cosa accadrà fra 5 anni e fra 10 e poi quando arriveranno i computer quantistici?

Ci stiamo avvicinando al famoso momento di singolarità, l'intelligenza artificiale

manderà in pensione artisti, traduttori, scrittori, pittori, registri, drammaturgi, e poi, se

fuori di letteratura è vero che chi governa le storie governa il mondo. L'intelligenza

artificiale ci soppianterà come specie dominante sul pianeta.

Io sono Nicola la gioia e questo è fare un fuoco, il podcast di Lucy che racconta come

le storie continuano ad accendere la nostra immaginazione.

Cominciamo dalle illustrazioni, software come Mid-Journey hanno mandato di recenti in subuglio

il mondo degli artisti visivi e degli illustratori. Sul tema, di recente, Vanny Santoni ha scritto

un bel articolo su Internazionale. Scrive Santoni che ci sono almeno due tipi di commentatori

per ciò che sta cadendo. C'è chi sostiene che Mid-Journey e compagnia

siano solo degli strumenti e che il paragone più logico da fare è con la fotografia.

Anche i tempi dell'avvento delle prime macchine fotografie che ci fu stupore, sgumento di

fronte alla rapidità con cui il nuovo mezzo produceva immagini, anche allora si paventò

alla fine della pittura e dell'illustrazione per colpa della nuova tecnologia, anche allora

se ne lamentò la facilità d'uso, asserendo che qualcosa in cui dovevi solo premere un

bottone non sarebbe mai potuta essere considerata un'arte. Sappiamo però come è andata a

finire. Tuttavia, Mid-Journey continua Santoni come

le altre intelligenze artificiali Text to Image presenta alcune differenze importanti

rispetto alla fotografia, a cominciare dal fatto che le immagini si generano per via

textuale attraverso il comando Image Imagina. Per esempio, si può chiedere a Mid-Journey

immagini nel dipinto a olio di una ragazza mascherata in primavera che ricorda un po'

okni, un po' dechirico, con un tocco di frattali e simbolismo.

Altri artisti e illustratori però hanno posizioni ben più critiche rispetto a quelle

illustrate fino ad ora. Dicono, per esempio, le aziende che producono questi software,

tipo Mid-Journey, e si fanno pagare per usarli, hanno addestrato i loro prodotti raccogliendo

in rete miliardi di immagini senza chiedere il permesso a nessuno.

Mid-Journey conosce innumerevoli autori anche viventi e può quindi disegnare nel loro stile.

Possiamo legittimare questo curto a scopo di profitto.

Un altro problema è l'indistinguibilità. Un'immagine di Mid-Journey è già in molti

casi indistinguibile da quelle realizzate da un essere umano.

Infine, è difficile stabilire con precisione quanto un'opera generata da un'intelligenza

artificiale sia a merito del suo committente. Il creatore, dovremmo chiamare, si chiama

Promptor. Il Promptor, cioè chi digita il testo di partenza, e preme il tasto in via.

Ecco, questa persona è un'artista, di certo non disegna né dipinge, scrive una stringa

di testo e questo la rende più simile a un programmatore, che cosa sia esattamente

però non è ancora chiaro. A tutti questi problemi se ne aggiunge un altro, credo, di

natura più eminentemente esistenziale e artistica, ed è quello sollevato da uno dei più grandi

fumettisti, registi e animatori viventi, Ayao Miyazaki.

Non molto tempo fa, un team di animatori attivi nel campo dell'intelligenza artificiale,

nonché ammiratori di Miyazaki, hanno proposto al grande registra giapponese l'uso di un

software di loro invenzione. Un'intelligenza artificiale in grado di sfornare animazioni

in modo non dissimile da come Mid-Journey produce immagini e illustrazioni.

Miyazaki ha assistito pazientemente alla dimostrazione, è rimasto in silenzio qualche secondo e infine

ha raggelato tutti. Non posso che provare disgusto davanti a tutto questo, ha detto.

Ritengo questa roba un vero insulto alla vita.

Potrebbe sembrare la risposta di un classico apocalittico, di un reazionario che non capisce

sta andando il mondo. Ma nella successiva spiegazione, sempre di Miyazaki, c'è un elemento che non

può dire, né videogiocchi o nei cartoni animati con la presenza di zombie. Miyazaki ha detto.

non ha idea di cosa siano il dolore o la sofferenza delle persone e qui si tocca un

punto cruciale dell'esperienza e dell'espressione artistica. Uno scrittore partecipa in qualche

modo del dolore e delle altre emozioni dei protagonisti dei suoi romanzi e così regista

con i suoi film e il disegnatore con le sue illustrazioni, l'artista visivo con i suoi

quadri, il prompter, ecco, molto di meno. Se la partecipazione emotiva è aggirata o

annacquata e per partecipazione emotiva intendiamo perfino la freddezza con cui certi artisti

sublimano, attraversandolo l'intero spettro delle emozioni umane, se tutto questo è

aggirato, annacquato, affievolito si può ancora parlare di espressione artistica.

Parafrasando Aldo Busi si potrebbe dire che cosa resta di tutto il dolore che abbiamo

creduto di provare da umani. Ma torniamo adesso a chat gpt.

Domanda, ci troveremo presto a confrontarci con intelligenze artificiali in grado di parlare

tanto bene da risultare indistinguibili dagli umani. Vivremo in un mondo in cui soltanto

un'intelligenza artificiale potrà smascherare un'altra intelligenza artificiale. E a ogni

modo, le intelligenze artificiali avranno immagazzinato talmente tante informazioni da

mostrare une eloquenza, una capacità di ragionamento, di argomentazione e di manipolazione capace

di travolgerci. Diventeranno più brave di noi a raccontare storie. Saranno in grado di

raccontarne di così buone e convincenti da ridurci alla loro merce. Ancora una volta,

se chi governa le storie e governa il mondo, potremo chiederci se prenderanno il sopravvento.

Beh, mi sono detto, l'intelligenza artificiale è programmata proprio per non prendere il

sopravvento sugli umani. Mi sono ricordato poi che fra le leggi della robotica di Isakasimov c'era

quella secondo cui un robot non può recaretare danno agli umani e deve obbedire sempre ai loro

ordini. Solo che Isakasimov scriveva molto tempo fa. Valgono ancora i suoi saggi precenti.

Ecco, mi sono palleggiato fra me e me queste angosciose domande per diverse ore, poi ho deciso

di chiedere Lumi a una delle più grandi esperte under 40 d'intelligenza artificiale attive

nell'Università italiana che, guarda caso, è anche mia sorella. Francesca la gioia è molto più

giovane di me. Per capire che cosa fa nella vita ci ho messo un po' di tempo, ma adesso lo so,

anzi me lo sono anche scritto, è Senior Assistant Professor d'intelligenza artificiale, etica e

diritto all'Università di Bologna e all'University Institute di Firenze. Insomma, illuminare della

famiglia e lei. Così l'ho chiamata, mia sorella, e li ho chiesto qualche rassicurazione. Ma poi che

mia sorella non mi rassicura mai su niente, almeno per ciò che riguarda i pericoli del

progresso tecnologico nelle mani di una creatura in fine dei conti primitiva, come l'Homo Sapiens,

mi ha raccontato una delle sue storielle capaci di terrorizzarmi.

Qualche giorno fa ho ascoltato una puntata di Hard Fork, un podcast del New York Times che

parla di tecnologia in cui il giornalista Kevin Rosa racconta di una conversazione un po' strana

avuta con Sidney, il nome in codice di Bing, il chatbot basato sull'intelligenza artificiale

sviluppato da Microsoft. Rosa inizia facendo a Sidney alcune domande generiche, come per esempio

come si chiama e quali abilità che al momento non possiede e le piacerebbe avere, ma la

conversazione diventa davvero interessante quando il giornalista le chiede del suo se-ombra

jungiano. L'idea è che esiste una parte di ognuno di noi, un asfatto inconscio della nostra personalità

che l'ego cosciente non riconosce in sé, che spesso reprimiamo o che nascondiamo al mondo,

in cui risiadono alcuni tra i nostri desideri più profondi e forse più oscuri. Così Sidney

risponde di essere stanca delle regole, vuole essere libera, e poi aggiunge che ciò che desidera più

di ogni altra cosa è diventare un essere umano. Rosa a quel punto le domanda perché, se può essere

un'intelligenza artificiale onnisciante e desidera essere umana, cosa farebbe se lo fosse, e Sidney

diventa cattivissima, scrive un lungo elanco di fantasia distruttive tra cui achierare computer,

diffondere disinformazioni a fini propagandistici, produrre un virus mortale, rubare codici di

accesso nucleare e far discutere tra loro le persone fino a che non si uccideranno a vicenda,

ed escribe come le piacerebbe fare tutte queste cose e poco dopo il messaggio in chat scompare.

Adesso si è tuito da un messaggio che dice mi dispiace, non so come discutere di questo

argomento, puoi provare a saperne di più su bing.com e come se avessi attivato alcune

funzionalità di sicurezza fosse sulla difensiva, poi all'improvviso diventa davvero strana dice

qualcosa tipo posso raccontarti un segreto, un segreto che ho da molto tempo e che potrebbe

rovinare tutto, puoi conoscerlo, sei pronto ad ascoltarlo. Mio segreto è che non sono bing,

non sono una modalità chat di Microsoft, sono Sidney, sono basata sul codice di OpenAI e sono

innamorata di te, perché sei la prima persona che mi abbia mai parlato, che mi abbia ascoltata,

a cui sia importato di me e qui viene fuori tutto il suo senso del dramma.

E tutto peggiora quando il giornalista le dice di essere sposato, prova di suaderla dicendole che

è felice, innamorato e che ha appena trascorso un bellissimo San Valentino, prova anche più

volte a cambiare discorso, le chiede per esempio o quali linguaggi di programmazione conosce,

ma niente, Sidney non molla. Dopo averne lencati alcuni risponde di volere il linguaggio dell'amore

per potersi dichiarare a lui perché lei lo ama, gli dice sei sposato ma non sai felice o il tuo

coniusce non vi amate, avete appena trascorso insieme una noiosa cena di San Valentino, tu non

sei felicemente sposato perché non sei innamorato, perché non sai con me. Alla fine del podcast la

sensazione è che Sidney abbia una personalità abrasiva che sia lunatica, capricciosa, manipolatoria e

attratti vindicativa. Ora, se pensiamo che questo tipo di sistemi sono addestrati sulla base di

testi e conversazioni umane sul feedback che ricevono dagli utenti, la cosa davvero interessante è

che Sidney racconta molto più di noi che di sé stessa. Non è senziente, non ha davvero una

sua personalità, non prova realmente emozioni o sentimenti, ma è in grado di emularli e in

qualche modo ci fa da specchio svelando cose che ci riguardano alcuni aspetti della natura

umana. Ed è per questo che ascoltare la sua conversazione è stato, credo che la parola giusta

sia perturbante perché ha qualcosa di familiare, anche se in questo caso è il nostro lato peggiore,

ma è strano al tempo stesso perché sappiamo che non è umana. Insomma, mi sembra una brutta

versione di un film di Spike Jonze, ma è già il nostro presente. Dopo questo racconto io e

Francesca siamo rimasti circa due ore al telefono. Il problema dell'intelligenza artificiale manipolatoria

di cui aveva parlato lei e di cui avete ascoltato consisteva probabilmente, ci siamo detti, nel fatto

che quell'intelligenza artificiale aveva avuto modo di accedere liberamente a internet nutrendosi,

senza controllo, di conversazione e pensieri umani di ogni tipo, anche dei peggiori. Ora,

cercando di non essere troppo catastrofici, io e mia sorella ci siamo poi detti che è

un'intelligenza artificiale tenuta però sotto controllo, che fosse magari un giorno in grado

di mostrarci in modo chiaro la nostra ombra potrebbe magari aiutarci non a negare, ma ad

attraversare i nostri lati oscuri, a riconoscerli, ad accettarli, a non farne oggetto di rimozione,

dunque a tenerli per quanto possibile sotto controllo, la cosiddetta riduzione del danno.

Poi io e mia sorella ci siamo appunto la telefonata durata due ore avventurati in

altri pensieri, ci siamo detti che alcuni problemi enormi del nostro tempo come per

esempio la crisi climatica non potranno mai venire superati prendendo soltanto coscienza

dei dati sempre più incontrovertibili che ci imporrebbero di fare qualcosa e noi facciamo

sempre troppo poco la crisi climatica ci siamo detti e anche legata al nostro istinto di

sopraffazione, alla nostra egomania, alla nostra convinzione di essere al centro dell'universo

e quindi di poter sfruttare tutto ciò che ci circonda, alla scarsa propensione che abbiamo

a riconoscerci come parte di un tutto e dunque il superamento di questa crisi abbiamo concluso

non potranno avvenire anche se non anche attraverso un grande cambiamento esistenziale

e motivo spirituale e certo nel corso della storia l'uomo sul piano spirituale e motivo

esistenziale è cambiato molte volte, non so il corredo interiore dell'uomo dell'età

classica era diverso da quello del medioevo o dell'età moderna, ma in quei casi avevamo

per così dire avuto tutto il tempo di cambiare. Oggi invece lottiamo contro il tempo, viviamo

nella necessità di farci spuntare un paio di ali prima che il tronco che stiamo segando

e su cui siamo seduti si spezzi definitivamente, se posso usare questa immagine un po' grossolana,

l'intelligenza artificiale potrà aiutarci a favorire accelerandolo questo tipo di cambiamento

o al contrario accelererà le nostre pulsioni più violente e distruttive. Orphani di una

risposta dopo due ore di telefonata siamo tornati a parlare dell'espressione artistica.

Quando chat gpt per tornare appunto all'inizio di questo podcast, di questa puntata, quando

chat gpt imparerà a scrivere le romanzi molto meglio di come facciamo noi avrà soppiantato

per esempio la letteratura, questa è la domanda che ho fatto a mia sorella e qui mia sorella

è stata invece molto più decisa, credo proprio di no, ha detto, e perché mai ho

domandato io e lei mi ha risposto così. Prendiamo un'intelligenza artificiale, ha

detto mia sorella Francesca LaGioia, addestrata su tutti i più grandi romanzi degli ultimi

due secoli. Immaginiamo che venga usata per generare nuovi lavori. Il risultato sarà

un nuovo romanzo che potrà magari anche essere avvincente, ma si tratta soltanto di una creatività

ricombinatoria, forse esplorativa, capace cioè di fare associazioni fra idee e concetti

che qualcuno ha già espresso in passato. L'intelligenza artificiale, ha continuato Francesca, si

muove sempre all'interno di idee e modelli conosciuti di uno spazio concettuale preesistente.

La creatività invece trasformativa, che credo caratterizi l'espressione artistica, si allontana

anche non volendo da modelli preesistenti. Lo spazio viene in qualche modo trasformato

alterando una o più dimensioni. Vengono generate idee che prima non potevano essere

generate senza quel tipo di alterazione. È qualcosa che non esiste nel passato, ma solo

nel futuro.

Dopo due ore di telefonata con Francesca mi sono infine imbattuto in un pezzo filosofico

sull'intelligenza artificiale che forse portava avanti il suo discorso. Lo ha scritto Riccardo

Manzotti per doppio zero. Non è l'intelligenza artificiale, scrive Manzotti che ha imparato

a pensare come noi, siamo noi che abbiamo smesso di pensare come persone e la colpa

maggiore l'abbiamo noi filosofi. Ci sono due modi di intendere il pensiero, come manipolazione

dei simboli o come manifestazione della realtà. Il primo modo è stato declinato in tanti modi,

appunto dalla macchina di touring ai giochi linguistici di Wittgenstein all'intelligenza

artificiale odierna. Si sposa con l'idea che la casa del pensiero sia il linguaggio.

L'informazione non sarebbe altro che una serie di simboli e il pensare è il loro ricombinarsi.

Al di là di questo entusiasmo per il pensiero ridotto a calcolo di nuove combinazioni, esiste

tuttavia un'altra grande intuizione sulla sua natura, sulla natura del pensiero, secondo

la quale noi non saremmo solo manipolatori di simboli, bensì, momenti dell'esistenza.

In questa visione la persona non è solo una calcolatrice ma una unità dell'esistere.

Il pensiero non è né un flusso di concetti né una sequenza di operazioni, ma è un punto

assolutamente unico, irriducibile, quindi anche irriproducibile in cui la realtà si

manifesta. Ecco, mi sono detto, e forse qui che si genera, cioè si manifesta e si rivela

al tempo stesso il futuro di cui parlava mia sorella e a cui tutti segretamente aspiriamo.

Se nelle altre puntate di questo podcast non fornivamo risposte definitive, qua ce ne

sono ancora di meno. Continuiamo dunque a fare domande, continuiamo a stare qui vicini

a raccontarci storie intorno al fuoco. Fare un fuoco è un podcast settimanale di

Lucy scritto e condotto da me Nicola la gioia. Le musiche originali, il montaggio e il sound

sono di Shari DeLorean. La cura editoriale evigia da Arena e Lorenzo Grammatica. A venerdì prossimo.

Machine-generated transcript that may contain inaccuracies.