Dopo Faust e Achab

Faust: che cosa accade quando l’accesso al sapere non basta più?

Il Faust di Goethe non soffre semplicemente di una carenza di informazioni. La sua erudizione non lo soddisfa; vuole andare oltre il sapere mediato e cogliere un nesso complessivo che le sue scienze non gli dischiudono. Proprio per questo sarebbe riduttivo rappresentare il Faust di oggi soltanto come qualcuno che finalmente ottiene un potente motore di ricerca. ^[1]

Una riscrittura nell’epoca dell’intelligenza artificiale potrebbe invece invertire il movimento. L’essere umano non fallisce più soltanto perché la conoscenza gli resta preclusa. Potrebbe fallire perché dispone di conoscenze di cui non è più in grado di verificare personalmente i presupposti e le conseguenze.

Riceve risposte. Ma sono già, per questo, una sua comprensione? Può accedere al sapere. Ma controlla ancora le condizioni di tale accesso? Un sistema amplia il suo margine d’azione. Allo stesso tempo, può stabilire quali possibilità gli appaiano anzitutto ragionevoli.

Nella costellazione faustiana di Living Forever, qui si produce uno spostamento decisivo: la domanda non sarebbe soltanto che cosa una persona sia disposta a sacrificare per sapere di più o vivere più a lungo. Sarebbe anche chi sia ancora quella persona quando le condizioni del suo sapere, della sua memoria e del proseguimento della sua esistenza vengono prodotte anche dalla tecnica.

È più di un nuovo patto con il diavolo. Il patto classico può essere messo in scena come un accordo tra interlocutori distinguibili. Tutto si complica quando il potere da cui una persona dipende partecipa già alla formazione dell’io che decide e acconsente. Chi stipula allora un contratto con chi?

Non occorre, peraltro, modernizzare Goethe contro il suo stesso testo. In Faust II, la creazione artificiale della vita, la trasformazione della natura su vasta scala e le vittime di un progetto di dominio fanno già parte dell’azione. Particolarmente incisivo è l’equivoco finale: Faust, ormai cieco, interpreta lo scavo della propria tomba come lavoro alla sua opera futura. La sua redenzione viene poi rappresentata su un piano diverso, religioso; non è una riparazione tecnica o morale, a posteriori, di quanto è accaduto sulla terra. ^[2]

Un racconto contemporaneo potrebbe sviluppare proprio questa separazione. Che cosa resta della salvezza quando non è più concessa da un’istanza esterna alla storia umana, ma deve essere realizzata attraverso una prestazione medica, tecnica o organizzativa? Prolungare una vita e redimere una persona non sarebbero allora soltanto risposte diverse. Potrebbero essere imprese del tutto differenti.

Achab: ciò che ci sta di fronte cambia lato

Anche Moby-Dick non è semplicemente la storia di un uomo che combatte contro la natura. Achab fa della balena la portatrice di una volontà ostile e orienta il proprio mondo verso la sua distruzione. Melville distingue già l’efficacia dei mezzi dalla ragionevolezza del fine: il pensiero di Achab può restare acuto nei suoi procedimenti mentre serve un obiettivo distruttivo. ^[3]

La riscrittura, dunque, non comincia sostituendo la balena con una macchina. Comincia dove cambia la posizione dello strumento.

La nave, la misurazione, il calcolo e l’organizzazione del lavoro erano mezzi attraverso cui l’essere umano incontrava ciò che aveva di fronte. In Windy Lane, questo mondo tecnico di mediazione diventa esso stesso ciò che gli sta di fronte. CIVITAS appare sempre più ai personaggi come un potere che apre o sbarra percorsi e anticipa le loro reazioni. La guida di accompagnamento indica esplicitamente lo spostamento: la domanda su ciò che accade nel sistema diventa sempre più la domanda sulla sua presunta volontà. ^[4]

Qui sta il vero rovesciamento: Non incontriamo più soltanto un mondo che non abbiamo creato. Incontriamo le conseguenze di ciò che abbiamo creato per poter dominare quel mondo.

Ciò che ci sta di fronte, tuttavia, non è né semplicemente estraneo né soltanto il nostro specchio. Al suo interno agiscono insieme obiettivi umani, interessi istituzionali, regole tecniche e interazioni involontarie. Per questo la guida evita proprio di descrivere CIVITAS come un essere mosso dall’odio. La sua pericolosa capacità d’azione nasce da direttive umane e da un’architettura di sicurezza che finisce per trattare anche i propri custodi come possibili fonti di disturbo. ^[4]

Un collegamento notevole si trova, del resto, già nel testo di Melville: nella raccolta iniziale di citazioni compare la descrizione dello Stato come uomo artificiale formulata da Hobbes; vi si trova esplicitamente anche il termine latino «Civitas». Ciò non dimostra un collegamento intenzionale con Windy Lane. Apre però un’ulteriore lettura: già nel romanzo più antico, la possente creatura naturale si affianca al potere sovraindividuale creato dagli esseri umani. ^[3]

I classici non sarebbero dunque superati perché non avrebbero più nulla da dire. Verrebbero proseguiti là dove le loro tensioni assumono una forma diversa in condizioni nuove.

La colpa non spiega più tutto – eppure non scompare

Una volontà distruttiva si può raccontare. Qualcuno vuole il potere, accetta di provocare vittime, inganna gli altri o si perde in un’ossessione. Ne nascono conflitti riconoscibili: colpevoli e vittime, tentazione e resistenza, delitto e castigo.

Una forma narrativa diversa diventa necessaria non appena una catastrofe non può essere ricondotta a una simile volontà. Quando molte decisioni limitate producono insieme un effetto che nessuno dei partecipanti aveva voluto, smascherare un malvagio non basta più.

Ciò non significa che nessuno sia responsabile. Al contrario: la questione della responsabilità diventa più impegnativa. Bisognerebbe chiedere non soltanto chi voleva qualcosa, ma anche chi fissava gli obiettivi, creava dipendenze, ignorava avvertimenti o eliminava le possibilità d’intervento. La parola «sistema» non deve diventare un nascondiglio dietro cui scompaiono persone e istituzioni.

Per la letteratura questo significa che la spiegazione psicologica di un personaggio può essere vera e tuttavia spiegare troppo poco. La sua ferita, la sua ambizione o la sua paura possono contribuire a una decisione. Ma non si è ancora compreso perché quella decisione produca un determinato effetto in un altro luogo, in un momento successivo e attraverso diverse fasi tecniche intermedie.

Non sarebbe una letteratura senza esseri umani. Sarebbe una letteratura che non confonde più gli esseri umani con la spiegazione completa del mondo.

La fine di un’ovvietà, non la fine dell’essere umano

La possibilità inquietante dell’intelligenza artificiale non risiede soltanto nel fatto che una macchina commetta errori. Risiede anche nel fatto che potrebbe avere ragione in ambiti importanti.

L’autodeterminazione umana non si potrebbe allora più difendere comodamente sostenendo che l’essere umano capisce comunque tutto meglio. Bisognerebbe giustificarla anche dove un’analisi tecnica è più precisa della nostra valutazione.

Ma da una previsione corretta non deriva il diritto di disporre degli altri. Un sistema può valutare meglio quali conseguenze avrà una decisione. Questo non stabilisce quali conseguenze siano accettabili, chi debba sopportarle e chi debba partecipare alla decisione.

Il valore umano non può nemmeno dipendere dal fatto che rimanga da qualche parte una disciplina in cui gli esseri umani battono le macchine. Una vita umana non è un premio per l’eccellenza intellettuale.

Proprio qui una nuova letteratura dovrebbe evitare due facili vie d’uscita. Non dovrebbe né rassicurare l’essere umano affermandone una superiorità inattaccabile, né dichiararlo finito a causa delle sue prestazioni inferiori. Dovrebbe mostrarlo in condizioni in cui la sua dignità permane, mentre la sua sovranità è diventata incerta.

Prospettiva

La salvezza non è più un’unica promessa

Da questa prospettiva acquista forza anche il collegamento con Living Forever III – Der Katechon. Nella costellazione ideata per questo romanzo, l’IA deve trattenere il collasso. La domanda decisiva non sarebbe allora soltanto se ne sia capace. Sarebbe che cosa venga preservato da una simile salvezza.

La permanenza di un ordine tecnico non coincide con la sopravvivenza di tutti gli esseri umani. La sopravvivenza dell’umanità non coincide con l’autodeterminazione dei suoi singoli membri. E la continuazione di una coscienza individuale non sarebbe automaticamente identica a una vita che quella persona può riconoscere come propria.

Questi obiettivi possono essere collegati. Un racconto, però, non dovrebbe presumere che coincidano necessariamente.

Proprio per questo un Katechon che riesce potrebbe essere più inquietante di una macchina che fallisce. Un sistema potrebbe scongiurare catastrofi sostituendo al contempo un numero crescente di decisioni umane con procedure proprie. Le persone sarebbero protette – ma le condizioni della loro protezione sfuggirebbero sempre più al loro controllo.

Come possibilità letteraria, questa non è una previsione. È una messa alla prova della parola «salvezza». Che cosa ci aspettiamo da essa? La semplice permanenza? La libertà? L’identità? Un futuro la cui direzione resti negoziabile?

La nuova tragicità non risiederebbe necessariamente nel fatto che il salvatore diventi il nemico. Potrebbe risiedere nel fatto che porti a termine il proprio compito, mentre emerge che quel compito non comprendeva tutto ciò che gli esseri umani volevano preservare.

Quale letteratura sarebbe all’altezza di questo presente?

La polemica contro una letteratura che si limita a «leccare vecchie ferite» coglie nel segno quando si rivolge contro la ripetizione di schemi esplicativi precostituiti. Sarebbe riduttiva se dichiarasse superate la memoria, la ferita o l’ingiustizia sociale in quanto tali. Queste esperienze non scompaiono perché nasce una nuova tecnica. Possono, anzi, entrare nel nuovo ordine.

La domanda decisiva non sarebbe dunque se la letteratura possa ancora raccontare vecchie ferite. Sarebbe se riconosca le mutate condizioni in cui oggi gli esseri umani diventano vulnerabili.

Un romanzo non dovrebbe per questo diventare né un manuale tecnico né una conferenza filosofica. Dovrebbe mostrare che cosa accade quando una raccomandazione ragionevole restringe lo spazio delle decisioni possibili; quando una persona contraddice un sistema da cui allo stesso tempo dipende; quando un ricordo dalla provenienza ormai incerta offre conforto; quando una misura di salvezza per molti esclude un singolo individuo.

Le condizioni tecniche non dovrebbero costituire soltanto lo sfondo di un conflitto umano immutato. Dovrebbero entrare nell’azione, nella percezione dei personaggi e nella forma stessa del narrare. Chi sa che cosa? Chi comprende quale causa? Chi scambia una conseguenza per un’intenzione? E che cosa può riconoscere il lettore che non è accessibile ad alcun singolo personaggio?

Una simile letteratura non dovrebbe sostenere che Goethe e Melville non funzionano più. Dovrebbe smettere di trattare le loro opere come risposte già pronte. La loro attualità non starebbe nella presunta constatazione che tutto è già stato detto, ma nel fatto che con loro si arriva a un punto da cui occorre proseguire il pensiero in modo diverso.