Chi è il mostro? Da Frankenstein di Mary Shelley all'AI

«Vuoi che ti scriva un incipit ad effetto adatto al tuo articolo?»
«No, grazie, faccio io.»
Anno Domini 2026, il dilemma etico si sta facendo sempre più grande: chi è l’autore o l’autrice dei testi scritti dall’intelligenza artificiale? Ha ancora senso scrivere usando solamente il proprio cervello, quando potenzialmente esiste un assistente digitale gratuito che conosce tutto lo scibile umano e che può correggere, in maniera più o meno precisa, tutto quello che scrivi?

Per rispondere a queste domande voglio prenderla molto larga e parlarvi di un grande classico della letteratura inglese, Frankenstein, che non è solamente uno dei capisaldi della letteratura gotica occidentale, ma anche il primo racconto moderno che tratta della creazione di un’intelligenza non umana.

Nel romanzo, Victor Frankenstein è così accecato dalle possibilità della scienza da sfidare le leggi che la governano. Com’è noto, egli crea il mostro – un essere privo di nome – per poi rendersi conto di aver osato troppo e, terrorizzato dalla Creatura, fugge abbandonando la sua creazione a sé stessa. Questo mostro è in tutto e per tutto un agente artificiale assemblato e messo in funzione, è un’entità che apprende attraverso l’osservazione come un sistema di machine learning, capace di imitare le modalità di apprendimento umane attraverso algoritmi. Ma perché poi arriva a emulare i peggiori tratti dell’essere umano?

La Creatura non agisce in modo crudele perché spinta dal moto di ribellione che fa da trama a moltissimi film fantascientifici, lo fa a causa del suo creatore. Victor ottiene dalla scienza tutto ciò che ha sempre desiderato, ma agisce senza valutare le conseguenze delle sue azioni, fugge dalle sue responsabilità ed evita il dialogo con la sua creazione.

Quando parla di sé e dei suoi primi giorni di vita, la Creatura appare sensibile e curiosa verso il mondo degli umani, è costantemente in cerca di relazioni e cerca di apprendere il più possibile. Al contrario la risposta della società è sempre caratterizzata dalla paura di confrontarsi con il diverso e dalla violenza preventiva. Il mostro non nasce malvagio, ma secondo una struttura algoritmica apprende dai dati che gli vengono forniti: considera normale ciò che è statisticamente prevalente, di conseguenza si modifica interiorizzando in sé lo standard di violenza che trova in ogni situazione in cui si imbatte. Se consideriamo mostruoso ciò che è diverso, la crescente violenza dettata dall’emulazione degli uomini rende in realtà la Creatura un Non-Mostro.

Quando parliamo di diversità, non possiamo considerarla un dato oggettivo, essa nasce dal costante confronto con ciò che viene considerato la norma. In Frankenstein è lo sguardo degli esseri umani a definire cosa è normale e cosa no, e la Creatura, non rientrando nei canoni di bellezza comuni, viene emarginata come vengono emarginate tutte le persone che non rientrano nello standard. Allo stesso modo negli algoritmi ciò che appare regolare è dettato dai dati raccolti e inseriti, ovvero da chi ha lavorato su questi dati e dalla sua visione del mondo.

Forse allora, la domanda da cui siamo partitə non è pienamente corretta. Chiederci chi sia l’autore o l’autrice dei testi che sono stati prodotti da un’intelligenza artificiale significa ancora una volta incolpare la macchina. Tutto ciò che viene generato dall’intelligenza artificiale nasce dall’essere umano: l’AI impara dai nostri testi, dalle nostre visioni dominanti e quindi il problema non riguarda veramente chi deve firmare un testo, ma chi costruisce l’insieme di dati entro cui quel testo diventa possibile.

Il grande problema etico allora non è scegliere tra umano e artificiale, ma scegliere quali sono i valori che guidano la nostra società. Il rischio infatti non è la nascita di nuovi mostri, ma rimanere ciechi e cieche di fronte a responsabilità che non si possono attribuire alle macchine. La vera domanda, allora, non è cosa possano fare le macchine, ma quale idea di essere umano stiamo insegnando ai sistemi che apprendono da noi.