Nelle acque profonde del Golfo del Messico, una giovane donna di nome Rachel si aggrappa al lato di una piattaforma petrolifera. Il vento le scompiglia i capelli ramati e gli spruzzi dell'oceano le inzuppano i jeans, ma lei si arrampica, decisa a scoprire le prove di una trivellazione illegale. Quando arriva a bordo, però, scopre che c'è qualcosa di molto più sinistro in gioco.
Questo è un frammento di Oil and Darkness, un film horror ambientato su una piattaforma petrolifera. Il film ha come protagonisti l'attivista ambientale Rachel, il caposquadra Jack, in preda ai sensi di colpa, e il losco dirigente aziendale Ryan, che sta conducendo pericolose ricerche su un "nuovo tipo di petrolio altamente infiammabile". "È il tipo di film di cui si potrebbe giurare di aver visto la seconda metà una volta mentre si passava il canale a tarda notte o di essersi assopiti durante un volo a lungo raggio. È anche interamente inventato;
Il chatbot AI viene addestrato su testi provenienti da libri, articoli e siti web che sono stati "puliti" e strutturati in un processo chiamato apprendimento supervisionato. ChatGPT è in grado di scrivere codice, inventare canzoni, comporre limerick e haiku. Ricorda ciò che ha scritto e lo modifica accuratamente su richiesta. Prende alla lettera anche i suggerimenti più casuali, componendo storie che legano ordinatamente tra loro fili concorrenti: Dettagli che sembrano irrilevanti nel primo paragrafo si rivelano utili nell'ultimo. Sa raccontare barzellette e spiegare perché sono divertenti. Sa scrivere titoli in stile rivista, incisivi e capaci di attirare l'attenzione, con citazioni convincenti ma completamente inventate.
Tutto ciò rende il gioco con ChatGPT incredibilmente divertente, affascinante e coinvolgente e, per chi scrive per mestiere, davvero preoccupante. Ma presto si inizia a percepire una mancanza di profondità sotto la prosa competente di ChatGPT. Commette errori fattuali, confondendo eventi e persone. Si basa pesantemente su tropi e cliché, e riecheggia i peggiori stereotipi della società. Le sue parole sono superficialmente impressionanti ma in gran parte prive di sostanza - ChatGPT produce per lo più ciò che The Verge ha descritto come "fluenti stronzate". "
Ma questo ha senso. ChatGPT è stato addestrato su testi del mondo reale, e il mondo reale si basa essenzialmente su stronzate fluenti. Forse la plausibilità di un film inventato come Petrolio e tenebre non è dovuta al fatto che l'IA è così brava, ma al fatto che l'industria cinematografica è così pessima nel proporre idee originali. In un certo senso, quando chiedete a un'intelligenza artificiale di farvi un film, essa non fa altro che imitare il processo formulaico con cui vengono realizzati molti blockbuster hollywoodiani: Guardarsi intorno, vedere cosa ha avuto successo, prenderne elementi (attori, registi, strutture della trama) e metterli insieme in una forma che sembra nuova ma in realtà non lo è. Lo stesso accade nell'editoria, dove tendenze ristrette possono travolgere il settore e dominare per anni, riempiendo gli scaffali delle librerie con copertine che sembrano uguali o titoli con lo stesso ritmo: Una breve storia di sette omicidi, Le sette morti di Evelyn Hardcastle, Le sette lune di Maali Almeida, Le sette vite di sette assassini. (ChatGPT si è inventato l'ultimo).
E non si tratta solo di industrie creative. Le stronzate sono ovunque: nei post virali su LinkedIn e nei podcast sulle regole di vita, nei programmi di raccolta fondi e nelle riviste accademiche, persino in questo stesso articolo. La politica e l'economia sono piene di persone che hanno raggiunto i vertici perché sono in grado di stare davanti a una stanza e di parlare a lungo in modo plausibile senza dire nulla di vero. Le scuole e le università prestigiose strutturano l'istruzione in modo da insegnare alle persone un'unica abilità: assorbire molto rapidamente le informazioni, rigurgitarle con sicurezza in un formato prestabilito e poi dimenticarle immediatamente per passare ad altro. Coloro che hanno successo si riversano nel governo, nella consulenza e, sì, nel giornalismo.
Il discorso intorno alla ChatGPT ha messo in evidenza l'effetto dannoso che potrebbe avere sulla società, dal modello che incoraggia la tortura e che perpetua il sessismo a quello che permette ai bambini di imbrogliare sui compiti. Ci si preoccupa dell'impatto delle risposte generate dall'IA che si ritrovano nei dati su cui vengono addestrati i futuri strumenti di chatbot, creando una poltiglia indistinta di riferimenti in stile Ready Player One - un liquame bovino, sminuzzato e restituito a noi, un virus che annega tutto ciò che è nuovo. Ma, a dire il vero, le vecchie stronzate fluenti generate dall'uomo e armate dai social media sono già state piuttosto disastrose. Nel Regno Unito, tanto per fare un esempio, un gruppo di cazzoni fluenti ha portato il Paese fuori dall'Europa e direttamente giù da un precipizio. ("ChatGPT, scrivi un discorso sul perché la Gran Bretagna dovrebbe lasciare l'UE, ma riempilo di vocabolario arcano e riferimenti shakespeariani"). " ) Dopo la verità, la fluidità è tutto e le stronzate sono ovunque, quindi ovviamente le stronzate fluenti di ChatGPT sembrano plausibili. Era destino che lo fosse. È stata addestrata sulle persone;
Alla fine, le stronzate di ChatGPT ci ricordano che il linguaggio è un pessimo sostituto del pensiero e della comprensione. Per quanto una frase possa sembrare fluida e coerente, sarà sempre soggetta a interpretazioni e fraintendimenti. E in un mondo in cui tutto è una stronzata fluente, ChatGPT è solo un'altra voce nella cacofonia.
E sì, ha scritto quel finale.
