In de diepe wateren van de Golf van Mexico houdt een jonge vrouw, Rachel, zich vast aan de zijkant van een booreiland. De wind gooit haar kastanjebruine haar in een wilde warboel en de oceaannevel doordrenkt haar spijkerbroek, maar ze klimt erop, vastbesloten om bewijzen van illegale boringen te ontdekken. Maar als ze aan boord komt, ontdekt ze dat er iets veel sinisters aan de hand is.
Dit is een fragment van Oil and Darkness, een horrorfilm die zich afspeelt op een booreiland. Het gaat over milieuactiviste Rachel, de door schuld geplaagde voorman Jack en de louche bedrijfsleider Ryan, die gevaarlijk onderzoek doet naar een "nieuw type licht ontvlambare olie". "Het is het soort film waarvan je zou kunnen zweren dat je de tweede helft eens hebt gezien terwijl je 's avonds laat aan het kanaalhoppen was of tijdens een langeafstandsvlucht in slaap viel. Hij is ook volledig verzonnen;
De AI-chatbot wordt getraind op tekst uit boeken, artikelen en websites die is "opgeschoond" en gestructureerd in een proces dat "supervised learning" wordt genoemd. ChatGPT kan code schrijven, liedjes verzinnen en limericks en haiku's componeren. Het onthoudt wat het heeft geschreven en maakt op verzoek zorgvuldige bewerkingen. Het neemt zelfs de meest willekeurige prompts in stride, het componeren van verhalen die netjes samen te binden strengen: Details die in de eerste paragraaf irrelevant lijken, worden in de laatste paragraaf beloond. Het kan grappen vertellen en uitleggen waarom ze grappig zijn. Hij kan tijdschriftachtige hoofdstukken schrijven, pittig en aandachttrekkend, met overtuigende maar volledig verzonnen citaten.
Dit alles maakt het spelen met ChatGPT ongelooflijk leuk, charmant verslavend, en - als iemand die schrijft voor de kost - echt heel verontrustend. Maar al snel merk je een gebrek aan diepte onder ChatGPT ' s bekwame proza. Het maakt feitelijke fouten, haalt gebeurtenissen door elkaar en haalt mensen door elkaar. Het leunt zwaar op stijlfiguren en clichés, en de ergste stereotypen uit de samenleving komen erin terug. De woorden zijn oppervlakkig gezien indrukwekkend, maar grotendeels zonder inhoud - ChatGPT produceert vooral wat The Verge heeft omschreven als "vloeiende onzin". "
Maar dat is logisch. ChatGPT is getraind op echte tekst, en de echte wereld draait op vloeiende onzin. Misschien komt de aannemelijkheid van een verzonnen film als Oil and Darkness niet omdat de AI zo goed is, maar omdat de filmindustrie zo slecht is in het bedenken van originele ideeën. Als je een AI vraagt om een film voor je te maken, bootst hij in zekere zin gewoon het formele proces na waarmee veel Hollywood-kaskrakers worden gemaakt: Kijk rond, zie wat succesvol is, haal er elementen uit (acteurs, regisseurs, plotstructuren) en mix ze tot een vorm die nieuw lijkt maar dat eigenlijk niet is. Zo is het ook in de uitgeverij, waar smalle trends de industrie kunnen overspoelen en jarenlang domineren, zodat de boekenrekken vol liggen met covers die er hetzelfde uitzien of titels met hetzelfde ritme: A Brief History of Seven Killings, The Seven Deaths of Evelyn Hardcastle, The Seven Moons of Maali Almeida, The Seven Lives of Seven Killers. (ChatGPT heeft die laatste verzonnen.)
En het is niet alleen de creatieve industrie. Vloeiende bullshit is overal: in virale LinkedIn posts en rules for life podcasts, in fundraising decks en academische tijdschriften, zelfs in dit artikel zelf. De politiek en het bedrijfsleven zitten vol met mensen die de top hebben bereikt omdat ze voor een zaal kunnen staan en lange tijd aannemelijk kunnen lullen zonder echt iets te zeggen. Prestigieuze scholen en universiteiten structureren het onderwijs op een manier die mensen één vaardigheid aanleert: hoe ze heel snel informatie kunnen opnemen, die zelfverzekerd in een vooraf bepaalde vorm kunnen opschrijven, en het dan onmiddellijk kunnen vergeten en verder gaan met iets anders. Degenen die daarin slagen, komen terecht bij de overheid, in consultancy en ja, in de journalistiek.
In de discussie rond ChatGPT is gewezen op het schadelijke effect dat het zou kunnen hebben op de samenleving, alles van het model dat marteling aanmoedigt en seksisme bestendigt tot het in staat stellen van kinderen om te spieken met hun huiswerk. Je maakt je zorgen over het effect van AI-gegenereerde antwoorden die hun weg vinden naar de gegevens waarop toekomstige chatbot-tools worden getraind, waardoor een onduidelijke, Ready Player One-achtige brij van referenties ontstaat - een rundermest, die wordt opgekarnd en aan ons wordt teruggegeven, een virus dat alles wat nieuw is overstemt. Maar om eerlijk te zijn is ouderwetse, door mensen gegenereerde, vloeiende onzin - gewapend door sociale media - al behoorlijk rampzalig geweest. In het VK, om maar een voorbeeld te noemen, dreef een kadre van vloeiende onzinmakers het land uit Europa en rechtstreeks van een klif. ( "ChatGPT, schrijf een toespraak over waarom Groot-Brittannië de EU moet verlaten, maar vul het met geheimzinnig vocabulaire en Shakespeariaanse verwijzingen. " ) Post-truth, vloeiendheid is alles en bullshit is overal, dus natuurlijk voelt ChatGPT's vloeiende bullshit aannemelijk. Dat moest wel. Het is getraind op mensen;
Uiteindelijk herinnert de bullshit van ChatGPT eraan dat taal een slecht substituut is voor denken en begrijpen. Hoe vloeiend en coherent een zin ook lijkt, hij is altijd vatbaar voor interpretatie en misverstanden. En in een wereld waar alles vloeiende onzin is, is ChatGPT slechts één stem meer in de kakofonie.
En ja, het schreef dat einde.
