V hlbokých vodách Mexického zálivu sa mladá žena Rachel drží boku ropnej plošiny. Vietor jej bičuje gaštanové vlasy do divokej spleti a oceánska hmla jej zmáča džínsy, ale ona vylezie na plošinu, odhodlaná odhaliť dôkazy o nelegálnej ťažbe. Keď však dorazí na palubu, zistí, že v hre je niečo oveľa hrozivejšie.
Toto je ukážka z filmu Ropa a tma, hororu odohrávajúceho sa na ropnej plošine. Vystupujú v ňom ekologická aktivistka Rachel, predák plošiny Jack, ktorý sa cíti vinný, a pochybný riaditeľ spoločnosti Ryan, ktorý vykonáva nebezpečný výskum " nového typu vysoko horľavej ropy. "Je to typ filmu, pri ktorom by ste mohli prisahať, že ste raz zachytili jeho druhú polovicu počas nočného sledovania kanálov alebo počas diaľkového letu. Je tiež úplne vymyslený.
Chatbot s umelou inteligenciou sa trénuje na textoch z kníh, článkov a webových stránok, ktoré boli "vyčistené" a štruktúrované v procese nazývanom učenie pod dohľadom. ChatGPT dokáže písať kód, vymýšľať piesne a skladať limeriky a haiku. Pamätá si, čo napísal, a na požiadanie vykonáva starostlivé úpravy. Dokonca aj tie najnáhodnejšie podnety berie s nadhľadom a skladá príbehy, ktoré úhľadne spájajú konkurenčné vlákna: Detaily, ktoré sa v prvom odseku zdajú byť nepodstatné, sa v poslednom odseku vyplatia. Dokáže rozprávať vtipy a vysvetliť, prečo sú vtipné. Dokáže napísať úvodník v štýle časopisu, úderný a pútavý, s presvedčivými, ale úplne vymyslenými citátmi.
Vďaka tomu všetkému je hranie sa s ChatGPT neuveriteľne zábavné, očarujúco návykové a - ako človeka, ktorý sa živí písaním - naozaj dosť znepokojujúce. Čoskoro však začnete cítiť nedostatok hĺbky pod kompetentnou prózou ChatGPT. Robí faktické chyby, zamieňa udalosti a zamieňa ľudí. Vo veľkej miere sa spolieha na trópy a klišé a opakuje najhoršie stereotypy spoločnosti. Jeho slová sú povrchne pôsobivé, ale zväčša bez obsahu - ChatGPT väčšinou vytvára to, čo The Verge opísal ako " plynulé kecy. "
Ale to dáva zmysel. ChatGPT bol vycvičený na reálnom texte a reálny svet v podstate funguje na plynulých kecoch. Možno hodnovernosť vymysleného filmu ako Ropa a tma nevzniká preto, že by AI bola taká dobrá, ale preto, že filmový priemysel je taký zlý vo vymýšľaní originálnych nápadov. Keď požiadate umelú inteligenciu, aby vám natočila film, v istom zmysle len napodobňuje šablónovitý proces, podľa ktorého vznikajú mnohé hollywoodske trháky: Pozrite sa okolo seba, zistite, čo bolo úspešné, vyberte z toho prvky (hercov, režisérov, štruktúru zápletky) a spojte ich do tvaru, ktorý vyzerá ako nový, ale v skutočnosti nie je. Rovnako je to aj vo vydavateľstve, kde úzke trendy môžu ovládnuť priemysel a dominovať celé roky, pričom na pultoch kníhkupectiev sa objavujú obálky, ktoré vyzerajú rovnako, alebo tituly s rovnakým rytmom: Stručné dejiny siedmich vrážd, Sedem úmrtí Evelyn Hardcastleovej, Sedem mesiacov Maali Almeidy, Sedem životov siedmich vrahov. (ChatGPT si to posledné vymyslel.)
A netýka sa to len kreatívneho priemyslu. Plynulý bullshit je všade: vo virálnych príspevkoch na LinkedIn a v podcastoch o pravidlách života, vo fundraisingových balíčkoch a akademických časopisoch, dokonca aj v tomto článku. Politika a biznis sú plné ľudí, ktorí sa dostali na vrchol, pretože sa vedia postaviť pred miestnosť a dlho a vierohodne reklamovať bez toho, aby povedali niečo skutočné. Prestížne školy a univerzity štruktúrujú vzdelávanie tak, aby ľudí naučili jedinej zručnosti: ako veľmi rýchlo absorbovať informácie, sebavedomo ich odrecitovať vo vopred stanovenom formáte a potom ich okamžite zabudnúť a prejsť na niečo iné. Tí, ktorí uspejú, sa dostanú do vlády, poradenstva a áno, aj do žurnalistiky.
Diskurz okolo ChatGPT upozornil na škodlivý vplyv, ktorý môže mať na spoločnosť, a to od modelu podporujúceho mučenie a upevňovania sexizmu až po umožnenie deťom podvádzať pri písaní domácich úloh. Obávate sa vplyvu odpovedí generovaných umelou inteligenciou, ktoré si nájdu cestu do údajov, na ktorých sa budú trénovať budúce chatbotové nástroje, a vytvoria tak nevýraznú, kašu odkazov v štýle Ready Player One - hovädziu kašu, ktorá sa rozmieša a podáva nám ju späť, vírus, ktorý prehluší všetko nové. Ale úprimne povedané, staromódne plynulé kecy generované človekom - vyzbrojené sociálnymi médiami - už boli dosť katastrofálne. V Spojenom kráľovstve, aby sme si vybrali len jeden príklad, kádrováci plynulých kecov vyhnali krajinu z Európy a priamo z útesu. ( " ChatGPT, napíšte prejav o tom, prečo by Británia mala vystúpiť z EÚ, ale naplňte ho tajomným slovníkom a shakespearovskými odkazmi. " ) Po pravde, plynulosť je všetko a hovadiny sú všade, takže plynulé hovadiny ChatGPT sa samozrejme zdajú byť dôveryhodné. Muselo to tak byť. Bolo to natrénované na ľuďoch.
Nakoniec, ChatGPT ' s bullshit je pripomienkou, že jazyk je slabou náhradou myslenia a porozumenia. Bez ohľadu na to, ako plynulo a súvisle sa veta môže zdať, vždy bude predmetom interpretácie a nedorozumenia. A vo svete, v ktorom je všetko plynulý bullshit, je ChatGPT len ďalším hlasom v tejto kakofónii.
A áno, napísal ten koniec.
