На глубине Мексиканского залива молодая женщина по имени Рейчел держится за борт нефтяной вышки. Ветер закручивает ее рыжие волосы в дикий клубок, океанские брызги заливают джинсы, но она лезет вперед, решив найти доказательства незаконного бурения. Однако, прибыв на борт, она обнаруживает нечто гораздо более зловещее.
Это фрагмент фильма ужасов "Нефть и тьма", действие которого происходит на нефтяной вышке. В нем участвуют активистка экологического движения Рейчел, испытывающий чувство вины бригадир Джек и теневой руководитель корпорации Райан, который проводит опасные исследования "нового типа легковоспламеняющейся нефти". "Это тот фильм, который, клянусь, можно посмотреть во второй половине, когда вы поздно вечером переключали каналы или задремали во время дальнего перелета. Он также полностью выдуман.
ИИ-чатбот обучается на текстах из книг, статей и веб-сайтов, которые были "очищены" и структурированы в процессе, называемом контролируемым обучением. ChatGPT может писать код, придумывать песни, сочинять лимерики и хайку. Он запоминает написанное и тщательно редактирует по запросу. Он воспринимает даже самые случайные подсказки, сочиняя истории, которые аккуратно связывают конкурирующие нити воедино: Детали, которые кажутся несущественными в первом абзаце, оправдывают себя в последнем. Он может рассказывать шутки и объяснять, почему они смешные. Он может писать заголовки в журнальном стиле, пронзительные и привлекающие внимание, с убедительными, но полностью сфабрикованными цитатами.
Все это делает игру с ChatGPT невероятно веселой, очаровательно затягивающей и - как человека, зарабатывающего на жизнь писательством, - действительно очень волнующей. Но вскоре вы начинаете чувствовать недостаток глубины под грамотной прозой ChatGPT. Он допускает фактические ошибки, смешивает события и путает людей. Он в значительной степени полагается на тропы и клише и повторяет худшие стереотипы общества. Его слова внешне впечатляют, но в значительной степени лишены сути - ChatGPT в основном производит то, что The Verge назвал "беглым бредом". "
Но в этом есть определенный смысл. ChatGPT обучался на реальном тексте, а реальный мир, по сути, работает на беглом бреде. Возможно, правдоподобность такого выдуманного фильма, как "Нефть и тьма", объясняется не тем, что ИИ так хорош, а тем, что киноиндустрия так плохо придумывает оригинальные идеи. В каком-то смысле, когда вы просите ИИ снять вам фильм, он просто подражает шаблонному процессу, по которому снимаются многие голливудские блокбастеры: Оглянитесь вокруг, посмотрите, что было успешным, возьмите его элементы (актеров, режиссеров, сюжетные структуры) и соедините их в форму, которая выглядит новой, но на самом деле таковой не является. То же самое происходит и в издательском деле, где узкие тенденции могут охватить индустрию и доминировать в течение нескольких лет, заполняя полки книжных магазинов одинаковыми обложками или названиями с одинаковым ритмом: Краткая история семи убийств, Семь смертей Эвелин Хардкасл, Семь лун Маали Алмейды, Семь жизней семи убийц. (ChatGPT выдумал последнее).
И это касается не только творческих индустрий. Беглый бред встречается повсюду: в вирусных постах LinkedIn и подкастах "Правила жизни", в документах по сбору средств и научных журналах, даже в самой этой статье. В политике и бизнесе полно людей, которые поднялись на вершину благодаря умению стоять перед аудиторией и правдоподобно излагать свои мысли, не говоря ничего реального. Престижные школы и университеты строят образование таким образом, чтобы научить людей одному навыку: как очень быстро усваивать информацию, уверенно излагать ее в заранее определенном формате, а затем тут же забывать ее и переходить к чему-то другому. Те, кто преуспел, идут в правительство, консалтинг и, да, в журналистику.
Дискурс вокруг ChatGPT отметил пагубное влияние, которое он может оказать на общество: от модели поощрения пыток и увековечивания сексизма до предоставления детям возможности списывать домашние задания. Вы беспокоитесь о том, что ответы, сгенерированные ИИ, попадут в данные, на которых будут обучаться будущие чатботы, создавая неразборчивую кашу из рекомендаций в стиле "Готов играть в первый" - бычью жижу, которую взбалтывают и скармливают нам, вирус, заглушающий все новое. Но если быть честным, старомодная человеческая беглая чушь, генерируемая людьми, - оружие социальных сетей - уже привела к катастрофе. В Великобритании, если привести лишь один пример, группа беглых брехунов вытолкнула страну из Европы и прямо с обрыва. ("ChatGPT, напишите речь о том, почему Британия должна покинуть ЕС, но наполните ее заумной лексикой и шекспировскими отсылками. " ) Пост-правда, беглость - это все, а чушь - везде, поэтому, конечно, беглое дерьмо ChatGPT кажется правдоподобным. Это было необходимо. Он был обучен на людях.
В конце концов, ChatGPT ' s bullshit - это напоминание о том, что язык - плохая замена мысли и понимания. Каким бы беглым и связным ни казалось предложение, оно всегда будет подвержено интерпретации и непониманию. И в мире, где все является беглым бредом, ChatGPT - это еще один голос в этой какофонии.
И да, там написана такая концовка.
