メキシコ湾の深海で、レイチェルという名の若い女性が石油掘削装置の側面にしがみついている。赤茶色の髪を風になびかせ、海水がジーンズを濡らすが、彼女は違法掘削の証拠をつかむために乗り込む。しかし、その時、彼女はもっと邪悪なものを発見する。
これは、石油掘削施設を舞台としたホラー映画『オイル・アンド・ダークネス』の一部である。環境活動家のレイチェル、罪悪感に苛まれる現場監督ジャック、そして「新種の高可燃性オイル」の危険な研究をしていた怪しい会社役員ライアンが登場する。 そのため、このような「曖昧」な表現が使われています。また、完全に作り物です。
AIチャットボットは、教師あり学習と呼ばれるプロセスで「クリーニング」され構造化された本、記事、ウェブサイトからのテキストで訓練されます。ChatGPTは、コードを書いたり、歌を作ったり、詩や俳句を詠んだりすることができます。また、書いたものを記憶し、要求があれば丁寧に編集します。また、不規則なプロンプトでも、きちんと受け止めて、矛盾のないストーリーを構成してくれます。最初の段落では関係ないと思われた内容が、最後の段落で報われる。ジョークを言い、それがなぜ面白いかを説明できる。説得力のある、しかし完全に捏造された引用を含む、パンチの効いた、注意を引く雑誌風のリードを書くことができる。
このように、ChatGPTは非常に楽しく、魅力的な中毒性があり、そして、生活のために書いている者として、本当に非常に心配です。しかし、ChatGPTの有能な散文の下にある深みのなさをすぐに感じ始めることになります。それは事実誤認を犯し、出来事を混同し、人々を混同しています。また、そのような文章は、社会的なステレオタイプ（固定観念）と同じようなものです。その言葉は表面的には印象的ですが、中身はほとんどなく、ChatGPTはほとんど、The Vergeが「流暢なたわごと」と表現したものを作り出しています。 "
でも、それはそれで意味があるんです。ChatGPTは実世界のテキストで訓練され、実世界は基本的に流暢なデタラメで動いているのです。油と闇』のようなでっち上げの映画が成立するのは、AIが優秀だからではなく、映画産業が独創的なアイデアを出すのが下手だからかもしれません。ある意味、AIに映画を作るように頼むと、ハリウッドの大作が作られるような定型的なプロセスを真似しているだけなのです。成功したものを見て、その要素（俳優、監督、プロット構造）を取り入れ、新しいように見えて実はそうでないものに作り変えていく。 そのため、このような「曖昧さ」は、「曖昧さ」そのものであり、「曖昧さ」そのものが「曖昧さ」なのです。(最後の1つはChatGPTが作りました)。
そして、それは創造的な産業だけではありません。LinkedInのバイラルポストや人生のルールのポッドキャスト、資金調達のデッキや学術雑誌、そしてこの記事そのものに至るまで、流暢なデタラメはどこにでもある。政治やビジネスには、部屋の前に立って、本当のことを何も言わずに、もっともらしく長々とアドリブで話すことができるためにトップに上り詰めた人々がたくさんいるのです。名門校や名門大学の教育は、情報を素早く吸収し、決められたフォーマットで自信たっぷりに復唱し、すぐに忘れて他のことに移るという、一つのスキルを教えるような仕組みになっている。成功した人たちは、政府機関やコンサルタント会社、そしてジャーナリズムの世界へと羽ばたいていく。
ChatGPTをめぐる言説は、拷問を奨励し、性差別を永続させ、子供が宿題をごまかせるようにするモデルなど、それが社会に与えるかもしれない有害な影響を指摘している。このような、「AIが生成した回答が、将来のチャットボットツールが学習するデータの中に入り込み、不明瞭な、レディ・プレイヤー・ワン風の粥のような参考文献が作られるのではないか」と心配される方もいらっしゃると思います。 しかし、正直なところ、昔ながらの人間が生成した流暢なデタラメは、ソーシャルメディアによって武器化され、すでにかなり悲惨な状態になっている。一例を挙げると、イギリスでは、流暢なデタラメを言う人たちが国をヨーロッパから追い出し、そのまま崖っぷちに追いやったのです。( 「ChatGPT、イギリスがEUを離脱すべき理由について、難解な語彙とシェイクスピアの引用で埋め尽くされたスピーチを書いてください。 " ) 真実の後では、流暢さがすべてで、でたらめはどこにでもあるので、ChatGPT の流暢なでたらめは、もっともらしく感じられます。そのはずです。それはpeople. に訓練されました。
結局のところ、ChatGPTの戯言は、言語が思考と理解の代用にはならないことを思い知らされることになります。どんなに流暢で首尾一貫した文章に見えても、解釈や誤解の可能性は常にあります。そして、すべてが流暢なデタラメであるこの世界では、ChatGPTもまた、不協和音の中の一声に過ぎないのです。
そう、あの結末を書いたのです。
