Dans les eaux profondes du Golfe du Mexique, une jeune femme nommée Rachel s'accroche au flanc d'une plate-forme pétrolière. Le vent fait s'emmêler ses cheveux auburn et les embruns détrempent son jean, mais elle grimpe, déterminée à découvrir des preuves de forage illégal. Mais lorsqu'elle arrive à bord, elle découvre que quelque chose de bien plus sinistre est en jeu.
Voici un extrait de Oil and Darkness, un film d'horreur qui se déroule sur une plate-forme pétrolière. Il met en scène Rachel, une militante écologiste, Jack, le contremaître de la plate-forme, rongé par la culpabilité, et Ryan, un dirigeant d'entreprise véreux, qui a mené des recherches dangereuses sur un " nouveau type de pétrole hautement inflammable ". "C'est le genre de film dont on jurerait avoir vu la seconde moitié en zappant sur une chaîne de télévision ou en s'assoupissant sur un vol long-courrier. C'est aussi un film entièrement inventé. ;
Le chatbot IA est entraîné sur des textes provenant de livres, d'articles et de sites Web qui ont été "nettoyés" et structurés dans le cadre d'un processus appelé apprentissage supervisé. ChatGPT peut écrire du code, inventer des chansons et composer des limericks et des haïkus. Il se souvient de ce qu'il a écrit et le modifie soigneusement sur demande. Il prend en compte même les demandes les plus aléatoires et compose des histoires qui relient soigneusement des fils concurrents : Des détails qui semblent hors de propos dans le premier paragraphe portent leurs fruits dans le dernier. Il peut raconter des blagues et expliquer pourquoi elles sont drôles. Il peut écrire des titres de magazine, percutants et accrocheurs, avec des citations convaincantes mais complètement inventées.
Tout cela rend le jeu avec ChatGPT incroyablement amusant, charmant et addictif, et - pour quelqu'un qui écrit pour vivre - vraiment très inquiétant. Mais vous commencez rapidement à sentir un manque de profondeur sous la prose compétente de ChatGPT. Il commet des erreurs factuelles, confond les événements et les personnes. Il s'appuie fortement sur des tropes et des clichés, et se fait l'écho des pires stéréotypes de la société. Ses mots sont superficiellement impressionnants mais largement dépourvus de substance - ChatGPT produit principalement ce que The Verge a décrit comme " une connerie fluide ". "
Mais ça a du sens. ChatGPT a été entraîné sur des textes du monde réel, et le monde réel fonctionne essentiellement sur des conneries fluides. Peut-être que la plausibilité d'un film inventé comme Oil and Darkness ne vient pas du fait que l'IA est si bonne, mais parce que l'industrie cinématographique est si mauvaise pour trouver des idées originales. D'une certaine manière, lorsque vous demandez à une IA de vous faire un film, elle ne fait qu'imiter le processus formel par lequel de nombreux blockbusters hollywoodiens sont réalisés : On regarde autour de soi, on voit ce qui a eu du succès, on en reprend des éléments (acteurs, réalisateurs, structures de l'intrigue) et on les mélange pour obtenir une forme qui semble nouvelle mais qui ne l'est pas. C'est la même chose dans l'édition, où des tendances étroites peuvent balayer l'industrie et dominer pendant des années, garnissant les étagères des librairies de couvertures qui se ressemblent ou de titres au même rythme : Une brève histoire de sept meurtres, Les sept morts d'Evelyn Hardcastle, Les sept lunes de Maali Almeida, Les sept vies de sept tueurs. (ChatGPT a inventé cette dernière).
Et ce n'est pas seulement dans les industries créatives. Le baratin est partout : dans les messages viraux de LinkedIn et les podcasts sur les règles de vie, dans les dossiers de collecte de fonds et les revues universitaires, voire dans cet article lui-même. La politique et le monde des affaires regorgent de personnes qui se sont hissées au sommet parce qu'elles sont capables de se tenir devant une salle et d'improviser longuement de manière plausible sans rien dire de réel. Les écoles et universités prestigieuses structurent l'éducation de manière à enseigner aux gens une seule compétence : comment absorber très rapidement des informations, les régurgiter avec confiance dans un format prédéterminé, puis les oublier immédiatement et passer à autre chose. Ceux qui réussissent se dirigent vers le gouvernement, la consultance, et oui, le journalisme.
Le discours autour de ChatGPT a mis en évidence les effets néfastes qu'il pourrait avoir sur la société, allant de l'encouragement de la torture à la perpétuation du sexisme en passant par la possibilité pour les enfants de tricher sur leurs devoirs. Vous vous inquiétez de l'impact des réponses générées par l'IA qui se retrouvent dans les données sur lesquelles les futurs outils de chatbot sont formés, créant une bouillie de références indistinctes, dans le style de Ready Player One - un purin bovin, baratté et renvoyé vers nous, un virus qui noie tout ce qui est nouveau. Mais, pour être honnête, la bonne vieille connerie fluide générée par l'homme - armée par les médias sociaux - a déjà été assez désastreuse. Au Royaume-Uni, pour ne prendre qu'un seul exemple, un groupe de baratineurs a fait sortir le pays de l'Europe et l'a précipité directement du haut d'une falaise. (" ChatGPT, écrivez un discours sur les raisons pour lesquelles la Grande-Bretagne devrait quitter l'UE, mais remplissez-le de vocabulaire obscur et de références shakespeariennes. " ) Post-vérité, la fluidité est tout et la connerie est partout, donc bien sûr la connerie fluide de ChatGPT semble plausible. C'était obligé. Il a été formé sur les gens ;
En fin de compte, les conneries de ChatGPT nous rappellent que le langage est un piètre substitut à la pensée et à la compréhension. Aussi fluide et cohérente que puisse paraître une phrase, elle sera toujours sujette à interprétation et à malentendu. Et dans un monde où tout n'est que connerie fluide, ChatGPT n'est qu'une voix de plus dans la cacophonie.
Et oui, il a écrit cette fin.
