Le magazine américain de science-fiction Clarkesworld est désormais inondé de textes générés par l’IA, et cela a un impact très spécifique sur sa ligne éditoriale.
L’intelligence artificielle est depuis longtemps l’un des thèmes de prédilection de la science-fiction. Ainsi, l’histoire du magazine de science-fiction américain « Clarkesworld » est assez ironique. Selon PC Gamer, la rédaction cessera temporairement de publier les contributions de ses lecteurs… car elle est désormais inondée de textes rédigés par des chatbots intégrant du machine learning.
Cependant, c’est une vieille tradition de Clarkesworld. Au fil des années, le mensuel a pris l’habitude de publier les meilleures nouvelles de ses lecteurs sur le thème de la science-fiction. Le magazine choisit même de payer les auteurs de nouvelles jusqu’à 12 cents le mot pour encourager les auteurs en herbe à faire ressortir le meilleur d’eux-mêmes.
Inévitablement, certains personnages infâmes tentent d’abuser du système. L’équipe du magazine reçoit régulièrement des textes plagiés d' »auteurs » peu scrupuleux dans l’espoir de se faire un peu d’argent. Jusqu’à présent, ces cas sont restés relativement rares. Mais l’avènement des chatbots alimentés par l’IA, comme l’indispensable ChatGPT, a complètement changé la donne.
Taux de plagiat élevé chez les étudiants
À l’instar des étudiants de l’Université de Lyon qui se sont retrouvés impliqués dans un incident de tricherie par intelligence artificielle en janvier, certains esprits brillants ont rapidement flairé une opportunité. Une nouvelle génération d’usurpateurs utilise désormais ces outils pour générer des quantités industrielles de journalisme. Ils l’utilisent ensuite pour spammer la boîte de réception de Clarkesworld afin de maximiser leurs chances d’être sélectionnés.
Résultat: les éditeurs ont été bombardés de texte généré par l’IA pendant un certain temps. Cela a causé un casse-tête pour le magazine. Le problème est de ne pas reconnaître ces textes générés par l’IA. Selon le rédacteur en chef Neil Clarke, ils ont été trouvés pour « des raisons particulièrement évidentes » – bien qu’il ait refusé de donner plus de détails. « Je n’ai aucune intention d’aider ces personnes à éviter de se faire prendre », a-t-il expliqué.
Bientôt les contenus de qualité
Ce qui est vraiment inquiétant, c’est que ce phénomène commence à prendre tellement d’ampleur que l’équipe en charge de l’édition n’a plus les moyens d’y remédier. « D’ici la fin de 2022, à mesure que les chatbots d’IA deviendront populaires, le plagiat montera en flèche. Avec ce nouvel outil, davantage de tricheurs tenteront la pratique. Cela deviendra rapidement incontrôlable », a expliqué Clark dans un article de blog.
Cette tendance est clairement visible dans un graphique publié sur le compte Twitter de Clarkesworld. Nous avons observé que le nombre de contributions plagiées ou produites par l’IA est passé de 25 en novembre à 50 en décembre, puis à plus de 100 en janvier, puis à… 500 en février.
De plus, plus ces chatbots sont sophistiqués, plus il sera difficile de faire la distinction entre le texte écrit par un humain et le spam écrit par ordinateur. « La technologie sous-jacente ne fera que s’améliorer et la détection deviendra un défi croissant », admet Clarke.De manière déchirante, connaître les histoires que les lecteurs publient fait partie intégrante du parcours éditorial du magazine.
Mais au-delà des spécificités de Clarkesworld, l’histoire montre comment l’essor de ces outils a perturbé la création de contenu de manière très spécifique. Raison de plus pour garder un œil sur le développement de cette technologie.
Source: pc gamer