Ce n’est pas un secret, mais il y a de plus en plus de bots partout qui postent du spam, en particulier sur les réseaux sociaux, et c’est amplifié par l’IA.

Je pourrais ressortir pas mal d’exemple qui ont eut lieu ces derniers temps :

• Twitter est le cas d’école, envahi par les “pornbot”
• Tumblr aussi en a subit pas mal à un moment (je sais pas si c’est résolu, j’utilise plus trop tumblr et on n'en entends pas trop parler partout)
• Facebook subit un spam de bot IA

Le fameux thread twitter Sonic du Google Play a aussi pas mal amené dans les cercles Sonic ces questions des trucs fait par IA (et on a beaucoup rigolé face à ce thread, parce qu'il réussissait à avoir tout faux, et parfois de manière complètement cheloue, ou la moindre recherche aurait montré que c'était faux, du genre mettre un truc sorti en genre ~2015 pour 1993, ce qui est un peu chaud mdr), de part l'exemple de ce que ça donnait potentiellement (même si c'est pas confirmé) quand on laissait un truc automatique faire ça (même si Google dement qu’il a été fait par IA, de mon côté j'ai du mal à voir comment quelqu'un qui cherche sur internet ferait certaine des erreurs).

Tout ceci à ramené à une théorie du complot un peu populaire sur internet : la théorie de l’internet mort.

Pourquoi dit-on qu’internet est mort ?

La “théorie de l’internet mort” déclare que la majorité des interactions qu’on a sur internet ne seraient pas réelle, mais des interactions entre bots pour simuler un semblant d’activité, ou pour citer wikipedia :

La théorie de l’Internet Mort est une théorie du complot, qui considère que le réseau Internet n’est pratiquement plus peuplé que par des bots et que la majorité du contenu est généré par des algorithmes, marginalisant l’activité humaine. La date donnée pour ce « décès » se situe autour de 2016 ou 20171.

Une extension de cette théorie du complot est l’hypothèse qu’Internet va être submergé par le contenu généré par des algorithmes, notamment avec les avancées sur les agents conversationnels.

Les exemples souvent donner (en plus de ceux précédant) aujourd’hui sont des cas de pollution par des contenus généré par algorithme/IA. Je vais en prendre deux particulièrement que j’avais trouvé intéressant :

• Une quantité de produit en vente sur Amazon ont été vu avec des produits qui ont dans leur description ou leur titre le disclaimer “désolé, mais je ne peut pas compléter utiliser cette tâche” de chatGPT.
• La même chose dans des conversations Twitter, ce qui participe à l’impression de “ville fantôme” que donne de plus en plus le réseau social.
• La quantité de site spam généré par IA qu’on retrouve sur google quand on fait une recherche.

De plus, de plus en plus de contenus créé par IA sont fait sur Youtube, et tout cela donne l’impression d’un takeover des IA. Cependant, est-ce vraiment ce qu’il parait ? Est-ce que c’est vraiment qu’internet devient majoritairement remplis de bot, et qu’on interragit de moins en moins avec des gens ?

Je pense que c’est plus compliqué.

Le soucis se retrouver même avec des humains

Je pense que le fait d’avoir des trucs par bot aujourd’hui n’est qu’une extensions de chose qui étaient faites par des humains. Déjà, les soucis de spam IA ne sont pas forcément que lié à des bots qui génèrent du contenus automatiquement. Du genre, dans le cas de youtube, les chaines ou quasiment tout est fait par IA sont généralement géré par un⋅e humain⋅e qui gère des tonnes de chaines (quand c’est industrialisé, genre pour les fermes à contenus). Pour en revenir à aux thread Sonic : en fait, même dans le cas ou Google aurait raison et que ça n'aurait pas été fait par IA (même si je pense qu'ils peuvent mentir pour pas passer pour des nuls juste avant de faire des annonce sur leur IA Gemini), c'est fait dans le même esprit que pleins de trucs fait par IA : "vite fait mal fait".

De plus, pour donner l’exemple d’un autre site fortement enshittifié par l’IA, deviantART (dont cet article parle fortement), encore une fois aussi, on a des humains derrière. Ce n’est pas juste un “web automatisé”, c’est des personnes utilisant l’automatisation pour industrialiser de la “création” ou des interactions pour “farmer” l’argent.

Et tout cela, c’est pas nouveau : pour moi on est dans une extension de ce qui se faisait déjà. Même avant les IA, youtube était déjà envahi de fermes à contenus qui produisaient à la chaine des contenus souvent baclé dans le but de maximiser des vues soit pour faire le plus d’argent possible et de viser ce qui marche dans l’algorithme (le tout souvent avec des écrivains poussé avec des conditions de travail déplorable, et/ou de l’utilisation de plagiat pour avancer).

Dans le domaine des livres audio, ce phénomène est décrit par la chaine Folding Ideas dans son essai vidéo Contrepreneurs, qui contient quelques aspects que je trouve intéressant ou je vais revenir : les liens avec l’aspect un peu “scam” et les “get rich quick scheme”.

Dans le cas de ceux avec une personne visible, ou une chaine utilisant un nom/pseudo pour faire plus “personnel”, on est face à des produits souvent calibrés pour l’algorithme, ou alors généré/produit à la volée sans grande réflexion, parfois mis en forme de manière à faire “fait par quelqu’un”. Le but est d’avoir l’aspect “personnalité” sans produire du contenu personnel.

Au fond, certains placement de produit fonctionne sur le même genre de biais psychologique : on tente de nous faire croire que ce qui est un script est en fait le véritable avis d’une vrai personne.

Et je pense que c’est pour tout ça que c’est important de dire que ce ne sont pas des phénomènes nouveaux : C’est la continuation de phénomène présent depuis plus de dix ans, avec la présence de plus en plus d’algorithme dans les réseaux sociaux, la quantité d’argent à se faire et la culture du “get rich quick scheme” et du scam. On a retrouvé ça énormément dans des phénomènes comme la communauté autour des actions gamestop, les NFTs… et tout cela vient déjà d’élément qui existaient avant IRL.

Des gens tentent de farmer le système pour se faire le plus de fric possible avec le moins d’effort possible. Les IA ne sont qu’un nouveau moyen de faire ça, au final. On avait énormément de spam, et les spams ont un nouvel outil. Cependant, il ne faut pas dire que ce n’est rien, et je reviendrais plus tard sur ça.

Avant, j’ai un autre point à critiquer de cette théorie : l’idée qu’on serait complètement envahi et tout.

L’internet vivant existe toujours

Je pense qu’il est très important de ne pas se dire “internet est mort, c’est fini”, et qu’une des plus grandes raisons de critiquer la théorie de l’internet mort, est qu’internet est plus grand et riche que les trois sites les plus populaire et les comptes qui postent en masse. Dire qu'internet est mort parce que ces sites sont envahis par les bots et le contenus mort-vivant est une indication de la tendance à considérer que ces sites sont la seule chose qui compterait sur internet.

Que ce soit sur le fediverse où je croise des tas de vrai gens (avec leurs qualités, leurs défauts, leurs centres d’intérêts, etc), ou que ce soit sur les nouveaux sites/blogs personnels, ou les chaines youtubes que je suis encore (même si y’a une grosse professionnalisation de youtube qui est en fait encore plus un soucis pour s’intéresser aux petit⋅es créateur⋅ices indés) : il existe encore des tas intéressants et cool sur internet, et tomber dans le doomposting sur l’internet mort n’aidera pas à l’améliorer.

Malgré les pornbots, tumblr était quand même encore pleins de personnes ayant les discussions les plus improbable iels ont inventé un film de Scorsese et une déesse grecs), et on trouve encore des tonnes de conversations entre vrais humain. De plus,  deviantART qui est considéré comme “mort” comme des tas d’artiste a reçu plusieurs tentatives de remplacement dont la dernière en date est Sheezy. Il y a donc une vrai volonté de rester sur un internet avec des gens, et je pense que la recrudescence d’importance du web indépendant est liée à tout ça. Je pense qu'il est du coup plus juste de désigner (comme des gens le font déjà, les sites genre Twitter et tout de "ville fantôme" plutôt que de dire que tout internet est mort.

Cependant, cela ne veut pas dire qu’il ne faut pas minimiser le soucis que propose ce qui est considéré comme “l’internet mort”. En effet, il a un pouvoir de nuisance.

C’est quand même un problème

Donc, il y a un internet un peu mort-vivant à côté de celui vivant. Et je pense qu’il reste un soucis, même si l’internet vivant existe toujours, et qu’il va falloir de plus en plus trouver des moyens de lutter contre.

Le premier soucis est le spam. Ce spam est ENVAHISSANT. C’est difficile de faire des recherches sans se retrouver avec des tonnes de contenus pourris, généré automatiquement, parce qu’il sont fait pour jouer sur l’algorithme. Cela provoque une enshittification de tas de site comme Google, YouTube, ou c’est souvent difficile de trouver ce qu’on veut, et ou les feed sont souvent pollué de contenus généré par IA ou fait à la chaine.

Le second est l’utilisation de ce genre de moyen pour propager de la propagande d’extrême droite. Cela se voit dans la chaîne youtube moon, ou dans l’utilisation de nombreuses image IA sur les réseaux sociaux pour créer des images choc de propagande.

C’est pour cela qu’il faut je pense lutter contre. Je vais pas rentrer dans les détails pour chaque moyens de lutte (je préfère faire ensuite pour chacun qui en a besoin des articles dédier, histoire de pouvoir plus approfondir parce que je veux pas faire un truc trop long)

Quelques moyens cependant sont :

• Faire de la curation de site ou aller sur celles qui existe, pour découvrir ou permettre de faire découvrir les sites qu’on trouve intéressant
• Ne pas hésiter à utiliser les Flux RSS des sites pour s’y abonner ! Cela permet de voir les derniers nouveautés sans réseaux sociaux, c’est pratique.
• Utiliser un blocker de pub, et des outils comme DeArrow, Sponsorblock, etc… pour améliorer l’expérience sur les grosses plateforme.
• Utiliser un blocker de résultats de recherche, comme uBlackList
• S’intéresser aux sites indé ! Ne pas hésiter à chercher les sujets qui nous intéresse, à fouiller, à être curieux.

Et le dernier et plus important : agir collectivement pour faire pression sur les sites utilisant l’IA et trucs du genre. Et c’est le plus important : tout ce que j’ai dis avant sont des moyens individuels (et un peu semi-collectif : si on se met à pleins à leur retirer leur vues, bye bye), mais il est important d’agir collectivement, de faire pression pour avoir le futur que l’on veut.

Contrairement à ce qu’ils disent, ils ne sont pas le futur.

Construisons un mieux.

Source de la miniature : Un Memento mori par Johann Andreas Graff, XVIII^e siècle.