Hello tout le monde,

Réflexion que je me faisais à l’instant: actuellement, tout le monde se moque un peu du ton très pompeux et sérieux des IA, qui les rendent rapidement détectables.

Que se passera-t-il le jour où cela ne sera plus le cas? Imaginez un bot capable de s’exprimer comme un-e utilisataire normal-e, donc avec ses tics de langages, ses fautes de grammaire, ses typos, etc., et qui en plus posterait ou commenterait à une fréquence similaire à un humain?

Imaginez ensuite que ces bots, il y en ait des milliers.

Le premier scénario qui vient à l’esprit c’est clairement la promotion de produits, puisque ces recommendations paraîtront légitimes.

Le second c’est des forums comme Lemmy ou Reddit où une partie non négligeable des membres seraient en fait des bots, indétectables. On peut imaginer un bot qui génère une image de chat par IA et poste toutes les semaines une photo différent du “même chat”.

Qu’en pensez-vous?

    • Camus [il/lui]@lemmy.blahaj.zoneOPFrançais
      1·
      7 months ago

      Merci pour les rappels, je connaissais la Dead Internet Theory, c’est effectivement ce qui risque d’arriver.

      Pas sûr de voir le lien avec Worldcoin par contre?

      • ivn@jlai.luFrançais
        2·
        7 months ago

        Oui, j’ai vu ce post et ça m’y a fait penser mais je n’avais pas trop le temps alors j’ai juste mis ces deux liens sans aucune explication.

        Prouver qu’un utilisateur est bien un humain est un problème compliqué, il y a des solutions mais aucune n’est parfaites. Il y a plein de services pour résoudre les captcha et les autres solutions (numéro de téléphone, scan de papier d’identité…) ont des implications sur la vie privé et peuvent quand même être contournés assez facilement (on peut générer des papiers d’identité par IA maintenant).

        Worldcoin c’est la “solution” à base de blockchain des cryptobros à ce problème. En gros pour se créer un compte (un World ID) il faut scanner son iris et on reçoit quelques tokens WLD. Ils présentent ça comme le système ultime de “preuve d’humanité” et prétendent vouloir s’en servir pour créer un revenu universel. Je crois que leur “idée” c’est que si une AGI est développée on aura plus besoin de travailler, il faudra donc un revenu universel mais pour éviter les abus il faut un moyen d’identifier les individus. Bien sur c’est de la grosse merde bien dangereuse. Il y avait une “orb” (leur machine à scanner les iris) à Paris mais ils ont du suspendre leurs services dans plusieurs pays dont la France. Ils prétendent avoir déjà 3 millions d’utilisateurs, principalement dans des pays pauvres parce qu’il y a moins de loi lié à la vie privé et qu’ils est plus facile de motiver les gens en leur faisant miroiter quelques dollars (qui sont en fait donné en token WLD pas forcément simple à revendre).

        Je crois que c’est cet article qui m’avais fait découvrir le truc : https://www.citationneeded.news/worldcoin-a-solution-in-search-of/

        Avec cette image bien dystopique :

        image