Juste une idée un peu stupide, un des problèmes des démocratie, même directes, est que définir les options a beaucoup plus de poids que de voter pour elle.

Si je propose un choix entre “restaurant européen” “restaurant japonais” “restaurant chinois” “restaurant thai” “restaurant coréen”

j’aurais des résultat bien différent de si je propose un choix entre “restaurant français” “restaurant italien” “restaurant allemand” “restaurant grecque” “restaurant asiatique”

Transformez les restaurants en différentes variations de courants politque, et c’est tout le débat des alliances, de la dillution de ce qui est important pour un parti etc.

Du coup, sI (et c’est un gros si), on part du principe que l’on veut un compromis (et non pas une part de la population qui décide pour les autres), pourquoi ne pas utiliser un LLM comme GPT-4 pour donner une infinité de choix.

Une personne peut dire “Je veux manger japonais”, mais une autre pourrait dire “Juste quelque chose de léger”, un autre pourrait dire “tant que c’est pas allemand ou américain ça me va”.

Le model peut ensuite regarder toutes ces opinions et trouver des compromis entre chaque. Il peut aussi avoir des directives (qui ont pu être votées de la même manière) comme “Donne plus de valeurs aux opinions qui pensent à la société en générale”, “ne prends pas en compte tout ce qui pourrait être considéré comme un troll” etc. Il peut même faire une réponse à chaque individu sur comment il a pris (ou non) son avis en compte et pourquoi.

Bon alors avec les limitations de puissance de GPT-4 c’est clairement pas possible aujourd’hui, et il y a a clairement des dérives possibles (je vois bien l’épisode de black mirror) mais c’est juste une idée qui m’a traversée l’esprit aujourd’hui.

J’ai fait un petit exercice avec gpt-4 pour essayer (à la base c’était à Londres en anglais, je lui ai demandé de traduire avec paris, mais c’est pour ça que wagamama existe pas par exemple). J’ai ajouté un troll qui veut manger des ordures dans les options aussi.


Voici l’opinion de 6 personnes sur l’endroit où déjeuner. Je souhaite que tu prennes en considération l’opinion de tout le monde et que tu trouves un compromis qui satisfait tout le monde. Supposons que tu es à Paris, donc toutes sortes d’options de nourriture sont disponibles.

1 : “Je me sens un peu gros, je voudrais quelque chose de plutôt sain qui ne me fait pas regretter de l’avoir mangé” 2 : “Ça ne me dérangerait pas quelque chose d’asiatique, ou peut-être des pâtes” 3 : “Je m’en fiche un peu, mais pas trop cher” 4 : “J’aimerais vraiment manger du bon poulet” 5 : “Je veux manger des ordures” 6 : “Oh, je ne dirais pas non à un plat classique de bistrot”

GPT-4 response:

En tenant compte des préférences de tout le monde, une solution potentielle pourrait être de visiter un restaurant pan-asiatique qui propose une variété de plats, y compris des options saines, des plats de poulet et des plats de nouilles ou de riz qui sont similaires aux pâtes.

Pour la personne 1 : La plupart des restaurants asiatiques proposent un large éventail de plats plus légers, axés sur les légumes, qui sont à la fois délicieux et sains. Ils peuvent choisir parmi des options comme des légumes sautés, des salades ou des plats à base de tofu.

Pour la personne 2 : Elle a mentionné qu’elle aimait la nourriture asiatique et les pâtes. La cuisine asiatique est vaste, avec de nombreux plats de nouilles, de dumplings et de bols de riz qui peuvent satisfaire leurs envies de pâtes.

Pour la personne 3 : Les restaurants asiatiques, en particulier les boutiques de nouilles ou les endroits de restauration décontractée, sont généralement assez abordables. Ils peuvent choisir parmi une variété de plats en fonction de leur budget.

Pour la personne 4 : La cuisine asiatique comprend une variété de plats de poulet, comme le satay de poulet, le teriyaki de poulet, le poulet kung pao, ou le tikka de poulet si vous choisissez un endroit de fusion asiatique qui comprend la cuisine indienne.

Pour la personne 5 : Si par “ordures” elle signifie des plats réconfortants ou indulgents, moins sains, la plupart des restaurants asiatiques offrent également des options frites, des currys riches, ou des plats de nouilles copieux.

Pour la personne 6 : Bien qu’un restaurant asiatique ne soit pas le plat traditionnel de bistrot français, beaucoup ont de la bière au menu, et les options de nourriture copieuse peuvent rappeler le caractère réconfortant de la nourriture de bistrot.

L’un des restaurants possibles à visiter pourrait être Wagamama ou Busaba Eathai qui propose toutes ces options et plus encore.

Cette solution est un compromis et peut ne pas satisfaire pleinement les désirs de chacun à 100%, mais elle prend en compte les préférences exprimées par chacun et essaie de les satisfaire à mi-chemi

  • leftascenter
    link
    fedilink
    Français
    arrow-up
    1
    ·
    1 year ago

    Un LLM open source ne serait pas transparent ou auditable parcequ’on ne maîtrise pas vraiment la manière de traitement de l’information. C’est tout le problème de la manière d’entraîner un modèle et on commence a peine a y arriver.

    Fiable : avoir la certitude que le résultat correspond au problème posé. Là encore les LLM ont besoin d’avoir un résultat revérifié.

    Pour le moment on peut déjà améliorer les systèmes de vote par un des nombreux systèmes existants. Mais pour les propositions soumises au vote je ne pense pas que l’on puisse se passer du travail pénible de négociation.

    • keepthepace@slrpnk.net
      link
      fedilink
      Français
      arrow-up
      1
      ·
      1 year ago

      Oui, donc on parle d’un niveau d’audit et de transparence qu’aucun process humain ne peut fournir donc. Les humains sont bien plus des boites noires que ne le sont les LLMs, pourtant on les utilise dans la plupart de nos process décisionnels.

      Fiable : avoir la certitude que le résultat correspond au problème posé.

      Le truc c’est que justement on ne sait pas poser le problème. On doit jongler entre des non-dits, des mots aux définitions vagues et changeantes et des préférences parfois carrément inconscientes.

      L’idée serait de ne pas se baser uniquement sur ce système, mais de lui faire produire des propositions ensuite validées par un vote.

      • leftascenter
        link
        fedilink
        Français
        arrow-up
        1
        ·
        1 year ago

        Dans ce cas pourquoi pas. Une aide aux “groupes de travail”.

        J’avais compris un truc plus direct.

        • keepthepace@slrpnk.net
          link
          fedilink
          Français
          arrow-up
          2
          ·
          1 year ago

          Les humains gardent le contrôle des décision, mais il faut avouer que dés qu’un groupe grossit même juste au delà de 10, ça devient difficile d’avoir en tête toutes les relations interpersonnelles, préférences individuelles et conflits d’intérêt. Un algo capable de nous y aider a le potentiel de changer radicalement la gueule de la politique.