Juste une idée un peu stupide, un des problèmes des démocratie, même directes, est que définir les options a beaucoup plus de poids que de voter pour elle.
Si je propose un choix entre “restaurant européen” “restaurant japonais” “restaurant chinois” “restaurant thai” “restaurant coréen”
j’aurais des résultat bien différent de si je propose un choix entre “restaurant français” “restaurant italien” “restaurant allemand” “restaurant grecque” “restaurant asiatique”
Transformez les restaurants en différentes variations de courants politque, et c’est tout le débat des alliances, de la dillution de ce qui est important pour un parti etc.
Du coup, sI (et c’est un gros si), on part du principe que l’on veut un compromis (et non pas une part de la population qui décide pour les autres), pourquoi ne pas utiliser un LLM comme GPT-4 pour donner une infinité de choix.
Une personne peut dire “Je veux manger japonais”, mais une autre pourrait dire “Juste quelque chose de léger”, un autre pourrait dire “tant que c’est pas allemand ou américain ça me va”.
Le model peut ensuite regarder toutes ces opinions et trouver des compromis entre chaque. Il peut aussi avoir des directives (qui ont pu être votées de la même manière) comme “Donne plus de valeurs aux opinions qui pensent à la société en générale”, “ne prends pas en compte tout ce qui pourrait être considéré comme un troll” etc. Il peut même faire une réponse à chaque individu sur comment il a pris (ou non) son avis en compte et pourquoi.
Bon alors avec les limitations de puissance de GPT-4 c’est clairement pas possible aujourd’hui, et il y a a clairement des dérives possibles (je vois bien l’épisode de black mirror) mais c’est juste une idée qui m’a traversée l’esprit aujourd’hui.
J’ai fait un petit exercice avec gpt-4 pour essayer (à la base c’était à Londres en anglais, je lui ai demandé de traduire avec paris, mais c’est pour ça que wagamama existe pas par exemple). J’ai ajouté un troll qui veut manger des ordures dans les options aussi.
Voici l’opinion de 6 personnes sur l’endroit où déjeuner. Je souhaite que tu prennes en considération l’opinion de tout le monde et que tu trouves un compromis qui satisfait tout le monde. Supposons que tu es à Paris, donc toutes sortes d’options de nourriture sont disponibles.
1 : “Je me sens un peu gros, je voudrais quelque chose de plutôt sain qui ne me fait pas regretter de l’avoir mangé” 2 : “Ça ne me dérangerait pas quelque chose d’asiatique, ou peut-être des pâtes” 3 : “Je m’en fiche un peu, mais pas trop cher” 4 : “J’aimerais vraiment manger du bon poulet” 5 : “Je veux manger des ordures” 6 : “Oh, je ne dirais pas non à un plat classique de bistrot”
GPT-4 response:
En tenant compte des préférences de tout le monde, une solution potentielle pourrait être de visiter un restaurant pan-asiatique qui propose une variété de plats, y compris des options saines, des plats de poulet et des plats de nouilles ou de riz qui sont similaires aux pâtes.
Pour la personne 1 : La plupart des restaurants asiatiques proposent un large éventail de plats plus légers, axés sur les légumes, qui sont à la fois délicieux et sains. Ils peuvent choisir parmi des options comme des légumes sautés, des salades ou des plats à base de tofu.
Pour la personne 2 : Elle a mentionné qu’elle aimait la nourriture asiatique et les pâtes. La cuisine asiatique est vaste, avec de nombreux plats de nouilles, de dumplings et de bols de riz qui peuvent satisfaire leurs envies de pâtes.
Pour la personne 3 : Les restaurants asiatiques, en particulier les boutiques de nouilles ou les endroits de restauration décontractée, sont généralement assez abordables. Ils peuvent choisir parmi une variété de plats en fonction de leur budget.
Pour la personne 4 : La cuisine asiatique comprend une variété de plats de poulet, comme le satay de poulet, le teriyaki de poulet, le poulet kung pao, ou le tikka de poulet si vous choisissez un endroit de fusion asiatique qui comprend la cuisine indienne.
Pour la personne 5 : Si par “ordures” elle signifie des plats réconfortants ou indulgents, moins sains, la plupart des restaurants asiatiques offrent également des options frites, des currys riches, ou des plats de nouilles copieux.
Pour la personne 6 : Bien qu’un restaurant asiatique ne soit pas le plat traditionnel de bistrot français, beaucoup ont de la bière au menu, et les options de nourriture copieuse peuvent rappeler le caractère réconfortant de la nourriture de bistrot.
L’un des restaurants possibles à visiter pourrait être Wagamama ou Busaba Eathai qui propose toutes ces options et plus encore.
Cette solution est un compromis et peut ne pas satisfaire pleinement les désirs de chacun à 100%, mais elle prend en compte les préférences exprimées par chacun et essaie de les satisfaire à mi-chemi
J’ai lu la première moitié de ton poteau en me demandant “Jean, de quoi est-ce que tu putain de parles?”
Les LLM sont naturellement biaisés, non seulement dans l’entraînement mais également dans le nettoyage de leur ensemble de données, ainsi que dans l’implémentation de celle ci (ex : gpt4 peut être raciste mais beaucoup de protections sont mises en place en plus de l’entraînement, pour éviter qu’il dérive)