Juste une idée un peu stupide, un des problèmes des démocratie, même directes, est que définir les options a beaucoup plus de poids que de voter pour elle.
Si je propose un choix entre “restaurant européen” “restaurant japonais” “restaurant chinois” “restaurant thai” “restaurant coréen”
j’aurais des résultat bien différent de si je propose un choix entre “restaurant français” “restaurant italien” “restaurant allemand” “restaurant grecque” “restaurant asiatique”
Transformez les restaurants en différentes variations de courants politque, et c’est tout le débat des alliances, de la dillution de ce qui est important pour un parti etc.
Du coup, sI (et c’est un gros si), on part du principe que l’on veut un compromis (et non pas une part de la population qui décide pour les autres), pourquoi ne pas utiliser un LLM comme GPT-4 pour donner une infinité de choix.
Une personne peut dire “Je veux manger japonais”, mais une autre pourrait dire “Juste quelque chose de léger”, un autre pourrait dire “tant que c’est pas allemand ou américain ça me va”.
Le model peut ensuite regarder toutes ces opinions et trouver des compromis entre chaque. Il peut aussi avoir des directives (qui ont pu être votées de la même manière) comme “Donne plus de valeurs aux opinions qui pensent à la société en générale”, “ne prends pas en compte tout ce qui pourrait être considéré comme un troll” etc. Il peut même faire une réponse à chaque individu sur comment il a pris (ou non) son avis en compte et pourquoi.
Bon alors avec les limitations de puissance de GPT-4 c’est clairement pas possible aujourd’hui, et il y a a clairement des dérives possibles (je vois bien l’épisode de black mirror) mais c’est juste une idée qui m’a traversée l’esprit aujourd’hui.
J’ai fait un petit exercice avec gpt-4 pour essayer (à la base c’était à Londres en anglais, je lui ai demandé de traduire avec paris, mais c’est pour ça que wagamama existe pas par exemple). J’ai ajouté un troll qui veut manger des ordures dans les options aussi.
Voici l’opinion de 6 personnes sur l’endroit où déjeuner. Je souhaite que tu prennes en considération l’opinion de tout le monde et que tu trouves un compromis qui satisfait tout le monde. Supposons que tu es à Paris, donc toutes sortes d’options de nourriture sont disponibles.
1 : “Je me sens un peu gros, je voudrais quelque chose de plutôt sain qui ne me fait pas regretter de l’avoir mangé” 2 : “Ça ne me dérangerait pas quelque chose d’asiatique, ou peut-être des pâtes” 3 : “Je m’en fiche un peu, mais pas trop cher” 4 : “J’aimerais vraiment manger du bon poulet” 5 : “Je veux manger des ordures” 6 : “Oh, je ne dirais pas non à un plat classique de bistrot”
GPT-4 response:
En tenant compte des préférences de tout le monde, une solution potentielle pourrait être de visiter un restaurant pan-asiatique qui propose une variété de plats, y compris des options saines, des plats de poulet et des plats de nouilles ou de riz qui sont similaires aux pâtes.
Pour la personne 1 : La plupart des restaurants asiatiques proposent un large éventail de plats plus légers, axés sur les légumes, qui sont à la fois délicieux et sains. Ils peuvent choisir parmi des options comme des légumes sautés, des salades ou des plats à base de tofu.
Pour la personne 2 : Elle a mentionné qu’elle aimait la nourriture asiatique et les pâtes. La cuisine asiatique est vaste, avec de nombreux plats de nouilles, de dumplings et de bols de riz qui peuvent satisfaire leurs envies de pâtes.
Pour la personne 3 : Les restaurants asiatiques, en particulier les boutiques de nouilles ou les endroits de restauration décontractée, sont généralement assez abordables. Ils peuvent choisir parmi une variété de plats en fonction de leur budget.
Pour la personne 4 : La cuisine asiatique comprend une variété de plats de poulet, comme le satay de poulet, le teriyaki de poulet, le poulet kung pao, ou le tikka de poulet si vous choisissez un endroit de fusion asiatique qui comprend la cuisine indienne.
Pour la personne 5 : Si par “ordures” elle signifie des plats réconfortants ou indulgents, moins sains, la plupart des restaurants asiatiques offrent également des options frites, des currys riches, ou des plats de nouilles copieux.
Pour la personne 6 : Bien qu’un restaurant asiatique ne soit pas le plat traditionnel de bistrot français, beaucoup ont de la bière au menu, et les options de nourriture copieuse peuvent rappeler le caractère réconfortant de la nourriture de bistrot.
L’un des restaurants possibles à visiter pourrait être Wagamama ou Busaba Eathai qui propose toutes ces options et plus encore.
Cette solution est un compromis et peut ne pas satisfaire pleinement les désirs de chacun à 100%, mais elle prend en compte les préférences exprimées par chacun et essaie de les satisfaire à mi-chemi
J’ai lu la première moitié de ton poteau en me demandant “Jean, de quoi est-ce que tu putain de parles?”
Les LLM sont naturellement biaisés, non seulement dans l’entraînement mais également dans le nettoyage de leur ensemble de données, ainsi que dans l’implémentation de celle ci (ex : gpt4 peut être raciste mais beaucoup de protections sont mises en place en plus de l’entraînement, pour éviter qu’il dérive)
Oui, alors que les humains sont dénués de tout biais, n’ont aucune pensée raciste.
C’est pas une proposition d’un système parfait, mais d’une alternative au truc moisi qu’on a aujourd’hui.
Non mais tout ça pour dire que balancer la prise de décision a un LLM c’est pas forcément le truc le plus parfait au monde.
Si c’est mieux qu’un humain, c’est une amélioration. Je suis pas pour refuser une amélioration sous prétexte qu’elle est pas encore parfaite.
Les LLM sont des modèles de langage, pas de contenu. Donc ils n’ont pas la moindre idée de ce qu’ils racontent mais génère juste du texte qui ressemble à un vrai texte.
Utiliser une IA pour de la politique, c’est une vision très libérale, qui considère qu’il y a une seule bonne solution et que c’est juste un problème d’optimisation de variable
L’idée est intéressante, je me demande ce que ça donne si on transpose vraiment pour des sujets plus politiques.
Parce que même dans l’example donné, quand on regarde dans le détail, il y a des conclusions discutables, est-ce que les restaurants asiatiques sont si bon marché que ça ? Peut-être, j’ai pas vérifié mais c’est pas forcémment mon expérience.
Alors pour des sujets autrement plus complexe, j’ai peur que les LLM fassent des contresens ou juste répondent des choses qui n’ont aucun sens.
Ceci étant dit, je pense qu’on peut quand même bien progresser sur nos prises de décisions, est-ce que les LLM sont la réponse ? C’est une option intressante en tout cas.
La démocratie c’est simple: on vote, on regarde qui a gagné. Les gens peuvent accepter de laisser le pouvoir à un système assez transparent et compréhensible.
Jamais je n’accepterai de laisser le pouvoir à une IA. On ne sait pas comment elle a été entraînée, comment elle en arrive à son résultat et enfin, je préfère que ce soit des humains qui prennent les décisions malgré leurs biais.
Edit: Le mi chemin c’est foireux, c’est quoi le mi chemin avec des racistes?
Ton edit est au coeur de mon débat interne pour moi. Est-ce qu’on veut une vrai démocratie, peut importe sa méthodologie, qui essaye de donner le pouvoir au peuple? Ou est-ce qu’on considère qu’une partie (plus ou moins large) de la population ne devrait pas avoir le droit de donner leur avis. C’est pas une question rhétorique, je peux voir les arguments des deux côtés.
L’élégance de l’IA c’est qu’elle peut essayer de satisfaire la source de la dissatisfaction par exemple, peut être que le problème d’un raciste, c’est des question d’urbanisme ou zone à tension par exemple.
Mais oui le côté boite noire restera un problème qu’il soit réel (comme actuellement) ou imaginé si on arrivait à fixer les biais de l’IA.
Jamais je n’accepterai de laisser le pouvoir à une IA. On ne sait pas comment elle a été entraînée, comment elle en arrive à son résultat
Avec ChatGPT non, en effet. Avec une IA qui serait entrainée pour ça et de façon ouverte, si, on le saurait, et d’une façon mille fois meilleure qu’avec n’importe quel politicien. Imagine que tu aies une ligne directe avec Macron ou ton député. Que tu puisses lui poser n’importe quelle question et qu’il lui soit impossible de mentir. Tu ne penses pas que ce serait un meilleur système?
Edit: Le mi chemin c’est foireux, c’est quoi le mi chemin avec des racistes?
La proposition c’est pas un mi-chemin avec des racistes, c’est un compromis le plus acceptable pour tout le monde. Un mi-chemin voudrait dire que les racists sont à 50%, ce qui dans notre système impliquerait qu’ils puissent avoir le pouvoir à 100%. Si on me propose un choix entre ça et un mi-chemin, je prends le mi-chemin (et j’ai un peu le sentiment d’avoir fait ce choix au 2e tour à la dernière présidentielle)
Ensuite, la capacité de trouver des choses acceptables pour tout le monde ce n’est pas nécessairement de faire des concessions racistes. D’autant plus que tu auras sûrement comme beaucoup de monde mis dans tes préférences le fait de ne pas vouloir de concessions envers les racistes et les fachos. Imagine que tu n’aies que deux personnes dans le système, une anti-raciste et une raciste. À l’issue de longues conversations avec les deux, le système résume les deux positions comme “aucune concession avec le racisme” et “moi j’ai envie de faire chier ces étrangers qui s’intègrent pas”.
Le système te pond un truc comme le SNU (pour tout le monde y compris les étrangers) avec l’argument pour le raciste “on va forcer leurs enfants à l’intégration républicaine sous les drapeaux”, qui flatte son sens patriotique et réactionnaire. Si l’anti-raciste est comme moi, c’est une mesure qui fait un peu chier et qui sert à rien, mais si c’est le prix à payer pour que le raciste demande pas la ségrégation en France et qu’on se compromette sur ça, ça peut être un compromis acceptable.
Il faut comprendre que les mesures qui nous indignent chez les racistes sont pas forcément celles qu’ils et elles considèrent prioritaires. Arriver à déterminer les mesures “un peu con mais pas trop graves” qui puissent les contenter tout en satisfaisant le “absolument aucune concession avec les racistes et les violations de droits fondamentaux” serait un outil super puissant.
100% pour. Et même sans changer de système, avoir un modèle qui discute de leurs préférences avec tous les adhérents d’un parti pour pondre un programma commun serait tout à fait faisable et surement beaucoup, beaucoup mieux que ce qu’on à en ce moment. Je fais d’ailleurs en ce moment des essais d’un bot “gestion de communauté” qui tente de deviner les préférences et à terme les contradicitons au sein d’un groupe avec un LLM. Je pense en effet que ça améliorerait grandement la politique.
Le problème c’est qu’une élections se doit d’être définitive et incontestable. Aujourd’hui, pour un set de bulletins de vote donné, peut importe qui compte les bulletins le vainqueur de l’élection sera toujours le même: celui qui a le plus de voix.
Avec un LLM on a certes une infinité de choix de votes mais aussi une infinité de vainqueurs. Un LLM est tout sauf définitif et incontestable.
De plus, qui aura la charge de programmer ce LLM ? Comment on saute de son impartialité ? Parce que là aussi, on peut très facilement faire en sorte que le LLM sorte un restaurant asiatique a tout les coup.
Je pense que l’idée n’est pas de désigner une personne pour diriger le pays, c’est de produire des propositions les plus consensuelles possibles, de minimiser les conflits dans le pays, et de gouverner en mode automatique, mais avec la corruption en moins.
Les décisions peuvent ensuite être entérinées par des représentants élus s’il le faut, mais s’ils s’y opposent, ils ont intérêt à avoir de bonnes raisons.
Un système de gestion d’accord social doit être fiable, transparent, auditable, simple a utiliser.
Le LLM n’est que simple a utiliser, et encore.
Un système de gestion d’accord social doit être fiable, transparent, auditable, simple a utiliser.
On a quoi qui obéit à ces critères aujourd’hui?
ChatGPT n’est pas auditable, mais un modèle open source le serait.
Transparent, de même.
Fiable, je ne sais pas ce que tu entends par là.
Un LLM open source ne serait pas transparent ou auditable parcequ’on ne maîtrise pas vraiment la manière de traitement de l’information. C’est tout le problème de la manière d’entraîner un modèle et on commence a peine a y arriver.
Fiable : avoir la certitude que le résultat correspond au problème posé. Là encore les LLM ont besoin d’avoir un résultat revérifié.
Pour le moment on peut déjà améliorer les systèmes de vote par un des nombreux systèmes existants. Mais pour les propositions soumises au vote je ne pense pas que l’on puisse se passer du travail pénible de négociation.
Oui, donc on parle d’un niveau d’audit et de transparence qu’aucun process humain ne peut fournir donc. Les humains sont bien plus des boites noires que ne le sont les LLMs, pourtant on les utilise dans la plupart de nos process décisionnels.
Fiable : avoir la certitude que le résultat correspond au problème posé.
Le truc c’est que justement on ne sait pas poser le problème. On doit jongler entre des non-dits, des mots aux définitions vagues et changeantes et des préférences parfois carrément inconscientes.
L’idée serait de ne pas se baser uniquement sur ce système, mais de lui faire produire des propositions ensuite validées par un vote.
Dans ce cas pourquoi pas. Une aide aux “groupes de travail”.
J’avais compris un truc plus direct.
Les humains gardent le contrôle des décision, mais il faut avouer que dés qu’un groupe grossit même juste au delà de 10, ça devient difficile d’avoir en tête toutes les relations interpersonnelles, préférences individuelles et conflits d’intérêt. Un algo capable de nous y aider a le potentiel de changer radicalement la gueule de la politique.
Intéressant comme réflexion
Bof, Les humains sont imparfaits et leurs systèmes de gouvernement sont le reflet de cette imperfection. Ceci dit ta proposition dénote une envie de consensus qui fait souvent défaut. La démocratie peut être améliorée progressivement pour apporter d’avantage de justice et d’équité. On prend aujourd’hui plus en compte les minorités dans les décisions politiques. Pour le cas spécifique de la France, une véritable revolution est nécessaire pour voir le consensus comme une avancée et non une défaite. Cela passe par une introspection sévère qui soit à même de remettre en cause notre rapport maladif au compromis, souvent vécu comme un échec dans un monde manichéen. Aussi, notre peur panique d’avoir tors, de nous tromper, d’être jugés et, en regard, la moquerie, le dénigrement et le mépris.
