L’IA peut-elle sauver la démocratie ?

Introduction

Il existe un dilemme entre la délibération d’une part, qui consiste à débattre en petit comité, et la participation d’autre part, qui vise à inclure le plus grand nombre dans le processus décisionnel.

Dans son article, Hélène Landemore s’interroge sur le rôle que peut jouer l’intelligence artificielle afin de résoudre le conflit qui oppose ces deux composantes fondamentales de la démocratie. Elle envisage deux façons d’y parvenir : la délibération de masse et l’archipel d’assemblées citoyennes.

La délibération de masse

Ce concept (« Mass Online Deliberation »), théorisé par Cyril Velikanov, consiste à inviter des milliers voire des centaines de milliers de personnes dans un espace virtuel où elles sont en mesure de débattre, de proposer des idées et de les commenter. Contrairement à la délibération classique, les individus ne sont pas répartis dans des petits groupes pour discuter : les propositions sont directement soumises à la critique de l’ensemble des participants, d’où la notion de « masse ».

Pour éviter une cacophonie générale et structurer les délibérations, le rôle de l’intelligence artificielle est crucial. Celle-ci a notamment pour fonction de trier les idées par ordre de pertinence et de popularité, de sorte que chacun puisse avoir une vue d’ensemble des avancées du débat sans être noyé sous des milliers de propositions.

En outre, la modération du contenu et la facilitation des débats sont assurées par des utilisateurs tirés au sort par l’IA, de manière à offrir un espace de discussion sain et accueillant. Si les participants ne parlent pas la même langue, l’IA peut aussi être mise à contribution en tant qu’outil de traduction pour élargir au maximum le périmètre des discussions entre communautés. La barrière de la langue est difficile à surmonter, car certains mots ou concepts politiques ont des connotations historiques différentes dans chaque pays qu’un traducteur automatique a aujourd’hui bien du mal à distinguer.

Hélène Landemore se montre favorable à un usage encore plus approfondi de l’IA dans la délibération de masse pour qu’un maximum de tâches soient automatisées (modération, facilitation, traduction, édition des propositions, classement, etc.). Ainsi, les participants peuvent se concentrer sur l’essentiel : rédiger des propositions et juger celles de leurs pairs.

Si l’idée de la délibération de masse est séduisante, elle n’a cependant jamais été expérimentée dans des conditions réelles. La faisabilité technique de cet espace virtuel piloté par IA et sa capacité à garantir une délibération de qualité avec autant d’individus ne sont donc pas prouvées.

De plus, la délibération de masse n’atteint pas vraiment l’objectif initial de discussion à grande échelle. Si les participants ont théoriquement accès à toutes les propositions, ils n’ont matériellement pas le temps de les étudier de manière exhaustive.

On peut aussi s’interroger sur le niveau d’engagement dont feraient preuve les participants. Se contenteraient-ils de faire défiler les propositions et les commentaires jusqu’à trouver quelque chose qui leur plaît ? Participeraient-ils aux débats ? Ou bien se sentiraient-ils intimidés par l’immensité de cet espace et refuseraient-ils de partager leurs idées par peur de ne pas être entendus ?

La délibération de masse ne garantit pas non plus une juste représentation de la population visée, puisque chacun est libre de participer ou non au processus. Or, on sait que certaines catégories sont plus susceptibles de se porter volontaires que d’autres, ce qui biaiserait les résultats de la délibération.

Un archipel d’assemblées citoyennes

En matière de qualité des délibérations, il semble que le concept d’assemblée citoyenne soit le plus abouti. Il s’agit, à l’instar de la Convention citoyenne pour le climat, de faire délibérer des citoyens tirés au sort en alternant des travaux en petits groupes (eux aussi tirés au sort) et en assemblée plénière. Un tel dispositif assure une certaine représentativité de la population dans son ensemble tout en offrant un cadre qui se prête à l’expression de toutes les opinions.

Cependant, certains critiquent le fait que ces assemblées prennent parfois des décisions qui ne reflètent pas l’opinion majoritaire au sein de la population. En effet, même si les 150 citoyens de la CCC sont théoriquement représentatifs de la population française, cela revient tout de même à exclure des dizaines de millions d’autres citoyens du processus. Il s’agit d’autant d’avis qui ne seront jamais pris en compte dans les débats. Or, la qualité des délibérations est aussi liée à l’intelligence collective qui résulte de la rencontre entre des points de vue différents.

Pour maximiser ces effets, on peut donc imaginer un système où ce n’est pas une seule assemblée qui est chargée de traiter une question et d’émettre des recommandations, mais une multitude, un archipel.

De la même manière qu’il existe un seuil de légitimité au vote (50 % d’abstention maximum pour les referendums, par exemple), il pourrait exister un seuil de légitimité aux assemblées citoyennes. Hélène Landemore propose par exemple qu’un minimum de 10 à 15 % de la population participe à ces assemblées citoyennes, de manière à ce que leur légitimité démocratique soit garantie. À l’échelle de la France, cela pourrait donc donner 40 000 assemblées de 100 citoyens tirés au sort, ou 8 000 assemblées de 500 citoyens.

Naturellement, de telles assemblées ne pourraient être organisées sur le modèle de la CCC – qui a coûté pas moins de cinq millions d’euros à elle seule. C’est donc dans une optique de praticité et de réduction des coûts que l’intelligence artificielle pourrait avoir un rôle à jouer ici. Pour commencer, les assemblées auraient lieu en ligne, où l’IA serait capable d’écouter les débats et d’agir en tant que facilitateur, redistribuant la parole à ceux qui participent le moins et changeant de sujet lorsque les discussions tournent en rond. À ce sujet, des procédés expérimentaux sont en cours d’application, tels que l’algorithme Alice développé à l’université de Standford, qui sert de facilitateur au sein de conversations en ligne de sept à huit personnes.

Au-delà de la facilitation, l’IA pourrait aussi servir de fact-checkeur afin de vérifier instantanément une information ou bien fournir un ensemble de données et de sources variées aux participants qui en font la demande. L’IA aurait également un grand rôle à jouer dans la structuration des propositions émises par les différentes assemblées et leur mise en commun, de manière à cartographier et synthétiser les avancées globales des citoyens.

En plus de remplacer le travail humain nécessaire à l’organisation des assemblées, l’intelligence artificielle pourrait aussi apporter une plus-value inédite, comme l’analyse poussée du contenu des discussions des différentes assemblées. En identifiant des redondances dans les interventions d’un groupe, l’IA pourrait déterminer le moment où il ne sert plus à rien de discuter, puisqu’aucune nouvelle idée n’émerge, et proposer aux participants de passer au vote.

Dans la même idée, l’IA pourrait évaluer la qualité d’une délibération en temps réel, en usant d’indices préétablis, ce qui lui permettrait de réorganiser le déroulement des délibérations (en incluant davantage de facilitation ou en proposant d’explorer un sujet connexe, par exemple) afin de faire remonter ces indices.

Si les assemblées ne se déroulent pas en même temps, l’IA pourrait également reprendre des propositions populaires au sein d’autres assemblées pour les présenter aux membres d’une assemblée nouvellement constituée, celle-ci aurait alors l’opportunité d’aller plus loin dans son développement, sans perdre de temps avec de « fausses pistes ».

Bien entendu, la mise en place d’une telle IA (ou plus vraisemblablement de plusieurs IA) soulève de très nombreux problèmes. Elle n’aura ni la sensibilité ni la capacité d’adaptation d’un facilitateur humain et sera incapable de faire preuve d’empathie avec les participants. En revanche elle n’aura pas les biais d’un humain, toujours conditionné par son vécu et ses croyances. Cependant, l’IA restera soumise à la logique que ses concepteurs (potentiellement biaisés) lui ont inculquée.

L’IA n’aura pas le discernement nécessaire pour savoir si une proposition est raisonnable ou non et pourra donc être amenée à relayer des idées toxiques d’une assemblée à l’autre. Tout dépend en réalité de la manière dont les délibérants se comportent lors des discussions. Si des garde-fou ne sont pas imaginés, les assemblées risquent potentiellement de créer des débats passionnés avec une course aux propositions populistes, alors que la démocratie délibérative prône l’exact opposé : des discussions raisonnées et la recherche du consensus.

Conclusion

Bien que l’IA semble être un moyen d’améliorer sensiblement les conditions de discussion, elle ne permettra pas de concilier parfaitement délibération et participation. Fondamentalement, tout le monde ne pourra pas discuter avec tout le monde dans de bonnes conditions.

Alors que la délibération de masse est centrée sur un idéal de participation, l’archipel d’assemblées citoyennes est plutôt fondé sur la qualité des délibérations. Ces deux hypothèses, bien que nécessitant de lourds moyens humains, financiers et technologiques, constituent peut-être des pistes pour l’avenir de la démocratie.