Des assistants vocaux à ChatGPT, l'essor de l'intelligence artificielle au cours des dernières années a été spectaculaire. L'IA est désormais omniprésente dans de nombreux aspects de notre vie quotidienne et fait évoluer des domaines aussi variés que la médecine, la finance, l'éducation ou la recherche scientifique. Certains exemples récents montrent que son utilisation peut constituer une menace pour la démocratie. D'autres usages, à l'inverse, ouvrent des perspectives positives pour la participation citoyenne.
L'IA, une menace pour la démocratie ?
Lors des primaires démocrates du New Hampshire, certains électeurs ont reçu un appel téléphonique du président américain Joe Biden les incitant à ne pas aller voter. Si l'utilisation de messages téléphoniques pré-enregistrés est courante dans la vie démocratique américaine, il a été révélé que le message en question constituait un deepfake (ou hypertrucage), une technique de synthèse multimédia reposant sur l'intelligence artificielle pouvant être utilisée pour créer des infox et des canulars malveillants. Si l'appel n'a pas eu de conséquence directe sur les résultats du vote, cette utilisation de l'IA révèle les possibilités offertes à des personnes malveillantes souhaitant truquer ou influer sur le cours d'une élection.
En Slovaquie, lors des élections législatives de septembre 2023, à quelques heures du vote, une fausse interview réalisée avec une IA a massivement circulé, mettant en scène un responsable politique évoquant une prétendue manipulation du vote. La vidéo a été retirée des réseaux sociaux quelques heures après sa mise en ligne, mais elle avait déjà été partagée plusieurs milliers de fois. S'il est difficile d'évaluer précisément l'impact de cette fausse interview et des nombreuses fausses informations diffusées pendant la campagne, l'élection a débouché sur la victoire d'un parti national-populiste et prorusse.
Les applications positives de l'IA pour la démocratie numérique
Si les risques sont réels, l'IA ouvre aussi des perspectives positives pour la démocratie, à condition d'être utilisée pour la renforcer plutôt que pour la fragiliser.
Se repérer dans de larges bases documentaires
En offrant la possibilité d'automatiser l'analyse de grandes quantités de données et de fournir une synthèse rapide et efficace des informations, l'utilisation de l'IA peut trouver des applications très positives pour la démocratie, et notamment pour les plateformes de participation citoyenne.
Rendre les travaux des assemblées citoyennes plus accessibles
Grâce à sa capacité de synthèse, l'IA peut accélérer la formation et permettre de suivre des débats sur des questions citoyennes complexes. En rendant l'information plus accessible et compréhensible, l'IA abaisse les barrières à l'entrée pour de nombreux citoyens, facilitant ainsi une participation plus large et plus informée. Les temps d'appropriation et de montée en compétence des participants demeurent toutefois essentiels : l'IA ne doit pas remplacer l'expérience d'apprentissage collectif qui reste centrale dans tout processus délibératif, mais la compléter.
L'aide à la formulation de contributions
Un autre avantage significatif de l'IA, particulièrement pertinent pour les plateformes de participation, réside dans son aide à la contribution. En posant des questions et en fournissant des suggestions, l'IA peut aider à formuler des idées de manière plus claire et à donner voix à ceux qui ont du mal à s'exprimer. Sur les plateformes participatives, il est souvent observé que les contributions bien formulées sont celles qui reçoivent le plus de soutiens : des assistants IA peuvent aider à réduire ces écarts en permettant à tous les citoyens, indépendamment de leurs compétences rédactionnelles, de formuler leurs idées de manière efficace et convaincante.
Les IA conversationnelles peuvent en outre faciliter les discussions en ligne, en recréant des expériences délibératives proches de celles menées en présentiel. Une étude académique menée à Stanford a par exemple montré comment un modérateur IA peut aider à structurer et à modérer des débats complexes, ouvrant de nouvelles pistes pour les discussions citoyennes en ligne.
Bien utilisée, l'IA peut donc représenter une opportunité majeure pour renforcer la démocratie et encourager une participation citoyenne plus large.
Les questions que soulève l'utilisation de l'IA dans la pratique démocratique
Son adoption sur les plateformes de participation soulève néanmoins plusieurs questions importantes.
La démocratie face aux deepfakes
Les usages négatifs de l'IA, comme les deepfakes et les fake news, sont particulièrement préoccupants. Ces technologies deviennent de plus en plus réalistes, posant des menaces sérieuses sur la vérité et la confiance publique.
L'IA, machine à biais ?
L'introduction de l'IA sur les plateformes numériques peut également introduire des biais, un aspect étudié en profondeur par plusieurs équipes de recherche académique, qui travaillent à en limiter les effets négatifs afin de garantir que l'IA reste un outil bénéfique. L'objectif principal de l'IA doit être de faciliter le dialogue entre les citoyens et les institutions, et non de remplacer les interactions humaines : elle devrait servir à rapprocher les institutions des citoyens, en simplifiant et en enrichissant les échanges, plutôt qu'à créer une distance supplémentaire.
L'empreinte environnementale de l'intelligence artificielle
Le recours à l'IA augmente également l'empreinte carbone. Des efforts sont toutefois en cours pour développer des modèles d'IA plus efficaces et moins énergivores que ceux actuellement les plus répandus.
Et du côté de la souveraineté numérique ?
Sur la question de la dépendance aux géants technologiques américains (GAFAM), plusieurs entreprises européennes sont aujourd'hui à la pointe de la recherche en IA, ouvrant la voie à des alternatives souveraines.
Ce que nous retenons
Au-delà des réserves éthiques qu'elle soulève, l'intelligence artificielle a le potentiel de renforcer considérablement la démocratie et d'élargir la participation citoyenne. Les outils d'IA peuvent faciliter l'accès à l'information, améliorer l'interaction entre citoyens et représentants élus, et aider à identifier les préférences des citoyens. Ils peuvent aussi contribuer à une prise de décision plus éclairée et fondée sur des données.
Il reste toutefois essentiel de rester vigilant face aux risques associés à l'IA : son usage abusif peut porter atteinte à la vie privée et à la liberté d'expression, et devenir un vecteur de désinformation ou de manipulation de l'opinion publique. Les grands acteurs technologiques, forts de ressources considérables, pourraient par ailleurs dominer le marché et limiter la concurrence, ce qui interroge sur la dépendance à ces géants et le risque de captation des innovations en IA.
Pour maximiser les bénéfices de l'IA au service de la démocratie, il est essentiel d'en promouvoir un usage responsable et éthique : cela suppose des règles claires en matière de transparence et de responsabilité, ainsi qu'un travail de sensibilisation des citoyens aux risques et aux opportunités de cette technologie.
Pour aller plus loin
- Optimisez la participation citoyenne grâce aux informations basées sur l’IA
- Les assemblées citoyennes peuvent-elles changer nos démocraties ?
- 5 façons dont la participation citoyenne améliore la prise de décision
- Quelle est la différence entre Civic Tech et GovTech ?
