Are We Ready to Be Governed by Artificial Intelligence?

L’IA au Service de la Gouvernance Démocratique : Opportunités et Défis

L’intelligence artificielle (IA) s’intègre discrètement dans les rouages de la gouvernance démocratique, transformant le fonctionnement des pouvoirs exécutif, judiciaire et législatif. Plutôt que de devenir une entité dirigeante autonome, l’IA agit comme un outil d’augmentation ou de remplacement des capacités humaines. Son utilisation soulève des questions cruciales quant à la concentration ou la décentralisation du pouvoir.

Points Clés :

• Exécutif : L’IA est déjà utilisée dans des domaines comme la santé (assurance, Medicare Advantage) pour l’approbation ou le refus de soins, soulevant des préoccupations éthiques et des implications potentielles sur la vie des citoyens. Des politiques récentes ont assoupli les garde-fous et encouragé l’usage de l’IA pour accélérer les refus d’autorisations préalables.
• Judiciaire : Des juges commencent à utiliser l’IA pour assister dans l’interprétation de lois et la prise de décisions, sans obligation systématique de divulgation. Cela offre un potentiel d’assistance, mais aussi des risques si les outils dominants sont contrôlés par de grandes entreprises technologiques.
• Législatif : L’IA est employée pour rédiger des lois, analyser des amendements et traiter les retours des citoyens. Elle peut soit renforcer le pouvoir des représentants en amplifiant leur capacité à analyser les informations et à défendre les positions de leurs électeurs, soit le diluer si elle est utilisée pour encoder des prescriptions politiques centralisées.

Vulnérabilités :

• L’utilisation d’algorithmes dans les décisions de couverture médicale peut entraîner une discrimination et des décisions potentiellement létales (implications pour 30 millions d’Américains dans le cas de Medicare Advantage).
• Les assouplissements réglementaires récents ont levé des obstacles à l’utilisation de l’IA pour refuser des services médicaux et ont limité la capacité des États à mettre en place des protections pour les consommateurs.
• Le risque qu’une dépendance excessive à des modèles d’IA développés par de grandes entreprises technologiques concentre le pouvoir et influence les décisions judiciaires et législatives de manière opaque.
• L’opacité potentielle de l’utilisation de l’IA par les juges, sans obligation de divulgation, peut éroder la confiance dans le processus judiciaire.
• L’IA utilisée pour automatiser des politiques peut servir des objectifs centralisateurs ou autoritaires si elle n’est pas encadrée par des principes démocratiques.

Recommandations :

• Décentralisation du Pouvoir : L’IA doit être appliquée de manière à décentraliser plutôt qu’à concentrer le pouvoir, en autonomisant les acteurs humains individuels plutôt qu’en automatisant les décisions des autorités centrales.
• Contrôle Humain : Les juges et les législateurs devraient utiliser des outils d’IA sous leur contrôle exclusif, préférablement des outils de confiance, plutôt que de dépendre de systèmes opaques gérés par des tiers.
• Transparence et Divulgation : Il est crucial d’établir des principes clairs pour l’utilisation de l’IA dans les contextes démocratiques, y compris, lorsque cela est possible, la divulgation de son utilisation dans les processus décisionnels.
• Priorisation de la Démocratie : Le défi principal est d’ordre social : garantir que l’IA est utilisée au service de la démocratie, en renforçant la participation citoyenne, la représentation et la transparence, plutôt que pour centraliser le pouvoir ou servir des agendas autoritaires.
• Développement d’Outils Ouverts : Soutenir le développement d’outils d’IA ouverts et personnalisés pour les besoins législatifs et civiques, afin de favoriser la délibération publique et l’engagement des citoyens.

L’intégration de l’IA dans la gouvernance est une réalité croissante. La manière dont elle sera dirigée dans les années à venir déterminera si elle renforce ou affaiblit les principes démocratiques.

Source