AI Use by the US Government

L’opacité croissante de l’IA au sein du gouvernement fédéral américain

Le gouvernement américain a récemment révélé l’existence de 3 611 cas d’usage de l’intelligence artificielle, marquant une augmentation de 70 % par rapport à l’inventaire précédent. Cette prolifération concerne des domaines critiques tels que la justice pénale, la santé mentale, la sécurité nucléaire et le contrôle des subventions.

Points clés :

• Transfert décisionnel : Des processus affectant les libertés individuelles et la sécurité publique sont désormais délégués à des systèmes automatisés sans supervision humaine systématique.
• Déficit de transparence : Les descriptions fournies par les agences sont succinctes, empêchant toute compréhension réelle des finalités ou des méthodes employées.
• Absence de consultation publique : La plupart des projets ne sont pas classés comme « à haut impact », ce qui dispense les agences de toute obligation de consultation citoyenne.
• Vulnérabilité contextuelle : Les risques ne résident pas uniquement dans la technologie elle-même, mais dans l’opacité des critères de décision (ex: biais dans la classification carcérale) et le manque de responsabilité des agences.

Vulnérabilités : Bien que l’article ne mentionne pas de CVE spécifique (ces dernières étant liées à des failles logicielles plutôt qu’à des politiques), les failles identifiées sont d’ordre systémique :

• Biais algorithmiques : Risque de discrimination institutionnalisée via des systèmes automatisés (ex: outils de prédiction de comportement carcéral).
• Défaut d’auditabilité : Impossibilité pour les citoyens de contester ou de comprendre les décisions prises par des algorithmes opaques.
• Risque opérationnel : Automatisation critique dans des secteurs sensibles (réacteurs nucléaires) sans garanties suffisantes sur le contrôle humain.

Recommandations :

• Instauration d’évaluations d’impact : Adopter des procédures obligatoires d’évaluation des risques algorithmiques, similaires au modèle canadien.
• Transparence accrue : Suivre l’exemple de la « Loi pour une République numérique » française, garantissant le droit d’accès aux algorithmes publics et la possibilité d’un recours humain.
• Participation citoyenne : Institutionnaliser des périodes de consultation publique et un droit de réponse pour les projets utilisant l’IA dans des domaines sensibles.
• Standardisation : Harmoniser la définition de « cas d’usage à haut impact » pour éviter que les agences ne contournent les obligations de transparence par une classification incohérente.

Source