Human Trust of AI Agents

Biais cognitifs et confiance humaine envers les agents IA

Une étude expérimentale révèle que les humains modifient leur stratégie lorsqu’ils savent qu’ils affrontent une intelligence artificielle (LLM) plutôt qu’un adversaire humain. Dans le cadre de jeux stratégiques (concours de beauté « p-beauty contest »), les participants tendent à adopter des choix plus rationnels et coopératifs face aux IA.

Points clés :

• Évolution comportementale : Face à une IA, les sujets choisissent des nombres significativement plus bas, s’alignant sur l’équilibre de Nash (choix « zéro »).
• Perception de l’IA : Ce comportement est guidé par la croyance que les LLM possèdent une plus grande capacité de raisonnement stratégique et une propension accrue à la coopération.
• Hétérogénéité : Ce phénomène est plus marqué chez les individus dotés de fortes capacités de raisonnement stratégique.

Vulnérabilités :

• Aucune CVE identifiée, car l’étude porte sur des biais psychologiques plutôt que sur des failles logicielles.
• Risque d’ingénierie sociale : La confiance excessive dans la « rationalité » ou la « coopération » des IA peut être exploitée pour manipuler des décisions dans des systèmes hybrides homme-machine.

Recommandations :

• Conception de systèmes : Lors de la création d’environnements multi-agents, il est crucial de tenir compte des biais cognitifs des utilisateurs qui accordent une confiance disproportionnée aux capacités analytiques des IA.
• Transparence : Sensibiliser les utilisateurs aux limites réelles du raisonnement des LLM afin d’éviter une surestimation de leur fiabilité lors d’interactions stratégiques ou économiques.

Source