Viral AI actress hotline face-scans every caller, watches their mood

Risques de confidentialité et surveillance biométrique : le cas de l’IA “Tilly Norwood”

Le service “Talking Tilly”, une IA conversationnelle, impose une collecte intrusive de données personnelles pour accéder à ses fonctionnalités. Bien que présenté comme un projet de démonstration technologique, le service soulève des préoccupations majeures en matière de vie privée.

Points clés :

• Surveillance biométrique obligatoire : Avant tout appel, les utilisateurs doivent effectuer un scan facial via le prestataire tiers Didit pour une vérification d’âge.
• Analyse émotionnelle en temps réel : Le système analyse en continu le flux vidéo et la voix de l’appelant pour détecter ses émotions, une fonctionnalité impossible à désactiver.
• Traitement des données : Les appels sont enregistrés, transcrits et analysés par des services tiers (Google Gemini, Tavus) situés aux États-Unis.
• Conformité réglementaire : L’imposition de ces contrôles (liés à l’Online Safety Act britannique) transforme un outil marketing en un vecteur de collecte de données biométriques et comportementales à l’échelle mondiale.
• Fiabilité des systèmes de sécurité : Des algorithmes de modération automatisés bloquent arbitrairement des conversations légitimes, bien que des recours humains soient théoriquement possibles.

Vulnérabilités et risques associés :

• Note : Aucune CVE n’est associée à cet article, car il s’agit d’une analyse de politique de confidentialité et de design de produit, et non d’une faille logicielle spécifique.
• Risque de vie privée : Collecte et traitement de données biométriques (scans faciaux) et affectives, avec une rétention des transcriptions pouvant aller jusqu’à huit semaines.
• Risque lié aux tiers : Partage des données avec des fournisseurs de services aux États-Unis et potentiellement avec le personnel de Xicoia.
• Incertitude sur la sécurité des données : Bien que l’entreprise affirme ne pas conserver de “templates” biométriques, la dépendance envers des fournisseurs tiers augmente la surface d’exposition des données.

Recommandations :

• Prudence avec les données biométriques : Éviter d’utiliser des services imposant un scan facial pour des interactions futiles ou de divertissement.
• Lecture attentive des conditions : Toujours vérifier les mentions légales, particulièrement les clauses de “consentement” versus “intérêts légitimes”, qui limitent le contrôle de l’utilisateur sur ses données.
• Droit à l’effacement : Exercer systématiquement son droit à la demande de suppression de l’historique des conversations si le service le permet.
• Minimalisme numérique : Ne pas fournir d’informations personnelles identifiables lors d’interactions avec des chatbots IA dont les politiques de confidentialité sont opaques ou changeantes.

Source