Faking it on the phone: How to tell if a voice call is AI or not

Les Appels Vocaux Usurpés par l’IA : Un Risque Croissant pour les Entreprises

La génération d’audio par intelligence artificielle (IA) permet désormais de créer des “deepfakes” vocaux très réalistes, rendant difficile la distinction entre un appel légitime et une usurpation d’identité. Cette technologie, de plus en plus accessible, représente une menace sérieuse pour les entreprises, notamment en facilitant la fraude par transfert de fonds, le contournement des vérifications d’identité et l’usurpation de fonctions exécutives. Le nombre de clips synthétiques partagés a explosé, passant de 500 000 en 2023 à potentiellement huit millions l’année suivante.

Fonctionnement des Attaques : Les cybercriminels exploitent des enregistrements vocaux de courte durée, facilement disponibles en ligne pour des personnalités publiques ou des dirigeants d’entreprise. Ils ciblent ensuite des employés (souvent du service informatique ou de la finance) et utilisent une IA pour générer des appels téléphoniques où leur voix est remplacée par celle de la cible. L’IA peut imiter le rythme, l’intonation et les tics verbaux, et même ajouter des bruits de fond pour un réalisme accru. Les tactiques d’ingénierie sociale, comme la pression pour une action urgente ou la demande de confidentialité, renforcent l’efficacité de ces attaques.

Vulnérabilités Identifiées : Bien qu’aucun CVE spécifique ne soit mentionné dans l’article, les vulnérabilités résident dans :

• La disponibilité d’échantillons audio en ligne.
• Les procédures de vérification d’identité et d’authentification des transactions potentiellement insuffisantes.
• Le manque de sensibilisation des employés aux risques des deepfakes vocaux.
• Les lacunes dans les processus de validation des transferts financiers importants.

Signes Potentiels d’un Deepfake Vocal :

• Un rythme de parole peu naturel.
• Un ton émotionnel inhabituellement plat.
• Des respirations ou leur absence anormales.
• Un son robotique (pour les technologies moins avancées).
• Un bruit de fond étrangement absent ou trop uniforme.

Recommandations pour se Protéger : Pour contrer cette menace, une approche combinant “personnes, processus et technologie” est recommandée :

• Sensibilisation et Formation : Former les employés à reconnaître les signes des deepfakes vocaux et des tactiques d’ingénierie sociale, y compris par le biais de simulations.
• Processus de Vérification Robustes :
  • Mettre en place une vérification hors bande (par exemple, via des canaux de messagerie d’entreprise) pour toutes les demandes par téléphone.
  • Exiger la validation par deux personnes pour les transferts financiers importants ou les modifications des coordonnées bancaires des fournisseurs.
  • Établir des phrases de passe ou des questions secrètes pour authentifier les dirigeants lors d’appels.
• Technologies de Détection : Utiliser des outils capables d’analyser divers paramètres pour identifier les voix synthétiques.
• Limitation de l’Exposition : Réduire les apparitions publiques des dirigeants pour limiter la disponibilité d’échantillons vocaux.
• Révision Continue : Adapter et réviser régulièrement les plans de sécurité pour suivre l’évolution rapide de l’IA.

Source