Deepfakes et IA : la nouvelle arme des arnaqueurs

Les deepfakes : quand voir n'est plus croire

L'intelligence artificielle a franchi un cap décisif. Il est désormais possible de générer des vidéos réalistes du visage de n'importe qui, de cloner une voix à partir de quelques secondes d'enregistrement et de créer des faux contenus quasi indétectables à l'œil nu. Les escrocs exploitent ces technologies pour mener des arnaques d'un genre nouveau, où même les personnes les plus vigilantes peuvent se faire piéger.

L'arnaque au faux appel vidéo du patron

Le cas qui a choqué le monde

En 2024, une entreprise de Hong Kong a perdu 25 millions de dollars après qu'un employé a participé à une visioconférence avec ce qu'il pensait être son directeur financier et plusieurs collègues. Tous les participants étaient des deepfakes générés en temps réel. L'employé a effectué les virements demandés sans se douter de la supercherie.

Comment ça fonctionne

1. Les escrocs collectent des vidéos publiques du dirigeant (interviews, conférences, réseaux sociaux)
2. Un modèle d'IA apprend à reproduire son visage, ses expressions et ses gestes
3. Pendant l'appel vidéo, le deepfake se superpose au visage de l'escroc en temps réel
4. La voix est également clonée grâce à des enregistrements disponibles en ligne
5. L'employé voit et entend son patron et exécute les instructions

Les variantes en France

• Le faux PDG qui appelle le service comptabilité pour un virement urgent et confidentiel
• Le faux partenaire commercial qui modifie un RIB lors d'une visioconférence
• Le faux recruteur qui mène un entretien vidéo pour voler des données personnelles

Le clonage vocal : l'arnaque par téléphone réinventée

La technologie derrière le clonage

Les outils de clonage vocal actuels nécessitent aussi peu que 3 à 5 secondes d'audio pour créer une réplique convaincante d'une voix. Ces échantillons peuvent être récupérés à partir de vidéos sur les réseaux sociaux, de messages vocaux WhatsApp, de podcasts, d'interviews en ligne ou même d'un simple appel téléphonique où la victime dit "Allô ?".

Les scénarios d'arnaque

L'arnaque au proche en détresse :

Vous recevez un appel. La voix de votre fils ou de votre fille, paniquée, vous dit :

"Maman, c'est moi, j'ai eu un accident, je suis a l'hopital,
j'ai besoin que tu envoies de l'argent tout de suite pour
les frais. S'il te plait, ne dis rien a papa."

La voix est celle de votre enfant. Les intonations, les tics de langage, tout correspond. Pourtant, c'est une voix générée par IA.

L'arnaque au dirigeant d'entreprise :

Le directeur appelle le comptable par téléphone. Sa voix est reconnaissable. Il demande un virement urgent sur un nouveau compte. Le comptable s'exécute sans se méfier.

| Type d'arnaque | Cible | Préjudice moyen | |---------------|-------|----------------| | Faux proche en détresse | Particuliers (parents, grands-parents) | 2 500€ | | Faux PDG (fraude au président) | Entreprises (service comptable) | 150 000€ | | Faux conseiller bancaire | Particuliers | 8 000€ | | Fausse demande de rançon | Particuliers | 5 000€ |

Les fausses célébrités et les arnaques crypto

Le schéma classique

Des vidéos deepfake de célébrités circulent massivement sur les réseaux sociaux, en particulier sur Facebook, Instagram, TikTok et YouTube. Ces vidéos montrent des personnalités connues -- Elon Musk, Emmanuel Macron, des présentateurs télévision français -- qui recommandent un investissement "révolutionnaire" en cryptomonnaie.

Le mécanisme :

1. Une publicité sponsorisée apparaît dans votre fil d'actualité
2. La vidéo montre une célébrité qui explique comment elle a fait fortune
3. Un lien vous dirige vers une plateforme d'investissement frauduleuse
4. Vous investissez un petit montant, les faux gains s'affichent
5. On vous pousse à investir davantage
6. Quand vous tentez de retirer votre argent, la plateforme disparaît

Les indices qui trahissent ces deepfakes

• Les lèvres ne sont pas parfaitement synchronisées avec la voix
• Le regard est parfois fixe ou manque de naturel
• Les mouvements de tête sont limités ou saccadés
• L'éclairage du visage ne correspond pas à l'environnement
• La vidéo est de faible résolution pour masquer les imperfections
• La célébrité "recommande" un produit sans rapport avec son domaine

Comment détecter un deepfake

Les indices visuels (vidéo)

1. Les yeux : clignements irréguliers, reflets absents ou incohérents dans les pupilles
2. Les contours du visage : flou ou distorsion autour de la mâchoire, des oreilles ou de la ligne des cheveux
3. Les dents : souvent mal rendues, floues ou uniformes
4. La symétrie : les deepfakes produisent parfois des visages trop symétriques
5. Les mouvements : gestes saccadés, tête qui tourne de manière non naturelle
6. L'éclairage : ombres incohérentes sur le visage par rapport au reste de la scène

Les indices sonores (voix clonée)

• Intonation légèrement monotone ou "métallique"
• Pauses anormales entre les phrases
• Difficulté à prononcer certains mots complexes ou noms propres
• Absence de bruits de fond naturels
• Réponses légèrement décalées dans le temps lors d'une conversation

Les outils de détection

| Outil | Type | Utilisation | |-------|------|------------| | Microsoft Video Authenticator | Détection vidéo | Analyse les images pour détecter les manipulations | | Sensity AI | Détection multi-format | Identifie les deepfakes dans les vidéos et les images | | Hive Moderation | API de détection | Intégration pour les plateformes et entreprises | | Deepware Scanner | Application mobile | Permet de vérifier une vidéo depuis son téléphone | | Reality Defender | Solution entreprise | Protection en temps réel contre les deepfakes |

Comment se protéger au quotidien

Pour les particuliers

1. Établissez un mot de passe verbal avec vos proches pour les situations d'urgence
2. Ne faites pas confiance à une vidéo ou un appel vocal inhabituel, même si la voix semble familière
3. Vérifiez par un autre canal : si quelqu'un vous appelle, raccrochez et rappelez sur le numéro habituel
4. Limitez vos contenus publics : moins il y a de vidéos et d'audios de vous en ligne, plus le clonage est difficile
5. Méfiez-vous des publicités avec des célébrités recommandant des investissements

Pour les entreprises

1. Instaurez une procédure de double validation pour tout virement supérieur à un seuil défini
2. Formez vos équipes à la menace deepfake
3. N'acceptez jamais un changement de RIB demandé par visioconférence seule
4. Utilisez des mots de code internes pour valider les demandes sensibles
5. Déployez des outils de détection de deepfakes sur vos systèmes de visioconférence

Que faire si vous êtes victime

1. Contactez votre banque immédiatement si un virement a été effectué
2. Déposez plainte au commissariat en précisant l'utilisation de deepfake
3. Signalez sur cybermalveillance.gouv.fr
4. Conservez toutes les preuves : captures d'écran, enregistrements, historique d'appels
5. Signalez les contenus deepfake sur les plateformes où ils ont été publiés
6. Prévenez votre entourage pour éviter que d'autres personnes soient victimes

En résumé

Les deepfakes et le clonage vocal représentent une évolution majeure dans l'arsenal des escrocs. La vidéo et la voix, autrefois gages d'authenticité, ne sont plus des preuves fiables d'identité. La meilleure protection reste la vérification systématique par un canal indépendant avant toute action sensible. Établissez des mots de passe verbaux avec vos proches, instaurez des procédures de double validation en entreprise et gardez à l'esprit qu'en 2026, tout contenu audio ou vidéo peut être fabriqué.