Cybercriminalité : l'IA, nouvelle arme des escrocs

Policiers et gendarmes sont sur les dents. «Entre les mains des voyous, l’IA peut faire des dégâts considérables», estime le commissaire général Philippe Guichard, adjoint au sous-directeur de la lutte contre la criminalité organisée et la délinquance spécialisée. Le général Patrick Perrot, le monsieur IA de la gendarmerie, partage ce diagnostic : «Les escroqueries vont exploser. Il est tellement facile de mettre un visage sur une vidéo pornographique, par exemple.»

Déjà, les alertes se multiplient. Au printemps 2023, l’organisation européenne de coopération policière Europol a publié une note consacrée à ChatGPT et à sa «capacité à rédiger des textes très réalistes (qui) en fait un outil utile à des fins de phishing» (ou hameçonnage), une arnaque consistant à adresser à une personne un courriel apparemment légitime afin d’obtenir ses coordonnées bancaires ou ses données de connexion.

Usurpation d’identité, chantage sexuel, fraude à l’investissement…

«On constate que les mails sont mieux écrits, donc plus crédibles, mais il est encore difficile de dire si c’est imputable à l’IA, à de meilleurs logiciels de traduction ou à une montée en gamme des délinquants», tempère la commissaire Anne-Sophie Coulbois, patronne de l’Office central pour la répression de la grande délinquance financière. Le sujet préoccupe néanmoins la police judiciaire. Suffisamment pour que sa direction diffuse à ses troupes, en juillet dernier, une «note flash» afin de les sensibiliser aux dangers du clonage des voix et des visages. D’autant que, désormais, un bref enregistrement audio suffit pour reproduire le timbre d’un individu avec un logiciel tel Vall-E.

Avant Noël, le géant américain de la cybersécurité Gen a tiré à son tour le signal d’alarme. En 2024, écrit Gen, «les cybercriminels ne se limiteront plus à la génération de texte, ils auront désormais accès à des outils de conversion de texte en vidéo ainsi qu’à des outils de création de contenus multimédia. Il sera plus difficile de distinguer une vidéo réelle d'une vidéo produite par l’IA.» Ces malfaiteurs «utiliseront du contenu issu de l'IA pour diffuser de fausses informations et publicités, des deepfakes de personnalités publiques, voire des messages directs qui semblent provenir de personnes de confiance».

Entre juillet et décembre 2023, l’organisation internationale de coopération policière Interpol a coordonné une vaste traque contre la cybercriminalité, du phishing aux escroqueries amoureuses en passant par le chantage sexuel en ligne et la fraude à l’investissement. Bilan de l’opération Haechi IV menée dans 34 pays : 3 500 personnes interpellées ; 82 000 comptes bancaires bloqués ; 300 millions de dollars saisis, soit 275 millions d’euros ; et une «notice mauve», document émis par Interpol sur les modes opératoires des criminels, mettant en garde contre le recours à l’intelligence artificielle pour rendre plus crédibles les usurpations d’identité.

Gare aux faux produits, également, comme ces vêtements aux couleurs chatoyantes vendus sur un obscur site chinois de vente en ligne, CCMom. A l’automne dernier, le journaliste Ulysse Thevenon a révélé que ces images avaient été conçues par l’outil d’IA générative Midjourney. Les clients ont reçu des produits de piètre qualité, voire rien du tout. Et ils n’ont, bien sûr, jamais été remboursés. Selon le quotidien américain New York Times, de faux guides de voyage, rédigés grâce à l’IA, sont en vente sur la plateforme Amazon. Une escroquerie boostée par de faux avis dithyrambiques.

En France, selon nos informations, aucune procédure judiciaire impliquant l’IA ne serait en cours. Question de temps. Et peut-être faute de plaintes, car les victimes de ces arnaques préfèrent souvent faire profil bas plutôt qu’avouer leur crédulité. Ailleurs dans le monde, quelques affaires inquiétantes ont défrayé la chronique.

En juin 2023, l’Américaine Jennifer DeStefano a raconté sa mésaventure devant une sous-commission judiciaire du Sénat, lors d’une session consacrée aux abus liés à l’IA. Deux mois plus tôt, un vendredi soir, la mère de famille reçoit un appel d’un numéro inconnu. C’est Briana, sa fille de 15 ans, en larmes. L’ado l’appelle au secours, elle est entre les mains de «méchants hommes». L’un des supposés kidnappeurs lui arrache alors le téléphone et exige une rançon de 1 million de dollars (915 000 euros). Sinon, il gavera la jeune fille de stupéfiants avant de la violer. Heureusement, un coup de fil sur le portable de Briana rassure Jennifer : elle est saine et sauve, sa voix a été clonée pour faire chanter sa mère.

Un couple de Canadiens a eu moins de chance. Un soi-disant avocat les a prévenus par téléphone : leur fils Brian, 39 ans, est en prison après avoir provoqué la mort d’un diplomate américain dans un accident de voiture, il doit comparaître devant la justice le jour même et a besoin de 15 500 dollars (14 000 euros) pour couvrir les frais juridiques. D’ailleurs, Brian lui-même le leur confirme. Convaincus d’avoir entendu leur rejeton, les parents ont envoyé l’argent sous forme de bitcoins. Ils ont découvert la supercherie le soir même, quand leur fils les a appelés pour prendre de leurs nouvelles.

La police s’est elle aussi emparée de l’IA

L’intelligence artificielle vole parfois au secours des forces de l’ordre. Une habitante du Chesnay- Rocquencourt, dans les Yvelines, en a fait l’expérience en juin dernier. Cette femme de 78 ans reçoit un appel de sa banque. Des débits frauduleux ont été observés sur son compte, son conseiller lui passe la police judiciaire de Versailles, qui souhaite lui parler. On l’avertit alors qu’un policier va se rendre à son domicile pour récupérer ses objets de valeur et les mettre en sécurité. Aussitôt dit, aussitôt fait : le faux agent repart avec des bijoux, des montres, des sculptures et un tableau. Dans le hall de l’immeuble, la caméra de vidéosurveillance immortalise l’homme avec la toile sous le bras. Sur les images, les traits de l’escroc sont parfaitement nets. Bingo : cette photo, croisée avec celles du fichier TAJ (traitement d’antécédents judiciaires), annuaire de tous les mis en cause et de leurs victimes, livre le nom du malfaiteur. Merci l’IA !

Et ce n’est qu’un début. «En permettant, par exemple, de vieillir des visages ou de reconnaître des individus dans une foule, cette technologie va contribuer à l’identification des criminels et des comportements déviants», assure Renaud Feil, le codirigeant de l’entreprise de cybersécurité Synacktiv. A la gendarmerie nationale, le général Patrick Perrot est le spécialiste du sujet. Docteur en intelligence artificielle, il pilote un projet de détection des deepfakes de toute nature, images, vidéos, voix ou textes, baptisé Authentik IA. «Nous sommes en train de tester cet outil, qui a vocation à être mis à la disposition de tous les enquêteurs», précise-t-il. Il en est convaincu, «l’IA générative est un poison, mais c’est aussi l’antidote».