La société de technologie australienne Apate déploie dans le monde entier une vaste gamme de personnages de robots IA qui jouent le rôle de victimes d'arnaques crédules et font perdre des millions d'heures aux escrocs chaque mois.
De manière hilarante, l'une des mesures de performance mensuelles de l'entreprise est le nombre de fois où des escrocs frustrés injurient les « victimes » idiotes qui jouent les idiots et les enchaînent.
« Je pense que nous sommes la seule entreprise au monde à conserver dans ses KPI le nombre de mots F que les escrocs leur lancent », a déclaré le fondateur d'Apate, Dali Kaafar, au magazine en riant.
La société dispose d’une écurie de près de 200 000 personnages IA capables de tenir des conversations téléphoniques convaincantes et de discuter sur les réseaux sociaux et les plateformes de messagerie.
« Je peux vous dire que nous traitons essentiellement, comme nous les appelons, des centaines de milliers d'appels par jour et pratiquement des centaines de milliers de conversations sur les autres canaux », dit-il.
Chaque heure du temps perdu par un escroc est une heure supplémentaire pendant laquelle il n'escroque pas un membre du public. Au cours des six semaines précédant la fin de 2025, les robots d'Apate ont lancé 600 000 appels frauduleux pour une seule société de télécommunications appelée TPG en Australie.
« En fait, nous avons perdu plus de cinq cents jours de temps aux escrocs », explique-t-il. « Cela équivaut à environ treize millions de dollars économisés. »
L'autre objectif des robots est d'obtenir des renseignements exploitables pour les banques et les sociétés de télécommunications afin de lutter contre les réseaux frauduleux en Australie, en Asie, en Afrique, au Royaume-Uni et en Europe.
Les robots Apate traitent les fraudeurs via le chat. Source : Apaté
Appâtage d'escroqueries à grande échelle auprès des victimes de l'IA
Kaafar dit qu'il a eu l'idée lorsqu'il a reçu un appel frauduleux alors qu'il pique-niqueait avec sa famille à Sydney en novembre 2021.
Au grand dam de sa femme, mais pour le plus grand plaisir de ses enfants, il a traîné l'escroc pendant 44 minutes en se faisant passer pour un rube crédule tombant dans le piège de l'arnaque.
« Ce qui a suivi était littéralement une véritable émission de comédie pour mes enfants », dit-il, ajoutant qu'au cours de l'appel, il avait également appris beaucoup d'informations potentiellement utiles sur les mécanismes de l'arnaque et les tactiques utilisées.
« En raccrochant, je me souviens avoir pensé très clairement : si je pouvais faire ça juste pour m'amuser, imaginez ce que la technologie peut faire à grande échelle. »
Travaillant alors comme professeur à l’Université Macquarie, il a évoqué l’idée avec certains de ses doctorants travaillant sur l’IA et la sécurité.
« J'ai dit : « Les gars, il doit y avoir une bien meilleure façon de procéder. Construisons quelque chose qui automatisera réellement tout ce processus d'engagement des fraudeurs à grande échelle, mais aussi, peut-être plus important encore, extraira toutes sortes d'informations de ces conversations. » Et c’est littéralement comme ça que tout a commencé.
En relation: Un robot alimenté par l'IA remplace le candidat absent dans le débat en Virginie
En quelques mois, ils ont obtenu un financement de l'Office of National Intelligence pour étudier cette idée, et le projet a été transféré de l'université à Apate en 2023. La société travaille désormais avec la plupart des grandes banques d'Australie, ainsi qu'avec de nombreuses banques au Royaume-Uni, en Afrique du Sud et en Asie du Sud-Est.
Apate est loin d'être la seule entreprise à attaquer les fraudeurs à l'aide de robots IA, même si elle le fait à une plus grande échelle que la plupart des autres. La société de télécommunications britannique O2 a lancé l'année dernière une campagne AI Granny, qui frustre les escrocs en prenant des heures de leur temps à parler de ses 28 chats. Il s’agissait autant d’une campagne publicitaire visant à avertir le public des dangers des appels frauduleux qu’autre chose.
AI Granny très divertissante d'O2. Source : 02
Créer les victimes parfaites de l’IA
Apate a été lancé avec 120 personnages différents de différents sexes, âges et types de personnalité, et compte désormais 197 000 personnages avec des tics vocaux et des accents identifiables, et ils font les mêmes bruits que les gens font lorsqu'ils essaient de penser à quoi dire.
« Nous avons passé beaucoup de temps à affiner et à construire ces robots IA qui ressemblent exactement à vous, moi et nos voisins », dit-il.
Les modèles d’IA ont été formés sur « des centaines et des centaines » d’heures de conversations enregistrées entre des escrocs humains et des escrocs, afin de pouvoir employer des contre-stratégies.
« Ils savent qu'ils parlent à des méchants, si vous voulez, et ils naviguent vraiment dans les conversations de manière à ce que cela semble vraiment très, très réaliste pour n'importe quel escroc, même si un escroc est sceptique à propos de certaines choses. »
Les robots sont envoyés sur WhatsApp et Telegram pour servir de pots de miel aux fraudeurs. Même si le vieux cliché selon lequel on ne peut pas arnaquer un honnête homme n'est pas vrai, il est tout de même très possible d'exploiter le désir d'argent d'un escroc.
« Ce sont vraiment des cybercriminels. Je pense que nous oublions très souvent que ce sont des cybercriminels qui tentent de s'emparer des économies des gens. Et donc cet élément de cupidité est parfois ce que nos robots exploitent également. »
Les robots collectent des informations précieuses à partir de chaque appel frauduleux
Dans l’industrie de la cryptographie, Apate travaille pour « l’un des leaders de l’analyse de la blockchain », qui peut être ou non Chainalysis. Ils ne souhaitent pas faire perdre du temps aux fraudeurs : ils veulent obtenir des informations sur les portefeuilles et les méthodes utilisés par les fraudeurs afin de pouvoir suivre le flux de fonds.
« Ces robots, au fur et à mesure qu'ils participent à différentes conversations, extraient de nouvelles adresses de portefeuille cryptographique par centaines et par milliers », dit-il. « Ce sont des données et des renseignements qui arrivent littéralement avant que leurs dégâts ne surviennent. »
L’escroquerie est un gros business, et les centres d’appels sont « en grande partie des entreprises », explique Kaafar.
« Ces données sont très, très importantes car, littéralement, c'est le nouveau compte ou le nouveau portefeuille auquel vous devez vraiment prêter une attention extrême. Parce que c'est là que ces… complexes frauduleux collectent leur argent ou leurs fonds. »
« Considérez-le littéralement comme étant toujours en avance sur les tactiques des fraudeurs. Et plus vous en savez avant que l'argent ne soit transféré, mieux c'est. »
En juillet, les robots d'Apate ont découvert un marché pour les courtiers sollicitant des comptes bancaires vérifiés en Inde, offrant des commissions allant jusqu'à 5 % payées en USDT sur le produit des escroqueries transitant par les comptes.
Le personnel humain d'Apate à Sydney. Source : Apaté
Course aux armements de l’IA entre les bons et les méchants
Les fraudeurs utilisent de plus en plus de robots IA eux-mêmes, et il ne faudra pas longtemps avant que les fraudeurs IA deviennent aussi omniprésents que les spams. L'escroquerie représente une activité de 1,24 billion de dollars, le secteur peut donc se permettre le calcul nécessaire pour intensifier ses opérations.
Les recherches d'Apate suggèrent qu'environ 20 à 30 % des conversations textuelles frauduleuses utilisent déjà l'IA, mais Kaafar ne s'inquiète pas trop du résultat des robots anti-arnaque qui combattent les robots frauduleux.
Il dit que leurs chercheurs pensent que les robots IA jouant en défense ont un avantage, selon la théorie des jeux, car ils tentent d'extraire des renseignements, tandis que les robots frauduleux tentent d'amener l'autre IA à effectuer une action.
« Vous pouvez également démontrer mathématiquement que cela est à l'avantage d'un défenseur, car il devient plus facile d'extraire des renseignements du modèle d'IA de l'attaquant », dit-il.
« Nous pouvons imaginer un monde dans lequel les escrocs deviendraient beaucoup plus sophistiqués et déploieraient une telle technologie. Mais cela signifie également que s'ils le font, ils seront en fait considérés comme perdant la partie, ce qui est une excellente nouvelle dans la lutte contre les escroqueries. »
Magazine : Un agent fait perdre 14 heures aux escrocs et les LLM sont « empoisonnés » par l'Iran — AI Eye
Cointelegraph publie du journalisme de longue durée, des analyses et des reportages narratifs produits par l'équipe éditoriale interne de Cointelegraph possédant une expertise en la matière. Tous les articles sont édités et révisés par les éditeurs de Cointelegraph conformément à nos normes éditoriales. Certains articles contiennent des liens d’affiliation, à partir desquels Cointelegraph peut percevoir une commission. Ces relations n'influencent pas les produits que nous examinons ou nos conclusions éditoriales. Le contenu publié ici ne constitue pas un conseil financier, juridique ou d’investissement. Les lecteurs doivent effectuer leurs propres recherches et consulter des professionnels qualifiés, le cas échéant. Cointelegraph conserve une totale indépendance éditoriale.
Voir l’article original en anglais
