La cybersécurité signifie protection contre les attaques numériques, et même dans ce domaine, le sujet le plus brûlant est désormais l’intelligence artificielle (IA).
Trend Micro le révèle dans son dernier « rapport de prévisions » annuel pour 2024.
Cybersécurité : le problème de l’intelligence artificielle (IA)
Les risques, comme d’habitude, sont nombreux et de différents types, mais l’un des points sur lesquels le rapport se concentre est ce que l’on appelle l’intelligence artificielle générative (GenAI).
Du point de vue de la cybersécurité notamment, l’IA générative augmentera le niveau et l’efficacité des appâts d’ingénierie sociale produits par les fraudeurs pour tenter d’attirer des victimes potentielles.
Le rapport de Trend Micro prédit que le clonage vocal sera au centre des escroqueries ciblées en 2024, en plus d’être déjà un outil puissant d’usurpation d’identité et d’ingénierie sociale.
À cela s’ajoutent d’autres techniques exploitant l’intelligence artificielle comme le spear phishing, la chasse au harpon et les enlèvements virtuels, qui ne sont pourtant que la pointe de l’iceberg du rôle que l’IA générative peut jouer au sein des stratagèmes criminels des informaticiens.
Bien que WormGPT basé sur le Large Language Model (LLM) ait été fermé en 2023, ils s’attendent à ce qu’un plus grand nombre de ses apparitions peuplent le dark web. De plus, les fraudeurs trouveront toujours de nouvelles façons d’exploiter l’intelligence artificielle pour leurs activités cybercriminelles.
En outre, la législation visant à réglementer l’utilisation de l’IA générative n’a pas encore été adoptée. Il est donc essentiel que les défenseurs mettent en œuvre des politiques de confiance zéro et établissent un état d’esprit vigilant pour que leurs entreprises évitent de devenir la proie d’escroqueries basées sur l’IA.
Les problèmes liés à la blockchain
Outre l’IA, d’autres problèmes pourraient également provenir des blockchains privées.
Le rapport affirme que la blockchain servira de nouveau terrain de chasse aux fraudeurs, en particulier les blockchains privées vers lesquelles de plus en plus d’entreprises se tournent pour réduire leurs coûts.
En fait, les blockchains privées sont généralement confrontées à moins de tests de résistance et n’ont pas le même niveau de résilience que les blockchains publiques décentralisées et sans autorisation.
En fait, ces derniers sont confrontés à des attaques constantes et, au fil du temps, ils subissent et réussissent tellement de tests de résistance qu’ils sont finalement en sécurité. Les cybercriminels, en revanche, préféreront probablement les réseaux privés moins sécurisés.
Dans les domaines de la crypto et du Web3, Trend Micro identifie également les menaces liées aux organisations autonomes décentralisées (DAO) régies par des contrats intelligents auto-exécutables hébergés sur des blockchains publiques.
Certains problèmes dans ce sens ont déjà été observés, par exemple chez ceux qui utilisent les contrats intelligents comme arme pour ajouter des niveaux de complexité aux crimes liés aux cryptomonnaies contre les plateformes de finance décentralisée (DeFi).
Les autres problèmes
Le rapport ajoute également à ces menaces celles liées au machine learning (AI/ML) et au cloud.
En fait, l’apprentissage automatique est toujours lié à l’IA, mais pas nécessairement à l’intelligence artificielle générative mentionnée ci-dessus.
Le cloud, quant à lui, est le stockage à distance de données sur des plateformes en ligne tierces.
Le rapport indique que, à mesure que l’adoption du cloud devient de plus en plus critique pour les entreprises, celles-ci doivent regarder bien au-delà des logiciels malveillants et des vulnérabilités habituelles de leurs systèmes informatiques.
Ils affirment qu’en 2024, les environnements cloud constitueront un terrain de jeu pour les vers conçus sur mesure pour exploiter les technologies cloud, les erreurs de configuration constituant un point d’entrée facile pour les attaquants.
En outre, l’empoisonnement possible des données stockées dans le cloud rendra également les modèles d’apprentissage automatique (ML) vulnérables, et un modèle ML compromis peut ouvrir la porte à la divulgation de données confidentielles, à l’écriture d’instructions malveillantes ou à la diffusion d’un contenu déformé, ce qui pourrait conduire l’utilisateur à insatisfaction ou répercussions juridiques potentielles.
Intelligence artificielle (IA) et arnaques : la cybersécurité en danger
Dans le secteur de la cryptographie, le problème principal ne sera probablement pas les pures cyberattaques, qui ont toujours existé et existeront toujours et qui attaquent cependant principalement les systèmes les plus vulnérables.
Le principal problème pourrait être les escroqueries, et les escrocs pourraient considérablement améliorer leurs techniques d’ingénierie sociale grâce à GenAI.
En réalité, déjà en 2023, plusieurs fausses vidéos créées avec l’intelligence artificielle, et difficiles à reconnaître comme telles, circulaient dans lesquelles on voyait des VIP inconscients promouvoir de véritables escroqueries.
Reproduire l’image et la voix d’une personne célèbre avec l’IA pour lui faire dire ce que l’on veut n’est plus si difficile, et le VIP ne peut intervenir pour bloquer la diffusion de ces vidéos que lorsqu’elles ont désormais été publiées et diffusées en ligne.
Le point clé, mais encore largement sous-estimé par beaucoup, n’est pas de reconnaître si le contenu numérique est authentique ou non, mais de vérifier quelle source primaire a été la première à le publier et à le diffuser en ligne.
Si la source principale ne peut être trouvée, ou si elle s’avère être une source peu fiable, ce contenu doit simplement être ignoré, sans même avoir à l’examiner pour comprendre s’il est faux ou non. Ce n’est que si la source primaire est trouvée et fiable qu’elle vaut la peine d’être examinée, et si la source est crédible, cela peut suffire pour imaginer qu’elle peut être véridique.
Cependant, il s’agit d’un processus que les gens ordinaires ne font presque toujours pas et qui, malheureusement, de nos jours, n’est pas réalisé par une bonne partie des professionnels de l’information dont la tâche principale devrait être précisément celle-ci (identifier et vérifier les sources).