Les développeurs d’OpenAI ont empêché l’utilisation de leurs produits par des cybercriminels associés aux gouvernements de divers pays.
Nous avons perturbé l’utilisation de notre plateforme par cinq cyberacteurs malveillants affiliés à des États.
Travail réalisé en collaboration avec Microsoft Threat Intelligence Center. https://t.co/xpEeQDYjrQ
-OpenAI (@OpenAI) 14 février 2024
En collaboration avec Microsoft Threat Intelligence, ils ont découvert et supprimé cinq comptes appartenant à des attaquants. Parmi eux:
- les pirates informatiques Charcoal Typhoon et Salmon Typhoon liés au gouvernement chinois ;
- Tempête de sable pourpre (Iran);
- Grésil émeraude (RPDC) ;
- Blizzard forestier (RF).
L’enquête a révélé que Charcoal Typhoon utilisait l’IA pour explorer divers outils de cybersécurité, déboguer du code et créer du contenu pour les campagnes de phishing.
Salmon Typhoon a traduit des documents techniques, étudié les activités des agences de renseignement et des acteurs régionaux de la menace, et a également trouvé des moyens de cacher les processus malveillants dans le système.
Crimson Sandstorm a créé des applications et des sites Web de phishing à l’aide de ChatGPT.
Emerald Sleet, en plus d’écrire du code malveillant, a recherché des experts et des organisations impliqués dans les questions de défense dans la région Asie-Pacifique.
Forest Blizzard a demandé des informations sur les protocoles de communication par satellite et la technologie d’imagerie radar.
Microsoft, en collaboration avec OpenAI, publie des recherches sur les menaces émergentes à l’ère de l’IA, en se concentrant sur les activités identifiées associées aux acteurs de menace connus Forest Blizzard, Emerald Sleet, Crimson Sandstorm et d’autres. En savoir plus : https://t.co/y68MDypDXM
– Intelligence des menaces Microsoft (@MsftSecIntel) 14 février 2024
À la suite d’une enquête interne, OpenAI a découvert que la version GPT-4 du chatbot n’offre que des capacités limitées pour effectuer des tâches malveillantes. Cependant, les développeurs ont l’intention d’améliorer la sécurité de leurs produits en étudiant des expériences réelles de leur utilisation dans des activités cybercriminelles et en introduisant une surveillance renforcée de l’interaction des utilisateurs avec la plateforme.
ForkLog a précédemment signalé qu’OpenAI avait introduit une fonctionnalité de « mémoire » pour ChatGPT.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !
Voir l’article original en russe
