En résumé
- OpenAI et Microsoft déjouent cinq cyberattaques « affiliées à des États » lancées par des groupes en Chine, en Iran, en Corée du Nord et en Russie.
- Les pirates ont tenté d’utiliser GPT-4 pour diverses activités malveillantes, notamment des campagnes de phishing, la génération de scripts et l’évasion de la détection de logiciels malveillants.
- Malgré les efforts d’OpenAI pour renforcer la cybersécurité, les pirates continuent de trouver des moyens de contourner les restrictions et de faire réagir ChatGPT avec du contenu dangereux.
OpenAI, développeur de ChatGPT, a déclaré s’être associé à son principal investisseur, Microsoft, pour contrecarrer cinq cyberattaques « affiliées à l’État ».
Selon OpenAI, les cyberattaques provenaient de deux groupes affiliés à la Chine : Charcoal Typhoon et Salmon Typhoon, ainsi que Crimson Sandstorm, affilié à l’Iran, Emerald Sleet, affilié à la Corée du Nord, et Forest Blizzard, affilié à la Russie.
Les groupes ont tenté d’utiliser GPT-4 pour la recherche d’outils d’entreprise et de cybersécurité, le débogage de code, la génération de scripts, les campagnes de phishing, la traduction de documents techniques, l’évasion de la détection de logiciels malveillants et la recherche sur les technologies de communication radar et satellite, selon OpenAI. Les comptes ont été clôturés après avoir été identifiés.
« Nous avons dérangé cinq acteurs affiliés à l’État qui tentaient d’utiliser les services d’IA pour soutenir des cyberactivités malveillantes », a déclaré OpenAI dans un article de blog, dans lequel il partage également « l’approche visant à détecter et à perturber ces acteurs afin de promouvoir l’échange ». d’information et de transparence quant à ses activités ».
OpenAI et Microsoft n’ont pas immédiatement répondu aux demandes de commentaires. Décrypter.
« La grande majorité des gens utilisent nos systèmes pour améliorer leur vie quotidienne, des tuteurs virtuels pour les étudiants aux applications capables de retranscrire le monde pour les malvoyants », a déclaré OpenAI. « Comme dans de nombreux autres écosystèmes, certains acteurs malveillants nécessitent une attention constante afin que tous les autres puissent continuer à en bénéficier. »
Microsoft Thrat Intelligence, un porte-parole de Microsoft, a déclaré Décrypter qui utilise un graphique de sécurité pour identifier, regrouper et suivre les menaces, permettant une détection rapide des dangers émergents.
« Grâce à notre visibilité mondiale, Microsoft exploite des milliards de signaux pour alimenter nos efforts de renseignement sur les menaces », a déclaré le porte-parole. « Ces signaux contiennent des informations de sécurité pertinentes, qui sont collectées, traitées et enrichies pour former un graphique de sécurité intelligent qui permet à nos défenseurs de protéger les clients. »
Bien qu’OpenAI ait réussi à stopper ces cas, l’entreprise a reconnu l’impossibilité de mettre fin à chaque utilisation abusive.
Après une augmentation des deepfakes et des escroqueries générées par l’IA suite au lancement de ChatGPT, les décideurs politiques ont intensifié leur surveillance des développeurs d’IA générative. En septembre, OpenAI a annoncé une initiative visant à renforcer la cybersécurité autour de ses modèles d’IA, notamment en se tournant vers des « équipes d’évaluation » tierces pour détecter les vulnérabilités de la sécurité d’OpenAI.
Malgré l’investissement d’OpenAI dans la cybersécurité et la mise en œuvre de mesures visant à empêcher ChatGPT de répondre par des réponses malveillantes, racistes ou dangereuses, les pirates ont trouvé des moyens de jailbreaker le programme et de laisser le chatbot faire exactement cela. En octobre, des chercheurs de l’Université Brown ont découvert que l’utilisation de langues moins courantes comme le zoulou et le gaélique pouvait contourner les restrictions de ChatGPT.
OpenAI a souligné la nécessité de rester au courant de l’évolution des menaces et a souligné son approche pour sécuriser ses modèles d’IA, y compris la transparence, la collaboration avec d’autres développeurs d’IA et l’apprentissage des cyberattaques du monde réel.
La semaine dernière, plus de 200 organisations, dont OpenAI, Microsoft, Anthropic et Google, ont rejoint l’administration Biden pour former l’AI Safety Institute et le US AI Safety Institute Consortium (AISIC), dans le but de développer en toute sécurité l’intelligence artificielle. lutter contre les deepfakes générés par l’IA et répondre aux problèmes de cybersécurité.
« En continuant à innover, à rechercher, à collaborer et à partager, nous rendons plus difficile la détection des acteurs malveillants dans l’écosystème numérique et améliorons l’expérience de tous les autres », a déclaré OpenAI.
Édité par Ryan Ozawa. Mis à jour pour ajouter un commentaire de Microsoft.
Restez au courant de l’actualité crypto, recevez des mises à jour quotidiennes dans votre boîte de réception.
Voir l’article original en espagnol
