Meta a annoncé le lancement de Purple Llama, un projet-cadre conçu pour favoriser le développement responsable dans le domaine des modèles d’IA génératifs ouverts.
Purple Llama vise à répondre aux préoccupations croissantes concernant la cybersécurité et les garanties de l’IA.
Dans une déclaration récente, Meta explique que la couleur violette, empruntée au monde de la cybersécurité, symbolise une approche holistique visant à atténuer les défis dans l’espace de l’IA générative.
De plus, appelée « Purple Teaming », l’initiative combine des stratégies offensives (équipe rouge) et défensives (équipe bleue) pour une évaluation collaborative des risques.
Cependant, le communiqué indique qu’au départ, Purple Llama fournira des outils et des évaluations axés sur la cybersécurité, y compris des mesures permettant de quantifier les risques de cybersécurité. De plus, des outils pour évaluer les suggestions de code non sécurisés.
En outre, des mécanismes rendent plus difficile pour les LLM de générer du code malveillant ou de contribuer aux cyberattaques.
Meta affirme que ces références, alignées sur les normes de l’industrie, cherchent à réduire la fréquence du code non sécurisé généré par l’IA.
De plus, le projet introduit Llama Guard, un modèle fondamental librement disponible prenant en charge les garanties d’entrée et de sortie.
En savoir plus: Les 6 emplois les plus populaires en intelligence artificielle (IA) en 2023
Les résultats seront transparents pour un développement ultérieur
Pendant ce temps, Meta déclare que ce modèle permet aux développeurs de filtrer et de vérifier les entrées et les sorties conformément aux directives de contenu.
Cependant, les résultats sont partagés de manière transparente pour amélioration et personnalisation. Meta affirme que cela contribuera à terme à un écosystème d’IA plus sûr et plus responsable.
Meta déclare que Purple Llama encouragera la collaboration entre les développeurs et normalisera les outils de confiance et de sécurité pour l’IA générative.
S’appuyant sur le succès de Llama 2, Meta s’associe à des géants de l’industrie tels qu’AWS, Google Cloud, IBM, Microsoft et d’autres pour garantir un effort collectif visant à créer un environnement d’IA générative ouvert et développé de manière responsable.
En savoir plus: ChatGPT vs Google Bard : une comparaison des chatbots IA
Clause de non-responsabilité
Toutes les informations contenues sur notre site Web sont publiées de bonne foi et à titre d’information générale uniquement. Toute action entreprise par le lecteur à partir des informations trouvées sur notre site Web est strictement à ses propres risques.
Voir l’article original en anglais
