Une enquête révèle des préférences pour l’intelligence artificielle open source

Les passionnés d’IA préfèrent travailler avec des outils open source plutôt qu’avec des outils commerciaux propriétaires, selon une enquête en cours menée auprès de plus de 100 000 personnes interrogées.

L’émergence du modèle open source Mixtral 8x7B de Mistral AI a eu un impact significatif sur l’espace de l’IA. Léger et puissant, Décrypter l’a classé parmi les meilleurs LLM de 2023. Mixtral a attiré l’attention pour ses performances remarquables dans plusieurs tests de référence, notamment Chatbot Arena, qui propose une approche unique centrée sur l’humain pour évaluer les LLM.

Le classement Chatbot Arena, une liste participative, exploite plus de 130 000 votes d’utilisateurs pour calculer les notes Elo des modèles d’IA. Par rapport à d’autres méthodes qui tentent de standardiser les résultats pour les rendre plus objectifs, Arena opte pour une approche plus « humaine », demandant aux individus de choisir entre deux réponses fournies par des LLMS identifiés aveuglément. Ces réponses peuvent sembler non conventionnelles selon certaines normes, mais elles peuvent être évaluées intuitivement par de vrais utilisateurs humains.

Mixtral occupe une position impressionnante, battant des géants de l’industrie comme Claude 2.1 d’Anthropíc, GPT-3.5 d’OpenAI, qui alimente la version gratuite de ChatGPT, et Gemini de Google, un LLM multimodal vendu comme le chatbot le plus puissant pour défier le domaine de GPT. 4.

L’une des différences notables de Mixtral est d’être le seul LLM open source dans le top 10 de la Chatbot Arena. Cette distinction n’est pas seulement une question de classification ; représente un changement important dans l’industrie de l’IA vers des modèles plus accessibles et communautaires.

Comme l’a rapporté Decrypt, Mistral AI a déclaré que son modèle « surclasse LlaMA 2 70B sur la plupart des benchmarks avec une inférence 6 fois plus rapide et correspond ou bat GPT 3.5 sur la plupart des benchmarks standards », comme MMLU, Arc-C ou GSM.

Le secret du succès de Mixtral réside dans son architecture « Mix of Experts » (MoE). Cette technique utilise plusieurs modèles experts virtuels, chacun spécialisé dans un sujet ou un domaine spécifique. Face à un problème, Mixtral sélectionne les experts les plus pertinents de son groupe, conduisant à des résultats plus précis et efficaces.

« A chaque couche, pour chaque jeton, un réseau de routage choisit deux de ces groupes (les « experts ») pour traiter le jeton et combiner leurs résultats de manière additive », a expliqué Mistral dans un récent article publié dans LLM. « Cette technique augmente le nombre de paramètres dans un modèle tout en contrôlant le coût et la latence, puisque le modèle n’utilise qu’une fraction de l’ensemble total de paramètres par jeton. »

De plus, Mistral se distingue par sa compétence multilingue. Le modèle excelle dans des langues telles que le français, l’allemand, l’espagnol, l’italien et l’anglais, démontrant sa polyvalence et son large potentiel. Sa nature open source, sous licence Apache 2.0, permet aux développeurs d’explorer, de modifier et d’améliorer librement le modèle, favorisant ainsi un environnement collaboratif et innovant.

Le succès de Mistral ne repose évidemment pas uniquement sur les compétences technologiques ; marque une victoire petite mais importante pour la communauté de l’IA open source. Peut-être que dans un avenir pas si lointain, la question ne sera pas de savoir quel modèle est arrivé en premier, ou lequel a plus de paramètres ou de capacités contextuelles, mais lequel trouve vraiment un écho auprès des gens.

Edité par Ryan Ozawa.

Trezor One – Portefeuille Matériel de Crypto-Monnaie – Le Stockage à Froid Le Plus Fiable pour Bitcoin, Ethereum, ERC20 et Bien d’autres (Noire)