OpenAI déploie ChatGPT sur la plateforme militaire du Pentagone : les experts mettent en garde contre les risques

OpenAI a annoncé lundi déployer une version personnalisée de ChatGPT sur GenAI.mil, la plateforme d'IA développée par le ministère américain de la Défense.

Cette décision élargit l’accès des militaires à de puissants modèles d’IA générative, même si les critiques préviennent que les erreurs des utilisateurs restent un risque majeur pour la sécurité.

ChatGPT rejoint une liste croissante de modèles d'IA disponibles pour l'armée américaine, notamment Gemini et Grok de Google, le système d'IA développé par xAI, qui a été intégré à SpaceX plus tôt ce mois-ci.

« Nous pensons que les personnes chargées de défendre le pays devraient avoir accès aux meilleurs outils disponibles, et il est important que les États-Unis et d'autres pays démocratiques comprennent comment, avec les bonnes garanties, l'IA peut aider à protéger les personnes, à dissuader les adversaires et à prévenir de futurs conflits », a déclaré OpenAI dans un communiqué.

OpenAI a déclaré que la version de ChatGPT pour GenAI.mil est approuvée pour une utilisation non classifiée par le DoD et fonctionnera dans une infrastructure cloud gouvernementale sous licence.

Selon OpenAI, le système comprend des garanties conçues pour protéger les données sensibles.

Cependant, JB Branch, défenseur de la responsabilité des Big Tech chez Public Citizen, a averti que la dépendance excessive des utilisateurs à l'égard de l'IA pourrait compromettre ces protections.

« La recherche montre que lorsque les gens utilisent ces grands modèles linguistiques, ils ont tendance à leur accorder le bénéfice du doute », a déclaré Branch. Décrypter. « Donc, dans des situations à fort impact comme dans le cas de l'armée, il est encore plus important de s'assurer qu'ils reçoivent les bonnes choses. »

Ce déploiement intervient alors que le Pentagone accélère l’adoption de l’IA commerciale dans les réseaux militaires et que les développeurs d’IA recherchent la rentabilité.

En janvier, le secrétaire à la Défense Pete Hegseth a déclaré que le département prévoyait de déployer des modèles d'IA de pointe sur des réseaux militaires classifiés et non classifiés.

Bien qu'OpenAI ait noté que la version personnalisée de ChatGPT est destinée uniquement aux données non classifiées, Branch a averti que l'introduction de toute information sensible dans les systèmes d'IA les rend vulnérables aux adversaires, ajoutant que les utilisateurs confondent souvent ces outils avec des coffres-forts sécurisés.

« Les informations classifiées ne sont censées être présentées qu'à un certain public », a-t-il déclaré. « Donc, même si vous disposez d'un système isolé qui n'est autorisé qu'au sein de l'armée, cela ne change rien au fait que les données classifiées ne sont destinées qu'à un sous-ensemble limité de personnes. »

OpenAI n'a pas immédiatement répondu à une demande de commentaires de Décrypter.