Le développeur d’intelligence artificielle (IA) OpenAI a annoncé qu’il mettrait en œuvre son « cadre de préparation », qui comprend la création d’une équipe spéciale pour évaluer et prédire les risques.
Le 18 décembre, la société a publié un article de blog indiquant que sa nouvelle « équipe de préparation » sera le pont qui reliera les équipes de sécurité et de politique travaillant au sein d’OpenAI.
Il a déclaré que ces équipes fournissant presque un système de freins et contrepoids aideront à se protéger contre les « risques catastrophiques » qui pourraient être posés par des modèles de plus en plus puissants. OpenAI a déclaré qu’elle ne déploierait sa technologie que si elle était jugée sûre.
Le nouvel aperçu des plans implique que la nouvelle équipe consultative examine les rapports de sécurité, qui seront ensuite envoyés aux dirigeants de l’entreprise et au conseil d’administration d’OpenAI.
Alors que les dirigeants sont techniquement chargés de prendre les décisions finales, le nouveau plan donne au conseil d’administration le pouvoir d’annuler les décisions en matière de sécurité.
Cela survient après qu’OpenAI ait connu un tourbillon de changements en novembre avec le licenciement brutal puis la réintégration de Sam Altman en tant que PDG. Après qu’Altman ait rejoint l’entreprise, celle-ci a publié une déclaration nommant son nouveau conseil d’administration, qui comprend désormais Bret Taylor (président), Larry Summers et Adam D’Angelo.
En rapport: OpenAI est-il sur le point de proposer une nouvelle mise à niveau de ChatGPT ? Sam Altman dit « non »
OpenAI a lancé ChatGPT au public en novembre 2022, et depuis lors, il y a eu un regain d’intérêt pour l’IA, mais il existe également des inquiétudes quant aux dangers qu’elle peut représenter pour la société.
En juillet, les principaux développeurs d’IA, dont OpenAI, Microsoft, Google et Anthropic, ont créé le Frontier Forum, destiné à surveiller l’autorégulation de la création d’une IA responsable.
L’administration Biden a publié en octobre un décret qui définit de nouvelles normes de sécurité en matière d’IA pour les entreprises développant des modèles de haut niveau et leur mise en œuvre.
Avant que l’administration Biden ne mette en œuvre son décret, d’éminents développeurs d’IA ont été invités à la Maison Blanche pour s’engager à développer des modèles d’IA sûrs et transparents – OpenAI était l’une des nombreuses entreprises présentes.
Revue: Deepfake K-Pop porno, a réveillé Grok, « OpenAI a un problème », Fetch.AI : AI Eye
Voir l’article original en anglais
