Le Comité de sécurité d'OpenAIintroduit il y a seulement quatre mois, en mai, deviendra un organe de surveillance indépendant du conseil d'administration. Le groupe sera présidé par Zico Kolter, directeur du département d'apprentissage automatique à l'École d'informatique de l'Université Carnegie Mellon. Les autres membres incluent Adam D'Angelomembre du conseil d'administration d'OpenAI et co-fondateur de Quoral'ancien chef de laNSA et membre du conseil d'administration Paul Nakasone et Nicole Seligmanancien vice-président exécutif de Sony.
Le rôle du comité
En tant qu’entité indépendante, le comité supervisera «les processus de sécurité qui guident la mise en œuvre et le développement du modèle OpenAI”, a déclaré la société. L’organisme a récemment conclu son examen de 90 jours, évaluer les processus et les mesures adoptés par OpenAI et faire des recommandations au conseil d'administration. OpenAI partagera les conclusions du groupe dans un article de blog public.
Le cinq recommandations clés Les recommandations du comité comprennent l'établissement d'une gouvernance indépendante pour la sécurité, l'amélioration des mesures de sécurité, la transparence sur le travail d'OpenAI, la collaboration avec des organisations externes et l'unification des cadres de sécurité de l'entreprise.
En fin de compte, le comité « avec l’ensemble du conseil d’administration, supervisera le lancement de modèles d'intelligence artificielleayant également le pouvoir de retarder la publication jusqu’à ce que les problèmes de sécurité soient résolus. »
Le groupe de travail devra également s'efforcer d'aplanir une série de problèmes critiques qui ont émergé ces derniers mois. En mai, un ancien membre du conseil d'administration d'OpenAI, parlant de l'éviction temporaire d'Altman en novembre, a déclaré qu'il avait fourni au conseil d'administration des « informations inexactes sur le petit nombre de processus de sécurité formels mis en place par l'entreprise » à plusieurs reprises. Le même mois, OpenAI a décidé de dissoudre son équipe qui se concentre sur les risques à long terme de l'IA, un an seulement après avoir annoncé la création du groupe. Les dirigeants du groupe, Ilya Sutskever et Jan Leikeont annoncé leur démission d'OpenAI et dans un article sur X, Leike a écrit que « la culture et les processus de sécurité d'OpenAI ont été relégués au second plan par rapport aux produits les plus brillants ».
De nouvelles ressources pour l'équipe de cybersécurité
En plus de l'autonomie du comité, la société a également annoncé un renforcement de l'équipe en charge de la cybersécuritéappelé « un élément essentiel de la sécurité de l'IA ». OpenAI affirme qu'il continuera «adopter une approche fondée sur les risques à nos mesures de sécurité et à faire évoluer notre approche en fonction de l'évolution du modèle de menace et des profils de risque de nos modèles. Nous cherchons à étendre segmentation des informations internesaugmenter les effectifs pour renforcer nos équipes d'opérations de sécurité 24h/24 et 7j/7 et continuer à investir dans des initiatives en cours pour améliorer la sécurité de l'infrastructure de recherche et de produits d'OpenAI. Dans le cadre de l'examen du Comité de sécurité, nous avons identifié des opportunités supplémentaires de collaboration avec l'industrie et de partage d'informations pour améliorer la sécurité du secteur de l'IA. Par exemple, nous sommes examiner attentivement la création d’un centre d’analyse et de partage d’informations pour le secteur« Permettre le partage d’informations sur les menaces et la cybersécurité entre les entités du secteur afin d’améliorer notre résilience collective face aux cybermenaces. »
OpenAI dit-il adieu au modèle à but non lucratif ?
Mais les nouvelles ne s'arrêtent pas là, au moins Selon certaines rumeurs. Sam Altman, en effet, aurait communiqué aux employés que l'entreprise va changer sa structure à but non lucratif l'année prochaine. Des sources de Forbes affirment que ce mouvement marque un tournant pour l'organisationOpenAI, qui adoptera une forme d’entreprise plus traditionnelle. Fondée en 2015 en tant qu’association à but non lucratif, OpenAI s’appuyait initialement sur des dons pour financer ses recherches. Cependant, l’entreprise s’est rapidement rendu compte que ce modèle n’était pas viable pour supporter les coûts élevés de la puissance de calcul et des talents nécessaires pour faire avancer ses ambitieux projets d’IA.
Pour surmonter ce problème, OpenAI a créé une filiale à but lucratifcontrôlée par l'entité principale à but non lucratif. Cette structure a à son tour créé un système dans lequel les bénéfices pouvant être alloués aux investisseurs, y compris Microsoft, sont limités. Selon un rapport de The Information publié en juin, OpenAI a doublé son chiffre d'affaires annuel au premier semestre de l'année, grâce à la version par abonnement de ChatGptPour Forbes, la décision de passer à un modèle à but lucratif est motivée par le besoin d'OpenAI de accéder à davantage de ressources financières pour soutenir la croissance et les projets futurs.
La forme actuelle, si elle lui a permis de lever des investissements importants, limite également sa capacité à rémunérer les investisseurs et à attirer de nouveaux capitaux. Le site souligne que l'entité à but non lucratif continuera d'exister et de jouer un rôle clé dans la mission de l'entreprise, même si cela reste à voir. Comment le nouveau modèle influencera les décisions et stratégies futures d'OpenAI.