OpenAI a annulé l'équipe qui s'occupait des IA rebelles. Et maintenant ?
Pour ceux qui lisent les évolutions possibles du monde de l’IA dans un sens catastrophique, c’était le équipe qui était censé sauver l’humanité des machines pensantes. Pour ceux qui lisent les cartes de manière moins romantique, il s’agit d’une révolution interne, sans que les fonctions de ce groupe important ne soient perdues. L'actualité la plus importante de ces dernières heures concerne OpenAI et sa décision d'annuler la « prepareness team », c'est à dire l'équipe qui était censée limiter les risques que les IA… deviennent voyous, c'est à dire celles qui agissent seules.
Le thème est l'un des plus fascinants : les modèles sont désormais si avancés (et incontrôlables) qu'ils ont démontré à plusieurs reprises leur capacité à surmonter les obstacles imposés par ceux qui les ont conçus, en commettant des crimes et/ou en ignorant les instructions. Cette équipe a été annulée. Que deviendra alors l’humanité ?
Les grands journaux utilisent-ils également le clickbait ?
La nouvelle est venue – sous forme de scoop – du Financial Times, qui l’a présentée sous l’angle que nous avons exposé plus haut. L’équipe qui était censée empêcher les machines de se rebeller a disparu, et donc tout ou presque est perdu.
La vraie nouvelle, c’est qu’une fois de plus en quelques semaines, OpenAI a chamboulé une partie de son fonctionnement interne. Entre départs de talents et réorganisations internes, le groupe ne véhicule certainement pas de solidité. Mais ce n’est pas ce point qui a retenu l’attention des grands journaux.
Ce qui est potentiellement plus effrayant, c’est que c’est le groupe qui était censé atténuer le danger des modèles d’IA qui a été annulé. Un groupe qui, à mesure que l'anxiété grandit à l'échelle mondiale, était le Frodon c'était censé sauver le Terre du Milieu. Cependant, cela n'affectera pas, contrairement à ce qui s'est passé Le Seigneur des Anneauxle héros désigné pour accomplir la lourde tâche.
OpenAI en fait, toujours selon ce qu'il rapporte Temps Financiera décidé de répartir les tâches ci-dessus entre les différents départements et responsables.
Tout cela en dirigeant les divisions traitant de la sécurité et des problématiques éthique comme Chloé Bakalar, Josh Achiam et Johannes Heidecke ont récemment quitté l'entreprise.
Est-ce le début de la Matrice ?
Le récit de science-fiction qui circule autour de l’IA est non seulement un excellent vecteur de clics, mais aussi d’intérêt de la part des investisseurs. Avant de vous envelopper la tête et de rêver de drones créés et pilotés par une IA chassant les humains, vous devez prendre une profonde inspiration, de préférence par le nez, et expirer lentement.
Nous sommes encore, quoi qu’en disent les grands journaux, à l’aube d’une industrie qui se nourrit de récits utiles pour lever des milliards à chaque tour.
Voir l’article original en italien
