La sécurité des systèmes d’IA doit être considérée comme une tâche d’ingénierie, et les décisions concernant le rythme de développement et les éventuelles pauses doivent être laissées aux entreprises elles-mêmes. Cette déclaration a été faite par Jensen Huang, PDG de Nvidia, lors d'une conversation avec Marc Benioff, PDG de Salesforce, lors de la conférence Dreamforce.
Benioff a interrogé le patron de Nvidia sur le débat de l'industrie autour du ralentissement du développement de l'IA.
« La sécurité est d'une importance primordiale. Mais la sécurité est un problème d'ingénierie », a répondu Huang.
Selon lui, les développeurs créent des logiciels et des systèmes informatiques, ils doivent donc d'abord créer des environnements fiables pour les tester. Si une entreprise n’a pas confiance dans la fonctionnalité ou la sécurité d’un produit, celle-ci ne doit pas être commercialisée.
« Les forces du marché sont déjà là. Nous n'avons pas besoin de nouvelles lois. Nous n'avons pas besoin de nouvelles réglementations », a-t-il déclaré.
Le PDG de Nvidia a également qualifié de faux le choix entre vitesse d'innovation et sécurité. Selon lui, les entreprises peuvent développer des technologies le plus rapidement possible, mais devraient faire une pause si elles perdent le contrôle du processus ou doutent de la sécurité du produit.
Les remarques de Huang interviennent quelques jours après que le PDG d'Anthropic, Dario Amodei, a appelé à un ralentissement du développement de ses modèles d'IA les plus puissants. Sa position a été soutenue par Sam Altman, PDG d'OpenAI, et Elon Musk.
Le 14 septembre, au milieu du débat, les actions d’un certain nombre de sociétés liées à l’intelligence artificielle et de fabricants de semi-conducteurs ont chuté. Les acteurs du marché évaluaient l'impact possible du ralentissement sur la demande d'infrastructures informatiques.
La question de la coordination entre les développeurs complique les lois antitrust. Le 11 septembre, OpenAI a demandé aux membres du Congrès américain de préciser si un ralentissement commun du développement de modèles avancés serait considéré comme une restriction de la concurrence.
Amodei lui-même a qualifié la réglementation de tous les développeurs américains de modèles avancés d'option la plus efficace. Pour une coordination volontaire entre concurrents, il a proposé la participation du gouvernement et une étroite exception aux restrictions antitrust.
Rappelons qu'en juillet, Nvidia, Meta, Microsoft et 22 autres sociétés ont appelé les autorités américaines à ne pas introduire de restrictions générales sur les modèles d'IA à pondération ouverte. Huang avait déclaré à l'époque que de tels systèmes favorisaient l'innovation, la cybersécurité et la diffusion des technologies.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Voir l’article original en russe
