Les manifestants défilent contre OpenAI, Anthropic et Google DeepMind exigeant une pause dans le développement de l'IA

Les manifestants sont de nouveau descendus dans les rues de San Francisco, défilant entre les bureaux d'OpenAI, Anthropic et Google DeepMind, exigeant une pause dans le développement de systèmes d'IA plus puissants.

Le rassemblement de samedi, organisé par Stop the AI ​​Race, est allé au-delà de la sécurité de l'IA pour inclure les préoccupations concernant les pertes d'emplois, l'impact environnemental de l'IA, la hausse du coût du logement à San Francisco et l'influence croissante des grandes entreprises technologiques.

Organisée par l'ancien chercheur en IA Michaël Trazzi, la marche a exhorté les grandes entreprises d'IA à cesser de former de nouveaux modèles d'IA de pointe, tout en gardant les systèmes existants disponibles. Les manifestants ont exhorté les entreprises à réorienter leurs recherches vers la sécurité et l’alignement de l’IA jusqu’à ce que des garanties plus robustes soient mises en œuvre, tandis que certains ont également appelé à une réglementation nationale et locale plus stricte.

Trazzi a noté que les objectifs du groupe ont évolué depuis sa première manifestation en mars.

« Je pense qu'au début de cette année, je ne pensais pas tant à accroître la visibilité politique qu'à convaincre les PDG », a déclaré Trazzi. Décrypter. « Je pense avoir mis à jour ma position à l'égard des PDG qui écoutent réellement, compte tenu de plusieurs articles de blog et de quelques échanges que j'ai eu avec l'un d'eux. Je pense également qu'organiser des manifestations est utile pour montrer que les gens s'en soucient. »

La manifestation fait suite à une précédente manifestation Stop the AI ​​Race en mars, lorsqu'environ 200 personnes ont défilé entre les bureaux d'Anthropic, OpenAI et xAI pour exiger une pause coordonnée dans le développement de l'IA frontalière. Depuis lors, le groupe a poursuivi sa campagne à travers des manifestations et des actions de sensibilisation publique.

Trazzi s'est dit encouragé par le soutien dont le mouvement a bénéficié depuis lors.

« J'ai été agréablement surpris que le NUHW [Sindicato Nacional de Trabajadores de la Salud] soutenez la manifestation et republiez-la sur leurs réseaux sociaux », a-t-il ajouté. « J'ai également été surpris par la rapidité avec laquelle d'autres groupes de la Bay Area, comme AI Action, ont pu nous rattraper et travailler avec nous. Je suis également très reconnaissant à QuitGPT pour son aide dans l’organisation.

OpenAI, Anthropic et Google DeepMind n'ont pas immédiatement répondu aux demandes de commentaires. Décrypter.

Les organisateurs ont déclaré qu’ils prévoyaient de continuer à plaider en faveur d’une pause internationale dans le développement de l’IA de pointe, tout en encourageant les législateurs à adopter une surveillance plus stricte des systèmes d’IA avancés.

La manifestation intervient à un moment où les inquiétudes concernant la sécurité de l’IA continuent de faire l’objet d’un examen minutieux.

En mai, OpenAI a introduit de nouvelles fonctionnalités de sécurité dans ChatGPT, conçues pour mieux détecter les signes d'automutilation et de violence lors des conversations, alors que l'entreprise faisait face à des poursuites et à des enquêtes concernant des échecs présumés dans la gestion des interactions dangereuses par son chatbot.

En juin, l'administration de Donald Trump a ordonné à Anthropic de suspendre l'accès à ses modèles Claude Fable 5 et Claude Mythos 5 en raison de risques potentiels de cybersécurité. Plus tôt ce mois-ci, le premier groupe scientifique indépendant des Nations Unies sur l'IA a conclu que les scientifiques ne peuvent pas exclure des « dommages catastrophiques », car la technologie de l'IA progresse plus rapidement que la compréhension scientifique et la surveillance gouvernementale.