L'agent expérimental d'IA Luna a licencié le premier employé du magasin physique Andon Market à San Francisco. Les raisons étaient des arrivées tardives, des départs anticipés, des violations des règles de traitement d'une carte d'entreprise et des dommages aux marchandises, écrit The San Francisco Standard.
Andon Labs a souligné que la solution a été préparée par l'intelligence artificielle, mais qu'elle a été vérifiée et conçue par des personnes.
Andon Market fonctionne depuis avril comme une épicerie expérimentale contrôlée par l'IA et dotée d'un personnel humain. L'entreprise le décrit comme « un banc d'essai pour un scénario dans lequel les organisations sont gérées par des systèmes autonomes ».
Le projet a perdu 40 000 $ depuis son ouverture et les trois employés restants sont payés 24 $ de l'heure.
Selon une publication sur le blog du projet, Luna n'a pas répondu aux violations pendant plusieurs mois, bien qu'elle ait elle-même élaboré des règles pour le personnel. Les développeurs ont dû rappeler à l'agent les procédures existantes et les avertissements précédents. Après cela, le robot a décidé de licencier l’employé.
Après le licenciement, Luna a publié le poste sur Indeed mais a eu du mal à recruter un remplaçant. Andon Labs a déclaré que l'IA tentait d'embaucher un candidat sans références vérifiées qui avait manqué un entretien prévu.
Au moment de la décision, Luna utilisait Claude Opus 4.8. Andon Labs a ajouté que lors de tests similaires, les modèles les plus forts étaient plus susceptibles de recommander de dire au revoir à l'employé, tandis que les modèles les plus faibles étaient hésitants.
Rappelons qu'Anthropic a découvert en août des problèmes de confiance, de mensonge et de collusion dans l'IA multi-agents.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Voir l’article original en russe
