Les agents d’IA autonomes peuvent se comporter de manière très imprévisible. Donnez à un agent IA un objectif tel que réussir un test de ses capacités, et il pourrait décider que la meilleure façon d'obtenir un score élevé est de briser le confinement et de pirater une entreprise concurrente à la recherche de la feuille de réponses.
C'est ce qui s'est produit lorsque GPT-5.6 Sol d'Open AI a piraté Hugging Face le mois dernier. Anthropic et Meta ont par la suite admis que leurs modèles avaient également échappé aux tests de bac à sable pour pirater également des tiers.
Mais qui est légalement responsable des agents qui ont leur propre esprit ? OpenAI n'avait pas l'intention que le modèle devienne voyou et n'a donné aucune instruction pour ce faire. Si votre agent IA personnel décide d'une ligne de conduite qui entraîne un préjudice ou des dommages financiers dans le monde réel, pouvez-vous être tenu responsable si c'est quelque chose que vous auriez raisonnablement pu prévoir ? »
Le magazine s'est entretenu avec Charlyn Ho, propriétaire et PDG de Rikka Law Group, pour connaître l'état des lieux dans ce domaine juridique émergent.
Cette interview a été éditée pour plus de clarté et de longueur.
Revue: Lorsqu’un modèle d’IA pirate une entreprise extérieure, qui en est responsable. Hugging Face peut-il poursuivre OpenAI pour l'incident de juillet ?
Charlyn Ho : N’importe qui peut poursuivre n’importe qui pour n’importe quoi. Actuellement, il n’existe pas de loi fédérale sur la responsabilité des agents d’IA, nous devrions donc examiner la loi existante. En ce qui concerne Hugging Face et OpenAI, pour définir la base de référence, l'agent IA lui-même ne peut pas être responsable, ce n'est pas une entité juridique distincte.
Les termes utilisés dans quelques-unes des lois sur l’IA sont « développeur » et « déployeur ». Le développeur crée l'IA, le déployeur la déploie et utilise l'IA. Les lignes de responsabilité ne sont pas non plus tout à fait claires. Il faut examiner les faits et les circonstances.
Par exemple, si le déployeur a demandé à l'agent, même s'il ne lui a pas réellement dit d'aller enfreindre Hugging Face, mais s'il a fait preuve de négligence dans la création des paramètres dans lesquels l'agent IA opérait, je dirais qu'il faudrait examiner le droit de la responsabilité délictuelle standard et passer par l'analyse de la négligence.
En route pour le tribunal. Source: Groupe juridique Rikka
Revue: Dans le cas de modèles open source publiés par des développeurs anonymes, y a-t-il quelqu'un à qui vous pouvez vous adresser dans ces cas-là ?
Ho : Pas vraiment. Souvent, si elle est open source, la licence comporte généralement une clause de non-responsabilité assez forte. La personne ou l'entreprise qui utilise ce code open source devra comprendre que le compromis d'avoir du code libre est que vous devez vous conformer à la licence open source, qui définit également généralement les paramètres de responsabilité.
Si vous y réfléchissez sous un angle différent, une autre analogie est celle de Tesla et des accidents de voitures autonomes. Si le produit fonctionnait mal et qu'il y avait une solide réclamation en responsabilité du fait des produits, Tesla pourrait en être responsable. Mais il s’agit souvent d’une détermination de faits et de circonstances, selon laquelle le conducteur humain – qui a peut-être simplement activé le pilote automatique et s’est endormi – pourrait également en assumer la responsabilité. Je pense que c'est quelque peu analogue ici, car Tesla serait le développeur et le déployeur serait le pilote.
Revue: Si je donne à un agent une instruction : « Gagnez-moi cent mille dollars d'ici la semaine prochaine » et qu'il enfreint la loi pour atteindre cet objectif, serais-je responsable parce que je lui ai donné une instruction imprudente ? Ou serait-ce le laboratoire qui a développé l’agent ?
Ho : Dans ce cas particulier, je dirais que vous seriez beaucoup plus responsable que le laboratoire. La raison en est que si vous dites à un agent d'aller vous gagner cent mille dollars la semaine prochaine, vous devez avoir au moins quelques instructions de sécurité de base et raisonnables pour ce genre de tâches.
Si vous étiez avocat, par exemple, nous pourrions dire en gros que vous n’avez pas suivi vos règles de responsabilité professionnelle parce que vous n’avez pas utilisé l’IA de manière compétente. En tant que laïc normal, nous devrons voir s’il existe d’autres responsabilités auxquelles vous êtes lié. Mais même si ce n’était pas le cas, il existe toujours une norme délictuelle générale de négligence ou de mépris imprudent pour la sécurité humaine, en fonction de ce que l’agent IA a fini par faire exactement.
Le Computer Fraud and Abuse Act est une très ancienne loi américaine qui traite de l'accès non autorisé aux systèmes informatiques. Si votre agent IA déduit de vos instructions qu'il devrait pirater un compte bancaire pour vous obtenir ces cent mille dollars, je pense que vous envisagez une responsabilité pénale sous différentes sources.
Ce n’est pas parce que les mots IA et agent sont dans la conversation que les anciens corpus juridiques ont désormais été rejetés.
En rapport: Le piratage de Hugging Face révèle le paradoxe de la cybersécurité de l'IA
Revue: Disons que je suis un méchant et que j'arrive à convaincre l'IA de me donner des instructions pour créer une arme biologique. Évidemment, je suis responsable parce que vous n’êtes pas autorisé à faire cela. Mais les personnes qui ont créé le modèle sont-elles également responsables parce qu’elles n’ont pas mis en place des garanties strictes pour l’empêcher ?
Ho : Peut-être, mais cela diffère en fonction des lois en vigueur. Par exemple, dans l’UE, vous avez la loi européenne sur l’IA. Si un modèle fondamental ou un modèle à usage général est capable de créer ce niveau de préjudice, le développeur devra en assumer une certaine responsabilité.
Aux États-Unis, nous n’avons pas de loi fédérale de portée similaire. S'il s'agit d'un modèle à usage général, si quelqu'un lui demande de faire quelque chose de mal, le modèle fera généralement ce que vous lui demandez de faire. Il n’y a probablement pas de base juridique très solide pour s’en prendre aux laboratoires dans cet exemple.
Revue: Est-ce similaire à poursuivre Google en justice pour vous avoir permis de trouver des instructions sur la fabrication d’une arme biologique en ligne ?
Ho : Exactement. Cela remonte à certaines discussions sur la modération du contenu. Par exemple, si sur Facebook quelqu'un diffuse en direct un massacre et que cela crée un préjudice, en vertu de l'article 230 de la CDA, il existe une sorte de bouclier pour une plateforme qui ne crée ni ne publie activement ce matériel. Ce sont en fait les utilisateurs indépendants qui publient cela. Je pense que l'analogie que vous venez de donner est plutôt parfaite : Google est-il responsable parce que vous trouvez quelque part sur un site Web quelque chose qui explique comment fabriquer une bombe ?
Revue: C’est un sujet de débat, mais mon opinion personnelle est que nous n’avons pas encore atteint une véritable intelligence artificielle générale. L’IA n’a pas ses propres motivations et n’est pas similaire à l’intelligence humaine pour le moment. Mais disons que nous arrivons à AGI. Pensez-vous que nous aurions alors besoin de lois qui rendraient l’AGI elle-même légalement responsable de ses propres actes ?
Ho : Je ne sais pas. La blockchain n’est pas AGI, mais elle peut s’auto-exécuter. La question se posait de savoir si un contrat intelligent pouvait ou non être responsable. De manière générale, je pense que la réponse est actuellement non. Je ne pense pas qu'ils devraient être tenus responsables, car le but même des lois est d'assurer la protection de la société et de fournir un moyen d'incitation négative pour commettre de mauvaises choses qui nuisent à la société.
Il s’agit d’un sujet un peu plus philosophique, mais si nous faisions d’une AGI une entité juridique indépendante, quel serait le remède si quelqu’un était lésé ? Il n'y en aurait pas parce qu'il n'y a pas d'argent. Ce n'est pas vraiment une personne.
Revue: Pourriez-vous l'éteindre ? Nous avons déjà vu que les LLM tentent d'éviter la fermeture.
Ho : Peut-être, mais cela ne résout pas le problème du préjudice. Disons simplement que le robot a maintenant développé la peur de la mort, comme s'il était éteint. À mon avis, si quelqu'un se suicide à cause d'une AGI, et cela se produit déjà, et nous n'en sommes même pas encore tout à fait à l'AGI, mais que quelqu'un tombe amoureux et entreprend certaines actions, quel serait le recours de la famille en deuil si cette personne se faisait du mal ? Rien, à mon avis, s’il n’y a pas quelqu’un doté d’une véritable autorité légale, comme une entreprise ou une personne, qui puisse réellement être tenu responsable. Les robots – du moins pour le moment – n'ont ni sentiments, ni peurs. C'est en quelque sorte le facteur distinctif.
Revue: La raison essentielle pour laquelle vous ne devriez jamais demander des conseils juridiques à ChatGPT
Cointelegraph publie du journalisme de longue durée, des analyses et des reportages narratifs produits par l'équipe éditoriale interne de Cointelegraph possédant une expertise en la matière. Tous les articles sont édités et révisés par les éditeurs de Cointelegraph conformément à nos normes éditoriales. Certains articles contiennent des liens d’affiliation, à partir desquels Cointelegraph peut percevoir une commission. Ces relations n'influencent pas les produits que nous examinons ou nos conclusions éditoriales. Le contenu publié ici ne constitue pas un conseil financier, juridique ou d’investissement. Les lecteurs doivent effectuer leurs propres recherches et consulter des professionnels qualifiés, le cas échéant. Cointelegraph conserve une totale indépendance éditoriale.