La raison essentielle pour laquelle vous ne devriez jamais demander des conseils juridiques à ChatGPT

La consultation d’un chatbot IA pour des questions juridiques peut voir votre historique de discussion utilisé contre vous par les avocats de l’opposition… et risque potentiellement de renoncer au secret professionnel entre avocat et client avec votre propre avocat.

Les outils d’IA sont des sources de conseils juridiques abordables, bien que peu fiables, et leur utilisation soulève des questions inconfortables sur les privilèges, la découvrabilité et le degré de contrôle réel que les utilisateurs ont sur leurs données.

Ces risques se matérialisent déjà devant les tribunaux. Les sociétés d’IA ont été obligées de conserver les journaux de discussion des utilisateurs qui auraient autrement été supprimés.

Magazine a posé ces questions à Charlyn Ho, PDG du cabinet d'avocats et de conseil Rikka, pour comprendre comment les cadres juridiques existants s'appliquent aux outils d'IA et où se situent les risques.

Cette conversation a été modifiée pour plus de clarté et de longueur.

Magazine : L’utilisation de l’IA risque-t-elle de renoncer au secret professionnel de l’avocat ?

Ho : La question du privilège est complexe et n'est pas encore entièrement définie, mais en général, le secret professionnel est levé si vous divulguez volontairement des informations privilégiées à un tiers sans rapport avec l'affaire.

La valeur par défaut pour les outils d'IA publics est que le modèle s'entraîne sur vos données. Si vous consultez les termes et conditions, il sera indiqué que le modèle s'entraînera sur les données. Il existe un risque très possible de divulgation volontaire d’informations autrement privilégiées à un tiers. Cela change lorsque vous passez aux modèles d’entreprise.

Magazine : Où se situe la frontière entre les outils qui préservent les privilèges et ceux qui risquent d’y renoncer ?

Ho : C’est là que cela devient fondé sur des faits et des circonstances. Avec Microsoft Word sur CD, vous téléchargez le programme sur votre ordinateur et rédigez votre motion localement. Cela reste privilégié car il est protégé au sein de votre propre environnement et n'est pas divulgué à un tiers.

Avance rapide vers Microsoft 365. Le document est maintenant dans le cloud, mais Microsoft affirme qu'il s'agit de données client. Le client peut y associer certaines protections. Il existe évidemment certaines exceptions.

Avec l’IA, cette protection contractuelle n’est plus automatique. Les données clients sont vos données. Vous pouvez définir des paramètres, le supprimer et contrôler son utilisation. Il ne reste pas indéfiniment en mémoire.

J'écris un livre sur la façon d'utiliser l'IA de manière à donner aux utilisateurs une plus grande confiance dans le fait que les privilèges ne sont pas supprimés. Une partie importante de cette politique vise à garantir que les contrats avec les fournisseurs d'IA indiquent clairement que les données appartiennent à l'utilisateur, que le fournisseur ne dispense aucune formation sur ces données et que des mesures de sécurité appropriées sont en place. Ceux-ci incluent le cryptage et des périodes de conservation limitées.

Magazine : Si un client utilise ChatGPT pour l'aider à résoudre un litige juridique ou pour rédiger des notes internes, ces documents pourraient-ils être découverts par les tribunaux ou l'avocat de la partie adverse ?

Ho : Oui, définitivement.

Il y a eu le litige relatif aux droits d’auteur d’OpenAI. Le tribunal a ordonné à OpenAI de conserver et de séparer toutes les données du journal de sortie qui seraient autrement supprimées, annulant ainsi les demandes de suppression des utilisateurs.

Disons, hypothétiquement, que vous tapez dans ChatGPT : « Comment puis-je m'en sortir avec cette chose frauduleuse », et que vous pensez ensuite : « Oh merde, ce n'est pas bon. Je veux supprimer ça. » Le tribunal pourrait annuler la demande de suppression de l'utilisateur et obliger OpenAI à conserver les enregistrements.

Il s’agit de problèmes en évolution, mais les entrées, sorties ou invites liées à l’IA seraient traitées de la même manière que Microsoft, Google ou Amazon pourraient recevoir une assignation à comparaître pour préserver les archives.

Magazine : Prévoyez-vous le développement d’avocats en ligne en matière d’IA qui seraient protégés de cette découvrabilité ?

Ho : Il existait déjà des soi-disant avocats en IA avant même l’explosion de l’IA générative. DoNotPay, par exemple, a aidé les gens à contester eux-mêmes les infractions au code de la route, sans avocat, et cette initiative a pris une ampleur considérable. Mais elle a également été confrontée à des difficultés liées à l’exercice non autorisé du droit.

Aux États-Unis, il existe des mesures protectionnistes qui protègent la profession juridique des étrangers. Vous ne pouvez pas exercer le droit sans licence, et cela inclut l’IA. Dans l’état actuel des choses, un avocat humain possédant une licence valide doit être impliqué pour que quelque chose soit considéré comme un conseil juridique.

Tant que le barreau ne modifiera pas les règles, je ne prévois pas d’avocat en IA véritablement autonome. Il peut y avoir des agents qui aident les gens à résoudre les problèmes juridiques, mais ils ne seront pas considérés comme fournissant des conseils juridiques.

Magazine : Dans les cas d'application de la cryptographie, où les transactions blockchain sont publiques mais l'intention n'est pas claire, les régulateurs ou les tribunaux pourraient-ils s'appuyer sur les enregistrements de discussion de l'IA pour évaluer l'intention ou la connaissance ?

Ho : Dans un avenir hypothétique, je pourrais imaginer que l’IA soit utilisée pour déduire une intention, mais je ne pense pas que l’IA soit le seul moyen d’y parvenir.

Dans le cas d’une activité illicite, vous pouvez voir la transaction sur la blockchain, mais pour poursuivre une mesure coercitive, l’intention de commettre une fraude, de frauder ou de se livrer au blanchiment d’argent doit découler d’autre chose.

Les chats IA ne seraient qu’un élément de preuve. Je ne les considère pas comme fondamentalement différents des autres formes de preuves, sauf qu’ils peuvent être plus puissants.

On a souvent tendance à considérer les nouvelles technologies comme fondamentalement différentes ou comme brisant les modèles existants. D'un point de vue juridique, je vois les choses différemment. La loi n’avance pas si vite. Les nouvelles technologies sont généralement évaluées dans le cadre des cadres juridiques existants.

Les journaux de transactions de l’IA, dans la mesure où ils constituent des preuves dans le cadre de poursuites pénales ou d’autres mesures coercitives, ne diffèrent pas sensiblement des méthodes existantes utilisées pour recueillir des preuves dans les affaires liées à la blockchain.

S'abonner

Les lectures les plus engageantes de la blockchain. Livré une fois par semaine.

Yohan Yun

Yohan (Hyoseop) Yun est un rédacteur de Cointelegraph et un journaliste multimédia qui couvre des sujets liés à la blockchain depuis 2017. Son expérience comprend des rôles de rédacteur en chef et de producteur chez Forkast, ainsi que des postes de reportage axés sur la technologie et la politique pour Forbes et Bloomberg BNA. Il est titulaire d'un diplôme en journalisme et possède Bitcoin, Ethereum et Solana pour des montants dépassant le seuil de divulgation de Cointelegraph de 1 000 $.