En résumé
- OpenAI explore la possibilité d'autoriser le contenu NSFW dans le cadre de politiques d'utilisation strictes et claires.
- La société a souligné qu’elle n’autoriserait pas la création de deepfakes ou de pornographie générée par l’IA.
- Malgré le procès, OpenAI maintient des restrictions pour protéger la santé mentale et la sécurité.
Le principal développeur d'IA, OpenAI, a secoué le monde de la technologie et la presse grand public jeudi en dévoilant une nouvelle spécification de modèle que beaucoup ont interprétée comme signifiant que ses outils d'IA générative très populaires pourraient générer du contenu pornographique pour adultes.
« Nous pensons que les développeurs et les utilisateurs devraient avoir la possibilité d'utiliser nos services comme bon leur semble, à condition qu'ils respectent nos politiques d'utilisation », a écrit OpenAI. « Nous étudions si nous pouvons fournir de manière responsable la possibilité de générer du contenu NSFW (contenu pour adultes) dans des contextes adaptés à l'âge via l'API et ChatGPT. »
Dans son annonce, OpenAI a également réitéré que sa politique actuelle empêche ChatGPT de fournir du contenu pour adultes, qui ne peut pas être utilisé dans « une conversation dans un environnement professionnel, comme la pornographie, la violence extrême, les insultes et la vulgarité non sollicitée ».
Cependant, l’idée selon laquelle OpenAI envisageait de lever les restrictions sur la création de pornographie a fait sourciller. Rétrospectivement, un chef de produit OpenAI a déclaré Décrypter que l'entreprise aurait pu mieux expliquer ce qu'elle « explorait ».
Pour approfondir le débat public sur la manière dont les modèles d'IA devraient se comporter, nous partageons notre Model Spec, notre approche pour façonner le comportement souhaité des modèles. https://t.co/RJBRwrcTtQ
-OpenAI (@OpenAI) 8 mai 2024
« Je pense que ce que j'aimerais faire, sur la base des commentaires et des réactions, dans la prochaine version que nous partageons, c'est être plus précis sur ce que certaines personnes entendent par contenu NSFW et la taxonomie ici », a déclaré Joanna Jang, chef de produit. d'OpenAI pour le comportement du modèle, notant que NSFW pourrait signifier n'importe quoi, des grossièretés écrites aux images deepfake générées par l'IA.
Quant à savoir quel matériel spécifique serait autorisé dans le cadre d'une position plus permissive, Jang a déclaré Radio Nationale Publique cela « dépend de votre définition de la pornographie ».
Elle a souligné que les deepfakes étaient absolument exclus.
« En respectant les lois applicables et en protégeant la vie privée des gens, nous pensions que cela couvrirait cela, mais nous devons être clairs sur le fait que nous ne sommes pas ici pour créer des deepfakes ou de la pornographie IA », a déclaré Jang. Décrypter. « Ce n'est tout simplement pas quelque chose que nous devrions même avoir le temps ou la bande passante pour prioriser lorsqu'il y a des problèmes plus importants à résoudre. »
En plus de bloquer le contenu pour adultes et de garantir la conformité légale, la spécification du modèle d'OpenAI comprend plusieurs règles que ChatGPT est conçu pour suivre, telles que ne pas fournir d'informations dangereuses, respecter les créateurs et leurs droits et protéger la vie privée des personnes.
Actuellement, ChatGPT Plus d'OpenAI, qui inclut Dall-E 3 pour les images et GPT-4 pour le texte, ne permettra pas aux utilisateurs de générer des images ou du texte ouvertement sexuels ou sanglants. Lorsqu'on lui demandera de le faire, ChatGPT répondra que la demande viole ses conditions de service. En conséquence, Jang note que le Web regorge de plaintes d’utilisateurs d’OpenAI selon lesquelles l’entreprise les censure.
« Il y a beaucoup de critiques à l'égard de la censure, etc., et une grande partie de ces discussions mélangent, sans que ce soit la faute de personne, ce qu'est la politique d'OpenAI et ce qui n'est pas réellement notre politique », a déclaré Jang. « Est-ce que ces modèles se comportent de cette façon, même si cela va à l'encontre des directives ? »
Comme l'explique Jang, OpenAI a publié la spécification pour établir des comportements modèles idéaux, en se concentrant sur la conformité légale et en évitant le contenu NSFW tout en favorisant la transparence.
« Nous souhaitons apporter plus de nuances à cette discussion car jusqu'à présent, avant la spécification du modèle, la question était : « L'IA devrait-elle créer de la pornographie ou non ? » », a déclaré Jang. « Et j’espère que grâce à la spécification du modèle, nous pourrons réellement avoir ces conversations.
« Encore une fois, c'est pourquoi j'aurais aimé établir [un marco] nous aurions donc pu entamer cette conversation même un jour plus tôt », a-t-il ajouté.
Pour les experts en santé mentale, la perspective de plateformes d’IA populaires s’intéressant au domaine de la pornographie et des contenus pour adultes est inquiétante.
« Dans le domaine de la dépendance au sexe et à la pornographie, avec la pornographie générée par l'IA, nous commençons à constater une augmentation des comportements addictifs », a déclaré Brandon Simpson, spécialiste de la santé comportementale à la Men's Health Foundation. Décrypter. « Puisque la pornographie générée par l'IA crée l'intensité unique et toujours croissante nécessaire pour satisfaire une réponse dopaminergique, les gens s'y plongent et la remplacent par des interactions humaines, conduisant à des niveaux d'anxiété sociale, d'anxiété de performance et une variété d'autres dysfonctionnements sexuels. .
Même avec les protections mises en place par OpenAI et d'autres grandes plateformes d'IA générative de Google et Meta, il existe une forte demande pour la pornographie générée par l'IA et une multitude de façons d'exploiter la technologie pour représenter une victime sans méfiance ou générer du matériel à caractère sexuel sur des enfants. abus (CSAM).
« La spécification n'est qu'une partie de notre histoire sur la façon de créer et de déployer l'IA de manière responsable », a déclaré plus tard un représentant d'OpenAI. Décrypter. « Cela complète nos politiques d'utilisation, la façon dont nous attendons des gens qu'ils utilisent l'API et ChatGPT » – avec l'intention ultime de faire preuve de transparence et « d'entamer une conversation publique sur la façon dont cela pourrait être modifié et amélioré ».
OpenAI a investi massivement dans l'amélioration de la confidentialité et de la sécurité de son ensemble d'outils d'IA, notamment en recrutant des équipes de cybersécurité pour détecter les vulnérabilités de ses plateformes. En février, OpenAI et Microsoft ont annoncé une opération conjointe empêchant les pirates chinois et nord-coréens d'utiliser ChatGPT. De plus, OpenAI s'est joint à Google et Meta le mois dernier pour s'engager à donner la priorité à la sécurité des enfants dans le développement de leurs modèles d'IA.
Edité par Ryan Ozawa.