OpenAI, la société qui a créé le célèbre ChatGPT, fait face à des accusations de pratiques trompeuses aux États-Unis, selon une plainte du Center for Artificial Intelligence and Digital Policy. Le groupe a fait ces allégations à la Federal Trade Commission des États-Unis, la FTC.
Selon le Centre, OpenAI utilise sa technologie pour obtenir des avantages excessifs sur ses concurrents. De plus, l’entreprise développerait ChatGPT sans prendre en compte les risques de cette technologie.
« La FTC a une responsabilité claire d’enquêter et d’interdire les pratiques commerciales déloyales et trompeuses », a déclaré le fondateur et président du centre, Marc Rotenberg. « Nous pensons que la FTC devrait examiner de près OpenAI et GPT-4. »
Trop soif pour le pot
Le mois dernier, la FTC a mis à jour la loi pour inclure un langage destiné aux développeurs de programmes d’intelligence artificielle. L’idée était de contrôler l’avancée de ces technologies et d’empêcher qu’elles échappent au contrôle humain.
En ce sens, l’agence a également guidé les développeurs de ChatGPT lorsqu’ils ont parlé de la technologie. La FTC leur a conseillé d’éviter d’exagérer les capacités du système et de faire des déclarations de performances trompeuses.
Et c’est précisément là que réside l’accusation de fraude du Centre. Le groupe accuse OpenAI de promettre une supériorité sur les produits non-IA sans preuves adéquates.
Le Centre pour l’IA et la politique numérique a été créé en 2020 dans le cadre de l’Institut Michael Dukakis pour le leadership et l’innovation. Cet institut est une organisation à but non lucratif basée à Washington, DC.
La FTC a également averti les développeurs d’explorer les risques et les impacts potentiels avant la publication. Autrement dit, effectuez une évaluation approfondie des risques avant de lancer vos programmes.
« Vous devez connaître les risques et l’impact raisonnablement prévisibles de votre produit d’IA avant de le mettre sur le marché. Si quelque chose ne va pas – peut-être échoue-t-il ou produit-il des résultats biaisés – vous ne pouvez pas simplement blâmer un développeur tiers de la technologie », a déclaré la FTC.
Récemment, OpenAI a publié ChatGPT-4, qui est de loin supérieur à son prédécesseur en termes de compréhensibilité. Cependant, la FTC prétend que l’entreprise a exagéré en parlant des qualités de son système, considéré comme de la publicité mensongère.
technologie vs éthique
L’émergence de ChatGPT a de nouveau soulevé des discussions sur l’avancement de la technologie par rapport à l’éthique. Mais depuis 2017, la FTC conseille les entreprises sur les utilisations contraires à l’éthique des technologies émergentes telles que l’intelligence artificielle et la blockchain.
La popularité presque instantanée de GPT-4, ainsi que sa plus grande percée, ont amené le AI Center à remettre en question la domination rapide d’OpenAI sur l’industrie. Le groupe craint que cela ne crée un monopole dangereux dans l’industrie et donc une domination indésirable.
Le procès contre OpenAI intervient quelques jours après que plusieurs acteurs clés de l’industrie technologique, dont Elon Musk et Steve Wozniak, ont cosigné une lettre ouverte exigeant une pause dans le développement de systèmes d’IA comme la plate-forme GPT-4.
« Nous exhortons tous les laboratoires d’IA à arrêter immédiatement, pendant au moins six mois, la formation sur les systèmes d’IA plus puissants que GPT-4. Cette rupture doit être publique et vérifiable et inclure toutes les parties prenantes clés. Si une telle pause ne peut pas être promulguée rapidement, les gouvernements doivent intervenir et instituer un moratoire », insiste la lettre.