Schwartz soutient que la réglementation de l’IA pourrait déterminer non seulement ce que les systèmes produisent, mais aussi comment ils peuvent être utilisés.
David Schwartz, directeur technique émérite de Ripple, a averti que les règles gouvernementales concernant la sécurité de l'IA et les droits d'auteur pourraient donner aux autorités un contrôle sans précédent sur le discours politique et social.
Son argument est centré sur la question de savoir qui décide de ce que les systèmes d’IA peuvent créer, connaître et discuter.
Deux combats juridiques, un argument
Schwartz a exposé l'affaire dans un fil de réponse sur X qui a commencé presque par accident. Le 18 août, il a cité une campagne de Change.org UK demandant au gouvernement britannique de limiter la couverture médiatique qu'une personne peut recevoir dans la presse, une pétition lancée après que 249 articles aient couvert le professeur de sociologie Jason Arday dans les 22 jours précédant sa mort le 14 août.
La réponse de Schwartz à cette campagne était une question : ce qui constitue le plus une menace pour la liberté d'expression, l'intelligence artificielle ou, comme il l'a dit, la stupidité naturelle.
Lorsqu'un utilisateur nommé Athena lui a demandé ce qu'il voulait réellement dire, Schwartz a expliqué que l'IA est devenue l'outil le plus efficace qui existe pour produire de la parole et que les gouvernements se battent actuellement sur plusieurs fronts pour savoir dans quelle mesure ils peuvent la réglementer.
Il a ensuite évoqué deux combats spécifiques. La première consiste à savoir si la formation d’un modèle d’IA sur du matériel protégé par le droit d’auteur constitue une contrefaçon. Puisque le Congrès contrôle quelles exceptions à la loi sur le droit d'auteur existent, une décision contre les sociétés d'IA signifierait que l'outil de génération de discours le plus puissant qui existe ne pourrait être utilisé que de la manière autorisée par le Congrès, laissant ainsi les législateurs décider à quoi ressemble le discours.
Le deuxième combat porte sur la réglementation de la sécurité de l’IA elle-même, qui, selon Schwartz, suit la même logique : si le gouvernement fixe les règles de ce qui est considéré comme sûr, l’outil le plus puissant pour produire un discours politique et social ne devient utilisable que de la manière autorisée par les autorités.
Vous aimerez peut-être aussi :
« Encore une fois, une menace totalement sans précédent pour la liberté d’expression », a-t-il écrit.
Un argument récurrent sur X
Ce n’est pas la première fois que Schwartz avance dans cette voie de réflexion. Fin juillet, Erik Voorhees, défenseur du Bitcoin et fondateur de ShapeShift, a soutenu sur X que les États ne devraient pas décider quelles formes de renseignement sont considérées comme sûres, avertissant qu'une règle interdisant de discuter de quelque chose d'aussi étroit que les armes biologiques pourrait éventuellement se transformer en un veto gouvernemental plus large sur la parole et même le cryptage. Schwartz a répondu à ce message avec un simple accord à l'époque.
La question plus large de savoir qui a accès aux technologies de reconnaissance vocale de la police a également été soulevée ailleurs. Le fondateur de Telegram, Pavel Durov, déjà accusé de terrorisme lié au contenu de son application de messagerie, a demandé fin juillet un nouveau mandat d'arrêt international des services de sécurité russes, s'ajoutant à une affaire qui avait débuté avec son arrestation en 2024 en France pour des allégations similaires.
Le débat s'étend également aux propositions de tests d'IA soutenus par le gouvernement après que le PDG de Google DeepMind, Demis Hassabis, ait précédemment proposé un organisme soutenu par le gouvernement fédéral pour tester et certifier les modèles avancés. Alors que Sam Altman, PDG d'OpenAI, et Satya Nadella de Microsoft ont exprimé leur soutien à l'idée, le chef de Coinbase, Brian Armstrong, a adopté le point de vue opposé, affirmant que les lois existantes couvrant la fraude, les délits et la protection des consommateurs pourraient déjà remédier aux dommages causés par les systèmes d'IA.