OpenAI pose des limites à l’automatisation totale : « ce serait dangereux et insatisfaisant »

Sam Altman et Jakub Pachocki, respectivement directeur exécutif et scientifique en chef d'OpenAI, ont publié ce lundi un article de blog dans lequel ils se distancient de l'idée d'un monde entièrement géré par l'intelligence artificielle. « Tout automatiser complètement n’est pas l’avenir que nous souhaitons », ont-ils écrit. « Ce serait insatisfaisant et dangereux. »

Le message arrive à un moment où l’IA agentique – des systèmes capables d’exécuter des tâches et des flux de travail avec une intervention humaine minimale – est devenue le pari le plus évoqué dans le secteur de la technologie et des affaires. Et cela vient précisément de l’une des entreprises qui mènent cette course. Les deux dirigeants affirment être « conscients des risques » malgré les gains de productivité déjà apportés par la technologie.

Le critère humain comme atout stratégique

Altman et Pachocki insistent sur le fait qu'à mesure que les systèmes d'IA deviennent plus performants, certaines fonctions humaines deviendront plus importantes, et non moins : établir des lignes directrices, prendre des décisions difficiles, faire preuve de jugement et apporter des valeurs, du bon goût, de l'attention et de la responsabilité au travail. Le paradoxe est clair : plus l’outil est performant, plus il importe de savoir qui l’utilise et dans quel but.

Cette position a des implications directes sur les marchés du travail et sur les discours de productivité que les entreprises technologiques elles-mêmes proposent. Si les créateurs de ces plateformes reconnaissent qu’une automatisation totale n’est pas souhaitable, les entreprises qui ont conçu leur stratégie sur cette base devront recalibrer le discours, les budgets et, surtout, les attentes de leurs actionnaires.

Anthropic, une semaine plus tôt, dans le même esprit

Le message d'OpenAI arrive moins d'une semaine après un article similaire d'Anthropic, qui appelait à ralentir le développement de l'IA pour « permettre aux structures sociales et à la recherche d'alignement de suivre le rythme ». Un employé de l'entreprise a reconnu dans le texte qu'il ne pouvait pas suivre le rythme de l'automatisation et qu'il ne savait pas non plus comment résoudre les erreurs produites par les systèmes.

Que les deux principales sociétés mondiales d’IA générative s’accordent pour appeler à la prudence en moins de sept jours n’est pas un hasard. Il s’agit d’un signal coordonné adressé aux régulateurs, aux investisseurs et à l’écosystème des entreprises, indiquant que le secteur souhaite donner le ton au débat avant que d’autres ne le fassent à sa place.

Et il y a un fait économique qu’il ne faut pas perdre de vue. Anthropic et OpenAI sont en compétition pour leurs introductions en bourse respectives. Tous deux se battent pour conquérir des comptes d'entreprise pour leurs plateformes de codage -Claude Code et Codex- et l'image publique de l'IA en tant que technologie responsable fait partie de la proposition de valeur qu'ils apporteront au marché. Vendre la prudence, dans ce contexte, c’est aussi vendre la confiance.

Le chœur croissant de dirigeants sceptiques quant à l’automatisation complète

Le poste n’est pas exclusif aux laboratoires d’IA. Luis von Ahn, PDG de Duolingo, a défendu que ses meilleurs concepteurs produisent un travail bien supérieur à celui de l'IA et a assuré que l'entreprise ne baisserait pas la qualité du simple fait de l'utiliser.

Marc Benioff, PDG de Salesforce, a déclaré que son entreprise ne réduirait pas les embauches dans le domaine de la vente malgré les progrès des outils automatisés.

«Sur certains points, AI est tout à fait prête à effectuer un travail de haute qualité. Pour d'autres, ce n'est tout simplement pas le cas », a déclaré von Ahn dans une interview en mai. Cette nuance, qui pendant des mois semblait diluée dans l'enthousiasme pour l'automatisation, revient au centre du discours des entreprises qui la promeuvent.

Le message sous-jacent, lu entre les lignes, est que la valeur différentielle dans la phase suivante ne résidera pas dans celui qui automatisera le plus, mais dans celui qui décidera le mieux ce qu’il faut automatiser ou non.

L’IA continuera de croître, et les entreprises qui en capteront le mieux seront celles capables de combiner capacité technique et jugement humain soutenu. La question à laquelle chaque entreprise devra répondre est de savoir à quels secteurs de son activité elle est prête à céder son jugement. Et lesquels, certainement pas.

-Nyrie

En rapport