De la fiction la plus laïque aux réflexions récentes, tout ce qui touche à l’intelligence artificielle (IA) a un parfum de tragédie, l’imaginant comme une boîte noire dont l’ouverture nous pousse à travers des maux et des catastrophes sans fin. Une métaphore, celle de la boîte noire, profondément ancrée dans la réflexion sur la science et la technologie. Ce qui évoque la mythique boîte de Pandore, qui à l’origine n’était pas une boîte, mais un pot. Ce qui rejoint le mythe classique, c’est que, peu importe le nombre d’avertissements qui nous sont donnés, nous ne pouvons pas résister à notre curiosité et voir ce qui se passe. Il semble désormais que nous sachions ce qui peut arriver si nous continuons à développer des machines superintelligentes, celles qui sont capables de surpasser la capacité intellectuelle des êtres humains.
Quand l’IA est capable de nous remplacer dans la conception des questionnaires
IA boîte noire
Dès que l’intelligence artificielle est arrivée au centre de l’agenda public, il y a un peu plus d’un an, une réaction en chaîne s’est produite qui nous a mis en garde. Bon nombre de scientifiques et d’intellectuels, censés savoir ce que signifie la puissance de ces machines superintelligentes, ont adressé leur avertissement au monde sous forme de lettre. Pour les autres mortels, la couleur noire de cette boîte n’était qu’un signe de son opacité. Ni certains, partisans du développement de la puissance maximale de ces machines superintelligentes, ni d’autres, plutôt partisans de restreindre leur développement, n’ont rendu transparents les superpuissances des nouvelles machines, ni leurs conséquences catastrophiques.
Les technologues pédagogiques condamnent les livres en présence de l’IA
Si la situation est si terrible, mettons en place des contrôles et des réglementations. Comme si les contrôles et les réglementations pouvaient servir dans ce cas. Pour contrôler efficacement une machine superintelligente, une des voies consiste à y introduire des instructions limitantes, voire contraires à ses objectifs. Mais si des limitations sont introduites, il n’est plus aussi super intelligent. Une autre solution consiste à le contrôler par une autre machine plus intelligente et plus stratégique. Le danger serait alors transféré d’une machine à une autre, de niveau supérieur.
L’IA comme source d’inconfort dans les salles de classe des universités espagnoles
Machines superintelligentes
Nous n’allons pas développer ici la réglementation. Mais la meilleure régulation est sûrement celle réalisée avec ces machines super intelligentes. Des machines capables de savoir où se trouvent les dangers. Mais elle seule le saurait, sans accéder à ses raisons. Le règlement, comme la dernière sortie de l’UE, est raisonnable. À la raison à laquelle les êtres humains peuvent accéder collectivement. C’est tout.
Voir l’article original en espagnol
