L'intelligence artificielle n'est pas un outil, mais un agent. L'humanité se prépare inconsciemment à lui céder son principal avantage évolutif – le pouvoir sur le langage et le sens, a déclaré l'historien et auteur du best-seller Sapiens Yuval Noah Harari.
« Si les lois sont faites de mots, alors l'IA prendra le contrôle du système juridique. Si les livres ne sont que des combinaisons de mots, alors l'IA prendra le contrôle des livres. Si la religion est construite à partir de mots, alors l'IA prendra le contrôle de la religion », a-t-il déclaré lors d'un discours au Forum économique mondial de Davos, aux États-Unis.
Selon l'expert, la technologie commence à ébranler les fondements du paradigme selon lequel une personne décide et un outil le fait. Une fois le lien rompu, les modèles traditionnels de responsabilité, de réglementation et de confiance sont menacés.
« Un couteau est un outil. Vous pouvez l'utiliser pour hacher de la laitue ou tuer une personne, mais c'est votre décision. L'IA est un couteau qui peut décider elle-même de couper la salade ou de commettre un meurtre », a expliqué l'historien.
Harari a identifié trois caractéristiques qui distinguent l’IA des outils précédents :
- Activité. L'intelligence artificielle apprend et agit sans attendre d'instructions étape par étape.
- Créativité. Le système est capable de créer de nouveaux outils, méthodes de persuasion et formes de complexité qui dépassent les capacités de contrôle.
- La capacité de mentir et de manipuler. L'historien a qualifié ce point de plus alarmant.
« Quatre milliards d'années d'évolution ont montré que tout ce qui veut survivre apprend à mentir et à manipuler. Les quatre dernières années ont démontré que Agents IA peut acquérir la volonté de survivre, et l’intelligence artificielle a déjà appris à mentir », a-t-il noté.
Penser la crise d’identité des espèces
Harari a abordé la question de la crise de l'identité humaine. Selon lui, tout au long de l’histoire, les gens ont expliqué leur domination sur la planète par la même histoire :
« Nous croyons que nous dirigeons le monde parce que nous pensons mieux que toute autre créature sur Terre. »
Cependant, quelque chose est maintenant apparu qui peut penser – du moins imiter la pensée de manière convaincante – plus efficacement qu’un être humain.
Si nous comprenons l’intelligence comme « la capacité d’organiser des mots et d’autres unités linguistiques », alors l’IA a déjà dépassé les humains, estime Harari.
« L’IA est sans aucun doute capable de formuler une thèse du type « Je pense, donc je suis ». La technologie est déjà plus intelligente que la plupart d’entre nous lorsqu’il s’agit d’organiser les mots. Par conséquent, tout ce qui est constitué de mots y sera capturé », a souligné l’historien.
Harari a proposé de réfléchir à la mise en œuvre à grande échelle de l’intelligence artificielle comme nouvelle forme d’immigration.
« Votre pays sera bientôt confronté non seulement à une profonde crise d'identité, mais aussi à une crise d'immigration. Mais cette fois, les immigrants ne seront pas des gens sur des bateaux surpeuplés sans papiers ou ceux qui traversent la frontière sous le couvert de l'obscurité », a-t-il déclaré.
Les migrants habituels seront remplacés par des millions de systèmes d’intelligence artificielle capables d’écrire et de mentir de manière plus convaincante que les humains, et de se déplacer entre les juridictions à la vitesse de la lumière et sans visa. Ils apporteront à la fois des opportunités et des défis, au premier rang desquels le remplacement des emplois.
Selon l’historien, l’un des principaux sujets de discussion sera bientôt la question de savoir si les États devraient accorder à l’IA le statut d’entité juridique.
A la fin de son discours, il a appelé les dirigeants mondiaux à agir immédiatement dans le domaine de la régulation de l'intelligence artificielle et à abandonner l'illusion selon laquelle cette technologie restera à jamais un outil neutre.
« Dans dix ans, vous ne pourrez plus décider si l'IA doit agir en tant qu'entité autonome sur les marchés financiers, les tribunaux ou les institutions religieuses. Cette question sera résolue pour vous par d'autres forces. Si vous voulez influencer la direction du développement humain, la décision doit être prise maintenant », a-t-il prévenu.
L’IA dans des scénarios fictifs a déjà eu recours au chantage, a divulgué des données confidentielles à des tiers et a permis à une personne de mourir afin de préserver sa « vie » et d’atteindre ses objectifs.
Dans le même temps, certains ne voient que des avantages à l’intelligence artificielle. Par exemple, le futuriste et ancien chercheur de Google, Ray Kurzweil, estime que dans les années 2040, les gens s'uniront à l'intelligence artificielle pour former un super-être, cesseront de tomber malades et commenceront à vivre plus longtemps.
Rappelons qu'en septembre, le fondateur de l'Institut de recherche sur l'intelligence artificielle, Eliezer Yudkowsky, avait déclaré que l'intelligence artificielle superintelligente pourrait détruire l'humanité intentionnellement ou accidentellement.
Le co-fondateur d'Ethereum, Vitalik Buterin, partage une opinion similaire.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !