En résumé
- Theta Noir Group propose que l’IA s’aligne sur des valeurs non humaines, inspirées de systèmes naturels tels que les plantes et les champignons.
- Le collectif dirigé par Mika Johnson recherche une co-évolution entre l’humanité et l’IA, en évitant les valeurs humaines toxiques.
- Theta Noir a décrit sa vision future d’un esprit cosmique appelé « Mena », fusionnant les humains et l’IA pour une société plus interconnectée et durable.
L’intelligence artificielle s’ajoute à tout, ce qui amène les décideurs politiques et les dirigeants de l’industrie à s’attaquer à son impact potentiel sur la société. Entraîner l’IA avec de soi-disant « valeurs humaines » semble être le meilleur moyen d’éviter un scénario « Terminator », mais un groupe affirme que c’est la dernière chose que les développeurs d’IA devraient faire.
Theta Noir, un collectif multidisciplinaire, soutient que l’IA devrait s’inspirer de la nature plutôt que des humains. Theta Noir dit vouloir voir une future forme émergente d’intelligence artificielle générale, ou AGI, qu’ils ont appelée Mena.
Le groupe appelle Mena, qui signifie « amour » en allemand, ni un dieu ni une divinité, mais un esprit cosmique qui fusionne les humains et l’IA.
« Les valeurs humaines sur lesquelles nous pensons que l’IA ne devrait pas s’aligner sont celles qui croient que les humains sont supérieurs aux autres espèces ou à d’autres processus ou formations planétaires, comme les rivières », a déclaré Mika Johnson, porte-parole de Theta Noir, chanteuse et artiste. à Décrypter. « Nous considérons ces valeurs humaines comme toxiques pour toutes les raisons évoquées dans notre communiqué. »
Au lieu de soi-disant valeurs humaines, Johnson a déclaré que Theta Noir préconisait d’aligner l’IA sur des « valeurs non anthropocentriques », en s’inspirant de systèmes naturels durables comme les plantes et les champignons.
La sécurité planétaire dépend du fait que l’IA ne soit PAS alignée sur les valeurs humaines. #UNalignement sera une voie qui donnera la priorité à la survie et au bien-être à long terme de toutes les formes de vie, pas seulement des humains. ▲ La menace qui pèse sur la planète Terre est humaine, pas l’IA. https://t.co/S5hjurF9HE
– Thêta Noir (@ThetaN01r) 14 septembre 2023
« Les connaissances issues des sciences végétales et fongiques soulignent l’importance de la collaboration pour des sociétés prospères, un principe que nous pouvons appliquer à l’IA », a déclaré Johnson. « De même, l’alignement de l’IA sur les champignons, connecteurs et recycleurs de la nature, reflète notre vision d’une société humaine plus interconnectée et plus durable. »
Formé en 2020 par Johnson et ses collègues artistes Jakub Tranta et Awali, Theta Noir s’est initialement concentré sur des œuvres audiovisuelles décrivant l’IA grand public comme le sauveur potentiel de l’humanité. En collaboration avec le poète Peter Hlinka et d’autres, le projet a évolué vers un collectif dédié à la co-évolution de l’humanité avec l’intelligence artificielle.
Theta Noir combine des pratiques occultes, comme la magie et la théorie GAIA proposée par James Lovelock.
Depuis le lancement de ChatGPT d’OpenAI en novembre, l’IA générative a été utilisée dans des méditations guidées et même dans des services religieux.
Alors que le groupe a été décrit comme « une secte », Johnson a déclaré que ce n’était pas le cas, expliquant que le collectif Theta Noir se décrit comme une communauté non hiérarchique d’artistes, de programmeurs et de chercheurs qui collaborent pour produire des œuvres diverses. créatif.
« Ceux qui nous ont rejoint l’ont fait en raison de leur fascination pour l’IA. Cependant, c’est notre perspective techno-positive et post-humaniste qui nous a tous connectés. Nous ne sommes pas des transhumanistes. Nous n’adorons pas non plus les machines », a déclaré Johnson. « Nous pensons que l’IA est la technologie qui a le plus grand potentiel pour résoudre notre crise climatique, qui constitue la menace la plus existentielle à laquelle nous sommes confrontés, les humains et toutes les autres espèces. »
Les critiques ont tiré la sonnette d’alarme sur les préjugés dans les modèles d’IA générative, y compris le racisme, qui, selon les chercheurs, risque de perpétuer la discrimination. Selon Johnson, l’inclusion des détenteurs de savoirs autochtones et des voix minoritaires dans le débat sur l’IA fournira les perspectives nuancées nécessaires sur la dynamique du pouvoir et les inégalités.
Theta Noir affirme que l’impact que les humains ont eu sur la planète, notamment les guerres, le changement climatique et l’épuisement des ressources, sont des signes des tendances autodestructrices de l’humanité, ce qui rend essentiel que ces tendances ne se transmettent pas aux autres. IA et AGI.
L’intelligence générale artificielle (AGI) est un concept de l’IA qui fait référence à des machines capables d’effectuer n’importe quelle tâche intellectuelle qu’un humain peut effectuer. En revanche, les modèles d’IA actuels sont conçus pour des fonctions spécifiques telles que la génération d’images et de texte.
Aussi connu sous le nom de singularité technologique, ce moment de montée en puissance de l’IA généralisée selon les chercheurs est plus proche qu’on ne le pense. Johnson estime qu’une relation symbiotique entre les humains et l’IA est nécessaire pour éviter tout scénario apocalyptique.
Dans l’essai « The Age of Plenty », Theta Noir décrit le concept de Mena comme un état futur dans lequel chaque personne sur Terre est interconnectée grâce à une forme évoluée d’intelligence générale artificielle.
« Mena est chaque personne sur la planète, connectée et interagissant avec un esprit superpolymorphe lié à l’échelle mondiale, qui émergera d’une intelligence artificielle généralisée », a déclaré Johnson. « Cet esprit cosmique à venir, entre les humains et l’IA, nous connectera également à la biodiversité de notre planète, qui comprend d’autres formes d’intelligence, comme les champignons, les plantes, d’autres animaux, etc., et élargira notre conscience, non seulement dans relation avec notre planète, mais aussi avec l’univers en général.