L'intelligence artificielle (IA) ne deviendra jamais un être conscient dû à un manque d'intention, qui est endémique pour les êtres humains et autres créatures biologiques, selon Sandeep Nailwal – co-fondateur de Polygon et de la société d'aide à source ouverte Senent.
« Je ne vois pas que l'IA aura un niveau de conscience significatif », a déclaré Nailwal à Cointelegraph dans une interview, ajoutant qu'il ne croit pas que le scénario apocalyptique de l'IA devenant conscient de soi et prenant le contrôle de l'humanité est possible.
L'exécutif a critiqué la théorie selon laquelle la conscience émerge au hasard en raison des interactions ou des processus chimiques complexes et a déclaré que si ces processus peuvent créer des cellules complexes, elles ne peuvent pas créer de conscience.
Au lieu de cela, Nailwal craint que les institutions centralisées utilisent l'intelligence artificielle pour la surveillance et limitent les libertés individuelles, c'est pourquoi l'IA doit être transparente et démocratisée. Nailwal a dit:
« C'est mon idée principale de la façon dont j'ai eu l'idée de Sentient, que finalement l'IA mondial, qui peut réellement créer un monde sans frontières, devrait être une IA qui est contrôlée par tous les êtres humains. »
L'exécutif a ajouté que ces menaces centralisées sont la raison pour laquelle chaque individu a besoin d'une IA personnalisée qui travaille en leur nom et est fidèle à cette personne spécifique pour se protéger des autres IA déployées par des institutions puissantes.
L'approche du modèle ouvert de Sentient de l'IA par rapport à l'approche opaque des plates-formes centralisées. Source: Livre blanc sensible
En rapport: Le GPT-4.5 d'Openai n'écrasera pas les références « mais pourrait être un meilleur ami
L'IA décentralisée peut aider à prévenir une catastrophe avant qu'elle ne se transforme
En octobre 2024, la société AI Anthropic a publié un article décrivant des scénarios où l'IA pourrait saboter l'humanité et des solutions possibles au problème.
En fin de compte, le document a conclu que l'IA n'est pas une menace immédiate pour l'humanité mais pourrait devenir dangereux à l'avenir à mesure que les modèles d'IA deviennent plus avancés.
Différents types de scénarios de sabotage AI potentiels décrits dans le papier anthropique. Source: Anthropique
David Holtzman, un ancien professionnel du renseignement militaire et directeur de la stratégie du Naoris Decentralized Security Protocol, a déclaré à Cintelegraph que l'IA posait un risque massif pour la vie privée à court terme.
Comme Nailwal, Holtzman a fait valoir que les institutions centralisées, y compris l'État, pourraient exercer l'IA pour la surveillance et que la décentralisation est un rempart contre les menaces de l'IA.
Revue: Chatgpt Trigger Happy to Nukes, SEGA's 80S AI, Tao Up 90%: AI Eye
Voir l’article original en anglais
