Buterin a déclaré que l'IA moderne pourrait permettre aux développeurs de vérifier des programmes entiers au lieu de vérifier uniquement les parties qu'ils considèrent comme critiques pour la sécurité.
Vitalik Buterin ne croit pas que l’inquiétude croissante selon laquelle le piratage informatique pourrait rendre la cybersécurité de plus en plus difficile soit justifiée. Dans un article récent, le co-fondateur d’Ethereum a déclaré qu’il n’était pas d’accord avec l’idée selon laquelle le piratage de l’IA signifie que « la cybersécurité est vouée à l’échec ».
Il a plutôt déclaré que la sécurité pourrait naturellement favoriser la protection une fois que les gens auront construit les bons systèmes et utilisé des outils de vérification plus puissants.
Sur les pirates IA et l'avenir de la cybersécurité
Buterin a donné un exemple simple impliquant une intelligence artificielle et des mathématiques avancées. Il a dit,
« Si l'IA peut prouver Navier-Stokes et FLT, alors l'IA peut prouver la déclaration » ce programme est sécurisé « en tant que théorème mathématique. Même si le programme est très compliqué. »
Cependant, Buterin a souligné que définir ce que signifie réellement « sécurisé » est beaucoup plus difficile qu’il n’y paraît. Un système peut présenter de nombreux problèmes de sécurité différents qui doivent être pris en compte. Les définitions de sécurité peuvent devenir extrêmement détaillées. Ils peuvent expliquer comment un attaquant pourrait interférer avec un système, comment des informations pourraient fuir et ce qui pourrait se produire si différentes parties du logiciel ou du matériel tombaient en panne ou étaient compromises.
Pour cette raison, Buterin a déclaré qu’il était extrêmement important de rendre les définitions plus lisibles par l’homme. Il a décrit cela comme étant peut-être le seul « langage de haut niveau » qui compte à l’heure actuelle. Buterin estime toujours que, pour les composants critiques pour la sécurité, la définition peut être une surface d'attaque beaucoup plus petite que la mise en œuvre elle-même.
Vérifier si la définition est adéquate peut également être plus facile à gérer que de scanner directement le code. Il a déclaré que de meilleurs outils pourraient rendre ce processus encore plus pratique.
Il voit même un avantage à travailler avec des définitions. Ils sont additifs. Si deux groupes ont deux définitions différentes, les développeurs peuvent prouver qu’un programme satisfait aux deux. Si les deux définitions ne peuvent être satisfaites en même temps, le conflit est isolé et devient une question importante à résoudre dans le cadre du projet.
Vous aimerez peut-être aussi :
Vérification de l'ensemble du programme
Le code ne fonctionne pas de cette façon, selon le co-fondateur d’Ethereum. Si un programme est composé de différentes parties, un bug dans l’une de ces parties peut compromettre l’ensemble. Buterin a reconnu que cette approche ne fonctionne pas aussi bien pour tous les types de logiciels. Dans certains cas, comme dans le cas des composants d'interface utilisateur, la définition peut être presque aussi vaste que l'implémentation.
Mais pour de nombreux composants critiques, il a déclaré que la différence était réelle. Il a spécifiquement souligné les protocoles de transmission de messages, les bacs à sable et les systèmes cryptographiques tels que les SNARK et le cryptage entièrement homomorphe. Auparavant, les développeurs vérifiaient souvent uniquement les parties de leur code qu'ils considéraient comme critiques pour la sécurité. Le reste n’a pas été contrôlé. Même si cela était compréhensible lorsque la vérification était difficile et rare, il estime que l’IA moderne change la donne.
Pour Buterin, la réponse n’est donc pas simplement d’espérer que les « bons » trouvent des vulnérabilités avant les « méchants ». La stratégie la plus importante consiste en premier lieu à rendre le code beaucoup plus résilient. Selon lui, il n’y a pas d’avenir pour les blockchains, notamment celles axées sur l’évolutivité et la confidentialité, sans ce type de travail.
Voir l’article original en anglais
