Elon Musk a réagi brutalement au débat sur la sécurité de l'IA dimanche matin. Il a écrit qu’il espérait que l’IA serait gentille avec nous, faisant écho à un sévère avertissement de l’investisseur Naval Ravikant.
Le message a été publié juste une minute après que Musk ait commenté « Échange intéressant » sur un fil de discussion précédemment publié par le PDG d'Anthropic, Dario Amodei, qui défendait ses avertissements sur les risques liés à l'IA contre les affirmations selon lesquelles son message était trop négatif.
Pourquoi Amodei défend ses avertissements sur les risques liés à l'IA
Le fil a commencé avec l'investisseur Gavin Baker. Le gestionnaire du fonds de la Silicon Valley a fait valoir que les rumeurs concernant Amodei se propageaient facilement parce qu'elles correspondaient au ton public du PDG.
Amodei a rejeté l’idée selon laquelle il parle principalement de danger. Ses deux essais majeurs se répartissent à parts égales entre les risques et les avantages, a déclaré le chef d'Anthropic. De plus, les courts extraits d’interviews sont négatifs car ils génèrent des clics, a-t-il soutenu.
Machines of Loving Grace, son argument en faveur des avantages de l'IA, existe parce que l'industrie a brossé un tableau trop sombre, a déclaré le PDG.
Amodei a également souligné une cause plus profonde. Les gens ordinaires se méfient des entreprises, des gouvernements et de l’industrie technologique, selon le chef d’Anthropic. Par conséquent, l’IA hérite d’une suspicion qui s’est durcie au fil des décennies.
Cette vision façonne son travail politique. En juin, Amodei a exigé des tests obligatoires de modèles frontaliers au lieu d’engagements volontaires. Quelques jours plus tard, le chef d’Anthropic a utilisé son appel à l’unité du G7 pour mettre en garde contre une approche mondiale fragmentée.
Je pense que la critique de loin la plus pertinente adressée aux sociétés d’IA, dont Anthropic, est que nous n’avons pas encore tenu nos grandes promesses au profit du monde.
Amodeï
Musk intervient alors que la promesse du remède revient
Musk a qualifié l'échange d'intéressant, attirant ainsi l'attention sur la complexité du débat. Outre l’orientation réglementaire d’Amodei, la question implique un aspect philosophique que l’investisseur Naval Ravikant a parfaitement capturé : vous ne pouvez pas créer Dieu et le tenir en laisse.
Musk a directement fait écho à ce sentiment dans sa propre réponse, écrivant : « J'espère que l'IA est gentille avec nous », une reconnaissance laconique que si le contrôle humain sur une superintelligence échoue, la société devra finalement s'appuyer sur la bienveillance de sa propre création.
Musk a déjà fait l’éloge d’Anthropic. En juillet, le PDG de Tesla a reproché à OpenAI de fermer ses portes tout en désignant Amodei pour une voie différente.
Amodei a également attaqué un cadrage familier de la Silicon Valley. La régulation ne concentre pas automatiquement le pouvoir, a-t-il déclaré. Le SB 53 de Californie, une loi sur la sécurité de l'IA soutenue par Anthropic, exempte les entreprises dont le chiffre d'affaires est inférieur à 500 millions de dollars.
Des tensions similaires sont apparues en juin, lorsque Vitalik Buterin a critiqué la montée du nationalisme envers l’IA à Washington.
Amodei a ensuite cité deux approches qu'il soutient. L’un d’entre eux est le projet annoncé par l’administration Trump de tester les modèles frontières avant leur publication. L'autre est un organisme de surveillance calqué sur la FINRA, l'organisme américain d'autoréglementation des courtiers, proposé par le chef de Google DeepMind, Demis Hassabis.
Finalement, Amodei revint à sa promesse la plus audacieuse. L’IA appliquée à la biologie pourrait guérir la plupart des maladies humaines d’ici cinq à dix ans, écrit-il. Anthropic et Pfizer considèrent déjà l’IA dans les soins de santé comme une infrastructure de base.
Le PDG d'Anthropic a lié cette urgence à son père, décédé de l'hépatite C peu de temps avant que les antiviraux curatifs n'atteignent les patients.
Pourtant, Amodei a rejeté les appels à une campagne de marketing sur papier glacé. Dire que l’IA guérira le cancer est désormais un cliché, a-t-il soutenu. En fait, guérir est la seule solution.
Par conséquent, les prochains mois d’Anthropic en biologie pourraient tester si cet engagement survit au laboratoire.
Le message Musk espère que « l'IA est gentille avec nous » alors que le PDG d'Anthropic défend les avertissements en matière d'IA apparaît en premier sur BeInCrypto.
Voir l’article original en anglais
