Les dirigeants de haut niveau de l'industrie de l'intelligence artificielle ont exprimé leur préoccupation concernant la nécessité d'un ralentissement coordonné du développement de la technologie de l'intelligence artificielle. Ces préoccupations ont été exacerbées par des avertissements concernant des systèmes d'intelligence artificielle incontrôlables. Alors que certains leaders technologiques appellent à une coopération internationale pour protéger l'humanité, les opinions divergent à ce sujet.
Plans de ralentissement du développement par Anthropic
Dario Amodei, PDG d'Anthropic, en tant que pionnier dans ce domaine, a proposé des plans détaillés pour ralentir le développement et créer une coordination entre les entreprises et les pays. Anthropic a poursuivi ses activités depuis sa création en 2021 avec pour objectif de créer des technologies sûres et responsables. L'une de ses propositions clés inclut l'accès continu à des évaluateurs indépendants par les entreprises leaders en intelligence artificielle afin de surveiller les pratiques de sécurité.
En savoir plus : NASA fait face à de nouveaux risques en raison du déplacement de son personnel
Amodei a également appelé à une intervention et à des régulations gouvernementales, soulignant que la coopération entre les entreprises d'intelligence artificielle de premier plan et les gouvernements, en particulier dans les pays démocratiques et même les gouvernements autocratiques, doit avoir lieu. Il a mentionné les défis de la coopération avec la Chine, en déclarant que cela ne serait pas facile, mais que c'est essentiel pour l'humanité.
Opinions d'autres leaders technologiques
Sam Altman, PDG d'OpenAI, a également soutenu le ralentissement du développement et le passage à une plus grande coopération dans l'industrie. Quelques jours avant la publication de l'article d'Amodei, OpenAI a publié une déclaration cherchant à établir des exigences de sécurité nationale et à soutenir des lois étatiques qui renforceraient l'écosystème de sécurité de l'intelligence artificielle.
Mark Zuckerberg, PDG de Meta, s'est fermement opposé à l'idée d'un ralentissement coordonné, affirmant que chaque entreprise d'intelligence artificielle doit s'assurer de manière indépendante que ses technologies sont sûres. Il a souligné que chaque laboratoire a la responsabilité et la motivation nécessaires pour progresser en toute sécurité.
Jensen Huang, PDG de NVIDIA, a également critiqué cette approche, affirmant que chaque entreprise doit contrôler ses progrès de manière indépendante et qu'il n'est pas nécessaire d'introduire de nouvelles régulations. En revanche, Elon Musk, fondateur de xAI, a soutenu l'idée de ralentir et a déjà exprimé des préoccupations similaires concernant la sécurité de l'intelligence artificielle.
Musk a souligné la nécessité d'une coopération entre les laboratoires d'intelligence artificielle pour examiner la sécurité des modèles, affirmant qu'il est essentiel d'avoir une compréhension technique approfondie pour évaluer les modèles. Demis Hassabis, président et cofondateur de Google DeepMind, a également convenu avec Amodei et a souligné la nécessité de travailler sur les détails des propositions.
Il convient de noter que ces discussions se poursuivent alors que l'industrie de l'intelligence artificielle progresse rapidement et que les préoccupations concernant la sécurité et le contrôle de cette technologie augmentent.
En savoir plus : Trump a rejeté les préoccupations concernant la sécurité de l'intelligence artificielle · L'Union européenne est sur le point d'accepter le Canada en tant que membre associé
Source: abcnews.com
