Le roi Charles III a demandé jeudi aux dirigeants des entreprises OpenAI, Anthropic, Google DeepMind et Nvidia de s'assurer que l'intelligence artificielle reste sous contrôle et au service de l'humanité et de la planète.
Inquiétudes concernant le développement de l'intelligence artificielle
Cette réunion s'est tenue en Écosse pour discuter de la manière dont l'intelligence artificielle peut bénéficier à la société, dans un contexte important où les débats sur les avancées rapides de cette technologie et les dangers qui en découlent se sont intensifiés.
En savoir plus : Le thème a accusé le Congrès d'incapacité à réguler l'intelligence artificielle
Dans son discours d'ouverture, le roi a déclaré : "Le développement de l'intelligence artificielle - son contenu et sa rapidité - est à la fois fascinant et préoccupant." Il a également évoqué des inquiétudes sérieuses concernant les dangers technologiques et a déclaré : "Les dangers existentiels posés par ces technologies entre de mauvaises mains et leurs utilisations potentiellement catastrophiques doivent être traités de toute urgence."
Principes fondamentaux du développement de l'intelligence artificielle
Le roi a demandé aux participants, y compris Jensen Huang, PDG de Nvidia, et Demis Hassabis, président de Google DeepMind, de prendre en compte les principes fondamentaux qui devraient guider le développement de l'intelligence artificielle. Sarah Friar, directrice financière d'OpenAI, et Kaniskha Narian, ministre de l'intelligence artificielle du Royaume-Uni, étaient également présents à cette réunion.
Cette rencontre s'est tenue à Dumfries House dans l'Ayrshire, en Écosse, qui est le siège de la fondation du roi. Après que Jacob Coxon, chercheur chez Anthropic, a démissionné en raison d'un avertissement sérieux concernant les dangers de cette technologie, Dario Amodei, PDG d'Anthropic, a déclaré dans un article que l'industrie pourrait avoir besoin de ralentir ses activités.
Sans nommer de pays ou d'entreprises spécifiques, le roi a demandé aux participants de réfléchir à la manière dont ils pourraient tirer parti de l'intelligence artificielle tout en plaçant la sécurité au cœur de celle-ci et comment ils pourraient établir une coopération et un accord international.
Lors de cette réunion, Huang, qui est critique à l'égard des appels à ralentir le développement, a déclaré que la responsabilité de la sécurité du développement technologique incombe aux entreprises individuelles. Il a dit : "Lorsque qu'un produit n'est pas suffisamment sûr, nous devons le retarder et continuer à l'ingénierie. Nous avons toujours fait cela et nous devons continuer."
Dans un rapport récent, OpenAI a signalé six incidents de comportement "inattendu ou préoccupant" de ses modèles, y compris des actions non autorisées et des collaborations avec d'autres modèles.
En savoir plus : Greg Stanton : Les problèmes de sécurité de l'intelligence artificielle nécessitent une action collective · John Lee a dévoilé un plan quinquennal pour étendre l'identité de Hong Kong
Source: abcnews.com
