Les leaders éminents de l'industrie de l'intelligence artificielle, notamment Dario Amodei d'Anthropic, Sam Altman d'OpenAI et Elon Musk de SpaceAI, se sont récemment accordés sur la nécessité de ralentir le développement de l'intelligence artificielle. Cet accord est intervenu après la démission d'un des chercheurs d'Anthropic et son avertissement concernant les menaces que cette technologie représente pour l'humanité.
Défis à relever pour le développement de l'intelligence artificielle
Malgré cet accord, de nombreux obstacles tels que la concurrence nationale et mondiale, les incitations au profit et les pressions politiques de la part des responsables américains, en particulier Donald Trump, se dressent sur le chemin d'un effort coordonné pour contrôler la vitesse de développement de l'intelligence artificielle. Nick Reese, ancien directeur de la politique des technologies émergentes au ministère de la Sécurité intérieure, estime que ce moment pourrait pousser l'industrie à reconsidérer sa définition du succès.
En savoir plus : Le procès de la conspiration de criminalisation de Huawei a commencé à New York
Reese déclare : "Si nous considérons le succès en intelligence artificielle de la même manière que le succès dans l'industrie aéronautique, ce succès signifie établir des vols à l'heure et sans accident." Il souligne également que, tandis que nous ne tolérons pas les accidents d'avion commerciaux, les échecs significatifs en intelligence artificielle semblent tolérables.
Plan d'Amodei pour ralentir le développement
Amodei a récemment publié un article détaillé dans lequel il propose un plan pour ralentir le développement de l'intelligence artificielle avancée. L'une de ses suggestions est que les entreprises leaders dans le domaine de l'intelligence artificielle, connues sous le nom de laboratoires de pointe, s'engagent à fournir un accès continu et similaire aux employés pour les évaluateurs indépendants. Les équipes d'évaluation doivent disposer de bureaux, de cartes d'accès et d'ordinateurs portables d'entreprise afin de pouvoir surveiller les pratiques de sécurité.
Amodei a déclaré qu'Anthropic s'était unilatéralement engagé à cette étape. Altman a également décrit ce plan sur les réseaux sociaux comme une "excellente idée" et a annoncé qu'OpenAI suivrait également cette décision.
Altman a également salué un "cadre fédéral" pour établir des normes de sécurité pour l'intelligence artificielle avancée et estime que les entreprises n'ont pas besoin d'attendre une législation ou des exemptions antitrust avant de s'attaquer à la sécurité de l'intelligence artificielle.
Dans l'article d'Amodei, il est également fait mention de la nécessité de réglementations et d'interventions gouvernementales, afin de faciliter la coopération entre les entreprises leaders en intelligence artificielle avec l'aide du gouvernement des États-Unis et des gouvernements d'autres pays démocratiques. Il a exprimé l'espoir que les laboratoires de pointe puissent établir des normes de sécurité communes et des limites pour le taux de progrès sans réglementation de l'intelligence artificielle.
Défis internationaux et obstacles pratiques
Amodei a également évoqué la coopération des pays démocratiques avec des "gouvernements autocratiques" et a reconnu les défis qui existent notamment en matière de coopération avec la Chine. Il a décrit les différents niveaux d'accords que les dirigeants mondiaux pourraient signer, en disant que l'accord le plus simple pourrait être l'interdiction de "certaines utilisations étroites et clairement dangereuses de l'intelligence artificielle", comme la production d'armes biologiques.
Cependant, il a également noté qu'il serait très difficile d'atteindre un accord sur les tests de modèles avant leur publication, en particulier dans des domaines tels que la cybersécurité ou les menaces biologiques. Il a déclaré que la détermination d'un "plafond de vitesse" pour les modèles d'intelligence artificielle capables de produire des versions améliorées d'eux-mêmes serait un grand défi.
Altman a annoncé sur les réseaux sociaux que "réguler la vitesse" du développement de l'intelligence artificielle ne signifie pas l'arrêter et que les progrès dans ce domaine continueront. Il a également souligné que "toute pression concurrentielle de la part des États-Unis ne devrait pas justifier l'imprudence." Bien que les experts considèrent cet accord comme prometteur, de nombreuses questions restent sans réponse.
En savoir plus : Des préoccupations profondes parmi les développeurs d'intelligence artificielle : la vitesse coûte-t-elle la sécurité ? · Des leaders clés ont émis un avertissement concernant le développement de l'intelligence artificielle
Source: abcnews.com
