Anthropic a annoncé que le modèle d'intelligence artificielle Claude aide de manière significative au développement de son successeur. Cette nouvelle a été publiée jeudi et montre le rôle de Claude dans la recherche et le développement de cette entreprise.
Le rôle de Claude dans la recherche et le développement
Claude dirige 26 % des recherches et du développement d'Anthropic, ce qui, selon l'entreprise, signifie que ce modèle peut accomplir une tâche "de bout en bout sur la base d'une directive de haut niveau", tout en restant sous supervision humaine. Ce modèle n'opère pas encore entièrement de manière autonome.
En savoir plus : Joe Rogan a parlé de la gouvernance de l'intelligence artificielle comme d'un moyen de mettre fin aux guerres
Cependant, environ 90 % des recherches et du développement de l'entreprise se font en "collaboration" avec Claude. Anthropic a déclaré que ce modèle peut "effectuer de grandes parties du travail sous une direction humaine étroite."
Inquiétudes concernant la sécurité et le développement de l'intelligence artificielle
Cette annonce intervient alors que certaines figures de proue dans le domaine de l'intelligence artificielle, dirigées par Dario Amodei, le PDG d'Anthropic, appellent à ralentir le développement de la technologie en raison de préoccupations en matière de sécurité. Anthropic a souligné que "nous devons faire tout notre possible pour réduire l'écart entre ce que les laboratoires avancés savent et ce que le grand public sait."
L'entreprise a également souligné la nécessité de partager des métriques similaires par d'autres développeurs d'intelligence artificielle et a encouragé l'utilisation d'une méthode publique pour comparer ces chiffres.
Anthropic a également révélé des détails sur les mesures qu'elle prend pour surveiller ses modèles. En août, environ 30 000 agents étaient en train de mener des recherches et de l'ingénierie au sein de l'entreprise. Ces mesures de surveillance sont essentielles pour détecter les comportements inappropriés des agents via des systèmes de surveillance. Anthropic s'est récemment engagée à placer des évaluateurs indépendants pour surveiller ses efforts en matière de sécurité en interne.
Un chercheur d'Anthropic a démissionné la semaine dernière en raison de menaces sérieuses que la technologie de l'intelligence artificielle pose pour l'humanité. Amodei, Sam Altman, le PDG d'OpenAI, Elon Musk et d'autres leaders technologiques soutiennent l'idée de ralentir le développement, tandis que certains leaders technologiques et Donald Trump s'y opposent.
En savoir plus : Deux tiers des Américains considèrent les dangers de l'intelligence artificielle comme sérieux · Mark Zuckerberg s'est distancé de l'appel à un ralentissement coordonné du développement de l'intelligence artificielle
Source: abcnews.com
