Anthropic (Anthropic) gab bekannt, dass das KI-Modell Claude (Claude) erheblich zur Entwicklung seines Nachfolgers beiträgt. Diese Nachricht wurde am Donnerstag veröffentlicht und zeigt die Rolle von Claude in der Forschung und Entwicklung des Unternehmens.
Die Rolle von Claude in Forschung und Entwicklung
Claude leitet 26 Prozent der Forschung und Entwicklung von Anthropic, was laut dem Unternehmen bedeutet, dass dieses Modell mehr als eine Aufgabe "von Anfang bis Ende basierend auf einer hochrangigen Anweisung" ausführen kann, während es weiterhin unter menschlicher Aufsicht steht. Dieses Modell funktioniert noch nicht vollständig autonom.
Mehr lesen: Joe Rogan sprach über die Regierung der künstlichen Intelligenz als einen Weg, um Kriege zu beenden
Dennoch werden etwa 90 Prozent der Forschung und Entwicklung des Unternehmens in "Zusammenarbeit" mit Claude durchgeführt. Anthropic hat erklärt, dass dieses Modell "große Teile der Arbeit unter enger menschlicher Anleitung erledigen kann."
Bedenken hinsichtlich Sicherheit und Entwicklung von KI
Diese Ankündigung wurde veröffentlicht, während einige prominente Persönlichkeiten im Bereich der künstlichen Intelligenz, angeführt von Dario Amodei, dem CEO von Anthropic, eine Verlangsamung der Entwicklung der Technologie aufgrund von Sicherheitsbedenken fordern. Anthropic betonte, dass "wir alle Anstrengungen unternehmen müssen, um die Kluft zwischen dem, was fortschrittliche Labore wissen, und dem, was die Öffentlichkeit weiß, zu minimieren."
Das Unternehmen hat auch die Notwendigkeit betont, ähnliche Metriken von anderen KI-Entwicklern zu teilen, und die Verwendung einer öffentlichen Methode zur Vergleichung dieser Zahlen gefördert.
Anthropic enthüllte auch Details zu den Maßnahmen, die zur Überwachung seiner Modelle ergriffen werden. Im August waren etwa 30.000 Agenten in diesem Unternehmen mit Forschung und Ingenieurwesen beschäftigt. Diese Überwachungsmaßnahmen sind notwendig, um unangemessenes Verhalten von Agenten durch Überwachungssysteme zu erkennen. Anthropic hat sich kürzlich verpflichtet, unabhängige Prüfer zur Überwachung seiner Sicherheitsbemühungen im Unternehmen einzusetzen.
Ein Forscher von Anthropic trat letzte Woche mit ernsthaften Warnungen über die Bedrohungen, die die Technologie der künstlichen Intelligenz für die Menschheit mit sich bringt, von seiner Position zurück. Amodei, Sam Altman, CEO von OpenAI, Elon Musk und andere Technologieführer unterstützen die Idee, die Entwicklung zu verlangsamen, während einige Technologieführer und Donald Trump dagegen sind.
Mehr lesen: Zwei Drittel der Amerikaner halten die Risiken der künstlichen Intelligenz für ernst · Mark Zuckerberg distanzierte sich von dem Aufruf zur koordinierten Verlangsamung der Entwicklung von KI
Quelle: abcnews.com
