Führende Persönlichkeiten der KI-Industrie, darunter Dario Amodei von Anthropic, Sam Altman von OpenAI und Elon Musk von SpaceAI, haben kürzlich die Notwendigkeit betont, die Entwicklung von KI zu verlangsamen. Diese Einigung kam nach dem Rücktritt eines Forschers von Anthropic und seiner Warnung vor den Bedrohungen, die diese Technologie für die Menschheit darstellt.
Herausforderungen bei der Entwicklung von KI
Trotz dieser Einigung gibt es zahlreiche Hindernisse, wie interne und globale Konkurrenz, Gewinnanreize und politischen Druck von Seiten der US-Behörden, insbesondere von Donald Trump, die einer koordinierten Anstrengung zur Kontrolle der Geschwindigkeit der KI-Entwicklung im Wege stehen. Nick Ries, ehemaliger Direktor für aufstrebende Technologien im Ministerium für Innere Sicherheit, ist der Meinung, dass dieser Moment die Branche dazu zwingen könnte, den Erfolg neu zu definieren.
Weiterlesen: Prozess gegen die Verschwörung zur Kriminalisierung von Huawei in New York hat begonnen
Ries sagt: "Wenn wir Erfolg in der KI wie Erfolg in der Luftfahrt betrachten, bedeutet dieser Erfolg, pünktliche und unfallfreie Flüge zu gewährleisten." Er weist auch darauf hin, dass während wir kommerzielle Flugzeugabstürze nicht tolerieren, bedeutende Misserfolge in der KI als tolerierbar erscheinen.
Amodeis Plan zur Verlangsamung der Entwicklung
Amodei hat kürzlich einen ausführlichen Artikel veröffentlicht, in dem er einen Plan zur Verlangsamung der Entwicklung fortschrittlicher KI vorschlägt. Einer seiner Vorschläge ist, dass führende Unternehmen im Bereich KI, die als Grenzlabore bekannt sind, sich verpflichten, kontinuierlichen und ähnlichen Zugang für Mitarbeiter zu unabhängigen Gutachtern zu gewähren. Die Bewertungsteams sollten Büros, Zugangskarten und Unternehmenslaptops haben, um Sicherheitspraktiken zu überwachen.
Amodei hat erklärt, dass Anthropic sich einseitig zu diesem Schritt verpflichtet hat. Altman hat diesen Plan auch in sozialen Medien als "großartige Idee" bezeichnet und erklärt, dass auch OpenAI diesem Beschluss folgen wird.
Altman hat zudem einen "federalen Rahmen" zur Festlegung von Sicherheitsstandards für fortschrittliche KI begrüßt und ist der Meinung, dass Unternehmen nicht auf gesetzgeberische Maßnahmen oder Antitrust-Ausnahmen warten müssen, bevor sie sich mit der Sicherheit von KI befassen.
Im Artikel von Amodei wird auch auf die Notwendigkeit von Regulierung und staatlichem Eingreifen hingewiesen, um die Zusammenarbeit zwischen führenden KI-Unternehmen mit Hilfe der US-Regierung und den Regierungen anderer demokratischer Länder zu erleichtern. Er äußerte die Hoffnung, dass führende Labore gemeinsame Sicherheitsstandards und Beschränkungen für die unkontrollierte Fortschrittsrate von KI festlegen können.
Internationale Herausforderungen und praktische Hindernisse
Amodei sprach auch über die Zusammenarbeit demokratischer Länder mit "autokratischen Regierungen" und erkannte die Herausforderungen an, die insbesondere bei der Zusammenarbeit mit China bestehen. Er erläuterte die verschiedenen Ebenen von Vereinbarungen, die globale Führer unterzeichnen können, und sagte, dass die einfachste Vereinbarung möglicherweise ein Verbot "bestimmter enger und eindeutig gefährlicher Anwendungen von KI" sein könnte, wie die Herstellung biologischer Waffen.
Er wies jedoch auch darauf hin, dass es sehr schwierig sein wird, eine Einigung über die Testung von Modellen vor der Veröffentlichung zu erzielen, insbesondere in Bereichen wie Cybersicherheit oder biologischen Bedrohungen. Er erklärte, dass die Festlegung eines "Geschwindigkeitslimits" für KI-Modelle, die verbesserte Versionen von sich selbst erzeugen können, eine große Herausforderung darstellen wird.
Altman erklärte in sozialen Medien, dass die "Regulierung der Geschwindigkeit" der KI-Entwicklung nicht bedeutet, sie zu stoppen, und dass der Fortschritt in diesem Bereich weiterhin stattfinden wird. Er betonte auch, dass "jeglicher Wettbewerbsdruck aus den USA keine Rechtfertigung für Unvorsichtigkeit sein sollte." Während Experten diese Einigung als vielversprechend ansehen, bleiben viele Fragen unbeantwortet.
Weiterlesen: Tiefgreifende Bedenken unter KI-Entwicklern: Wird Geschwindigkeit auf Kosten der Sicherheit gehen? · Schlüsselpersonen geben Warnung zur Entwicklung von KI heraus
Quelle: abcnews.com
