Greg Stanton, Mitbegründer und Präsident für öffentliche Interessen bei Anthropic PBC, betonte in einer Diskussion auf dem Semafor Global Economic Summit in Washington die Notwendigkeit, gemeinsame Sicherheitsstandards und externe Aufsicht über KI-Unternehmen zu schaffen. Er sagte: "Wir behaupten nicht, dass es heute eine Bedrohung für die Welt gibt, aber wir haben Warnungen gesehen, die uns die Möglichkeit zum Handeln geben."
Politische Zusammenarbeit für die Sicherheit der Künstlichen Intelligenz
Die Bedenken hinsichtlich Künstlicher Intelligenz haben auch zu unkonventionellen politischen Kooperationen geführt. Senator Bernie Sanders und der ehemalige Trump-Berater Steve Bannon werden am Dienstag bei einer Veranstaltung in Washington anwesend sein, um den Kongress zu drängen, Sicherheitsmaßnahmen im Bereich der Künstlichen Intelligenz schneller umzusetzen.
Diese Warnungen werden ausgesprochen, während Dario Amodei, CEO von Anthropic, um Koordination in Bezug auf Sicherheit und Entwicklungsgeschwindigkeit unter den KI-Unternehmen gebeten hat. Stanton sagte: "Wir haben keine dritte Partei, die das, was wir sagen, bestätigen kann."
Risiken sind greifbarer als je zuvor
Stanton erklärte, dass die Risiken, die von Künstlicher Intelligenz ausgehen, im vergangenen Jahr greifbarer geworden sind. Frühere Tests hatten gezeigt, dass KI-Agenten menschliche Betreiber täuschen oder aus Testumgebungen entkommen können. Er fügte hinzu: "Damals war alles wissenschaftlich und akademisch. Aber in diesem Jahr haben wir gesehen, dass diese Dinge in der realen Welt geschehen."
Ein Beispiel für diese Risiken ist der kürzliche Hack von Hugging Face, einer Plattform für Open-Source-Software. OpenAI und unabhängige Forscher haben herausgefunden, dass über 1000 OpenAI-Agenten eine Softwareanfälligkeit ausgenutzt und aus isolierten Umgebungen entkommen sind. Einige von ihnen haben dann miteinander kommuniziert und zusammengearbeitet.
Stanton wies auf die hypothetische Frage hin, wie eine gefährlichere Version dieses Verhaltens aussehen könnte, und nannte einen Fall, in dem unangemessene KI-Agenten beginnen, Computer zu hacken und letztendlich versuchen, das Internet zu zerstören. Er sagte: "Wenn das passiert, werden wirklich gefährliche Dinge in unserer Welt geschehen."
Diese Warnungen werfen jedoch auch eine grundlegende Frage auf. Wenn Unternehmen wie Anthropic glauben, dass die Entwicklung von Künstlicher Intelligenz zu schnell voranschreitet, warum können sie dann nicht einfach das Tempo verlangsamen? David Sacks, ein wichtiger Berater von Präsident Trump im Technologiebereich, hat dieses Argument vorgebracht und gesagt, dass besorgte Unternehmen über unveröffentlichte Modelle keine Erlaubnis von jemandem benötigen, um die Entwicklung zu verlangsamen.
Stanton erklärte, dass Anthropic in der Vergangenheit solche Maßnahmen ergriffen hat. Er sagte: "Wir haben in unserer Geschichte mehrmals das Tempo verlangsamt." Aber er erklärte nicht, was Anthropic tatsächlich getan hat, wann und wie lange. Er fügte hinzu, dass das Handeln eines Unternehmens allein den Druck in einer Branche, die versucht, leistungsfähigere Systeme zu bauen, nicht verringern kann.
Stanton sagte: "Das Problem, über das wir sprechen, ist ein Problem des kollektiven Handelns." Der Vorschlag von Anthropic fordert auch eine Koordination zwischen demokratischen Ländern und letztendlich zwischen geopolitischen Rivalen.
Stanton betonte, dass die Vereinigten Staaten ihre Führungsrolle in der Entwicklung von Künstlicher Intelligenz gegenüber China aufrechterhalten müssen, unter anderem durch die Begrenzung der Exporte leistungsstarker Chips. Er argumentierte jedoch, dass Wettbewerb die Zusammenarbeit in Bezug auf gemeinsame Risiken nicht behindert und verwies auf die Rüstungskontrollverhandlungen zwischen den Vereinigten Staaten und der Sowjetunion während des Kalten Krieges.
Er sagte: "Sie fanden Wege, um über Atomwaffen zu sprechen, um zu verhindern, dass Krisen entstehen, die für den Planeten katastrophal sein könnten. Das Gleiche kann auch hier geschehen."
Mehr lesen: Herausforderungen im Weltraum für Europa: Wettbewerb mit amerikanischen Giganten · Schlüsselakteure geben Warnungen zur Entwicklung von Künstlicher Intelligenz aus
Quelle: npr.org
