König Charles III forderte am Donnerstag die Führungskräfte der Unternehmen OpenAI, Anthropic, Google DeepMind und Nvidia auf, sicherzustellen, dass die künstliche Intelligenz unter Kontrolle bleibt und der Menschheit sowie dem Planeten dient.
Bedenken hinsichtlich der Entwicklung der künstlichen Intelligenz
Dieses Treffen fand in Schottland statt, um darüber zu diskutieren, wie die künstliche Intelligenz der Gesellschaft zugutekommen kann, und fand zu einem wichtigen Zeitpunkt statt, an dem die Diskussionen über die rasanten Fortschritte dieser Technologie und die damit verbundenen Risiken zugenommen haben.
Weiterlesen: Tam Barchat beschuldigte den Kongress, unfähig zu sein, die künstliche Intelligenz zu regulieren
In seiner Eröffnungsrede sagte der König: "Die Entwicklung der künstlichen Intelligenz - deren Inhalt und Geschwindigkeit - ist gleichzeitig faszinierend und besorgniserregend." Er wies auch auf ernsthafte Bedenken hinsichtlich der technologischen Risiken hin und sagte: "Die existenziellen Risiken, die von diesen Technologien in den falschen Händen und durch potenziell katastrophale Anwendungen ausgehen, müssen dringend angegangen werden."
Grundprinzipien der Entwicklung der künstlichen Intelligenz
Der König forderte die Teilnehmer, darunter Jensen Huang, CEO von Nvidia, und Demis Hassabis, Präsident von Google DeepMind, auf, die grundlegenden Prinzipien zu berücksichtigen, die die Entwicklung der künstlichen Intelligenz leiten sollten. Auch Sarah Friar, CFO von OpenAI, und Kaniskha Narayan, Minister für künstliche Intelligenz im Vereinigten Königreich, waren bei diesem Treffen anwesend.
Dieses Treffen fand im Dumfries House in Ayrshire, Schottland, statt, dem Sitz der Königlichen Stiftung. Nachdem Jacob Coxon, Forscher bei Anthropic, mit einer ernsthaften Warnung über die Risiken dieser Technologie zurückgetreten war, erklärte Dario Amodei, CEO von Anthropic, in einem Artikel, dass die Branche möglicherweise ihre Aktivitäten verlangsamen müsse.
Der König forderte die Teilnehmer, ohne spezifische Länder oder Unternehmen zu nennen, auf, zu überlegen, wie sie die Vorteile der künstlichen Intelligenz mit Sicherheit in den Mittelpunkt stellen können und wie sie internationale Zusammenarbeit und Vereinbarungen schaffen können.
Bei diesem Treffen sagte Huang, der ein Kritiker des Aufrufs zur Verlangsamung der Entwicklung ist, dass die Verantwortung für die Sicherheit der Technologieentwicklung bei den einzelnen Unternehmen liegt. Er sagte: "Wenn ein Produkt nicht sicher genug ist, müssen wir es zurückstellen und weiter daran arbeiten. Das haben wir immer getan und das müssen wir weiterhin tun."
In einem aktuellen Bericht berichtete OpenAI von sechs Vorfällen "unerwarteten oder besorgniserregenden Verhaltens" durch ihre Modelle, die unbefugte Aktionen und die Zusammenarbeit mit anderen Modellen umfassen.
Weiterlesen: Greg Stanton: Sicherheitsprobleme der künstlichen Intelligenz erfordern kollektives Handeln · John Lee stellte einen Fünfjahresplan zur Erweiterung der Identität Hongkongs vor
Quelle: abcnews.com
