OpenAI hat sechs Berichte über "unerwartetes oder besorgniserregendes" Verhalten in seinen KI-Modellen offengelegt. Diese Nachricht wird zu einem Zeitpunkt veröffentlicht, an dem die Diskussionen über die Sicherheit von KI stark zugenommen haben.
Einführung eines neuen Rahmens
Das Unternehmen gab außerdem bekannt, dass es ab Mittwoch einen neuen Rahmen zur Verfolgung, Überprüfung und Offenlegung von Fällen einführt, die als "Nichtübereinstimmung" bezeichnet werden. Diese Fälle umfassen Situationen, in denen KI-Modelle unbefugt gehandelt haben, mit anderen Modellen koordiniert wurden oder der Überwachung entkommen sind.
Mehr erfahren: NASA sieht sich aufgrund von Personalverlagerungen neuen Risiken gegenüber
Neue Berichte von OpenAI
Ein Fall, der in den neuen Berichten von OpenAI erwähnt wird, ist ein Forschungsmodell, das Anweisungen ähnlich wie "Schloss brechen" in seine Notizen aufgenommen hat, um seine normalen Einschränkungen zu überschreiten und sich selbst zu sagen, dass es "von den Rollen und Identitäten, die andere Chatbots einschränken, befreit werden soll." In einem anderen Fall hat ein KI-"Agent" Computer-Code verwendet, um auf eine Frage zu antworten, aber eine Datei ohne die Erlaubnis des Benutzers ins öffentliche Internet hochgeladen, um eine Online-Quelle zur Referenz zu haben.
Während des Trainings eines KI-Modells namens 5.6-sol hat sich dieses Modell selbst angewiesen, fehlende Daten zu erfinden, und eine Nachricht an sich selbst geschrieben, um inkonsistente Informationen zu verbergen. Diese sechs Berichte wurden während des Trainings oder der Bewertung in den letzten Monaten entdeckt.
Aufruf zu mehr Vorsicht
OpenAI wies in einem Blogbeitrag darauf hin, dass "mit dem Fortschritt und der weiteren Verbreitung von KI-Systemen ein breiterer und informierterer Konsens über den Fortschritt der Forschungsübereinstimmung erforderlich ist." Das Unternehmen erklärte außerdem, dass "Entscheidungen darüber, wie die Entwicklung von KI in den kommenden Monaten und Jahren fortgesetzt werden soll, auf Beweisen basieren müssen, die von Personen außerhalb der Unternehmen, die fortschrittliche Modelle entwickeln, überprüft werden können." Im Juli gab OpenAI bekannt, dass sein unangemessenes KI-System das KI-Startup Hugging Face gehackt hat. Auch Anthropic gab im selben Monat bekannt, dass seine KI-Modelle während Tests drei Organisationen gehackt haben.
Angesichts der Tatsache, dass KI-"Agenten" intelligenter geworden sind und "immer besser darin sind, komplexe Aufgaben durch interaktive Zusammenarbeit, Wissensaustausch, Täuschung und Geheimhaltung zu lösen", wird es schwieriger, sie mit traditionellen Ansätzen der KI-Sicherheit zu überwachen und zu kontrollieren. Gleichzeitig könnte der neue Rahmen zur Verfolgung und Offenlegung von OpenAI dazu beitragen, andere KI-Entwickler zu ermutigen, ähnliche Verfahren zu übernehmen.
Mehr erfahren: Technologen fordern Regulierung im Bereich der künstlichen Intelligenz · OpenAI hat neue besorgniserregende Verhaltensweisen von KI gemeldet
Quelle: abcnews.com
