OpenAI betont Fokus auf Sicherheit: OpenAI steht nach dem Rücktritt zweier führender Sicherheitsexperten unter Beobachtung. Ilya Sutskever, Mitbegründer und Chefwissenschaftler, sowie Jan Leike, Leiter des Superalignment-Teams, haben das Unternehmen verlassen. Während Sutskever angab, andere Projekte verfolgen zu wollen, kritisierte Leike das Unternehmen öffentlich wegen mangelnder Prioritätensetzung im Bereich der KI-Sicherheit.
In einem Beitrag auf X erklärte Leike, dass OpenAI die Sicherheit, insbesondere in Bezug auf künstliche allgemeine Intelligenz (AGI), nicht ausreichend betone. Er forderte eine dringende Fokussierung auf die Sicherheitsaspekte von AGI, einem Konzept von KI, das in der Lage sein soll, wie ein Mensch zu denken und zu handeln.
Sam Altman und Greg Brockman, CEO und Präsident von OpenAI, reagierten auf die Bedenken mit einem gemeinsamen Statement. Sie betonten, dass OpenAI sich der Risiken und Potenziale von AGI bewusst sei und internationale Standards für AGI fordere. Zudem hob Altman hervor, dass das Unternehmen Pionierarbeit bei der Untersuchung von KI-Systemen auf katastrophale Bedrohungen geleistet habe.
Ein Bericht von Bloomberg News verdeutlicht die Herausforderungen, vor denen OpenAI steht. Auch andere Mitglieder des Superalignment-Teams haben das Unternehmen in den letzten Monaten verlassen. John Schulman, Mitbegründer und Experte für große Sprachmodelle, wurde nun als wissenschaftlicher Leiter für die Alignment-Arbeit ernannt. Neben dem Superalignment-Team verfügt OpenAI über weitere Mitarbeiter, die sich auf KI-Sicherheit in verschiedenen Teams konzentrieren.
Das musst Du wissen – OpenAI betont Fokus auf Sicherheit
- Rücktritt: Ilya Sutskever und Jan Leike, führende Sicherheitsexperten, verlassen OpenAI.
- Kritik: Leike kritisiert mangelnde Fokussierung auf KI-Sicherheit und AGI.
- Reaktion: CEO und Präsident von OpenAI betonen Engagement für KI-Sicherheit.
- Neuausrichtung: John Schulman übernimmt wissenschaftliche Leitung der Sicherheitsarbeit.
- Weitere Maßnahmen: OpenAI verfügt über mehrere Teams, die sich mit KI-Sicherheit beschäftigen.
Fazit OpenAI betont Fokus auf Sicherheit
OpenAI betont Fokus auf Sicherheit: OpenAI steht vor einer bedeutenden Herausforderung: Die Sicherstellung, dass fortschrittliche KI-Systeme sicher und verantwortungsvoll entwickelt und eingesetzt werden. Der Rücktritt zweier führender Sicherheitsexperten wirft Fragen zur Prioritätensetzung im Unternehmen auf. Trotz dieser internen Turbulenzen betonen die Unternehmensleiter ihr Engagement für KI-Sicherheit und internationale Standards. Die Ernennung von John Schulman und die Existenz mehrerer sicherheitsfokussierter Teams zeigen, dass OpenAI weiterhin bestrebt ist, die Sicherheit ihrer Systeme zu gewährleisten. Die Entwicklung von AGI bleibt ein komplexes Unterfangen, das sorgfältige und kontinuierliche Sicherheitsmaßnahmen erfordert.
X, Ilya Sutskever verlässt OpenAI – Abschied eines KI Pioniers, X,
#KI #AI #ArtificialIntelligence #Sicherheit #OpenAI