Wenn Sie Partnerlinks in unseren Inhalten folgen, erhalten wir möglicherweise eine Provision. Dabei entstehen Ihnen keine zusätzliche Kosten. Wir zeigen transparent, wie 
Der OpenAI-Vorstand hat einen Sicherheitsausschuss eingerichtet, der seine Entscheidungen lenken soll, und mit der Ausbildung des „Next Frontier Model“ begonnen, das GPT-4 ersetzen soll.
Der Vorstandsvorsitzende Bret Taylor wird das Sicherheitsgremium leiten, dem auch CEO Sam Altman sowie die Direktoren Adam D’Angelo und Nicole Seligman angehören werden. Das Team wird auch eine Reihe von Führungskräften aus den Bereichen Politik und Technologie umfassen, darunter der derzeitige Chief Scientist Jakub Pachocki sowie Aleksander Madry, Lilian Weng, John Schulman und Matt Knight.
OpenAI sagte, es werde auch externe Experten zur Unterstützung heranziehen, darunter ehemalige Cybersicherheitsbeauftragte wie John Carlin und Rob Joyce.
Das erste Projekt des Ausschusses besteht darin, die „Prozesse und Sicherheitsvorkehrungen“ des Unternehmens innerhalb von 90 Tagen zu untersuchen und zu verbessern. Anschließend wird der Ausschuss seine Empfehlungen an den Vorstand von OpenAI weitergeben, der wiederum mitteilen wird, wie er die aus der Überprüfung hervorgehenden Sicherheitsempfehlungen umsetzen wird.
Das neue große Sprachmodell soll OpenAI auf dem Weg zu einer echten, universell einsetzbaren künstlichen Intelligenz auf die „nächste Stufe der Fähigkeiten“ bringen. Das Unternehmen hat keine weiteren Details bekannt gegeben. GPT-4o ist eine Art Brücke, die Sprach- und Videoeingaben für alle Benutzer ermöglicht, einschließlich Echtzeitgesprächen mit Unterbrechungen und simulierten Emotionen.
Die Schritte kamen kurz nach der Auflösung des Superalignment-Teams von OpenAI, das eine KI entwickelte, die Sicherheitsprüfungen an Modellen durchführt und abweichendes Verhalten verhindert. Die Leiter des Teams, der ehemalige Chief Scientist Ilya Sutskever und Jan Leike, verließen das Unternehmen Anfang Mai.
Das Unternehmen hatte bereits mit internen und externen Turbulenzen wegen Sicherheitsfragen zu kämpfen. Der Vorstand von OpenAI hat Altman kurzzeitig entlassen, weil er sich Sorgen darüber machte, wie er mit der KI-Sicherheit umgeht. Regierungsbehörden in den USA, Großbritannien und anderswo arbeiten entweder an Vorschriften oder legen ihre eigenen Richtlinien fest. Der Ausschuss hilft OpenAI theoretisch dabei, Probleme anzugehen, bevor sie sich zu Krisen auswachsen.
Der Rückgriff auf einen internen Ausschuss steht in scharfem Kontrast zum Meta Oversight Board. Dieses Gremium gibt politische Empfehlungen ab, ist aber unabhängig von Meta und setzt sich aus Experten zusammen, die nicht in den Betrieb des Social-Media-Riesen involviert sind. Es ist jedoch noch nicht klar, wie OpenAI auf Vorschläge reagieren wird, und das Unternehmen steht unter Druck, mit Modellen wie Googles Gemini zu konkurrieren, auch wenn es versucht, Politiker und Kritiker zu beruhigen.
