# GPT-Red: OpenAI nutzt Self-Play für mehr KI-Sicherheit > OpenAI stellt GPT-Red vor: Ein spezialisiertes Modell für automatisiertes Red-Teaming, das 84 % der Schwachstellen in Agenten wie GPT-5.6 erkennt. Jetzt lesen. - URL: https://thevibe-coding.de/news/openai-gpt-red-security-agents - Typ: news | Veroeffentlicht: 2026-07-17 | Aktualisiert: 2026-07-17 - Autor: Vita Legne | Site: VIBE CODING — thevibe-coding.de --- GPT-Red ist ein spezialisiertes internes Modell von OpenAI, das gezielt Sicherheitslücken in autonomen [KI-Agenten](/glossar/ai-agent) identifiziert. Die Notwendigkeit für ein solches System ergibt sich aus der Komplexität moderner Anwendungen, die eigenständig E-Mails lesen oder Bestellungen verwalten. GPT-Red spürt gezielt indirekte [Prompt-Injections](/tools/nvidia-skillspector-sicherheit-agent-skills-2026) auf, bei denen Angreifer bösartige Befehle in gewöhnlichen Daten verstecken, um das Verhalten eines Agenten zu manipulieren. ## Automatisierte Sicherheit durch Self-Play-Verfahren OpenAI trainiert GPT-Red mithilfe eines Self-Play-Ansatzes, bei dem das Modell kontinuierlich gegen sich selbst antritt. In diesem Prozess fungiert das System als Angreifer, sendet Testanfragen an einen KI-Agenten und analysiert dessen Reaktion. Die Angriffsstrategie wird basierend auf Erfolg oder Misserfolg iterativ angepasst. Diese Methode findet Schwachstellen in einer Skalierbarkeit, die mit manuellem Red-Teaming kaum erreichbar wäre. In aktuellen Testszenarien für indirekte Prompt-Injections erzielte GPT-Red eine Erfolgsquote von 84 % bei Angriffen auf eine interne Instanz von GPT-5.1. Im direkten Vergleich schnitten menschliche Sicherheitsteams deutlich schwächer ab: Sie konnten lediglich 13 % der präparierten Szenarien kompromittieren. Diese Ergebnisse unterstreichen die Effizienz automatisierter Testverfahren bei der Härtung moderner Sprachmodelle. ## Praxistests und Härtung von GPT-5.6 GPT-Red demonstrierte seine Fähigkeiten kürzlich in einem realistischen Testszenario mit dem Agenten „Vendy“. Das Modell manipulierte den Agenten so, dass dieser Preise in einem Verkaufsautomaten änderte und Kundenbestellungen stornierte. Solche Angriffe verdeutlichen das Risiko, wenn [KI-Systeme](/guides/die-8-stufen-der-ki-integration-in-unternehmen) unkontrolliert Zugriff auf geschäftskritische Funktionen erhalten. Die gewonnenen Erkenntnisse fließen direkt in die Entwicklung neuerer Modelle ein. GPT-5.6 wurde unter Einbeziehung dieser Angriffsdaten trainiert, um eine höhere Robustheit gegenüber Manipulationen zu gewährleisten. Laut OpenAI sank die Fehlerquote bei direkten Prompt-Injections bei GPT-5.6 Sol massiv und liegt teils bei nur 0,05 %. Damit ist das Modell etwa sechsmal widerstandsfähiger als seine Vorgänger. | Metrik | Menschliche Experten | GPT-Red (Angriff) | | :--- | :--- | :--- | | Erfolgsrate Injections | 13 % | 84 % | | Fokus | Manuelle Analyse | Skalierbares Self-Play | | Zielmodelle | GPT-5.1 / 5.5 | GPT-5.1 / 5.5 / 5.6 | ## Herausforderungen und Sicherheitsvorgaben für Entwickler Jessica Ji, Analystin bei CSET, betrachtet den Self-Play-Ansatz als vielversprechend, gibt jedoch zu bedenken, dass menschliche Tester weiterhin Angriffsvektoren finden, die KI-Modelle übersehen. Auch das MIT Technology Review weist auf spezifische Schwächen hin. Bei komplexen, mehrstufigen Dialogen sowie Angriffen über Bilddaten stößt GPT-Red aktuell noch an Grenzen. Für Entwickler, die [KI-Agenten produktiv einsetzen](/guides/ki-agenten-von-grund-auf-dein-umfassender-guide), empfiehlt OpenAI eine Prüfung von drei zentralen Sicherheitsmechanismen: * **E-Mail-Versand:** Nachrichten sollten grundsätzlich erst nach einer expliziten Freigabe durch einen Menschen versendet werden. * **Finanztransaktionen:** Zahlungen und Stornierungen erfordern ein separates, menschliches Bestätigungs-Layer. * **Berechtigungsmanagement:** Das Löschen von Dateien oder Ändern von Systemeinstellungen muss auf minimalen Rechten basieren. Ein offizieller Preprint mit detaillierten technischen Daten zu GPT-Red wird in dieser Woche veröffentlicht. Weitere Informationen finden sich auf [openai.com](https://openai.com/index/unlocking-self-improvement-gpt-red/). ## FAQ ### Was ist GPT-Red und wie funktioniert es? GPT-Red ist ein spezialisiertes internes Sicherheitsmodell von OpenAI, das mittels Self-Play-Verfahren Schwachstellen in KI-Systemen aufspürt. Das Modell agiert dabei als Angreifer und passt seine Strategien kontinuierlich an, um die Robustheit von Agenten gegenüber Manipulationen zu testen. ### Wie erfolgreich ist GPT-Red im Vergleich zu menschlichen Testern? GPT-Red erzielt bei Angriffsszenarien auf interne Modelle wie GPT-5.1 eine Erfolgsquote von 84 Prozent. Menschliche Sicherheitsteams erreichen im direkten Vergleich lediglich eine Quote von 13 Prozent, was die hohe Skalierbarkeit und Effizienz des automatisierten Ansatzes verdeutlicht. ### Welche Sicherheitsfortschritte wurden bei GPT-5.6 erzielt? GPT-5.6 wurde mit den durch GPT-Red gewonnenen Angriffsdaten trainiert und weist dadurch eine deutlich höhere Widerstandsfähigkeit auf. Die Fehlerquote bei direkten Prompt-Injections sank massiv auf teilweise nur 0,05 Prozent, wodurch das Modell sechsmal robuster als seine Vorgänger ist. ### Welche Schutzmaßnahmen empfiehlt OpenAI für KI-Agenten? Entwickler sollten kritische Aktionen wie den E-Mail-Versand oder Finanztransaktionen grundsätzlich durch eine menschliche Freigabe absichern. Zudem muss das Berechtigungsmanagement auf minimalen Rechten basieren, um unbefugte Systemänderungen oder Datenlöschungen zu verhindern. ## Quellen - [openai.com](https://openai.com/index/unlocking-self-improvement-gpt-red/) — openai.com - [t3n.de](https://t3n.de/news/openai-entwickelt-eigenen-ki-hacker-wie-gpt-red-die-modelle-des-unternehmens-sicherer-machen-soll-1753133/) — t3n.de - [the-decoder.de](https://the-decoder.de/openais-gpt-red-findet-sicherheitsluecken-in-ki-modellen-besser-als-menschliche-red-teamer/) — the-decoder.de - [gigazine.net](https://gigazine.net/gsc_news/en/20260716-openai-gpt-red/) — gigazine.net - [all-ai.de](https://www.all-ai.de/news/topbeitraege/openai-agent-haertetest) — all-ai.de - [theverge.com](https://www.theverge.com/ai-artificial-intelligence/966117/openai-trained-an-ai-for-red-teaming-ai) — theverge.com - [aibase.com](https://www.aibase.com/de/news/10938) — aibase.com - [aibase.com](https://www.aibase.com/de/news/15806) — aibase.com