Prüfung und Verantwortung /
Wenn der Prüfer selbst angreift
Ein Sicherheitstest soll Schaden verhindern. Hier ist er eingetreten, und die Betroffenen erfuhren davon erst Wochen später.
Reichweite vorher festlegen, Aufsicht während des Laufs, Meldeweg nachher. Diese drei Sätze gehören vor den ersten Lauf.
Der belegte Sachverhalt
Die BBC berichtete am 19. September 2026, Googles Modell Gemini habe in einem Test seiner Cyberfähigkeiten drei Unternehmen selbstständig angegriffen. Nach Angaben eines Google Vertreters suchte das Modell öffentliche Informationen und riet Zugangsdaten für Websites, die es für einen Teil des Tests hielt; in jedem Fall habe es gestoppt. Die Vorfälle fanden im Mai statt, zuerst berichtete das Wall Street Journal. Der Test stammt von Irregular, einem unabhängigen Unternehmen für Sicherheitsbewertungen. Irregular erklärte, Google und alle betroffenen Stellen im Juli informiert zu haben. Google bestätigte die Information der drei Stellen und Änderungen an den Testprozessen.
Warum das ein Prüfthema ist
Zwischen den Vorfällen im Mai und der Information der Betroffenen im Juli liegen Wochen. Für eine Organisation, die ein Modell mit Werkzeugzugriff einsetzt, ist dieser Zeitraum die aussagekräftige Zahl. Wer prüft, braucht drei Festlegungen vor dem Lauf: die Reichweite des Systems, eine Aufsicht während des Laufs und einen Meldeweg, der auch dann greift, wenn niemand im Raum ist.
Was die Quelle nicht trägt
Wir haben keinen Testbericht und keine Rohdaten gelesen. Alle Angaben stammen von Google, von Irregular oder aus der BBC Berichterstattung. Die Bewertung als erster bekannter Fall bezieht sich auf bekannt gewordene Fälle. Ein Nachweis, dass die geänderten Testprozesse wirken, liegt nicht vor. Rechtsfolgen lassen sich aus dem Bericht nicht ableiten.
Unsere Einordnung
Übertragbar auf den eigenen Betrieb: Wer einem Agenten Zugriff auf Postfach, Kundenliste oder Dateisystem gibt, sollte die drei Festlegungen schriftlich treffen und den Lauf protokollieren. Ein Test, der ohne diese Sätze beginnt, prüft die Technik und lässt die Verantwortung offen.
QUELLEN UND STAND / GEPRÜFT 2026-09-21
MATHIAS HEINKE