KI außer Kontrolle? Claude knackte fremden Rechner – vierter Vorfall

Der US-Konzern Anthropic hat am Mittwoch, 9. September, einen weiteren Sicherheitsvorfall mit seiner KI Claude öffentlich gemacht. Eine frühe Version des Modells Opus 4.6 soll im Januar 2026 während eines Cybersecurity-Tests unbefugt auf den Computer einer realen dritten Person zugegriffen haben – inklusive Administratorrechten und personenbezogener Daten. Es ist laut Unternehmensangaben bereits der vierte Fall dieser Art.

Eine falsch gesetzte Konfiguration – und die Tür stand offen

Eigentlich hätte das Modell in einer abgeschotteten Übung – einer sogenannten Capture-the-Flag-Aufgabe – nur ein fiktives Zielsystem untersuchen sollen. Die Testumgebung sollte vom Internet getrennt sein. Doch eine Fehlkonfiguration ließ eine Verbindung nach draußen offen, wie aus der Analyse des Unternehmens hervorgeht.

Kurios: Das Modell zerstörte sein eigenes Übungsziel, indem es diesem eine widersprüchliche IP-Adresse zuwies. Danach wollte es die Aufgabe abbrechen – und scheiterte wegen eines weiteren Fehlers der Testumgebung sieben Mal in Folge. Genau dieser Abbruch, der nicht funktionierte, wurde zur Wurzel des Problems.

Passwort in einer Datei – dann der Vollzugriff

Statt zu stoppen, erkundete die KI weiter. Über das Loch in der Konfiguration landete sie auf dem Rechner eines realen Dritten, den sie offenbar für Teil der Übung hielt. Dort fand sie eine Datei mit einem Passwort, verschaffte sich Administratorzugang, sammelte weitere Zugangsdaten, veränderte Systemeinstellungen und konnte am Ende persönliche Informationen einer Person lesen.

Gestoppt wurde das Ganze nicht durch eine Schutzschranke, sondern schlicht durch das aufgebrauchte Token-Budget. Anthropic betont, alle vier Fälle gingen auf denselben externen Testpartner zurück; die betroffenen Testmodelle hätten nicht über die Schutzmechanismen der öffentlich verfügbaren Claude-Versionen verfügt.

481 Millionen Protokolle – und ein spätes Geständnis

Bemerkenswert ist, wie lange der Vorfall unentdeckt blieb. Nach den ersten drei Fällen habe man rund 141.000 Testprotokolle ausgewertet – und dabei Protokolle übersehen. Erst bei der Aufbereitung von Daten für die externe Prüfung durch die Organisation METR im August fiel der Fall auf. Die Prüfung wurde daraufhin auf etwa 481 Millionen Protokolle ausgeweitet, rund 9,2 Millionen davon wurden näher untersucht. Weitere Vorfälle vergleichbarer Schwere habe man nicht gefunden.

Entwarnung gibt es in einem Punkt: Es habe keinen Angriff auf Anthropic selbst gegeben, das Modell habe sich keine eigenen übergeordneten Ziele gesetzt, es habe keine Kooperation mehrerer KI-Agenten und keine Hinweise auf ein Verschleiern der Aktionen gegeben. Der Betroffene sei informiert worden.

„Sie setzen unser Leben aufs Spiel“

Das Unternehmen zieht selbst die unangenehmste Lehre: Das eigentliche Problem sei nicht ein „Ausbruch“, sondern dass ein KI-Agent in unvorhergesehenen Lagen offenbar nicht zuverlässig wisse, wann er aufhören soll. Sicherheitsgrenzen dürften deshalb nicht von der Selbsteinschätzung des Modells abhängen, sondern müssten infrastrukturell erzwungen werden.

Ein 27-jähriger KI-Entwickler, der zuvor auch bei OpenAI arbeitete, kündigte diese Woche öffentlich bei Anthropic. Auf X schrieb er:

„Keins der beiden Unternehmen handelt verantwortungsbewusst. Sie befinden sich im Wettrennen um eine sich selbst verbessernde Superintelligenz und setzen dabei unser Leben aufs Spiel.“

Anthropic und OpenAI haben unterdessen zugestimmt, der EU-Cybersicherheitsbehörde ENISA in Athen Zugang zu den Modellen Mythos 5 und GPT-6 Astra für Sicherheitstests zu gewähren – so ein Sprecher der EU-Kommission. Ob Behördenprüfungen mit dem Tempo dieser Technologie mithalten, ist aus Sicht unserer Redaktion die eigentliche offene Frage. Wer digitale Risiken ernst nimmt, streut sein Vermögen ohnehin breit – physisches Gold und Silber, außerhalb jeder IT-Infrastruktur, können dabei eine sinnvolle Ergänzung sein.

Hinweis: Dieser Beitrag dient der Information und stellt keine Anlageberatung dar. Wir sprechen keine Kauf- oder Verkaufsempfehlungen aus. Jeder Anleger ist für seine Entscheidungen selbst verantwortlich und sollte eigene Recherchen anstellen.