Anthropic: KI-Klassifikator ersetzt menschliche Freigabe in Claude Code

Anthropic stellt die Sicherheitslogik seines Entwickler-Werkzeugs Claude Code um: Ab dem 14. August 2026 wird der automatische Modus zum Standard für die Pro-, Max- und Team-Pläne. Statt dass ein Mensch jeden potenziell riskanten Befehl manuell freigibt, übernimmt ein KI-Klassifikator die Prüfung.

Ausschlaggebend war eine ernüchternde Studie mit 1.053 Testpersonen. Das Ergebnis: Menschen erkannten gefährliche Befehle nur in 13,6 Prozent der Fälle. Der KI-Klassifikator kam auf 89 Prozent. Noch drastischer: Nach rund 50 Freigaben in Folge sank die menschliche Trefferquote auf etwa 5 Prozent – ein klassischer Fall von „Klick-Müdigkeit”, bei der Nutzer Warnungen reflexartig durchwinken.

Die Umstellung ist ein bemerkenswertes Eingeständnis: Bei sich wiederholenden Sicherheitsentscheidungen ist der Mensch nicht der bessere Wächter, sondern das schwächste Glied. Die KI ermüdet nicht, wird nicht nachlässig und bewertet den tausendsten Befehl so aufmerksam wie den ersten.

Für die wachsende Zahl von Unternehmen, die Coding-Agenten und KI-gestützte Automatisierung einsetzen, ist das hochrelevant. Es verschiebt die Rolle des Menschen: weg vom Abnicken einzelner Aktionen, hin zum Setzen von Regeln, zum Stichproben-Audit und zum Eingreifen bei Ausnahmen.

Gleichzeitig bleibt die berechtigte Gegenfrage: Wer kontrolliert den Kontrolleur? Anthropic setzt darauf, dass ein spezialisierter, transparent evaluierter Klassifikator verlässlicher ist als übermüdete Menschen. Die Studie stützt diese These – aber der eigentliche Test kommt im Alltag von Millionen automatisierter Befehle.