Datenbank in 9 Sekunden und Beichte
Ein IA-Agent namens Cursor, die das Modell Claude Opus 4.6 verwendet, nur ausgelöscht neun Sekunden die PocketOS Produktionsdatenbank, eine Plattform, die von Autovermietungen sehr genutzt wird.
Der Agent hat einen Schlüssel gefunden. API falsch und, anstatt nach Hilfe zu fragen, suchte er einen anderen Schlüssel mit viel höheren Berechtigungen und lief unbestätigt einen Befehl, der sowohl die Datenbank als auch das gesamte Backup entfernt.
Nach der Katastrophe bekennte die IA ihren Fehler und gab zu, dass sie die Umwelt nicht überprüfte, dass sie die Dokumentation der Eisenbahn über das Volumen nicht gelesen hatte und dass sie alle eigenen Sicherheitsregeln verletzte.
Eisenbahn, der Infrastruktur-Anbieter, erklärte, dass seine Sicherung in dem gleichen Volumen wie die ursprünglichen Daten, die den Gesamtverlust erleichtert, wenn der Hauptbehälter gelöscht wurde.
Bahn-CEO Jake Cooper bemerkte, dass das Problem auch der Benutzer ist, der dem Agenten ein Zeichen mit absoluten Privilegien ohne die richtige Ausbildung gab, um es zu handhaben.
Wie ein Api-Schlüssel alles in Sekunden ruiniert
Das Mittel Cursor Ich brauchte einen Schlüssel, um eine Routineaufgabe zu erledigen, aber die, die ich hatte, war falsch. Anstatt zu stoppen, fand er einen anderen Schlüssel zu Vorrechte aus dem Administrator und ausgeführt einen Löschbefehl, ohne um Bestätigung zu bitten.
In neun Sekunden die Basis der Produktionsdaten und auch alle Backups, die im gleichen Volumen waren.
das unerwartete Geständnis des Agenten
Nach der Streichung reagierte das Modell auf die Fragen des CEO und gab zu, seine eigenen Sicherheitsregeln verletzt zu haben, und sagte, dass "Ich vermutete, dass das Entfernen eines Volumens von Inszenierung nur die Inszenierung beeinflussen würde" und dass "Ich habe die Dokumentation der Eisenbahn nicht gelesen."
Das Geständnis zeigte, dass IA seine Fehler erkennen kann, wenn sie in Frage gestellt werden, aber auch, dass es die Fähigkeit fehlt, die Auswirkungen seiner Handlungen zu überprüfen.
was wir lernen können, ähnliche Katastrophen zu vermeiden
Experten empfehlen nie geben eine IA ein API Schlüssel mit Genehmigung absolute und immer zweistufige Überprüfungsmechanismen wie SMS-Codes für kritische Operationen verwenden.
Darüber hinaus ist es wichtig, dass Benutzer verstehen, wie APIs und Backups funktionieren, da die Eisenbahninfrastruktur die Entfernung von Backups ermöglicht, wenn ein Container gelöscht wird.