die ia, die allein gehackt: anthropic stoppt den Start von claude mythos durch extremes Risiko
Stellen Sie sich ein Tagesordnung in der Lage, in Ihre Zelle oder Computer zu schleichen, ohne dass jemand Ihnen sagt, wie. Genau das hat Anthropic mit seinem neuen Modell trainiert. Claude Mythos, künstliche Intelligenz so intelligent, dass das Unternehmen selbst beschlossen hat, es in einer Schublade zu halten, so dass es nicht zu Chaos führt.
Die System wurde gezeigt, dass Sicherheitsversagen, die seit Jahren verborgen sind, gefunden werden können. Zum Beispiel entdeckte er eine Schwachstelle in OpenBSD dass niemand in 27 Jahren gesehen hatte. Er hat auch ein Loch in FFmpeg die seit 16 Jahren übersehen worden waren und dass die Testprogramme fünf Millionen Mal unentdeckt überprüft wurden.
Das meiste Tier kam, als die IA mehrere Fehler von Linux-Kern, erstellte eine eigene Angriffsmethode und wurde mit totaler Kontrolle des Systems gemacht. Angesichts einer solchen Gefahr hat Anthropic genug gesagt: Dieses Modell wird nicht zum Verkauf. Das Unternehmen wird nur das technische Datenblatt für andere Forscher veröffentlichen, aber es wird keine öffentliche oder Testversion.
Wie ein IA Hacker ohne Hilfe wird
Claude Mythos erzeugt nicht nur schnellen Code; denkt wie ein Cyber-Sicherheitsexperte. Während der internen Tests analysierte das Modell Millionen von Codezeilen, entdeckte verdächtige Muster und in wenigen Minuten entwarf Angriffe, die eine menschliche Monate dauern würden, um zu entwickeln.
Die ! ist in seiner Art der Argumentation: Statt nach bekannten Fehlern zu suchen, stellen Sie sich neue Möglichkeiten vor, das System zu brechen. Es ist, als hätte ich eine schädliche Fantasie, aber es ist kontrolliert. So Anthropic hat bevorzugt zu stoppen, bevor jemand das verwendet. destruktive Kreativität aus einem Labor.
Die Opfer: Systeme, die wir sicher dachten
OpenBSD setzt voraus, dass einer der Systeme Härtere Operationen auf dem Planeten. Claude Mythos fand jedoch einen Riss, der seit 1997 verborgen war. Der gleiche Treffer geschah mit FFmpeg, dem Open Source Video King: ein Misserfolg, den die automatisierten Tests fünf Millionen Mal als sicher markiert hatten.
Der Klangfall war der Linux-Kern. Die IA entdeckte mehrere Sicherheitslücken, verknüpfte sie als wären sie Stücke von Lego und baute eine Hintertür, die es vollen Zugang gab. Alles ohne einen Ingenieur, der die Tastatur berührt.
Warum kann niemand dieses Superhirn entladen?
Anthropisch ist klar, dass die Einnahme von Claude Mythos auf den Markt wie ein Goldstein einem Computer Piraten geben würde. Das Unternehmen hat gewählt Gesamteindämmung: keine Beta-Version, keine API, keine ausgewählten Tests. Nur ein technischer Bericht für die wissenschaftliche Gemeinschaft, um den Fortschritt zu verstehen, ohne normale Nutzer zu gefährden.
Die Plan Langfristig soll diese Kraft in weniger explosiven Bereichen, wie Medizin oder Materialdesign, genutzt werden. In der Zwischenzeit wird die weltweit am meisten gehackte IA gesperrt bleiben, weit weg von neugierigen und kriminellen.