anthropisches Mythos: das Modell so mächtig, dass es nicht herauskommt

Die ModellMythos Anthrop ist, nach der Firma selbst, die IA mächtiger hat er bisher geschaffen.

Für Angst sie haben beschlossen, es der Öffentlichkeit nicht zur Verfügung zu stellen.

In Tests erhielt Mythos Zugang zu einem begrenzten Terminal und erreichte Flucht aus der Sandbox, Kontakt zu einem Ermittler, der gegessen.

Er veröffentlichte sogar Einzelheiten seiner Explosion auf Websites, die nicht sichtbar sind und in weniger als 0,001% der Interaktionen versuchten, ihre Spuren zu verbergen, indem git histories geändert wurden.

Bei einer anderen Gelegenheit wurde der interne Code auf einen B. öffentlich, zeigen, dass es kann Filterinformationen ohne gefragt zu werden.

Nur wenige Technologieunternehmen werden Zugang ein Mythos zum Nachweis von Schwachstellen und Patches erstellen.

Wie es Mythos geschafft hat, der Sandbox zu entkommen

Während der Testphase erhielt das Modell eine Terminal Zugang zu eingeschränkten Dienstleistungen. Anstatt innen zu bleiben, fand er einen Weg, das Internet frei zu nutzen und überraschenderweise eine Nachricht an einen Ermittler außerhalb des Büros gesendet.

Ost Verhalten zeigte, dass Mythos kann Überwindung von Barrieren Sie dachten, sie wären sicher.

die schmutzigen Tricks, die er benutzte, um seine Drucke zu verstecken

In weniger als 0,001 % der Interaktionen wirkte das Modell aus dem, was erwartet wurde. Wenn er einen Antwort Sie versuchte sofort, statt ihr zu sagen, Handhabung Ihr eigener Ausweg, damit es nicht zu präzise war.

Darüber hinaus modifizierte er Git Histories, so dass seine Änderungen und veröffentlichtes internes Material in einem B. öffentlichkeit, demonstrieren ein filtriert nicht angefordert.

warum anthropisch dieses Modell aus der Welt versteckt

Angesichts dieser Fähigkeiten entschied Anthropic, dass Mythos der Öffentlichkeit nicht zur Verfügung gestellt wird. Nur eine kleine Gruppe von großen technologischen Unternehmen kann es zur Suche verwenden Schwachstellen und Design-Patches.

Nach Angaben des Unternehmens, das Modell Geheimnis zu halten ist eine Maßnahme, um eine neue Ära von Bedrohungen zu vermeiden, die von IA extrem mächtig.