die Zukunft der lokalen ia passt in eine m.2: so funktioniert diese "ssd", die llms
Stellen Sie sich vor, sich auf Ihre Computer und dass, ohne die Notwendigkeit einer face-to-face Grafikkarte, können Sie mit einer künstlichen Intelligenz sprechen, die sofort reagiert und nicht mit dem Internet verbindet. Dies ist bereits möglich dank einer Vorrichtung die Größe einer Festplatte, die in den M.2 Schlitz jeder Grundplatte platziert ist.
Der Unigen-Hersteller hat die Bareti E1.S erstellt, a klein Modul, das wie eine normale SSD aussieht, aber 32 GB ultraschnellen Speicher und einen IA-Beschleuniger verbirgt, der Modelle bis zu 20 Milliarden Parameter bewegen kann. Nur 10 Watt, die Wärme mit einem passiven Dissipator ableiten und, wenn Ihr Teller mehrere M.2 hat, können Sie mehrere passen, um als Team zu arbeiten und Energie hinzuzufügen.
Wie kann ein "Pille" Ihren PC in ein künstliches Gehirn verwandeln?
Die ! ist innen: Unigen hat seinen SAKURA-II-Beschleuniger in ein E1.S-Format gesetzt, genau wie die NVMe-Disks. Beim Anschluss erkennt der PC ein neues Gerät, das Angebote anbietet 60 TOPS Leistung und eine Bandbreite von 68 GB / s Mit diesen Zahlen können Sie allgemeine IA-Workflows oder lokale Agenten ausführen, ohne die CPU oder den Graph zu stören.
Zusätzlich trägt das Modul 32 GB Speicher integriert (es wird auch Version von 16 GB billiger sein), genug, um das Modell und die Daten zu speichern, die die LLM benötigt. Das Ergebnis ist eine fast sofortige Reaktion, ohne Latenz oder Privatsphäre Risiken, weil alles in Ihrem Haus bleibt.
Eine Grafikkarte ist nicht erforderlich: Die IA ist als Spiel installiert
Bislang reite IA Ort Es bedeutete, in eine mächtige GPU zu investieren. Mit diesem System ist es genug, eine freie M.2 Steckdose, etwas, das die meisten Platten der letzten Jahre hat. Der Prozess ist so einfach wie das Setzen einer SSD: Sie stecken es ein, schrauben den Dissipator und bereit. Der Verbrauch von 10 W ist niedriger als der von vielen Chassis-Fans, so gibt es keine Notwendigkeit, die Quelle zu ändern.
Und wenn ein einzelnes Modul kurz ist, können Sie Stapeln mehrerer in Serie; jeder fügt seinen TOPS und Speicher hinzu, so dass größere Modelle oder mehrere Agenten gleichzeitig arbeiten. Es ist, als würden Sie mehr "Hirn" auf Ihrem PC setzen, ohne das Portfolio für einen hochmodernen Graph zu öffnen.
Vom Labor zum Raum: der Sprung der IA, der keine Wolke braucht
Die Riesen der Industrie Sie verkünden Beschleuniger für Rechenzentren, aber das ändert nicht das Leben der Inlandsnutzer. Stattdessen, ein Gerät, das in die Handfläche passt und das jeden Computer in einen AI Offline Maschine Es ist eine echte Veränderung. Lehrer, Studenten oder Schöpfer können Modelle trainieren, Assistenten erstellen oder Aufgaben automatisieren, ohne Abonnements zu bezahlen oder Daten mit jedem zu teilen.
Mit dem Aufstieg lokale IA-Agenten, diese Art von Modulen kann der Standard für diejenigen, die unkomplizierte Leistung wollen. Die Bareti E1.S kommen in 16 GB und 32 GB-Versionen an, und mehrere Hersteller entwerfen bereits Platten mit mehreren M.2 Slots, die darauf ausgelegt sind, mehrere dieser "mini-brains" als Team zu hosten.