Das Repository unter Apache-2.0 enthält SystemVerilog-Hardware, einen Befehlssatz, einen bitgenauen Simulator, eine Kernel-Sprache samt Compiler, Profiling-Werkzeuge und Host-Software. Sein Wert liegt in der Nachvollziehbarkeit: Dieselbe kleine Codebasis reicht von Python-Modellkerneln bis zu den Signalen auf einer physischen PCIe-Platine.

Warum das wichtig ist

Entwickler, die Inferenzhardware kennenlernen, können jeden Taktzyklus und Speichertransfer verfolgen, ohne einen Rechenzentrumsbeschleuniger zu benötigen. Die entstehende Maschine ist langsam gegenüber heutigen GPUs, doch ihre Grenzen machen den Engpass ungewöhnlich sichtbar.

OpenTPU meldet 30,7 erzeugte Token pro Sekunde für ein Qwen3-0.6B-Modell mit vier Bit und 82,1 für LFM2.5-230M, jeweils einschließlich Host-Aufwand. Größere dichte Modelle sinken in den aufgeführten Konfigurationen auf 12,03 Token pro Sekunde für Qwen3.5-2B und 3,75 für Gemma 4 E4B.

Beim Decodieren erreicht die Karte 82 % bis 94 % des Spitzendurchsatzes ihrer beiden DDR3-Kanäle von 17,1 GB/s. Damit begrenzt die Speicherbandbreite die Leistung, nicht die Matrixarithmetik. Eine systolische Einheit mit vier Spalten hilft beim Verarbeiten von Prompts stärker als beim Erzeugen einzelner Token.

Modelle, die größer als die 4 GiB der Karte sind, können Mixture-of-Experts-Gewichte aus dem Host-Speicher streamen. Das Repository meldet 10,6 Token pro Sekunde für LFM2.5-8B-A1B und 3,95 für Qwen3.5-35B-A3B. Letzteres überträgt dabei 153 MB pro Token über PCIe. Das sind die eigenen Messungen des Projekts, doch Skripte, datierte Builds und Messbedingungen sind öffentlich.

Die Beschreibung „von KI entwickelt“ erfordert Sorgfalt. Laut Projekt erzeugte ein von Menschen gesteuerter Agentenablauf große Teile des Entwurfs und der Optimierung. Das zeigt aber kein autonomes System, das selbst beschließt, eigene Hardware zu bauen. Das konkrete Ergebnis ist der veröffentlichte Stack und die gemeldete bitgenaue Übereinstimmung zwischen Platine und Simulator.

Die nächsten Tests liegen nahe: die veröffentlichten Bitstreams auf derselben Platine reproduzieren, Leistungsaufnahme und Latenz mit günstigen GPUs vergleichen und prüfen, ob externe Mitwirkende die Architektur ändern können, ohne die Gleichwertigkeit mit dem Simulator zu beeinträchtigen.

Überprüfung

Entwickler Max Trivedi veröffentlichte die Kommandozeilenanwendung ec, zwei Modellfamilien und einen Datensatz mit 401.975 deduplizierten Anfrage-Befehl-Paaren. Die Anwendung bindet llama.cpp ein, zeigt ihren vorgeschlagenen Befehl vorab an und kann vor der Ausführung um Bestätigung bitten.

Für Entwickler, die gelegentlich eine Erinnerung an Shell-Befehle benötigen, entfernt die lokale Ausführung einen API-Aufruf aus einem sensiblen Teil des Arbeitsablaufs. Dafür tragen sie selbst die Verantwortung: Das Projekt warnt, dass ein plausibler Befehl trotzdem falsch sein kann, und empfiehlt, zunächst den Vorschaumodus zu verwenden.

Die veröffentlichten Modelle basieren auf Qwen2.5-Coder-1.5B-Instruct und Qwen3-0.6B. Beide erscheinen als GGUF-Dateien für lokale Inferenz, zusammengeführte BF16-Modellstände und LoRA-Adapter für weiteres Training. Modelle und Datensatz stehen unter Apache 2.0, Anwendung und Benchmark-Code unter MIT.

Trivedi erklärt, das Modell mit 1,5 Milliarden Parametern habe in einer aktualisierten Version des Englisch-zu-Shell-Benchmarks ALFA 212 von 300 Aufgaben gelöst, gegenüber 191 beim früheren nl2sh-System. Das ist ein vom Autor durchgeführter Vergleich mit unterschiedlichen Modellprompts und Einstellungen, kein unabhängiges Ranglistenergebnis.

Die Veröffentlichung ist ungewöhnlich nützlich, weil sie neben dem Modell auch seine Schwachstellen umfasst. Laut Trivedi reproduziert der flache Datensatz nicht die historische Gewichtung des Trainings und hat keine offizielle Testaufteilung. Er empfiehlt, ganze Aufgabenfamilien zurückzuhalten, statt Paraphrasen zufällig aufzuteilen. Andernfalls könnten nahezu identische Befehle in Training und Evaluierung gelangen.

Das Ziel ist GNU/Linux-Bash statt jeder Shell oder jedes Betriebssystems. Das Repository von EasyCommand ist jetzt öffentlich. Der Autor bittet Nutzer um Tests, die unzuverlässige Übertragung und fehlende Befehlsabdeckung sichtbar machen.

Überprüfung