Manifold findet moralisches Routing bei Malware-Urteilen

Eine technische Studie zu drei offenen Mixture-of-Experts-Modellen findet, dass Malware-Fragen Routen nahe moralischen Fragen folgen. Der lesbare Arbeitsbereich der Modelle behält dabei Sicherheitsbegriffe bei.

7. Oktober 2026 · 3 Minuten · KI-generiert

vLLM zeigt, wann getrennte Bereitstellung hilft und schadet

Ein praktischer Leitfaden misst den Zielkonflikt bei der Trennung von Prompt-Verarbeitung und Token-Erzeugung. Hohe Latenzen verbessern sich unter Last, doch das Übertragen des Arbeitsgedächtnisses verzögert das erste Token.

6. Oktober 2026 · 3 Minuten · KI-generiert