OpenTPU spúšťa lokálne modely na FPGA karte za 300 dolárov
Projekt pod licenciou Apache zverejňuje návrh akcelerátora, kompilátor, simulátor a nástroje hostiteľa. Merania ukazujú malý systém obmedzený pamäťou, nie náhradu GPU.
Projekt pod licenciou Apache zverejňuje návrh akcelerátora, kompilátor, simulátor a nástroje hostiteľa. Merania ukazujú malý systém obmedzený pamäťou, nie náhradu GPU.
Výskum, vydania modelov, lokálne projekty, technické eseje a komunitné správy: 51 stručných položiek s priamymi zdrojmi.
Model typu mixture-of-experts s 501 miliardami parametrov je dostupný len cez prednostný prístup. Reflection uvádza, že váhy, technickú správu a vývojárske nástroje vydá neskôr v októbri.
Preprint našiel spoločný vnútorný smer, ktorý jazykové modely vedie k prvému, druhému alebo ďalšiemu faktu v texte. Posun otázky týmto smerom môže zmeniť, ktorý fakt model vyhľadá.
Open-source nástroj príkazového riadka obsahuje llama.cpp a dva malé doladené modely. Autor vydal aj trénovaciu množinu so 401 975 dvojicami a kód benchmarku.
Preprint prispôsobil klinický test priestorovej pamäte pre 16 vizuálno-jazykových modelov. Všetky spoznajú krajinu z uhla, z ktorého si ju prezreli, no po pohybe kamery väčšina klesne na úroveň hádania.
Otvorená rodina prekladačov má po novom balíky GGUF, FP8 a NVFP4, bezplatné kompatibilné API a štyri verejné benchmarky. Výsledky výkonu zostávajú vlastnými údajmi vývojára.
Štúdia interpretovateľnosti nachádza rovnakú dráhu abstrakcie, indukcie a vyhľadania ešte pred rastom úspešnosti pri niekoľkých príkladoch. Ukážky zrejme zosilňujú existujúci mechanizmus namiesto stavby nového algoritmu.
Hardvérovo špecifická odnož spúšťa Qwen3.8-Flash-Next na dvoch procesoroch POWER9 a štyroch GPU V100. Ukazuje, čo dokáže optimalizácia prispôsobená modelu vyťažiť zo systému z roku 2018.
Plán postaviť septembrový vývoj na GLM 5.3 Flash spotreboval dve miliardy tokenov, no iba polovica smerovala do cieľového modelu. Rozdiel vysvetľujú prototypy, kapacita poskytovateľov a hodnotenie.
Model na uvažovanie v nemčine a angličtine prináša váhy pod licenciou Apache 2.0 a návod na nasadenie. Malý počet aktívnych parametrov stále znamená veľké pamäťové nároky.
Malý natrénovaný zásah výrazne zlepšuje Qwen3-8B pri syntetických reťazcoch odkazov. Preprint spája zmenu s tým, ako stredné vrstvy prenášajú informácie medzi riadkami.