Liquid AI opent d1-beslismodellen

Liquid AI bracht op 7 oktober open gewichten uit voor twee d1-modellen en brengt daarmee zijn snelle, gestructureerde beslissysteem naar lokale apparaten na een introductie uitsluitend via een API.

De modellen beantwoorden ja-of-nee-, meerkeuze- en scorevragen in één voorwaartse doorgang in plaats van een reeks tokens te genereren. d1-3B met 3,1 miljard parameters accepteert tekst en beelden; het experimentele d1-omni-600M accepteert tekst met beelden of maximaal 30 seconden audio.

Het ontwerp geeft ontwikkelaars een compacte component voor routering, moderatie, classificatie of rangschikking wanneer een vrij geformuleerd antwoord niet nodig is. Eén invoertoestand kan meerdere benoemde vragen bevatten en het model geeft de bijbehorende beslissingen samen terug, zonder de vertraging en variabele formulering van tokengeneratie.

Liquid meldt dat d1-3B één vraag beantwoordde in 8 milliseconden op een RTX 4090, 30 milliseconden op een Apple M5 Pro en 50 milliseconden op een Jetson Orin Nano. Dat zijn eigen metingen van het bedrijf. Zijn gepubliceerde tabel geeft d1-3B ook een gemiddelde score van 82,9 over zeven openbare tekstdatasets, terwijl het kleinere model 78,4 scoorde.

De twee releases bedienen verschillende hardware. d1-3B gebruikt Liquids beeld-taalmodel met alleen een decoder als basis en heeft een contextvenster van 32.768 tokens. d1-omni-600M combineert een bidirectionele tekstencoder met afzonderlijke beeld- en audio-encoders, met een contextvenster van 16.384 tokens. Liquid beschrijft het kleinere model als een vroege onderzoeksrelease en publiceert daarvoor geen vertragingsmetingen.

Beide repositories gebruiken de LFM Open License in plaats van een standaard permissieve softwarelicentie. Het laden van de modellen vereist momenteel Transformers 5.14 of later en voert door de repository geleverde Python uit via trust_remote_code=True, een instelling die aanleiding geeft om de gedownloade code vóór gebruik te beoordelen.

De gewichten, modelkaarten en demo zijn nu beschikbaar op Hugging Face. Liquid biedt ook GGUF- en 8-bitvarianten voor gewichten en activaties, die d1-3B gemakkelijker testbaar maken op beperkte machines terwijl zijn beslis-API nog nieuw is.

Verificatie