Aleph Alpha geeft Kolibri met open gewichten vrij

Aleph Alpha, een Duitse AI-ontwikkelaar, bracht op 3 oktober Kolibri uit. Daarmee werd een Duits-Engels redeneermodel beschikbaar als downloadbare gewichten onder de Apache 2.0-licentie.

Kolibri gebruikt een mixture of experts: elk token activeert een klein deel van een veel groter netwerk. De modelkaart documenteert redeneerinstellingen, toolaanroepen en een serverinterface die compatibel is met de chat-API van OpenAI.

Voor een ontwikkelaar die Duitse documenten verwerkt, biedt de release een inspecteerbaar model dat op infrastructuur onder eigen beheer kan draaien. Aleph Alpha concentreert zich bewust op Duits en Engels, met onder meer een tokenizer die voor de Duitse woordstructuur is ontworpen, in plaats van op brede meertalige dekking.

De geheugenbehoefte is aanzienlijk. Kolibri activeert ongeveer 3,5 miljard parameters per token, maar de circa 78 miljard parameters moeten nog altijd worden opgeslagen. Het FP8-checkpoint neemt ongeveer 78 GB in beslag; de kaart noemt twee A100-GPU’s van 80 GB of één H200 onder de minimale configuraties.

Aleph Alpha zegt contexten van ongeveer één miljoen tokens te hebben gevalideerd, maar raadt voor efficiënte inferentie en complexe taken een kwart daarvan aan. De oorspronkelijke trainingslengte voor lange context is het kleinere getal. Het onderscheid is nuttig bij de planning van een uitrol: de grootste toegestane invoer is een gedocumenteerde uitbreiding, met een afzonderlijk advies voor dagelijks gebruik.

De eigen tests van het bedrijf laten ongelijkmatige sterke punten zien. Kolibri scoort hoog op wedstrijdwiskunde, terwijl Qwen3.8 27B het overtreft op de algemene Engelse en Duitse maatstaven van de kaart. Dit zijn evaluaties van beide modellen door Aleph Alpha, geen onafhankelijke vergelijking.

Inferentie vereist het inferentiepakket van Aleph Alpha, dat een Kolibri-plugin voor vLLM biedt. De kaart bevat opdrachten om redeneren en het ontleden van toolaanroepen in te schakelen. Aanroepers kunnen een laag, gemiddeld of hoog redeneerniveau kiezen of het uitschakelen. De kaart noemt assistenten onder menselijke controle en documentworkflows als beoogde toepassingen. Het FP8-checkpoint en een afzonderlijk BF16-checkpoint zijn nu beschikbaar.

Verificatie