‏Kolibri-1؛ مدل متن‌باز آلمانی-انگلیسی Aleph Alpha

Kolibri-1 یه مدل زبانی open-weight از Aleph Alpha Research هست که ۳ اکتبر ۲۰۲۶ با مجوز Apache 2.0 منتشر شد. مدل از نوع MoE هست (یعنی چندتا زیرشبکه‌ی «متخصص» داره و برای هر توکن فقط چندتاشون فعال می‌شن). کل پارامترهاش ۷۸ میلیارده ولی برای هر توکن فقط حدود ۳.۴۶ میلیارد فعال می‌شه. برخلاف بیشتر مدل‌های متن‌باز، روی آلمانی و انگلیسی تمرکز کرده: توکنایزرش برای ساختار کلمه‌های آلمانی ساخته شده و دیتای آموزشش حدود ۶۲.۵٪ انگلیسی، ۲۴٪ آلمانی و ۱۳.۶٪ کده.

مدل ۵۰ لایه داره و هر لایه ۳۸۴ متخصص که ۱ تاش مشترکه و ۶ تا برای هر توکن انتخاب می‌شن. نسبت لایه‌های sliding-window attention (یعنی لایه‌هایی که فقط توکن‌های نزدیک رو می‌بینن) به GQA چهار به یکه. همین باعث می‌شه context بلند ارزون دربیاد و تا بیشتر از ۱ میلیون توکن پشتیبانی بشه. Aleph Alpha توصیه می‌کنه برای کارهای پیچیده زیر ۲۶۲,۱۴۴ توکن بمونید. آموزش با بهینه‌ساز Muon روی ۲۰ تریلیون توکن انجام شده، روی ۷۶۸ تا GPU مدل B200 و حدود سه هفته.

نکته‌ی اصلی سخت‌افزاره. وزن‌ها با دقت FP8 حدود ۷۸ گیگ جا می‌گیرن. حداقل سخت‌افزار: دو A100 هشتاد گیگی، دو H100 SXM5، یا یه H200، B200 یا B300. مقاله توضیح می‌ده که این بده‌بستان اصلی MoE هست: محاسبه برای هر توکن کمه، ولی کل ۷۸ میلیارد پارامتر باید تو حافظه باشه تا توکن‌ها به هر متخصصی که لازمه برسن. یعنی «پارامتر فعال کم» به معنی «GPU کوچیک» نیست.

اجرا از طریق پکیج aleph-alpha-inference هست که یه پلاگین vLLM (یه موتور سرو کردن مدل‌های زبانی) داره. دستور سرو کردن مدل این شکلیه:

vllm serve Aleph-Alpha/Kolibri-1 --kv-cache-dtype fp8 \
  --reasoning-parser kolibri1 \
  --tool-call-parser kolibri1 \
  --enable-auto-tool-choice

این دستور کش KV رو با FP8 روشن می‌کنه و پارسرهای reasoning و tool calling رو فعال می‌کنه. سرور یه API سازگار با OpenAI بالا میاره، پس هر کلاینت OpenAI فقط با عوض کردن base_url کار می‌کنه. تنظیمات پیشنهادی نمونه‌برداری: temperature=1.0، top_p=0.97 و top_k=128.

حالت reasoning برای هر درخواست جدا تنظیم می‌شه. فیلد reasoning_effort مقدارهای low، medium یا high می‌گیره و با none یا enable_thinking=false مرحله‌ی فکر کردن کلا حذف می‌شه:

extra_body={
    "chat_template_kwargs": {
        "reasoning_effort": "high",
        "enable_thinking": True,
    }
}

یعنی برای هر درخواست می‌تونی بین سرعت و کیفیت جواب انتخاب کنی. tool calling هم به سبک Hermes هست و از فیلد استاندارد tools استفاده می‌کنه. Aleph Alpha خودش می‌گه این مدل برای ورک‌فلوهای agentic با نظارت انسان مناسبه، نه تصمیم‌گیری کاملا خودکار. مدل رو «sovereign» معرفی کرده، یعنی برای سازمان‌هایی، به‌خصوص تو اروپا، که می‌خوان زیرساخت هوش مصنوعی‌شون کاملا دست خودشون باشه.

نکات کلیدی:

• Kolibri-1 مدل MoE با ۷۸ میلیارد پارامتر کل و حدود ۳.۴۶ میلیارد پارامتر فعال برای هر توکنه.
• مجوزش Apache 2.0 هست و استفاده‌ی تجاری آزاده.
• فقط آلمانی و انگلیسی رو پشتیبانی می‌کنه، نه زبان‌های دیگه.
• حداقل سخت‌افزار دو A100 هشتاد گیگی یا دو H100 SXM5 یا یه H200/B200/B300 هست.
• context تا ۱,۰۴۸,۵۷۶ توکن تأیید شده ولی پیشنهاد سازنده زیر ۲۶۲,۱۴۴ توکنه.
• سرو کردن با پلاگین vLLM انجام می‌شه و API سازگار با OpenAI می‌ده.