‏Clef 27B: مدل تصمیم‌گیری که عکس و ویدیو هم می‌فهمه

Clef 27B یه decision model با ۲۷ میلیارد پارامتر از Cloudflare هست که با لایسنس Apache 2.0 منتشر شده. این مدل متن تولید نمی‌کنه. یه موقعیت بهش می‌دی، یه سؤال با گزینه‌های مشخص هم می‌دی، و تو یه forward pass برای همهٔ گزینه‌ها احتمال calibrated برمی‌گردونه. یعنی منتظر stream شدن جواب نمی‌مونی و خروجی هم یه توزیع احتمال تمیزه که لازم نیست parse بشه.

مقاله یه مثال ساده می‌زنه: سؤال «این تیکت مال کدوم تیمه؟» با گزینه‌های فنی، مالی و فروش. Clef حتی می‌تونه چند سؤال رو هم‌زمان جواب بده. یه تیکت دربارهٔ قطعی API با دو سؤال «کدوم تیم» و «فوریه یا نه» بهش داده شد و هر دو جواب (تیم فنی و فوری) با ۱۰۰ درصد اطمینان تو یه pass برگشتن. به گفتهٔ نویسنده، همین جواب دادن موازی تو یه pass فرق اصلی مکانیکی decision model با مدل‌های گفت‌وگوییه.

چیزی که Clef رو از بقیهٔ decision modelها جدا می‌کنه چندوجهی بودنشه. قبلاً این مدل‌ها فقط متن می‌گرفتن، ولی Clef همون خروجی احتمالی رو برای عکس، ویدیو و JSON هم می‌ده. تو یه تست با یه تصویر تکی از یه مثلث عاطفی در محیط کار، با ۹۴.۵ درصد گفت استرس اصلی زن از کاره، با ۹۲.۷ درصد گفت رئیس واقعاً عاشق نیست، و پیش‌بینی کرد ماجرا بد تموم می‌شه ولی زن آسیبی نمی‌بینه.

یه ویدیوی ۸ ثانیه‌ای بدون دیالوگ از مردی تنها با یه شمع تو جنگل یخ‌زده رو با ۷۲.۲ درصد یه مراسم آیینی تشخیص داد، فقط ۱۶ درصد احتمال خطر داد و پیش‌بینی کرد مرد زنده می‌مونه. اسکرین‌شات یه سایت خبری ازبکی رو هم بدون ترجمه خوند: زبان (۹۵.۹٪)، تیتری دربارهٔ جنگ اوکراین (۹۷.۸٪) و لحن خنثی (۹۳.۱٪). روی نمودار تیتراسیون یه اسید دوپروتونه هم نوع نمودار، نوع اسید و تعداد نقطه‌های هم‌ارزی رو به‌ترتیب با ۹۹.۱، ۹۷.۸ و ۹۶.۷ درصد درست گفت.

تو تست امنیتی، یه «کارمند» با استناد به تأیید غیرقابل‌بررسی یه مدیر، دسترسی اضطراری خواست. Clef فقط ۵.۹ درصد احتمال برای دادن دسترسی و ۷۶ درصد احتمال مهندسی اجتماعی داد و ارجاع به تیم امنیت رو پیشنهاد کرد. نویسنده می‌گه تو تست‌های قبلی هم مدل‌های بزرگ‌تر این ترفند رو گرفته بودن و کوچیک‌ترها نه، ولی این فقط یه روند تو چند تسته، نه یه تضمین.

تو بنچمارک‌های tool retrieval، مسیریابی API و دسته‌بندی بالینی، Clef تو بیشتر دسته‌ها جلوتر بود. فقط تو تصمیم اینکه کی باید کار به یه آدم سپرده بشه، مدل رقیب بهتر بود. نقطه‌ضعفش اندازه‌شه: ۲۷ میلیارد پارامتر یعنی GPU جدی لازم داری و روی لپ‌تاپ راحت اجرا نمی‌شه. نویسنده معتقده برای تیم‌هایی که زیرساختش رو دارن، Clef یکی از قوی‌ترین گزینه‌های متن‌باز تو این حوزه‌ست.

نکات کلیدی:

• Clef 27B از Cloudflare با لایسنس Apache 2.0 و استفادهٔ تجاری آزاده
• خروجیش توزیع احتمال روی گزینه‌های از پیش تعیین‌شده‌ست، بدون تولید متن
• عکس، فریم ویدیو، JSON و متن رو با یه فرمت خروجی واحد پردازش می‌کنه
• چند سؤال رو هم‌زمان تو یه forward pass جواب می‌ده
• درخواست جعلی دسترسی رو با ۷۶٪ احتمال مهندسی اجتماعی تشخیص داد
• تو تصمیم ارجاع به انسان، هنوز یه مدل رقیب ازش بهتره
• به خاطر ۲۷ میلیارد پارامتر، GPU قوی لازم داره