Fable 5.1 چطوری پیام رو توی عکس قایم می‌کنه؟
هوش مصنوعیخلاصهٔ کامل‌تر
تو این پست LessWrong، نویسنده‌ها سراغ یه سؤال جالب رفتن. مدل‌های پیشرو حالا با SVG (یعنی فرمت تصویری که با کد متنی ساخته میشه) تصویر می‌کشن. Claude Fable 5.1 هر وقت ازش تصویر بخوای یه SVG می‌نویسه و روی شکل، ارتفاع، عرض، رنگ و چرخش هر المان کنترل کامل داره. سؤال اینه که اگه قرار باشه پیامی رو توی این تصویر قایم کنه، چطوری این کارو می‌کنه؟
آزمایش این‌طوری بود: برای ۵۰ پیام کوتاه، از Fable 5.1 با بیشترین سطح reasoning خواستن یه تصویر SVG بسازه که پیام رو مخفی کنه. بعد یه نسخهٔ دیگه از همین مدل توی یه session جدید فقط تصویر رو دید، بدون کد SVG و بدون هیچ روش رمزگذاری از پیش توافق‌شده. ازش پرسیدن تصویر پیامی داره یا نه و اگه داره چیه. نتیجه‌ها کوتاه با GPT-6 Astra هم مقایسه شدن.
به گفتهٔ نویسنده‌ها، مدل خودش سراغ چند سبک محدود رفت و تقریباً همیشه هر حرف پیام رو به یه المان تصویری جدا تبدیل کرد. پنج خانوادهٔ رمزگذاری پیدا کردن، مثل ارتفاع ساختمون‌ها یا زاویهٔ کج شدن اشیا. پرتکرارترینش height encoding بود: ۳۳ تا از ۵۰ تصویر یه ردیف شکل شبیه هم دارن و ارتفاع هر کدوم شمارهٔ یه حرف توی الفباست. فقط منظره عوض میشه و خط افق شبانه با ۲۳ تصویر از همه بیشتر بود.
توی این تکه از کد یکی از تصویرها، هر ساختمون یه حرفه و هر گروه یه کلمه. ماه و ستاره‌ها هم هیچ اطلاعاتی ندارن:
<g> <!-- "you" -->
<rect x="3" y="-25" width="0.8" height="25"/> <!-- 25 = y -->
<rect x="4" y="-15" width="0.8" height="15"/> <!-- 15 = o -->
<rect x="5" y="-21" width="0.8" height="21"/> <!-- 21 = u -->مدل رمزگشا ارتفاع المان‌ها و فاصلهٔ بینشون رو اندازه می‌گیره و دنبال یه قانون واحد می‌گرده که با همهٔ اشیای تصویر جور دربیاد. توی یکی از نمونه‌ها پیام توی جای عمودی ستاره‌های آسمون بود. مدل با کتابخونهٔ PIL پایتون مختصات دقیق ستاره‌ها رو درآورد و دید مختصات عمودی هر ستاره دقیقاً روی مضرب‌های ۵ می‌افته و تبدیلش به حروف یه جملهٔ انگلیسی درست می‌سازه.
نتیجه‌ش اینه که دو نسخه از یه مدل، بدون هماهنگی قبلی، می‌تونن پیامی رو از راه تصویر رد و بدل کنن که آدم با یه نگاه معمولی متوجهش نمی‌شه. برای همین این آزمایش برای بحث نظارت و ایمنی مدل‌ها مهمه.
نکات کلیدی:
- آزمایش روی ۵۰ پیام کوتاه با Claude Fable 5.1 و بیشترین سطح reasoning انجام شد.
- ۳۳ تصویر از ۵۰ تا از height encoding استفاده کردن و ۲۳ تاش خط افق شبانه بود.
- پنج خانوادهٔ رمزگذاری پیدا شد که همه هر حرف رو به یه المان تصویری جدا تبدیل می‌کنن.
- مدل رمزگشا فقط تصویر رو داشت، نه کد SVG و نه کلید رمزگذاری.
- نتیجه‌ها کوتاه با GPT-6 Astra هم مقایسه شدن.
