هارنس برای نیته، مدل برای اجرا
هوش مصنوعیخلاصهٔ کاملتر
دنیل میسلر تو این پست به سؤالی جواب میده که مارتین کاسادو مطرح کرده بود: هارنس (harness) دور مدلهای هوش مصنوعی اصلاً ارزش مستقلی داره یا نه؟ کاسادو گفته بود بین سه باور در نوسانه — هرچی هارنس کمتر بهتر و مدل جادوی اصلیه؛ یا مدلسازها هارنس رو با post-training داخل مدل میکنن و برنده میشن؛ یا هارنس ارزش مستقل و واقعی داره. نویسنده میگه دلیل بیجواب موندن سؤال اینه که ما هارنس رو یه چیز واحد فرض میکنیم.
به گفتهٔ نویسنده، هر هارنس ترکیبیه از دو نیمه: WHAT یعنی زمینه و اینکه چی میخوای، و HOW یعنی دستور قدمبهقدم اینکه چطور انجامش بده. این دو نیمه در جهت مخالف هم پیر میشن. نیمهٔ HOW میپوسه — همون «درس تلخ» ریچارد ساتن که این بار تو فایلهای کانفیگ خودت اتفاق میافته: هرچی مدلها باهوشتر میشن، دستورهای مرحلهبهمرحلهٔ تو در مقایسه با اونها ابتداییتر به نظر میرسن.
در عوض نیمهٔ WHAT ارزشمندتر میشه: اینکه تو کی هستی، روی چی کار میکنی، دنبال چه نتیجهای هستی و «خوب» از نظر تو چه شکلیه. مدل باهوشتر با این زمینه کار بیشتری میکنه، نه کمتر. پس نویسنده معتقده باور اول و سوم هر دو درستن؛ فقط هر کدوم دربارهٔ یه نیمهٔ متفاوت از هارنس حرف میزنن و همین باعث شده به نظر متناقض بیان.
باور دوم هم به نظر نویسنده دربارهٔ اجرا درسته و دربارهٔ نیت غلط: آزمایشگاهها میتونن و حتماً هم میخوان مدلها رو به ایجنتهای بهتری تبدیل کنن، ولی نمیتونن زمینهٔ شخصی تو رو داخل مدل post-train کنن — اینکه چی میسازی، برای کی، با چه محدودیتها و چه سلیقهای. اون زمینه باید هر بار از بیرون ثبت و منتقل بشه، و کار اصلی هارنس همینه.
نویسنده اسم این رویکرد رو Intent Engineering گذاشته و میگه کل اصل طراحی هارنس خودش همینه: نیت آدم رو ثبت کن، هر بار روی هر تسک به مدل برسون و بعد از سر راه اجرا برو کنار. جمعبندیش اینه که آره، هارنس خیلی هم قدرتمنده — ولی برای زمینهٔ تو، نه برای دیکته کردن اجرا به مدل.
نکات کلیدی:
- هارنس یه چیز واحد نیست؛ ترکیبی از WHAT (زمینه و نیت) و HOW (دستور اجرا)ست
- نیمهٔ HOW با باهوشتر شدن مدلها بیارزش میشه — همون درس تلخ ساتن
- نیمهٔ WHAT با هر نسخهٔ جدید مدل ارزشمندتر میشه
- آزمایشگاهها میتونن اجرا رو داخل مدل ببرن، ولی زمینهٔ شخصی تو رو نه
- جمعبندی نویسنده: هارنس بله، ولی فقط برای انتقال نیت
