با ساختار بهتر، مدلهای کوچیک هم قد فرانتیرها میشن
هوش مصنوعیClaude Opus 4.8خلاصهٔ کاملتر
نویسنده، James Wang، میگه بهجای اینکه بره سراغ بزرگترین مدلها، عمداً کوچیکتر رفته و با یه ساختار خاص تونسته کیفیت خروجی رو تا حد مدلهای بزرگ فرانتیر بالا ببره. اسم این الگو رو «ایجنت دانشی» گذاشته و یه قالب متنباز هم براش منتشر کرده. ایدهٔ اصلی سادهست: دانش درست و مرتبط رو دقیقاً تو لحظهٔ درست به ایجنت هوش مصنوعی تزریق کنی.
نویسنده توضیح میده که دانش تو مدلهای زبانی دو شکل داره. اول دانش «پارامتریک» که تو وزنهای عددی مدل ذخیره شده؛ این برای سؤالای عمومی خوبه ولی وقتی دادهای تخصصی، محرمانه یا اختصاصیه، یا اصلاً عمومی نبوده که مدل روش آموزش ببینه، به درد نمیخوره. شکل دوم دادهایه که تو پنجرهٔ کانتکست و پرامپت میدی؛ این با دانش پارامتریک فرق داره و چون همونجا جلوی چشم مدله، احتمال استفاده و درستیش بیشتره. همین پایهٔ مفهوم RAG یا «تولید تقویتشده با بازیابی» هست.
به گفتهٔ نویسنده، سختی کار «دادن اطلاعات مرتبط» نیست، بلکه چطور سر بزنگاه چیز درست رو بالا بیاری. یکی از تکههای حل این مسئله embedding هست. جستوجوی متنی خام خیلی چیزها رو از دست میده؛ مثلاً اگه دنبال «غذای پودل» بگردی، نباید کلی مطلب دربارهٔ «غذای سگ» نادیده گرفته بشه. برای همین نویسنده هم از جستوجوی تحتاللفظی و هم embedding استفاده میکنه و مدل محلی BGE-M3 رو برای محاسبهٔ embedding به کار میبره.
بخش سختِ کار ساختاردهی و «تکهتکهکردن» یا chunking دادهست. سؤال اینه که چقدر متن باید برگردونده بشه؛ فقط یه جمله کمه، ولی برگردوندن کل یه کتاب هم غیرمنطقیه. راهحل نویسنده اینه که چند نوع سند داشته باشه: منابع خام بهشکل markdown، «مفاهیم» که مثل مدخلهای دایرهالمعارف دانش پایه رو نگه میدارن، «تزها» که سنتزهای نظرمندتر و بینرشتهای از چند منبعن، و یه فایل PRIMER.md که موقع شروع به ایجنت جهت میده. نویسنده تأکید میکنه این فرایند از نظر توکن فوقالعاده پرهزینهست، چون هر سند باید در برابر بقیه ارجاع بشه و این ترکیبیاتی و سریع گرون میشه.
یه تکهٔ دیگه، جستوجوی چندمرحلهایه. نویسنده میگه برای سؤالای واقعاً سخت یه جستوجو کافی نیست و ایجنت باید چند پاس بزنه؛ مثلاً از یه سؤال دربارهٔ ترازنامهٔ بانک تایلند تو بحران مالی آسیا و درسش برای آمریکای امروز، ایجنت باید کمکم بفهمه که باید سراغ فدرالرزرو، دلار و مسائل ارز ذخیره هم بره. نویسنده میگه بهشکل تجربی رو سه پاس بهعنوان حد تعادل رسیده و برای سؤالای ساده هم یه میانبر گذاشته تا این چندمرحلهای بیخودی جواب رو طولانی و پرت نکنه.
نویسنده نتیجه میگیره که این ساختار عملاً مدلها رو همسطح میکنه؛ حتی یه مدل کوچیک متنباز مثل Qwen که رو سختافزار خونگی اجرا میشه، با این harness به سطح مدلهای بزرگ میرسه. البته اعتراف میکنه که برای واقعاً بزرگترین مدلها مثل Opus، این عنوان یهکم کلیکبیته و بیشتر بحث «همسطحشدن» هست تا شکستدادن. به گفتهٔ نویسنده، این رویکرد در واقع یه سیستم هیبریدیه که ضعف قدیمی هوش مصنوعی نمادین دههٔ ۸۰ (انعطافناپذیری) و ضعف مدلهای امروزی (توهمزدن) رو با هم پوشش میده.
نکات کلیدی:
- «ایجنت دانشی» یعنی تزریق دانش تخصصی و مرتبط به مدل، سر بزنگاه درست
- پایهٔ کار RAG هست، ولی نکتهٔ اصلی نحوهٔ ساختاردهی و سرِبزنگاهرسوندن دانشه
- ترکیب جستوجوی تحتاللفظی با embedding کمک میکنه مفاهیم مرتبط هم بالا بیان
- ساختار اسناد به مفاهیم، تزها و منابع تقسیم میشه؛ فرایندی که از نظر توکن خیلی پرهزینهست
- با این ساختار حتی مدلهای کوچیک متنباز مثل Qwen به سطح مدلهای بزرگ میرسن
