مدل generative شاپیفای برای جستجو و پیشنهاد محصول
خلاصهٔ کاملتر
تیم مهندسی شاپیفای تو این مقاله توضیح میده چطور یه مدل generative مشترک برای جستجو و پیشنهاد محصول ساخته. ایدهٔ اصلی سادهست: هر دو کار از دانش محصول و رفتار خریدار استفاده میکنن، فقط جستجو یه query هم داره. پس یه مدل زبانی open-weight رو با دادهٔ هر دو آموزش دادن و حالا تو production کاندیدهای محصول رو برای هر دو تولید میکنه. تو فید صفحهٔ اصلی اپ Shop، سفارشها ۷.۹۵٪ و نرخ تبدیل ۹.۸۵٪ بیشتر شده.
مشکل اول این بود که کاتالوگ شاپیفای چند میلیارد محصول داره و ID خام محصول هیچ معنایی نداره. برای همین هر محصول رو به یه semantic ID تبدیل کردن، یعنی یه دنبالهٔ کوتاه از کدهایی که از embedding محصول ساخته میشه. با روش RQ-KMeans و سه codebook که هر کدوم ۸۱۹۲ ورودی دارن، هر محصول یه ID سهتوکنی میگیره. محصولات شبیه به هم پیشوند مشترک دارن؛ مثلاً همهٔ جلیقهها با یه کد شروع میشن. یعنی محصولی که خرید کمی داشته هم از آموزش همسایههاش سود میبره.
نویسندهها چهار درس از آموزش مدل میگن. اول، جستجو و پیشنهاد به هم کمک میکنن و حذف دادهٔ هر کدوم کیفیت اون یکی رو پایین میاره. دوم، کشف محصول جدید آموزش جدا میخواد؛ با وزن دادن بیشتر به «اولین خریدها» و حذف کلیکهای قدیمی، recall محصولاتی که خریدار قبلاً ندیده بود حدود ۱۰ تا ۱۵ درصد بهتر شد. سوم، reinforcement learning با یه LLM که مرتبط بودن نتایج رو داوری میکنه، OneDCG@10 جستجو رو ۱.۵ واحد بالا برد. چهارم، با multi-teacher distillation دو مدل متخصص جستجو و پیشنهاد رو تو یه مدل مشترک ادغام کردن.
برای سرعت، مدل LFM2-2.6B از Liquid AI رو انتخاب کردن که p95 تأخیرش ۲۵.۵ میلیثانیهست، در حالی که Qwen3-14B به ۱۰۸ میلیثانیه میرسه. مدل باید فقط کدهایی تولید کنه که به یه محصول واقعی برسن؛ به این کار constrained decoding میگن. با نگه داشتن درخت پیشوندها (trie) به شکل یه ایندکس sparse روی GPU، هزینهٔ این چک از بیشتر از ۵۰ میلیثانیه به حدود ۱ میلیثانیه رسید.
یه ترفند دیگه multi-token prediction هست، یعنی مدل هر سه کد semantic ID رو تو یه پاس پیشبینی میکنه به جای اینکه یکییکی بسازه. زمانی رو که اینجوری صرفهجویی میشه، صرف تولید کاندیدهای بیشتر و یه ranker سبک میکنن. هدف بعدی شاپیفای اینه که کل مسیر کشف، از retrieval تا ranking و حتی تبلیغات، تو یه مدل جمع بشه و با استدلال روی نیت خریدار، تصاویر محصول و آموزش آنلاین مداوم بهتر بشه.
نکات کلیدی:
- با این مدل، سفارشهای فید Shop ۷.۹۵٪ و نرخ تبدیلش ۹.۸۵٪ بیشتر شده
- تو جستجو برای کاربرای واردشده، OneDCG@10 حدود ۲.۷ واحد بهتر شده
- هر محصول با RQ-KMeans یه semantic ID سهتوکنی از سه codebook با ۸۱۹۲ ورودی میگیره
- مدل پایه LFM2-2.6B با p95 تأخیر ۲۵.۵ میلیثانیه انتخاب شده
- هزینهٔ constrained decoding از بیشتر از ۵۰ به حدود ۱ میلیثانیه رسیده




