چرا مدلهای زبانی بلاگنویسهای بدیان
هوش مصنوعیخلاصهٔ کاملتر
نویسنده از یه مشاهدهٔ آشنا شروع میکنه: هیچکس از خوندن متن بیمزهٔ تولیدشده با AI خوشش نمیاد. ایده داری، نوشتن سخته، پس یادداشتهای خامت رو به مدل میدی و ۷۵۰ کلمهٔ صیقلی تحویل میگیری — و بعد اون کامنت اجتنابناپذیر زیر پست میشینه: «ترجیح میدادم خودِ پرامپت رو بخونم». به نظر او مقصر نظریهٔ اطلاعاته: بخش مهمی از طرز کار مدلهای زبانی برای نوشتن پست بلاگ بد بهینه شده.
تو نظریهٔ اطلاعات، محتوای اطلاعاتی یه پیام رو «غافلگیری» میگن: اینکه نتیجه چقدر برخلاف پیشبینی توئه. اگه بگم «روباه قهوهای چابک از روی سگ تنبل میپره»، اون کلمهٔ آخر تقریباً هیچ اطلاعاتی اضافه نمیکنه؛ ولی اگه یکی بهجاش بگه «مارمولک»، این دیگه غافلگیریه.
مثال واقعیتری هم میزنه: عنوان «خبری دربارهٔ تیم ما» و متنی که با «بعد از بررسی دقیق، تصمیم سختی گرفتیم…» شروع میشه. اگه ادامهاش تعدیل نیرو باشه، اون کلمهها عملاً چیزی به عنوان اضافه نکردن؛ ولی اگه ادامهاش «…که حقوق هر کارمند رو ۲۰ درصد بالا ببریم» باشه، ورق برمیگرده. حرف نویسنده اینه که اطلاعات فقط تو کلماتی زندگی میکنه که نمیشه پیشبینیشون کرد و بقیهاش slop ـه، حالا چه از AI بیاد چه از تیم روابط عمومی.
البته بیشترین غافلگیری هم هدف نیست: بیشینهٔ غافلگیری همون نویز سفید تصادفیه. نویسنده میگه باید غافلگیری رو خرج انتقال ایده کرد. یه جنبهٔ دیگه هم هست: به گفتهٔ کتاب Made to Stick، ایدههایی که پیشبینی ناخودآگاه ما رو نقض میکنن راحتتر تو ذهن میمونن؛ همون منطقی که پشت یادیارهای عجیب و تکاندهندهست.
حالا مسئلهٔ اصلی: کار مدل زبانی گرفتن پرامپت و پیشبینی محتملترین توکن بعدیه — یعنی دقیقاً عکس ساختن غافلگیری. با بالا بردن temperature میشه مدل رو به سمت گزینههای کماحتمالتر برد و بالاخره «مارمولک» هم درمیاد، ولی اون غافلگیری از مولد تصادف میاد نه از حرف تو؛ به قول نویسنده امید بستن به این کار یعنی سفارش دادن توهم، که خیلی وقتها مستقیم با پیام خودت تناقض پیدا میکنه. بازنویسی با لحن دزد دریایی یا گنگستر دههٔ ۱۹۴۰ هم فقط جابهجایی افقی بین صداهاست و اطلاعات ورودی و خروجی تقریباً یکیه.
پس مدل کجا به درد میخوره؟ نویسنده میگه ایدهٔ تو ارزشش یه تعداد بیت مشخصه و پخش کردن همون بیتها روی ۷۵۰ کلمه بهجای ۱۰۰ کلمه، فقط اون تکه غافلگیری رو صاف و یکنواخت میکنه. برعکسش اما کار میکنه: وقتی اطلاعات از قبل تو یه متن پرگو پخش شده، مدل میتونه جمعش کنه و به شکل فشرده و ساختارمند دربیاره. یعنی مدلها موقع جستوجوی زمینه و ویرایش و پالایش نثر میدرخشن، نه موقع تولید از صفر.
توصیهٔ پایانیاش سادهست: بنویس، حتی بد بنویس؛ از مدل برای تحقیق و بازخورد استفاده کن، ولی ایدهات رو دستش نده و انتظار متن خوندنی نداشته باش. و به نقصهای نوشتهات هم تکیه کن، چون همونها متن رو غیرمنتظره و در نتیجه خوندنی میکنن.
نکات کلیدی:
- اطلاعات یعنی غافلگیری؛ کلمهای که قابل پیشبینیه، عملاً هیچی منتقل نمیکنه
- مدل زبانی برای انتخاب محتملترین توکن بهینه شده، یعنی درست عکس تولید غافلگیری
- بالا بردن temperature غافلگیری تصادفی و توهم میسازه، نه اطلاعات نویسنده
- بسط دادن یه ایدهٔ ۱۰۰ کلمهای به ۷۵۰ کلمه فقط رقیقش میکنه؛ از اینجاست که «پرامپت رو نشونم بده» درمیاد
- بهترین کاربرد مدل، فشرده کردن متن پرگو و ویرایش و بازخورده، نه نوشتن از صفر
