‏عامل‌ها به‌مثابه تارِ باورها: وقتی هدف و کنش هم باورن

ریچارد انگو در پستی در LessWrong (لینک‌پست از mindthefuture.info) یه مدل غیررسمی از عامل‌های هوشمند رو معرفی می‌کنه که اسمش رو تار باورها (belief webs) گذاشته. به گفتهٔ خودش بیشتر این ایده‌ها مال او نیست، ولی کسی تا حالا active inference، مبانی عامل (agent foundations) و یادگیری ماشین رو این‌طوری یک‌جا گره نزده بوده. هدف نهایی: یکی‌کردن باور، هدف و کنش به‌عنوان سه وجه یه پدیدهٔ واحد.

نقطهٔ شروع این ادعاست که باورهای یه عامل معمولاً فقط محلی سازگارن، نه سراسری. این برای چارچوب‌هایی که عامل رو با یه توزیع احتمال واحد توصیف می‌کنن (گراف علّی، استقرای سولومونوف، active inference) دردسر می‌سازه. انگو می‌گه دو چارچوب از پسِ ناسازگاری سراسری برمیان: گراف‌های وابستگی احتمالاتی ریچاردسون و استقرای گرابرانت. مشکلشون اینه که فقط دو لایه ساختار دارن، در حالی که موفقیت یادگیری عمیق نشون می‌ده مفهوم‌سازیِ سلسله‌مراتبی مهمه.

جذاب‌ترین بخش پست جایی‌ست که می‌گه کنش‌ها هم باورن. با تکیه بر کار آبرام دمسکی، انگو کنش رو زیرمجموعه‌ای از باورها تعریف می‌کنه که صرفِ نگه‌داشتنشون — به‌واسطهٔ یه عملگر بیرونی — اون‌ها رو محقق می‌کنه. مثال ساده‌ش اینه: سیستم عصبی من مراقب باورِ «دستم رو تکون می‌دم» ه و بعد دست رو تکون می‌ده. اسم این رو مدل خودپیش‌بین کنش می‌ذاره، در برابر مدل استاندارد argmax.

نویسنده معتقده همین مدل، چیزهایی رو توضیح می‌ده که argmax نمی‌تونه. مثلاً بین «فهمیدنِ این‌که یه کار خوبه» و «واقعاً انجام‌دادنش» فاصله هست، چون باید باور داشته باشی از اون آدم‌هایی هستی که به ایده‌های خوب عمل می‌کنه. از نظر او این توضیح می‌ده چرا هویت و ایگو این‌قدر در روان‌شناسی مرکزی‌ان، چرا آدم‌ها به بازخورد منفی حساسن، و چرا تعلل و خودتخریبی این‌قدر شایعه.

بخش بعدی سراغ هدف‌ها می‌ره. در active inference هدف یعنی باوری که به‌طور مصنوعی روی احتمال بالا قفل شده. انگو با یه مثال عددی (احتمال بردن مسابقه و احتمال تمرین‌کردن) نشون می‌ده این کار دو ایراد داره: عددی که برای کنش درمیاد دلبخواهیه و به prior اولیه‌ت وابسته‌ست، و اگه باور رو خیلی بالا قفل کنی، دروغ توی کل تار باورها پخش می‌شه.

پیشنهاد جایگزینش اینه که هدف‌ها اصلاً قفل نشن؛ به‌جاش دو نوع نیرو داشته باشیم: drives که احتمال باورهای هدف رو به بالا هل می‌دن، و anchors که باورهای تجربی رو با فشار شواهد سرِ جاشون نگه می‌دارن. تار باورها وقتی به تعادل می‌رسه که این دو نیرو هم‌دیگه رو خنثی کنن. یه عامل کاملاً عقلانی هم حالت حدیه: drivesهایی با بزرگیِ به‌دلخواه کوچک نسبت به لنگر شواهد.

انگو خودش صادقانه فهرست مسائل باز رو هم می‌ده: آیا تار باورها می‌تونه به بهترین تعادل برسه یا توی تعادل‌های محلی گیر می‌کنه؟ آیا این مدل عملاً EDT رو پیاده می‌کنه یا خواصی شبیه FDT ازش درمیاد؟ خودارجاعی چقدر دردسر می‌سازه؟ و اصلاً صدق‌وکذبِ گزاره‌ای که با مفاهیم سطح‌بالا ساخته شده یعنی چی؟ امید بلندمدتش اینه که «عامل» رو به یه پدیدهٔ نوظهور تبدیل کنه: ناحیه‌ای پرچگال از یه تار باورهای بزرگ‌تر که به به‌روزرسانی‌های درونی خودش بیشتر از بیرون اعتماد می‌کنه.

نکات کلیدی:

• تار باورها: مدلی که باور، هدف و کنش رو سه وجه یه پدیده می‌بینه و ناسازگاری درونی رو می‌پذیره
• باورها فقط محلی سازگارن؛ چارچوب‌های تک‌توزیعی نمی‌تونن این رو مدل کنن
• کنش = باور خودمحقق‌شونده؛ توضیحی طبیعی برای تعلل، تعارض درونی و نقش هویت
• هدف‌ها به‌جای قفل‌شدن روی احتمال بالا، به شکل نیروهایی (drives) در برابر لنگرِ شواهد (anchors) مدل می‌شن
• مسائل باز: گیرکردن در تعادل محلی، نسبت با EDT و FDT، خودارجاعی و معنای صدق در مفاهیم سطح‌بالا