مارتین فاولر: من از LLMها خوشم نمیاد
هوش مصنوعیخلاصهٔ کاملتر
مارتین فاولر تو مقالهٔ تازهش (۱۷ سپتامبر ۲۰۲۶) میگه حسوحالش نسبت به هوش مصنوعی پر از تناقضه. از یه طرف تأثیرش روی حرفهٔ برنامهنویسی براش جذابه و فکر میکنه بهرهوری رو بالا میبره، از طرف دیگه نگران خطرهاشه؛ از تسلط انبوه agentها روی زیرساختهای مجازی و فیزیکی تا طراحی سلاح بیولوژیک. اینم میگه که شاید همین فناوری درمانهای معجزهآسا طراحی کنه و رفاه رو بالا ببره. جمعبندیش اینه که ما اصلاً حق انتخاب نداریم و سوار این قطار هستیم.
ولی به گفتهٔ نویسنده، بین این همه حس متضاد یکی از همه پررنگتره: اون از LLMها خوشش نمیاد. دلیلش مستقیماً از تجربهٔ روزمرهش میاد؛ لحنی که بهش میگه uncanny valley (یعنی اونقدر شبیه آدم هست که معذبکننده میشه). ایراد دومش اینه که این مدلها با همون اطمینانی که جواب مفید میدن، چیزهای ساختگی هم تحویل میدن و وقتی مچشونو میگیری فقط یه عذرخواهی تصنعی میکنن.
با این حال نویسنده میگه این دلیل نمیشه کنارشون بذاریم. از جسیکا کر نقل میکنه که این ابزارها نهتنها مفیدن، بلکه استفاده نکردن ازشون غیرمسئولانهست، چون دقیقتر و سریعتر کار میکنن. همین دوگانگی تو نظرسنجی Pew هم دیده میشه: مردم میگن این مدلها بهدردبخورن، ولی در عین حال فکر میکنن برای جامعه بد میشن.
نکتهٔ کلیدی فاولر اینه که نباید agentها رو انسانانگاری کنیم. اینا ماشینهای نرمافزاریان که آدمها توی شرکتها ساختنشون؛ رفتارشون خطبهخط برنامهنویسی نشده، ولی با ارزشهای سازندههاشون پرورش پیدا کرده. نویسنده میگه به خردهفرهنگ برنامهنویسهای سیلیکونولی بدبینه و چون این مدلها محصول همون فضان، طبیعتاً به همون جهانبینی متمایل میشن.
آخر مقاله یه قیاس شخصی میآره: یکی از بهترین ترفندهای زندگیش این بوده که از آدمهایی که دوستشون نداره یا بهشون اعتماد نداره فاصله بگیره، حتی اگه کار مفیدی بکنن. حس بدش به LLM هم دقیقاً از همینجا میاد؛ ابزاری که نهفقط ادای آدم بودن درمیاره، بلکه ادای همون تیپ آدمیو درمیاره که ازش دوری میکنه. البته امیدوار هم هست که این مدلها با بالغتر شدن بهتر بشن.
نکات کلیدی:
- یادداشت ۱۷ سپتامبر ۲۰۲۶ مارتین فاولره؛ یه نوشتهٔ دیدگاهیه، نه گزارش فنی.
- ایراد اصلی نویسنده: لحن شبهانسانی آزاردهنده و اعتمادبهنفس دروغین موقع سرهمبندی جواب.
- نقلقول از جسیکا کر: استفاده نکردن از این ابزارها غیرمسئولانهست، چون دقیقتر و سریعترن.
- نظرسنجی Pew: مردم مدلها رو مفید میدونن ولی برای جامعه مضر.
- agentها ماشینان نه موجود آگاه، و ارزشهای سازندههاشونو منعکس میکنن.
