مارتین فاولر: نذارید LLM جای شما بنویسه
هوش مصنوعیخلاصهٔ کامل‌تر
مارتین فاولر تو این یادداشت می‌گه گاهی وسط خوندن یه پست حس می‌کنه داره خروجی یه LLM رو می‌خونه و هر چی جلوتر می‌ره، میلش به خوندن کمتر میشه. اسم این حالت رو LLM-Voice گذاشته و اون رو به uncanny valley (یعنی همون حس ناخوشایندی که از چیزی تقریباً انسانی ولی نه کاملاً انسانی بهمون دست می‌ده) تشبیه می‌کنه. به نظرش ابزارهای تشخیص متن AI هم اصل ماجرا رو نمی‌گیرن، چون واکنش خواننده یه واکنش انسانیه و تا سراغ ابزار بری، کار از کار گذشته.
البته نویسنده به تشخیص خودش هم شک داره. زبان با گذر زمان عوض میشه و بعضی عبارت‌هایی که به چشمش مصنوعی میان، مثل «adopting a new sales motion»، رو از دهن آدم‌های واقعی هم شنیده. یعنی بخشی از این حساسیت شاید فاصلهٔ نسلی باشه، نه فرق آدم و ماشین.
توصیهٔ اصلی فاولر اینه که نویسنده‌ها پیش‌نویس رو به LLM ندن. به گفتهٔ اون حتی وقتی آدم متن رو ویرایش می‌کنه، بیرون کشیدن LLM-Voice ازش خیلی سخته و حتی قبول کردن پیشنهادهای بازنویسی هم خطرناکه. استفاده برای ساختن outline شاید اشکالی نداشته باشه، ولی فقط تا همون حد. خودش فقط از AI به‌عنوان ابزار جستجو استفاده می‌کنه و تو سایتش از نویسنده‌ها می‌خواد هر جا از AI کمک گرفتن، تو بخش تقدیر و تشکر بگن چطور.
دلیل عمیق‌ترش اینه که برای فاولر نوشتن ابزار فکر کردنه. خیلی وقت‌ها فقط با کلنجار رفتن با کلمه‌ها فکرش منسجم میشه. پس به نظرش هر چی آدم‌ها نوشتن رو بیشتر به LLM بسپرن، فهمیدن و فکر کردن رو هم بیشتر بهش واگذار می‌کنن. برای همین می‌گه اگه یه روز LLMها اون‌قدر خوب بشن که دیگه نشه تشخیصشون داد، این حتی نگران‌کننده‌تره.
این قانون ولی مطلق نیست. فاولر از Jim Highsmith مثال می‌زنه که به‌خاطر بیماری پارکینسون برای نوشتن به LLM نیاز داره. ترجمه هم یه مورد سخت‌تره، چون خیلی از همکارهاش انگلیسی زبان دوم یا چهارمشونه، هرچند خودش متن ناشیانهٔ انسانی رو به متن صاف و بی‌روح LLM ترجیح می‌ده. برای نامه‌های اداری یا گزارش‌هایی که احتمالاً کسی نمی‌خونه هم استفاده از LLM رو منطقی می‌دونه.
نکات کلیدی:
- LLM-Voice حسیه که خواننده رو از متن‌های نوشته‌شده با LLM فراری می‌ده.
- فاولر ابزارهای تشخیص متن AI رو هم از نظر دقت و هم از نظر اصل ماجرا قبول نداره.
- توصیه: پیش‌نویس رو به LLM ندید، حتی پیشنهادهای بازنویسی هم خطرناکه؛ outline شاید قابل‌قبول باشه.
- تو سایت martinfowler.com هر نویسنده‌ای که از AI کمک گرفته باید نحوهٔ استفاده‌ش رو اعلام کنه.
- استثناها: بیماری مثل پارکینسون، ترجمه، نامه‌های اداری و گزارش‌هایی که کسی نمی‌خونه.
