چرا انگ «۱۰۰٪ هوش مصنوعی» اینقدر داغه؟
هوش مصنوعیClaude Sonnet 5خلاصهٔ کاملتر
به گفتهی الکس دنکو تو این یادداشت، این روزا گفتن «۱۰۰٪ این متن هوشمصنوعیه» تبدیل شده به یه جور داغننگ راحت برای تحقیر کردن یه پست یا مقاله؛ ابزاری مثل Pangram هم دقیقاً همین کارو میکنه. نویسنده میگه از این روند خوشش نمیاد ولی فکر میکنه دیگه بخشی از زبون ما شده و به این زودیها هم جایی نمیره.
نویسنده برای فهمیدن این پدیده سراغ «نظریهی فرانسوی» دههی ۶۰ میره: رولان بارت تو مقالهی «مرگ مؤلف» (۱۹۶۷) میگه معنای متن از خودِ زبون میاد، نه از نیت نویسنده؛ حتی میگه نویسنده هم اونقدرا که فکر میکنیم روی کلمههایی که انتخاب میکنه کنترل نداره، چون هر کلمه از قبل بار معنایی خودشو با خودش میاره. دو سال بعد میشل فوکو تو «مؤلف چیست؟» (۱۹۶۹) جواب میده: درسته، ولی جامعه برای دستهبندی و کنترل متنها بازم به مفهوم «مؤلف» نیاز داره.
نویسنده این کشمکش رو اینجوری به هوش مصنوعی وصل میکنه: مدلهای زبانی دقیقاً همونطوری کار میکنن که بارت میگفت - کلمهبهکلمه و محدودشده به بار معنایی کلمهی قبلی پیش میرن. ولی یه چیزی هنوز عجیب بهنظر میاد؛ مثلاً یه مثالی که نویسنده میاره اینه که Claude بهجای «Pay attention to the pruning logic» نوشته «Give the pruning logic real attention» - جملهای که از نظر گرامری درسته ولی هیچ آدمی اینجوری نمینویسه.
به گفتهی نویسنده، مدلها انگار خودآگاهانه دارن سعی میکنن «نقش مؤلف» رو - چیزی که فوکو ازش حرف میزد - برای خودشون بازسازی کنن؛ همون قید و صفتهای اضافیِ پرمدعا («دقیقاً همینجاست ظرافت قضیه») که خیلیا از هوش مصنوعی شاکیان، نمونهی همینه. نویسنده حتی وقتی Pangram رو روی پستهای قدیمی خودش از ۲۰۱۹-۲۰۲۰ - قبل از اینکه اصلاً ChatGPT وجود داشته باشه - اجرا کرده، بعضیاشون نمرهی ۷۰ تا ۷۵ درصد «هوشمصنوعی» گرفتن.
نویسنده نتیجه میگیره که این ماجرا بیشتر از اینکه دربارهی «هوش مصنوعی بده» باشه، دربارهی اینه که آدما به «مؤلف داشتن» بهعنوان یهجور معنابخشی نیاز دارن. جالب اینجاست که خودِ همین مقاله رو نویسنده میگه صد در صد با دست خودش تایپ کرده، ولی چون برای فکر کردن روی ایدههاش با مدلی به اسم Sol 5.6 گفتوگو کرده، خودش براش برچسب «۱۰٪ هوشمصنوعی» زده.
نکات کلیدی:
- با کمک «مرگ مؤلف» رولان بارت (۱۹۶۷) و «مؤلف چیست؟» فوکو (۱۹۶۹) توضیح میده چرا انگ «۱۰۰٪ هوشمصنوعی» اینقدر داغه.
- مثال میاره: Claude بهجای «Pay attention to the pruning logic» نوشته «Give the pruning logic real attention» - نشونهی سبک غیرانسانی مدلها.
- Pangram روی پستهای ۲۰۱۹-۲۰۲۰ خودِ نویسنده، قبل از ChatGPT، نمرهی ۷۰ تا ۷۵ درصد «هوشمصنوعی» گذاشته.
- نویسنده این مقاله رو دستی تایپ کرده ولی چون با هوش مصنوعی روی ایدههاش گفتوگو کرده، برچسب «۱۰٪ هوشمصنوعی» بهش زده.
