آیا وزنهای یه شبکهٔ عصبی و DNA یه جور موجودن؟
هوش مصنوعیClaude Opus 4.8خلاصهٔ کاملتر
نویسنده یه رشته از سه میلیارد حرفِ A/T/G/C (حدود ۷۵۰ مگابایت روی دیسک) رو کنار یه رشتهٔ چند ترابایتی از اعداد — وزنهای یه مدل زبانی بزرگ — میذاره و میگه هرچی بیشتر بهشون فکر میکنه، بیشتر حس میکنه این دو تا در ظرافتهای زیادی یه جور موجودن. هر دو رکوردِ فشردهٔ چیزیان که برای ساختنش انرژی و زمانِ عظیمی خرج شده.
اولین و عمیقترین شباهت اینه که «جادو تو خوندهشدنه». یه رشتهٔ DNA خودش هیچ کاری نمیکنه؛ فقط وقتی یه ماشین دوم — ریبوزوم — میخونش و به پروتئین ترجمهش میکنه، تبدیل به چیزی میشه. یه وزن هم فقط یه عدده که میگه یه نورون چقدر روی نورون دیگه فشار میاره؛ فقط تو forward pass، وقتی یه prompt به عدد تبدیل و لایهبهلایه جلو برده میشه، معنا پیدا میکنه. ذهن نه تو خودِ رشته، بلکه تو خوندنِ رشتهست.
به گفتهٔ نویسنده هر دو «خاکستر یه آتش بزرگان». ژنوم رو کسی عمداً ننوشته، ولی تکامل نزدیک چهار میلیارد سال دنبالش گشته و فقط نسخههای برنده مونده. گرادیان کاهشی هم یه جستوجوئه، فقط روی ساعتی خیلی کوتاهتر: مدل حدس میزنه، خطاش اندازه گرفته میشه و وزنهاش یهذره اصلاح میشن، تریلیونها بار. هر دو فشردهسازیِ باتلفاتان و نمیشه فرآیند رو برعکس اجرا کرد.
هیچکدوم نقشه نیستن، هر دو برنامهان. ژنوم نقشهٔ بدن نیست؛ دستوراتیه که در محیط درست، چیزی شبیه تو رو میسازه. دانشِ مدل هم بهصورت گزارههای تمیز ذخیره نمیشه، بلکه بهصورت فرآیندی که موقع اجرا انگار اون گزاره رو میدونه؛ برای همینه که تفسیر و همترازیِ مدلها اینقدر سخته. هر دو حوزه به یه بنبست مشترک میرسن: متنِ کامل رو داریم ولی نمیدونیم بیشترش چیکار میکنه — از «DNA بیکارکرد» و آزمون پیاز تا «فرضیهٔ بلیط بختآزمایی» که میگه اکثر وزنهای یه شبکه اضافیان.
نویسنده دو رخداد موازی رو کنار هم میذاره. ویروس φX174 چون جا کم داشت، یه رشته رو تو دو قاب مختلف میخونه و دو پروتئین متفاوت ازش درمیاره؛ درست مثل superposition که Anthropic سال ۲۰۲۲ توصیفش کرد، جایی که یه شبکه مفاهیم بیشتری از تعداد نورونهاش رو بهصورت جهتهای همپوشان ذخیره میکنه. همگرایی هم همینطوره: چشم اختاپوس و چشم انسان مستقل از هم به یه طراحی رسیدن، و «فرضیهٔ بازنمایی افلاطونی» ادعا میکنه مدلهای بزرگ هم به بازنماییهای مشابهی از جهان همگرا میشن — ادعایی که هنوز محل مناقشهست.
یه راز مشترک دیگه دربارهٔ سرعت تغییره. آستانهٔ خطای Eigen میگه اگه نرخ جهش از یه حدی رد بشه، کل اطلاعات تو نویز حل میشه؛ این دقیقاً همون learning rate ه که اگه زیادی بالا باشه، آموزش واگرا میشه. هر دو پر از گذارهای فازیان. نویسنده سه «دفترچه» تودرتو رو میبینه که هر کدوم از قبلی سریعتره: ژنوم (میلیاردها سال)، مغز (یه عمر)، و وزنها (چند ماه).
رویِ چهارم چیه؟ به گفتهٔ نویسنده لایهٔ چهارم اولین باریه که «به عقب مینویسه»؛ مدلها دارن بخشی از دادهٔ آموزشی، معماری و کدِ آموزش خودشون رو تولید میکنن. ولی ذخیرهٔ متنِ انسانیِ باکیفیت — طبق تخمین Epoch AI — یهجایی بین ۲۰۲۶ تا ۲۰۳۲ تموم میشه؛ پس یا باید «واقعیت رو مستقیم بخوره» (از اینجا عاملها و رباتها میان) یا «خودشو» که به فروپاشی مدل میرسه (نتیجهای که Nature در ۲۰۲۴ گزارش کرد). و در نهایت یه دیوار فیزیکی هست: حداقل انرژی برای پاککردن یه بیت، سقف محاسبات، و سرعت نور.
نکات کلیدی:
- تز اصلی: ژنوم و وزنهای مدل یه جور شیءِ اطلاعاتی منفعلان که فقط موقع خوندهشدن معنا میگیرن
- هر دو خروجیِ فشرده و باتلفاتِ یه جستوجوی بزرگان (تکامل / گرادیان کاهشی) و برگشتناپذیرن
- مبهمبودن مشترک: متن کامله ولی کارکرد بیشترش ناشناختهست (آزمون پیاز / فرضیهٔ بلیط بختآزمایی)
- کدهای همپوشان (φX174 و superposition) و همگرایی (چشم و فرضیهٔ افلاطونی) در هر دو حوزه پیدا میشن
- سؤال باز: با تمامشدن متن انسانی، لایهٔ بعدی یا باید واقعیت رو بخوره یا به فروپاشی مدل میرسه
