خندق کمعمق شرکتهای هوش مصنوعی
هوش مصنوعیخلاصهٔ کاملتر
نویسندهٔ این پست از یه شباهت ساده شروع میکنه: کار اصلی یه وبسرور اینه که در جواب هر درخواست، تیکهای از دادهٔ داخلیش رو نشون بده. همین باعث میشه خزندهها بتونن با تکرار درخواست، کل محتوای سرور رو بیرون بکشن. دعواهای حقوقی سر Internet Archive و گوگل و بقیه هم از همینجا آب میخوره، و دلیل اینکه موتورهای جستوجو فقط «اسنیپت» نشون میدن همینه.
به گفتهٔ نویسنده، دارایی فکری شرکتهای هوش مصنوعی خودِ مدلهاشونه. پول هنگفتی که خرج آموزش، رکهای GPU و نیروی انسانی برای برچسبزدن داده و گفتوگو با مدل نوپا میشه، قراره یه «خندق» (moat) دور ارزش ساختهشده بکشه؛ چون ساختن یه مدل همتراز برای رقیب هم همونقدر گرون درمیاد. همین خندقه که ارزشگذاریهای نجومی این شرکتها رو با وجود نبود سود توجیه میکنه.
اما منطق مدل زبانی دقیقاً همون منطق وبسروره: هر جواب بخشی از مدل رو لو میده، پس با پرسوجوی مکرر میشه در عمل مدل رو بازسازی کرد. مدلها منتشر نمیشن، مشمول کپیرایت نیستن و پتنت هم نمیگیرن؛ تنها سپرشون همون راز تجاریه. نقض شرایط استفاده هم پشتوانهٔ حقوقی قویای نیست، مخصوصاً که خود این شرکتها خزیدن توی محتوای دیگران رو استفادهٔ منصفانه میدونن.
اسم این کار توی صنعت دیستیلیشن (distillation) هست و طبق مقاله رویهای جاافتادهست. تو دادگاهی در کالیفرنیا از ایلان ماسک پرسیدن آیا xAI برای آموزش Grok روی مدلهای OpenAI دیستیلیشن کرده؛ گفت این کار عرف صنعته و وقتی پرسیدن یعنی بله، جواب داد «تا حدی». Anthropic هم DeepSeek، Moonshot AI و MiniMax رو متهم کرده که با بیش از ۲۴ هزار حساب جعلی و بالای ۱۶ میلیون تبادل، سراغ استدلال عاملی، کار با ابزار و کدنویسی Claude رفتن.
نویسنده میگه دیستیلیشن دقیقاً به این خاطر جواب میده که قربانی داره استفاده از سرویسش رو یارانهای میکنه؛ اگه سرویس خیلی پرسود بود، این حمله اصلاً صرف نمیکرد. مقیاسش هم نگرانکنندهست: بنیاد نرمافزار آزاد گزارش کرده یه باتنت با حدود ۵ میلیون IP از ژانویه روی GNU Savannah نشسته، احتمالاً برای ساخت دیتاست آموزشی. با همچین شبکهای، ۱۳ میلیون تبادل MiniMax میشه کمتر از ۳ درخواست به ازای هر IP.
برای حفظ خندق فقط دو راه میمونه: دفاع ضددیستیلیشن، یا گرونکردن سرویس تا حمله صرف نکنه. Anthropic سراغ راه اول رفته و از دستهبندها و سیستمهای اثرانگشت رفتاری برای پیداکردن الگوهای این حمله توی ترافیک API میگه، از جمله تشخیص تلاش برای بیرونکشیدن زنجیرهٔ استدلال و شناسایی فعالیت هماهنگ بین انبوه حسابها. ولی خودشم قبول داره هیچ شرکتی تنهایی از پسش برنمیاد و پاسخ هماهنگ صنعت و سیاستگذار لازمه.
فاصله هم داره کم میشه. مؤسسهٔ امنیت هوش مصنوعی بریتانیا فاصلهٔ مدلهای open-weight و بسته رو در تواناییهای سایبری مرزی با GLM-5.2 و DeepSeek V4-Pro چهار تا هفت ماه اعلام کرده، در حالی که بیشتر سال ۲۰۲۵ این عدد شش تا ده ماه بود. هرچی مدل باز به مدل بسته نزدیکتر باشه، تبادل کمتری برای جبران عقبافتادگی لازم داره: MiniMax بالای ۱۳ میلیون تبادل خواست، ولی DeepSeek با بالای ۱۵۰ هزار تا سر کرد.
جمعبندی نویسنده اینه که گرونکردن سرویس هم راهحل نیست؛ هم مشتری سازمانی رو که برای پسدادن بدهیهای سنگین لازمه فراری میده، هم چون هر آدرس باتنت راحت توی سهمیهٔ رایگان جا میشه، مهاجم اصلاً افزایش قیمت رو حس نمیکنه. پس فقط یه مسابقهٔ تسلیحاتی گرون میمونه که نهایتاً کمی جلو نگهشون میداره؛ به نظر نویسنده این خندق کمعمقتر از اونیه که ارزشگذاریهای هزار میلیارد دلاری و دیتاسنترسازی گسترده رو توجیه کنه.
نکات کلیدی:
- مدلها نه کپیرایت میگیرن نه پتنت؛ تنها حفاظتشون راز تجاریه.
- دیستیلیشن یعنی بازسازی بخشی از یه مدل با پرسوجوی زیاد؛ رویهای جاافتاده تو صنعت.
- Anthropic سه آزمایشگاه چینی رو به بیش از ۱۶ میلیون تبادل با ۲۴ هزار حساب جعلی متهم کرده.
- باتنتهای میلیونی حمله رو در حد چند درخواست به ازای هر IP پخش میکنن و تشخیص رو سخت میکنن.
- فاصلهٔ مدل باز و بسته در توانایی سایبری از ۶ تا ۱۰ ماه به ۴ تا ۷ ماه رسیده.
- ارزیابیها میگن سازوکارهای ایمنی روی مدلهای باز مانع جدیای نیستن.
