Anthropic: به خودبهبودی بازگشتی AI خیلی نزدیکیم
هوش مصنوعیClaude Opus 5.5خلاصهٔ کامل‌تر
به گزارش TechCrunch، وقتی Anthropic روز دوشنبه نسخه اصلاح‌شده پرونده S-1/A (یعنی مدارکی که برای عرضه اولیه سهام به کمیسیون بورس آمریکا می‌دن) رو منتشر کرد، بیشتر توجه‌ها رفت سمت عددهای مالی: درآمد خیلی بالا رفته، ولی هزینه‌ها هم همین‌طور. اما یه نکته مهم‌تر تو بخش ریسک‌ها بود: شرکت هشدار داده که ممکنه نزدیک ساختن مدلی باشه که به recursive self-improvement یا RSI برسه.
RSI یعنی جایی که AI اون‌قدر تو آموزش و ساختن خودش خوب میشه که سرعت پیشرفت توانایی‌هاش یهو خیلی زیاد میشه. برای بدبین‌ها این همون نقطه بی‌بازگشته که AI از کنترل انسان خارج میشه. برای خوش‌بین‌ها هم وعده یه ابزار با بهره‌وری و کشف علمی فوق‌العاده‌ست. Anthropic هر دو طرف رو قبول داره و نوشته استفاده از AI برای ساختن AI قوی‌تر، مخصوصاً اگه سرعت پیشرفت رو یهو بالا ببره، می‌تونه ریسک ایمنی جدی داشته باشه.
تو جمله‌های تازه‌ای که به بخش ریسک‌ها اضافه شده، Anthropic دو چیز رو گفته. اول اینکه قبلاً از AI برای ساختن مدل‌هایی استفاده کرده که جهش توانایی‌شون رو همون موقع تشخیص نداده. دوم اینکه برآوردهای داخلیش درباره مدل‌های آینده نشون می‌ده ممکنه «به‌زودی» به تعریف Responsible Scaling Policy خودش (یعنی سیاست داخلی Anthropic برای مدیریت ریسک مدل‌های قوی‌تر) از «پیشرفت به‌شدت شتاب‌گرفته به خاطر AI» برسه.
با این حال شرکت تأکید کرده هیچ‌کدوم از مدل‌های فعلیش از این مرز رد نشدن. گفته انتظار نداره بتونه با خیال راحت از Claude بخواد نسل‌های بعدی مدل‌ها رو کاملاً خودکار و بدون نظارت جدی انسان طراحی کنه. برای همین داره به‌روزرسانی‌هایی تو این سیاست رو بررسی می‌کنه تا انسان‌ها کنترل توسعه مدل‌های پیشرو رو نگه دارن.
TechCrunch به حرف منتقدها هم اشاره می‌کنه: پرونده S-1 هم افشاگریه هم بازاریابی، و ادعای نزدیک بودن به مدلی که خودش رو می‌سازه می‌تونه بیشتر جنبه تبلیغاتی داشته باشه. ولی به گفته نویسنده، شکی نیست که توانایی‌های Claude امسال تو کدنویسی، ریاضی و امنیت سایبری خیلی بالا رفته. پس اگه خود Anthropic می‌گه RSI نزدیکه، شاید باید جدیش گرفت و براش قانون‌گذاری کرد.
نکات کلیدی:
- این هشدار تو نسخه اصلاح‌شده پرونده S-1/A شرکت Anthropic منتشر شده.
- Anthropic قبول کرده قبلاً جهش توانایی بعضی مدل‌هاش رو فقط بعد از وقوع تشخیص داده.
- طبق برآوردهای داخلی، مدل‌های آینده ممکنه به‌زودی به آستانه «پیشرفت به‌شدت شتاب‌گرفته» Responsible Scaling Policy برسن.
- هیچ‌کدوم از مدل‌های فعلی Anthropic رسماً از این آستانه رد نشدن.
- شرکت می‌گه بدون نظارت جدی انسان، ساخت کاملاً خودکار مدل‌های بعدی با Claude رو امن نمی‌دونه.
