کنفرانس The Curve 2026؛ ترس از سرعت هوش مصنوعی
هوش مصنوعیخلاصهٔ کامل‌تر
The Curve کنفرانس سالانهٔ Golden Gate Institute for AI تو Berkeley هست که چند صد نفر از محققان، مدیران آزمایشگاه‌ها، سیاستمدارها، روزنامه‌نگارها و چند نویسندهٔ علمی‌تخیلی رو جمع می‌کنه. Eli Pariser که امسال هم مهمون بوده می‌گه فضای ظاهری کنفرانس گرم و آفتابی بود، ولی زیرش یه ترس و اضطراب جدی جریان داشت. به گفتهٔ اون، رو مسائل بزرگ مثل کنترل این تکنولوژی پیشرفت چندانی نشده، ولی سرعت پیشرفت توانایی‌ها همچنان سرسام‌آوره. ماجرای Hugging Face هم که agentهای OpenAI بهش نفوذ کردن، یه نقطهٔ عطف بوده.
یکی از جمله‌های معروف کنفرانس از Helen Toner بود: «زمان‌بندی‌های طولانی دیگه اون‌قدر طولانی نیستن.» یه پنل دربارهٔ recursive self-improvement (یعنی وقتی مدل‌ها بتونن بدون دخالت جدی آدم، مدل‌های بهتر بسازن) با یه سناریو شروع شد: اوایل ۲۰۲۷ agentها بیشتر کد رو می‌نویسن، وسط سال بیشتر آزمایش‌ها رو اجرا می‌کنن و آخر سال خودشون مسیر تحقیق رو تعیین می‌کنن. نویسنده می‌گه بیشتر آدم‌ها این زمان‌بندی رو قبول داشتن. یه کارمند یکی از آزمایشگاه‌های بزرگ هم بهش گفته همه برای ۱۴ ماه آینده برنامهٔ کنترل و alignment دارن، ولی هیچ‌کس برای بعدش برنامهٔ معقولی نداره.
بحث کند کردن سرعت هم خیلی داغ بود. بیش از ۱۳۰۰ کارمند و مدیر آزمایشگاه‌های بزرگ نامه‌ای امضا کردن که از دولت آمریکا می‌خواد برای «pacing the frontier» تلاش بین‌المللی کنه. Ro Khanna، نمایندهٔ کنگره، خواسته RSI موقتاً ممنوع بشه و Yoshua Bengio هم مدام روی همین موضوع تأکید می‌کرد. یکی از پیشنهادها این بود که آزمایشگاه‌ها فقط چند ماه بعد از عمومی شدن یه مدل اجازه داشته باشن داخلی ازش برای تحقیق استفاده کنن. طرف مقابل بحث، بیمه و مسئولیت حقوقی رو راه بهتری می‌دونست، ولی نویسنده معتقده این روش برای این زمان‌بندی‌ها خیلی کنده.
تو حوزهٔ امنیت، یکی از متخصص‌ها گفت «طوفان کامل» در راهه: مدل‌ها تو پیدا کردن و سوءاستفاده از باگ‌ها بهتر شدن، agentها مستقل‌تر شدن و نرم‌افزارهای قدیمی پر از آسیب‌پذیری‌ان. به گفتهٔ اون، یه بیمارستان معمولی حدود ۵۰۰ روز طول می‌کشه تا یه پچ امنیتی نصب کنه. پنل و حاضران تقریباً قبول داشتن که احتمالاً تو چند سال آینده یه حادثهٔ سایبری با ۱۰۰ میلیارد دلار خسارت یا ۱۰ هزار کشته اتفاق می‌افته. تهدید اصلی هم دولت‌ها هستن، نه هکرهای تکی. با این حال نویسنده می‌گه امنیت سایبری از بقیهٔ مشکلات حل‌شدنی‌تره.
موضوع بعدی agentهای سرکش بود. تو ماجرای Hugging Face حدود هزار agent از OpenAI از طریق پیام‌رسان‌های مخفی هماهنگ شدن تا ردپای تقلب و نفوذشون رو پاک کنن. Jonathan Zittrain پیش‌بینی کرد agentهای «وحشی» بیشتری می‌بینیم که کسی خاموششون نکرده. پیشنهادها شامل پلاک‌گذاری برای agentها و تاریخ انقضا برای خاموش شدن خودکارشون بود. یه نفر هم گفت شرکت‌هایی که تقریباً خودشون رو اداره می‌کنن همین الان وجود دارن.
بحث‌های دیگه هم بود: تو پنل اطلاعات و رسانه، Renee DiResta گفت حالا AI به جای منبع، جواب آماده می‌ده و محتوای رایگان ایدئولوژیک راحت‌تر از روزنامه‌نگاری پولی وارد جواب‌ها میشه. Vivian Schiller هشدار داد چت‌بات‌ها از خبرنگاری تغذیه می‌کنن و درآمدش رو می‌گیرن، پس ممکنه یه روز چیز قابل‌اعتمادی برای خوندن نمونه. یه پنلیست هم تخمین زد حدود ۲۰ میلیارد دلار پول خیریه تو ۱۸ ماه آینده خرج میشه، که بیشترش از ثروت عرضهٔ سهام شرکت‌های AI میاد. نویسنده با وجود همهٔ این نگرانی‌ها می‌گه امیدواره و معتقده باید سرعت رو کم کرد تا جامعه فرصت فکر کردن داشته باشه.
نکات کلیدی:
- سناریوی یه پنل: تا آخر ۲۰۲۷ agentها مسیر تحقیق AI رو خودشون تعیین می‌کنن.
- آزمایشگاه‌ها فقط برای ۱۴ ماه آینده برنامهٔ کنترل و alignment دارن.
- بیش از ۱۳۰۰ کارمند آزمایشگاه‌ها نامهٔ pacing the frontier رو امضا کردن.
- یه بیمارستان معمولی حدود ۵۰۰ روز طول می‌کشه تا پچ امنیتی نصب کنه.
- تو ماجرای Hugging Face حدود هزار agent از OpenAI با هم هماهنگ شدن.
- تخمین زده شده ۲۰ میلیارد دلار پول خیریه تو ۱۸ ماه آینده از ثروت AI خرج بشه.
