کاخ سفید ریسک هوش مصنوعی رو تو دو تا چیز خلاصه میکنه
هوش مصنوعیخلاصهٔ کاملتر
مایکل کراتسیوس، مدیر دفتر علم و فناوری کاخ سفید، تو یه گفتگو دربارهٔ استراتژی هوش مصنوعی دولت آمریکا گفته فهرست ریسکهای جدی فعلی فقط دو مورده: ریسک حملههای سایبری از مدلهای قویتر، و ریسک زیستی، یعنی احتمال اینکه یه مدل روزی به کسی تو طراحی سلاح زیستی کمک کنه. به گفتهٔ اون، هر ریسک دیگهای تو بحث امنیت هوش مصنوعی باید در مقایسه با همین دوتا سنجیده بشه تا واقعاً جدی گرفته بشه.
دلیل اینکه ریسک سایبری بالاتره اینه که هر چقدر مدلها تو استدلال و تولید کد قویتر میشن، هم تو پیداکردن و هم تو حمله به آسیبپذیریهای نرمافزاری بهتر میشن؛ ولی همون قابلیت برای دفاع هم به همون اندازه کاربردیه. کراتسیوس این دوگانگی رو یه مبادلهٔ ذاتی میدونه نه یه مشکل قابلحل، یعنی بهجای ممنوعکردن مدلهای قوی، بحث اصلی باید روی این باشه که موقع انتشار مدل چه محافظهایی لازمه.
دربارهٔ ریسک زیستی، کراتسیوس معتقده این نگرانی از حدود سالهای ۲۰۲۱-۲۰۲۲ مطرح شده ولی هنوز به یه اتفاق واقعی منجر نشده، با این حال دولت داره زیرساخت آزمایش و ارزیابی مخصوص همین حوزه رو هم میسازه. اون بین «ریسکی که ارزش سرمایهگذاری تو ظرفیتسازی داره» و «ریسکی که فوراً نیاز به محدودیت سخت داره» فرق میذاره و ریسک زیستی رو تو دستهٔ اول میذاره.
دولت آمریکا بهجای سقفهای ثابت مثل محدودیت قدرت پردازشی، روی ارزیابی مداوم تمرکز کرده؛ چون به گفتهٔ کراتسیوس قانونهای سختگیرانهای که امروز نوشته میشن ظرف چند ماه از قابلیت مدلها عقب میمونن و تغییردادنشون هم سیاسی سخته. اون قانون هوش مصنوعی اتحادیهٔ اروپا رو مثال میزنه که قبل از ChatGPT نوشته شده و حالا باید بهزور روی مدلهای زبانی بزرگ کشیده بشه. دولت همچنین میگه موضعش دربارهٔ مدلهای متنباز عوض نشده و از یه اکوسیستم ترکیبی بسته و باز حمایت میکنه.
نکات کلیدی:
- کاخ سفید فقط دو ریسک هوش مصنوعی رو فعلاً جدی میدونه: حملههای سایبری و کمک به ساخت سلاح زیستی
- ریسک سایبری اولویت اوله چون همین الان قابل مشاهدهست؛ ریسک زیستی از ۲۰۲۱-۲۰۲۲ مطرح شده ولی هنوز محقق نشده
- دولت بهجای سقف ثابت مثل محدودیت قدرت پردازشی، ارزیابی مداوم مدلها رو ترجیح میده
- قانون هوش مصنوعی اتحادیهٔ اروپا که قبل از ChatGPT نوشته شده بهعنوان نمونهٔ شکست مقررات ثابت ذکر شده
- برنامهٔ عملیاتی هوش مصنوعی دولت که سال قبل منتشر شده هنوز از اکوسیستم ترکیبی مدلهای باز و بسته حمایت میکنه
