کلیدهای API هوش مصنوعی حالا مثل پول نقدن؛ چطور ازشون محافظت کنیم
هوش مصنوعیخلاصهٔ کامل‌تر
این مقاله می‌گه توکن‌های هوش مصنوعی حالا مثل پول نقد رفتار می‌کنن. اگه کسی کلید API کلاد یا Codex شما رو داشته باشه، می‌تونه به حساب شما inference اجرا کنه، دسترسی رو به بقیه بفروشه یا سهمیه‌تون رو تموم کنه و صورت‌حساب بیاد برای شما. از طرف دیگه، agentهای هوش مصنوعی الان با سرعتی که هیچ تیم امنیتی انسانی بهش نمی‌رسه نرم‌افزارهای قدیمی رو برای آسیب‌پذیری می‌گردن. یعنی فاصله‌ی لو رفتن کلید تا سوءاستفاده ازش داره کوتاه میشه.
موج اخیر با چندتا آسیب‌پذیری بحرانی PHP شروع شد که ۲۱ اکتبر اعلام شدن. این باگ اجازه می‌داد مهاجم قبل از اینکه کد خود سایت اجرا بشه کد خودش رو اجرا کنه، و آژانس‌های امنیتی بریتانیا و اروپا حتی توصیه کردن سیستم‌هایی که سریع پچ نمی‌شن ایزوله یا خاموش بشن. جدا از این، eMudhra که یه certificate authority هست (یعنی شرکتی که گواهی‌هایی صادر می‌کنه که مرورگر باهاش به سایت اعتماد می‌کنه) کلیدهای خصوصی خیلی ضعیفی داشت.
پژوهشگری به اسم Scott Helme هشت‌تا از این کلیدها رو بازیابی کرد و یکیشون که قرار بود یه عدد تصادفی خیلی بزرگ باشه، عدد ۴ بود. به گزارش مقاله، Helme این کارو با یه پرامپت به Claude انجام داده. چون eMudhra صادرکننده‌ی ریشه‌ی مورد اعتماد بود، این اشتباه می‌تونست روی کل اینترنت اثر بذاره. Mozilla ظرف چند ساعت Firefox رو محافظت کرد و Cloudflare و Vercel هم همین کارو کردن. Anthropic هم گزارش داده تو شش ماه اسکن پروژه‌های پرکاربرد، بیش از ۲۹ هزار آسیب‌پذیری احتمالی پیدا شده که حدود ۶ هزارتاش دستی بررسی شده.
نمونه‌ی ملموس‌تر برای توسعه‌دهنده‌ها LiteLLM هست، یعنی یه ابزار پرکاربرد که اپلیکیشن‌ها رو به ارائه‌دهنده‌های مدل وصل می‌کنه. این ابزار تو مارس یه بار نفوذ خورد و تو اکتبر هم یه نسخه‌ش با بدافزار سارق اطلاعات ورود منتشر شد. نکته‌ی مهم اینه که طبق اطلاعیه‌ی خود LiteLLM، تگ رسمی سورس‌کد سالم بود ولی پکیجی که مردم واقعاً نصب کردن فایل‌های مخرب داشت. یعنی چک کردن ریپازیتوری عمومی کافی نیست، و اگه اون نسخه رو نصب کردی باید فرض کنی محیطت آلوده شده و همه‌ی secretها رو عوض کنی.
پیشنهاد عملی نویسنده اینه که از حساب‌های حساس شروع کنی. مثلاً تو تنظیمات حساب گوگل میشه همه‌ی اپ‌های سوم‌شخصی که بهشون اجازه دادی و دسترسی دقیقشون رو دید. برای هر کدوم دو سؤال بپرس: هنوز ازش استفاده می‌کنم؟ واقعاً این دسترسی رو لازم داره؟ هرچی رو نمی‌شناسی یا لازم نداری حذف کن، که معمولاً کمتر از بیست دقیقه طول می‌کشه. همین کارو برای GitHub و Slack و هر سرویسی که بهش کلید API یا توکن OAuth دادی بکن.
به گفته‌ی نویسنده، خود هوش مصنوعی هم می‌تونه کمک کنه: لیست اپ‌های متصل و توضیح دسترسی‌هاشون رو به یه مدل بده و ازش بخواه موارد پرخطر یا غیرضروری رو مشخص کنه، و هر چیزی که چک کرده رو یادداشت کنه. ولی بازبینی دسترسی‌ها دسترسی‌ای که قبلاً اتفاق افتاده رو برنمی‌گردونه. اگه ابزاری که استفاده کردی نفوذ خورده، کلید رو rotate کن، یعنی کلید جدید بساز و قبلی رو تو Anthropic یا OpenAI باطل کن، چون یه کلید دزدیده‌شده ممکنه هفته‌ها بی‌صدا بمونه.
نکات کلیدی:
- یه نسخه‌ی اکتبر LiteLLM با بدافزار سارق اطلاعات ورود منتشر شد، بعد از یه نفوذ دیگه تو مارس.
- تو ماجرای LiteLLM سورس‌کد رسمی سالم بود ولی پکیج نصب‌شده آلوده بود.
- کلیدهای خصوصی eMudhra اون‌قدر ضعیف بودن که یکیشون عدد ۴ بود.
- Anthropic بیش از ۲۹ هزار آسیب‌پذیری احتمالی تو شش ماه پیدا کرده که حدود ۶ هزارتاش بررسی شده.
- بازبینی دسترسی اپ‌ها ریسک آینده رو کم می‌کنه و rotate کردن کلید، دسترسی‌ای که شاید قبلاً لو رفته رو قطع می‌کنه.
