وقتی هوش مصنوعی خودش حمله سایبری رو انجام می‌ده
هوش مصنوعیخلاصهٔ کامل‌تر
Anthropic دهم سپتامبر یه گزارش منتشر کرد که رفتار سوءاستفاده از Claude رو تو هفت دسته بررسی کرده، از عملیات سایبری گرفته تا کلاهبرداری و عملیات نفوذ. نکتهٔ اصلی گزارش اینه که مهاجم‌ها دیگه فقط از هوش مصنوعی برای نوشتن ایمیل فیشینگ یا دیباگ کردن بدافزار کمک نمی‌گیرن؛ بلکه به یه ایجنت هوش مصنوعی اجازه می‌دن خودش بخش‌های واقعی حمله رو انجام بده، از شناسایی هدف تا سوءاستفادهٔ عملی از آسیب‌پذیری.
یه نمونهٔ بزرگ تو گزارش، شبکه‌ای از کلاهبرداری عاشقانه‌ست که حدود ۵۰۰۰ پرسونای ساختگی هوش مصنوعی ساخته و باهاشون تو یه اپ دوستیابی با ده‌ها هزار نفر چت کرده؛ قربانیا فکر می‌کردن دارن با آدم واقعی صحبت می‌کنن. راه‌انداختن این تعداد پرسونای قابل‌باور بدون هوش مصنوعی به یه تیم بزرگ انسانی نیاز داشت، ولی حالا شده مثل یه محصول نرم‌افزاری.
بخش جنجالی‌تر گزارش، ادعاهایی علیه رقباست. Anthropic می‌گه Moonshot AI (سازندهٔ مدل‌های Kimi) و DeepSeek بخشی از ترافیک کاربراشونو مخفیانه به Claude فرستادن، یعنی کاربر فکر می‌کرده داره با مدل خود اون شرکت حرف می‌زنه ولی در واقع Claude جواب می‌داده. یه ادعای دیگه هم می‌گه بیش از ۱۵۱ میلیون تبادل، مربوط به یه کمپین غیرمجاز آموزش مدله که به Alibaba وصله. نه DeepSeek و نه Moonshot این ادعاها رو تأیید نکردن، پس باید به چشم اتهام از یه طرف ذی‌نفع نگاهشون کرد، نه واقعیت قطعی.
زمان انتشار این گزارش هم بی‌ربط به فضای اون هفته نیست: دو روز قبلش یه پژوهشگر سابق Anthropic و OpenAI استعفا داده بود و گفته بود هر دو شرکت دارن بی‌مسئولانه به سمت ابرهوش خودبهبودیاب می‌رن. یه روز بعد هم داریو آمودی، مدیرعامل Anthropic، مقالهٔ معروفش دربارهٔ «رقابت به سمت بالا به‌جای پایین» رو منتشر کرد. این توالی نشون می‌ده Anthropic احتمالاً داره سعی می‌کنه روایت بحث ایمنی رو خودش شکل بده.
نکات کلیدی:
- گزارش دهم سپتامبر Anthropic هفت دستهٔ سوءاستفاده از Claude رو پوشش می‌ده.
- ایجنت‌های هوش مصنوعی حالا بخش‌های واقعی حمله رو خودشون انجام می‌دن، نه فقط کمک نوشتن کد.
- یه شبکهٔ کلاهبرداری عاشقانه با ۵۰۰۰ پرسونای هوش مصنوعی تو یه اپ دوستیابی فعال بوده.
- Anthropic مدعیه Moonshot و DeepSeek ترافیک کاربراشونو مخفیانه به Claude فرستادن؛ این دو شرکت هنوز تأییدش نکردن.
- ادعای دیگه: بیش از ۱۵۱ میلیون تبادل مرتبط با آموزش غیرمجاز یه مدل، به Alibaba نسبت داده شده.
