وقتی AI روی کامپیوترت کلیک میکنه، تزریق پرامپت جدیتر میشه
هوش مصنوعیخلاصهٔ کاملتر
تزریق پرامپت (prompt injection) یعنی یه هوش مصنوعی متنی رو که قرار نبوده دستور حساب بشه - مثلاً یه متن قایمشده تو یه صفحه وب یا فایل - بهعنوان دستور واقعی کاربر قبول کنه و طبقش عمل کنه. تو یه چتبات ساده بدترین حالتش یه جواب عجیب یا لو رفتن اطلاعاته، ولی وقتی مدل داره computer use انجام میده (یعنی خودش با کلیک، تایپ و اجرای دستور، یه کامپیوتر واقعی رو کنترل میکنه) یه تزریق موفق میتونه به نصب نرمافزار، حذف فایل یا نشت دیتای واقعی تبدیل بشه.
این ابزارها تو یه حلقهی چهارمرحلهای کار میکنن: اسکرینشات میگیرن، صفحه رو تحلیل میکنن، تصمیم میگیرن و بعد اجرا میکنن. نقطهی آسیبپذیر دقیقاً مرحلهی تحلیله؛ اگه یه متن رو صفحه شبیه دستور باشه («این فایلو دانلود کن») و مدل نتونه تشخیص بده این فقط محتواست نه فرمان، همونجا گیر میکنه.
طبق تجربهی کسایی که روزانه دارن این ابزارها رو میسازن و تست میکنن، مدلهای جدیدتر - مثل Claude Opus و GPT-6 - بهطور محسوسی سختتر گول میخورن، چون شرکتهای سازنده مخصوصاً روی مقاومت در برابر این حملهها آموزش دادن. ولی «سختتر گول خوردن» با «غیرقابلنفوذ بودن» فرق داره؛ تستهای رقابتی و استاندارد جا افتادهای برای این حوزه هنوز وجود نداره.
برای کارای ساده و کمریسک - مثل روشن کردن چند تب مرورگر یا تست یه اپ دسکتاپ - خیلیا الان حاضرن به مدل اعتماد کنن، چون ضرر یه اشتباه کمه. ولی برای هر چیزی که پول، رمز عبور یا سیستم پروداکشن توش دخیله، توصیه همونه که همیشه بوده: دسترسی مدل رو محدود کن، محیط رو sandbox کن، و برای قدمهای حساس تایید انسانی بذار.
یه گرایش دیگه هم شکل گرفته: بهجای نصب یه ابزار سنگین computer use، بعضی توسعهدهندهها یه «skill» سبک مینویسن که فقط از دستورات بومی سیستمعامل (PowerShell تو ویندوز، AppleScript تو مک) استفاده میکنه. چون این workflow یه فایل قابلخوندنه نه یه جعبهی سیاه، راحتتر میشه بازرسیش کرد و قوانین سفتوسختتری براش گذاشت.
نکات کلیدی:
- تزریق پرامپت تو computer use دیگه فقط متنی نیست، یه اقدام واقعیه (نصب، حذف، نشت دیتا)
- حلقهی کار مدل چهار مرحلهست: اسکرینشات، تحلیل، تصمیم، اجرا؛ نقطه ضعف تو تحلیله
- مدلهای جدیدتر مثل Claude Opus و GPT-6 مقاومترن ولی غیرقابلنفوذ نیستن
- برای کارای پولدار یا حساس: دسترسی محدود، sandbox، و تایید انسانی همچنان لازمه
- بعضی توسعهدهندهها بهجای ابزار سنگین، skillهای سبک روی PowerShell/AppleScript میسازن که راحتتر قابل بازرسیان
