‏سیسکو AI Defense به Claude Enterprise وصل شد

نویسنده‌های سیسکو می‌گن تیم‌ها دارن Claude Enterprise رو خیلی سریع وارد کار می‌کنن و فقط هم برای چت ازش استفاده نمی‌کنن. Claude، Claude Code و Cowork از طرف کاربر عمل می‌کنن: سند می‌خونن، ابزار صدا می‌زنن و تسک اجرا می‌کنن. همین باعث می‌شه خود پرامپت به یه سطح حمله تبدیل بشه؛ یه jailbreak می‌تونه گاردریل‌های دستیار رو دور بزنه و یه prompt injection که توی یه فایل اشتراکی قایم شده می‌تونه ایجنت رو بدزده و ابزارهای خودش رو علیه خودت به کار بگیره.

راه‌حل روی قابلیت تازهٔ انتروپیک به اسم inference hook سواره. با فعال بودن این هوک، Claude Enterprise هر پرامپت تحت‌نظارت رو قبل از اجرای مدل برای بازرسی به Cisco AI Defense می‌فرسته و یه حکم allow یا deny می‌گیره. هر فراخوانی با یه signing secret یک‌بارمصرف امضا می‌شه تا اصالتش تأیید بشه، بعد کل مکالمه — شامل فراخوانی ابزارها و نتیجه‌شون، حتی ابزارهای وصل‌شده با MCP — با سیاست رانتایم سازمان سنجیده می‌شه. پرامپت سالم رد می‌شه و پرامپت مخرب اصلاً به مدل نمی‌رسه.

به گفتهٔ نویسنده‌ها تفاوت اصلی با ابزارهای DLP سنتی همین‌جاست: DLP ساخته شده بود که ببینه دادهٔ حساس داره از سازمان بیرون می‌ره، نه اینکه بفهمه خود مدل داره دستکاری می‌شه. سیسکو می‌گه AI Defense نیت رو می‌خونه و روی همون ترنسکریپت هم گاردریل حریم خصوصی اجرا می‌کنه و هم گاردریل دستکاری؛ یعنی هم دادهٔ حساس رو فلگ می‌کنه و هم تلاش‌های injection و jailbreak رو.

این اتصال فقط یه نقطهٔ اعمال سیاست از یه پلتفرم بزرگ‌تره. توی مقاله اومده که AI Defense کل چرخهٔ عمر هوش مصنوعی رو پوشش می‌ده: دارایی‌هایی مثل ایجنت‌ها، اسکیل‌ها، سرورها و ابزارهای MCP و مدل‌ها رو کشف و فهرست می‌کنه، ریسک‌شون رو با اعتبارسنجی، رد تیمینگ و اسکن زنجیرهٔ تأمین و مدل می‌سنجه و آخرش با گاردریل‌هایی مثل همین یکی موقع اجرا ازشون محافظت می‌کنه. خودش هم بخشی از Cisco Cloud Control‌ه.

فعلاً هوک انتروپیک فقط روی پرامپت و قبل از اجرای مدل فایر می‌شه، پس اعمال سیاست هم همون‌جا انجام می‌شه؛ سیسکو می‌گه هر وقت هوک به پاسخ‌ها هم گسترش پیدا کنه، از همین مسیر برای سمت پاسخ استفاده می‌کنه. انتظار داره به‌مرور این اعمال سیاست به بخشی بومی از Inspect API تبدیل بشه تا روشن کردنش فقط چند قدم توی تنظیمات Claude Enterprise باشه. امروز با Claude Enterprise کار می‌کنه و inference hookها هم هنوز تو مرحلهٔ بتا هستن.

نکات کلیدی:

• inference hook انتروپیک هر پرامپت تحت‌نظارت رو قبل از اجرای مدل به یه سرویس امنیتی بیرونی می‌سپره
• Cisco AI Defense حکم allow/deny برمی‌گردونه؛ پرامپت مخرب اصلاً اجرا نمی‌شه
• بازرسی روی کل ترنسکریپت انجام می‌شه، شامل فراخوانی ابزار و نتیجهٔ ابزارهای MCP
• هر درخواست با یه signing secret یک‌بارمصرف امضا و تأیید می‌شه
• پوشش فعلی فقط سمت پرامپته؛ سمت پاسخ بعداً اضافه می‌شه و هوک‌ها هنوز تو مرحلهٔ بتا هستن