خروجی ارزون شد، اعتبار گرون
هوش مصنوعیخلاصهٔ کاملتر
دیوید هوانگ تو شمارهٔ ۳۱۲ خبرنامهاش میگه برنامهنویسها دهههاست یه ledger (یعنی دفترِ ثبتِ کار که نشون میده هر تصمیم کِی و چرا گرفته شده) دارن: ابزارهای SCM مثل گیت و سیستمهای ثبتِ کار مثل Jira. به گفتهٔ نویسنده حوزهٔ طراحی هیچوقت همچین چیزی نساخته و حالا که AI وسط کاره، این کمبود خودشو نشون میده.
حرف اصلی مقاله اینه که کارِ تمامشده ارزون شده. AI گزینه و دراف و نسخهٔ اول رو پشتسرهم بیرون میده، پس اینکه یه فایلِ تر و تمیز وجود داره دیگه چیز زیادی ثابت نمیکنه. نویسنده میگه سیگنالِ واقعی اینه که آدم چطور context جمع کرده، مسئله رو چطور شکل داده و چرا همین نسخه رو انتخاب کرده. AI پیدا کردنِ کار رو راحت کرد، ولی یه مشکل تازه ساخت: حجمِ زیادِ خروجیِ بیکیفیت که فرایند رو راحتتر قایم میکنه.
برای مدیرها فشار بیشتره. خلاصهٔ جلسه، آپدیت وضعیت و سند برنامهریزی رو حالا AI هم مینویسه، پس این کارها دیگه ارزشِ نقش رو توضیح نمیدن. به گفتهٔ نویسنده دفترِ کارِ مدیر باید از «چی کار کردم» بره سمت «چرا این مسیر»: چی بررسی شد، چی رد شد، چه trade-offی قبول شد، چه ریسکی پذیرفته شد و چی میتونه بعداً تصمیم رو عوض کنه.
جدیترین بخش مقاله دربارهٔ agentهاست، چون کارِ agent به تأیید آدم گره خورده. کاربر باید ببینه از agent چی خواسته شده، به چی دسترسی داشته، چی خونده و چی رو تغییر داده. هوانگ به Instinct اشاره میکنه که تو هفتهٔ عرضهش کاربرها فهمیدن agent ایمیلهاشون رو ایندکس و نگه داشته و راهی برای حذفش نبوده؛ دسترسی رو میشد قطع کرد ولی چیزی که یه بار خونده شده بود، نامرئی سرِ جاش موند.
نمونهٔ دومش GrokBot ـه: یه ماشین ابری واقعی که میتونی ببینی کار کجا انجام شده، ولی همهٔ باتها همون یه ماشین و همون credential pool و همون سشنهای مرورگر رو شریکن. مستندات خود xAI میگه باتهای جدا رو مرز امنیتی حساب نکنید، مدت نگهداری داده مستند نشده و نمای audit هنوز نیومده. جمعبندی نویسنده اینه که اعتبارِ agent چهار پایه داره: اجرای قابلدیدن، دسترسی محدود، تاریخچهٔ قابلمرور و کارِ قابلبرگشت. این دفتر هم باید از دلِ ابزارهای موجود دربیاد، وگرنه به کاغذبازی تبدیل میشه.
نکات کلیدی:
- شمارهٔ ۳۱۲ خبرنامهٔ Proof of Concept، نوشتهٔ دیوید هوانگ، ۲۳ آگوست ۲۰۲۶
- ledger یعنی ردِّ context، تصمیمها، ابزارها، تأییدها و خودِ خروجی
- برای مدیر: ملاک از «فعالیت» به «دلیلِ تصمیم» جابهجا میشه
- تستِ پیشنهادیِ نویسنده: خروجی رو بده دستِ یکی و بپرس چطور ساخته شده؛ اگه جواب داشت، ledger داری
- Instinct ایمیل کاربرها رو ایندکس کرد بدون راهی برای حذف؛ xAI هم میگه باتهای GrokBot مرز امنیتی نیستن
