وقتی دیزاینسیستمها برای هوش مصنوعی قانون مینویسن
هوش مصنوعی
فرانتاندخلاصهٔ کاملتر
نویسنده، رومینا کاوچیچ، میگه یه هفته هر دیزاینسیستم عمومی که میتونسته پیدا کنه و هوش مصنوعی رو مستند کرده خونده. از ۱۵۶ سیستم تو دیتاستش، فقط ۲۶ تا به یه شکلی بهش پرداختن؛ یه لیبل AI، یه الگوی چت، یه چارچوب توضیحپذیری یا یه سری قانون اخلاقی. به گفتهش نکته جالب تعداد نیست، بلکه اینه که این تیمها بدون هیچ هماهنگی به یه رولبوک مشابه رسیدن و همین همگرایی مهمترین سیگنال دیتاستـه.
اول یه مدل بلوغ ششسطحی معرفی میکنه: از سطح ۰ (بدون هیچ راهنمای عمومی، که ۱۳۰ تا از سیستمها همینجان) تا سطح ۵ (هوش مصنوعی بهعنوان زیرساخت سیستم). به گفتهش پرشی که واقعاً مهمه از سطح ۲ به ۳ ـه؛ یعنی خط بین سیستمی که فقط به هوش مصنوعی استایل میده و سیستمی که کمکت میکنه طراحی کنی هوش مصنوعی چطور رفتار کنه. مثلاً Shopify Polaris فقط یه رنگ «Magic» و توکن داره (دکوراسیون)، ولی Atlassian راهنمای تعاملی میده که هوش مصنوعی کِی پیشنهاد بده و کِی کارو دست آدم بسپره.
نویسنده روی چهار قانون مشترک تأکید میکنه. قانون اول، همیشه علامتگذاری کن: کاربر باید همیشه بدونه محتوا از یه مدل اومده. به گفتهش پیشرفتهترین نمونه Carbon آیبیامـه که یه لیبل AI تعاملی ساخته، و قانونش یه محدودیته: استایل AI نباید بهعنوان دکوراسیون استفاده شه، فقط برای شناسایی محتوای واقعی هوش مصنوعی. AWS Cloudscape هم آیکن sparkle رو فقط برای خروجی هوش مصنوعی مولد رزرو کرده و حتی میگه تو یه لیست که همهچیز AI ـه، یه بار کل گروه رو لیبل بزن نه تکتک.
قانون دوم، لایهبهلایه توضیح بده: علامتگذاری میگه AI دخیل بوده، توضیح میگه چرا. به گفتهش لیدرها توافق دارن که توضیح باید لایهای بیاد نه همه یکجا. نمونه روشنش پاپاور توضیحپذیری Carbon ـه با اصل چی، چرا، چطور: تصمیم رو رو سطح نشون بده، استدلال رو یه لایه پایینتر، و داده و فرآیند رو فقط برای کسی که باید آدیت کنه؛ با عمقی متناسب با ریسک. یه پیشنهاد کمریسک فقط «چی» رو نشون میده، ولی یه تصمیم با وزن قانونی «چطور» رو با ردِ قابلپیگیری باز میکنه.
قانون سوم، کنترل رو دست انسان نگه دار: نویسنده میگه این قانونیه که بیشترین توافق و بهترین جزئیات رو داره. GitLab مستقیم میگه هوش مصنوعی باید همکار باشه نه خودمختار. Carbon همین رو بهصورت رفتار کامپوننت پیاده کرده: وقتی کاربر محتوای تولیدشده با AI رو ادیت میکنه، فیلد استایل AI رو میندازه و عادی میشه، و یه کنترل «بازگشت به AI» میذاره که پیشنهاد اصلی برگرده. Cloudscape از همه جلوتر میره و برای کارهایی که AI بهجای کاربر انجام میده سطوح اجازه متناسب با ریسک تعریف میکنه؛ قانونش اینه که تغییرات جدی، برگشتناپذیر یا زنجیرهای رو بدون اجازه صریح کاربر اجرا نکن.
قانون چهارم، برای لحظهای که اشتباه میکنه طراحی کن: به گفتهش ضعیفترین بخش فکر اکثر تیمها همینه و قویترین نشونه یه راهنمای بالغ. PatternFly یه هدینگ جدا بهش داده و میگه وقتی AI شکست میخوره، درباره خطا شفاف باش و راه دسترسی آسون به پشتیبانی انسانی بذار. GitLab هم اینو به یه ارزیابی ریسک تبدیل کرده: قبل از ساخت، احتمال خطا رو در برابر تأثیرش بسنج، و وقتی اطمینان پایینه یه مسیر جایگزین که به AI وابسته نباشه بذار.
نویسنده دو اختلاف باقیمونده رو هم نشون میده: هر شرکت زبان بصری خودشو برای AI ساخته (نور و گرادیان تو Carbon، آیکن sparkle تو Cloudscape) که داخلاً منسجم ولی با هم ناسازگارن، پس کاربری که روزی چهار محصول استفاده میکنه چهار سیگنال متفاوت برای یه مفهوم میگیره. اختلاف دوم سرِ ساختن یا نساختن خود فیچره؛ PatternFly، GitLab و Apple همگی مستقل میگن اولین قانون هوش مصنوعی اجازه استفادهنکردن ازشه و نباید صرفاً چون جدید و ترنده اضافهش کنی. به نظر نویسنده تفاوت بین علامتگذاری AI و طراحیکردنش کل حرف این مقالهست.
نکات کلیدی:
- از ۱۵۶ دیزاینسیستم عمومی فقط ۲۶ تا هوش مصنوعی رو مستند کردن
- چهار قانون مشترک: علامتگذاری، توضیح لایهای، کنترل دست انسان، طراحی برای خطا
- پرش واقعی از سطح ۲ به ۳ ـه: از استایلدادن به AI تا طراحی رفتارش
- اصل توضیحپذیری «چی، چرا، چطور» با عمق متناسب با ریسک
- اولین قانون هوش مصنوعی، اجازه استفادهنکردن ازشه نه افزودن چون ترنده
