‏متن‌های هوش مصنوعی و بحران اعتماد تو کار

نویسنده که یه مدیر فنیه، تعریف می‌کنه چطور توی شرکتش نصف آدم‌ها از سیل متن‌های بی‌محتوای هوش مصنوعی («اسلاپ») کلافه بودن، و نصف دیگه از اینکه بقیه هنوز روش کارشونو آپدیت نکردن عصبانی بودن. چیزی که بیشتر از همه توجهشو جلب کرد این بود که آدم‌ها مدام از کلمهٔ «غیرانسانی شدن» استفاده می‌کردن؛ حس می‌کردن دیگه ارتباط واقعی با همکاراشون ندارن.

اولش نویسنده فکر می‌کرد فقط کیفیت و نتیجهٔ نهایی کار مهمه، نه اینکه چطور تولید شده. ولی بعد فهمید خودش رفتار متناقضی داره: همون‌طور که این حرفو تکرار می‌کرد، از دیدن متن‌های هوش مصنوعی توی ایمیل و پیام‌های شخصیش داشت به‌شدت عصبی می‌شد؛ تا جایی که دیگه پست‌ها و خبرنامه‌هایی که بوی هوش مصنوعی می‌دادن رو آنفالو یا آنساب می‌کرد.

برای فهمیدن دلیل این تناقض، نویسنده به این نتیجه رسید که زبان دو تا کارکرد داره: یکی کارکردی (functional)، یعنی جایی که فقط خودِ ایده مهمه (مثل دیتای ساختاریافته یا یه اثبات ریاضی)؛ و یکی شخصی (personal)، یعنی جایی که ارزش پیام از این میاد که یه آدم مشخص اونو گفته یا فکر کرده، مثل نظر یه همکار یا ارزیابی عملکرد. هرچی یه تعامل شخصی‌تر باشه، استفاده از هوش مصنوعی توش بیشتر اعتماد رو خراب می‌کنه.

مثال‌هایی که میاره ملموسه: وقتی از یه همکار نظرشو می‌پرسی و جوابش یه تیکهٔ کپی‌شده از هوش مصنوعیه، حس می‌کنی وقتتو هدر دادن. یا وقتی ارزیابی عملکرد سالانه‌ت انگار با ChatGPT نوشته شده، این سؤال پیش میاد که اصلاً مدیرت خودش پرونده‌تو خونده یا نه. به گفتهٔ نویسنده، این چیزیه که باعث شده تیم Honeycomb یه سری «هنجار و ارزش دربارهٔ هوش مصنوعی» رو مکتوب کنه تا مرز مشخص باشه.

نکات کلیدی:

• چارچوب نویسنده زبان رو به دو دسته تقسیم می‌کنه: کارکردی (فقط ایده مهمه) و شخصی (اینکه چه کسی گفته مهمه).
• مثال کارکردی: دیتای ساختاریافته یا فرمول ریاضی تولیدشده با هوش مصنوعی معمولاً مشکلی نداره.
• مثال شخصی: نظر همکار یا ارزیابی عملکرد که با هوش مصنوعی نوشته شده، اعتماد رو از بین می‌بره.
• شرکت Honeycomb بر اساس همین ایده یه سری «هنجار و ارزش هوش مصنوعی» رسمی منتشر کرده.
• نویسنده تأکید می‌کنه مشکل «چقدر» هوش مصنوعی استفاده شده نیست، بلکه «کجا» و بدون اطلاع و رضایت طرف مقابل استفاده شدنشه.