خاطرات یه کارمند از روزهای اول Anthropic
هوش مصنوعیخلاصهٔ کامل‌تر
ایوان وندروف تو این نوشته خاطراتش از هشت ماه کار تو Anthropic، بین اکتبر ۲۰۲۲ تا مه ۲۰۲۳، رو تعریف می‌کنه. خودش می‌گه بیشترش رو از حافظه نوشته و تأکید می‌کنه این توصیف «Anthropic چه جور جاییه» نیست، فقط تجربهٔ یه نفر تو یه نقش جونیور و تو یه بازهٔ کوتاهه. دلیلش برای نوشتن هم اینه که آزمایشگاه‌های AI قدرت زیادی دارن ولی اطلاعات عمومی کمی از داخلشون هست.
به گفتهٔ نویسنده، تصمیمش برای پیوستن بعد از یه گپ با یکی از هم‌بنیان‌گذارها گرفته شد که بهش گفت آدمای جدی تو واشنگتن دارن AI رو از نزدیک دنبال می‌کنن. اون موقع شرکت حدود چهل نفر بود. ازش پرسیدن می‌خواد تعهد بده دو سوم سهامش رو اهدا کنه، چون همهٔ هم‌بنیان‌گذارها این تعهد رو داده بودن، و اونم قبول کرد.
خیلی زود انگیزه‌ش رو از دست داد. قرار بود رو استراتژی استفادهٔ مفید از مدل‌ها کار کنه، ولی می‌دید بیشتر تصمیم‌ها گرفته شده و تمرکز روی کاربردهای درآمدزا مثل خودکارسازی پشتیبانی مشتریه. نویسنده می‌گه رویکرد alignment شرکت (یعنی تلاش برای اینکه رفتار مدل با هدف‌های انسانی جور باشه) رو هم قانع‌کننده نمی‌دید، ولی چون تو بحث‌ها برنده نمی‌شد، تردیدهاش رو قورت می‌داد.
یکی از نگرانی‌های اصلیش این بود که هم Anthropic و هم OpenAI برای دستیارشون شخصیت مشابهی ساختن که اون اسمش رو «بوروکرات آسیب‌دیده» می‌ذاره. یعنی شخصیتی محتاط، پرکار و ریسک‌گریز که به درد مشتری‌های شرکتی و دولت‌ها می‌خوره. نویسنده می‌گه از دنیایی پر از این شخصیت‌ها می‌ترسید ولی نمی‌دونست چی کار باید کرد، و شب‌های زیادی بی‌خوابی کشید.
از جزئیات دیگه هم می‌گه: حضور یه مأمور FBI تو جلسهٔ کل شرکت برای صحبت دربارهٔ امنیت اطلاعات، پیشنهاد یه همکار برای تیمی که مدل‌های خطرناک بسازه و به دولت‌ها دموی ترسناک نشون بده، و مدیری که بهش گفت «ما قراره AGI بسازیم، اونم به‌شکل امن». آخرش استعفا داد و تو نامه‌ش به‌جای گفتن تردیدهاش، از نقاط قوت شرکت تعریف کرد، چون نمی‌خواست به آدمایی که زیر فشار بودن ضربه بزنه.
نکات کلیدی:
- بازهٔ کاری نویسنده اکتبر ۲۰۲۲ تا مه ۲۰۲۳ بود، حدود هشت ماه و تو یه نقش جونیور
- Anthropic اون موقع حدود چهل نفر بود و دفترش تو مرکز مالی سان‌فرانسیسکو بود
- از نویسنده خواسته شد تعهد بده دو سوم سهامش رو اهدا کنه
- نویسنده قبل از رسیدن به equity cliff (یعنی زمانی که اولین بخش سهام به کارمند می‌رسه) استعفا داد
- خودش تأکید می‌کنه این فقط تجربهٔ شخصیه، نه تصویر کلی Anthropic
