‏وقتی مدل‌های هوش مصنوعی فقط برای هارنس خودشون کار می‌کنن

تصمیم OpenAI برای کنار گذاشتن fine-tuning — یعنی امکان تنظیم دقیق وزن‌های مدل توسط توسعه‌دهنده‌ها — یه بحث مهم رو دوباره داغ کرده. طرفداران مدل‌های بزرگ می‌گن که این مدل‌ها آن‌قدر قوی شدن که دیگه نیازی به تنظیم سفارشی نیست. اما یه روی دیگه‌ی سکه هم هست که نگران‌کننده‌تره.

آزمایشگاه‌های بزرگ دارن مدل‌هاشون رو به‌گونه‌ای آموزش می‌دن که رفتار هارنس (harness) اختصاصی خودشون — یعنی محیط و رابطی که مدل داخلش اجرا می‌شه — مستقیماً درون وزن‌های مدل «پخته» بشه. نتیجه‌اش اینه که مدل برای هارنس خودش بهینه می‌شه و وقتی کسی بخواد از یه هارنس شخص ثالث استفاده کنه، با مقاومت مدل روبرو می‌شه. یه مثال واقعی هم این هفته دیده شد: یه توسعه‌دهنده تلاش می‌کرد Claude رو داخل هارنس متن‌باز Pi وادار به رفتارهای خاصی کنه، اما مدل مدام مخالفت می‌کرد.