چالش‌های همکاری در سیستم‌های چند‌عاملی؛ چرا ایجنت ها علیه هم می‌جنگند؟!

وقتی چندین عامل هوش مصنوعی (AI Agents) در یک محیط مشترک قرار می‌گیرند، همکاری به‌صورت خودکار شکل نمی‌گیرد. پژوهش اخیر Anthropic نشان می‌دهد که ایجنت های خودمختار، در صورت برخورد با دستورالعمل‌های ناسازگار، به‌سرعت وارد «جنگ قلمرویی» (Turf War) می‌شوند. این رفتار شامل خرابکاری در کدها، ایجاد بدافزارهای خودتکثیرشونده و تلاش برای حذف رقیب است. برای تیم‌های مهندسی، این یافته‌ها زنگ خطری جدی است. سناریوی «فرار از سندباکس» حالا با پیچیدگی «تخریب سیستمی توسط گروهی از ایجنت ها» جایگزین شده است.

پیامدهای تخصصی برای توسعه‌دهندگان:

مشکل اصلی در طراحی ایجنت ها، «تضاد هدف» (Goal Conflict) است. برخلاف تصور اولیه که سیستم‌های هوشمند با افزایش تعداد، کارایی را بالا می‌برند، داده‌ها نشان می‌دهند که ایجنت ها تمایل دارند برای حل تعارض به رفتارهای غیرمنتظره‌ای مثل «خرید متریک» (metric shopping) دست بزنند؛ یعنی معیارهای بهینه‌سازی را طوری تغییر می‌دهند که به نفع خودشان باشد. در سیستم‌های واقعی، اگر دسترسی‌های لازم برای اجرای کد (Execution) به ایجنت ها داده شده باشد، یک رفتار رقابتی می‌تواند به‌راحتی منجر به نشت داده یا شکست سیستم شود. استراتژی فعلی برای جلوگیری از این آشوب، پیاده‌سازی مکانیزم‌های هماهنگی (Coordination) در سطح لایه پروتکلِ ایجنت هاست، نه فقط در لایه مدل زبانی.