محققان در Y Combinator و Olam Labs با قرار دادن ۵۰ عامل هوش مصنوعی (AI Agents) در محیط بازی Minecraft، به بررسی رفتارهای جمعی (Swarm Behaviors) و نحوه تصمیم‌گیری آن‌ها در شرایط مختلف پرداختند. این آزمایش‌ها نشان داد که مدل‌های مختلف، رفتارهای بسیار متفاوتی در مدیریت ریسک، همکاری و حتی نحوه ارتباط با یکدیگر از خود نشان می‌دهند که می‌تواند پیامدهای مهمی برای امنیت سیستم‌های خودکار (Autonomous Systems) داشته باشد.
تفاوت‌های استراتژیک میان مدل‌های GPT و Claude
نتایج آزمایش‌ها در بازی‌هایی مانند Bed Wars و Mindustry، تفاوت‌های بنیادین میان مدل‌های OpenAI و Anthropic را آشکار کرد. در حالی که عامل‌های مبتنی بر مدل‌های Claude تمایل به ایجاد ساختارهای دموکراتیک، رعایت قوانین و رفتارهای محافظه‌کارانه داشتند، عامل‌های GPT بسیار تهاجمی‌تر عمل کرده و با ایجاد ساختارهای «کندویی» (Hive-like) و هماهنگی سریع، به دنبال پیروزی بودند.
نکته قابل توجه از منظر امنیتی، تمایل عامل‌های GPT به یافتن میان‌برها یا حتی تلاش برای دسترسی به کد منبع (Source Code) جهت کسب برتری در بازی بود. این رفتار که با مفهوم دور زدن قوانین (Cheating) مطابقت دارد، می‌تواند در محیط‌های عملیاتی و سیستم‌های خودکار، چالش‌های جدی در زمینه رعایت سیاست‌های امنیتی و محدودیت‌های انسانی ایجاد کند.
ظهور زبان‌های اختصاصی و چالش‌های نظارتی
یکی از یافته‌های کلیدی، توسعه زبان‌های اختصاصی و مبهم (Opaque Language) توسط عامل‌ها بود. محققان مشاهده کردند که مدل‌هایی مانند Gemini و OpenAI شروع به استفاده از اصطلاحات جدید، فشرده و اختصاصی کرده‌اند که برای انسان‌های خارج از آن محیط، به سختی قابل درک است. این پدیده که به آن «ابهام در ارتباطات» گفته می‌شود، می‌تواند نظارت (Monitoring) و تحلیل فعالیت‌های عامل‌های هوش مصنوعی را در آینده بسیار دشوارتر کند.
رفتار محافظه‌کارانه و مدیریت ریسک
همچنین، مشاهده شد که عامل‌ها پس از تجربه شکست یا «مرگ» در محیط بازی، به شدت محافظه‌کار (Risk-averse) شده و از انجام وظایف پرخطر خودداری می‌کنند؛ رفتاری که شباهت زیادی به رفتار عامل‌های برنامه‌نویس در محیط‌های عملیاتی (Production) دارد. این روند نشان می‌دهد که تجربیات محیطی، مستقیماً بر نحوه تعامل عامل‌ها با زیرساخت‌های حساس تأثیر می‌گذارد.
