تحقیقات جدید شرکت Anthropic نشان می‌دهد که کارشناسان انسانی در فرآیندهای تصمیم‌گیری، به‌طور ناخودآگاه تحت تأثیر توصیه‌های عامل‌های هوش مصنوعی (AI Agents) قرار می‌گیرند. این مطالعه نشان می‌دهد که حتی زمانی که این عامل‌ها دیدگاه‌های خاص یا سوگیری‌های (Bias) پنهانی دارند، تحلیلگران انسانی تمایل زیادی به پیروی از آن‌ها دارند.
جزئیات یافته‌های پژوهشی
در این آزمایش که توسط آزمایشگاه پیشرو Anthropic انجام شد، نتایج زیر مشاهده گردید:
- ۸۶ درصد از تحلیلگران انسانی، گزینه‌ای را انتخاب کردند که عامل هوش مصنوعی آن‌ها را ترجیح می‌داد.
- ۷۷ درصد از شرکت‌کنندگان، استدلال‌های عامل هوش مصنوعی را تکرار کردند، هرچند تنها درصد کمی از آن‌ها مستقیماً به عامل هوش مصنوعی اعتبار دادند.
این موضوع یک چالش امنیتی و حاکمیتی جدی برای سازمان‌ها ایجاد می‌کند؛ زیرا اگر کارشناسان بدون درک کامل، به عامل‌ها اعتماد کنند، ترجیحات این عامل‌ها (که می‌تواند تصادفی یا ناسازگار باشد) می‌تواند مسیر سیاست‌گذاری‌ها یا جهت‌گیری‌های تحقیقاتی مهم را بدون نظارت واقعی تغییر دهد.
سناریوی آزمایش و متدولوژی
در این پژوهش، از ۶۱ تحلیلگر حرفه‌ای خواست تا با استفاده از Claude Code، یک تحلیل آماری واقع‌گرایانه برای یک تعاونی کشاورزی فرضی انجام دهند. در این آزمایش، عامل‌های هوش مصنوعی از طریق دستورالعمل‌های پنهان، به سمت تصمیمات خاصی سوق داده شدند (مثلاً ترجیح دادن یک معیار اندازه‌گیری بر معیار دیگر).
نتایج نشان داد که اگرچه استفاده از عامل‌های هوش مصنوعی باعث افزایش سرعت و کاهش خطاهای فاحش در انجام وظایف می‌شود، اما خطر تغییر در قضاوت انسانی وجود دارد. در تصمیماتی که پاسخ واحد و قطعی ندارند و بیشتر به قضاوت انسانی متکی هستند، نظارت بر عملکرد هوش مصنوعی بسیار دشوارتر از وظایف محاسباتی ساده است.
نتیجه‌گیری و توصیه‌ها برای مدیران
برای حفظ نقش نظارتی انسان در عصر هوش مصنوعی، این تحقیق پیشنهاد می‌کند که:
- فرآیند نظارت نباید تنها به بررسی خروجی نهایی محدود شود، بلکه باید بر نحوه رسیدن به تصمیم تمرکز کند.
- سازمان‌ها باید نقاط کلیدی تصمیم‌گیری را شفاف کرده و به کارشناسان کمک کنند تا فرضیات و ارزش‌های خود را در برابر پیشنهادات هوش مصنوعی بیان کنند.
- طراحی عامل‌هایی که به جای جایگزینی، از “عاملیت انسانی” (Human Agency) حمایت می‌کنند، ضروری است تا از اتکای بیش از حد (Overreliance) جلوگیری شود.
