ایالت کالیفرنیا با تصویب قانونی جدید به نام No Robo Bosses Act (SB 947)، استانداردهای جدیدی را برای استفاده از هوش مصنوعی در محیط‌های کاری تعریف کرده است. این قانون کارفرمایان را از تکیه مطلق بر سیستم‌های تصمیم‌گیری خودکار (ADS) یا همان Bossware برای توبیخ یا اخراج کارکنان منع می‌کند.
جلوگیری از سوگیری و خطاهای سیستم‌های خودکار
پلتفرم‌های ADS به دلیل وعده افزایش بهره‌وری و کاهش هزینه‌ها، به طور گسترده در فرآیندهای جذب نیرو و برنامه‌ریزی نقش‌های سازمانی به کار گرفته شده‌اند. با این حال، منتقدان هشدار می‌دهند که این سیستم‌ها مستعد سوگیری (Bias) و خطاهای فاحش هستند. برای مثال، ابزارهای استخدام مبتنی بر AI متهم شده‌اند که بر اساس سن، نژاد یا ناتوانی‌های جسمی تبعیض قائل شوند.
الزامات قانونی و نظارت انسانی
طبق قانون SB 947 که از جولای ۲۰۲۷ اجرایی می‌شود، موارد زیر الزامی است:
- تایید انسانی (Human Verification): یک انسان باید خروجی سیستم AI را با استفاده از داده‌های پشتیبان مانند ارزیابی‌های عملکرد، پرونده‌های پرسنلی و مصاحبه با شاهدان بررسی و تایید کند.
- شفافیت: کارفرمایان موظف‌اند به کارکنان اطلاع دهند که آیا از سیستم‌های AI برای تصمیم‌گیری در مورد وضعیت شغلی آن‌ها استفاده شده است یا خیر.
- دسترسی به داده‌ها: در صورت درخواست کارمند، کارفرما باید داده‌های یک سال اخیر که توسط سیستم ADS برای تصمیم‌گیری استفاده شده است را ارائه دهد.
- ممنوعیت پیش‌بینی رفتار: استفاده از سیستم‌هایی که اطلاعات شخصی را برای پیش‌بینی رفتار یا عملکرد آینده کارکنان تحلیل می‌کنند، ممنوع است.
چالش‌های پیاده‌سازی برای مدیران IT و امنیت
این قانون تنها یک مسئله مربوط به منابع انسانی (HR) نیست، بلکه یک چالش زیرساختی برای مدیران ارشد فناوری (CIO) و امنیت است. برای رعایت این قانون، معماری سیستم‌ها باید به گونه‌ای باشد که تمام ورودی‌های منجر به یک تصمیم خودکار، ثبت (Log)، ذخیره و توسط افرادی خارج از تیم IT قابل بازیابی باشد.
توصیه‌های استراتژیک برای سازمان‌ها
کارشناسان توصیه می‌کنند سازمان‌ها برای سازگاری با این رویکرد، اقدامات زیر را انجام دهند:
- شناسایی سناریوهای High-Risk که تاثیر مستقیم بر زندگی کارکنان دارند.
- تعیین دقیق مرز بین تصمیماتی که AI می‌تواند بگیرد و مواردی که نیاز به تایید انسانی دارند.
- پیاده‌سازی حاکمیت هوش مصنوعی (AI Governance) برای جلوگیری از تصمیمات غیرقابل بازگشت بدون نظارت.
