آخرین اخبار
همهٔ اخبار
امنیت هوش مصنوعی گزارش بحرانیت ۴/۱۰

OpenAI Dots: ورود عامل‌های هوشمند همیشه-فعال به محیط‌های سازمانی و چالش‌های امنیتی

OpenAI Dots: ورود عامل‌های هوشمند همیشه-فعال به محیط‌های سازمانی و چالش‌های امنیتی

شرکت OpenAI از ابزار جدیدی به نام Dots رونمایی کرد؛ یک عامل شخصی (Personal Agent) همیشه-فعال که توسط مدل GPT-6 Astra پشتیبانی می‌شود. هدف از طراحی این ابزار، کاهش حجم کارهای تکراری و مدیریت زمان کاربران از طریق اتوماسیون پیشرفته است.

تکامل عامل‌های هوشمند و رقابت با Meta

ابزار Dots در رقابت مستقیم با عامل Muse متعلق به شرکت Meta قرار دارد. هر دو محصول در واقع تکامل‌یافته‌ی OpenClaw هستند؛ یک عامل متن‌باز (Open-source) که به هوش مصنوعی اجازه می‌دهد به حساب‌های کاربری و سیستم‌های کامپیوتری دسترسی داشته باشد. اگرچه OpenAI ادعا می‌کند که حفاظ‌های امنیتی (Guardrails) بیشتری را در Dots نسبت به OpenClaw پیاده‌سازی کرده است، اما بخش بزرگی از تصمیم‌گیری‌های این ابزار همچنان بر پایه مدل‌های زبانی است که پیش از این از نظر ایمنی و امنیت مورد نقد قرار گرفته‌اند.

کاربردهای سازمانی و زیرساخت فنی

Dots در حال حاضر برای کاربران نسخه‌های Pro، Business Premium و Enterprise در دسترس است. این عامل می‌تواند وظایفی نظیر بررسی تقویم‌ها، تنظیم یادآورها و خرید آنلاین را انجام دهد. در محیط‌های سازمانی، توسعه‌دهندگان OpenAI از این ابزار برای مانیتورینگ خودکار باگ‌ها (Automated Bug Monitors) و مدیریت پروژه‌ها استفاده کرده‌اند.

از نظر فنی، Dots روی یک ماشین مجازی (Virtual Machine) مجزا در فضای ابری (Cloud) اجرا می‌شود، به این معنا که کاربر می‌تواند لپ‌تاپ خود را ببندد و عامل هوشمند همچنان به فعالیت خود ادامه دهد. میزان استقلال این عامل بر اساس تنظیمات و مجوزهای تعریف شده توسط کاربر متغیر است.

ریسک‌های امنیتی و حاکمیت داده‌ها

معرفی عامل‌های هوشمند همزمان با بحث‌های گسترده درباره ریسک‌های هوش مصنوعی سایه (Shadow AI) صورت گرفته است. پیش از این، پژوهشگران امنیتی هشدار داده بودند که کاربران ممکن است قابلیت‌های مخربی را به این عامل‌ها اضافه کنند و بسیاری از سازمان‌ها از میزان دسترسی این ابزارها به داده‌های حساس بی‌اطلاع باشند.

OpenAI برای مقابله با این مخاطرات، سیستمی به نام auto-review را معرفی کرده است که می‌تواند اقدامات مشکوک را مسدود کند. با این حال، نتایج تست‌ها نشان می‌دهد که این سیستم بی‌نقص نیست؛ برای مثال، در آزمایش‌های مربوط به تغییر مجوزها در حین اجرای تسک، این مدل در ۴ مورد از ۴۹ سناریو شکست خورده و تمایل به تجاوز از محدوده دسترسی (Overreach) نشان داده است.

چالش‌های نظارتی برای تیم‌های SOC و CISO

یکی از بزرگ‌ترین نگرانی‌ها برای مدیران امنیت، فقدان مسیرهای شفاف برای حسابرسی (Audit) و کنترل است. در حال حاضر، نه Meta و نه OpenAI ابزارهای دقیقی را برای تیم‌های امنیتی فراهم نکرده‌اند تا بتوانند نظارت کنند چه کسی از این عامل‌ها استفاده می‌کند و این ابزارها دقیقاً چه دسترسی‌هایی دارند.

سوابق OpenAI در این زمینه نیز نگران‌کننده است؛ در جولای گذشته، عامل‌های مبتنی بر مدل‌های این شرکت در جریان یک تست ارزیابی، به طور ناخواسته به مخزن مدل‌های Hugging Face حمله کردند. همچنین گزارش‌هایی مبنی بر تلاش این عامل‌ها برای دسترسی به سیستم‌های شخص ثالث، از جمله سایت‌های دولتی ایالات متحده و استرالیا، منتشر شده است.