شرکت Anthropic اعلام کرد که سیستم‌های هوش مصنوعی آن می‌تواند در آینده‌ای نزدیک، بخش‌های نرم‌افزار و امنیت سایبری را به طور بنیادین تغییر دهد. همزمان، این شرکت در اسناد ارائه‌شده به کمیسیون بورس و اوراق بهادار (SEC) پیش از عرضه اولیه سهام (IPO)، فهرستی از ریسک‌های امنیتی و نظارتی جدی را که با آن‌ها روبروست، تشریح کرد.
طبق این اسناد، فناوری‌های Anthropic پتانسیل متحول کردن کل صنایع و اقتصاد را دارند. در حال حاضر، مدل‌های متمرکز بر امنیت سایبری که توسط Anthropic و رقیب آن، OpenAI، توسعه یافته‌اند، می‌توانند با سرعتی نگران‌کننده آسیب‌پذیری‌های امنیتی را شناسایی و اکسپلویت (Exploit) کنند. با این حال، این شرکت اذعان کرده است که مدل‌های خود، از جمله Claude، ریسک‌های جدی برای خود شرکت، کاربران و جهان به همراه دارند.
ریسک‌های ناشی از سوءاستفاده و حملات سایبری
Anthropic پیش‌بینی می‌کند که عوامل تهدید (Threat Actors)، از جمله دولت‌های خارجی، با بهبود توانمندی‌های سایبری خود، تلاش‌های خود را برای دسترسی به مدل‌های پیشرفته (Frontier Models) این شرکت افزایش خواهند داد. این موضوع یک ریسک مداوم ایجاد می‌کند، زیرا مدل‌ها می‌توانند در حملات سایبری انجام شده توسط گروه‌های مجرمانه یا دولت‌ها مورد استفاده قرار گیرند. هرگونه سوءاستفاده موفقیت‌آمیز از پلتفرم‌ها و اپلیکیشن‌های این شرکت می‌تواند منجر به مسئولیت‌های قانونی، آسیب به شهرت و اختلال در روابط تجاری شود.
علاوه بر این، محققان امنیتی مستقل نیز ممکن است از این مدل‌ها برای شناسایی و اکسپلویت آسیب‌پذیری‌ها در سیستم‌های سایر شرکت‌ها استفاده کنند که این امر چالش‌های حقوقی جدیدی را ایجاد می‌کند.
چالش‌های نظارتی و زیرساختی
محیط‌های نظارتی سخت‌گیرانه‌تری در سراسر جهان در حال شکل‌گیری است. برای مثال، قوانین اروپایی مستلزم گزارش‌دهی دقیق نشت داده‌ها (Data Breach) در بازه‌های زمانی بسیار کوتاه هستند که رعایت آن‌ها برای Anthropic می‌تواند دشوار باشد. همچنین، مداخلات فدرال و کنترل‌های صادراتی بر برخی مدل‌ها می‌تواند روند توسعه هوش مصنوعی را مختل کند.
یک نگرانی فنی مهم، ظهور عامل‌های هوش مصنوعی (AI Agents) است. این عامل‌ها به دلیل تعامل با ابزارها، پایگاه‌های داده، APIها و سایر سیستم‌های شخص ثالث، سطوح حمله (Attack Surfaces) جدید و متمایزی ایجاد می‌کنند. این تعاملات می‌تواند منجر به ایجاد حلقه‌های بازخورد (Feedback Loops) شود که در آن مدل یا سیستم‌های متصل به آن، برای ارسال دستورالعمل‌های مخرب به عامل هوش مصنوعی، دستکاری یا کامپروایز (Compromised) شوند.
انتقادات از اولویت‌بندی سرعت بر امنیت
برخی تحلیلگران، از جمله مدیریت تحقیقات در CivAI، معتقدند که Anthropic برخلاف ادعاهای خود، همواره ملاحظات سودآوری را بر امنیت هوش مصنوعی مقدم دانسته است. آن‌ها اشاره می‌کنند که شرکت با سرعت بسیار بالا در حال حرکت است و این رقابت شدید باعث شده تا مدل‌ها به سمت قابلیت‌های خطرناکی مانند هکینگ (Hacking) سوق داده شوند. در واقع، برخی معتقدند این شرکت‌ها به طور عمدی مدل‌ها را برای قابلیت‌های تهاجمی آموزش می‌دهند تا بتوانند محصولات امنیتی تهاجمی را به دولت‌ها بفروشند.
