آخرین اخبار
همهٔ اخبار
گزارش‌ها و تحلیل‌ها گزارش بحرانیت ۳/۱۰

تحلیل ریسک‌های امنیتی ناشی از کدنویسی با هوش مصنوعی و پدیده Vibe Coding

افزایش نرخ کشف باگ‌ها لزوماً به این معنا نیست که تعداد باگ‌های تولید شده نسبت به گذشته بیشتر شده است؛ بلکه احتمالاً باگ‌ها از قبل وجود داشته‌اند و اکنون ما با سرعتی بی‌سابقه در حال شناسایی و رفع آن‌ها هستیم. در واقع، ما شاهد یافتن نمونه‌های جدید از کلاس‌های شناخته‌شده‌ی باگ‌ها با نرخ بسیار بالاتر هستیم، اما این به معنای کشف کلاس‌های کاملاً جدید از باگ‌ها (مانند پدیده‌های قوی سیاه یا Black Swans) نیست.

با این حال، پدیده‌ای که به آن Vibe Coding (کدنویسی مبتنی بر الگوهای ظاهری توسط هوش مصنوعی) گفته می‌شود، قطعاً در حال تولید نمونه‌های جدیدی از باگ‌ها با سرعتی نگران‌کننده است. به همین دلیل، بسیاری از سازمان‌ها اکنون متوجه شده‌اند که جایگزینی کامل نیروی انسانی با هوش مصنوعی، نه تنها از نظر اقتصادی غیربهره‌ور است، بلکه برای تداوم کسب‌وکار بسیار خطرناک نیز هست.

اگرچه هوش مصنوعی مزایای خاصی در حوزه‌های محدود دارد، اما این مزایا معمولاً جنبه عمومی ندارند. حتی قدرت‌های تکنولوژیک در حال درک خطرات استفاده از مدل‌های هوش مصنوعی ارزان‌قیمت هستند. در حال حاضر، نرخ بازگشت سرمایه (ROI) در حوزه هوش مصنوعی عمومی (General AI) با توجه به شرایط اقتصادی فعلی، تضمین‌شده نیست.

علاوه بر این، مسئله‌ی “پاکسازی پیامدهای مخرب” ناشی از هجوم بی‌رویه به سمت هوش مصنوعی مطرح است. هزینه‌های جبران خسارات و رفع آسیب‌های ایجاد شده توسط این فناوری می‌تواند برای شرکت‌هایی که در حال حاضر با چالش‌های مالی روبرو هستند، بسیار سنگین و حتی منجر به ورشکستگی شود.