آخرین اخبار
همهٔ اخبار
امنیت هوش مصنوعی گزارش بحرانیت ۲/۱۰

گوگل پلاگین Elephant-Goldfish را برای کاهش خطاهای کدنویسی هوش مصنوعی (AI) متن‌باز کرد

گوگل پلاگین Elephant-Goldfish را برای کاهش خطاهای کدنویسی هوش مصنوعی (AI) متن‌باز کرد

گوگل پلاگین Elephant-Goldfish Model (EGM) را به صورت متن‌باز (Open-source) منتشر کرد؛ ابزاری داخلی که به عوامل کدنویسی هوش مصنوعی (AI coding agents) اجازه می‌دهد پیش از شروع فرآیند نوشتن کد، یک سند طراحی (Design Document) را نوشته و از آن دفاع کنند.

این پلاگین سند طراحی را به جلسات جدید هوش مصنوعی که هیچ پیش‌زمینه‌ای از گفتگوهای طراحی ندارند، تحویل می‌دهد و از آن‌ها می‌خواهد تا ایرادات موجود در آن را پیدا کنند.

چالش سرعت در عصر هوش مصنوعی

تیم توسعه‌دهنده EGM معتقد است که اگرچه سرعت بالا در استفاده از هوش مصنوعی تحول‌آفرین است، اما همزمان منجر به بحران قابلیت اطمینان (Reliability) شده است. ابزارهای هوش مصنوعی مولد (Generative AI) در افزایش سرعت کدنویسی عالی عمل می‌کنند، اما سرعت بدون داشتن چارچوب‌های حفاظتی (Guardrails) باعث می‌شود که ما به جای نوشتن سریع‌تر کد، در واقع در حال مقیاس‌بندی (Scaling) اشتباهات و باگ‌های خود باشیم. ما به یک تغییر پارادایم نیاز داریم تا نیاز انسان به درک سیستم را با توانایی هوش مصنوعی در اجرا همسو کنیم.

معماری مدل Elephant-Goldfish

این مدل از دو بخش اصلی تشکیل شده است:

  • Elephant (فیل): یک جلسه طولانی‌مدت که کل پروژه، معماری، اهداف و تصمیمات کوچک را در حافظه خود نگه می‌دارد. وظیفه Elephant نوشتن کد نیست، بلکه مصاحبه با توسعه‌دهنده، بحث بر سر انتخاب‌ها و ثبت سوابق است.
  • Goldfish (ماهی قرمز): این بخش فاقد وضعیت (Stateless) است، به این معنی که هیچ حافظه‌ای از گفتگوهای قبلی ندارد. منطق گوگل این است که بازبین (Reviewer) که در بحث طراحی حضور نداشته، دچار نقاط کور (Blind spots) گفتگوهای قبلی نشود.

مراحل عملکرد پلاگین

این پلاگین در سه مرحله عمل می‌کند:

  1. egm-brainstorm: توسعه‌دهنده و Elephant تحت قانون “بدون کدنویسی” با هم بحث و تبادل نظر می‌کنند تا فرضیات را آزمایش کنند.
  2. egm-draft: یک سند طراحی به فرمت Markdown شامل شرح مسئله، برنامه فنی، جایگزین‌های بررسی شده و برنامه پیاده‌سازی تولید می‌شود.
  3. egm-review: در این مرحله، Goldfishها وارد عمل می‌شوند. یکی از آن‌ها باید طرح را برای Elephant بازگو کند تا از درک صحیح اطمینان حاصل شود. سپس چندین Goldfish دیگر به عنوان بازبین‌های سخت‌گیر (Hostile Reviewers) به دنبال موارد مرزی (Edge cases)، وابستگی‌های پنهان و شکاف‌های منطقی می‌گردند. در نهایت، یک Goldfish تصمیم نهایی (Go/No-go) را در مورد صحت مسیرهای فایل و ساختارهای داده می‌گیرد.

اگرچه بررسی نقص‌های امنیتی (Security flaws) به طور مستقیم در لیست وظایف بازبین‌ها نیست، اما از آنجایی که پرسوناها (Personas) قابل شخصی‌سازی هستند، می‌توان یک Goldfish با دیدگاه امنیتی (Security-minded) برای این کار تعریف کرد.

این پلاگین در حال حاضر در محیط توسعه Antigravity گوگل کار می‌کند و نسخه آن در GitHub برای استفاده عمومی در دسترس است.