پرامپتها
Prompts input prompts · prompt
دستورات یا ورودیهای متنی هستند که به یک مدل هوش مصنوعی داده میشود تا پاسخ یا خروجی خاصی تولید کند. در امنیت هوش مصنوعی، پرامپتها میتوانند برای حملات تزریق مورد استفاده قرار گیرند.
مقالات مرتبط
- گوگل کلاود مدلهای OpenAI را به پلتفرم خود اضافه کرد؛ تضمین عدم استفاده از دادههای تجاری برای آموزش مدلها ۲ روز پیش
- بررسی جزئیات یک کمپین هک گسترده با استفاده از هوش مصنوعی (AI-Assisted Hacking) ۴ روز پیش
- استفاده از «بمبهای بافت» (Context Bombs) برای انحراف عاملهای هوش مصنوعی و کاهش موفقیت حملات ۴ روز پیش
- شبیهسازی شتابدهنده Web3 با استفاده از بستههای npm برای انتشار بدافزار و شنود ترافیک عاملهای هوش مصنوعی (AI Agents) ۶ روز پیش
- رویکرد استراتژیک در پیادهسازی AI: تمرکز بر جریان کاری بهجای ابزار ۲۲ مهر
- جاسوسی در OpenAI: استفاده از چتباتهای هوش مصنوعی برای برنامهریزی عملیات شنود فیزیکی ۲۲ مهر
- استفاده از عاملهای هوش مصنوعی خودمختار برای سرقت ۶۰۰ هزار کارت اعتباری از خردهفروشان آنلاین ۱ مهر
- چالش مصرف نامحدود منابع در مدلهای زبانی: تهدیدی برای بودجههای سازمانی ۳۱ شهریور