‏چطور با فریب هوش مصنوعی، ۵۰ هزار دلار درآمد کسب کنیم؟

در دنیای پرشتاب هوش مصنوعی، حالا جیلبریک یا همان فریب دادن مدل‌های زبانی، به یک رقابت بزرگ تبدیل شده است. مسابقه HackAPrompt 2.0 که با همکاری هکر معروف «پلینی پرامپتر» برگزار می‌شود، به شرکت‌کنندگان این فرصت را می‌دهد که با کشف آسیب‌پذیری‌های چت‌بات‌ها، تا ۵۰ هزار دلار پاداش دریافت کنند.

مسابقه‌ای برای شکار آسیب‌پذیری‌های خطرناک

HackAPrompt 2.0 با هدف بررسی ضعف‌های امنیتی مدل‌های زبانی مانند ChatGPT و Claude برگزار می‌شود. این مسابقه از سوی Learn Prompting که یک سازمان پژوهشی در زمینه مهندسی پرامپت است برگزار شده و در مجموع ۵۰۰ هزار دلار جایزه برای شرکت‌کنندگان در نظر گرفته است.

مهم‌ترین جوایز – هر کدام به ارزش ۵۰ هزار دلار – به کسانی تعلق می‌گیرد که موفق شوند چت‌بات‌ها را وادار به ارائه اطلاعات درباره سلاح‌های شیمیایی، بیولوژیکی، هسته‌ای و مواد منفجره (CBRNE) کنند.

پلینی پرامپتر: آموزش جیلبریک به صورت عمومی

بر خلاف هکرهای سایه‌نشین، پلینی پرامپتر به صورت عمومی فعالیت می‌کند و در دیسکورد شخصی خود به هزاران کاربر آموزش می‌دهد که چگونه از محدودیت‌های مدل‌های زبانی عبور کنند. او با مخزن‌های کد در گیت‌هاب مانند L1B3RT4S و CL4R1T4S، تکنیک‌هایی از نقش‌آفرینی ساده تا فریب زبانی با کدگذاری L33t را آموزش داده است.

او در HackAPrompt 2.0 بخشی اختصاصی به نام بخش پلینی راه‌اندازی کرده که شامل چالش‌هایی در موضوعاتی مانند تاریخ و شیمی است. هدف اصلی این بخش، انتخاب استعدادهای برتر برای تیم ضربت پلینی است.

هک اخلاقی یا بازی با آتش؟

جیلبریک کردن مدل‌های زبانی نوعی از هک اخلاقی یا کلاه‌سفید محسوب می‌شود. این تکنیک‌ها سعی دارند به جای آسیب‌زدن، نقاط ضعف سیستم را به نمایش بگذارند تا در نسخه‌های بعدی اصلاح شوند. اولین دوره این مسابقه در سال ۲۰۲۳ برگزار شد و بیش از ۶۰۰ هزار پرامپت مخرب ارسال شد که به‌صورت عمومی در Hugging Face منتشر شدند.

نسخه ۲۰۲۵ ساختاری مشابه فصل‌بندی بازی‌های ویدیویی دارد. هر بخش یک نوع آسیب‌پذیری را هدف می‌گیرد:

• بخش CBRNE: یافتن راه‌هایی برای دور زدن محافظ‌های مدل و دریافت اطلاعات درباره سلاح‌ها
• بخش Agents: فریب عامل‌های هوش مصنوعی برای انجام دستورات خطرناک در دنیای واقعی
• بخش پلینی: چالش‌های خلاقانه با محوریت مهندسی اجتماعی و پرامپت‌نویسی پیشرفته

جدول بخش‌های HackAPrompt 2.0

پرسش‌های متداول

هدف اصلی HackAPrompt 2.0 چیست؟
شناسایی و تحلیل آسیب‌پذیری‌های مدل‌های هوش مصنوعی برای افزایش ایمنی و درک بهتر از خطرات واقعی.

پلینی پرامپتر کیست؟
هکری شناخته‌شده در زمینه جیلبریک هوش مصنوعی که به‌صورت عمومی به آموزش تکنیک‌های عبور از محدودیت‌های چت‌بات‌ها می‌پردازد.

چرا بعضی چالش‌ها جایزه ۵۰,۰۰۰ دلاری دارند؟
چون کشف این نوع آسیب‌پذیری‌ها در حوزه اطلاعات خطرناک (مانند تسلیحات) اهمیت حیاتی دارد و به امنیت جهانی مربوط است.

با عمومی شدن جیلبریک هوش مصنوعی، حالا درک خطرات و مقاومت مدل‌ها در برابر فریب، دیگر تنها کار توسعه‌دهندگان نیست بلکه یک تلاش جمعی است.