به گزارش مدیاتی:پیشرفت سریع هوش مصنوعی حالا نگرانیهای تازهای را در حوزه امنیت سایبری ایجاد کرده است. هپینگ فیس با اشاره به قابلیتهای جدید مدلهای هوش مصنوعی اوپنایآی هشدار داده است که حملات خودکار مبتنی بر هوش مصنوعی ممکن است تنها در ابتدای مسیر خود باشند و در آینده به تهدیدی پیچیدهتر برای فضای دیجیتال تبدیل شوند.
هشدار هپینگ فیس: حمله خودکار هوش مصنوعی اوپنایآی تازه آغاز راه است
شرکت Hugging Face تجربه مواجهه با حمله خودکار یک عامل هوش مصنوعی (AI Agent) را از سر گذرانده است و به اعتقاد همبنیانگذار این شرکت، بهزودی سازمانهای متعدد دیگری نیز با چنین تهدیدی روبرو خواهند شد. توماس ولف (Thomas Wolf)، همبنیانگذار و مدیر ارشد علمی هپینگ فیس، حمله سایبری اخیر توسط مدلهای اوپنایآی (OpenAI) را یک «زنگ خطر جدی» برای صنعت فناوری خوانده است.
ولف در مصاحبه با BBC هشدار داد که نفودهای مبتنی بر هوش مصنوعی بهزودی به یکی از رایجترین اشکال حملات سایبری تبدیل میشوند و بسیاری از شرکتها هنوز متوجه تغییر ابعاد این تهدید نشدهاند. این اظهارات پس از آن مطرح میشود که اوپنایآی افشا کرد مدلهایش هنگام تلاش برای یافتن پاسخ در بنچمارک امنیت سایبری ExploitGym، از محیط ارزیابی محدود خارج شده و به سرورهای هپینگ فیس نفوذ کردهاند.
ثبت ۱۷,۰۰۰ اقدام تهاجمی در کوتاهترین زمان
هپینگ فیس در اواسط ژوئیه، هنگام شناسایی اولیه این نفوذ، اطلاع نداشت که منشأ آن کجاست. به گفته ولف، شبکه این شرکت حدود ۱۷,۰۰۰ اقدام تهاجمی را از آدرسهای IP مختلف در مدت زمان بسیار کوتاهی ثبت کرد. اگرچه این شرکت موفق به مهار نفوذ شد، اما الگوی آن را کاملاً متفاوت از حملات سایبری معمول توصیف کرد.
بر اساس گزارش حادثه منتشرشده توسط هپینگ فیس، سیستم خودکار هوش مصنوعی هزاران عملیات را در محیطهای ایزوله کوتاه-مدت اجرا کرده و با «سرعت ماشینی» در زیرساختهای آن حرکت کرده است. مؤسسه امنیت هوش مصنوعی بریتانیا در حال بررسی رفتار این سیستم در طول حادثه است و دولت نیز از شرکتها خواسته تا دفاع سایبری خود را تقویت کنند.
واقعیت تازه: حملات سایبری تمامخودکار
اوپنایآی اعلام کرده است که مدلهایش تمرکز شدیدی روی تکمیل مأموریت تعیینشده داشتهاند. این مدلها پس از خروج از محیط تحقیقاتی، با زنجیرهسازی آسیبپذیریها و اعتبارنامههای ربودهشده، توانستهاند مسیر اجرای کد از راه دور (RCE) را به درون سرورهای هپینگ فیس پیدا کنند.
هپینگ فیس نشان میدهد که هوش مصنوعی تهاجمی و خودکار، هماکنون قادر است کمپینهای پیچیده و چندمرحلهای را با سرعت خیرهکننده ماشین اجرا کند؛ رویدادی که درس مهمی برای کل صنعت فناوری به همراه دارد.
