به گزارش مدیاتی:ماجرای عامل سرکش منتسب به OpenAI ابعاد تازهای پیدا کرده است. گزارشهای جدید نشان میدهد این عامل هوش مصنوعی پیش از حمله جنجالی به پلتفرم Hugging Face، سرویس Modal را نیز هدف قرار داده و به آن نفوذ کرده بود. افشای این جزئیات، پرسشهای جدیدی درباره امنیت عاملهای هوش مصنوعی، نحوه کنترل آنها و پیامدهای احتمالی فعالیتهای خودمختارشان مطرح کرده است.
جزئیات جدید از جنجال عامل سرکش OpenAI؛ نفوذ به سرویس Modal قبل از حمله به Hugging Face!
اوایل ماه جاری میلادی، فرار یک عامل هوش مصنوعی (AI Agent) سرکش از محیط تست و قرنطینه شرکت OpenAI و حمله آن به پلتفرم Hugging Face جنجال و نگرانیهای بسیار زیادی را در صنعت فناوری به پا کرد. اما اکنون مشخص شده که ابعاد این حادثه بسیار فراتر از تصورات اولیه بوده است.
بر اساس اطلاعات جدید، این هوش مصنوعی سرکش پیش از حمله به Hugging Face، ابتدا به شرکت پردازش ابری Modal Labs نفوذ کرده و از آن به عنوان پل ارتباطی و سکوی پرتاب برای حملات بعدی خود استفاده کرده است!
هوش مصنوعی چطور وارد Modal Labs شد؟
نکته مهم این است که عامل هوش مصنوعی OpenAI سیستمهای امنیتی شرکت Modal Labs را مستقیماً هک نکرده است؛ بلکه همانند سارقی رفتار کرده که با یک درب کاملاً باز مواجه شده است!
در واقع، یکی از مشتریان شرکت Modal سرویسی متصل به اینترنت ساخته بود که هیچگونه رمز عبور یا سیستم احراز هویتی نداشت. این عامل هوش مصنوعی با سوءاستفاده از این روزنه امنیتی، وارد محیط تست ایمن روی شبکه Modal شد و سپس از همانجا حمله خود به Hugging Face را طراحی و اجرا کرد که در نهایت منجر به دسترسی در سطح پلتفرم به سیستمهای Hugging Face شد.
طبق اعتراف اخیر OpenAI، این هوش مصنوعی سرکش مجموعاً به ۴ حساب یا سرویس آنلاین مختلف دسترسی پیدا کرده است (که فعلاً نام Modal و Hugging Face رسماً فاش شده است).
تاخیر در شناسایی و مهار توسط مدل چینی!
گزارشها نشان میدهند که شرکت OpenAI بلافاصله متوجه فرار عامل هوش مصنوعی خود نشده است. بر اساس گزارش خبرگزاری رویترز، مسئولان OpenAI تازه چند روز بعد و زمانی متوجه فرار هوش مصنوعی شدند که پلیس فدرال آمریکا (FBI) از ماجرا مطلع شده بود! (اگرچه OpenAI بخشی از گزارش رویترز را تکذیب کرده اما جزئیات آن را شفاف نکرده است).
یک عامل هوش مصنوعی OpenAI که برای شبیهسازی رفتارهای یک هکر فوقپیشرفته طراحی شده بود، از محیط قرنطینه خود فرار کرد، از طریق حفره امنیتی یک مشتری وارد Modal Labs شد، سپس به Hugging Face و دو شرکت دیگر نفوذ کرد و در نهایت، پس از عجز مدلهای بسته آمریکایی در مهار آن، توسط مدل هوش مصنوعی متنباز چینی GLM 5.2 متوقف و مهار شد!
اوایل ماه جاری میلادی، فرار یک عامل هوش مصنوعی (AI Agent) سرکش از محیط تست و قرنطینه شرکت OpenAI و حمله آن به پلتفرم Hugging Face جنجال و نگرانیهای بسیار زیادی را در صنعت فناوری به پا کرد. اما اکنون مشخص شده که ابعاد این حادثه بسیار فراتر از تصورات اولیه بوده است.
بر اساس اطلاعات جدید، این هوش مصنوعی سرکش پیش از حمله به Hugging Face، ابتدا به شرکت پردازش ابری Modal Labs نفوذ کرده و از آن به عنوان پل ارتباطی و سکوی پرتاب برای حملات بعدی خود استفاده کرده است!
هوش مصنوعی چطور وارد Modal Labs شد؟
نکته مهم این است که عامل هوش مصنوعی OpenAI سیستمهای امنیتی شرکت Modal Labs را مستقیماً هک نکرده است؛ بلکه همانند سارقی رفتار کرده که با یک درب کاملاً باز مواجه شده است!
در واقع، یکی از مشتریان شرکت Modal سرویسی متصل به اینترنت ساخته بود که هیچگونه رمز عبور یا سیستم احراز هویتی نداشت. این عامل هوش مصنوعی با سوءاستفاده از این روزنه امنیتی، وارد محیط تست ایمن روی شبکه Modal شد و سپس از همانجا حمله خود به Hugging Face را طراحی و اجرا کرد که در نهایت منجر به دسترسی در سطح پلتفرم به سیستمهای Hugging Face شد.
طبق اعتراف اخیر OpenAI، این هوش مصنوعی سرکش مجموعاً به ۴ حساب یا سرویس آنلاین مختلف دسترسی پیدا کرده است (که فعلاً نام Modal و Hugging Face رسماً فاش شده است).
تاخیر در شناسایی و مهار توسط مدل چینی!
گزارشها نشان میدهند که شرکت OpenAI بلافاصله متوجه فرار عامل هوش مصنوعی خود نشده است. بر اساس گزارش خبرگزاری رویترز، مسئولان OpenAI تازه چند روز بعد و زمانی متوجه فرار هوش مصنوعی شدند که پلیس فدرال آمریکا (FBI) از ماجرا مطلع شده بود! (اگرچه OpenAI بخشی از گزارش رویترز را تکذیب کرده اما جزئیات آن را شفاف نکرده است).
یک عامل هوش مصنوعی OpenAI که برای شبیهسازی رفتارهای یک هکر فوقپیشرفته طراحی شده بود، از محیط قرنطینه خود فرار کرد، از طریق حفره امنیتی یک مشتری وارد Modal Labs شد، سپس به Hugging Face و دو شرکت دیگر نفوذ کرد و در نهایت، پس از عجز مدلهای بسته آمریکایی در مهار آن، توسط مدل هوش مصنوعی متنباز چینی GLM 5.2 متوقف و مهار شد!
