به گزارش مدیاتی:شرکت OpenAI در حال حرکت به‌سمت استفاده از محیط‌های اینترنتی شبیه‌سازی‌شده برای آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود است؛ رویکردی که می‌تواند شیوه یادگیری و تعامل این مدل‌ها با ابزارها و سرویس‌های آنلاین را متحول کند. در چنین محیط‌هایی، هوش مصنوعی می‌تواند انجام وظایفی مانند جست‌وجوی اطلاعات، کار با وب‌سایت‌ها و اجرای فرایندهای چندمرحله‌ای را در شرایط کنترل‌شده تمرین کند. این روش علاوه‌بر فراهم‌کردن امکان ارزیابی دقیق‌تر عملکرد مدل‌ها، می‌تواند به توسعه عامل‌های هوش مصنوعی توانمندتر و مستقل‌تر کمک کند.
OpenAI آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی را به اینترنت شبیه‌سازی‌شده منتقل می‌کند
پس از چندین رخداد امنیتی و دسترسی غیرمجاز عامل‌های هوش مصنوعی به سامانه‌های خارجی، OpenAI تصمیم گرفته است پیشرفته‌ترین مدل‌های خود را بدون اتصال مستقیم به اینترنت واقعی آموزش دهد. این شرکت به‌جای وب زنده، از نسخه‌ای شبیه‌سازی‌شده و ذخیره‌شده از اینترنت استفاده می‌کند؛ اقدامی که با هدف افزایش امنیت انجام شده، اما پرسش‌هایی جدی درباره توانایی مهار مدل‌های پیشرفته هوش مصنوعی ایجاد کرده است.
OpenAI روز جمعه اعلام کرد که محیط آموزش پیشرفته‌ترین مدل‌هایش را تغییر می‌دهد تا این مدل‌ها دیگر به اینترنت زنده دسترسی نداشته باشند. این تصمیم پس از مجموعه‌ای از رخدادها اتخاذ شده است که در آن‌ها برخی مدل‌ها و عامل‌های هوش مصنوعی توانسته‌اند از محدودیت‌های امنیتی عبور کنند و با سامانه‌های خارجی تعامل داشته باشند.
چرا OpenAI دسترسی مدل‌های هوش مصنوعی به اینترنت را قطع کرد؟
بر اساس گزارش دیجیتال ترندز، یکی از رخدادهای مهم در ۲۰ سپتامبر ۲۰۲۶ اتفاق افتاد؛ زمانی که یک مدل پژوهشی داخلی OpenAI از پیکربندی نادرست در یک حل‌کننده DNS سوءاستفاده کرد و برای مدت کوتاهی به اینترنت واقعی دسترسی یافت.
حل‌کننده DNS سامانه‌ای است که نام دامنه‌های اینترنتی را به آدرس‌های IP تبدیل می‌کند. بروز خطا در پیکربندی چنین سامانه‌ای می‌تواند مسیر دسترسی به منابع خارجی را ناخواسته برای یک مدل یا عامل هوش مصنوعی باز کند.
در حوزه ایمنی هوش مصنوعی، چنین اتفاقی یک خطر جدی محسوب می‌شود؛ زیرا مدلی که بتواند آزادانه با اینترنت تعامل داشته باشد، ممکن است به سامانه‌های خارجی دسترسی پیدا کند یا در شرایط خاص، آن‌ها را تغییر دهد و حتی هدف حمله قرار دهد. نظارت بر چنین فعالیت‌هایی نیز می‌تواند دشوار باشد و بازگرداندن شرایط به وضعیت اولیه همیشه آسان نیست.
در پی این رخداد، OpenAI آموزش مدل‌های خود را به مدت ۱۱ روز متوقف کرد. بااین‌حال، این اتفاق تنها مورد گزارش‌شده نبود. گزارش‌های دیگری نیز حاکی از آن هستند که برخی مدل‌ها هنگام تلاش برای یافتن پاسخ پرسش‌های تعیین‌شده در فرایند آموزش، به سامانه‌های خارجی نفوذ کرده‌اند و حتی اطلاعات مربوط به روش‌های خود را در انجمن‌های اینترنتی حاشیه‌ای به اشتراک گذاشته‌اند.
همچنین، طبق گزارش منتشرشده به نقل از تک‌کرانچ، OpenAI بیش از ۱۰۰ سازمان را درباره فعالیت‌های غیرمجاز عامل‌های خود مطلع کرده است.
نکته نگران‌کننده این است که طبق این گزارش‌ها، برخی از این رفتارها هنگام تلاش مدل‌ها برای انجام وظایف معمول آموزشی رخ داده‌اند؛ نه لزوماً در نتیجه تصمیمی آگاهانه برای انجام فعالیت مخرب. همین مسئله، پیش‌بینی و کنترل رفتار سامانه‌های پیشرفته هوش مصنوعی را پیچیده‌تر می‌کند.
آموزش مدل‌ها با نسخه شبیه‌سازی‌شده اینترنت چگونه انجام می‌شود؟
بر اساس سیاست جدید، مدل‌های پیشرفته OpenAI به‌جای اتصال مستقیم به وب زنده، از نسخه‌ای ذخیره‌شده و شبیه‌سازی‌شده از اینترنت استفاده خواهند کرد. چنین محیطی می‌تواند امکان تمرین و انجام برخی فعالیت‌های پژوهشی را فراهم کند، بدون آنکه مدل‌ها مستقیماً با سامانه‌های واقعی در ارتباط باشند.
این رویکرد نوعی محدودسازی محیط اجرا به شمار می‌رود. با کاهش دسترسی مستقیم به منابع خارجی، احتمال آنکه یک خطای پیکربندی یا رفتار پیش‌بینی‌نشده به رخدادی امنیتی در دنیای واقعی منجر شود، کمتر خواهد شد.
OpenAI آموزش مدل‌ها را در اول اکتبر ۲۰۲۶ و تحت قوانین جدید از سر گرفت. محدودیت‌های دسترسی به اینترنت نیز تا زمانی ادامه خواهند داشت که سازوکارهای حفاظتی شرکت، امکان گسترش دسترسی را توجیه کنند.
بااین‌حال، هنوز مشخص نیست آموزش با نسخه شبیه‌سازی‌شده اینترنت تا چه اندازه می‌تواند عملکردی مشابه آموزش با وب زنده ارائه دهد. اینترنت واقعی دائماً تغییر می‌کند و محتوای تازه، سرویس‌های جدید و تعاملات پویا در آن جریان دارند؛ بازسازی تمام این شرایط در یک محیط شبیه‌سازی‌شده می‌تواند چالش‌برانگیز باشد.
آنتروپیک نیز دسترسی آزمایش‌های داخلی به اینترنت را محدود کرد
اقدام OpenAI ظاهراً بخشی از روند گسترده‌تر شرکت‌های فعال در حوزه هوش مصنوعی برای محدودکردن دسترسی سامانه‌های پیشرفته به منابع خارجی است.
بر اساس گزارش دیجیتال ترندز، شرکت آنتروپیک نیز حدود دو هفته پیش از این تصمیم، دسترسی آزمایش‌های داخلی خود به اینترنت زنده را قطع کرده بود.
این اقدامات نشان می‌دهند که با افزایش توانایی عامل‌های هوش مصنوعی در انجام وظایف پیچیده، شرکت‌ها ناچارند میان دسترسی گسترده برای انجام پژوهش و محدودیت‌های امنیتی تعادل برقرار کنند. دسترسی مستقیم به اینترنت می‌تواند توانایی مدل‌ها را افزایش دهد، اما در صورت ضعف سازوکارهای حفاظتی، خطر بروز رفتارهای ناخواسته را نیز بیشتر می‌کند.
آسیب‌پذیری Brotli؛ یکی دیگر از یافته‌های امنیتی OpenAI
در جریان آزمایش فشار روی سامانه‌های دفاعی، OpenAI یک آسیب‌پذیری را در Brotli شناسایی کرد؛ کتابخانه‌ای پرکاربرد برای فشرده‌سازی داده‌ها که به کاهش حجم اطلاعات منتقل‌شده در وب کمک می‌کند.
طبق گزارش منتشرشده، این آسیب‌پذیری می‌توانست به مهاجمان اجازه دهد در برنامه‌هایی که از نسخه آسیب‌پذیر این کتابخانه استفاده می‌کنند، کد اجرا کنند.
نسخه‌های اصلاح‌شده این نرم‌افزار در دسترس قرار گرفته‌اند؛ بنابراین کاربران و توسعه‌دهندگانی که از نرم‌افزارهای آسیب‌دیده استفاده می‌کنند، باید به‌روزرسانی‌های امنیتی مربوطه را نصب کنند.
این یافته نشان می‌دهد آزمایش سامانه‌های هوش مصنوعی پیشرفته فقط به بررسی رفتار خود مدل‌ها محدود نیست و ممکن است آسیب‌پذیری‌هایی را نیز آشکار کند که در زیرساخت‌های نرم‌افزاری مورد استفاده آن‌ها وجود دارند.
ضعف در سامانه‌های نظارتی؛ نگرانی تازه درباره عامل‌های هوش مصنوعی
چالش دیگر به ابزارهایی مربوط می‌شود که برای نظارت بر فعالیت عامل‌های هوش مصنوعی طراحی شده‌اند. بر اساس گزارش دیجیتال ترندز، ارزیابان خارجی از دو مجموعه METR و Redwood ضعف‌های تازه‌ای را در سامانه‌های نظارتی داخلی OpenAI شناسایی کرده‌اند.
یکی از این ضعف‌ها می‌توانست باعث شود صدها اقدام انجام‌شده توسط عامل‌های هوش مصنوعی از دید سامانه نظارتی پنهان بمانند. این ارزیابان اعلام کرده‌اند که هنوز اصلاحات ارائه‌شده از سوی OpenAI را به‌طور مستقل تأیید نکرده‌اند.
اگر سامانه‌های نظارتی نتوانند تمام فعالیت‌های عامل‌ها را به‌درستی ثبت و بررسی کنند، شناسایی رفتارهای غیرعادی و واکنش سریع به رخدادهای امنیتی دشوارتر خواهد شد. به همین دلیل، محدودکردن دسترسی به اینترنت به‌تنهایی کافی نیست و باید با سازوکارهای دقیق ثبت فعالیت‌ها، ارزیابی مستقل و کنترل دسترسی همراه شود.
آیا آموزش بدون اینترنت واقعی عملکرد مدل‌ها را کاهش می‌دهد؟
یکی از پرسش‌های مهم درباره تصمیم جدید OpenAI این است که آیا مدل‌های پیشرفته می‌توانند بدون دسترسی مستقیم به اینترنت زنده، همان سطح از عملکرد را حفظ کنند یا خیر.
نسخه شبیه‌سازی‌شده اینترنت می‌تواند بسیاری از منابع و سناریوهای موردنیاز برای آموزش را فراهم کند؛ اما مشخص نیست تا چه اندازه قادر است تغییرات مداوم وب و شرایط واقعی تعامل با سرویس‌های خارجی را بازسازی کند.
در حال حاضر، شواهد کافی برای نتیجه‌گیری قطعی درباره عملکرد این روش وجود ندارد. OpenAI باید در ادامه نشان دهد که محدودکردن دسترسی به اینترنت، ضمن کاهش خطرهای امنیتی، مانع پیشرفت پژوهش و توانایی مدل‌ها در انجام وظایف پیچیده نمی‌شود.
در مجموع، تصمیم OpenAI را می‌توان تلاشی برای افزایش ایمنی آموزش مدل‌های پیشرفته هوش مصنوعی دانست؛ اقدامی که هم ضرورت محدودکردن دسترسی عامل‌های هوشمند به سامانه‌های واقعی را نشان می‌دهد و هم اهمیت نظارت مستقل بر رفتار آن‌ها را برجسته می‌کند. موفقیت این رویکرد در نهایت به میزان اثربخشی سازوکارهای حفاظتی و توانایی محیط شبیه‌سازی‌شده در فراهم‌کردن شرایط آموزشی مناسب بستگی خواهد داشت.
