به گزارش مدیاتی:شرکت مون‌شات با محدود کردن قابلیت‌های مرتبط با هک در مدل هوش مصنوعی Kimi، تلاش می‌کند خطرات امنیتی ناشی از استفاده از این ابزار را کاهش دهد؛ بدون آنکه توانایی آن در تولید و تحلیل کد را از بین ببرد. این رویکرد نشان می‌دهد توسعه‌دهندگان هوش مصنوعی به‌دنبال ایجاد تعادل میان حفظ قابلیت‌های کاربردی مدل‌ها و جلوگیری از سوءاستفاده‌های احتمالی هستند. با این تغییرات، توانایی کدنویسی Kimi همچنان حفظ می‌شود، اما دسترسی به برخی قابلیت‌های مرتبط با فعالیت‌های مخرب محدود خواهد شد.
مون‌شات قابلیت‌های هک مدل هوش مصنوعی Kimi را محدود می‌کند؛ توانایی کدنویسی حفظ می‌شود
استارتاپ چینی مون‌شات (Moonshot AI) با محدود کردن توانایی‌های سایبری مدل هوش مصنوعی جدید خود، Kimi K3.1 Pro، تلاش می‌کند میان افزایش قدرت هوش مصنوعی و جلوگیری از سوءاستفاده‌های امنیتی تعادل برقرار کند. این شرکت اعلام کرده است که قابلیت‌های عمومی کدنویسی مدل را حفظ می‌کند، اما با حذف داده‌های مرتبط با حملات سایبری از فرایند آموزش، توانایی آن را در اجرای عملیات تهاجمی کاهش می‌دهد.
مون‌شات در ۲۴ اکتبر از مدل Kimi K3.1 Pro رونمایی کرد. این مدل با حدود ۳ تریلیون پارامتر، در دسته مدل‌های هوش مصنوعی با وزن‌های باز (Open-weight) قرار می‌گیرد. برخلاف بسیاری از سرویس‌های هوش مصنوعی که فقط از طریق سرورهای شرکت ارائه‌دهنده در دسترس هستند، مدل‌های دارای وزن باز امکان دانلود فایل‌های اصلی مدل، اجرای آن‌ها روی سیستم‌های شخصی یا سازمانی و ایجاد تغییر در نحوه عملکردشان را برای توسعه‌دهندگان فراهم می‌کنند.
این شرکت قصد دارد وزن‌های مدل جدید خود را در ۴ نوامبر منتشر کند تا جامعه گسترده‌تری از توسعه‌دهندگان به آن دسترسی داشته باشند.
مون‌شات قابلیت‌های هک را کاهش می‌دهد، بدون آنکه کدنویسی را قربانی کند
به گفته مون‌شات، این شرکت داده‌های مرتبط با امنیت سایبری را از مجموعه داده‌های آموزشی و محیط‌های یادگیری تقویتی مدل حذف کرده است. هدف از این اقدام، کاهش توانایی Kimi K3.1 Pro در انجام عملیات تهاجمی سایبری، بدون از بین بردن قابلیت‌های عمومی آن در برنامه‌نویسی است.
نتایج آزمایش‌های داخلی مون‌شات نشان می‌دهد که این محدودیت‌ها بر عملکرد مدل در حوزه امنیت سایبری تأثیر گذاشته‌اند. Kimi K3.1 Pro در آزمون امنیت سایبری این شرکت، که شامل شناسایی و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری در محیطی کنترل‌شده بود، امتیاز ۸۱ درصد را کسب کرد. نسخه‌ای مشابه از مدل که اقدامات کاهش ریسک روی آن اعمال نشده بود، به امتیاز ۹۰٫۵ درصد رسید.
بنابراین، امتیاز مدل جدید ۹٫۵ واحد درصد کاهش یافته است. البته نتایج این آزمایش‌ها هنوز به‌صورت مستقل تأیید نشده‌اند و گزارش‌ها حاکی از آن است که Kimi K3.1 Pro همچنان عملکرد بهتری از نسل قبلی خود دارد.
این موضوع اهمیت زیادی دارد؛ زیرا قابلیت‌های هوش مصنوعی می‌توانند هم برای دفاع از سیستم‌ها و هم برای حمله به آن‌ها استفاده شوند. تیم‌های امنیتی می‌توانند از این فناوری برای شناسایی نقاط ضعف نرم‌افزارها پیش از سوءاستفاده مهاجمان بهره ببرند. در مقابل، مهاجمان نیز قادرند از مدل‌هایی که کد می‌نویسند، با ابزارهای نرم‌افزاری کار می‌کنند و وظایف چندمرحله‌ای را انجام می‌دهند، برای خودکارسازی بخش‌هایی از حملات سایبری استفاده کنند.
مون‌شات معتقد است مدل‌های هوش مصنوعی با وزن‌های باز می‌توانند به سازمان‌ها کمک کنند تا نرم‌افزارهای قدیمی یا کمتر بررسی‌شده را ارزیابی و ایمن‌سازی کنند. بااین‌حال، پس از انتشار عمومی فایل‌های مدل، کنترل شرکت سازنده بر نحوه استفاده از آن‌ها کاهش می‌یابد و تضمینی وجود ندارد که محدودیت‌های امنیتی در تمام نسخه‌های مورد استفاده حفظ شوند.
نگرانی‌ها درباره امنیت هوش مصنوعی به مسئله‌ای جهانی تبدیل شده است
اقدام مون‌شات در شرایطی انجام می‌شود که دولت‌ها و شرکت‌های فناوری درباره تأثیر مدل‌های پیشرفته هوش مصنوعی بر امنیت سایبری نگرانی دارند. افزایش توانایی این مدل‌ها ممکن است اجرای حملات پیچیده را ارزان‌تر و آسان‌تر کند و در نتیجه، تهدیدهای سایبری را گسترش دهد.
چین نیز پیشنهادهایی برای اعمال محدودیت‌های صادراتی بر فناوری تولید بدافزار با استفاده از هوش مصنوعی و برخی ابزارهای کشف آسیب‌پذیری با کمک این فناوری مطرح کرده است. این پیشنهادها همچنان در مرحله دریافت نظرهای عمومی قرار دارند.
برای کسب‌وکارها و کاربران عادی، پیامدهای چنین تحولاتی تنها به رایانه‌های شخصی محدود نمی‌شود. افزایش حملات خودکار می‌تواند فشار بیشتری بر سازمان‌های مسئول حفاظت از اطلاعات شخصی، سامانه‌های مالی و زیرساخت‌های حیاتی وارد کند. از سوی دیگر، محدود کردن بیش‌ازحد پژوهش‌های امنیتی مبتنی بر هوش مصنوعی نیز ممکن است شناسایی برخی آسیب‌پذیری‌ها را دشوارتر کند.
پنجره متنی یک میلیون توکنی و نسخه پرسرعت Kimi
مدل Kimi K3.1 Pro از پنجره متنی یک میلیون توکنی بهره می‌برد؛ قابلیتی که به آن اجازه می‌دهد حجم زیادی از اطلاعات را در یک نوبت پردازش کند. مون‌شات همچنین نسخه‌ای با نام Highspeed معرفی کرده است که به گفته این شرکت، دو تا سه برابر سریع‌تر از نسخه استاندارد اجرا می‌شود.
انتشار عمومی وزن‌های Kimi K3.1 Pro در ۴ نوامبر، آزمون مهم بعدی برای این مدل خواهد بود. پس از آن، توسعه‌دهندگان و پژوهشگران امنیتی می‌توانند دسترسی گسترده‌تری به قابلیت‌های آن داشته باشند و عملکردش را بررسی کنند.
بااین‌حال، پرسش اصلی همچنان پابرجاست: آیا می‌توان محدودیت‌های امنیتی یک مدل قدرتمند هوش مصنوعی را پس از انتشار عمومی و فراهم شدن امکان اجرای مستقل آن، به‌طور مؤثر حفظ کرد؟ پاسخ به این پرسش می‌تواند بر رویکرد آینده صنعت هوش مصنوعی در زمینه توسعه و انتشار مدل‌های قدرتمند تأثیر بگذارد.
