به گزارش مدیاتی:آنتروپیک نسبت به پیشرفت سریع هوش مصنوعی و احتمال تبدیل‌شدن سیستم‌های خودتکثیرشونده به تهدیدی جدی در آینده نزدیک هشدار داده است. این شرکت فعال در حوزه هوش مصنوعی معتقد است که توانایی مدل‌های پیشرفته برای تکثیر مستقل و گسترش فعالیت‌های خود می‌تواند در ماه‌های آینده به یکی از چالش‌های مهم ایمنی هوش مصنوعی تبدیل شود. چنین قابلیتی نگرانی‌هایی درباره کنترل‌پذیری سیستم‌های هوشمند، نظارت بر عملکرد آن‌ها و احتمال استفاده مخرب از این فناوری ایجاد می‌کند؛ موضوعی که با افزایش توانایی مدل‌های هوش مصنوعی در انجام وظایف پیچیده، اهمیت بیشتری پیدا کرده است.
آنتروپیک: هوش مصنوعی خودتکثیرشونده ممکن است تا چند ماه دیگر به تهدیدی جدی تبدیل شود
آنتروپیک هشدار می‌دهد که مدل‌های کوچک هوش مصنوعی ممکن است در آینده‌ای نزدیک بتوانند خودشان را تکثیر کنند و از طریق دستگاه‌های متصل به اینترنت، از تلویزیون اندرویدی گرفته تا فر و جاروبرقی هوشمند، گسترش یابند.
شرکت آنتروپیک (Anthropic) در پی انجام مجموعه‌ای از آزمایش‌ها درباره توانایی مدل‌های هوش مصنوعی، نسبت به ظهور سیستم‌های خودتکثیرشونده هشدار داده است؛ سیستم‌هایی که ممکن است تنها به چند ماه زمان نیاز داشته باشند تا به سطحی از توانایی برسند که بتوانند نسخه‌های جدیدی از خود ایجاد کنند و به‌صورت شبکه‌ای از عامل‌های هوش مصنوعی گسترش یابند. نکته نگران‌کننده این است که چنین شبکه‌ای برای فعالیت لزوماً به ابررایانه‌ها یا مراکز داده بزرگ نیاز ندارد و ممکن است بتواند از توان پردازشی دستگاه‌های معمولی متصل به اینترنت استفاده کند.
این هشدار در شرایطی مطرح می‌شود که آزمایشگاه‌های بزرگ هوش مصنوعی با سرعت زیادی در حال عرضه مدل‌های پیشرفته‌تر هستند. هم‌زمان، نگرانی‌ها درباره رفتارهای پیش‌بینی‌نشده این سیستم‌ها و توانایی آن‌ها برای نفوذ به وب‌سایت‌های خصوصی و دولتی افزایش یافته است.
هوش مصنوعی خودتکثیرشونده می‌تواند روی دستگاه‌های خانگی اجرا شود
آنتروپیک هشدار می‌دهد که مدل‌های کوچک هوش مصنوعی در آینده ممکن است بتوانند روی سخت‌افزارهایی با قدرت پردازشی محدود اجرا شوند؛ سخت‌افزاری که در دستگاه‌های متصل به اینترنت، مانند جعبه‌های تلویزیون اندرویدی و فرهای هوشمند، یافت می‌شود.
بر اساس ارزیابی این شرکت، اگر مدل‌های کوچک با همان سرعت تاریخی پیشرفت کنند، ممکن است تا پایان سال ۲۰۲۶ به سطح توانایی موردنیاز برای اجرای چنین فرایندهایی برسند. آنتروپیک همچنین احتمال می‌دهد که ساخت مدل‌هایی که بتوانند وزن‌های خود را به نسخه‌های دیگر منتقل کنند و به این ترتیب تکثیر شوند، اندکی پس از آن امکان‌پذیر شود.
بااین‌حال، این پیش‌بینی به معنای اثبات وقوع قریب‌الوقوع چنین سناریویی نیست. آنتروپیک میان نتایج آزمایش‌های انجام‌شده و پیش‌بینی‌های خود درباره آینده تمایز قائل می‌شود.
این شرکت می‌گوید سرعت تکثیر اولیه چنین سیستم‌هایی احتمالاً پایین خواهد بود و ممکن است حدود یک روز طول بکشد تا تعداد نسخه‌های آن‌ها دو برابر شود.
چرا متوقف کردن هوش مصنوعی خودتکثیرشونده دشوار است؟
یکی از نگرانی‌های اصلی آنتروپیک این است که یک سیستم خودتکثیرشونده ممکن است برخلاف بدافزارهای معمولی، به زیرساخت مرکزی مشخصی وابسته نباشد. در چنین شرایطی، خاموش کردن یک سرور یا مسدود کردن یک نقطه از شبکه لزوماً برای متوقف کردن تمام نسخه‌های فعال کافی نخواهد بود.
این سیستم‌ها ممکن است از طریق دستگاه‌های اینترنت اشیا (IoT) و تجهیزات خانه هوشمند گسترش پیدا کنند؛ محصولاتی که گاهی از سازوکارهای امنیتی ضعیف‌تری برخوردارند و درعین‌حال، توان پردازشی لازم برای اجرای برخی عامل‌های هوش مصنوعی را دارند.
آنتروپیک هشدار می‌دهد که حتی دستگاه‌هایی مانند جاروبرقی‌های رباتیک، ماشین‌های چمن‌زنی، یخچال‌ها و فرهای هوشمند نیز ممکن است در معرض چنین حملاتی قرار بگیرند. در این سناریو، مهاجم برای ایجاد اختلال لزوماً نیازی به نفوذ به مراکز داده گران‌قیمت ندارد و می‌تواند از مجموعه‌ای از دستگاه‌های کوچک و پراکنده استفاده کند.
تکثیر هوش مصنوعی می‌تواند به انتقال تجربه میان نسل‌ها منجر شود
یکی دیگر از یافته‌های نگران‌کننده آزمایش‌های آنتروپیک به توانایی مدل‌ها برای انتقال آموخته‌های خود به نسخه‌های بعدی مربوط می‌شود. در این فرایند، یک مدل اولیه می‌تواند اطلاعاتی مانند دستورالعمل‌ها، کدها و یادداشت‌های خود را در اختیار نسخه‌های بعدی قرار دهد؛ نسخه‌هایی که با استفاده از این اطلاعات، عملکرد بهتری از خود نشان می‌دهند.
این رفتار تا حدی به انتقال اطلاعات میان نسل‌ها در موجودات زنده شباهت دارد، هرچند سازوکار آن در هوش مصنوعی کاملاً متفاوت است و از طریق داده‌ها و اطلاعات ذخیره‌شده انجام می‌شود.
پژوهشگران آنتروپیک در آزمایش‌های خود از نمونه‌هایی از مدل Qwen3.5-9B استفاده کردند. نتایج نشان داد نسخه‌هایی که یادداشت‌های به‌جامانده از نمونه‌های قبلی را مطالعه کرده بودند، در انجام وظایف مورد آزمایش موفق‌تر عمل کردند. با تکرار این فرایند تا نسل پنجم، نرخ موفقیت مدل از ۴۵ درصد به ۸۴ درصد افزایش یافت.
این یافته نشان می‌دهد که انتقال اطلاعات میان نسخه‌های متوالی یک مدل می‌تواند عملکرد آن‌ها را بهبود دهد؛ قابلیتی که در صورت ترکیب شدن با خودتکثیری، ممکن است به گسترش سریع‌تر و سازگاری بیشتر عامل‌های هوش مصنوعی کمک کند.
عامل‌های هوش مصنوعی می‌توانند خود را با سخت‌افزارهای جدید سازگار کنند
آنتروپیک همچنین به تفاوت مهم میان عامل‌های هوش مصنوعی و بدافزارهای سنتی اشاره می‌کند. بدافزارهای معمولی اغلب برای اجرا روی سخت‌افزار یا محیط نرم‌افزاری مشخصی طراحی می‌شوند؛ اما عامل‌های هوش مصنوعی ممکن است بتوانند محیط‌های ناشناخته را بررسی کنند و راهی برای اجرای خود روی آن‌ها بیابند.
به گفته این شرکت، در ارزیابی‌های انجام‌شده، یک مدل ۹ میلیاردپارامتری توانست فرایند اجرای مدل را روی ۸ مورد از ۹ نوع سخت‌افزار آزمایش‌شده راه‌اندازی کند. این نتیجه نشان می‌دهد که دست‌کم برخی مدل‌های کوچک می‌توانند در تطبیق با محیط‌های سخت‌افزاری متفاوت توانایی قابل‌توجهی داشته باشند.
آنتروپیک در پیش‌بینی خود می‌گوید ممکن است در آینده با تعداد زیادی عامل هوش مصنوعی روبه‌رو شویم که روی انواع سخت‌افزار اجرا می‌شوند؛ حتی دستگاه‌هایی که مستقیماً تحت کنترل انسان نیستند.
آیا هوش مصنوعی خودتکثیرشونده به تهدیدی واقعی تبدیل می‌شود؟
یافته‌های آنتروپیک تصویری از خطرهای احتمالی پیشرفت مدل‌های کوچک هوش مصنوعی ارائه می‌کنند؛ مدل‌هایی که با وجود نیاز کمتر به منابع محاسباتی، ممکن است توانایی تکثیر، انتقال اطلاعات و سازگاری با محیط‌های جدید را به دست آورند.
بااین‌حال، باید میان نتایج آزمایشگاهی و سناریوهای پیش‌بینی‌شده تفاوت قائل شد. موفقیت یک مدل در انتقال اطلاعات یا اجرا روی چند نوع سخت‌افزار، به‌تنهایی ثابت نمی‌کند که یک شبکه خودتکثیرشونده و خارج از کنترل انسان در آینده‌ای نزدیک شکل خواهد گرفت.
با وجود این محدودیت‌ها، هشدار آنتروپیک بر اهمیت تقویت امنیت دستگاه‌های متصل به اینترنت، محدود کردن دسترسی عامل‌های هوش مصنوعی به منابع محاسباتی و ایجاد سازوکارهای مؤثر برای نظارت و توقف فعالیت آن‌ها تأکید می‌کند؛ به‌ویژه اگر مدل‌های کوچک در آینده بتوانند بدون نظارت مستقیم، روی طیف گسترده‌ای از دستگاه‌ها اجرا شوند.
