به گزارش مدیاتی:بررسی‌های جدید از فعالیت شبکه‌ای پنهان از اپلیکیشن‌های مبتنی بر هوش مصنوعی در گوگل پلی و اپ استور پرده برداشته است؛ ابزارهایی که امکان تولید دیپ‌فیک‌های غیراخلاقی و تصاویر جعلی از افراد را فراهم می‌کنند. شناسایی این برنامه‌ها بار دیگر نگرانی‌ها درباره سوءاستفاده از فناوری هوش مصنوعی، نقض حریم خصوصی افراد و ضعف نظارت فروشگاه‌های اپلیکیشن بر ابزارهای منتشرشده را افزایش داده است.
کشف شبکه‌ای مخفی از اپلیکیشن‌های هوش مصنوعی برای تولید دیپ‌فیک‌های غیراخلاقی در گوگل پلی و اپ استور
بررسی‌های جدید نشان می‌دهد صدها اپلیکیشن هوش مصنوعی در فروشگاه‌های گوگل پلی و اپ استور اپل، با ظاهری کاملاً معمولی و بی‌خطر، ابزارهای مخفی برای تولید تصاویر جعلی غیراخلاقی در اختیار کاربران قرار می‌دهند. این برنامه‌ها که در قالب اپلیکیشن‌هایی مانند ویرایش عکس حیوانات خانگی، آموزش زبان و مربی ورزشی فعالیت می‌کنند، در شرایط خاص به رابط‌های پنهانی تغییر مسیر می‌دهند که امکان ساخت دیپ‌فیک‌های جنسی و سوءاستفاده‌آمیز را فراهم می‌کند.
به گزارش دیجیتال ترندز و بر اساس تحقیقات منتشرشده در وایرد (Wired)، پژوهشگران مؤسسه AI Forensics شبکه‌ای متشکل از بیش از ۴۰۰ اپلیکیشن و دامنه مرتبط با این فعالیت‌ها را شناسایی کرده‌اند. این شبکه با پنهان کردن قابلیت‌های اصلی خود در پشت برنامه‌هایی با ظاهر عادی، توانسته است از سازوکارهای نظارتی فروشگاه‌های اپلیکیشن عبور کند.
اپلیکیشن‌های معمولی چگونه ابزارهای تولید دیپ‌فیک را مخفی می‌کردند؟
این اپلیکیشن‌ها برای پنهان نگه داشتن قابلیت‌های تولید تصاویر غیراخلاقی از روشی مبتنی بر سرورهای راه دور استفاده می‌کردند. پس از نصب برنامه، اطلاعاتی مانند موقعیت مکانی کاربر، زبان دستگاه، شناسه دستگاه و شیوه ورود به اپلیکیشن به سرور ارسال می‌شد.
سرور با بررسی این اطلاعات تصمیم می‌گرفت نسخه عادی برنامه را به کاربر نمایش دهد یا او را به رابط وب مخفی هدایت کند؛ رابطی که قابلیت تولید تصاویر جعلی غیراخلاقی را در اختیار کاربران قرار می‌داد.
طبق یافته‌های پژوهشگران، بخش مخفی این اپلیکیشن‌ها ده‌ها قالب آماده برای تولید تصاویر دیپ‌فیک جنسی داشت. کاربران می‌توانستند تصاویر واقعی افراد را بارگذاری کنند و آن‌ها را در صحنه‌های غیراخلاقی، از جمله موقعیت‌های همراه با تهدید و خشونت، قرار دهند.
همچنین برخی محرک‌های خاص می‌توانستند رابط مخفی را فعال کنند. برای مثال، نصب اپلیکیشن پس از کلیک روی تبلیغی در فیسبوک یا اینستاگرام ممکن بود باعث نمایش قابلیت‌های پنهان آن شود.
کاربران برای استفاده از این امکانات می‌توانستند اعتبار دیجیتال خریداری کنند و از آن برای تولید تصاویر دیپ‌فیک استفاده کنند. بر اساس این گزارش، شبکه مذکور از طریق تبلیغات فریبنده در پلتفرم‌های متعلق به شرکت متا نیز گسترش یافته بود. برخی از این تبلیغات با نام‌های تجاری جعلی و حساب‌هایی بدون دنبال‌کننده منتشر می‌شدند.
نکته قابل‌توجه اینکه تعدادی از این اپلیکیشن‌ها امکان پرداخت از طریق Apple Pay و Google Pay را نیز فراهم کرده بودند. در همین حال، توضیحات ظاهراً بی‌خطر برنامه‌ها در فروشگاه‌های اپلیکیشن و دریافت رتبه‌بندی سنی مناسب برای همه کاربران، هیچ هشداری درباره قابلیت‌های واقعی آن‌ها ارائه نمی‌کرد.
چه کسانی پشت شبکه اپلیکیشن‌های دیپ‌فیک قرار داشتند؟
تحقیقات وایرد بخش قابل‌توجهی از این شبکه را به توسعه‌دهندگان چینی و شرکتی مستقر در هنگ‌کنگ با نام KeLing Technology Limited مرتبط کرده است. این شرکت پس از تماس خبرنگاران برای پیگیری موضوع، بخش‌هایی از حضور آنلاین خود را حذف کرد.
یکی از اپلیکیشن‌های پرطرفدار این شبکه پیش از حذف شدن از گوگل پلی، بیش از ۱۰۰ هزار بار دانلود شده بود. اپل نیز پس از اطلاع از ابعاد این فعالیت‌ها، ۱۹ اپلیکیشن مرتبط را از اپ استور حذف کرد که برنامه ساخت پرتره حیوانات خانگی Viefur نیز در میان آن‌ها قرار داشت.
اپل اعلام کرده است اپلیکیشن‌های موردنظر در زمان بررسی اولیه، با قوانین این شرکت مطابقت داشتند؛ اما توسعه‌دهندگان پس از تأیید و انتشار برنامه‌ها، رفتار و عملکرد آن‌ها را تغییر داده‌اند. اپ استور نیز اخیراً قوانین خود را برای مقابله با اپلیکیشن‌های تولید تصاویر برهنه‌سازی‌شده با هوش مصنوعی و برنامه‌هایی که با تغییر عملکرد پس از تأیید، کاربران را فریب می‌دهند، به‌روزرسانی کرده است.
شرکت متا نیز اعلام کرده است که در سال ۲۰۲۵ دسترسی KeLing به تبلیغات در پلتفرم‌های خود را مسدود کرده و پس از آن اقدامات گسترده‌تری علیه فعالیت‌های مرتبط با این شبکه انجام داده است. بر اساس اعلام متا، این شرکت علیه ۱۱ هزار و ۶۰۰ حساب تبلیغاتی و ۵۲۰۰ کاربر اقدام کرده و دسترسی ۲۰۹ اپلیکیشن مرتبط با این طرح را نیز مسدود کرده است.
ممنوعیت اپلیکیشن‌های برهنه‌سازی با هوش مصنوعی در اتحادیه اروپا
ممنوعیت اپلیکیشن‌های تولید تصاویر برهنه‌سازی‌شده با هوش مصنوعی در اتحادیه اروپا قرار است یک ماه دیگر اجرایی شود. با این حال، گزارش وایرد نشان می‌دهد حتی در روزهای پایانی تحقیقات این رسانه نیز تبلیغات مرتبط با چنین اپلیکیشن‌هایی دوباره در پلتفرم‌های آنلاین ظاهر می‌شدند.
تداوم انتشار این تبلیغات نشان می‌دهد مقابله با شبکه‌های تولید دیپ‌فیک غیراخلاقی، به‌ویژه اپلیکیشن‌هایی که قابلیت‌های اصلی خود را از طریق سرورهای خارجی پنهان می‌کنند، همچنان یکی از چالش‌های جدی فروشگاه‌های نرم‌افزاری و شبکه‌های اجتماعی است.
