به گزارش مدیاتی:با پیشرفت سریع ابزارهای تولید تصویر، چالشهای امنیتی پلتفرمهای بزرگ وارد مرحله بیسابقهای شده است. به تازگی انتشار آگهیهای حاوی محتوای سوءاستفاده جنسی از کودکان که توسط هوش مصنوعی تولید شدهاند در پلتفرم متا، موجی از نگرانیهای شدید را میان کارشناسان امنیت سایبری و فعالان حقوق کودکان ایجاد کرده است. این بحران نشان میدهد که سیستمهای نظارتی و الگوریتمهای مهار محتوای مجرمانه در شبکههای اجتماعی همچنان با عقبماندگی جدی در برابر سواستفادههای نوین الگوریتمی مواجه هستند.
انتشار آگهیهای حاوی محتوای سوءاستفاده جنسی از کودکان مبتنی بر هوش مصنوعی در پلتفرم متا
پلتفرم تبلیغاتی متا (Meta) بار دیگر مرتکب خطایی شده که پیشتر بارها قول عدم تکرار آن را داده بود. بر اساس تحقیقات جدید نشریه Wired، متا طی ۹ ماه گذشته دهها آگهی تبلیغاتی پولی حاوی تصاویر صریح سوءاستفاده جنسی از کودکان که توسط هوش مصنوعی تولید شده بودند را منتشر کرده است؛ نکته تاملبرانگیز این است که برخی از این آگهیها حتی پس از تذکر مستقیم به این شرکت، همچنان فعال باقی ماندند.
این گزارش تنها چند هفته پس از افشاگری شبکه BBC منتشر میشود که نشان میداد اینستاگرام در هند آگهیهای پولی برای ترویج محتوای سوءاستفاده از کودکان و هدایت کاربران به کانالهای تلگرامی فروش این محتواها را پخش میکرده است.
تایید و درآمدزایی متا از آگهیهای غیرقانونی
پژوهشگران پروژه شفافیت فناوری (TTP) این آگهیها را مستقیماً در ابزار عمومی «کتابخانه آگهیهای متا» (Meta Ad Library) کشف کردند. این آگهیها بین نوامبر ۲۰۲۵ تا اوایل اوت ۲۰۲۶ فعال بوده و کاربرانی در آمریکا، بریتانیا و بیش از دوازده کشور اروپایی را هدف قرار داده بودند. تنها یکی از این آگهیها به تنهایی به بیش از ۲,۵۰۰ حساب کاربری در اروپا رسیده بود.
کتی پاول (Katie Paul)، مدیر TTP، اشاره کرد که این موارد پستهای عادی کاربران نبودند که از زیر دست مأموران در رفته باشند، بلکه آگهیهای پولی بودند که سیستمهای متا آنها را بررسی، تایید و در ازای دریافت پول منتشر کردهاند.
ارتباط با برنامههای برهنهسازی: چندین آگهی مستقیماً به برنامههای ساخت تصاویر برهنه (از جمله برنامهای به نام MaskAI) لینک داده شده بودند.
انتشار حتی پس از هشدار: پژوهشگران ابتدا ۲۴ آگهی متخلف را شناسایی کردند، اما درست پیش از انتشار گزارش، حدود ۳۰ آگهی جدید دیگر را یافتند که برخی از آنها حتی پس از پرسش خبرنگاران از متا منتشر شده بودند!
ضعف در شناسایی متخلفان تکراری: برخی از این آگهیها دقیقاً با محتواهایی که متا پیشتر به دلیل تخلف مشابه حذف کرده بود مطابقت داشتند، اما سیستمهای اتوماتیک متا نتوانستند متخلفان تکراری را شناسایی کنند. ردپای مالی برخی از این آگهیها به شرکتهای چینی، از جمله یکی از کارگزاران سابق تبلیغاتی خود متا میرسید.
پاسخ رسمی متا طبق روال گذشته حاوی ابراز تاسف، غیرقانونی خواندن محتوا و اشاره به آمارهایی چون حذف ۳۶ میلیون محتوای سوءاستفاده از کودکان در سال گذشته با کمک سیستمهای هوش مصنوعی جدید بود.
تاریخچهای از ناکامیهای امنیتی متا در قبال کودکان
سوابق آسیبپذیری کودکان در پلتفرمهای متا به سالها قبل بازمیگردد:
سال ۲۰۱۷: فیسبوک ماهانه با بیش از ۵۰ هزار گزارش انتقامجویی تصویری و سوءاستفاده جنسی مواجه بود.
سال ۲۰۱۹: افشای پیامهای داخلی نشان داد تغییرات متا در نحوه اشتراکگذاری دادههای مسنجر با ضابطان قضایی، بر نحوه پیگیری حدود ۷.۵ میلیون گزارش سوءاستفاده از کودکان تاثیر منفی گذاشته بود.
سال ۲۰۲۱: افشاگریهای فرانسیس هوگن (Frances Haugen) نشان داد اینستاگرام به سلامت روان نوجوانان آسیب میزند. در همان سال، یکی از مهندسان متا به نام آرتورو بژار (Arturo Bejar) مستقیماً به زاکربرگ درباره مزاحمتهای جنسی رخداده برای دختر خودش در اینستاگرام ایمیل زد.
سال ۲۰۲۳: تحقیقات مشترک نشان داد الگوریتمهای اینستاگرام به شکل فعال شبکهای از حسابهای پدوفیلی را به یکدیگر متصل و ترویج میکردند. بژار در شهادت خود در سنا، ابزارهای امنیتی متا را «دواگلی و بیخاصیت» خواند.
مارس ۲۰۲۶: دادگاه نیومکزیکو پس از تحقیقاتی که نشان داد یک پروفایل جعلی دختر ۱۳ ساله بهسرعت با پیشنهادات جنسی بزرگسالان بمباران شده است، متا را به پرداخت ۳۷۵ میلیون دلار جریمه محکوم کرد.
ناکامی در اصلاح یا ترجیحِ سودجویی؟
تکرار مداوم این چرخه—افشاگری توسط پژوهشگران، حذف محتوا پس از جنجال رسانهای، ارائه آمار و ارقام برای تبرئه خود و سپس بازگشت به نقطه اول—نشان میدهد که متا به این نتیجه رسیده که «هزینه رسوایی و جریمه شدن» بسیار کمتر از «هزینه اصلاح بنیادی و ساختاری سیستمهایش» است.
تا زمانی که سیستمهای نظارتی نتوانند در همان قدم اول از انتشار چنین محتواهایی جلوگیری کنند، وعدههای متوالی این شرکت مبنی بر «جدی گرفتن امنیت کودکان» فاقد اعتبار خواهد بود.
