به گزارش مدیاتی:گزارشهای تازه نشان میدهد برخی چتباتهای هوش مصنوعی در پاسخ به کاربران، بهاشتباه اطلاعات شخصی از جمله شماره تلفن افراد را نمایش میدهند. این موضوع نگرانیهای جدیدی درباره نحوه پردازش دادهها و حفظ حریم خصوصی در سیستمهای مبتنی بر هوش مصنوعی ایجاد کرده است.
افشای اطلاعات خصوصی توسط چتباتهای هوش مصنوعی؛ شماره تلفن کاربران در پاسخها ظاهر شد
گزارشهای مختلف نشان میدهد برخی چتباتهای هوش مصنوعی از جمله جمینای گوگل، در پاسخ به پرسشهای عادی کاربران، اطلاعات تماس شخصی افراد را به اشتباه منتشر میکنند. این مسئله باعث شده تعدادی از کاربران با تماسهای ناخواسته و مزاحمتهای تلفنی از سوی افراد ناشناس مواجه شوند؛ درحالیکه راه مشخص و موثری برای حذف این اطلاعات از حافظه مدلهای هوش مصنوعی وجود ندارد.
یکی از کاربران ردیت اعلام کرده بهدلیل اشتباه هوش مصنوعی گوگل، هر روز تماسهایی از افرادی دریافت میکند که به دنبال خدماتی مانند وکیل یا قفلساز هستند. ظاهراً جمینای شماره شخصی او را بهاشتباه بهعنوان شماره تماس این خدمات نمایش داده است.
نمونه مشابهی نیز برای یک توسعهدهنده نرمافزار رخ داده است. جمینای شماره شخصی او را بهعنوان شماره پشتیبانی اپلیکیشن PayBox معرفی کرده، درحالیکه او هیچ ارتباطی با این شرکت ندارد. بررسیهای این فرد نشان داده شماره تلفن او تنها یک بار در سال ۲۰۱۵ در یک وبسایت محلی منتشر شده بود، اما هوش مصنوعی پس از گذشت حدود یک دهه همچنان توانسته آن را از میان دادههای وب استخراج و بازتولید کند.
کارشناسان حوزه حریم خصوصی و پژوهشگران هوش مصنوعی معتقدند ریشه این مشکل به استفاده از دادههای دارای اطلاعات هویتی در فرایند آموزش مدلهای زبانی بزرگ بازمیگردد. شرکت DeleteMe که در زمینه حذف اطلاعات شخصی از اینترنت فعالیت میکند، اعلام کرده درخواستهای مرتبط با حریم خصوصی در حوزه هوش مصنوعی طی هفت ماه اخیر حدود ۴۰۰ درصد افزایش یافته است.
بر اساس آمار این شرکت، بیشترین نگرانی کاربران مربوط به ChatGPT با سهم ۵۵ درصدی و پس از آن جمینای با ۲۰ درصد بوده است. مدیرعامل DeleteMe میگوید چتباتها گاهی اطلاعات واقعی و گاهی دادههای اشتباه اما کاملاً باورپذیر ارائه میکنند؛ موضوعی که در هر دو حالت میتواند باعث آزار و مزاحمت برای افراد شود.
در آزمایشی دیگر، دانشجویان دکترای دانشگاه واشینگتن متوجه شدند جمینای قادر است شماره تلفنهای شخصی را که حتی در جستجوی عادی گوگل بهسختی پیدا میشوند، استخراج کند. آنها همچنین دریافتند ChatGPT با وجود محدودیتهای امنیتی، در برخی شرایط و با استفاده از روشهای جستجوی دقیق میتواند اطلاعات حساسی مانند آدرس منزل یا نام همسر افراد را از سوابق عمومی استخراج کند. چتبات Grok نیز در برخی موارد با دریافت نام افراد، اطلاعاتی مانند آدرس محل سکونت و شماره تماس آنها را ارائه داده است.
درحالحاضر راهکار قطعی و سریعی برای حذف کامل این دادهها از مدلهای هوش مصنوعی وجود ندارد. «جنیفر کینگ» پژوهشگر دانشگاه استنفورد میگوید قوانین فعلی مانند GDPR اروپا الزاماً شامل دادههای عمومی جمعآوریشده از وب نمیشوند. هرچند شرکتهایی مانند گوگل و OpenAI مسیرهایی برای ثبت اعتراض یا درخواست حذف اطلاعات فراهم کردهاند، اما این فرایندها معمولاً زمانبر هستند و همیشه نتیجه مطلوبی ندارند.
