به گزارش مدیاتی:چتباتهای هوش مصنوعی روزبهروز طبیعیتر و صمیمیتر با کاربران صحبت میکنند؛ از بهخاطر سپردن جزئیات گفتوگو گرفته تا استفاده از لحنی شبیه به یک دوست یا همکار. بااینحال، همین رفتار دوستانه میتواند باعث شود کاربران بیش از حد به پاسخهای این ابزارها اعتماد کنند؛ درحالیکه حتی پاسخهایی که با اطمینان و لحن کاملاً طبیعی ارائه میشوند، ممکن است نادرست یا گمراهکننده باشند.
وقتی هوش مصنوعی بیش از حد صمیمی میشود؛ چرا نباید به پاسخهایش زود اعتماد کنیم
چتباتهای هوش مصنوعی هر روز بیشتر شبیه انسانها صحبت میکنند؛ از احوالپرسی و استفاده از نام کاربر گرفته تا مکثهای طبیعی هنگام تایپ و ادامه دادن یک گفتوگوی صمیمانه. اما پژوهشی جدید نشان میدهد همین ویژگیهای به ظاهر ساده میتوانند روی میزان اعتماد کاربران تأثیر بگذارند و باعث شوند برخی افراد، حتی در مواجهه با اطلاعات نادرست، کمتر درباره صحت پاسخهای هوش مصنوعی تردید کنند.
پژوهشگران دانشگاه ایالتی پنسیلوانیا برای بررسی این موضوع، یک دستیار سلامت هوش مصنوعی شبیهسازیشده طراحی کردند و نحوه واکنش ۴۷۷ نفر را در برابر اطلاعات نادرست بررسی کردند. یکی از نمونههای مطرحشده در آزمایش، ادعایی نادرست درباره اثربخشی بیشتر زنجبیل در مقایسه با شیمیدرمانی بود.
هوش مصنوعی انساننما اعتماد بیشتری ایجاد میکند؟
شرکتکنندگان در آزمایش با دو نسخه متفاوت از یک دستیار هوشمند تعامل داشتند. نسخه نخست رفتارهایی شبیه گفتوگوی انسانی داشت؛ برای مثال با لحنی صمیمی صحبت میکرد، اطلاعات مربوط به کاربر را به خاطر میسپرد و پاسخهای خود را با تأخیر طبیعی ارائه میداد.
نسخه دوم اما رفتاری خشکتر و رباتیک داشت و پاسخها را بدون نشانههای ظاهری تعامل انسانی ارائه میکرد.
نتایج نشان داد تفاوت در سبک تعامل میتواند بر میزان اعتماد کاربران تأثیر بگذارد. افرادی که با نسخه انساننمای چتبات صحبت کرده بودند، در برابر اطلاعات نادرست ارائهشده از سوی آن، اعتماد بیشتری نشان دادند.
به بیان سادهتر، هرچه یک چتبات طبیعیتر و شبیهتر به یک انسان رفتار کند، ممکن است کاربر نیز تمایل بیشتری به پذیرش گفتههای آن پیدا کند.
چرا لحن صمیمی میتواند خطرناک باشد؟
یکی از توضیحاتی که پژوهشگران برای این رفتار مطرح کردهاند، کاهش نوعی تردید طبیعی نسبت به ماشینها است. انسانها معمولاً هنگام دریافت اطلاعات از یک سیستم کامپیوتری، ممکن است با احتیاط بیشتری برخورد کنند؛ اما وقتی همان سیستم با لحن انسانی و صمیمی ارتباط برقرار میکند، این فاصله روانی میتواند کمتر شود.
در چنین شرایطی، کاربر ممکن است بهجای اینکه بپرسد «آیا این اطلاعات درست است؟»، ناخودآگاه به این سمت برود که «این سیستم چقدر خوب و مطمئن به نظر میرسد؟»
این موضوع بهخصوص در حوزههایی مانند سلامت، امور مالی و اخبار اهمیت بیشتری دارد؛ حوزههایی که یک پاسخ نادرست میتواند پیامدهای جدی داشته باشد.
یک راه ساده برای گرفتار نشدن در دام پاسخهای غلط
پژوهشگران در این مطالعه به یک نکته مهم رسیدند: صرفاً قرار دادن ابزارهای راستیآزمایی در اختیار کاربران کافی نیست.
آنچه اهمیت بیشتری دارد، رفتار خود کاربر است. کاربران باید هنگام مواجهه با ادعاهای مهم یا غیرعادی، بهجای اعتماد فوری به پاسخ چتبات، اطلاعات ارائهشده را در منابع معتبر بررسی کنند.
در واقع، طبیعی بودن لحن یک هوش مصنوعی نباید با میزان درستی پاسخ آن اشتباه گرفته شود. یک چتبات میتواند بسیار دقیق، مؤدب و صمیمی صحبت کند و در عین حال اطلاعات کاملاً اشتباهی ارائه دهد.
هوش مصنوعی هرچقدر انسانیتر شد، بررسی اطلاعات مهمتر میشود
این پژوهش یک نکته ساده اما مهم را یادآوری میکند: توانایی برقراری گفتوگوی طبیعی، نشانه درست بودن اطلاعات نیست.
بنابراین اگر چتباتی نام شما را به خاطر میسپارد، با شما شوخی میکند، مکثهای طبیعی دارد یا با لحنی دوستانه پاسخ میدهد، نباید این ویژگیها را بهعنوان نشانهای از اعتبار بیشتر پاسخهایش در نظر بگیرید.
بهترین عادت هنگام استفاده از ابزارهای هوش مصنوعی همچنان ساده است: گفتوگو کنید، اما اطلاعات مهم را اعتبارسنجی کنید. هرچه پاسخ مهمتر و پیامد تصمیم شما جدیتر باشد، بررسی آن در منابع مستقل و معتبر اهمیت بیشتری پیدا میکند.
