به گزارش مدیاتی:تیکتاک پس از بازخوردهای گسترده کاربران و نگرانیها درباره دقت و نحوه عملکرد ابزارهای هوش مصنوعی خود، تصمیم گرفته است قابلیت تولید خودکار خلاصههای متنی از ویدیوها را متوقف کند. این ویژگی که به صورت محدود در حال آزمایش بود، قرار بود دسترسی سریعتر کاربران به محتوای ویدیویی را امکانپذیر کند، اما اکنون شرکت اعلام کرده برای بازنگری و بهبود این فناوری به زمان بیشتری نیاز دارد.
پایان آزمایشی خلاصهنویسی ویدیوها با هوش مصنوعی در تیکتاک
تیکتاک پس از انتشار برخی خلاصههای متنی نادرست و عجیب برای ویدیوها، استفاده از قابلیت هوش مصنوعی خود برای توصیف محتوا را محدود کرده است. این ویژگی که با نام «AI Overviews» شناخته میشد، در بخش توضیحات برخی ویدیوها نمایش داده میشد و تلاش میکرد محتوای ویدیو یا زمینه مرتبط با آن را بهصورت خلاصه برای کاربران توضیح دهد.
این قابلیت بهصورت آزمایشی فقط برای بخشی از کاربران در آمریکا و فیلیپین فعال شده بود، اما خروجیهای اشتباه و گاه غیرمنطقی آن بهسرعت در شبکههای اجتماعی مورد توجه قرار گرفت. بهویژه زیر ویدیوهای مربوط به چهرههایی مانند «چارلی دامیلیو»، یکی از مشهورترین ستارههای تیکتاک، نمونههایی از این خلاصههای عجیب منتشر شد و واکنشهای زیادی را برانگیخت.
AI Overviews عملکردی مشابه خلاصههای هوش مصنوعی گوگل در بالای نتایج جستوجو داشت و زمانی نمایش داده میشد که کاربر برای مشاهده توضیحات بیشتر یک ویدیو اقدام میکرد. اگرچه در برخی موارد این سیستم توانسته بود محتوای ویدیو را بهدرستی توصیف کند، اما گزارشها نشان میدهد در موارد متعددی نیز توضیحات کاملاً نادرست یا نامرتبط تولید کرده است.
برای مثال، در یکی از موارد ویدیوی رقص چارلی دامیلیو بهاشتباه بهعنوان «مجموعهای از بلوبریهای مختلف با تاپینگهای گوناگون» معرفی شده بود. در نمونههای دیگری نیز خلاصههای مبهم و غیرمرتبط زیر ویدیوهای مربوط به هنرمندانی مانند «شکیرا» و «اولیویا رودریگو» دیده شده است.
برخی کاربران حتی نمونههای عجیبتری را ثبت کردهاند. در یکی از پستهای منتشرشده در ردیت، هوش مصنوعی تیکتاک اجرای یک رقص باله را «فردی که بهطور مکرر با یک مرغ لاستیکی به سر خود ضربه میزند» توصیف کرده بود. در نمونههای دیگری نیز زیر ویدیوهایی که هیچ نشانهای از خشونت در آنها وجود نداشت، ادعا شده بود فردی «با چکش به سر خود ضربه میزند».
تیکتاک اعلام کرده است که اکنون از این خلاصههای آزمایشی فقط برای پیشنهاد محصولاتی مشابه با کالاهای نمایشدادهشده در ویدیوها استفاده میشود. این شرکت همچنین گفته علت خطاها و ناهماهنگیهای AI Overviews را شناسایی کرده، اما جزئیات بیشتری درباره آن ارائه نکرده است.
مشکلات مشابهی پیش از این برای دیگر شرکتهای فناوری نیز رخ داده است. برای مثال، گوگل در سال ۲۰۲۴ بهدلیل نتایج عجیب AI Overviews مورد انتقاد کاربران قرار گرفت؛ از جمله زمانی که این سیستم به کاربران توصیه کرده بود سنگ بخورند یا برای درستکردن پیتزا از چسب استفاده کنند. اپل نیز بعدتر بهدلیل عملکرد ضعیف ابزار هوش مصنوعی خود در خلاصهسازی اعلانها با انتقاد مواجه شد؛ ابزاری که گاهی تیترهای نادرستی برای اخبار رسانههایی مانند BBC News و New York Times تولید میکرد.
