به گزارش مدیاتی:با گسترش استفاده از هوش مصنوعی در حوزه پزشکی، نگرانیها درباره دقت ابزارهای مبتنی بر این فناوری نیز افزایش یافته است. بررسیهای جدید نشان میدهد خطاهای بهظاهر ساده در رونویسی اطلاعات پزشکی میتوانند به انتقال نادرست دادههای مهم منجر شوند و در شرایط حساس، سلامت و حتی جان بیماران را به خطر بیندازند. کارشناسان بر ضرورت نظارت انسانی و بررسی دقیق خروجی این ابزارها پیش از استفاده در فرایندهای درمانی تأکید دارند.
هشدار درباره ابزارهای پزشکی هوش مصنوعی؛ خطا در رونویسی میتواند جان بیماران را به خطر بیندازد
مدافعان حقوق بیماران در بریتانیا هشدار میدهند ابزارهای رونویسی پزشکی مبتنی بر هوش مصنوعی، با وجود کمک به پزشکان برای کاهش زمان انجام امور اداری، ممکن است خطاهای خطرناکی را وارد پرونده بیماران کنند.
ابزارهای دستیار پزشکی مبتنی بر هوش مصنوعی (AI Scribe) بهسرعت در مطبها و مراکز درمانی در حال گسترش هستند. این ابزارها با تبدیل مکالمات میان پزشک و بیمار به متن و تهیه خودکار یادداشتهای پزشکی، میتوانند حجم کاغذبازی و امور اداری پزشکان را کاهش دهند و زمان بیشتری برای رسیدگی به بیماران فراهم کنند.
با این حال، شواهد جدید نشان میدهد استفاده از این فناوری میتواند خطرات تازهای را برای بیماران و کادر درمان ایجاد کند؛ بهویژه زمانی که متن تولیدشده توسط هوش مصنوعی بدون بررسی دقیق وارد پرونده پزشکی شود.
هوش مصنوعی در تشخیص بیماری و نام داروها خطا میکند
گزارش جدیدی از The Guardian نشان میدهد ابزارهای رونویسی خودکار در بریتانیا بارها در ثبت اطلاعات پزشکی دچار اشتباه شدهاند.
یافتههای Healthwatch England، یک نهاد مستقل حامی حقوق بیماران در نظام سلامت عمومی بریتانیا، نشان میدهد برخی بیماران پس از بررسی پروندههای پزشکی خود متوجه خطاهای جدی در متنهای تولیدشده توسط هوش مصنوعی شدهاند؛ خطاهایی که در صورت اصلاح نشدن میتوانند سلامت بیمار را به خطر بیندازند.
در یکی از موارد نگرانکننده، یک ابزار هوش مصنوعی خلاصه نتیجه MRI بیمار را بررسی و در پرونده او ثبت کرده بود که فرد به «دِمیلیناسیون» مبتلا است؛ اختلالی جدی در سیستم عصبی که با بیماریهایی مانند اماس ارتباط دارد.
اما نتیجه واقعی اسکن عبارت «null demyelination» را نشان میداد؛ یعنی هیچ نشانهای از دمیلیناسیون وجود نداشت. در موارد دیگری نیز ابزارهای هوش مصنوعی نام داروهای مشابه را با یکدیگر اشتباه گرفته یا دستورهای مهم مربوط به تمدید نسخه را از متن نهایی حذف کردهاند.
مدافعان حقوق بیماران هشدار میدهند چنین اشتباهاتی میتواند برای مدت طولانی در پرونده پزشکی افراد باقی بماند؛ بهخصوص زمانی که پزشکان تحت فشار کاری بالا، متن تولیدشده توسط هوش مصنوعی را بدون بررسی خطبهخط تأیید کنند.
مشکل فقط به بریتانیا محدود نمیشود
خطرات ابزارهای AI Scribe تنها به بریتانیا محدود نیست. ماه گذشته، مقامهای بهداشتی استرالیا نیز هشدار مشابهی درباره استفاده از نرمافزارهای تأییدنشده رونویسی پزشکی مبتنی بر هوش مصنوعی صادر کردند.
مقامهای استرالیایی از پزشکان خواستند بیش از حد به چنین ابزارهایی متکی نباشند و علاوه بر خطرات مربوط به ایمنی بالینی، به نقصهای جدی در زمینه حفظ حریم خصوصی اطلاعات بیماران نیز توجه کنند.
در هر دو کشور، پزشکان با مجموعهای از ابزارهای هوش مصنوعی مواجه هستند که هنوز نظارت و ارزیابی یکپارچهای بر عملکرد همه آنها وجود ندارد. برخی از این ابزارها حتی ممکن است دچار توهم هوش مصنوعی (AI Hallucination) شوند و اطلاعاتی را تولید کنند که اصلاً در مکالمه میان پزشک و بیمار مطرح نشده است.
در نمونههایی از این خطاها، ابزارهای هوش مصنوعی حتی داروهای روانپزشکی که بیمار یا پزشک درباره آنها صحبتی نکرده بود، مانند پروزاک (Prozac)، به پرونده پزشکی اضافه کردهاند.
نبود نظارت متمرکز، چالش را جدیتر میکند
در آمریکا نیز وضعیت با یک مشکل دیگر پیچیدهتر شده است. برخی نهادهای نظارتی، ابزارهای AI Scribe را در رده تجهیزات پزشکی طبقهبندی نکردهاند.
در نتیجه، مراکز درمانی ممکن است پیش از استفاده از این ابزارها، به یک سازوکار متمرکز برای بررسی و تأیید دقت عملکرد آنها دسترسی نداشته باشند.
این وضعیت میتواند هدف اصلی استفاده از دستیارهای هوش مصنوعی را نیز زیر سؤال ببرد. فناوریای که قرار است با خودکارسازی ثبت اطلاعات پزشکی در زمان پزشکان صرفهجویی کند، در صورت تولید متنهای نادرست ممکن است پزشکان را مجبور کند تمام رونوشتها را برای پیدا کردن خطا و اطلاعات ساختگی دوباره بررسی کنند.
در چنین شرایطی، هوش مصنوعی بهجای کاهش بار کاری پزشکان، میتواند وظیفه جدیدی برای آنها ایجاد کند؛ وظیفهای که در حوزه پزشکی اهمیت بسیار بالایی دارد، زیرا حتی یک اشتباه کوچک در نام دارو، تشخیص بیماری یا دستور درمان میتواند پیامدهای جدی برای بیمار داشته باشد.
