دستگاه‌های AI در اتاق عمل ممکن است جان بیماران را به خطر بیندازند

 شفاآنلاین »سلامت شرکت‌های تولیدکننده تجهیزات پزشکی به سرعت در حال اضافه کردن هوش مصنوعی به محصولات خود هستند. در حالی که طرفداران این فناوری آن را انقلابی در پزشکی می‌دانند، نهادهای نظارتی با افزایش تعداد گزارش‌ها از آسیب به بیماران مواجه شده‌اند.

هوش مصنوعی در جراحی سینوس: از وعده تا هشدار

  به گزارش شفاآنلاین در سال ۲۰۲۱، یکی از زیرمجموعه‌های غول حوزه سلامت، جانسون اند جانسون، از یک «پیشرفت بزرگ» خبر داد: آن‌ها هوش مصنوعی را به دستگاه TruDi Navigation System، مورد استفاده در جراحی التهاب مزمن سینوس، اضافه کردند. این نرم‌افزار قرار بود به جراحان گوش، حلق و بینی در مسیر یابی ابزارهای جراحی کمک کند.

تا آن زمان، FDA هفت گزارش تاییدنشده از نقص عملکرد دستگاه و یک مورد آسیب بیمار دریافت کرده بود. پس از افزودن هوش مصنوعی، تعداد گزارش‌های نقص عملکرد و حوادث ناخوشایند به بیش از ۱۰۰ مورد رسید.

حداقل ۱۰ نفر بین اواخر ۲۰۲۱ و نوامبر ۲۰۲۵ آسیب دیده‌اند؛ عمده این آسیب‌ها به دلیل اطلاعات نادرست دستگاه به جراحان درباره موقعیت ابزارهایشان در داخل سر بیماران رخ داده است.

در برخی موارد، مایع مغزی-نخاعی از بینی بیمار نشت کرده و در یک مورد، جراح به اشتباه پایه جمجمه را سوراخ کرده است. دو بیمار نیز پس از آسیب به یک شریان اصلی دچار سکته شده‌اند.

FDA و محدودیت‌های گزارش‌ها

گزارش‌های FDA ممکن است کامل نباشند و صرفاً جهت تعیین علت دقیق حوادث پزشکی طراحی نشده‌اند، بنابراین مشخص نیست نقش هوش مصنوعی در این حوادث چقدر بوده است. دو قربانی سکته در تگزاس شکایتی علیه دستگاه TruDi و هوش مصنوعی آن مطرح کرده‌اند و مدعی شده‌اند که «محصول پیش از افزودن هوش مصنوعی ایمن‌تر بود».

جانسون اند جانسون به گزارش‌های FDA پاسخ نداد و شرکت Integra LifeSciences، که در ۲۰۲۴ Acclarent و دستگاه TruDi را خریداری کرده، اعلام کرد هیچ مدرک معتبری برای اثبات رابطه بین هوش مصنوعی و آسیب‌ها وجود ندارد.

گسترش سریع هوش مصنوعی در پزشکی

هم‌اکنون حداقل ۱۳۵۷ دستگاه پزشکی مجهز به هوش مصنوعی توسط FDA تایید شده‌اند که این رقم دو برابر تعداد مجوزهای ۲۰۲۲ است. گزارش‌ها شامل دستگاه‌هایی از جمله مانیتور قلب و دستگاه‌های سونوگرافی است که در برخی موارد اعضای بدن یا ضربان‌های غیرطبیعی را اشتباه شناسایی کرده‌اند.

مطالعه‌ای در دانشگاه‌های جانز هاپکینز، جورج‌تاون و ییل نشان داده است که ۶۰ دستگاه پزشکی AI با ۱۸۲ فراخوان محصول مرتبط بوده‌اند و تقریباً نیمی از این فراخوان‌ها کمتر از یک سال پس از تایید رخ داده است؛ حدود دو برابر نرخ فراخوان دستگاه‌های غیر AI.

مشکلات FDA و کاهش نیروهای متخصص

کارشناسان فعلی و سابق FDA می‌گویند که آژانس با موج جدید دستگاه‌های AI برای تایید و نظارت بر ایمنی آن‌ها در فشار است و کمبود نیرو به افزایش احتمال خطاها منجر شده است.

واحد تخصصی AI FDA، DIDSR، که حدود ۴۰ متخصص داشت، پس از تغییرات مدیریتی و کاهش بودجه، حدود ۱۵ نفر از نیروهایش را از دست داد. واحد سیاست‌گذاری Digital Health Center of Excellence نیز یک سوم نیروهایش را از دست داد.

خطرات بالینی و حوادث واقعی

در سال ۲۰۲۲، یک جراحی کم‌تهاجمی برای درمان التهاب مزمن سینوس، با استفاده از دستگاه TruDi، منجر به آسیب شریان کاروتید و سکته بیمار شد. شکایت دیگری در ۲۰۲۳، آسیب مشابهی را گزارش کرد که حتی خون بیمار به نماینده Acclarent در اتاق عمل پاشیده شد.

طبق شکایت‌ها، مسئولان Acclarent از هشدارهای جراح برای اصلاح مشکلات AI چشم‌پوشی کرده و برای عرضه سریع دستگاه، ایمنی را کاهش داده‌اند.

اشتباه در تشخیص اعضای بدن و ضربان قلب

در گزارش FDA، حداقل ۱۱۵ مورد مشکل نرم‌افزاری یا الگوریتمی در دستگاه‌های AI گزارش شده است. از جمله، نرم‌افزار سونوگرافی Sonio Detect اشتباهات شناسایی اعضای جنین را گزارش کرده است. همچنین ۱۶ گزارش درباره مانیتور قلب Medtronic، شناسایی ناقص ریتم‌های غیرطبیعی را نشان داده‌اند.

چالش‌های نظارتی و آینده AI در پزشکی

بسیاری از دستگاه‌های AI بدون آزمایش بالینی گسترده عرضه می‌شوند و شرکت‌ها اغلب تنها به ذکر مشابهت با دستگاه‌های قبلی بدون AI بسنده می‌کنند. کارشناسان هشدار می‌دهند که روش سنتی FDA برای نظارت بر ایمنی دستگاه‌های پزشکی ممکن است برای AI ناکافی باشد.