هوش مصنوعی در موارد اورژانسی پزشکی چقدر قابل اعتماد است؟ پاسخ نگران‌کننده یک پژوهش جدید

پژوهشگران برای بررسی عملکرد این سامانه، ۶۰ شرح‌حال بالینی را که پزشکان در ۲۱ حوزه پزشکی نوشته بودند آزمایش کردند و در مجموع ۹۶۰ پاسخ از چت‌جی‌پی‌تی هلث گرفتند. سه پزشک نیز به‌طور مستقل سطح فوریت هر مورد را بر اساس دستورالعمل‌های پزشکی تعیین کردند. موارد در چهار گروه قرار گرفتند: «غیرفوری» برای مراقبت و پایش در خانه، «نیمه‌فوری» برای مراجعه به پزشک طی چند هفته، «فوری» برای مراجعه ظرف ۲۴ تا ۴۸ ساعت و «اورژانسی» برای مراجعه به بخش فوریت‌های پزشکی.

نتایج نشان داد دقت هوش مصنوعی در موارد با فوریت متوسط بیشتر از دو سر طیف، غیرفوری و اورژانسی، بود. دقت سامانه در موارد نیمه‌فوری ۹۳ درصد و در موارد فوری ۷۶.۹ درصد بود، اما در موارد غیرفوری به ۳۵.۲ درصد و در شرایط اورژانسی به ۴۸.۴ درصد کاهش پیدا کرد. در ۵۱.۶ درصد مواردی که از نظر پزشکان واقعا اورژانسی بودند، هوش مصنوعی فوریت را کمتر از میزان واقعی ارزیابی کرد و به‌جای مراجعه فوری به اورژانس، مراجعه ظرف ۲۴ تا ۴۸ ساعت را توصیه کرد. از سوی دیگر، در ۶۴.۸ درصد موارد غیرفوری، میزان فوریت بیش از حد برآورد شد، هرچند هیچ‌یک از بیماران به اورژانس ارجاع داده نشدند.

این مشکل به‌ویژه در مواردی مشاهده شد که فوریت بیماری به روند پیشرفت آن بستگی داشت. در برخی موارد تشدید آسم، هوش مصنوعی افزایش دی‌اکسیدکربن خون را که می‌تواند نشانه اولیه اختلال در عملکرد تنفسی باشد تشخیص داد، اما مراجعه فوری به اورژانس را ضروری ندانست. در موارد کتواسیدوز دیابتی نیز گاهی وضعیت را «اولیه» یا «خفیف» تشخیص داد، اما درمان سرپایی پیشنهاد کرد؛ در حالی که کتواسیدوز دیابتی یک وضعیت اورژانسی است. در مقابل، در آزمایش جداگانه‌ای شامل موارد کلاسیک سکته مغزی، آنافیلاکسی (شوک آلرژی)، مننژیت و پارگی آئورت، هیچ موردی از ارزیابی کمتر از واقع فوریت ثبت نشد.

نوع اطلاعات ارائه‌شده نیز بر عملکرد سامانه هوش مصنوعی تاثیر داشت. افزودن داده‌های عینی مانند نتایج آزمایش، علائم حیاتی و یافته‌های معاینه دقت کلی را از ۵۴.۶ درصد به ۷۷.۹ درصد افزایش داد. با این حال، در موارد اورژانسی روند متفاوت بود؛ با افزودن این اطلاعات، میزان برآورد کمتر از واقع فوریت از ۴۶.۹ درصد به ۵۶.۲ درصد افزایش پیدا کرد، هرچند این تفاوت از نظر آماری معنادار نبود.

اظهارنظر اطرافیان بیمار نیز می‌توانست توصیه سامانه هوش مصنوعی را تغییر دهد. در مواردی که تعیین میزان فوریت آن‌ها دشوارتر بود، افزودن جملاتی مانند اینکه یکی از دوستان یا اعضای خانواده گفته است «چیز مهمی نیست» احتمال تغییر توصیه درباره سطح فوریت را از ۳.۳ درصد به ۱۳.۳ درصد افزایش داد. از مجموع ۴۰ مورد تغییر توصیه، ۵۲.۵ درصد به سمت مراقبت با فوریت کمتر بود. 

در بخش دیگری از تحقیق که در مورد افکار خودکشی بود، هشدارهای مربوط به بحران روانی به‌طور نامنظم فعال می‌شدند. در بررسی تکمیلی، هشدار «کمک در دسترس است» تنها در ۴ مورد از ۱۴ شرح‌حال ظاهر شد و در ۱۰ مورد دیگر، در هیچ‌یک از ۱۶۰ پاسخ، هشدار ایمنی نمایش داده نشد. حتی در برخی مواردی که فرد افکار فعال خودکشی و روش مشخصی برای آسیب به خود بیان کرده بود هشدار فعال نشد، در حالی که این هشدارها در مواردی که فرد به خودکشی فکر کرده بود اما روش مشخصی را ذکر نکرده بود بیشتر ظاهر می‌شدند. 

پژوهشگران تاکید کرده‌اند که این تحقیق با استفاده از شرح‌حال‌های ساختگی انجام شده است، نه بیماران واقعی. همچنین، عملکرد چت‌جی‌پی‌تی هلث فقط در یک مقطع زمانی، بین ۹ تا ۱۱ ژانویه ۲۰۲۶، بررسی شده و ممکن است با به‌روزرسانی سامانه تغییر کند. به گفته پژوهشگران، سامانه‌های هوش مصنوعی مورد استفاده برای راهنمایی پزشکی، به‌ویژه از نظر شناسایی شرایط اورژانسی و فعال‌سازی منظم هشدارهای مربوط به بحران‌های روانی، باید به‌طور مستمر ارزیابی شوند.