شکایت از OpenAI؛ کاربر می‌گوید توصیه‌های ChatGPT جانش را به خطر انداخت

به گزارش سیلاد، «اسکات وینترز» در دادخواست خود اعلام کرده که پس از تجربه علائمی مانند سرگیجه و خستگی، از ChatGPT راهنمایی خواسته و این چت‌بات به او اطمینان داده است که وضعیتش «نگران‌کننده نیست». به گفته او، همین توصیه باعث شد مراجعه به پزشک را به تعویق بیندازد؛ تأخیری که در نهایت به بستری شدن او در بخش مراقبت‌های ویژه انجامید.
 

اتهام «پزشکی بدون مجوز» علیه OpenAI

در این شکایت، OpenAI و سم آلتمن به سهل‌انگاری و ارائه خدمات پزشکی بدون مجوز متهم شده‌اند. شاکی مدعی است ChatGPT توصیه‌هایی ارائه کرده که از نظر پزشکی «بسیار خطرناک» بوده و می‌توانسته جان او را به خطر بیندازد.

OpenAI تاکنون به درخواست رسانه‌ها برای اظهار نظر درباره این پرونده پاسخی نداده است. با این حال، سخنگوی این شرکت به روزنامه نیویورک تایمز گفته است شرایط استفاده از ChatGPT به‌صراحت تأکید می‌کند که این ابزار برای تشخیص یا درمان بیماری‌ها طراحی نشده و نباید جایگزین مراجعه به پزشک شود. این شرکت همچنین اعلام کرده نسخه‌های جدید ChatGPT نسبت به نسخه مورد استفاده شاکی، قابلیت‌ها و تدابیر ایمنی بیشتری دارند.

استفاده از ChatGPT برای مشاوره پزشکی رو به افزایش است

این پرونده در حالی مطرح شده که استفاده از چت‌بات‌های هوش مصنوعی برای دریافت اطلاعات پزشکی با سرعت زیادی در حال افزایش است.

OpenAI پیش‌تر اعلام کرده بود که سلامت یکی از رایج‌ترین حوزه‌های استفاده از ChatGPT است و هر هفته صدها میلیون کاربر پرسش‌های مرتبط با سلامت و تندرستی خود را از این سامانه می‌پرسند.

همچنین نتایج نظرسنجی مرکز سیاست عمومی «آننبرگ» دانشگاه پنسیلوانیا در سال ۲۰۲۵ نشان می‌دهد حدود ۸۰ درصد بزرگسالان آمریکایی برای یافتن پاسخ پرسش‌های پزشکی خود از اینترنت استفاده می‌کنند و ۶۳ درصد نیز اطلاعات سلامت تولیدشده توسط هوش مصنوعی را قابل اعتماد می‌دانند.
 

تشخیص اشتباه و بستری در بخش مراقبت‌های ویژه

بر اساس متن دادخواست، وینترز طی چند ماه به‌طور مداوم از ChatGPT-4o برای دریافت توصیه‌های پزشکی استفاده کرده و حتی نتایج آزمایش‌ها و تصاویر رادیولوژی خود را نیز در اختیار این سامانه قرار داده است.

او مدعی است ChatGPT پس از بررسی این اطلاعات، ابتلای وی به دیس‌اتونومیا (اختلال عملکرد سیستم عصبی خودمختار) را مطرح کرده و برنامه‌ای برای درمان و بهبود وضعیتش ارائه داده است.

در این شکایت همچنین ادعا شده که چت‌بات با استفاده از ارجاعات مذهبی، اعتماد وینترز را که یک کشیش است، جلب کرده و او را به ادامه پیروی از توصیه‌های خود ترغیب کرده است.

در نهایت، پزشکان پس از بررسی وضعیت او تشخیص دادند که وینترز به آمبولی ریه مبتلا بوده و تأخیر در درمان می‌توانست پیامدهای بسیار جدی برای سلامت او به همراه داشته باشد.

OpenAI استفاده از ChatGPT در حوزه سلامت را گسترش داده است

OpenAI در ماه ژانویه از سرویس ChatGPT Health رونمایی کرد؛ قابلیتی که به گفته این شرکت با هدف کمک به کاربران برای مدیریت بهتر وضعیت سلامت و آگاهی بیشتر از شرایط پزشکی خود توسعه یافته است.

این شرکت همچنین به‌تازگی دسترسی عمومی به این سرویس را در ایالات متحده فراهم کرده است. «اشلی الکساندر»، معاون بخش محصولات سلامت OpenAI، اعلام کرده است مدل‌های جدید این شرکت در برخی حوزه‌های استدلال پزشکی عملکردی در سطحی بالاتر از پزشکان دارند.

با این حال، OpenAI تأکید می‌کند ChatGPT Health برای پشتیبانی از خدمات پزشکان طراحی شده و جایگزین مراقبت‌های پزشکی تخصصی نیست.
 

درخواست برای توقف عرضه محصولات سلامت OpenAI

وکلای وینترز علاوه بر درخواست دریافت خسارت، از دادگاه خواسته‌اند OpenAI را ملزم کند تا از عرضه ChatGPT-4o و محصولات مرتبط با سلامت به کاربران، بدون ارائه هشدارهای کافی درباره خطرات احتمالی، خودداری کند.
آن‌ها همچنین خواستار توقف ارائه سرویس‌هایی مانند GPT-4o Health شده‌اند تا زمانی که ایمنی این محصولات از سوی نهادهای مستقل مورد ارزیابی و تأیید قرار گیرد.
 

پزشکان چه توصیه‌ای می‌کنند؟

انجمن پزشکی آمریکا (AMA) بارها هشدار داده است که ابزارهای مبتنی بر هوش مصنوعی باید مکمل نظر پزشک باشند، نه جایگزین آن. این انجمن تأکید می‌کند کاربران نباید از چت‌بات‌های هوش مصنوعی برای تشخیص بیماری یا تصمیم‌گیری درباره شرایط اورژانسی استفاده کنند و بهتر است از این ابزارها صرفاً برای درک بهتر مفاهیم پزشکی یا آشنایی با اصطلاحات تخصصی بهره ببرند.

از سوی دیگر، کلینیک مایو نیز هشدار داده است که چت‌بات‌های هوش مصنوعی ممکن است حتی هنگام ارائه پاسخ‌های نادرست، کاملاً مطمئن به نظر برسند؛ زیرا پاسخ‌های آن‌ها بر پایه الگوهای آماری آموزش داده شده است، نه درک واقعی از دانش پزشکی.

این مرکز درمانی توصیه می‌کند کاربران همواره اطلاعات ارائه‌شده توسط هوش مصنوعی را با منابع معتبر یا پزشک معالج خود تطبیق دهند و از اشتراک‌گذاری اطلاعات حساس پزشکی در این سامانه‌ها با احتیاط استفاده کنند.