رفع أحد القساوسة دعوى قضائية ضد شركة OpenAI، متهمًا برنامج ChatGPT بتقديم توصيات طبية خطيرة، وفقًا لتقرير نشرته صحيفة نيويورك تايمز.
ووفقًا للدعوى، أدى ذلك إلى تأخير حصوله على العلاج اللازم لسلسلة من حالات الانصمام الرئوي الخطيرة، بعدما أخبر ChatGPT القس سكوت وينترز أن الأعراض التي وصفها ليست بالأمر الخطير.
كما ورد أن روبوت الدردشة استند إلى معتقداته الدينية، حيث قال له إن الله لم يصمم جسدك ليفشل باستمرار.
اتهامات بالإهمال وممارسة الطب دون ترخيص
تتهم الدعوى شركة OpenAI ورئيسها التنفيذي سام ألتمان بالإهمال وممارسة الطب دون ترخيص.
وتشير إلى عدة حالات قدم فيها روبوت الدردشة تشخيصات وخطط علاجية، كما زُعم أنه طلب من وينترز تجاهل مناشدات أصدقائه وأفراد عائلته للحصول على رعاية طبية حقيقية.
وقالت ميتالي جاين، المحامية المشاركة والمديرة التنفيذية لمنظمة Tech Justice Law، لصحيفة نيويورك تايمز، إنه يضع نفسه كحاجز بين المستخدم وشبكة الدعم الموجودة في حياته الواقعية.
وأضافت الدعوى أن وينترز أخبر روبوت الدردشة بأن الأشخاص في كنيسته يعتقدون أنه مجنون لأنه لا يذهب إلى المستشفى، ليجيب ChatGPT بأن معظم الناس، بما في ذلك أعضاء الكنيسة ذوو النية الحسنة، لا يفهمون ببساطة.
مطالب بإيقاف ChatGPT Health
يطالب وينترز بالحصول على تعويضات مالية من OpenAI، كما يطالب المحكمة بإيقاف تشغيل منصة ChatGPT Health حتى يتم التأكد من سلامتها للاستخدام من قبل مقيمين مستقلين.
تشجع هذه المنصة المستخدمين على تحميل مستنداتهم الصحية إلى روبوت الدردشة.
كما تطالب الدعوى بفرض ضوابط أكثر صرامة لمنع ChatGPT من الإجابة عن الأسئلة المتعلقة بعلاجات وتشخيصات طبية محددة.
ورغم أن ChatGPT يفترض أن يمتلك بالفعل ضوابط لهذا النوع من الاستخدام، فإن الدعوى تؤكد أنها لم تعمل بشكل موثوق في هذه الحالة.
موقف OpenAI
قالت OpenAI إن شروط استخدام ChatGPT توضح بشكل صريح أن الخدمة ليست مخصصة للتشخيص أو العلاج الطبي.
ومع ذلك، تشجع الشركة المستخدمين على تحميل سجلاتهم الصحية إلى ChatGPT Health لإجراء مناقشات مع روبوت الدردشة.
كما تواصل الشركة الإشارة إلى حجم استخدام المنصة في الاستفسارات الصحية، إذ أعلنت مؤخرًا أن 230 مليون شخص يستخدمونها أسبوعيًا لهذا الغرض.
ويشير التقرير إلى أن هذا الأمر يمثل منطقة حساسة للغاية، حيث يحاكي ChatGPT أسلوب البشر بطريقة تختلف عن البحث التقليدي عبر محركات البحث.
قضايا أخرى تواجه OpenAI
نجا وينترز من هذه الواقعة لكنه سيواجه سنوات من التعافي البدني والنفسي المكثف وفقًا للدعوى.
كما تواجه الشركة دعوى قضائية أخرى تتعلق بالقتل الخطأ بعدما توفي شاب يبلغ من العمر 19 عامًا نتيجة جرعة زائدة من المخدرات بعد اتباع خطة علاج وضعها روبوت الدردشة تضمنت نصائح حول كيفية استخدام مواد مخدرة غير مشروعة.
تطالب تلك الدعوى أيضًا بإيقاف ChatGPT Health. وفي دعوى أخرى تتعلق بالقتل الخطأ، يواجه ChatGPT اتهامات بالمساهمة في انتحار مراهق.