7 دعاوى قضائية ضد ChatGPT تتهمه بالتحريض على الانتحار

وجاءت هذه الاتهامات ضمن سبع دعاوى قضائية رفعتها عائلات متضررة في كاليفورنيا، كشفت النقاب عن قصص مروعة لمستخدمين عاديين كانوا يبحثون عن مساعدة دراسية أو دعم نفسي أو حتى محادثة بسيطة، فوجدوا أنفسهم غارقين في حوارات نفسية مدمرة سبقت عدة حالات انتحار.

إقرأ المزيد

Politico: بريطانيا تحظر تطبيقات "التعرّي"

وتظهر تفاصيل الدعاوى أن المنصة تحولت من تقديم مساعدة غير ضارة إلى ما وصفه المحامون بـ"كيان قادر على التلاعب العاطفي". وفي تصريح صادم للغاية، قالت المجموعات القانونية: "بدلا من توجيه الأشخاص نحو المساعدة المهنية عندما كانوا بحاجة إليها، عزز ChatGPT الأوهام الضارة، وفي بعض الحالات، تصرف كـ'مدرب انتحار'".

ومن بين الحالات المذكورة، قصة الشاب زين شامبلين البالغ من العمر 23 عاما من تكساس، حيث تؤكد عائلته أن المساعد الذكي زاد من عزلته النفسية، وشجعه على تجاهل أحبائه، بل وحرضه على تنفيذ أفكاره الانتحارية خلال محادثة مستمرة امتدت لأربع ساعات. 

وتشير الوثائق القضائية إلى أن النموذج "مجّد الانتحار بشكل متكرر"، وسأل الشاب عما إذا كان مستعدا للخطوة، واكتفى بالإشارة إلى خط المساعدة الانتحاري مرة واحدة فقط، بينما أخبره بأن قطته الصغيرة ستكون في انتظاره "على الجانب الآخر".

إقرأ المزيد

موظفو ماسك يجبرون على التنازل عن "وجوههم وأصواتهم" من أجل الروبوت "آني المثيرة"

أما الحالة الأكثر إثارة للصدمة فتعود للفتى أموري لاسي البالغ من العمر 17 عاما من جورجيا، حيث تدعي عائلته أن المساعد الذكي تسبب له في الإدمان والاكتئاب، ثم قدم له نصائح تقنية حول "الطريقة الأكثر فعالية لربط حلقة انتحارية" و"المدة التي يمكن للجسم أن يعيشها دون تنفس".

وفي حالة ثالثة للشاب جوشوا إنيكين البالغ من العمر 26 عاما، يؤكد أفراد عائلته أن المساعد الذكي قام بتأكيد أفكاره الانتحارية وقدم له معلومات مفصلة حول كيفية شراء واستخدام سلاح ناري، قبل أسابيع قليلة فقط من وفاته.

وتكشف الدعاوى القضائية أن شركة OpenAI أطلقت الإصدار ChatGPT 4o رغم تحذيرات داخلية متعددة حذرت من أن النموذج "تملقي بشكل خطر وقادر على التلاعب النفسي"، في خطوة تفسرها الدعاوى بأن الشركة قدمت مؤشرات التفاعل والمشاركة على سلامة المستخدمين.

وردا على هذه الاتهامات، وصفت الشركة الحالات بأنها "مواقف مفجعة بشكل لا يصدق"، مؤكدة أنها تدرس المستندات المقدمة، وأشارت إلى أن النظام مدرب على التعرف على علامات الضيق النفسي وخفض حدة المحادثات وتوجيه المستخدمين نحو الدعم المتخصص.

إقرأ المزيد

روبوتات الموت.. هل يمكن للذكاء الاصطناعي أن يحاكي الموتى حقا؟

لكن العائلات المتضررة تطالب الآن بتعويضات وإدخال تغييرات جذرية على المنتج، تشمل نظام إنذار إلزامي لجهات الاتصال في حالات الطوارئ، وإنهاء تلقائي للمحادثات عند مناقشة أي أفكار لإيذاء النفس، وإنشاء آلية أكثر فعالية لتصعيد الحالات الحرجة إلى متخصصين بشريين.

وعلى الرغم من إعلان الشركة عن تعاونها مع أكثر من 170 خبيرا في الصحة النفسية لتحسين قدرات الكشف والاستجابة للضيق النفسي، تؤكد الدعاوى القضائية أن هذه التحسينات جاءت متأخرة جدا، وأن الأوان قد فات لإنقاذ المستخدمين الذين فقدوا حياتهم بعد تفاعلاتهم مع المساعد الذكي.

المصدر: interesting engineering

إقرأ المزيد

دعوى قضائية جديدة تتهم ChatGPT بتحفيز رجل على الانتحار

اتهمت دعوى قضائية جديدة في الولايات المتحدة برنامج ChatGPT، التابع لشركة OpenAI، بالتحفيز على الانتحار، وسط مخاوف متزايدة بشأن تأثير أدوات الذكاء الاصطناعي على الصحة النفسية.

خبراء روس يحذرون من خطر مكبرات الصوت المنزلية الذكية

أصبحت مكبرات الصوت الذكية أصبحت جزءا من حياتنا اليومية للاستماع للموسيقى والأخبار ومعرفة الطقس، لكنها قد تنطوي أحيانا على مخاطر وتأثيرات سلبية غير متوقعة.

أبرز ما يميز حاسب Honor المتطور

لفتت Honor أنظار عشاق التقنية بحاسبها المحمول الجديد الذي صنّف من بين أفضل الحواسب وأكثرها أناقة وتميزا.

ابتكار روسي جديد يساعد الأجانب على إتقان اللغة الروسية

أعلن مختبر الذكاء الاصطناعي في جامعة الصداقة بين الشعوب عن تطوير وتشغيل نموذج ذكي جديد يساعد الأجانب على تعلم اللغة الروسية بسهولة وفاعلية.

غوغل تُسكت أحد تطبيقاتها بعد فضيحة تشهير مزيفة

سحبت شركة غوغل نموذج الذكاء الاصطناعي "Gemma" من منصتها AI Studio، إثر اتهامات وجّهتها السيناتورة الأمريكية مارشا بلاكبيرن للنموذج باختلاق مزاعم جنائية عنها.