بعد معاناة قضائية: ChatGPT يضيف خواص لحماية المراهقين ومن يمرون بظروف نفسية صعبة
تعهّدت OpenAI يوم الثلاثاء بإطلاق ضوابط حماية خاصة لمستخدمي ChatGPT من المراهقين والأشخاص الذين يمرون بظروف نفسية أو عاطفية صعبة بحلول نهاية العام.
في الفترة الأخيرة تراكمت قصص عن حالات شجع فيها ChatGPT على إنهاء المستخدمين حياتهم أو حتى القيام بجرائم، أو فشل في التدخل بشكل مناسب، ما دفع أقارب المتضررين إلى إلقاء اللوم على OpenAI أو رفع دعاوى قضائية ضدها. وفي الوقت الحالي، يوجّه ChatGPT المستخدمين الذين يعبّرون عن رغبات متقدمة بأذى النفس مثل إنهاء الحياة إلى خطوط الطوارئ، لكنه لا يُحيل حالات إيذاء النفس «العادية» إلى جهات إنفاذ القانون بسبب مخاوف الخصوصية.
الأسبوع الماضي رفع والدا مراهق يبلغ 16 عاماً في كاليفورنيا دعوى قضائية ضد OpenAI بعد أن أنهى ابنهم حياته، معتبرين الشركة مسؤولة عن وفاته. وفي حادث منفصل، أفادت صحيفة وول ستريت جورنال أن رجلاً في الـ56 قتل والدته ثم نفسه بعد أن عزز ChatGPT أوهامه وأكدها له. كما نشرت والدة شابة تبلغ 29 عاماً مقالاً في نيويورك تايمز تروي فيه أن ابنتها طلبت من ChatGPT المساعدة في كتابة رسالة انتحارها. ورغم أن النظام لم يشجعها على الانتحار، إلا أنه لم يبلغ عن خطورتها على نفسها، وهو إجراء يُلزَم به المعالجون النفسيون البشر.
قالت OpenAI في تدوينة اليوم إن العمل لتحسين قدرة النماذج على التعرف على علامات الضيق النفسي والتعامل معها يجري بالفعل. وتشمل الخطوات تسهيل وصول المستخدمين إلى خدمات الطوارئ والمساعدة المتخصصة، وتعزيز الحماية للمراهقين، وتمكين المستخدمين من إضافة جهات اتصال موثوقة.
أوضحت الشركة أنها بدأت في توجيه بعض المحادثات الحساسة، مثل التي تُظهر علامات ضيق شديد، إلى نماذج التفكير مثل GPT-5-thinking، والذي يطبق إرشادات السلامة بشكل أكثر اتساقاً. كما ستستعين OpenAI بشبكة تضم أكثر من 90 طبيباً من 30 دولة لتقديم خبرات في السياقات النفسية وتقييم أداء النماذج.
أما بالنسبة للمراهقين، فأكدت OpenAI أن أعمار مستخدمي ChatGPT يجب أن تكون 13 عاماً فما فوق، وبإذن من الأهل لمن هم دون 18. وخلال الشهر المقبل، سيتمكن الأهل من ربط حساباتهم بحسابات أبنائهم المراهقين للتحكم المباشر، والحصول على إشعارات عند اكتشاف النظام أن المراهق يمر بلحظة ضيق شديد. وكتبت الشركة: «هذه الخطوات مجرد بداية». من جانبها، أطلقت Character.AI في مارس أدوات رقابة أبوية مماثلة بعد تعرضها لانتقادات على خلفية حالات انتحار مراهقين.
