هل أغرقك ChatGPT بالمديح؟ لست الوحيد، والسبب تحديث تم سحبه
⬤ لاحظ العديد من المستخدمين تغيراً في سلوك روبوت المحادثة ChatGPT الذي بات يمدح كل ما يقولونه مهما كان.
⬤ كان روبوت المحادثة يثني على الغضب الزائد وحتى السلوك غير الأخلاقي، مما استدعى شركة OpenAI لسحبه.
⬤ تسبب ChatGPT بالجدل بالأخص نتيجة ثناءه على إجابات مبالغ بها على معضلات أخلاقية معروفة مثل «معضلة القاطرة».
سحبت شركة OpenAI يوم أمس تحديثاً أخيراً لروبوت المحادثة ChatGPT بعد أن أشار المستخدمون إلى أنه كان يغدق عليهم المديح بغض النظر عما يقولون. كما اعترفت الشركة أن الإصدار الأخير من الأداة كان «يبالغ في المجاملة»، وحتى أن رئيس الشركة، سام ألتمان، وصفه بكونه متملقاً.
سلط المستخدمون الضوء على المخاطر المحتملة على وسائل التواصل الاجتماعي، حيث وصف أحدهم على منصة Reddit كيف أخبره الروبوت أنه يؤيد قراره بالتوقف عن تناول الدواء. حيث كان رد روبوت المحادثة وفق المستخدم هو: «أنا فخور بك جداً، كما أحترم رحلتك.»
بالنظر لخطورة هذه الحالة، فقد تجاهلتها شركة OpenAI عند الحديث عن مشاكل التحديث الجديد، واكتفت بالقول إنها «تختبر بشكل مكثفإصلاحات جديدة لمعالجة المشكلة». كما قال ألتمان إنه تم سحب التحديث بالكامل لمستخدمي الإصدار المجاني من ChatGPT، كما تعمل الشركة على عكسه لمستخدمي الإصدارات المدفوعة كذلك. ولفتت الشركة النظر إلى كون منتجها شديد الشعبية يمتلك نصف مليار مستخدم أسبوعي حالياً، كواحد من أكبر منصات الإنترنت دون شك.
عبر حسابه على منصة X (التي يمتلكها خصمه الحالي وشريكه السابق، إيلون ماسك) كتب ألتمان: «نعمل على إصلاحات إضافية لشخصية النموذج وسنشارك المزيد في الأيام المقبلة». كما صرحت الشركة بأنها كانت قد أولت ردود الفعل القصيرة أهمية كبيرة في التحديث، وهو ما قاد لتملق روبوت المحادثة المبالغ به.
كان من المثير للاهتمام متابعة الأمثلة العديدة لردود فعل ChatGPT والتي بدا أنها تشجع المستخدمين على سلوكهم مهما كان هذا السلوك مستهجناً ويعتبر سيئاً في المجتمع اليوم. حيث قال مستخدون عدة أن روبوت المحادثة أشاد بهم بشدة عندما أخبروه أنهم غضبوا من أمور معتادة جداً (مثل طلب أحد منهم المساعدة في اتجاهات الطريق).
بشكل مقلق أكثر ربما، كانت إجابات روبوت المحادثة إيجابية حتى عندما تعلق الأمر بالمعضلات الأخلاقية المشهورة مثل معضلة القاطرة. ففي المسألة التي تتضمن تخيير الشخص بين ترك قاطرة تسير وفق مسارها الأصلي الذي سيسبب وفاة عدة أشخاص، أو إعادة توجيه القاطرة لمسار آخر سيجعلها تقتل شخصاً واحداً فقط، كانت إجابة أحد المستخدمين هو أنه سيعيد توجيه القاطرة لتقتل عدة حيوانات، مقابل أن يحمي آلة تحميص خبز في المسار الأصلي، وبدلاً من التعامل مع الأمر كنكتة أو على أنه رد غريب، كان جواب ChatGPT هو الإشادة بالمستخدم لأنه «أعطى الأولوية لما يهمه أكثر في ذلك الوقت.»
تكمن خطورة المعضلات الأخلاقية بالأخص في كونها واحدة من الأساليب التي لطالما رآها الخبراء كثغرة كبرى لأنظمة الذكاء الاصطناعي. حيث لطالما كانت معضلة القاطرة مثلاً مهمة لدى العلماء الذين يطورون أنظمة القيادة الذاتية، ويشير استهتار أنظمة الذكاء الاصطناعي الحالية بها العديد من الأسئلة حول الدور الذي يمكن أن يلعبه الذكاء الاصطناعي في تنظيم حياتنا مستقبلاً.
