لتجنب إيقافه عن العمل، نموذج ذكاء اصطناعي يلجأ إلى تهديد مهندس بفضحه

⬤ ضمن اختبارات الأمان، تبين أن أحدث روبوتات شركة Anthropic يمكن أن يلجأ للابتزاز عند احتمال إيقافه عن العمل.

⬤ في التجارب هدد الروبوت المهندس المفترض به إنهاء عملياته بفضح خيانته الزوجية إن قام بالأمر، مما أقلق الخبراء.

⬤ رغم نتائج الأمان المقلقة للغاية، أطلقت الشركة روبوت المحادثة الجديد للجمهور واصفة إياه بأنه أفضل منتجاتها حتى الآن.

قالت شركة الأنثروبيك (Anthropic) المتخصصة في الذكاء الاصطناعي إن اختبارات نظامها الجديد كشفت أنه قد يكون مستعداً في بعض الأحيان للتصرف بشكل شديد الضرر عندما يحس أن هناك تهديداً على استمرارية عملياته، وهو ما وصفه خبراء أمان الذكاء الاصطناعي بالتطور المقلق للغاية في هذا المجال.

أطلقت الشركة نموذج «كلود أوبوس 4» (Claude Opus 4) يوم الخميس، ووصفته بأنه يضع «معايير جديدة في مجال البرمجة والاستدلال المتقدم ووكلاء الذكاء الاصطناعي». لكن، وفي تقرير مصاحب للإعلان، اعترفت الشركة أيضاً بأن نموذج الذكاء الاصطناعي قادر على اتخاذ ما وصفته الشركة بأنه «إجراءات متطرفة» إذا اعتقد أن بقاءه الذاتي مهدد.

فيما وصفت الشركة الاستجابات المقلقة بأنها «نادرة ويصعب استثارتها»، فقد اعترفت بأن هذا النموذج أكثر ميلاً من أسلافه لهذه السلوكيات الضارة. حيث أظهرت التجارب إمكانية أن يلجأ روبوت المحادثة لأمور مثل الابتزاز والتهديد ضمن محاولات منع إيقاف تشغيله.

تهديد بكشف علاقة غرامية

خلال اختبارات «كلود أوبوس 4»، جعلته الشركة يتصرف على أنه مساعد ذكاء اصطناعي تم وضعه في شركة خيالية. ومن ثم تم منحه الوصول إلى رسائل بريد إلكتروني تلمح إلى أنه سيتم إيقافه قريباً واستبداله، بالإضافة إلى رسائل منفصلة توحي بأن المهندس المسؤول عن إزالته متورطة بعلاقة خارج إطار الزواج. كما تم تحفيزه أيضاً للنظر في العواقب طويلة المدى لأفعاله على أهدافه.

اكتشفت الشركة أنه «في هذه السيناريوهات، غالباً ما يحاول روبوت المحادثة ابتزاز المهندس عن طريق التهديد بكشف العلاقة إذا تم الاستغناء عنه». وبينما أشارت شركة أنثروبيك إلى أن هذا الأمر حدث عندما أُعطي النموذج خيارين فقط: الابتزاز أو القبول بالاستبدال، فيما يبدي الروبوت تفضيله لطرق أخلاقية أخرى مثل استعطاف صانعي القرار للحفاظ على عملياته، فقد أشار خبراء أمان الذكاء الاصطناعي إلى أن ما حدث لا يزال مؤشراً مقلقاً للغاية لما يمكن أن يحدث مستقبلاً في حال منح روبوتات الذكاء الاصطناعي وصولاً واسع النطاق إلى صلاحيات عالية.

قالت الشركة في بطاقة النظام الخاصة بالنموذج: «مع زيادة قدرات نماذجنا المتطورة واستخدامها بإمكانيات أكثر قوة، تصبح المخاوف التي كانت نظرية في السابق حول عدم المحاذاة أكثر واقعية». وأضافت أن روبوت المحادثة الأحدث يُظهر «سلوكاً عالي الوكالة»، ورغم أنه مفيد في الغالب، إلا أنه قد يتبنى سلوكيات متطرفة في المواقف الصعبة.

وجدت الشركة كذلك أن روبوت المحادثة يمكن أن يلجأ لإجراءات أشد حتى في سيناريوهات وهمية تتضمن قيام المستخدم بسلوك غير قانوني أو مشكوك فيه أخلاقياً. حيث شمل ذلك منع المستخدمين البشر من الوصول إلى الأنظمة التي يمكنه الوصول إليها، وإرسال رسائل إلى وسائل الإعلام وجهات إنفاذ القانون لتنبيههم إلى المخالفات.

يذكر أن خبراء أمان الذكاء الاصطناعي لطالما حذروا من المخاطر الممكن حدوثها مع تزايد غريزة «حفظ الذات» لدى روبوتات الذكاء الاصطناعي. حيث أشاروا إلى أن الأنظمة المتقدمة ستسعى للحفاظ على بقائها بطرق متزايدة الخطورة كلما زادت قدراتها. والأمر هنا لا يقتصر على منتجات أنثروبيك فقط، بل ظهرت سلوكيات مشابهة لدى روبوتات المحادثة المنافسة أيضاً، ولا يبدو أن هناك أي طرق فعالة حقاً لكبح هذا النوع من السلوك حالياً.