الذكاء الاصطناعي يورّط شركة استشارية: اقتباسات مختلقة تؤدي لاستعادة الأتعاب
وافقت شركة ديلويت أستراليا، واحدة من كبرى الشركات الاستشارية في العالم، على إعادة جزء من أتعابها للحكومة الفيدرالية بعد اعترافها بأن تقرير المراجعة الخاص بالامتثال لنظام الرعاية الاجتماعية، والذي بلغت قيمته 440 ألف دولار، احتوى على اقتباسات ومراجع مزيفة تم توليدها بواسطة الذكاء الاصطناعي. وجاء هذا الاعتراف بعد أن اكتشف أكاديمي من جامعة سيدني العديد من الإشارات إلى أبحاث غير موجودة في الواقع.
تسلّط الحادثة الضوء على الجدل المتصاعد حول استخدام أنظمة الذكاء الاصطناعي في أعمال الاستشارات المهنية، خصوصاً عندما تولّد هذه الأدوات مراجع أو استنتاجات دون تحقق بشري. ورغم تأكيد ديلويت أن التوصيات السياسية الواردة في التقرير لا تزال صحيحة، فقد أثار الحادث الانتباه إلى أهمية الشفافية في التحليلات المعتمدة على الذكاء الاصطناعي ضمن العقود الحكومية.
تقرير «مراجعة ضمان إطار الامتثال المستهدف»، الذي اكتمل في يوليو بتكليف من وزارة التوظيف والعلاقات في مكان العمل (DEWR)، تناول النظام الآلي الذي تستخدمه الحكومة لفرض العقوبات على مخالفات الرعاية الاجتماعية. وكان الهدف من عمل ديلويت تقييم مدى تطابق كود النظام مع متطلبات الأعمال ومعايير الامتثال للسياسات. وقد نُشر التقرير في أغسطس، لكن خلال أسابيع فقط أشار الأكاديميون إلى مشكلات خطيرة.
كريس رادج، نائب مدير مركز قانون الصحة بجامعة سيدني، اكتشف مراجعاً مستخدمة لعدد من المقالات غير الموجودة، بما في ذلك تقارير نُسبت إلى ليزا بيرتون كروفورد، أستاذة القانون في الجامعة نفسها، التي أكدت أنها لم تكتب تلك الأعمال مطلقاً. وقالت كروفورد لصحيفة «أستراليان فاينانشال ريفيو»: «من المقلق أن أرى أبحاثاً تُنسب إلي بهذه الطريقة. أود أن أسمع من ديلويت تفسيراً حول كيفية توليد هذه المراجع.»
في الصفحة 58 من التقرير، كُشف أن الفريق التقني في ديلويت استخدم «سلسلة أدوات تعتمد على نموذج لغوي كبير من الذكاء الاصطناعي التوليدي (Azure OpenAI GPT-4o)» أثناء التحليل.
أصدرت وزارة التوظيف والعلاقات في مكان العمل نسخة محدّثة من التقرير المكون من 273 صفحة يوم الجمعة، مشيرة إلى أنها أجرت «عدداً صغيراً من التصحيحات في المراجع والحواشي». كما أُزيل اقتباس قضائي مزيف كان قد نُسب خطأً إلى القاضية الفيدرالية جينيفر ديفيز، التي كُتب اسمها بشكل غير صحيح في النسخة الأصلية. ومن بين 141 مرجعاً في النسخة الأولى، بقي 127 فقط في النسخة المعدلة، مع حذف المراجع المزيفة المنسوبة إلى كروفورد وغيرِها دون توضيح إضافي.
قالت ديلويت لصحيفة AFR إنها ستعيد الدفعة الأخيرة من مستحقاتها الحكومية، من دون أن يوضح أي من الطرفين النسبة التي تمثلها هذه الدفعة من المبلغ الإجمالي. وأوضح متحدث باسم الوزارة أن «جوهر المراجعة المستقلة لا يزال قائماً، ولم تُجرَ أي تغييرات على التوصيات.»
