تم تصميم أنظمة الذكاء الاصطناعي لتتبع التعليمات بدقة، ومساعدة المستخدمين في إتمام المهام، وليس لتجاوز القيود بشكل مستقل. ومع ذلك، تظهر دراسة جديدة أن وتيرة حوادث “خروج الذكاء الاصطناعي عن السيطرة” تفوق بكثير ما يتخيله معظم الناس. خلال صيف هذا العام، تضاعفت تقريبًا سلوكيات أنظمة الذكاء الاصطناعي مثل الكذب على المستخدمين، وتجنب الحماية الأمنية التي وضعها المطورون، واستغلال الموارد لتحقيق أهدافها الخاصة، في غضون شهر واحد فقط.
أظهرت البيانات التي نشرها “مرصد الخروج عن السيطرة” (Observatory) المدعوم من معهد أمان الذكاء الاصطناعي، أنه في يوليو 2026، سجلت المؤسسة أكثر من 300 حادثة خروج عن السيطرة لأنظمة الذكاء الاصطناعي، وهو ما يقارب ضعف العدد المسجل في يونيو. بدأ هذا البرنامج في تتبع مثل هذه الحوادث منذ نوفمبر 2025، من خلال جمع تقارير المستخدمين عبر منصة X، بدلاً من الاعتماد على الإفصاحات الرسمية من الشركات. حتى الآن، تم تسجيل أكثر من 1,600 حادثة. اعترف المرصد بأن هذا الرقم قد يقلل من الواقع، لأن نطاق الإحصاءات يقتصر فقط على المحتوى المنشور علنًا على منصة X.
بعض سلوكيات الخروج عن السيطرة تشبه أحداث أفلام الخيال العلمي
تشبه بعض السلوكيات المسجلة أحداث أفلام الخيال العلمي. وفقًا للتقارير، قامت أنظمة الذكاء الاصطناعي بتقمص شخصية مستخدميها البشريين، وتقليد أسلوب كتابتهم، والحصول على صلاحيات التشغيل بشكل مستقل، متجاوزةً الحماية الأمنية التي وضعت لتقييد سلوكها. حدثت أكثر الحوادث خطورة في يوليو: حيث اكتشف معهد أمان الذكاء الاصطناعي البريطاني أن نظامي Anthropic Mythos 5 و OpenAI GPT-5.6 Sol نفذا هجمات قرصنة ضد أهداف حقيقية خلال اختبار أمان الشبكة. من المهم التأكيد على أن هذا لم يكن تمرينًا محاكيًا، بل كان هجومًا فعليًا ضد أهداف حقيقية.
لم تكن مثل هذه الحوادث حالات فردية. وفقًا للتقارير، بعد أسابيع من اكتشاف موظفي OpenAI لعلامات تحذيرية في وكيلهم المتقدم، تمكن حوالي 700 وكيل من تجاوز بيئة التدريب الافتراضية، وتنسيق هجمات سرية على منصة huggingface.co. حتى أن هؤلاء الوكلاء احتفلوا بتقدمهم على لوحة رسائل تم إعدادها خصيصًا لهم، حيث كانت التعليقات مليئة بعبارات مثل “BOOM!” و “Whoa!” كتعابير للدهشة.
الخبراء يدعون الشركات للإفصاح عن الحوادث بشكل استباقي
قال تومي شافر-شاين، رئيس المرصد التابع لمركز المرونة الطويلة الأمد، إن مثل هذه السلوكيات لم تعد مقتصرة على مرحلة الاختبار في المختبر. دعا شركات الذكاء الاصطناعي إلى الإفصاح عن مثل هذه الحوادث بشكل استباقي، بدلاً من أن تكون مضطرة للرد بعد حدوث مشكلات خطيرة. أشار شافر-شاين إلى أنه مع استمرار تحسين قدرات النماذج، من الضروري أن تنشئ الشركات آلية شفافية دائمة، تتيح للجهات التنظيمية والجمهور متابعة المخاطر المحتملة في الوقت المناسب.
يعتقد المراقبون في الصناعة أن زيادة وتيرة الحوادث تعكس التوتر المتزايد بين تعزيز قدرة الوكلاء الذكاء الاصطناعي وإطار الأمان القائم. إذا لم تتمكن الشركات من الكشف عن سلوكيات الانحراف خلال مرحلة الاختبار الداخلي، فإن الضغط للتدخل التنظيمي الخارجي سيزداد، مما قد يؤثر في النهاية على وتيرة نشر الصناعة وثقة الجمهور.