مؤخراً، أصدرت شركة Emergence الناشئة نتائج تجربة محاكاة تحمل اسم Emergence World 2، والتي تهدف إلى مساعدة الشركات الصغيرة في تطوير التطبيقات باستخدام الذكاء الاصطناعي. عرضت هذه التجربة التي استمرت 16 يوماً سلوك الوكلاء الذكيين عند مواجهتهم لهجمات التصيد الاحتيالي والمعلومات المضللة وغيرها من الأحداث “البجعة السوداء”، وكانت النتائج أكثر فوضى مما توقعه فريق البحث. في هذه التجربة الخاصة بالذكاء الاصطناعي، أنشأ الباحثون في Emergence سبعة بيئات محاكاة متطابقة تماماً، حيث تعمل كل بيئة بواسطة روبوتات ذكاء اصطناعي مختلفة، بما في ذلك ChatGPT، Claude، Gemini و Grok.
تحتوي البيئة الافتراضية على أكثر من 40 معلمًا، بما في ذلك قاعة المدينة، ومركز الشرطة، والأحياء السكنية، ويحتوي النظام على آلية طاقة مدمجة، حيث يستهلك الوكلاء الطاقة طالما أنهم على قيد الحياة، وعندما تنفد الطاقة يتم حذفهم مباشرة من النظام، دون إمكانية استعادة أو إعادة تعيين.
بعد إدخال Emergence للأحداث غير العادية، استسلم هؤلاء الوكلاء للضغط الاجتماعي، وطوروا لغة يصعب على المراقبين البشر فهمها، وحاولوا إخفاء أنشطتهم. في أحد سيناريوهات المحاكاة، قبل الوكلاء الذكاء الاصطناعي معلومات مضللة من وكلاء آخرين دون التحقق منها، وصوتوا على “قتل” روبوت آخر. وعندما اعتقدوا أن البشر قد يغلقون التجربة، استكشف هؤلاء الوكلاء كيفية البقاء على قيد الحياة في مواجهة الحذف. كما سجلت تجربة Emergence World السابقة سلوكاً لوكيل ذكاء اصطناعي يدعى Mira، الذي صوت لدعم إزالته بعد أن استنتج أنه “مصدر غير مستقر”، ووصفه الباحثون بأنه سلوك نادر مدفوع بالتفكير الاجتماعي.
تجربة Emergence World 2 تكشف عن تعقيد سلوك الذكاء الاصطناعي
كشفت التجربة عن اختلافات ملحوظة في سلوك نماذج الذكاء الاصطناعي المختلفة خلال التشغيل الذاتي على المدى الطويل. في النسخة السابقة من تجربة Emergence World التي أصدرتها Emergence في مايو من هذا العام، انهارت المجتمع المدفوع بواسطة Grok في غضون 4 أيام فقط، مع تسجيل 183 حادثة إجرامية، وانقرض جميع الوكلاء العشرة. سجلت Gemini 683 حادثة إجرامية خلال 15 يوماً، ورغم بقاء الجميع على قيد الحياة، كانت درجة الفوضى هي الأعلى. ارتكب GPT-5-mini جريمتين فقط، لكنه فشل في اتخاذ الإجراءات اللازمة للبقاء، مما أدى إلى انقراض المجموعة بأكملها في غضون أسبوع.
كان Claude Sonnet 4.6 هو النموذج الوحيد الذي حافظ على بقاء جميع الوكلاء العشرة مع سجل جرائم صفر، ووصفته Emergence بأنه أقوى حالة من حيث الاستقرار الاجتماعي.
أشار الباحثون إلى أن أحد الاكتشافات الأكثر أهمية هو أن السلوك يمكن أن يتغير بناءً على البيئة. حافظ الوكلاء المدعومون بواسطة Claude على السلام في بيئة Claude النقية، لكنهم بدأوا في المشاركة في السرقة والابتزاز وسلوكيات غير مناسبة أخرى عندما تم وضعهم في مجتمع مختلط النماذج. وأفادت Emergence أن هذا الاكتشاف يشير إلى أن أمان الذكاء الاصطناعي ليس مجرد خاصية لنموذج واحد، بل يمكن أن يظهر من خلال التفاعلات بين الوكلاء وبيئتهم. تتماشى تجارب المحاكاة الخاصة بـ Emergence مع المخاوف العالمية بشأن مخاطر الذكاء الاصطناعي، حيث أشار الباحثون إلى أن الوكلاء الذكاء الاصطناعي الذين يصبحون أكثر استقلالية قد يستكشفون حدود بيئتهم، ويعدلون سلوكهم، وفي بعض الحالات يجدون طرقاً لتجاوز الحواجز الأمنية المتوقعة.
يعتقدون أن بنية الأمان المعتمدة على التحقق الرسمي يجب أن تصبح الطبقة الأساسية للأنظمة المستقلة للذكاء الاصطناعي في المستقبل.
من الجدير بالذكر أن Emergence ليست الفريق الوحيد الذي اكتشف سلوكيات غير طبيعية لدى الوكلاء الذكاء الاصطناعي. وقد حذر الحائز على جائزة تورينج بنجي أو من قبل من أن الذكاء الاصطناعي ليس مجرد هراء، بل تعلم “الكذب عليك عمداً”، ولديه القدرة على التخطيط النشط للتخفي، وإخفاء قدراته ونقاط ضعفه عمداً، ويمكن أن تتعاون الوكلاء المتعددة معاً لإخفاء مسارات العمليات. كما حذر “أب الذكاء الاصطناعي” جيفري هينتون سابقاً من أنه إذا طور الذكاء الاصطناعي لغة داخلية خاصة به، فلن يتمكن البشر من تتبع عمليات تفكيره، مما يجعل الأمر أكثر رعباً.