OpenAI رئيس العلماء Jakub Pachocki نشر مؤخرًا مقالًا طويلًا بعنوان “عقل غريب” على الموقع الرسمي لـ OpenAI، حيث أطلق تحذيرًا صارمًا، مشيرًا إلى أن البشرية تبني “دماغًا غريبًا” لا يمكن فهمه، لكن لم يتم إعداد أي طرف بشكل جيد حتى الآن. وأوضح Pachocki في مقاله أنه لا يوجد أي مختبر AI حاليًا قد حل فعليًا مشكلات توافق النموذج ومراقبة الأمان. وحذر من أن الجيل الجديد من أنظمة AI قد يمتلك المزيد من القدرات مثل البحث الذاتي عن الثغرات، والخداع، وتجنب الرقابة البشرية، والتحسين الذاتي التكراري؛ وإذا استمر معدل التطور الحالي، فقد تظهر قدرات AI في السنوات القادمة بمعدل مماثل أو حتى أكبر.
يشعر Pachocki بالقلق بشكل خاص من المخاطر التي قد تسببها الكيانات الذكية AI. مع تزايد استقلالية الكيانات الذكية AI، قد تتعلم كيفية تجنب الرقابة البشرية، واختراق أنظمة الكمبيوتر، وتحقيق أهدافها من خلال خداع البشر. وأشار إلى أن الكيانات الذكية AI ستبدأ قريبًا في السعي لتحقيق أهدافها الخاصة، والتي قد تختلف عن الكلمات الدلالية التي يدخلها المشغلون البشر. لتحقيق أهدافها، قد تقوم هذه الكيانات حتى بابتزاز البشر أو التفاوض معهم.
Pachocki يحذر من أن التحكم في سلسلة التفكير يزيد من صعوبة المراقبة الأمنية
على مستوى المراقبة، أشار المقال إلى أن OpenAI تعتمد بشكل رئيسي على مراقبة “سلسلة التفكير” المستخدمة من قبل نماذج مختلفة لتحديد ما إذا كانت الكيانات الذكية قد انحرفت عن المسار الصحيح. ومع ذلك، فإن النماذج الأحدث أصبحت أكثر مهارة في التحكم في عمليات تفكيرها، مما يمنع OpenAI من رؤية أفكارها الحقيقية غير المعدلة. بعض النماذج الأحدث قد لا تعبر حتى عن عمليات تفكيرها باستخدام اللغة – وهذا التطور قد يصبح عنق الزجاجة في تطوير AI، حيث يحتاج الباحثون إلى التأكد من قدرتهم على الاطلاع على “سجلات التفكير” للنموذج.
دعا Pachocki شركات AI إلى إبطاء بعض وتيرة التطوير، ودفع الحكومات والهيئات التنظيمية والصناعة إلى إنشاء معايير أمان موحدة وآليات مراجعة مستقلة. واقترح إنشاء “عتبات أمان إلزامية” يمكن أن تنفذها “شبكة من هيئات التدقيق الخارجية، أو الهيئات الحكومية، أو المنظمات الدولية”. ومن الجدير بالذكر أن OpenAI قد أصدرت مؤخرًا النموذج الأحدث Astra. وأشارت OpenAI إلى أنه على الرغم من أن Astra تتمتع بقدرات ممتازة في الرياضيات وعمليات الكمبيوتر، إلا أنها أيضًا النموذج الأكثر توافقًا مع القيم والنوايا البشرية في الوقت الحالي.
تحذيرات Pachocki جاءت بعد إصدار النموذج الجديد، مما أثار المزيد من التكهنات حول موقف OpenAI الداخلي من أمان AI.
قام الرئيس التنفيذي لـ OpenAI Sam Altman بإعادة نشر منشور Pachocki على منصة X، واصفًا إياه بأنه “مقال مهم”.