وفقًا لتقارير وسائل الإعلام الخارجية، أعلن الفائز بجائزة فيلدز لهذا العام، عالم الرياضيات Jacob Zimmerman، مؤخرًا عن تأسيس معهد أبحاث أمان الذكاء الاصطناعي MAISI، حيث يشغل Zimmerman منصب المدير العلمي، بينما يشغل Andrew Critch منصب الأمين العام. تُمنح جائزة فيلدز كل أربع سنوات، وتخصص للرياضيين الذين تقل أعمارهم عن 40 عامًا، وتعتبر من أرقى الجوائز في مجال الرياضيات.
سيبدأ MAISI الفصل الدراسي الأول من أبحاث أمان الذكاء الاصطناعي في عام 2027
يعتمد MAISI على هيكل معهد برينستون للدراسات المتقدمة، حيث يدعو علماء الرياضيات لإجراء أبحاث حول أمان الذكاء الاصطناعي على أساس فصول دراسية. يخطط المعهد لبدء الفصل الدراسي الأول في يناير 2027، حيث سيتم دعوة من 10 إلى 30 عالم رياضيات إلى منطقة الخليج؛ وفي السنة الدراسية الخاصة في سبتمبر 2027، سيتم توسيع النطاق ليشمل من 30 إلى 100 شخص. يهدف المعهد إلى تطوير مفاهيم التعريف، وطرق القياس، والحلول، بهدف تحديد الشروط التي يمكن من خلالها التأكد من أن أنظمة الذكاء الاصطناعي المحددة لن تؤدي إلى كوارث.
تشمل أعضاء اللجنة الاستشارية Timothy Gowers وRavi Vakil وJeffrey Irving وPaul Christiano. من بين هؤلاء، يُعتبر Gowers وVakil علماء رياضيات، بينما يكرس Irving وChristiano جهودهما لأبحاث أمان الذكاء الاصطناعي منذ فترة طويلة. سيتعاون MAISI مع Alignment.org وResolution.org.
سينضم Zimmerman هذا الشهر إلى قسم الأمان في OpenAI، لكن MAISI أكد أن عملياته مستقلة عن OpenAI. كان Critch قد كتب ورقة بحثية مع Zimmerman في عام 2025، تناقش المخاطر المتعلقة بالذكاء الاصطناعي التي تهدد البشرية جمعاء. كانت النقاشات حول أمان الذكاء الاصطناعي تركز سابقًا بشكل أساسي على السياسات والتقييمات والتجارب، بينما يعتبر تأسيس منظمة تجمع علماء الرياضيات للتركيز على الأسس النظرية أمرًا نادرًا. في نفس اليوم، صرح Evan Hubinger، المسؤول عن العلوم في Anthropic، أنه لم يتم بعد الحصول على طرق لحل مشكلة توافق الذكاء الاصطناعي الفائق.