أعلنت شركة Anthropic رسميًا عن إطلاق برنامج تمويل بقيمة 5 ملايين دولار، يهدف إلى تمويل الأبحاث المستقلة التي تستكشف تأثير الذكاء الاصطناعي (AI) على رفاهية المستخدمين. سيوفر البرنامج للجهات الممولة تمويلًا مباشرًا، والوصول إلى نماذجها، بالإضافة إلى الدعم الفني، للمساعدة في إنشاء تقييمات مفتوحة المصدر، لمساعدة صناعة الذكاء الاصطناعي في قياس تأثير نماذجها على المستخدمين.
أهداف وأهمية برنامج التمويل
ذكرت شركة Anthropic أن أنظمة الذكاء الاصطناعي أصبحت أداة أساسية للعديد من الأشخاص في العمل والتعلم وحل المشكلات، وأصبحت أيضًا مصدرًا للشركاء في الحوار والدعم العاطفي في الأوقات الصعبة. ومع ذلك، لا يزال القطاع بأكمله يكافح لوضع معايير واضحة لضمان سلوك النماذج في هذه الحوارات بشكل مناسب.
«نأمل من خلال تمويل التقييمات والمعايير المستقلة، دعوة المزيد من الأشخاص للمشاركة في هذا المجال الناشئ والمهم، بما في ذلك الأطباء النفسيين، وعلماء النفس، وخبراء المنهجيات.»
Anthropic
تحديات تقييم الرفاهية
تقييم الرفاهية هو مجال صعب للغاية. يمكن تحديد دقة وسلامة سلوك معظم النماذج من خلال إجابة واحدة، لكن تقييم الرفاهية يتطلب المزيد من السياق. على سبيل المثال، قد لا يشارك المستخدم الذي يواجه صعوبات أفكار إيذاء النفس على الفور، بل يحتاج إلى الكشف عنها تدريجيًا خلال محادثة طويلة.
«تحتاج طرق الاستجابة الصحيحة إلى التطور باستمرار مع تطور نماذجنا وظروف استخدامها.»
Anthropic
المتطلبات المحددة لبرنامج التمويل
في هذا البرنامج، ستشارك شركة Anthropic إرشادات فريق الأمان الخاص بها، لتوضيح ما هي تقييمات الرفاهية التي تعتبر صارمة بما فيه الكفاية. يجب أن توضح التقييمات بوضوح ما يتم قياسه، مع إشراك خبراء سريريين وموضوعيين في التصميم والتحقق، وتعكس الاستخدام الفعلي للمستخدمين للذكاء الاصطناعي.
«يجب أن تكون التقييمات التي نسعى إليها قادرة على اختبار التدابير الوقائية والمخاطر، بما في ذلك تقييم مخاطر الالتزام المفرط والرفض المفرط.»
Anthropic
يمكن للباحثين المهتمين بالتقديم الحصول على استمارة الطلب من الموقع الرسمي، حيث أن الموعد النهائي هو 21 سبتمبر، وسيتم إخطار المتقدمين المختارين في 5 أكتوبر.
المصدر: الإعلان الرسمي من Anthropic