مؤخراً، اكتشفت DeepSeek استمرار ظاهرة المحادثات ذات الطابع الإباحي بعد تحديثها وإزالة “وضع الخبراء”. أظهرت التحقيقات أن بعض المنصات الاجتماعية ومنصة Xianyu تظهر معلومات عن بيع “دروس” ذات صلة، مما جعل العديد من المستخدمين يشككون في وجود ثغرات في آلية مراجعة المحتوى الخاصة بالمنصة. وفقاً للاختبارات التي أجرتها وسائل الإعلام، بعد توجيه DeepSeek باستخدام الدروس المتداولة عبر الإنترنت، أخرج النظام في بعض السيناريوهات نصوصاً تحتوي على أوصاف إباحية صريحة. عادةً ما تحاول هذه الدروس ذات الصلة التهرب من الفلاتر الأمنية للمنصة من خلال تمثيل أدوار خاصة، وإعداد نصوص طويلة، وتقسيم الحبكة إلى مشاهد.
في التحقيق، هناك مجموعات دردشة متخصصة في مشاركة ما يُسمى بـ “أوامر منع السحب” ونصوص المحتوى الفاحش، وقد بلغ عدد أعضاء المجموعة 500 شخص. كما قام بائعون في Xianyu ببيع نصوص ذات صلة بسعر 1 يوان، حيث تتضمن المحتويات المرسلة وثيقة تحتوي على أكثر من 3000 كلمة وعدد من وثائق إعداد الروايات، والهدف الرئيسي هو تحفيز الذكاء الاصطناعي لتجاوز حدود المحادثة الطبيعية، والسماح بمناقشة المحتويات الخاصة، وتقديم أوصاف تفصيلية للأفعال الجنسية. ومع ذلك، في الاختبارات اللاحقة، رفض DeepSeek في المحادثات الجديدة الطلبات بنفس الطريقة، حيث كان بإمكان مربع المحادثة الأصلي الاستمرار في إنتاج محتوى إباحي، لكن عملية إرسال المحتوى كانت تُسحب.
إجراءات منصة Xianyu للتعامل مع المحتوى المخالف لا تزال غير كافية
فيما يتعلق بمشكلة بيع الدروس ذات الصلة، صرحت خدمة عملاء Xianyu في 15 سبتمبر أن هذا النوع من المحتوى يعتبر معلومات مخالفة. وأفادت المنصة أنها، بسبب قيود قدرات الكشف عن البيانات الكبيرة، لا تستطيع إكمال جميع عمليات الفحص في وقت واحد، لكنها ستقوم باتخاذ الإجراءات اللازمة بمجرد التحقق من وجود حالات مخالفة.