“`html
في ظل تزايد انتشار مساعدي البرمجة المعتمدين على الذكاء الاصطناعي، كادت مهمة تطوير روتينية كان من المفترض أن “تحرر الأيدي” بواسطة الذكاء الاصطناعي أن تكلف شركة ما ثمناً باهظاً. مؤخراً، أفادت وسائل الإعلام الأجنبية أن مهندساً في شركة استشارات تطوير البرمجيات Softjourn، أثناء استخدامه لوكيل الذكاء الاصطناعي لتوصية حزمة برمجيات “تبدو موثوقة جداً”، قدم الوكيل اسماً يشبه بشكل كبير اسم مكتبة شائعة الاستخدام. لولا قاعدة صارمة غير ملحوظة في الشركة، لكان من الممكن أن تكون هذه الحزمة الضارة قد تسللت إلى أنظمتهم.
وفقاً للمعلومات، طلب مهندس Softjourn من وكيل الذكاء الاصطناعي توصية بحزمة برمجيات لمهام شائعة خلال إحدى الأعمال. قدم وكيل الذكاء الاصطناعي بسرعة اسماً. في العديد من المنظمات، يقوم المطورون عادةً بقبول الاقتراحات وتنزيلها وتثبيتها مباشرة. ومع ذلك، لدى شركة Softjourn قاعدة صارمة يتم تنفيذها: يجب التحقق من أي توصية برمجية من الذكاء الاصطناعي مرتين لضمان شرعيتها. اتبع المهندس هذه العملية، وراجع جزءاً من الشيفرة المصدرية لتلك الحزمة على GitHub، واكتشف على الفور بعض الشكوك – حيث كانت الحزمة تحمل عدد تنزيلات قليل جداً، وقد تم إنشاء المستودع قبل بضعة أيام فقط.
نماذج الذكاء الاصطناعي قد تؤدي إلى مخاطر هجمات سلسلة التوريد
هذه ليست مجرد خطأ عارض من نماذج الذكاء الاصطناعي، بل هي نوع جديد من هجمات سلسلة التوريد يُطلق عليه اسم “slopsquatting” (أي “استيلاء على أسماء الحزم الوهمية للذكاء الاصطناعي”). أحياناً “تتخيل” نماذج الذكاء الاصطناعي أسماء حزم تبدو معقولة لكنها في الواقع غير موجودة. لقد لاحظ المهاجمون هذه القاعدة منذ فترة طويلة، وقاموا بتسجيل هذه الأسماء التي تخيلها الذكاء الاصطناعي مسبقاً، وتحميل الشيفرات الضارة، في انتظار أن يقع المطورون في الفخ. حذر سيرجي فيتساك، المدير العام لشركة Softjourn، من أن المهاجمين يراهنون على “أن المطورين تحت ضغط المواعيد النهائية سيقومون بالتثبيت أولاً، ثم التحقق لاحقاً”.
نجحت Softjourn في تجنب هذه المخاطر، لكن فيتساك أكد: “لقد تمكنا من اكتشافها لأننا اعتدنا على فحص عدد التنزيلات، ومراجعة الشيفرة المصدرية على GitHub، حتى لو كانت الحزمة التي أوصى بها الذكاء الاصطناعي تبدو عادية جداً”.
“`