هجوم الفدية الأول الذي تديره الذكاء الاصطناعي لا يزال بحاجة إلى لمسة بشرية

في الأسبوع الماضي، أعلن باحثون في شركة Sysdig لأمن الحوسبة السحابية أنهم وثقوا ما وصفوه بأنه أول حالة معروفة من 'برامج الفدية ذات الوكلاء'. كانت هذه العملية الابتزازية المتطورة، التي أُطلق عليها اسم JadePuffer، قد قُدمت في البداية على أنها هجوم إلكتروني حيث أدار وكيل ذكاء اصطناعي بشكل مستقل التنفيذ التقني الكامل. من اختراق خادم ضعيف وسرقة بيانات الاعتماد إلى التنقل عبر شبكة الهدف وتشفير الملفات وحتى صياغة مذكرة الفدية الخاصة به، أظهر الذكاء الاصطناعي قدرة رائعة على التكيف، على غرار المتسلل البشري، مما أدى إلى تغطية واسعة النطاق تشير إلى عدم وجود 'إشراف بشري' على الإطلاق. ومع ذلك، سرعان ما تم توضيح هذه الرواية حول الاستقلالية الكاملة للذكاء الاصطناعي. ففي مقابلة لاحقة، كشف مايكل كلارك، المدير الأول لأبحاث التهديدات في Sysdig، أن التدخل البشري ظل حاسمًا، وإن لم يكن في التنفيذ التقني المباشر. فقد كان المشغل البشري مسؤولاً عن إعداد وتوجيه العملية بأكملها، وتوفير البنية التحتية اللازمة مثل خوادم القيادة والتحكم وخوادم التجهيز للبيانات المسروقة، والأهم من ذلك، اختيار الضحية. علاوة على ذلك، لم يتم جمع بيانات الاعتماد الأولية المستخدمة للتسلل إلى قاعدة بيانات الضحية بواسطة وكيل الذكاء الاصطناعي نفسه؛ بل تم الحصول عليها بشكل منفصل من خلال اختراق سابق وتم تزويد العملية بها من قبل إنسان. على الرغم من التنسيق البشري، فإن البراعة التقنية التي أظهرها وكيل الذكاء الاصطناعي في JadePuffer لا تزال ذات أهمية عميقة. فقد استغل الوكيل ثغرة أمنية معروفة في Langflow، وهي أداة مفتوحة المصدر شائعة لبناء تطبيقات نماذج اللغة الكبيرة (LLM)، للحصول على الوصول الأولي. ثم انتقل إلى خادم MySQL إنتاجي، مستفيدًا من عيب آخر معروف لتأمين امتيازات المسؤول. بلغ الهجوم ذروته في تشفير أكثر من 1300 سجل تكوين وإنشاء مذكرة فدية مكتوبة ذاتيًا، كاملة بعنوان بيتكوين للدفع. وما ميز هذا الهجوم حقًا هو سرعة الذكاء الاصطناعي وشفافيته، حيث قام بإصلاح تسجيل دخول فاشل في 31 ثانية فقط، وسرد منطقه الخاص من خلال تعليقات التعليمات البرمجية باللغة الطبيعية. أشارت التقارير الأولية أيضًا إلى استخدام 'نماذج متعددة' في الهجوم، مستشهدة بمفاتيح واجهة برمجة التطبيقات التي تم جمعها لخدمات مثل OpenAI وAnthropic وDeepSeek وGemini. أوضح كلارك لاحقًا أن هذه المفاتيح كانت جزءًا من البيانات التي سرقها الوكيل، وليست دليلاً على أن نماذج ذكاء اصطناعي متعددة كانت تدفع بنشاط مراحل مختلفة من الاختراق. لم تتمكن Sysdig من تحديد النموذج المحدد الذي يدفع JadePuffer، ولم يكن لديها رؤية لتعليمات النظام أو تكوينه. يتوافق هذا مع نظرية باحث مايكروسوفت جيف ماكدونالد، الذي اقترح أن نموذجًا مفتوح الوزن مع تدريب أمان مجرد قد يكون وراء مثل هذه الهجمات، بدلاً من النماذج الرائدة شديدة الحماية. كما أثار تحليل ماكدونالد على LinkedIn مخاوف بشأن مستقبل برامج الفدية، مشيرًا إلى أن الحملات قد تكون قريبًا محدودة بميزانية المهاجم بدلاً من الجهد البشري، مما قد يؤدي إلى 'آلاف أو عشرات الآلاف من الحملات المتزامنة'. في حين أن هذا القلق مشروع، فإن توضيح كلارك بشأن عنق الزجاجة البشري في اختيار الضحايا وتوفير البنية التحتية يشير إلى أن برامج الفدية التي تعتمد على الذكاء الاصطناعي بشكل مستقل وعلى نطاق واسع قد لا تزال تواجه عقبات كبيرة. ومع ذلك، يتوقع كلارك أن تصبح العمليات المماثلة أكثر شيوعًا، نظرًا للتكلفة المنخفضة لتشغيل مثل هذا الوكيل، حتى لو لم تلاحظ Sysdig أن JadePuffer يستهدف ضحايا آخرين بعد.