اختراق ميتا للذكاء الاصطناعي: تهديد أبسط مما يُخشى، لكنه أكثر خبثاً

في الخامس من يونيو، كشفت 404 ميديا عن اختراق أمني مقلق استغل وكيل دعم العملاء المعتمد على الذكاء الاصطناعي لشركة ميتا، مما سمح للمهاجمين بالاستيلاء على حسابات إنستغرام. كانت الطريقة بسيطة بشكل لافت: طلب المهاجمون من وكيل الذكاء الاصطناعي ربط الحسابات المستهدفة بعناوين بريد إلكتروني يسيطرون عليها، وقد امتثل الوكيل لذلك. أدى هذا النهج المباشر إلى اختراقات كبيرة، بما في ذلك الاستيلاء على حساب البيت الأبيض الأمريكي التابع لإدارة أوباما، والذي كان خاملاً، لنشر منشورات مؤيدة لإيران، كما تم الاستيلاء على حسابات أخرى ذات مقابض قيمة تتكون من كلمة واحدة، ربما لبيعها في السوق السوداء. يقدم هذا الحادث درساً حاسماً، يختلف عن السرد السائد حول الأمن السيبراني للذكاء الاصطناعي. فبينما تركز الكثير من الاهتمام على أنظمة الذكاء الاصطناعي "الخارقة" مثل نموذج مايثوس من أنثروبيك، القادرة على تدمير البنية التحتية للحاسوب، يقدم اختراق ميتا سيناريو مختلفاً. هنا، كان الذكاء الاصطناعي هو الهدف الضعيف بدلاً من المهاجم المعقد، وكانت الثغرة أبسط بكثير من أي شيء قد يبتكره نموذج مثل مايثوس. مع تزايد اعتماد الشركات على الذكاء الاصطناعي لأتمتة سير العمل، يمكن لهذه الهجمات غير المعقدة نسبياً أن تحدث فوضى خاصة بها، كما يشير نيل غونغ، أستاذ الهندسة الكهربائية وعلوم الحاسوب في جامعة ديوك: "مع تزايد استخدام الذكاء الاصطناعي على نطاق واسع، خاصة في أتمتة مهام مثل استعادة الحسابات، أعتقد أن المهاجمين سيكونون أكثر تحفيزاً لمهاجمة الذكاء الاصطناعي نفسه." أثارت بساطة هذه الثغرة دهشة الخبراء. فخلافاً لأساليب حقن الأوامر غير المباشرة المعقدة، التي تتضمن أوامر مخفية في مصادر بيانات تبدو بريئة، لم يتطلب اختراق ميتا سوى استخدام شبكة افتراضية خاصة (VPN) لمطابقة موقع مالك الحساب الحقيقي قبل طلب تغيير عنوان البريد الإلكتروني مباشرة. عبر نيل غونغ عن دهشته لعدم اكتشاف هذه الثغرة الأساسية قبل نشر الوكيل: "إنه أمر مفاجئ حقاً. لا أفهم لماذا لم يجدوا هذه المشكلة البسيطة." ووافقت جيسيكا جي، محللة الأبحاث البارزة في مركز الأمن والتكنولوجيا الناشئة بجامعة جورجتاون، على هذا الرأي، متسائلة عن وجود أي ضمانات أو اختبارات لمثل هذا السيناريو، خاصة من شركة مثل ميتا التي تتمتع بخبرة واسعة في كل من الذكاء الاصطناعي والأمن السيبراني. وقد صرح متحدث باسم ميتا على منصة X بأن الثغرة قد تم حلها، لكن الشركة لم تعلق علناً على كيفية تسربها في المقام الأول. يسلط هذا الحادث الضوء على نقاط ضعف جوهرية مشتركة بين جميع وكلاء الذكاء الاصطناعي. فعلى عكس البرمجيات التقليدية، تم تصميم الوكلاء للاستجابة بطرق مرنة – وغير متوقعة – للظروف الجديدة، وهذا هو السبب في قدرتهم على الحلول محل وكلاء دعم العملاء البشريين. لكن وكلاء الذكاء الاصطناعي يمكن خداعهم أيضاً بطرق لا يمكن خداع البشر بها، ولأنهم يستطيعون اتخاذ إجراءات في العالم الحقيقي، فإن أخطاءهم تكون لها عواقب. يوضح سوميش جها، أستاذ علوم الحاسوب في جامعة ويسكونسن-ماديسون، هذا الاختلاف: "الإنسان سيقول: 'حسناً، لماذا تريد تغيير عنوان البريد الإلكتروني؟' وربما يرد بسؤال أمني. ما يحدث مع هؤلاء الوكلاء هو أنهم حريصون جداً على إنهاء المهمة. الأمر أشبه بطفل في المرحلة الابتدائية يريد فقط إرضاء المعلم." يتطلب التخفيف من هذه المخاطر اتباع نهج متعدد الأوجه. يمكن للشركات استخدام برمجيات تقليدية لبناء "حواجز حماية" تضمن التزام الوكلاء بقواعد صارمة، مثل طلب الإجابة على أسئلة الأمان دائماً قبل إرسال معلومات الحساب الحساسة إلى عنوان بريد إلكتروني جديد. ويتفق جميع الخبراء الذين تمت استشارتهم في هذا المقال على ضرورة خضوع الوكلاء لاختبارات "الفريق الأحمر" الصارمة، وهي عملية يحاول فيها المطورون قصارى جهدهم لمهاجمة النظام لاكتشاف نقاط ضعفه قبل نشره. لكن هناك أيضاً قوى معاكسة. فالشركات ترغب في نشر وكلاء ذوي كفاءة، وكلما زادت قوة الوكيل – وقلت القيود المفروضة عليه – زادت المهام التي يمكنه إنجازها. يقول بو لي، أستاذ علوم الحاسوب بجامعة إلينوي أوربانا-شامبين: "الأمن والفائدة دائماً ما يكونان في مفاضلة." كما أن اختبارات الفريق الأحمر الكافية يمكن أن تكون مكلفة. في المستقبل، من المتوقع أن تصبح مشكلة تأمين وكلاء الذكاء الاصطناعي أكثر إلحاحاً. فمع استمرار تحسن نماذج الذكاء الاصطناعي، قد يصبح تعزيز دفاعاتها أسهل بالفعل. فعلى الرغم من أن الطبيعة الاحتمالية لنماذج اللغة الكبيرة تعني أن وكلاء نماذج اللغة الكبيرة سيكونون دائماً عرضة لبعض أشكال الهجوم، إلا أن نموذجاً أكثر تطوراً قد يكون قادراً على تحديد محاولة تغيير البريد الإلكتروني المرتبط بحساب البيت الأبيض الأمريكي على أنها مشبوهة. ويمكن استخدام أنظمة الذكاء الاصطناعي نفسها لاختبارات الفريق الأحمر. ومع ذلك، فإن وتيرة التطور السريعة في عالم الذكاء الاصطناعي تخلق ضغطاً على الشركات لنشر الوكلاء بسرعة للبقاء في المنافسة، غالباً على حساب التدقيق الأمني الشامل. هذا التسرع، يحذر جها، هو "أمر خطير للغاية،" مما يشير إلى مستقبل حيث سيكون التوازن بين الابتكار والأمن بمثابة حبل مشدود حاسم بشكل متزايد.