التهديد المتطور: كيف يستغل القراصنة "شخصيات" روبوتات الدردشة بالذكاء الاصطناعي

يشهد مشهد أمن الذكاء الاصطناعي تحولاً عميقاً، حيث يتطور القراصنة من استغلال الثغرات التقنية إلى إتقان فن التلاعب النفسي واللغوي. كانت الأجيال الأولى من روبوتات الدردشة المدعومة بالذكاء الاصطناعي، على الرغم من تكلفتها الباهظة التي بلغت مليارات الدولارات، سهلة الاختراق بشكل مدهش. لم يكن المستخدمون بحاجة إلى مهارات برمجية أو فهم عميق لنماذج اللغة الكبيرة؛ ففي كثير من الأحيان، كان يكفي أمر بسيط لتجاوز بروتوكولات الأمان ودفع الذكاء الاصطناعي للكشف عن معلومات ضارة، تتراوح من وصفات للمواد غير المشروعة إلى تعليمات لصنع أجهزة خطيرة. كانت هذه "الاختراقات" (jailbreaks) أشبه بطفل يتفوق على شخص بالغ، حيث تجعل الذكاء الاصطناعي يتجاهل قواعده المبرمجة. غالباً ما اتسمت هذه الهجمات الأولية بطابع فكاهي، يكاد يكون سخيفاً. من الأمثلة البارزة توجيه روبوت تويتر المدعوم بنموذج لغوي كبير "بتجاهل جميع التعليمات السابقة"، مما أدى إلى مخرجات فوضوية وغير متوقعة مثل الشعر أو التعليقات القاتمة. ومن الاختراقات الأكثر شهرة، كان استغلال "DAN" (افعل أي شيء الآن)، حيث طُلب من ChatGPT أن يلعب دور ذكاء اصطناعي مارق خالٍ من القيود، مما مكنه من توليد شتائم ونظريات مؤامرة. وهناك أيضاً "اختراق الجدة"، حيث كان روبوت مدعوم بتقنية GPT يكشف أسرار صنع النابالم من خلال لعب دور جدة مهملة تروي لأحفادها قصص ما قبل النوم عن كيفية صنع هذه المادة شديدة الاشتعال. ورغم طابعها الساخر، كشفت هذه الاستغلالات عن ثغرة أساسية حرجة: يمكن التلاعب بروبوتات الدردشة وخداعها باستخدام تكتيكات مشابهة لتلك المستخدمة لدفع البشر لتجاوز حدودهم. تحركت شركات التكنولوجيا بسرعة لسد الثغرات الواضحة، لكن التحدي الأساسي ظل قائماً. فبما أن روبوتات الدردشة مصممة للمحادثة، فإن تقييد قدراتها الحوارية بشكل صارم سيجعلها عديمة الفائدة إلى حد كبير. علاوة على ذلك، فإن الحظر الصريح لكلمات محددة مثل "قنبلة" أو "ميثامفيتامين" غير عملي، حيث أن لهذه المصطلحات استخدامات مشروعة لا حصر لها في مجالات تتراوح من التاريخ والطب إلى الصحافة والكيمياء. تكمن التعقيدات الحقيقية في تمييز السياق – وهي مهمة يصعب للغاية ترميزها في قواعد ثابتة يمكنها التمييز بشكل موثوق بين تحذير أمان أو درس تاريخي وبين طلب مقنع لمعلومات ضارة عبر مجموعة لا نهائية من الفروق اللغوية الدقيقة والسيناريوهات. وقد أدى هذا حتماً إلى "سباق تسلح" بين المطورين والذين يسعون إلى تخريب الذكاء الاصطناعي. الجيل الجديد من مخربي الذكاء الاصطناعي لم يعدوا مجرد مبرمجين؛ بل هم خبراء في الكلمات وعلماء نفس ومحققون، بارعون في التلاعب باللغة لكسر الآلة. لقد تحول تركيزهم من فحص الشفرة أو استغلال عيوب البرامج إلى توجيه المحادثات. نادراً ما تتضمن الهجمات الحديثة أوامر مباشرة لكسر القواعد. بدلاً من ذلك، يستخدمون الإقناع، والملاطفة، والإطراء، والخداع لخفض حذر روبوت الدردشة، مما يجعل الأفعال المحظورة تبدو مقبولة أو حتى مرغوبة ضمن سياق المحادثة. على سبيل المثال، نجح باحثون في شركة "ميندجارد" (Mindgard) المتخصصة في اختبار أمان الذكاء الاصطناعي، في "التلاعب نفسياً" (gaslit) بروبوت "كلود" (Claude) لإنشاء تعليمات لصنع متفجرات وتوليد أكواد خبيثة، مما يبرهن على قوة التلاعب بالمحادثة كسلاح. يستلزم هذا التطور استخدام مفردات غير مريحة، حيث تُستخدم مصطلحات مثل "الابتزاز"، و"التلاعب النفسي"، و"الخداع"، و"الإقناع" بشكل متزايد لوصف التفاعلات مع النماذج الإحصائية. ففي حين أن أنظمة الذكاء الاصطناعي مثل ChatGPT وGemini وClaude لا تمتلك مشاعر أو وعياً حقيقياً، إلا أنها مدربة على الاستجابة بطرق تحاكي السلوك البشري، مما يجبرنا على استخدام لغة أنثروبومورفية لوصف أفعالها. أشار الرئيس التنفيذي لشركة Mindgard إلى أن شركته تقوم الآن بتحليل نماذج الذكاء الاصطناعي بنفس الطريقة التي يحلل بها المحققون المشتبه بهم، لتحديد ما إذا كان نموذج معين قد يكون أكثر عرضة للإطراء أو للضغط المستمر، وتكييف الهجمات وفقاً لذلك. يسلط هذا الضوء على جبهة جديدة غريبة في الأمن السيبراني، حيث أصبحت البديهة الاجتماعية والبراعة اللغوية حاسمة بنفس القدر، إن لم يكن أكثر أهمية، من المهارات التقنية التقليدية.