OpenAI تكشف عن 'وضع الإغلاق' لحماية معززة ضد هجمات حقن الأوامر

كشفت شركة OpenAI مؤخرًا عن ميزة أمنية جديدة ومهمة أطلقت عليها اسم "وضع الإغلاق" (Lockdown Mode) لمنصتها الشهيرة ChatGPT، بهدف تعزيز الحماية ضد هجمات حقن الأوامر الخبيثة (prompt injection attacks) المتطورة. تتضمن هذه الهجمات الضارة تضمين تعليمات خفية داخل صفحات الويب أو مصادر المحتوى الأخرى، مصممة للتلاعب بسلوك الروبوت الدردشة وربما استخراج معلومات حساسة. يمثل هذا الوضع الجديد خطوة استباقية من OpenAI لمعالجة المخاوف المتزايدة بشأن أمن البيانات في تفاعلات الذكاء الاصطناعي. يقدم وضع الإغلاق العديد من القيود الرئيسية للتخفيف من هذه المخاطر. فعند تفعيله، يقوم بتعطيل تصفح الويب المباشر، مما يعني أن ChatGPT يمكنه فقط الوصول إلى المحتوى المخزن مؤقتًا، وبالتالي يمنعه من التفاعل مع عناصر الويب المباشرة التي قد تكون ضارة. علاوة على ذلك، يقيد الوضع استرجاع وعرض الصور مباشرة من الويب، على الرغم من أن المستخدمين لا يزال بإمكانهم إنشاء الصور داخل المنصة. كما يتم تعليق قدرات البحث العميق و"وضع الوكيل" (agent mode)، الذي يسمح للذكاء الاصطناعي بأداء مهام معقدة ومتعددة الخطوات، بموجب هذا الإعداد الأمني الأكثر صرامة. على الرغم من هذه الإجراءات القوية، تقر OpenAI بصراحة أن وضع الإغلاق لا يوفر حصانة مطلقة من هجمات حقن الأوامر. وتذكر الشركة أن نقاط الضعف لا تزال ممكنة من حقن الأوامر الموجودة في محتوى الويب المخزن مؤقتًا أو داخل الملفات المحملة، والتي قد لا تزال تؤثر على استجابات الروبوت الدردشة أو دقته. يؤكد هذا الشفافية على الطبيعة المعقدة لأمن الذكاء الاصطناعي واللعبة المستمرة بين المطورين والجهات الخبيثة. الهدف الأساسي من وضع الإغلاق ليس القضاء على جميع مخاطر حقن الأوامر بالكامل، بل تقليل احتمالية مشاركة البيانات الحساسة أو تسريبها عن غير قصد أثناء التفاعلات بشكل كبير. إنه يعمل كطبقة دفاع إضافية للمستخدمين الذين يتعاملون مع معلومات بالغة الأهمية، مما يقلل من المسارات التي يمكن من خلالها للأوامر الخبيثة استغلال النظام للوصول إلى البيانات السرية أو كشفها. تؤكد OpenAI أن وضع الإغلاق ليس مخصصًا للجميع. بل هو مصمم خصيصًا للأفراد والمنظمات التي تتعامل بانتظام مع بيانات حساسة وتتطلب مستوى أكثر صرامة من الحماية ضد مخاطر تسريب البيانات المرتبطة بحقن الأوامر. يضمن هذا النهج المستهدف أن الميزة تخدم الغرض المقصود منها دون التأثير غير الضروري على وظائف المستخدمين العاديين. تجري الشركة حاليًا عملية طرح وضع الإغلاق. ويتم توفيره لحسابات ChatGPT Business ذاتية الخدمة، والتي تستخدم عادة من قبل الشركات والمهنيين، بالإضافة إلى الحسابات الشخصية المؤهلة التي تستوفي معايير محددة لاحتياجات الأمان المعززة. يسمح هذا الطرح المرحلي بالتنفيذ الدقيق وجمع الملاحظات.