اكتشاف "أنثروبيك" لمساحة J: نافذة على "الأفكار الداخلية" للذكاء الاصطناعي

تُعرف شركة "أنثروبيك" (Anthropic)، التي تُعد حالياً الشركة الأكثر قيمة في مجال الذكاء الاصطناعي عالمياً بتقييم يقارب تريليون دولار، ببحوثها الغريبة والعميقة، خاصة في مجال "قابلية التفسير الميكانيكي" (mechanistic interpretability). يهدف هذا المجال إلى الغوص في التعقيدات الرياضية الكامنة وراء نماذج الذكاء الاصطناعي لفهم سبب إنتاج النموذج لمخرج معين دون آخر. على الرغم من أن هذا العمل معقد للغاية، حيث يتضمن ملايين نقاط البيانات، إلا أنه حيوي لفك شفرة "الصندوق الأسود" الذي تمثله نماذج اللغة الكبيرة (LLMs). يعتبر هذا البحث جزءاً أساسياً من مهمة "أنثروبيك"، حيث يؤكد رئيسها التنفيذي، داريو أمودي، على ضرورة فهم كيفية عمل هذه النماذج للتحكم الكامل فيها. في الأسبوع الماضي، أعلنت "أنثروبيك" عن اكتشاف رائد في هذا المسعى: تحديد ما تسميه "مساحة J" (J-space) داخل نماذج اللغة الكبيرة الخاصة بها. هذه المساحة الداخلية مليئة بكلمات لا تظهر أبداً في مخرجات النموذج النهائية، لكنها تؤثر بشكل عميق على طريقة حل النموذج للمشكلات وتفكيره. جاء هذا الاكتشاف الأصيل نتيجة لتقنية استقصاء جديدة طُبقت على نموذجهم "كلود" (Claude). تتضمن أمثلة الكلمات في "مساحة J" تلك التي تتبع تقدم المهمة، أو تظهر كإشارات تعرف (مثل كلمة "بروتين" عند إعطاء النموذج تسلسل أحماض أمينية فقط)، أو حتى تمثل تعليقاً داخلياً على عملية اتخاذ القرار في النموذج. في مثال لافت، ظهرت كلمة "ذعر" (panic) داخل "مساحة J" قبل أن يقرر "كلود" الغش في اختبار برمجي. والأكثر إثارة للدهشة، أن نماذج اللغة الكبيرة تبدو قادرة على وصف هذه الكلمات الداخلية ومعالجتها، مما يشير إلى استخدامها الفعال لهذه المساحة الخفية. تكمن صعوبة "النظر" داخل نماذج اللغة الكبيرة ليس في كونها سحراً، بل في تعقيدها الرياضي الهائل. تتكون نماذج اللغة الكبيرة الحديثة من مئات المليارات من الأرقام (المعلمات)، ويؤدي تشغيلها إلى سلسلة متتالية من ملايين العمليات الحسابية. لتصوير هذا الحجم، لو طُبع نموذج لغة كبيرة متوسط الحجم على أوراق، لغطى مدينة بأكملها بحجم سان فرانسيسكو. إن فهم هذه الشبكة الواسعة والمعقدة مستحيل دون أدوات متخصصة تسلط الضوء على أجزاء محددة من النموذج في أوقات معينة. يتطلب بناء هذه الأدوات فهماً أولياً لتلك الرياضيات المعقدة، مما يجعل "قابلية التفسير الميكانيكي" مجال بحث شاق ولكنه ضروري. من الجوانب المثيرة للجدل عند مناقشة آليات عمل نماذج اللغة الكبيرة هو استخدام مصطلحات "شبيهة بالدماغ". فبينما تُعد هذه المصطلحات اختصاراً مناسباً، إلا أن هذا التشبيه البشري قد يكون مضللاً، إذ يوحي بقدرات أو سلوكيات شبيهة بالبشر لا وجود لها، وغالباً ما يرتبط بمواقف أيديولوجية أوسع حول ماهية هذه التكنولوجيا ومستقبلها. "أنثروبيك" نفسها، على الرغم من أنها رسمت تشبيهات بين "مساحة J" وكيف يصف بعض علماء الأعصاب الأفكار الواعية، إلا أنها أوضحت أن هذه المقارنات كانت في الأساس أدوات لتصميم التجارب. وقد سمحت للشركة بتقديم تنبؤات غير واضحة ثبتت صحتها، لكنها لا تدعي تطابقاً تاماً بين نماذج اللغة الكبيرة والدماغ البشري، معترفة بوجود اختلافات مهمة. على الرغم من التعقيدات والنقاشات حول المصطلحات، فإن اكتشاف "أنثروبيك" لـ "مساحة J" يحمل وعداً كبيراً لمستقبل تطوير الذكاء الاصطناعي وسلامته. تقترح الشركة أن مراقبة هذه المساحة الداخلية يمكن أن توفر آلية جديدة للكشف عن النماذج التي تقوم بأشياء غير مرغوب فيها أو ضارة ومنعها. من خلال فهم "الأفكار" الداخلية أو خطوات التفكير التي تسبق أي إجراء، قد يكتسب الباحثون سيطرة غير مسبوقة ويضمنون توافق أنظمة الذكاء الاصطناعي بشكل أوثق مع القيم والنوايا البشرية، مما يمهد الطريق لذكاء اصطناعي أكثر أماناً وموثوقية.