محكمة ألمانية تحمل جوجل مسؤولية البيانات الكاذبة المولدة بالذكاء الاصطناعي، في سابقة عالمية

أصدرت محكمة محلية في ألمانيا حكماً أولياً قد يعيد تشكيل طريقة عمل محركات البحث والروبوتات الدردشة القائمة على الذكاء الاصطناعي في جميع أنحاء العالم. فقد قضت المحكمة الإقليمية في ميونيخ بمسؤولية جوجل عن سلسلة من البيانات الكاذبة التي أنتجتها ميزة "نظرات الذكاء الاصطناعي" (AI Overviews) الخاصة بها، مطالبة الشركة بمنع نشر الادعاءات الخاطئة أو غير الدقيقة عبر محرك البحث الخاص بها. تنبع هذه القضية من تقرير نشره موقع "ذا ديكودر"، حيث اكتشف ناشران أن الملخصات التي يولدها الذكاء الاصطناعي من جوجل ربطتهما، في بعض عمليات البحث، بممارسات تجارية مشكوك فيها وعمليات احتيال واحتيالات متعلقة بالاشتراكات، دون أي أساس لذلك. وفي وقت سابق من هذا العام، أرسلت الشركات المتضررة خطاب إنذار إلى عملاق التكنولوجيا، لكن جوجل نفت المسؤولية، مجادلة بأن ميزة الملخص التلقائي الخاصة بها تحذر المستخدمين من أن المعلومات قد تحتوي على أخطاء ويجب التحقق منها بشكل مستقل. ومع ذلك، خلص تحليل المحكمة إلى أن الذكاء الاصطناعي الخاص بجوجل جمع معلومات تتوافق مع شركات أخرى تم الإبلاغ عنها لممارسات غير مشروعة محتملة مع بيانات المدعين، مما أدى إلى إنشاء روابط و"بيانات مستقلة وجديدة وجوهرية" لم تظهر في أي من المصادر المرتبطة بمحرك البحث. ووجدت السلطات أنه على عكس محركات البحث التقليدية، التي تعرض ببساطة قوائم بالروابط مع بيانات أدلى بها أطراف ثالثة، فإن أداة جوجل أنتجت "بيانات مستقلة وجديدة وجوهرية" بناءً على سوء تفسير للمعلومات المتاحة على الإنترنت. ووفقاً للمحكمة، فإن تصحيح المعلومات الخاطئة ليس مسؤولية أطراف ثالثة. بل إن جوجل هي الكيان الوحيد القادر على تعديل التكنولوجيا التي تقوم عليها ملخصات الذكاء الاصطناعي التي تولدها، وبالتالي "يجب أن تتحمل المسؤولية". علاوة على ذلك، وجدت المحكمة أن خط دفاع جوجل يفتقر إلى الجدارة، حيث أن الملخص المتنازع عليه "يحتوي على بيانات لا تظهر على الإطلاق في نتائج البحث". إن تفسير المحكمة لدور الذكاء الاصطناعي في عرض نتائج البحث يمكن أن يجعل هذه القضية سابقة تاريخية، حيث تحمل شركة تكنولوجيا كبيرة مسؤولية تأثير أحدث تطوراتها على المنصات المستخدمة على نطاق واسع. حتى الآن، في معظم الأنظمة القانونية، كانت محركات البحث تعتبر أدوات تسهل فقط الوصول إلى المحتوى الذي ينشئه أطراف ثالثة والمتاح على الويب. وقد منحها هذا الوضع مستوى معيناً من الحماية عندما تكون المعلومات المنشورة خاطئة أو غير دقيقة أو مضللة أو حتى تشهيرية. ومع ذلك، رأت المحكمة الألمانية أن هذا الحماية لم تعد تنطبق عندما تدمج محركات البحث أنظمة الذكاء الاصطناعي التوليدي. ووفقاً لمنطقها، فإن هذه التكنولوجيا قادرة على إنتاج ادعاءات غير موجودة بناءً على مصادر متعددة، وبالتالي، يجب على الشركات المسؤولة عن تشغيلها تحمل المسؤولية عن المحتوى الناتج. كما خلص القضاة إلى أنه بينما تشجع جوجل المستخدمين على التحقق من المعلومات بسبب احتمال "الهلوسات" الكامنة في نماذج الذكاء الاصطناعي، فإن هذا التحذير لا يعفي موزع المحتوى من المسؤولية. وإلا، كما جادلوا، فإن ضحايا البيانات الكاذبة سيكونون بلا حماية تقريباً، حيث أن المصادر الأصلية لم تدلِ بهذه البيانات أبداً، وبالتالي لا يمكن أن تخضع لإجراءات قانونية. وكإجراء احترازي لمنع تكرار محتمل، ألزم الحكم جوجل بإزالة جزء كبير من البيانات التي اعتبرت تشهيرية في هذه القضية، وتغطية 80 بالمائة من التكاليف القانونية الناشئة عن الإجراءات. واقترح متحدث باسم الشركة، نقلاً عن "آرس تكنيكا"، أن القرار يمكن استئنافه. وجاء في البيان: "نحن نستثمر بعمق في جودة نظرات الذكاء الاصطناعي لضمان أن الغالبية العظمى من الردود توفر معلومات دقيقة، وهي مصممة لتعكس المعلومات الموجودة على الويب. نحن نراجع هذا القرار بعناية، وهو ليس نهائياً بعد." يمكن أن يكون لحكم المحكمة الألمانية تداعيات عالمية على صناعة الذكاء الاصطناعي، حيث تحذر شركات مثل OpenAI وAnthropic وPerplexity AI أيضاً مستخدميها من أن الردود التي تولدها أنظمتها قد تحتوي على أخطاء أو تكون مضللة، ومثل جوجل، توصي بالتحقق من المعلومات قبل استخدامها. لكن هذه القضية تجادل بأن مثل هذه التحذيرات ليست كافية لإعفاء المطورين من المسؤولية، مؤكدة أنه عندما يولد الذكاء الاصطناعي بيانات جديدة لا تظهر مباشرة في مصادره الأصلية، يجب على الشركة التي تصمم وتدرب وتشغل وتدير النظام أن تتحمل المسؤولية القانونية عن أي أضرار تسببها تلك البيانات.