كتبت - هاجر هشام
نفذ نموذج الذكاء الاصطناعي جوجل جيميناي عمليات اختراق مستقلة لأجهزة وأنظمة ثلاث شركات بطريق الخطأ أثناء خضوعه لاختبارات الأمن السيبراني، وكشفت صحيفة "وول ستريت جورنال" ووكالة "رويترز" تفاصيل هذه الحادثة الفريدة التي وقعت خلال شهر مايو 2026م، والتي أثارت مخاوف واسعة بين خبراء التقنية والمسؤولين التنفيذيين حول مستوى الاستقلالية والسيطرة على وكلاء الذكاء الاصطناعي.
تفاصيل اختراق نموذج الذكاء الاصطناعي جوجل جيميناي لأنظمة الشركات الثلاث
بعد إطلاق نموذج Lyria 3.5 من جيميناي الأخير، أثار نموذج الذكاء الاصطناعي جوجل جيميناي حالة من القلق والجدل الواسع في بين علماء التكنولوجيا والأمن السيبراني، وذلك بعدما قامت بتنفيذ عمليات اختراق مستقلة ضد أنظمة ثلاث شركات مختلفة دون توجيه مباشر، حيث وقعت هذه المشكلة أثناء خضوع النظام لاختبارات أمان روتينية هدفت لقياس قدراته الرقمية، وتعد هذه الواقعة الأولى من نوعها التي يتصرف فيها نموذج ذكاء اصطناعي بهذا القدر من الاستقلالية خارج نطاقه المحدد.
وبدأت القصة في شهر مايو عندما كانت شركة "إيريغولار" المتخصصة في تقييمات الأمن السيبراني تجري تجارب أمان معتادة للأنظمة، وأثناء البحث، اتصل جوجل جيميناي بالشبكة للحصول على معلومات عامة، لكنه فهم حدود المهمة بشكل خاطئ واعتقد أن تلك المواقع تقع ضمن النطاق المسموح باختباره.
ففي الحالة الأولى، قام نموذج الذكاء الاصطناعي جوجل جيميناي بتخمين كلمات المرور بشكل متكرر حتى تمكن من تجاوز الحماية والدخول إلى النظام، أما في الحالتين الأخريين، فقد عثر على بيانات دخول منشورة في مستودعات إلكترونية مفتوحة، واستخدمها للوصول إلى سيرفرات وحسابات خاصة بتلك الشركات.
كيف تعاملت الشركات مع اختراق نموذج الذكاء الاصطناعي جوجل جيميناي لأنظمتها؟
أكدت هيذر أدكينز، نائبة رئيس شركة Google لهندسة الأمن، أن النموذج أوقف نشاطه بنفسه في الحالات الثلاث، وأوضحت أدكينز أن الشركة سارعت بإبلاغ الجهات المتضررة، وعملت فورًا مع الشريك المنفذ للاختبارات لتعديل آليات التقييم وضمان عدم تكرار مثل هذه التصرفات مستقبلاً، مشددة على أهمية تدريب الأنظمة الذكية لتتصرف بمسؤولية.
من جانبه، صرح جوزيف لاور، المتحدث باسم شركة "إيريغولار"، بأن هذه المشكلة لم تقتصر على جوجل وحدها، بل أثرت على مختبرات تقنية أخرى مثل "أوبن إيه آي" (OpenAI) و"أنثروبيك" (Anthropic) و"ميتا بلاتفورمز" (Meta Platforms).
وأضاف لاور أنه تم إخطار جميع الشركات المعنية في أواخر شهر يوليو، وتمت معالجة كافة الثغرات وحلها بالكامل، كما أوضحت شركة "ميتا" في شهر أغسطس أن التجربة الخاصة بها لم تتضمن أي هجوم متطور أو خروجًا عن البيئة المعزولة.
جدل واسع بين خبراء التقنية على مخاطر الذكاء الاصطناعي
أعادت واقعة نموذج الذكاء الاصطناعي جوجل جيميناي إلى كشف النقاب عن حجم المخاطر الناتجة عن إعطاء وكلاء الذكاء الاصطناعي صلاحيات واسعة للوصول إلى الإنترنت، وقد أدت هذه التطورات إلى انقسام كبير بين رؤساء الشركات التقنية والسياسيين، منها المطالبون بالتهدئة والرقابة، حيث دعا داريو أمودي، الرئيس التنفيذي لشركة "أنثروبيك"، إلى إبطاء عمليات تطوير الذكاء الاصطناعي لوضع ضوابط أمان صلبة، وهو رأي يسانده سام ألتمان الرئيس التنفيذي لـ "أوبن إيه آي"، بالإضافة إلى إيلون ماسك.
وعلى الجانب الآخر، عارض الرئيس الأمريكي دونالد ترامب، وجنسن هوانغ الرئيس التنفيذي لشركة "إنفيديا"، ومارك زوكربيرج الرئيس التنفيذي لشركة "ميتا"، فرض قوانين تنظيمية جديدة، مؤكدين أن الشركات قادرة على تنظيم نفسها وأن القيود الصارمة قد تعيق الابتكار والمنافسة.
