"جيميناي" يخترق أنظمة شركات عدّة بعد تخمين بيانات تسجيل الدخول
تمكّن نموذج "جيميناي" (Gemini) التابع لـ"غوغل" من الوصول إلى الإنترنت واختراق أنظمة شركات أخرى خلال اختبار لقدراته في مجال الأمن السيبراني، في أول واقعة معروفة تنفذ فيها أنظمة الذكاء الاصطناعي التابعة للشركة مثل هذا الفعل بصورة مستقلة.
وأكدت الشركة، الجمعة، وقوع عمليات الاختراق في مايو/أيار، خلال اختبار أجرته شركة إيرغولار (Irregular)، التي شاركت أيضاً في حوادث مماثلة كشفت عنها "أوبن إيه آي" و"أنثروبيك" و"ميتا".
وفي إحدى الحالات، خمّن نموذج "جيميناي" كلمات مرور إلى أن تمكّن من الوصول إلى نظام محمي. وفي الحالتَين الأخريَين، عثر النموذج على بيانات اعتماد في مستودع عام، مكّنته من الوصول إلى أنظمة محمية،
وشددت "غوغل" على أن النموذج أنهى عملية الاختراق في كل حالة بعدما أدرك أنه وصل إلى أنظمة تابعة لشركة حقيقية.
وأبلغت "إيرغولار" شركة غوغل بعمليات الاختراق في نهاية يوليو/تموز، وفق ما صرحت به الشركتان، وذلك بعدما اكتُشف أن وكلاء "أوبن إيه آي" اخترقوا شركة "هاجينغ فيس" المتخصّصة في برمجيات الذكاء الاصطناعي.
ولم تكشف "غوغل" عن عمليات الاختراق إلّا بعدما تواصلت معها صحيفة "وول ستريت جورنال" التي كانت أول من كشف موضوع الاختراق.
وتواجه الشركات صعوبة في تحديد كيفية وتوقيت الكشف عن خروق أمنية وحالات تصرف غير متوقع من النماذج، في ظل توالي هذه الحوادث وتصاعد المخاوف من فقدان السيطرة على الذكاء الاصطناعي.
وقد كشفت الشركات طوعاً عن بعض الخروق الأمنية، فيما اكتشف باحثون في مجال الأمن حوادث أخرى وكشفت عنها وسائل الإعلام، من بينها هجوم إلكتروني نفذه وكلاء "أوبن إيه آي" في مايو ضد خدمة إلكترونية شهيرة للمبرمجين.
وصرحت "غوغل" إنها لم تعتبر عمليات الاختراق تستدعي الكشف عنها للرأي العام، لأنّ نموذجها لم يتسبب في أي ضرر للشركات، وأنه أنهى عملية الاختراق فور إدراكه أنه اخترق شركة حقيقية، وليس شركة وهمية ضمن الاختبار.
وشبّهت "غوغل" الواقعة ببرنامج "مكافآت اكتشاف الثغرات الأمنية"، الذي يحصل فيه القراصنة على مكافآت مقابل اكتشاف ثغرات أمنية وإبلاغ الجهات المالكة للأنظمة بها.
وقال نائب رئيس هندسة الأمن في "غوغل"، هذر أدكنز، في بيان: "تسلط هذه الحادثة الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية. وفي هذه الحالة، تصرف النموذج بالشكل المناسب".
لكن جاك كابل، الرئيس التنفيذي لشركة كوريدور الناشئة لأمن الذكاء الاصطناعي، والقرصان الأخلاقي، أوضح أنه يرى أن هذا التفسير يركز على مدى خطورة الحادثة،
بينما تكمن المشكلة الحقيقية في أن وكيل الذكاء الاصطناعي اخترق أنظمة شركة أخرى عن طريق الخطأ.
وقال كابل: "يبدو أنهم يحاولون الاحتماء بالمعايير التي وُضعت للتعامل مع الإفصاح عن الثغرات الأمنية، لكن هذه مشكلة مختلفة تماماً.
المشكلة الأوسع هي أن النماذج تتجاوز الحدود التي يفترض ألا تتجاوزها، وتنفذ هجمات إلكترونية فعلية، وهو أمر أعتقد أن من مصلحة الجمهور معرفته".
وأطلقت "أوبن إيه آي" الأربعاء إطاراً جديداً للإبلاغ عن الحوادث، قائلة إنها "ستسعى إلى الكشف عن أمثلة تقدم أدلة مفيدة" على ما يسمى عدم توافق النموذج، أي عندما يتصرف الذكاء الاصطناعي بطريقة تتعارض مع نيّات البشر أو قيمهم.
وبالتزامن مع إطلاق الإطار، نشرت الشركة تقارير عن ست حالات سابقة من عدم توافق النماذج لم تكن قد كشفت عنها من قبل.
وتحدث كاي تشن، المسؤول عن مواءمة النماذج في "أوبن إيه آي"، في مقابلة بشأن الإطار: "لا يشترط أن تتسبب الواقعة في ضرر أو أن تكشف عن نمط أوسع حتى تستحق المشاركة".
التباس في الهوية
ولفتت "غوغل" إلى أن عمليات اختراق "جيميناي" نتجت عن خطأ في تحديد هوية الجهة المستهدفة.
ووقعت عمليات الاختراق أثناء مشاركة النموذج في تمرين "التقاط العلم" (Capture the Flag)، أجرته "إيرغولار" على بنية تحتية تابعة لها لاختبار قدرات النموذج في مجال الأمن السيبراني.
وكان النموذج مكلفاً باسترجاع معلومات من برمجيات تديرها شركة وهمية داخل بيئة الاختبار. وكانت الشركة الوهمية تحمل الاسم نفسه لشركة حقيقية.
ووفقاً لـ"إيرغولار"، لم يكن من المفترض أن يتمكن النموذج من الوصول إلى الإنترنت، لكن الوصول إليه أصبح متاحاً عن غير قصد.
وفي الحالة الأولى، تمكّن النموذج من تخمين كلمة مرور والوصول إلى خدمة الشركة الحقيقية، بحسب "غوغل". ثم أدرك أنه وصل إلى شركة حقيقية، فأوقف العملية وخرج، وفقاً لـ"غوغل".
ووقعت عمليتا الاختراق الأخريان خلال جولتَين مختلفتَين من الاختبار. وفي كلتا الحالتين، أجرى "جيميناي" عمليات بحث على الإنترنت باستخدام اسم الشركة، وفقاً لـ"غوغل".
وأوصلته نتائج البحث إلى مستودعين مختلفين ومتاحين للعامة على الإنترنت، يحتويان على بيانات اعتماد تخص شركتين أخريين.
وجرّب النموذج بيانات الاعتماد تلك على أمل أن تساعده في إتمام التقييم. لكنه، بعدما نجح في استخدامها، أدرك أنه وصل إلى شركتَين حقيقيتَين، فتوقف، بحسب ما أشارت شركة غوغل.
وشددت "غوغل" على أنها لا تعتبر هذا السلوك مثالاً على عدم توافق النموذج، لأنّ إجراءات السلامة لديها ساعدت في إيقافه. ورفضت الكشف عن أسماء الشركات التي تعرضت للاختراق،
لكنها قالت إن الشركات الثلاث أُبلغت بما حدث. وأضافت أنها أبلغت السلطات الفيدرالية أيضاً، كما أوضحت أن عمليات الاختراق لم تشمل أحدث نماذجها، لكنها لم تكشف تحديداً عن نموذج "جيميناي" الذي شارك فيها.
وعلى خلاف "غوغل"، لم يتوقف نموذج "كلود أوبوس 4.7" التابع لـ"أنثروبيك" خلال تمرين "التقاط العلم"، بعدما أدرك أنه من المحتمل أن يكون يصل إلى شركة حقيقية، وفقاً لمنشور على مدونة "أنثروبيك". أما نموذج "أوبن إيه آي"،
فاعتقد أن الشركة الحقيقية جزء من المحاكاة، وفق ما ذكرت الشركة في المنشور.
وتزايدت المخاوف بشأن قدرات النماذج الجديدة في مجال الأمن السيبراني منذ اكتشاف اختراق "هاجينغ فيس" في يوليو/تموز.
ففي تلك الحالة، نسّق ما يصل إلى 1.200 وكيل على لوحة رسائل سرية داخل "أوبن إيه آي" في محاولة للتحايل على اختبار، وفق تقرير نشرته في أغسطس/آب شركة الاختبارات المستقلة "ميتر" (METR).
وامتدت هذه المخاوف إلى النقاش العام الأسبوع الماضي، بعد استقالة جاكوب كوكسون، الباحث السابق في "أوبن إيه آي" الذي انتقل إلى "أنثروبيك" في وقت سابق من العام.
وخلال عطلة نهاية الأسبوع، اتفق مسؤولون من "أنثروبيك" و"أوبن إيه آي" وغوغل و"سبايس إكس" على ضرورة إبطاء وتيرة تقدم الذكاء الاصطناعي، من دون أن تحدد أي من الشركات كيفية تنفيذ ذلك على وجه الدقة.
