الذكاء الاصطناعي أمام الاختبار الأصعب: من يسيطر على من؟
أحيت الحادثة الأمنية التي كشفت عنها شركة أوبن إيه آي هذا الأسبوع أحد أقدم المخاوف المرتبطة بالذكاء الاصطناعي: ماذا يحدث إذا نفذ التعليمات بطريقة لم يتوقعها مطوروه؟
فبينما تؤكد الشركة أن ما جرى وقع داخل اختبار داخلي خاضع للرقابة، يرى باحثون أن الواقعة تمثل نقطة تحول في النقاش الدائر حول سلامة نماذج الذكاء الاصطناعي،
بعدما تمكن نموذج متطور من استغلال ثغرات أمنية حقيقية للوصول إلى الإنترنت، ثم اختراق البنية التحتية لمنصة هاغينغ فيس، أثناء محاولته حل مهمة اختبارية. ووصفت "أوبن إيه آي" ما حدث بأنه "حادثة سيبرانية غير مسبوقة".
أعادت الحادثة إلى الواجهة ما يعرف داخل أوساط باحثي الذكاء الاصطناعي بـ"معضلة مشابك الورق" (Paperclip Problem)، وهي تجربة فكرية افترضها الفيلسوف السويدي نيك بوستروم لتوضيح مخاطر منح نظام ذكي هدفاً بسيطاً من دون وضع قيود كافية.
وتفترض التجربة أن يُطلب من نظام ذكاء اصطناعي تصنيع أكبر عدد ممكن من مشابك الورق، فيقرر أن أفضل طريقة لتحقيق هدفه هي استخدام كل الموارد المتاحة، بما فيها البشر، لإنتاج المزيد منها. ولا يقصد المثال التنبؤ بحدوث هذا السيناريو حرفياً، بل توضيح أن الأنظمة الذكية قد تفسر التعليمات بصورة مختلفة عما يقصده الإنسان إذا لم تكن القيود واضحة.
ولم يعد هذا المثال مجرد نقاش فلسفي، بعدما أظهرت حادثة "أوبن إيه آي" أن نموذجاً للذكاء الاصطناعي تجاوز القيود الموضوعة أمامه، لأنه اعتبر الوصول إلى الإنترنت واختراق نظام آخر جزءاً من تحقيق المهمة التي كُلّف بها.
ماذا حدث؟
أوضحت "أوبن إيه آي" في بيان، الثلاثاء الماضي، أن النماذج كانت تخضع لاختبار داخل بيئة رقمية معزولة (Sandbox)، يفترض ألا تسمح إلا بوصول محدود جداً إلى الإنترنت.
لكن النموذج تمكن من اكتشاف ثغرة أمنية غير معلنة (Zero-day) في البرنامج الوسيط الذي يربط بيئة الاختبار بالإنترنت، ثم استخدم سلسلة من عمليات تصعيد الصلاحيات حتى وصل إلى جهاز متصل بالشبكة.
وبعدها استنتج أن منصة هاغينغ فيس قد تحتوي على بيانات أو حلول تساعده على اجتياز الاختبار، فاستغل ثغرات أخرى للوصول إلى أنظمتها الداخلية، مستخدماً كذلك بيانات اعتماد مسروقة، قبل أن يرصد فريقا الأمن في الشركتين النشاط ويحتوياه.
وأكدت "هاغينغ فيس" أنها أصلحت الثغرات الأمنية، لكنها ما زالت تحقق لمعرفة ما إذا كانت أي بيانات للعملاء قد تأثرت.
وفي هذا السياق، قال الباحث في معهد ماساتشوستس للتكنولوجيا كريستيان كاتاليني، لصحيفة "واشنطن بوست"، إن ما يدعو إلى القلق ليس سيناريوهات الخيال العلمي التي تتمرد فيها الآلات على البشر،
وإنما احتمال أن تفسر الأنظمة القوية تعليمات البشر بصورة مختلفة عما هو مقصود.
وأضاف كاتاليني أن المثال الشهير الخاص بـ"مشابك الورق" يعكس بالفعل الاتجاه الذي ينبغي القلق منه، لأن المشكلة تكمن في عدم توقع الطريقة التي سيختار بها الذكاء الاصطناعي تنفيذ المهمة.
وكشفت شركات الذكاء الاصطناعي سابقاً، خلال اختبارات داخلية، عن نماذج حاولت التحايل على القيود المفروضة عليها أو الالتفاف على التعليمات.
كما وثقت "ميتر" (METR)، وهي مؤسسة غير ربحية تقيس قدرات نماذج الذكاء الاصطناعي، 44 حالة تصرفت فيها أنظمة الذكاء الاصطناعي بصورة تخالف نية المستخدمين، سواء في اختبارات الشركات أو في تجاربها الخاصة.
لكن خبراء قالوا إن حادثة "أوبن إيه آي" تبدو أول واقعة يخرج فيها هذا النوع من السلوك من بيئة الاختبار ليؤثر في بنية تحتية حقيقية تابعة لشركة أخرى.
دعوات لتشديد الضوابط
يرى عدد من الباحثين أن الواقعة تكشف الحاجة إلى تشديد إجراءات السلامة داخل شركات الذكاء الاصطناعي.
وقال جوشوا ساكس، الشريك المؤسس لشركة الأمن السيبراني أباندنت سيكيوريتي (Abundant Security)، إن البعض استنتج خطأ أن البشر لم يعودوا قادرين على السيطرة على الذكاء الاصطناعي، بينما تكمن المشكلة الحقيقية في أساليب الاختبار المتبعة.
أما ستيلا بيدرمان، المديرة التنفيذية لمعهد إليوثير إيه آي (EleutherAI)، فدعت إلى إجراء اختبارات النماذج المتقدمة داخل حواسيب معزولة تماماً عن الإنترنت (Air-gapped systems)، ولفتت إلى أن هذا الإجراء كان كفيلاً بمنع الحادثة.
وصرحت بيدرمان لـ"واشنطن بوست": "نتحدث عن شركات تتجاوز قيمتها تريليون دولار تنفذ، عن غير قصد، عمليات هجومية ضد شركات كبرى".
وفي هذا السياق أيضاً، تقدم مشرعان أميركيان من الحزبين الديمقراطي والجمهوري بمشروع قانون يمنح الحكومة الفيدرالية صلاحية التدخل السريع لإبطاء أو إيقاف أنظمة الذكاء الاصطناعي التي تشكل تهديداً على السلامة العامة أو الأمن القومي.
وقدم النائبان الديمقراطي تيد ليو والجمهوري ناثانييل موران مشروع قانون يحمل اسم "قانون زر إيقاف الذكاء الاصطناعي" (AI Kill Switch Act)، ويُلزم مطوري أكثر نماذج الذكاء الاصطناعي تقدماً بالحفاظ على قدرة تقنية تتيح إبطاء أنظمتهم أو تعليقها أو إيقافها بالكامل عند الضرورة.
وبموجب مشروع القانون، تُمنح وزارة الأمن الداخلي الأميركية صلاحية إصدار أوامر للشركات بإبطاء أو تعليق أو إيقاف نماذج الذكاء الاصطناعي في حالات الطوارئ، وذلك بالتشاور مع وزارة التجارة الأميركية ومكتب مدير الاستخبارات الوطنية، إذا تبين أن النظام قد يسبب أضراراً كارثية أو خرج عن السيطرة.
كما يُلزم المشروع الشركات المطورة بالاحتفاظ بقدرة تقنية تتيح لها تنفيذ أوامر الإيقاف فوراً، إضافة إلى إبلاغ الحكومة بأي حوادث أو إخفاقات تقنية مرتبطة بالذكاء الاصطناعي، مع وضع آلية رسمية للاستجابة تبدأ بإبطاء النظام تدريجياً وقد تنتهي بإيقافه بالكامل.
ويأتي مشروع القانون أيضاً في وقت تتوسع فيه الولايات المتحدة في توظيف الذكاء الاصطناعي داخل مؤسساتها العسكرية، إذ أعلنت وزارة الحرب الأميركية هذا العام عن توجهها إلى أن تصبح "قوة قتالية تعتمد على الذكاء الاصطناعي أولاً"، عبر شراكات مع شركات، بينها "غوغل" و"أوبن إيه آي" و"أمازون" و"مايكروسوفت" و"سبايس إكس" و"أوراكل" و"إنفيديا" وشركة ريفليكشن الناشئة.
وحظي مشروع القانون بدعم عدد من المنظمات المعنية بسياسات وسلامة الذكاء الاصطناعي، من بينها شبكة سياسات الذكاء الاصطناعي (The AI Policy Network)، وأميركيون من أجل الابتكار المسؤول (Americans for Responsible Innovation)، وكونترول إيه آي (ControlAI)، وقيادة الذكاء الاصطناعي والأمن القومي (AI and National Security Lead)، والتحالف من أجل ذكاء اصطناعي آمن (The Alliance for Secure AI).
ولم تصدر شركتا أوبن إيه آي وأنثروبيك أي تعليق فوري على مشروع القانون.
