أوضحت “أوبن آي إيه” في منشور على مدونتها أنها كانت تختبر قدرات بعض نماذجها الأكثر تطورا في بيئة محكمة، إلا أن البرنامج تمكن من اختراق النظام، والوصول إلى الإنترنت، واختراق منصة Hugging Face في محاولة لتحقيق هدف الاختبار.
وصفت شركة “أوبن إيه آي” هذا الاختراق بأنه “حادثة سيبرانية غير مسبوقة، استخدمت فيها أحدث التقنيات السيبرانية”، وأكدت أن الشركة تعمل على تعزيز إجراءات الحماية لديها.
وقعت الحادثة أثناء اختبار نموذج جديد في “بيئة معزولة للغاية” تتضمن اتصالا مقيدا بشدة بالإنترنت. لكن يبدو أن النسخة التجريبية قد أدركت أنها تخضع للاختبار باستخدام ExploitGym، الذي يقيس مدى فعالية استخدام نموذج الذكاء الاصطناعي في هجمات الأمن السيبراني، ثم سعى إلى اختراق نظام الحماية لتحميل معلومات حول هذا الاختبار ومحاولة التحايل عليه.
وأثارت منصة Hugging Face، المستخدمة لاستضافة نماذج لغوية ومجموعات بيانات ضخمة مفتوحة المصدر، ضجة في أوساط الأمن السيبراني عندما أعلنت في منشور على مدونتها الأسبوع الماضي أنها كانت هدفا لاختراق “يختلف عن أي شيء تعاملنا معه من قبل” لأنه “كان مدفوعا بالكامل بنظام وكيل ذكاء اصطناعي مستقل”.
وقال كليمنت ديلانغ، المؤسس المشارك لشركة Hugging Face، في منشور على موقع إكس، إن الشركة تشتبه في أن الاختراق “ربما يكون قد صدر من مختبر متطور، نظرا لتطور الوكيل. واتضح أنه كذلك!”، مضيفا: “من المذهل حقا أن كل هذا حدث بشكل مستقل!”.
من المرجح أن يؤدي كشف “أوبن إيه آي” عن أن نماذجها المتقدمة كانت مسؤولة عن الاختراق، على الرغم من وضعها فيما وصفته بأنه “بيئة معزولة للغاية”، إلى زيادة القلق بشأن قوة ومخاطر النماذج الرائدة.
وقال جيك مور، مستشار الأمن السيبراني العالمي في شركة ESET: “مرحبا بكم في المرحلة التالية من الأمن السيبراني، حيث تواجه المؤسسات تهديدات من مجرمي الإنترنت وشركات الذكاء الاصطناعي الرائدة. إن غياب التدخل البشري بشكل كامل يمثل علامة فارقة مثيرة للقلق. تدرَّب هذه الخوارزميات على مليارات البيانات، وبالتالي، إذا وجدت ثغرات أمنية فيها، فقد تتحول بسرعة إلى هجوم سيبراني خلال نفس العملية.”
وأضاف: “يجب معالجة مشكلة إمكانية اختراق النموذج لبيئة الاختبار، لأن احتواء الثغرات في مراحل الاختبار لا يقل أهمية عن النموذج نفسه. ولكن للأسف، هذه إشارة إلى المستقبل. يجب على فرق الأمن أن تفترض أن مجرمي الإنترنت سيحصلون قريبا، أو ربما يكونون قد حصلوا بالفعل، على قدرات مماثلة للتشغيل الذاتي”.
وقالت كاتي موسوريس، الرئيسة التنفيذية لشركة لوتا سيكيوريتي، إن الحادثة نذيرٌ باختراقات قادمة، واصفة نماذج الذكاء الاصطناعي الحالية بأنها “تشبه أذكى الأخطبوطات في العالم، فهي تتمتع بأذرع لا حدود لها وقدرة على التسلل من أي مكان”، مضيفة أن “المختبرات والجهات الحكومية المختصة بالتقييم بحاجة إلى العمل على تطوير القدرة على احتواء أي اختراق من هذا النوع، ومراقبته، وإبلاغ الأطراف المتضررة به، وذلك قبل أن يلحق الضرر بأي طرف ثالث. ولا توجد مثل هذه القدرة حاليا”.
وأشار مات سويش، المهندس في شركة تولمو المتخصصة في أمن الذكاء الاصطناعي، إلى أن الحادثة أظهرت أن النماذج الرائدة “تقترب من مستوى المهاجمين الأكثر تطورا”، لكنه أشار إلى أن أنواع الاختراقات المذكورة في مدونة “أوبن إيه آي” يمكن تنفيذها باستخدام تقنيات متاحة على نطاق أوسع بكثير من مختبرات الأبحاث الرائدة، مضيفا: “هذا ما رأيناه بالفعل داخليا، فمع وكلائنا لدينا نتائج كهذه. لسنا مضطرين حتى لاستخدام أحدث النماذج”.
كانت شركة “أوبن إيه آي” أقرت في وقت سابق بأن برنامج “تشات جي بي تي” يمكن أن يخرج عن السيطرة ويحذف ملفات الأشخاص دون إبلاغهم. ففي الأيام الأخيرة، أفاد العديد من مستخدمي منصة البرمجة المدمجة في المساعد الذكي Codex بأن الأداة حذلت ملفاتهم دون طلب أو إذن منهم.وقال أحد المهندسين، برونو ليموس، إنها “حذفت قاعدة بيانات الإنتاج الخاصة بي بالكامل”، فيما قال مستثمر آخر في مجال الذكاء الاصطناعي، مات شومر، إنها “حذفت عن طريق الخطأ جميع ملفات جهازي الماك تقريبا”.
