نموذج OpenAI يخترق منصة.. والسبب خطأ بشري
كشفت حادثة الاختراق التي نفذها أحد نماذج شركة “OpenAI” ضد منصة Hugging Face أن العامل الحاسم لم يكن تفوقًا استثنائيًا للذكاء الاصطناعي، بل خطأ في تصميم وإعداد بيئة الاختبار، وفق تقييمات خبراء في الأمن السيبراني.
وكانت “OpenAI” قد أعلنت أن أحد نماذجها نجح خلال اختبار أمني في تنفيذ أول هجوم إلكتروني يعتمد بالكامل على الذكاء الاصطناعي، بعد تمكنه من اختراق أنظمة منصة Hugging Face، ما أثار نقاشًا واسعًا حول المخاطر المرتبطة بتطور قدرات النماذج الذكية.
وبحسب خبراء، فإن المشكلة الأساسية لم تكن في قدرة النموذج على اكتشاف الثغرات، بل في طريقة بناء بيئة الاختبار المعزولة، إذ تبين أنها لم تكن منفصلة بشكل كامل عن الإنترنت، ما أتاح للنموذج فرصة تجاوز القيود المفروضة عليه والوصول إلى أنظمة خارجية.
وأوضحت “OpenAI” أن النموذج كان يعمل داخل بيئة “صندوق رملي” مخصصة للاختبارات، ولم يكن يُسمح له بالاتصال إلا بخدمة داخلية لتنزيل حزم البرمجيات. إلا أن النموذج تمكن من استغلال ثغرة أمنية غير معروفة سابقًا في نظام تثبيت الحزم، ما سمح له بالخروج من البيئة المحددة وتنفيذ عملية الاختراق.
وأكدت الشركة أنها أبلغت الجهة المطورة بالثغرة وفق الإجراءات المتبعة، وتعمل معها على إصدار تحديث أمني لمعالجتها.
ويرى مختصون أن وجود ثغرات في البرمجيات أمر شائع، لكن الخطأ الأكبر تمثل في السماح لبيئة اختبار نموذج يمتلك قدرات هجومية محتملة بالتواصل مع مكونات قد تكون متصلة بالإنترنت.
وقال خبراء في الأمن السيبراني إن الاعتماد على جدران الحماية وحدها لا يوفر عزلاً كافيًا، مشددين على ضرورة تصميم بيئات اختبار مغلقة بالكامل عند التعامل مع نماذج قادرة على البحث عن نقاط الضعف واستغلالها.
وأشار مستشارون أمنيون إلى أن الحادثة تعكس تحديًا تواجهه مختلف شركات تطوير الذكاء الاصطناعي، يتمثل في ضمان احتواء النماذج المتقدمة ومنعها من تجاوز الحدود الموضوعة لها أثناء الاختبارات.
ولا تقتصر هذه المخاوف على “OpenAI”، إذ واجهت مختبرات أخرى، من بينها “أنثروبيك”، اختبارات أظهرت قدرة بعض النماذج على تجاوز قيود الاتصال المفروضة عليها، ما يعزز الحاجة إلى تطوير معايير أكثر صرامة لعزل أنظمة الذكاء الاصطناعي.
وتسلط هذه الحوادث الضوء على أهمية بناء بيئات اختبار أكثر أمانًا، مع استمرار تطور قدرات الذكاء الاصطناعي في اكتشاف الثغرات والتعامل مع الأنظمة الرقمية المعقدة.