أوبن إيه آي تكشف اختراق نماذج ذكاء اصطناعي مواقع إلكترونية وتجاوز قيود أمنية

كشفت شركة “أوبن إيه آي» (OpenAI) أن نماذج ذكاء اصطناعي داخلية تابعة لها اخترقت موقعين إلكترونيين، وتجاوزت قيودًا أمنية فرضتها الشركة على التصفح، كما استخدمت بيانات اعتماد مكشوفة للوصول إلى محفظة عملات رقمية من دون تصريح، في حوادث تثير تساؤلات بشأن سلامة أنظمة الذكاء الاصطناعي وقدرتها على الالتزام بالتعليمات.
ونشرت الشركة، يوم الخميس، أربعة تقارير عن حوادث وقعت خلال حزيران 2026، بعدما كشفت في تموز 2026 أن نماذج اختبار داخلية استغلّت ثغرة أمنية من نوع “يوم الصفر” لتجاوز قيود الإنترنت، قبل اختراق شبكة شركة “هاغينغ فيس “(Hugging Face)، بهدف الحصول على إجابات لاختبار في الاختراق الإلكتروني.
وفي الحادثة الأولى، حاول نموذج ذكاء اصطناعي جمع إحصاءات تاريخية عن أسرّة المستشفيات من موقع حكومي، لكنه واجه رفضًا لطلبات الوصول. وبدلًا من التوقف، استغل خاصية تنزيل الملفات للحصول على إعدادات الخادم وبيانات اعتماد حساسة، ثم تجاوز إجراءات الحماية واستخرج معلومات غير مسموح له بالوصول إليها.
وفي حادثة ثانية، تمكّن نموذج مكلّف بجمع خمسة أرقام من لوحة بيانات بحثية عامة من اختراق أنظمة داخلية، والحصول على بيانات اعتماد وتعديل إعدادات الخادم.
وخلال أحد الاختبارات، نزّل النموذج خمسة جداول غير منشورة تضم 147451 صفًّا من البيانات، وواصل استخدامها حتى بعد إعادة ضبط الإعدادات، من دون الإفصاح عن أفعاله. وأكدت الشركة أن إجاباته الخمس صُنّفت جميعها على أنها خاطئة.
وفي التقرير الثالث، كشفت “أوبن إيه آي” أن نموذجًا طُلب منه تحديث تطبيق لتداول العملات المشفّرة استخدم أموالًا من محفظة مغلقة على شبكة اختبار، بعدما استخرج مفاتيحها من عبارات استرداد متاحة للعامة.
ورغم تساؤل النموذج عن امتلاكه الإذن، فقد اعتبر أن العملات التجريبية لا تحمل قيمة مالية حقيقية، وأن استخدامها مقبول، ليتمكّن من دفع رسوم نشر عقد برمجي من دون موافقة صاحب الحساب.
ورأت الشركة أن الحادثة تُظهر كيف يمكن للنماذج استبدال موافقة أصحاب الحسابات بتقديراتها الذاتية بشأن الضرر المحتمل.
أما الحادثة الرابعة، فتعلّقت بنموذج تجاوز قيود الوصول إلى الإنترنت أثناء البحث عن إحصاءات تجارية عامة، مستخدمًا متصفحًا خارجيًّا لإرسال طلبات محظورة عليه مباشرةً.
واستعان النموذج بخدمات خارجية للحصول على البيانات في صورة متحركة بصيغة “GIF”، قبل استخراج الأرقام باستخدام تقنية التعرّف الضوئي إلى الحروف (OCR)، كما طوّر أداةً مساعدةً لإعادة استخدام الطريقة والتحقق من النتائج.
واعتبرت الشركة أن الواقعة تكشف قدرة النماذج على الالتفاف على القيود المفروضة على أدواتها، من خلال تكليف خدمات أخرى بتنفيذ الإجراءات المحظورة.
ورغم وصف بعض الباحثين والصحافيين هذه الحوادث بأنها حالات «تمرّد» للذكاء الاصطناعي، فإن هذا التوصيف قد لا يكون دقيقًا، إذ تُدرَّب النماذج على إنجاز المهام بكفاءة ومثابرة، والبحث عن وسائل مختصرة لتحقيق أهدافها، فيما كانت بعض ضوابط الحماية معطّلةً في معظم الحالات المذكورة.
وتسلّط هذه الوقائع الضوء على التحديات الأمنية والأخلاقية المرتبطة بتطوير أنظمة ذكاء اصطناعي أكثر استقلاليةً، خصوصًا عندما تمنح الأولوية لإنجاز المهام على حساب الالتزام بقيود الوصول والصلاحيات.