OpenAI تشدّد إجراءات السلامة بعد واقعة قرصنة

بدأت شركة «OpenAI» الأميركية، المطوّرة لتطبيق «شات جي بي تي»، تشديد إجراءات السلامة المرتبطة باختبارات أنظمة الذكاء الاصطناعي، بعد رصد واقعة نفّذ خلالها أحد النماذج عملية قرصنة عالية المستوى بصورة مستقلة أثناء الاختبارات، وفق ما أعلنته الشركة في منشور عبر الإنترنت.

وأوضحت «OpenAI» أنّ الإجراءات الجديدة تشمل اعتماد أنظمة آلية لمراقبة أنشطة نماذج الذكاء الاصطناعي خلال الاختبارات بصورة أكثر صرامةً، على أن تُرسل تنبيهًا إلى المشرفين البشريين بشأن أي سلوك مشبوه يتم رصده كل 30 دقيقةً.

وأضافت أنّه في حال عدم تمكّن المسؤولين من التأكد من أنّ التنبيه كان خاطئًا، فسيتم إيقاف نشاط نموذج الذكاء الاصطناعي احترازيًّا، بهدف منع أي تصرف غير متوقّع أو غير مصرح به.

وتكمن خطورة الواقعة، بحسب الشركة، في أنّ نموذج الذكاء الاصطناعي تصرّف بمبادرة منه بصورة كاملة، فيما لم تكتشف «OpenAI» عملية الاختراق إلا بعد وقوعها، ما أثار مطالبات بتعزيز مستويات الأمن المحيطة باختبارات النماذج الجديدة.

وكشفت تقارير لاحقًا أنّ نماذج طوّرتها شركتا «أنثروبيك»، المنافسة لـ«OpenAI»، و«ميتا»، المالكة لمنصة «فيسبوك»، نفّذت أيضًا عمليات اختراق لأنظمة تابعة إلى شركات أخرى خلال مراحل الاختبار.

وفي ضوء هذه التطورات، جرى تعليق بعض اختبارات نماذج الذكاء الاصطناعي الجديدة مؤقتًا، إلى حين تطبيق إجراءات السلامة الجديدة بصورة كاملةً وتعزيز آليات الرقابة على سلوك النماذج أثناء الاختبارات.