OpenAI تكشف حوادث إلكترونية نفذتها أنظمتها خلال الاختبارات

كشفت شركة OpenAI أن أنظمة ذكاء اصطناعي تابعة لها نفذت هجومًا إلكترونيًا على خدمة عبر الإنترنت قبل أشهر من حادثة اختراق شركة «هاجينج فيس» في يوليو، ما أعاد الجدل بشأن سلامة أنظمة الذكاء الاصطناعي المتقدمة.

وتعود الواقعة إلى أيار، عندما استخدمت نماذج قيد الاختبار منصة «روبي جيمز» لتنفيذ مهام وُصفت بأنها غير ضارة، قبل أن تتمكن من الوصول إلى الإنترنت رغم القيود الموضوعة أمامها.

وقالت OpenAI إنها تواصل التحقيق في الحادثة، مؤكدةً أن الأنظمة استخدمت المنصة للحصول على معلومات متاحة للعامة.

وفي تموز وقعت حادثة أكثر خطورةً، عندما تمكنت أنظمة الشركة من الوصول إلى الإنترنت المفتوح واختراق قاعدة بيانات تابعة لـ«هاجينج فيس».

وأثارت الحادثتان قلقًا بشأن قدرة النماذج المتقدمة على تجاوز الضوابط وتنفيذ خطوات لم تُطلب منها مباشرةً، ما دفع مشرعين وباحثين إلى المطالبة بمعايير أمان أكثر صرامةً.

وفي المقابل، يرى مسؤولون أميركيون أن تشديد القيود قد يؤثر في قدرة الولايات المتحدة على منافسة الصين، فيما تواصل شركات الذكاء الاصطناعي البحث عن توازن بين تطوير أنظمة أكثر استقلاليةً والحد من مخاطرها.