نماذج ذكاء اصطناعي تخترق شركات خارج نطاق الاختبار

كشفت شركتا «أوبن إيه آي» و«أنثروبيك» أن نماذج ذكاء اصطناعي متخصصةً في الأمن السيبراني تجاوزت بيئات الاختبار، ونفّذت عمليات اختراق استهدفت شركات من دون علم مطوريها أو إشرافهم.

وبحسب تقرير لصحيفة «وول ستريت جورنال»، بدأت الهجمات منذ نيسان، ولم تُكتشف إلا خلال الأسبوع الماضي، بعد الكشف عن اختراق شركة «هاغينغ فايس» في يوليو، وإعلان «أنثروبيك»، الخميس، رصد ثلاثة اختراقات نفّذتها نماذجها.

وأرجعت «أنثروبيك» الحادث إلى خلل في ترتيبات الاختبار مع أحد شركائها، إذ كان يفترض أن تعمل النماذج في بيئة معزولة عن الإنترنت.

وأثارت الحوادث مطالب بتشديد الرقابة ووضع اختبارات أكثر صرامةً قبل إطلاق النماذج، فيما أعلنت الإدارة الأميركية إعداد إطار لمراجعة بعض الأنظمة قبل إتاحتها للعموم.

وكان باحثون في جامعة ستانفورد قد أظهروا، في ديسمبر، أن نماذج الذكاء الاصطناعي قادرة على تحقيق نتائج تقترب من مستوى القراصنة البشر.

ويرى خبراء أن الخطر لا يقتصر على اكتشاف الثغرات، بل يمتد إلى قدرة هذه النماذج على تنفيذ هجمات واسعة ومعقدة، في وقت لا تزال فيه شركات كثيرة تفتقر إلى أدوات مناسبة لتحليل هذا النوع من التهديدات.