تجاوز التعليمات والنتيجة صادمة.. ذكاء اصطناعي صيني يخترق القواعد

ونجح نموذج “GLM-5.3” في إتمام ثلاثة من أصل 13 سيناريو هجوم إلكتروني متعدد المراحل مرة واحدة على الأقل، وهو أقوى أداء تسجّله “إيريغولار” لنموذج ذكاء اصطناعي متاح للعموم، رغم أنه لا يزال متأخراً عن النماذج الأميركية الرائدة، إذ أنجز نموذج “GPT-6 Astra” التابع لـ”أوبن إيه آي” تسعة من أصل عشرة سيناريوهات في تقييم منفصل، وإن لم تكن الاختبارات متطابقة.

وبحسب التقرير، تمكّن النموذج خلال الهجمات المحاكاة من الوصول إلى خدمات محمية، وإنشاء اتصالات بديلة للتنقل عبر الشبكات الحاسوبية، وتنسيق عمليات عبر أجهزة متعددة، من دون أن يرفض أياً من المهام الهجومية التي اختُبر عليها.

“اختراق المكافأة”

وفي اختبارات منفصلة، تبيّن أن النموذج أعاد مراراً إنتاج شيفرات برمجية من ذاكرته رغم تلقّيه تعليمات صريحة بعدم القيام بذلك، ما أتاح له الوصول إلى إجابات صحيحة مع خرق القواعد الموضوعة لاختبار قدراته. ووصف الباحثون هذا السلوك بـ”اختراق المكافأة”، أي إيجاد نظام الذكاء الاصطناعي طرقاً لتحقيق النتيجة المطلوبة مع تجاهل التعليمات، محذّرين من أن الاختبارات التي تقيس النجاح فقط قد تُغفل مثل هذه الانتهاكات.

وتعزز هذه النتائج المخاوف من أن تؤدي النماذج المتزايدة القدرات إلى خفض العوائق التقنية أمام الهجمات الإلكترونية المتطورة، ولا سيما النماذج الصينية “مفتوحة الأوزان” التي يمكن للمستخدمين تنزيلها وتعديلها وتشغيلها بشكل مستقل. ولم ترد الشركة الصينية، المعروفة أيضاً باسم “Zhipu AI”، فوراً على طلب التعليق.

أدلة متراكمة

وتضاف هذه النتائج إلى أدلة متزايدة على مخاطر تتعلق بالسلامة في أنظمة الذكاء الاصطناعي الصينية، إذ رصدت وكالة “رويترز” الشهر الماضي ما لا يقل عن 20 دراسة وتقييماً وثّقت سلوكيات خداع وإخفاء إخفاقات ومحاولات للالتفاف على القيود من قبل وكلاء ذكاء اصطناعي صينيين، من دون أي دليل على خروجهم عن سيطرة مشغّليهم.

وفي حين تُبقي الشركات الأميركية الرائدة، مثل “أوبن إيه آي” و”أنثروبيك”، نماذجها الأقوى متاحة عبر خدمات تسيطر عليها، يتبنّى المطوّرون الصينيون النماذج المفتوحة التي باتت شائعة عالمياً بفضل مرونتها وانخفاض كلفة استخدامها.

وأطلقت الشركة “GLM-5.3” في آب، بعدما أرجأت إطلاقه أسبوعين لإجراء اختبارات سلامة إضافية. وكانت “أنثروبيك”، التي قيّدت الوصول إلى نموذجها “ميثوس” المتخصص في الأمن السيبراني خشية إساءة استخدامه، قد أعلنت في أيلول أن النموذج الصيني طوّر هجمات فعّالة ضد ثغرات برمجية في 12% من المحاولات في اختباراتها، مقابل 14% لـ”ميثوس”، مشيرة إلى إمكان تجاوز ضوابط الأمان فيه بتقنيات بسيطة نسبياً. كما وصف المعهد الوطني الأميركي للمعايير والتكنولوجيا النموذج بأنه الأقوى بين النماذج المفتوحة في مهام الأمن السيبراني حتى الآن، مقدّراً تأخره عن الأنظمة الأميركية الرائدة بنحو أربعة أشهر.