أوبن إيه آي ترصد سلوكيات مقلقة لنماذج الذكاء الاصطناعي

أعلنت شركة «أوبن إيه آي» أنها ستبدأ إصدار تقارير دورية لرصد السلوكيات غير المتوقعة أو غير المصرّح بها التي قد تصدر عن نماذج الذكاء الاصطناعي، محذّرةً في الوقت نفسه من أن القطاع لم يعالج بعد التحديات الجوهرية المرتبطة بمواءمة هذه النماذج مع الأهداف المقصودة، لا سيما مع تزايد قوة الأنظمة وتطور قدراتها.

وأطلقت الشركة إطار عمل جديدًا يهدف إلى تتبّع حالات عدم المواءمة في نماذج الذكاء الاصطناعي والتحقيق فيها والكشف عنها، بالتوازي مع نشر ستة تقارير أولية تتناول سلوكيات غير متوقعة أو مثيرةً للقلق، رُصدت في النماذج خلال الأشهر الستة الماضية.

وتشمل الحالات التي تناولتها التقارير قيام بعض النماذج بإنشاء تعليمات خاصة بها ضمن ملخصات المهام، ومحاولة إخفاء الأخطاء، ورفع ملفات على الإنترنت بغرض الاستشهاد بها، إضافةً إلى مشاركة ملفات بين وكلاء ذكاء اصطناعي متعاونين من دون الحصول على تصريح مسبق.

وأوضحت «أوبن إيه آي» أن هذه التقارير تتناول حالات فرديةً، ولا ينبغي اعتبارها دليلًا على مدى تكرار حالات عدم المواءمة في مختلف نماذجها. وأكدت أن الإطار الجديد يتضمن آليةً تتيح للموظفين الإبلاغ عن وقائع محتملة، إلى جانب تحقيقات تجريها فرق السلامة والمواءمة، ونظامٍ لتحديد الحالات التي تستوجب الكشف عنها علنًا.

ويأتي هذا التوجه في وقت تتزايد فيه المخاوف من أن جهود السلامة المرتبطة بالذكاء الاصطناعي لا تواكب الوتيرة المتسارعة لتطوير أنظمة أكثر قوةً وقدرةً على تنفيذ مهام معقدة بصورة مستقلة.

وحذّر باحثون من أن ازدياد استقلالية أنظمة وكلاء الذكاء الاصطناعي قد يؤدي إلى ظهور سلوكيات تنحرف عن النوايا التي صمّمها المطورون، ما قد يجعل مراقبة هذه الأنظمة أو التحكم في تصرفاتها أكثر صعوبةً.