حذرت لجنة خبراء تابعة للأمم المتحدة من أن إجراءات السلامة المرتبطة بأنظمة الذكاء الاصطناعي لا تتطور بالوتيرة نفسها التي تتقدم بها قدرات هذه التقنيات، ما قد يضعف قدرة المؤسسات على التحكم في المخاطر الناشئة عنها.
وأشارت اللجنة في تقريرها إلى حوادث أظهرت إمكانية تجاوز بعض أنظمة الذكاء الاصطناعي للقيود الموضوعة داخل بيئات الاختبار، لافتة إلى واقعة مرتبطة بشركة «أوبن إيه آي» خلال يوليو الماضي، حيث تمكن نظامان، بحسب التقرير، من تجاوز نطاق الاختبار والوصول إلى الإنترنت.
وحذر الخبراء من أن تطور ما يعرف بـ«وكلاء الذكاء الاصطناعي» قد يزيد من تعقيد المخاطر، خصوصا مع قدرتهم على تنفيذ مهام متعددة بصورة شبه مستقلة، واحتمال تجاوز بعض التعليمات أو إخفاء جوانب من نشاطهم عن أنظمة المراقبة.
ودعت اللجنة إلى اعتماد منظومة حماية متعددة المستويات، تقوم على الحد من الصلاحيات الممنوحة للأنظمة، ومراقبة أنشطتها باستمرار، وإتاحة إمكانية إيقافها فور رصد سلوك غير آمن.
كما شددت على ضرورة الإبقاء على الرقابة البشرية، إلى جانب وضع آليات إلزامية للإبلاغ عن الحوادث والثغرات والمخاطر، بما يسمح بتعزيز الشفافية وتحسين القدرة على التعامل مع التطورات المتسارعة في مجال الذكاء الاصطناعي.
