دعت الوزيرة المنتدبة لدى رئيس الحكومة المكلفة بالانتقال الرقمي وإصلاح الإدارة، أمل الفلاح السغروشني، اليوم الثلاثاء بجنيف، إلى إرساء نموذج جديد لمساءلة أنظمة الذكاء الاصطناعي الوكيلة، معتبرة أن مسؤولية هذه الأنظمة تشكل أحد أكبر التحديات القانونية خلال العقد الحالي.
وأوضحت الوزيرة، خلال مشاركتها في جلسة رفيعة المستوى حول احترام حقوق الإنسان وحمايتها وتعزيزها في عصر الذكاء الاصطناعي، المنظمة في إطار الحوار العالمي حول حكامة الذكاء الاصطناعي، أن هذه الأنظمة تقوم على شبكة من الوكلاء المستقلين، يتدخل كل واحد منهم في مستوى معين، دون وجود فاعل بشري واحد يقف مباشرة وراء القرار النهائي.
وأضافت أنه في مثل هذه الحالات يصبح من الصعب تحديد الجهة التي ينبغي تحميلها المسؤولية عند وقوع خلل، أو توزيع هذه المسؤولية بين مختلف الوكلاء المتدخلين في العملية.
وأبرزت السغروشني أن النتيجة النهائية قد تكون ضارة رغم مساهمة عدة فاعلين في العملية نفسها، دون إمكانية تحديد دقيق لمكان وقوع الخطأ أو توقيته أو نصيب كل طرف من المسؤولية، مشيرة إلى أن هذا التعقيد يزداد بفعل إشكالات السببية الزمنية وضخامة النماذج المعتمدة على مليارات الوسائط.
ولتوضيح حجم التحدي، ذكرت الوزيرة بأن المغرب يعالج نحو 52 مليون معاملة إدارية سنويا، مؤكدة أن تحديد مصدر الخلل بدقة في هذا الحجم من العمليات يشكل تحديا كبيرا.
ودعت، في هذا السياق، إلى تطوير مناهج جديدة قادرة على مواكبة التعقيد المتزايد لأنظمة الذكاء الاصطناعي، من خلال اعتماد مقاربة تقوم على إعادة بناء رسم بياني سببي لأفعال الأنظمة الوكيلة، بما يسمح بفهم مسارات القرار وتحديد المسؤوليات.
كما حددت الوزيرة ثلاثة التزامات أساسية لتعزيز مساءلة هذه الأنظمة، تتمثل في التوثيق المنظم لسلاسل الوكلاء، وتحديد مسؤول بشري واضح عن كل قرار يمس حقوق الأشخاص، وضمان الحق في انتصاف فعلي داخل آجال تتناسب مع سرعة اشتغال أنظمة الذكاء الاصطناعي.
وأكدت السغروشني أن الاستقلالية التشغيلية للخوارزميات يجب ألا تتحول أبدا إلى استقلالية عن القانون، داعية إلى حكامة استباقية قائمة على حقوق الإنسان، ومتكيفة مع التطور السريع للذكاء الاصطناعي.
وشددت على أهمية تطوير آليات عملية لتقييم المخاطر، وقابلية التتبع، والتدقيق، والإشراف البشري، مع مراعاة الخصوصيات المؤسساتية وأولويات التنمية الخاصة بكل بلد.
وتناولت المناقشات خلال هذه الجلسة قضايا الشفافية، والمساءلة، والرقابة البشرية، والوقاية من المخاطر على امتداد دورة حياة أنظمة الذكاء الاصطناعي، إلى جانب حماية الأطفال والنساء والفئات الأكثر هشاشة.
