وسيط المملكة: الإدارة التي تستعين بالذكاء الاصطناعي هي الأكثر حاجة للأخلاقيات

قال حسن طارق، وسيط المملكة إن الإدارة الأكثر استعانة بالذكاء الاصطناعي، هي بالتأكيد الإدارة الأكثر حاجة للأخلاقيات، موضحا أن انفتاح الإدارة على التقنيات الحديثة وعلى الذكاء الاصطناعي، يُعزز من منسوب التحدي الأخلاقي التي تواجهه.

وتابع في كلمته خلال حلقة نقاش معنونة ب”الحقوق المرفقية في العصر الرقمي”، والمنظمة بشراكة مع المؤسسة الألمانية فريدريش ناومان، أن أول مستويات الأخلاقيات، هي أخلاق المسؤولية، حيث عندما يُطرح السؤال عن أخطاء الإدارة، قد يتم التفكير في حصة الآلة وحصة البشر في إنتاج الخطأ، وعن حصة الُمبرمِج وحصة المعلم والمُصمم، ونصيب المستخدم النهائي، داخل سلم المسؤولية، وفقا لتعبير المتحدث.

وأوضح وسيط المملكة أن الاجتهاد القضائي الإداري المغربي لم يشتبك كثيرا مع موضوع الإدارة/ المنصة، على عكس الأنظمة المقارنة، مشيرا إلى مجلس الدولة الفرنسي الذي اجتهد في إنشاء قاعدة الشفافية الخوارزمية، عندما فرض على الإدارة كشف المعايير الأساسية المُعتمدة في تصميم الذكاء الاصطناعي الذي تستعين به لصناعة قراراتها.

وعرج في ذات السياق على المادة 22 من “النظام العام لحماية البيانات” الصادر عن الاتحاد الأوروبي، التي تقترح ضمانات قانونية للمرتفق في مُواجهة المعالجة الآلية للقرار، تتمثل في ضرورة التدخل البشري الفعلي في مسار إنتاج القرار، والحق في إبداء الرأي مع إمكانية الطفر.

كما يتم التفكير في ضمانات أوسع للمرتفق في مواجهة القرارات الناتجة عن الخوارزميات، منها ضرورة الحرص على أن يكون تصميم الخوارزميات مفهوما وقابلا للتفسير، مع تأمين الإشراف البشري بشكل فعلي، لا بمُجرد توقيع شكلي لإجازة القرار، بالإضافة إلى إمكانية الطعن التقني الذي يصل إلى حَدِّ فحص جودة البيانات ومنهجية التصميم، وأساسا تحميل المسؤولية الكاملة للإدارة بغض النظر عن الجهات الخاصة أو الخارجية التي طورت أنظمة ذكائها الاصطناعي.

وتساءل وسيط المملكة في ختام كلمته عن كيف يمكن للذكاء الاصطناعي أن ينتج عبر خوارزمياته قراراً منصفا، إذا كان بإمكانه-افتراضا- أن يصنع حزمة قرارات عادلة وشرعية، مطابقة للقانون ومنسجمة مع المعايير التي وضعها المُصمم، لتطبق بعمومية وموضوعية وحياد، وكيف يمكن للخوارزميات المبنية على تدبير تقني معقد للبيانات والمعايير، أن تنتبه إلى الخصوصيات والاستثناءات، أو أن تلتفت إلى مفارقة الشرعية القانونية التي تنتج أوضاعا غير عادلة؟

وشدد على حاجة  الإدارة في زمن الرقمنة إلى المزيد من الإنسانية والأخلاق والمشاعر، وحاجة الفقه الإداري إلى إعادة تعريف شاملة لمكوناته ومضامينه، وحاجة القاضي الإداري إلى توسيع هامش الرقابة على القرار الإداري ليمتحن تصميمه التقني، والمعادلات الدقيقة لهندسة خوارزمياته.

وخلص طارق، إلى القول -على سبيل الخيال الممكن والقريب- أن الذكاء الاصطناعي يدعو إلى إدارة جديدة،في شكل منصة إلكترونية، تحكمها الخوارزميات وتُسيرها أنظمة تدبير البيانات الضخمة، كما تصدر عنها قرارات مصممة وفق إعدادات دقيقة ومعقدة.