المسؤولية الجنائية والمدنية عن التحيز الخوارزمي: نحو تجريم الانحياز الخفي للذكاء الاصطناعي وتأصيله في التشريع المغربي ذ. عدنان السباعي

المسؤولية الجنائية والمدنية عن التحيز الخوارزمي: نحو تجريم الانحياز الخفي للذكاء الاصطناعي وتأصيله في التشريع المغربي

ذ. عدنان السباعي

باحث في الشؤون القانونية والعلوم الجنائية

خريج ماستر العلوم الجنائية والدراسات الأمنية

إطار عالي في وزارة الصحة والحماية الاجتماعية

 

مقدمة:

يشهد العالم اليوم ثورة رقمية غير مسبوقة تقودها تقنيات الذكاء الاصطناعي والتعلم الآلي والتي باتت تؤثر بشكل جذري في مختلف مجالات الحياة من الاقتصاد والصناعة الى الصحة والتعليم مرورا بالمجال الامني والقضائي وقد اصبحت الخوارزميات الذكية جزءا لا يتجزأ من آليات اتخاذ القرار ليس فقط داخل الشركات والمؤسسات بل حتى داخل الادارات العمومية والانظمة القضائية غير ان هذا التحول التكنولوجي العميق لم يخل من تحديات قانونية واخلاقية لعل أبرزها واكثرها اثارة للجدل يتمثل في مسألة التحيز الخوارزمي.

والتحيز الخوارزمي لا يعني فقط وجود خطأ تقني في خوارزمية معينة بل يتعلق بمخرجات غير عادلة او تمييزية ناتجة عن بيانات مشحونة بتحيزات بشرية او عن نماذج تحليلية صممت بشكل غير محايد فتؤدي الى قرارات تقصي فئة معينة من الناس او تضعف فرصهم او تنتهك حقوقهم دون ان يكون هناك فاعل بشري مباشر يمكن تحميله المسؤولية بسهولة وقد وقفت تجارب عالمية متعددة على امثلة ملموسة لهذا الانحراف كأن يستعمل الذكاء الاصطناعي في تقييم طلبات التشغيل او القروض او حتى في اتخاذ قرارات تتعلق بالاحتجاز او العقوبات ويظهر سلوكا تمييزيا على اساس العرق او الجنس او المستوى الاجتماعي.

في هذا السياق يطرح التحيز الخفي للذكاء الاصطناعي اشكالية قانونية معقدة تتعلق بطبيعة المسؤولية التي يمكن اعمالها حين ينتج عن هذا الانحياز ضرر مادي او معنوي لفرد او جماعة فهل نكون امام مسؤولية مدنية تقليدية اساسها الضرر والخطأ والعلاقة السببية ام يمكن تصور مساءلة جنائية للجهات المطورة او المشغلة لتلك الانظمة وكيف يمكن في المقابل اثبات النية او العمد في افعال لا تصدر عن ارادة بشرية واضحة بل عن انظمة معقدة وشبه مستقلة.

ان ما يزيد هذه الاشكالية تعقيدا هو الطبيعة التقنية البحتة للأنظمة الخوارزمية وغموض طريقة اشتغالها حتى لدى مطوريها احيانا ما يجعل اثبات التحيز او تكييفه كخطأ مقصود امرا بالغ الصعوبة كما ان الفقه القانوني لم يبلور بعد مفهوما دقيقا للمسؤولية عن الافعال الناتجة عن الذكاء الاصطناعي الامر الذي يضع القضاء في مواجهة حالات غير مسبوقة قد تؤدي الى تعطيل الحق في التعويض او افلات المسؤولين من العقاب.

وعلى المستوى المغربي يزداد التحدي وضوحا امام غياب إطار قانوني صريح ينظم الذكاء الاصطناعي ويؤطر استخدامه بل ان التشريع المغربي ما يزال يعتمد على مفاهيم المسؤولية التقليدية التي تفترض تدخل العنصر البشري بشكل مباشر وهو ما يثير التساؤل حول مدى قدرة هذه القواعد على استيعاب مخرجات الخوارزميات المنحازة خاصة عندما تكون الاضرار المرتكبة مكررة ومنهجية لكنها ناتجة عن تعليم آلي مبرمج على بيانات تاريخية مليئة بالتمييز.

ومن هذا المنطلق يصبح من الضروري فتح نقاش قانوني معمق حول امكانية تجريم التحيز الخوارزمي الخفي متى ترتب عنه ضرر بين وملموس لاسيما في القطاعات الحساسة المرتبطة بحقوق الافراد الاساسية وهذا لا يعني المطالبة بتجريم الذكاء الاصطناعي في حد ذاته بل ضرورة مساءلة من يستعمله دون احتياط او من يهمل واجب مراقبة مخرجاته او من يدمج فيه قواعد بيانات يعلم مسبقا انها غير متوازنة.

ان تأصيل هذا النقاش في التشريع المغربي يتطلب من جهة مراجعة قواعد المسؤولية المدنية والجنائية بما يسمح باستيعاب هذه الحالات ومن جهة اخرى استلهام التجارب المقارنة التي شرعت في تقنين استخدام الذكاء الاصطناعي ووضع ضمانات قانونية صارمة ضد اي انحراف غير معلن او غير مقصود قد يلحق ضررا بالمواطنين.

وفي المحصلة فان التحيز الخوارزمي ليس مجرد خطأ تقني عارض بل ظاهرة مركبة ذات ابعاد قانونية واخلاقية واجتماعية تستدعي استجابة تشريعية عاجلة تضمن العدالة والشفافية وتمنع تحول الذكاء الاصطناعي الى وسيلة جديدة لإنتاج الظلم بصمت خوارزمي وبدل ان ننتظر وقوع اضرار جسيمة كي نتحرك فان الاجدى هو تبني مقاربة استباقية تؤسس لمنظومة قانونية حديثة عادلة وفعالة تضع الانسان وكرامته في صلب اهتماماتها دون ان تعرقل في الوقت ذاته دينامية الابتكار التكنولوجي.

وامام ما يطرحه التحيز الخوارزمي من مخاطر قانونية واجتماعية حقيقية تتجاوز مجرد الخطأ التقني العابر وتلامس جوهر العدالة والانصاف في الانظمة الرقمية الحديثة تبرز الحاجة الملحة الى مقاربة قانونية جديدة تتجاوز الادوات التقليدية في معالجة المسؤولية عن الافعال الضارة فاذا كانت القوانين المدنية والجنائية قد وضعت لتأطير العلاقة بين الاشخاص الطبيعيين والمعنويين بناء على افعال مقصودة او ناتجة عن اهمال او تقصير فان الذكاء الاصطناعي يفرض واقعا مغايرا تشتغل فيه الخوارزميات بشكل مستقل نسبيا عن ارادة المطورين او المستخدمين مما يخلق منطقة رمادية قانونيا لا يمكن مواجهتها الا بإعادة طرح الاسئلة من جديد.

وفي هذا السياق يمكن صياغة الاشكالية الرئيسية على النحو التالي:

الى اي حد يمكن مساءلة مطوري ومشغلي انظمة الذكاء الاصطناعي عن التحيز الخوارزمي الذي يؤدي الى اضرار تمس حقوق الافراد وما مدى كفاية قواعد المسؤولية المدنية والجنائية في التشريع المغربي لمواجهة هذه الظاهرة وهل نحتاج الى تجريم خاص للانحياز الخفي للذكاء الاصطناعي ام ان تعديل المفاهيم التقليدية للمسؤولية كاف لاستيعاب هذه المستجدات؟

وتتفرع عن هذه الاشكالية المحورية مجموعة من الاسئلة الفرعية من اهمها:

• ما المقصود بالتحيز الخوارزمي وما هي اشكاله واسبابه التقنية والبيانية؟
• ما هي الآثار القانونية والاجتماعية التي يمكن ان تترتب عن هذا النوع من الانحياز؟
• هل يشكل التحيز الخوارزمي اساسا كافيا لترتيب المسؤولية المدنية بناء على الضرر والعلاقة السببية؟
• متى يمكن تكييف هذا التحيز كفعل مجرم يرتب المسؤولية الجنائية؟
• ما هي التحديات التي تعيق اثبات الخطأ او النية في حالة الخوارزميات المعقدة؟
• هل يتوفر التشريع المغربي على آليات قانونية قادرة على مواجهة هذا النوع من الانحرافات التقنية؟
• ما هي التجارب المقارنة التي يمكن الاستفادة منها في تأصيل تأطير قانوني متوازن لهذه الظاهرة؟
• كيف يمكن تحقيق توازن بين حماية الحقوق الفردية وتشجيع الابتكار التكنولوجي في هذا المجال؟

وانطلاقا مما سبق من عرض عام لإشكالية التحيز الخوارزمي وما يطرحه من أسئلة عميقة حول مستقبل المسؤولية القانونية في ظل التحول الرقمي المتسارع، يصبح من اللازم الانتقال إلى تحليل دقيق ومركب لجوانب هذه الإشكالية داخل السياق المغربي، من خلال مساءلة مدى قدرة قواعد التشريع الوطني على مواكبة هذا التحدي المستجد الذي يهدد أسس العدالة والمساواة أمام القانون.

فقد أبانت التطبيقات المعاصرة للذكاء الاصطناعي في عدة قطاعات حساسة عن إمكانية تسرب تحيزات خفية إلى مخرجات الخوارزميات، مما يؤدي إلى اتخاذ قرارات تمس بمصالح وحقوق الأفراد دون سند قانوني واضح أو ضمانة مؤسسية رادعة. وهو ما يستدعي قراءة مزدوجة لهذا الإشكال، تجمع بين البعد التقني والحقوقي من جهة، والبعد القانوني التأصيلي من جهة أخرى، بغرض بناء تصور علمي حول أوجه القصور التشريعي الحالي، واقتراح السبل الممكنة لتجاوزه.

وبناء على ذلك، سنعمد إلى تقسيم المعالجة إلى مبحثين رئيسيين، يروم الأول منهما الإحاطة بالأبعاد النظرية والعملية لظاهرة التحيز الخوارزمي وانعكاساتها القانونية، بينما يخصص المبحث الثاني لتحليل حدود المسؤولية القانونية عن هذا التحيز في ضوء قواعد التشريع المغربي، سواء من الزاوية المدنية أو الجنائية، بما يتيح رسم معالم أولية لتأصيل قانوني يستجيب لمتطلبات العدالة الرقمية ويضمن التوازن بين حماية الحقوق وتشجيع الابتكار.

المبحث الأول: التحيز الخوارزمي وانعكاساته القانونية على الحقوق والحريات

لقد أدى التطور السريع لتقنيات الذكاء الاصطناعي الى خلق أنظمة رقمية قادرة على اتخاذ قرارات معقدة في ميادين مختلفة تتعلق بحياة الافراد اليومية وبحقوقهم الاساسية الا ان هذه الانظمة ليست بمنأى عن الاخطاء ولا سيما تلك المرتبطة بالتحيز الخوارزمي الذي أصبح يشكل تحديا حقيقيا لمبادئ العدالة والمساواة امام القانون.

ويكمن الخطر الاساسي في هذا النوع من التحيز في كونه لا يكون دائما ظاهرا للعيان بل يتسلل بشكل غير مباشر الى الخوارزميات من خلال البيانات المشحونة بانحيازات تاريخية او اجتماعية او ثقافية او حتى عند تصميم النماذج التحليلية ذاتها وهو ما يؤدي الى انتاج قرارات تبدو تقنية ومحايدة في ظاهرها لكنها تحمل في جوهرها انحرافات خطيرة تمس بحقوق الافراد.

وامام هذا الوضع تطرح اشكالات قانونية عميقة تتعلق بمدى تأثير هذه الانحيازات الرقمية على الضمانات التي يكرسها القانون للأفراد خاصة فيما يتعلق بمبدأ المساواة وعدم التمييز وحقوق الدفاع والولوج العادل الى المعلومة والخدمات.

وللإحاطة بجوانب هذا الاشكال سيتم تخصيص هذا المبحث لتحليل ظاهرة التحيز الخوارزمي من حيث المفهوم والانواع والسياق التقني الذي تنشأ فيه من جهة ثم بيان آثارها القانونية على الحقوق والحريات الاساسية من جهة ثانية وذلك من خلال مطلبين:

المطلب الاول: مفهوم التحيز الخوارزمي وانواعه التقنية والبيانية

المطلب الثاني: الانعكاسات القانونية للقرارات المنحازة خوارزميا على الحقوق والحريات

المطلب الاول: مفهوم التحيز الخوارزمي وانواعه التقنية والبيانية

يعد التحيز الخوارزمي ظاهرة تقنية واجتماعية متداخلة تنتج عن تحريفات غير مقصودة تظهر في مخرجات انظمة الذكاء الاصطناعي نتيجة لتراكم انحيازات موجودة مسبقا في البيانات المستخدمة او في طرق تصميم الخوارزميات نفسها. ولهذا التحيز اشكال متعددة تتراوح بين الاخطاء التقنية البحتة الى الانحيازات المرتبطة بالاختيارات الانسانية عند تطوير النماذج، ما يجعل من فهم طبيعة هذه الانحيازات خطوة اساسية لفهم انعكاساتها القانونية والاجتماعية.

الفقرة الاولى: مصادر التحيز الخوارزمي وأنواعه التقنية والبيانية

تعتبر ظاهرة التحيز الخوارزمي من الظواهر المعقدة والمتعددة الأبعاد التي تنشأ نتيجة لتفاعل عوامل تقنية وبشرية وبيانية، مما يجعلها تحديا كبيرا أمام تطور أنظمة الذكاء الاصطناعي واعتمادها في اتخاذ القرارات في مجالات حيوية. وفي هذا السياق، فإن دراسة مصادر التحيز وأنواعه يمثل الأساس لفهم كيفية تشكل هذه الظاهرة ومدى تأثيرها على مخرجات الخوارزميات، وبالتالي على الحقوق الأساسية للأفراد والمجتمعات.

أولا: مصادر التحيز الخوارزمي

تنقسم مصادر التحيز الخوارزمي بشكل عام إلى ثلاثة مصادر رئيسية: البيانات، تصميم الخوارزميات، والعوامل البشرية المرتبطة بتطوير النظام واستخدامه.

1. البيانات كمصدر رئيسي للتحيز

البيانات هي المادة الخام التي تستخدم لتدريب وتطوير نماذج الذكاء الاصطناعي، وتعتمد جودة هذه النماذج بشكل كبير على جودة هذه البيانات. لذلك، فإن وجود تحيز في البيانات يؤدي حتما إلى تحيز في مخرجات النظام. وهذا التحيز قد يكون ناتجا عن:

• انحياز تمثيلي: حيث تكون البيانات غير متوازنة أو غير شاملة لكل الفئات والمجموعات في المجتمع. على سبيل المثال، إذا تم تدريب نموذج على بيانات تحتوي على تمثيل مفرط لفئة اجتماعية معينة أو جنس معين، فإن النموذج سيتعلم أن يفضل هذه الفئة على حساب أخرى، مما يؤدي إلى إقصاء أو تهميش الفئات الأخرى.
• انحياز تاريخي: وهو التحامل الموجود في البيانات التي تعكس ممارسات قديمة من التمييز أو التفرقة. فعندما تستخدم بيانات تاريخية للنمذجة، يتم تكرار هذه الممارسات تلقائيا من قبل الخوارزميات، بدلا من تصحيحها. مثال واضح على ذلك هو أنظمة تقييم الطلبات الوظيفية التي تعتمد على بيانات توظيف سابقة تعكس تمييزا جنسيا أو عرقيا.
• انحياز في جمع البيانات: يتعلق هذا بنوعية المصادر وطريقة جمع البيانات نفسها. فقد تكون هناك تحيزات نابعة من كيفية اختيار البيانات أو من المصادر التي تجمع منها، حيث تميل البيانات إلى تغطية بعض الفئات أو المناطق الجغرافية على حساب أخرى، أو قد تعتمد على أدوات جمع غير محايدة.
• انحياز في تسمية البيانات: وهو مرتبط بمرحلة تصنيف البيانات أو وضع تسميات لها، حيث يمكن أن تتسبب أخطاء أو تحيزات في التصنيف في تأثير سلبي على نتائج التعلم، خاصة في الأنظمة التي تعتمد على التعلم الموجه.

1. تصميم الخوارزميات كمصدر للتحيز

بعيدا عن البيانات، فإن مرحلة تصميم الخوارزميات نفسها تشكل عاملا مهما في ظهور التحيز. فكل نموذج ذكي يتم بناءه بناءً على فرضيات وخيارات تقنية يصنعها المطورون، وهذه الخيارات قد تؤدي إلى ظهور انحيازات، منها:

• اختيار الخصائص (Feature Selection): حيث يقرر المصممون المتغيرات التي تستخدم في تحليل البيانات والتنبؤات. إذا تم اختيار متغيرات معينة دون غيرها، قد يؤدي ذلك إلى تجاهل عوامل مهمة أو إدخال تحيزات غير مقصودة.
• تبسيط النماذج (Model Simplification): في بعض الحالات، يتم تبسيط النماذج لتقليل تعقيدها أو تسريع عمليات المعالجة، ولكن هذا التبسيط قد يؤدي إلى فقدان بعض التفاصيل المهمة التي تحسن دقة النتائج وتقليل التحيز.
• اختيار خوارزميات التعلم: تختلف الخوارزميات في قدرتها على التعامل مع التنوع والاختلاف في البيانات، وقد يكون بعض الخوارزميات أقل قدرة على معالجة البيانات المتنوعة مما يؤدي إلى تحيز في النتائج.
• صعوبة تفسير النماذج المعقدة: النماذج التي تعتمد على التعلم العميق غالبا ما تكون صناديق سوداء يصعب فهم كيفية اتخاذها للقرارات، وهذا يعقد من إمكانية تحديد مكان وجود التحيز وكيفية معالجته.

1. العوامل البشرية والتدخلات الاجتماعية

لا يمكن فصل التحيز الخوارزمي عن العنصر البشري الذي يقوم بتطويره واستخدامه. فالمعتقدات، القيم، والميولات الشخصية أو المؤسسية للمطورين أو الجهات المستخدمة للخوارزميات تؤثر بشكل مباشر أو غير مباشر على نتائج النظام، حيث:

• قد يقوم المطورون باختيار بيانات أو نماذج تعكس رؤيتهم الخاصة أو تميل إلى مصالح معينة.
• الضغوط الاقتصادية أو السياسية قد تؤثر على تصميم النظام ليخدم أهداف محددة، متجاهلة العدالة أو المساواة.
• غياب التنوع داخل فرق التطوير قد يؤدي إلى غياب فهم شامل لمختلف الفئات المجتمعية، مما يزيد من احتمال ظهور التحيز.

ثانيا: الأنواع التقنية للانحياز

بعد التعرف على المصادر، تأتي أهمية تصنيف الأنواع التقنية للانحياز، والتي ترتبط بالجانب البرمجي والنمذجي للنظام:

• تحيز اختيار الخصائص (Feature Selection Bias): يتعلق بكيفية اختيار المدخلات التي يستخدمها النموذج في تحليله، حيث قد يتم استبعاد متغيرات هامة تؤثر على العدالة أو إدخال متغيرات متحيزة.
• تحيز نموذج البيانات (Model Bias): عندما يقوم النموذج ببناء فرضيات أو تبسيطات غير دقيقة تعزز نتائج متحيزة.
• تحيز المعالجة (Processing Bias): يحدث أثناء عمليات تنظيف أو معالجة البيانات، مثل التعامل مع القيم الناقصة أو معالجة الضوضاء، حيث قد يؤدي الخطأ أو التحيز في هذه العمليات إلى نتائج غير عادلة.
• تحيز الصندوق الأسودBlack Box Bias): ) الناتج عن التعقيد العالي للنماذج التي لا يمكن تفسيرها بسهولة، مما يجعل من الصعب اكتشاف أو تصحيح التحيزات.

ثالثا: الأنواع البيانية للانحياز

أما الانحياز البياني، فهو مرتبط بجودة البيانات وطبيعتها:

• تحيز التمثيل (Representation Bias): عندما لا تعكس البيانات التنوع الحقيقي للمجتمع، مما يؤدي إلى تجاهل أو تهميش بعض الفئات.
• التحيز التاريخي (Historical Bias): الانحياز الموروث من ممارسات قديمة تم تخزينها في البيانات.
• تحيز جمع البيانات (Data Collection Bias): ناتج عن طرق جمع البيانات التي تميل إلى تغطية بعض المناطق أو الفئات دون أخرى.
• تحيز التسمية Label Bias): ) الأخطاء أو الانحياز في تصنيف أو تسمية البيانات التدريبية.

الفقرة الثانية: صعوبة رصد التحيز الخوارزمي وتحديات ضبطه تقنيا وقانونيا

رغم أن التحيز الخوارزمي أصبح حقيقة ثابتة في كثير من التطبيقات التقنية المعاصرة، إلا أن التحدي الأكبر لا يكمن فقط في وجوده، بل في صعوبة رصده وتحديده وضبطه، سواء على المستوى التقني أو على المستوى القانوني. فبعكس التحيز البشري الذي يمكن نسبه إلى نية أو إرادة معينة أو سلوك قابل للتحليل، فإن التحيز الخوارزمي يتسم بطبيعته المعقدة والخفية، حيث ينشأ عن تفاعل معقد بين البيانات والنماذج الحسابية، دون أن تكون هناك نية مباشرة أو محددة لدى أي فاعل بشري. هذا يجعل من عملية إثبات وجود التحيز أو تتبع مصدره أو حتى إدراك أثره مسألة صعبة، تحتاج إلى معرفة تقنية دقيقة وأدوات تحليل متقدمة، وهي أمور لا تتوفر غالبا لدى المتضررين من قرارات هذه الأنظمة.

وتزداد هذه الصعوبة حدة عندما يتعلق الأمر بالخوارزميات المعتمدة على تقنيات التعلم العميق، مثل الشبكات العصبية الاصطناعية، والتي تعمل وفق آليات داخلية معقدة يصعب على حتى مطوريها تفسير منطق اتخاذ القرار فيها. هذه النماذج تشتغل كما لو كانت صناديق سوداء مغلقة، تستقبل بيانات وتعطي مخرجات دون أن تكون هناك طريقة مباشرة لفهم العلاقة الدقيقة بين المدخلات والنتائج. وهذا يطرح إشكالا حقيقيا على مستوى إمكانية التفسير أو ما يعرف بحق الشرح، وهو أحد الحقوق الجديدة التي بدأت بعض التشريعات الأوروبية في التنصيص عليه، حيث يحق لكل فرد أن يحصل على تفسير واضح للقرارات الآلية التي تؤثر على وضعيته القانونية أو الاجتماعية أو الاقتصادية. لكن هذا الحق يصطدم في كثير من الأحيان بواقع تقني معقد يجعل تحقيقه محدودا أو مستحيلا.

وفي السياق المغربي، فإن غياب إطار قانوني صريح ينظم عمل الخوارزميات، أو يفرض على الجهات المطورة والمستخدمة لها الالتزام بالشفافية أو إمكانية التفسير، يجعل مسألة رصد التحيز ومعالجته أكثر تعقيدا. فالقانون المغربي لا يضع حتى الآن قواعد خاصة بالأنظمة الذكية أو قرارات الذكاء الاصطناعي، ولا يميز بين القرار البشري والقرار الآلي من حيث المسؤولية أو شروط المشروعية. وهذا يطرح عدة أسئلة قانونية صعبة، من قبيل: من المسؤول في حالة صدور قرار غير مشروع عن خوارزمية؟ هل المطور؟ أم الجهة التي تستخدم النظام؟ أم أن النظام نفسه، باعتباره أداة مستقلة نسبيا، لا يمكن تحميله المسؤولية؟ ثم كيف يمكن للمتضرر أن يثبت أن القرار الذي صدر في حقه كان متحيزا إذا كان لا يستطيع الوصول إلى منطق الخوارزمية أو بياناتها الداخلية؟

أكثر من ذلك، فإن قرارات الأنظمة الذكية لا تكون دائما نهائية أو مباشرة، بل قد تستعمل كمساعدات أو مؤشرات للقرار البشري، مثلما يقع في مجال القضاء أو التوظيف أو الإقراض البنكي. في مثل هذه الحالات، يتم إضفاء شرعية مزدوجة على القرار، من جهة شرعية تقنية نابعة من الخوارزمية، ومن جهة أخرى شرعية قانونية نابعة من تدخل العنصر البشري. وهذا ما يزيد من غموض المسؤولية ويضعف القدرة على الطعن في القرار أمام الجهات المختصة، لأن النظام يتحصن خلف طابع تقني غامض، والفاعل البشري يبرر موقفه بالاعتماد على الخوارزمية.

هذا الوضع المعقد يجعل من الضروري إعادة النظر في الطريقة التي يتم بها تصميم وتبني الأنظمة الذكية، وفي ضرورة سن تشريعات صارمة تلزم الجهات المسؤولة بتوفير إمكانية التتبع والتفسير والتحقق من الخوارزميات المستخدمة، خاصة في القطاعات التي تمس الحقوق الأساسية للأفراد. كما أن هذا يستدعي بناء قدرات وطنية في مجال التدقيق الخوارزمي، أي فحص الأنظمة التقنية من قبل هيئات مستقلة ذات كفاءة، للتأكد من احترامها لمبادئ المساواة وعدم التمييز. ولعل هذا المدخل هو السبيل الوحيد لضمان نوع من الرقابة على أنظمة أصبحت تتدخل أكثر فأكثر في حياة المواطن المغربي اليومية، وتؤثر في مساراته المهنية والاجتماعية والقضائية، دون أن تكون هناك ضمانات كافية لشفافية هذه التدخلات أو مشروعيتها.

وفي المحصلة، فإن التحيز الخوارزمي ليس فقط مسألة تقنية أو علمية، بل هو في عمقه قضية عدالة اجتماعية وحقوقية، تتطلب وعيا قانونيا ومؤسساتيا قويا، واستباقا تشريعيا يتماشى مع التطور الرقمي المتسارع. وهذا ما سيتم التطرق إليه لاحقا ضمن المطلب الثاني من هذا المقال، المتعلق بالمسؤولية القانونية عن التحيز الخوارزمي، ومحاولة تأصيلها داخل قواعد التشريع المغربي.

المطلب الثاني: الانعكاسات القانونية للقرارات المنحازة خوارزميا على الحقوق والحريات

مع توسع اعتماد الانظمة الذكية في اتخاذ قرارات تمس وضعيات قانونية واجتماعية حساسة، يطرح التحيز الخوارزمي اشكالا جديا على مستوى احترام الحقوق والحريات الاساسية. فالقرارات المبنية على خوارزميات منحازة قد تؤدي الى تمييز غير مشروع، او الى انتهاك مبدأ المساواة امام القانون، مما يضع هذه الانظمة في مواجهة مباشرة مع الضمانات الدستورية والتشريعية المعمول بها. وإذا كانت هذه الانظمة تعتمد في ظاهرها على الحياد الرقمي، فإن واقع الحال يثبت ان انحياز الخوارزميات، سواء بسبب البيانات او التصميم، قد ينتج عنه مساس فعلي بحقوق الافراد، يصعب الطعن فيه او اثباته. من هنا تبرز الحاجة الى معالجة قانونية دقيقة لهذه الظاهرة، عبر مساءلة مشروعية القرارات الصادرة عنها، وتحديد مسؤولية الجهات الفاعلة في تطويرها واستعمالها، خاصة في غياب إطار قانوني صريح في التشريع المغربي يواكب هذه التحديات.

الفقرة الاولى: تهديد القرارات المنحازة خوارزميا لمبدأ المساواة وضمانات المحاكمة العادلة في التشريع المغربي

يشكل مبدأ المساواة امام القانون أحد الاسس المحورية التي تقوم عليها الدولة الحديثة، وهو من المبادئ الدستورية التي لا تقبل التجزئة او التمييز، وقد كرسه الدستور المغربي في فصله السادس على نحو صريح باعتباره حقا لجميع المواطنين والمواطنات دون استثناء. كما اكدت مقتضيات الفصل التاسع عشر من نفس الدستور على ان الرجل والمرأة يتمتعان، على قدم المساواة، بالحقوق والحريات المدنية والسياسية والاقتصادية والاجتماعية والثقافية والبيئية. اضافة الى ذلك، تضمن الوثيقة الدستورية في ديباجتها التزام المملكة المغربية بحقوق الانسان كما هي متعارف عليها عالميا، وهو ما يوسع من دائرة الحقوق التي يجب احترامها وحمايتها، بما فيها الحق في عدم التعرض للتمييز.

غير ان التحولات التكنولوجية العميقة التي تعرفها الدولة والمجتمع، من خلال رقمنة الادارة واعتماد الذكاء الاصطناعي في اتخاذ القرارات العمومية والخاصة، قد ادخلت عناصر جديدة قد تمس بجوهر هذا المبدأ دون ان تظهر في شكلها التقليدي المعروف. فالتمييز الذي كان الى وقت قريب يُمارس من قبل اشخاص او مؤسسات عبر افعال مباشرة، أصبح اليوم يمارس بصيغة غير مرئية من خلال قرارات تتخذها انظمة ذكية تم بناؤها على اساس بيانات منحازة، او صيغ خوارزمية تفتقر الى الحياد، مما يجعل نتائجها مخالفة لمبدأ المساواة دون ان يُدرك ذلك الافراد او حتى السلطات المعنية.

ان التحيز الخوارزمي لا يشكل فقط خللا تقنيا عارضا، بل يمثل آلية جديدة لإعادة انتاج اللامساواة في المجتمع، خصوصا حين يتم اعتماده في ميادين حيوية مثل القضاء، الادارة، التعليم، التمويل، والصحة. ففي مجال العدالة الجنائية مثلا، بدأت بعض الانظمة القضائية، في سياق التحديث والرقمنة، في استخدام خوارزميات تساعد القضاة على تقييم درجة خطورة المتهمين، وتوقع امكانية اعادة ارتكابهم للجرائم، واقتراح العقوبات المناسبة. لكن الاشكال الذي يطرح نفسه هو ان هذه الخوارزميات غالبا ما تستند الى بيانات سابقة تحتوي على انماط تاريخية من التحيز والتمييز، سواء على اساس الجنس او العرق او الموقع الجغرافي، مما يجعل من الخوارزمية نفسها امتدادا غير مرئي لسلوكيات قضائية قديمة قد تكون غير عادلة. وعليه، فإن الاعتماد على مثل هذه الانظمة من شأنه ان يضرب في العمق اهم ضمانات المحاكمة العادلة، وعلى رأسها مبدأ افتراض البراءة، وحق المتهم في المعاملة النزيهة، والحق في الطعن والولوج الى محاكمة منصفة.

اضافة الى ذلك، فإن قرارات الذكاء الاصطناعي قد تؤثر على مبدأ تكافؤ الفرص، خاصة في المجالات المرتبطة بالتشغيل والتكوين والتعليم العالي. فمثلا، إذا تم استخدام خوارزميات لاختيار المترشحين للوظائف العمومية بناء على معايير خفية تتأثر بمكان السكن، او نوع المؤسسة التعليمية، او حتى الاسم العائلي، فإن ذلك قد يؤدي الى اقصاء فئات اجتماعية بكاملها، دون وجود مبرر قانوني، ودون ان تتمكن هذه الفئات من اثبات تعرضها للتمييز، نظرا للطابع الغامض للخوارزميات، وصعوبة الولوج الى بياناتها الداخلية.

ان التشريع المغربي، ورغم تطوره النسبي في مجال حماية الحقوق، لا يزال يفتقر الى نصوص واضحة تعالج هذه الاشكالية. فلا وجود حاليا لإطار قانوني خاص بتنظيم قرارات الذكاء الاصطناعي، او تقنين مسؤولية مطوري ومستخدمي الخوارزميات، او ضمان حق المتضرر في الحصول على تفسير للقرارات التي تؤثر على وضعيته القانونية او الاجتماعية. وإذا كانت بعض القوانين، مثل القانون المتعلق بحماية الاشخاص الذاتيين تجاه المعالجة الآلية للمعطيات ذات الطابع الشخصي، قد اشارت في بعض موادها الى ضرورة المعالجة العادلة والشفافة، فإنها لم تذهب بعيدا في ضبط التحيزات الخوارزمية ولا في تنظيم سبل الطعن في نتائجها.

وعليه، فإن الخطر القانوني الاكبر الذي تطرحه هذه الانظمة هو ما يمكن تسميته بالتمييز المؤسسي الصامت، اي حين تتبنى الادارة او المؤسسة قرارات منحازة دون ان تدرك ذلك، ودون ان تتيح للمتضرر فرصة الطعن او التظلم، نظرا لاعتمادها على نتائج تعتبرها موضوعية فقط لكونها صادرة عن آلة. وفي غياب آليات للمراقبة او للتفسير، يصبح التمييز مؤسسا ومؤطرا، رغم انه يتعارض مع المبادئ الدستورية والحقوقية، وهو ما يشكل اختلالا بنيويا يمس جوهر سيادة القانون ومصداقية المؤسسات.

وتزداد خطورة هذا التحيز حين يتم اعتماد الخوارزميات في قضايا الهجرة واللجوء، او في قرارات منع او قبول تراخيص معينة، مثل الحق في التظاهر او الحصول على دعم اجتماعي، حيث قد تؤدي معايير غير واضحة الى اقصاء اشخاص بناء على خصائص اثنية، او ثقافية، او اقتصادية. وهذا يضع السلطات العمومية امام مسؤولية مضاعفة، تتعلق ليس فقط بحماية الحقوق، ولكن ايضا بضمان حياد الانظمة التي تستخدمها في اتخاذ قراراتها.

ومن هنا تبرز الحاجة الملحة الى مراجعة تشريعية عميقة، تأخذ بعين الاعتبار هذا النمط الجديد من التمييز، وتضع قواعد خاصة تنظم شروط استخدام الخوارزميات، وتلزم بوجود لجان رقابة تقنية وقانونية، وتمنح المتضررين حق الولوج الى المعلومة، وحق التفسير، وحق الطعن في القرارات المنبثقة عن انظمة ذكية. ذلك ان العدالة لا تتحقق فقط بالنيات، ولكن بضمانات ملموسة تمنع الظلم الرقمي، وتكفل المساواة الفعلية في ظل عالم أصبح تقنيا بامتياز.

الفقرة الثانية: صعوبة تحديد المسؤولية القانونية عن القرارات المنحازة خوارزميا في ظل غياب تقنين صريح داخل التشريع المغربي

إذا كانت القرارات المنبثقة عن انظمة الذكاء الاصطناعي قد تمس بشكل مباشر بحقوق الافراد وحرياتهم، فإن التساؤل الجوهري الذي يطرح نفسه هو: من المسؤول قانونيا عن الاضرار الناتجة عن هذه القرارات، خاصة حين تكون مشوبة بالتحيز او التمييز غير المشروع؟ هذا التساؤل يبدو بسيطا في ظاهره، لكنه ينطوي على تعقيدات قانونية ومؤسساتية كبيرة، خصوصا في سياق كالواقع المغربي، حيث لم يتم بعد تقنين هذه الانظمة بشكل صريح، ولا تحديد أطراف العلاقة القانونية التي تنشأ عنها.

في النماذج التقليدية للمسؤولية، يكون من الممكن تحديد الفاعل المتسبب في الضرر، سواء كان شخصا طبيعيا او معنويا، وإسناد الفعل اليه بناء على قواعد الخطأ والعلاقة السببية والضرر. غير ان الوضع يختلف جذريا في حالة الانظمة الخوارزمية، خصوصا تلك التي تعتمد على تقنيات التعلم الآلي، اذ يكون الفاعل الحقيقي غير ظاهر، والقرار غير صادر عن ارادة بشرية صريحة، بل هو نتيجة تفاعل معقد بين خوارزميات وبيانات قديمة ونماذج رياضية صعبة الفهم. في هذه الحالة، هل يمكن اعتبار الجهة المطورة للخوارزمية مسؤولة؟ ام الجهة التي تستخدمها في الميدان العملي؟ ام ان المسؤولية تقع على الدولة إذا كانت الادارة العمومية هي من يستعمل هذه الانظمة؟ ام ان النظام نفسه لا يسأل، لأنه مجرد أداة تقنية لا تتمتع بالأهلية القانونية؟

التشريع المغربي لا يجيب حاليا على هذه الاسئلة، ولا يميز في منظومته القانونية بين القرار البشري والقرار الآلي. كما ان قواعد المسؤولية، سواء المدنية او الجنائية او الادارية، لا تتضمن احكاما خاصة تنظم المسؤولية الناتجة عن انظمة الذكاء الاصطناعي. وهذا يخلق فراغا تشريعيا كبيرا يعرقل عملية مساءلة الجهات التي تعتمد على هذه الانظمة، ويضع المتضرر في موقف هش، خاصة حين يفتقر الى القدرة التقنية على اثبات العلاقة السببية بين القرار المتحيز والضرر الذي لحق به.

أكثر من ذلك، فإن طبيعة بعض الخوارزميات، خاصة تلك المصنفة ضمن ما يعرف بالصناديق السوداء، تجعل من شبه المستحيل فك شفرة القرار، او تحليل منطق التقييم، مما يفرغ الحق في الطعن من مضمونه، ويحول الولوج الى العدالة الى حق نظري غير قابل للممارسة الفعلية. وفي مثل هذه الحالات، تصبح فكرة الانصاف الرقمي مجرد شعار، ما لم يتم التنصيص على واجب الشفافية وحق التفسير وامكانية المراجعة كمبادئ ملزمة في القانون.

كما ان الاثبات في مجال الذكاء الاصطناعي يطرح اشكالا خاصا، نظرا لاعتماد النظام على بيانات ضخمة ومعقدة، لا يمكن الاطلاع عليها بسهولة، وقد تكون خاضعة لحماية السر المهني او قواعد حماية المعطيات الشخصية. مما يجعل من الصعب على المتضرر الحصول على المعلومات اللازمة لبناء دعواه، سواء من حيث منهجية التقييم، او المعايير المعتمدة، او نوعية البيانات المستعملة. وهذا ما يجعل عبء الاثبات يميل لصالح المؤسسة او الادارة، ويضعف من مركز الضحية في المسطرة.

الى جانب ذلك، فإن استعمال هذه الانظمة في قطاعات حساسة مثل العدالة الجنائية، او التوظيف العمومي، او التعليم العالي، قد يؤدي الى خرق مبادئ اساسية ينص عليها الدستور، مثل المساواة، وتكافؤ الفرص، والحق في محاكمة عادلة، والولوج الى الوظائف على اساس الاستحقاق. لكن غياب تقنين صريح يجعل من الصعب رفع دعاوى قائمة على التحيز الخوارزمي باعتباره سببا قانونيا مستقلا. بل ان القضاء المغربي لم يراكم بعد اجتهادا واضحا في هذا المجال، مما يزيد من صعوبة التأصيل القضائي لهذا النوع من النزاعات.

وتأسيسا على ما سبق، فإن الحاجة اصبحت ملحة الى تطوير إطار قانوني وطني يؤطر بوضوح استخدام الذكاء الاصطناعي في اتخاذ القرارات، ويحدد بصفة دقيقة المسؤولية القانونية للجهات الفاعلة، ويضع قواعد خاصة بالإثبات والتظلم والطعن، بما يضمن حماية فعلية لحقوق الافراد في مواجهة القرارات المنبثقة عن انظمة قد تكون منحازة او غير عادلة. كما ينبغي التفكير في إنشاء هيئات مستقلة للتدقيق الخوارزمي، تكون مخولة بالولوج الى الانظمة والبيانات، ومراقبة مدى احترامها لمبادئ العدالة والحياد، وتمكين المتضررين من آلية فعالة للإنصاف الرقمي.

المبحث الثاني: حدود المسؤولية القانونية عن التحيز الخوارزمي في ضوء قواعد التشريع المغربي

إذا كانت القرارات المنبثقة عن انظمة الذكاء الاصطناعي قد بدأت تحل تدريجيا محل القرارات البشرية في عدد من القطاعات الحيوية، فإن السؤال الجوهري الذي يطرح نفسه في هذا السياق يتعلق بمدى امكانية مساءلة هذه الانظمة او الجهات المشغلة لها قانونيا، في حالة صدور قرارات متحيزة تسببت في اضرار لفئات معينة من الاشخاص. ويتضاعف هذا الاشكال حين يتعلق الامر بتحيز خفي وغير ظاهر، يصعب رصده او اثباته بسهولة، ويصدر عن نظام تقني معقد، يصعب عزله عن سلسلة من المساهمين فيه، سواء كانوا مطورين او مشغلين او مؤسسات.

وفي غياب تقنين خاص وواضح للذكاء الاصطناعي داخل المنظومة القانونية المغربية، تبرز الحاجة الى تحليل امكانية تأصيل المسؤولية القانونية عن هذا النوع من الاضرار في ضوء القواعد العامة المعمول بها، سواء في المجال المدني او في المجال الجنائي، وذلك في إطار سعي المشرع الى الموازنة بين حماية الحقوق والحريات من جهة، وتشجيع الابتكار الرقمي والتحول التكنولوجي من جهة اخرى.

فمن جهة اولى، تطرح المسؤولية المدنية اشكالا دقيقا حول مدى امكانية تحميل المطور او المستعمل او الجهة المالكة للنظام تبعات الضرر الناتج عن التحيز الخوارزمي، في ظل تعقيد العلاقة السببية، وغموض هوية الفاعل الحقيقي، ومحدودية وسائل الاثبات المتاحة امام المتضرر. وهنا يصبح ضروريا دراسة مدى كفاية قواعد المسؤولية التقصيرية او العقدية لتعويض الضرر، في ظل الخصوصية التي تفرضها البنية الخوارزمية.

ومن جهة ثانية، يثار التساؤل حول مدى امكانية تأطير هذا التحيز في إطار المسؤولية الجنائية، خاصة إذا نتج عنه اقصاء منهجي او تمييز واضح، يخالف المبادئ الدستورية او يهدد النظام العام. فهل يمكن اعتبار ان التحيز الخوارزمي قد يبلغ درجة التجريم؟ وما هي الشروط اللازمة لقيام الجريمة في هذه الحالة؟ وهل يمكن مساءلة الاشخاص الذاتيين او المعنويين عن افعال ارتكبتها انظمة ذكية بشكل غير مباشر؟

للإجابة عن هذه الاشكالات، سيتم تخصيص المطلب الاول لتحليل المسؤولية المدنية عن الاضرار الناتجة عن التحيز الخوارزمي في ضوء قواعد القانون المدني المغربي، مع الوقوف عند التحديات المرتبطة بالإثبات والعلاقة السببية. في حين سيخصص المطلب الثاني لدراسة افق مساءلة جنائية للتمييز غير المشروع الناتج عن الخوارزميات، انطلاقا من مقتضيات القانون الجنائي المغربي، ومبادئ العدالة الجنائية، والحدود الممكنة لتجريم هذا التحيز في إطار قانوني يحترم الضمانات الدستورية.

المطلب الأول: المسؤولية المدنية عن الأضرار الناتجة عن التحيز الخوارزمي

تعتبر المسؤولية المدنية من الركائز الأساسية التي تضمن حماية الأفراد من الأفعال أو القرارات التي تلحق بهم ضررا غير مشروع، سواء كان هذا الضرر ماديا أو معنويا. وفي ظل تطور التقنيات الرقمية وانتشار استخدام أنظمة الذكاء الاصطناعي، برزت تحديات جديدة أمام منظومة المسؤولية المدنية، خاصة عندما يتعلق الأمر بالأضرار الناتجة عن تحيزات خوارزمية غير ظاهرة أو متعمدة. فالتحيز الخوارزمي، الذي قد ينجم عن اختلالات في البيانات أو في تصميم النماذج، يمكن أن يؤدي إلى قرارات آلية تضر بحقوق الأفراد أو مصالحهم، دون أن يكون هناك تدخل مباشر من فاعل بشري يمكن تحميله المسؤولية بشكل تقليدي.

وفي هذا السياق، يبرز السؤال الأساسي حول مدى قدرة قواعد المسؤولية المدنية المغربية على مجابهة هذه الظاهرة الجديدة، وكيف يمكن التأطير القانوني لتعويض المتضررين من أخطاء أو تحيزات ناتجة عن أنظمة ذكية. كما يتعين دراسة التحديات المرتبطة بإثبات العلاقة السببية بين الخطأ والتلف في بيئة تقنية معقدة، حيث تتداخل عوامل متعددة تؤثر على النتيجة النهائية. لذا، فإن هذا المطلب سيحاول استعراض الأسس القانونية للمسؤولية المدنية في التشريع المغربي، ومدى ملاءمتها لمواجهة أضرار التحيز الخوارزمي، مع الوقوف على الصعوبات العملية والنظرية التي تطرحها هذه الظاهرة.

الفقرة الأولى: الأسس القانونية للمسؤولية المدنية في التشريع المغربي ومدى تطبيقها على أضرار التحيز الخوارزمي

تقوم المسؤولية المدنية في التشريع المغربي على قاعدة أساسية تتمثل في تعويض الأضرار التي تلحق بالأفراد نتيجة أفعال أو قرارات غير مشروعة تصدر عن أشخاص طبيعيين أو معنويين، سواء كانت هذه الأفعال ناشئة عن مخالفة واجب قانوني، أو تقصير، أو خطأ في تنفيذ التزامات عقدية. ويتطلب قيام المسؤولية المدنية توافر عدة شروط متكاملة، من بينها تحقق الضرر، ووجود خطأ يرتكبه المسؤول، ووجود علاقة سببية مباشرة بين الخطأ والضرر. كما تتيح القواعد القانونية في بعض الحالات تحميل المسؤولية بدون خطأ، خاصة في حالات المسؤولية الموضوعية، وذلك لحماية المتضررين وتأمين حقهم في التعويض.

مع التقدم السريع في تقنيات الذكاء الاصطناعي، ودخولها في ميادين متعددة كالقضاء، والتوظيف، والمالية، والصحة، أصبح من الضروري إعادة تقييم مدى ملاءمة قواعد المسؤولية المدنية التقليدية في مواجهة أضرار التحيز الخوارزمي. فالأنظمة الذكية تقوم على خوارزميات معقدة تعتمد على تحليل بيانات ضخمة تتسم أحيانا بعدم التوازن أو الانحياز، مما يفضي إلى نتائج اتخذا ت قرارات قد تكون ظاهرة محايدة لكنها تحمل تحيزات خفية تؤثر سلبا على بعض الفئات الاجتماعية أو الفردية. هذا التحيز قد يكون ناتجا عن اختيارات برمجية أو بيانات غير ممثلة بشكل صحيح، وهو ما يطرح إشكالات قانونية جوهرية في تحديد المسؤولية وسبل التعويض.

إن تعقيد طبيعة الأنظمة الذكية يجعل من الصعب تحديد فاعل المسؤول بشكل دقيق، حيث يشارك في إنتاج القرار وتفعيله أطراف متعددة بدءا من مطوري الخوارزميات، ومرورا بمشغلي الأنظمة، وانتهاء بالمستخدمين النهائيين. وهذا الأمر يخلق غموضا قانونيا يتطلب حلا دقيقا ومتقنا لتوزيع المسؤوليات. كما أن الطبيعة التفاعلية والمتطورة لهذه الأنظمة، التي تتعلم وتتكيف مع مرور الزمن، تزيد من صعوبة إثبات وجود خطأ أو تقصير محدد عند لحظة معينة، مما يتطلب تطوير آليات قانونية جديدة لمواكبة هذه الخصوصيات.

علاوة على ذلك، تطرح مسألة إثبات الضرر والعلاقة السببية تحديات إضافية، لأن الأضرار الناجمة عن قرارات خوارزمية قد تكون غير مباشرة أو متراكمة على مدى فترة زمنية طويلة، وأثرها قد يكون معقدا يصعب تتبعه، وهو ما يجعل الإثبات أمام المحاكم عملية شاقة تتطلب خبرات تقنية متخصصة، قد لا تتوفر لدى الأفراد العاديين. لذلك، يبرز دور التشريع في توفير ضمانات عملية مثل حق الوصول إلى المعلومات، وحق التفسير، وإمكانية التدقيق المستقل في آليات اتخاذ القرار.

على صعيد آخر، يشكل غياب تشريعات متخصصة أو قواعد تنظيمية واضحة في المغرب تحديا كبيرا، إذ يعتمد القضاء عادة على قواعد المسؤولية التقليدية دون تدخل خاص بمعالجة خصوصيات التحيز الخوارزمي، وهو ما قد يؤدي إلى قصور في حماية حقوق المتضررين، وخلق فراغ قانوني يعيق إنصافهم. لذلك، هناك حاجة ملحة لتطوير قوانين تأخذ في الاعتبار طبيعة الأنظمة الذكية، وتضع معايير واضحة لمسؤولية الأطراف، وآليات عملية للتعويض، دون المساس بالتطور التكنولوجي والابتكار.

وأخيرا، فإن تطوير إطار قانوني متكامل في هذا المجال يساهم في بناء ثقة المجتمع في استخدام تقنيات الذكاء الاصطناعي، ويعزز من مبادئ العدالة والشفافية، ويضمن حماية الحقوق الفردية في مواجهة مخاطر التحيز الخوارزمي، وهو ما يشكل مدخلا أساسيا لتحقيق العدالة الرقمية في المغرب.

الفقرة الثانية: التحديات القانونية والعملية في اثبات المسؤولية المدنية عن اضرار التحيز الخوارزمي امام المحاكم المغربية

في الوقت الذي يشهد فيه المغرب تطورا متسارعا في مجال التكنولوجيا الرقمية والذكاء الاصطناعي، يواجه النظام القضائي تحديات غير مسبوقة تتعلق بإثبات المسؤولية المدنية عن الأضرار الناتجة عن التحيز الخوارزمي. فهذه الأنظمة الذكية، التي تعتمد بشكل رئيسي على خوارزميات التعلم الآلي والتعلم العميق، تعمل على معالجة كميات هائلة من البيانات التي يمكن أن تحتوي على تحيزات متوارثة أو مضمّنة، مما يؤدي إلى اتخاذ قرارات قد تكون ظاهرياً محايدة لكنها تحمل تحيزات خفية تتسبب في أضرار لأشخاص أو مجموعات معينة. ولأن هذه الأضرار تتخذ أشكالاً متعددة ومعقدة، فإن إثباتها أمام المحاكم المغربية يُعد مسألة شديدة التعقيد.

يبدأ تعقيد إثبات المسؤولية المدنية في هذه الحالة من الأساسيات القانونية التي يقوم عليها هذا النوع من المسؤولية، والتي تتطلب تحقق ثلاث شروط رئيسية هي: وجود ضرر فعلي يمكن تعويضه، ووقوع خطأ أو تصرف غير مشروع من قبل طرف معين، ووجود علاقة سببية مباشرة وواضحة بين هذا الخطأ والضرر. ورغم وضوح هذه المبادئ في القضايا التقليدية، فإنها تصطدم بصعوبات كبيرة عند تطبيقها على قضايا التحيز الخوارزمي نظرا لطبيعة الأنظمة التقنية المعنية.

من الناحية التقنية، تعتبر الخوارزميات الحديثة، وخاصة تلك المعتمدة على تقنيات التعلم العميق، “صناديق سوداء” من حيث تعقيد آلية اتخاذ القرار وعدم شفافيته. وهذا يعني أن كيفية معالجة البيانات والتوصل إلى النتائج ليست واضحة حتى للمطورين أنفسهم في بعض الأحيان، مما يجعل مهمة إثبات الخطأ في تصميم أو تطبيق هذه الخوارزميات صعبة للغاية. أمام هذا الواقع، يجد القاضي نفسه في مواجهة وضعية غامضة، حيث يفتقر إلى الأدوات الفنية اللازمة لفهم مدى صحة القرار الخوارزمي أو وجود تحيز ضمني فيه.

علاوة على ذلك، فإن هذه الخوارزميات تقوم بالتعلم الذاتي المستمر من خلال معالجة بيانات جديدة بشكل دوري، مما يؤدي إلى تحديث مستمر للنموذج وتحول في سلوك النظام. هذا التطور الديناميكي يعيق تحديد اللحظة الزمنية التي وقع فيها الخطأ أو التحيز، وبالتالي يصعب على المتضرر أو على القضاء رصد السبب المباشر للضرر في فترة معينة، وهو ما يؤدي إلى إرباك في تحديد المسؤولية بدقة.

من جهة أخرى، تعددت الجهات التي قد تتحمل المسؤولية عن أضرار التحيز الخوارزمي، بداية من مطوري البرامج الذين يضعون خوارزميات الذكاء الاصطناعي، مرورا بمزودي البيانات الذين يزودون النظام بمواد التدريب، وانتهاء بالمستخدمين أو المشغلين الذين يعتمدون على هذه الأنظمة في اتخاذ قراراتهم. هذا التعدد في الفاعلين يطرح إشكالية قانونية معقدة تتمثل في تحديد المسؤول المباشر عن الضرر، وهل يمكن تحميل المسؤولية بشكل مشترك أم أن هناك من يتحمل المسؤولية بمفرده، وهو ما يتطلب وجود إطار قانوني واضح يحسم هذه الإشكالية.

أما فيما يخص إثبات الضرر، فهو بدوره يشكل عقبة كبيرة، فالأضرار الناتجة عن التحيز الخوارزمي قد لا تكون بالضرورة أضرارا مادية ملموسة، بل قد تتخذ أشكالا معنوية أو اجتماعية أو نفسية يصعب تحديدها أو تقييمها بطريقة موضوعية، مثل التمييز في فرص العمل أو التعليم أو الخدمات العامة. هذا يجعل من مهمة القضاء تقدير التعويض المناسب مهمة حساسة وشاقة، خصوصاً في ظل غياب معايير واضحة ومحددة للتعامل مع هذا النوع من الأضرار.

كذلك، فإن متانة دعوى المتضرر تعتمد بشكل كبير على إمكانية الوصول إلى المعلومات المتعلقة بكيفية عمل النظام الخوارزمي، وهو ما لا يتوفر غالبا بسبب سرية الخوارزميات وحقوق الملكية الفكرية التي تحميها. وهذا النقص في الشفافية يحد من قدرة المتضرر على تقديم دليل مقنع أمام المحكمة، كما يحد من قدرة القاضي على تقييم مدى صحة الادعاءات المقدمة.

بالإضافة إلى ذلك، يعاني القضاء المغربي من محدودية الخبرة التقنية في مجال الذكاء الاصطناعي، مما يفرض عليه اللجوء إلى خبراء فنيين متخصصين للمساعدة في فهم وتحليل الأدلة التقنية، وهو ما قد يزيد من تعقيد وسرعة سير الإجراءات القضائية. كما تتطلب بعض الحالات اعتماد آليات قضائية متطورة تسمح بتحقيقات معمقة وتقييم موضوعي للتقنيات المعنية، وهو ما يستوجب تحديث التشريعات والإجراءات القضائية بما يتناسب مع هذا الواقع الجديد.

على صعيد التشريع، لا توجد حتى الآن نصوص قانونية واضحة ومحددة في المغرب تنظم المسؤولية المتعلقة بالذكاء الاصطناعي وتحيزاته، مما يخلق فراغا قانونيا يعيق إنصاف المتضررين ويتركهم في مواجهة قضايا معقدة لا تتناسب مع القواعد التقليدية للمسؤولية المدنية. ويستلزم هذا الأمر العمل على تطوير إطار قانوني حديث ومتوازن يراعي خصوصيات هذه التكنولوجيا، ويضع معايير واضحة لمسؤولية مختلف الفاعلين وآليات لتعزيز الشفافية والحق في المعلومة.

تتضمن المقترحات العملية للتعامل مع هذه التحديات ضرورة وضع تشريعات تلزم المطورين ومزودي البيانات وأصحاب الأنظمة الذكية بتوفير مستوى عالٍ من الشفافية، إلى جانب إنشاء هيئات مستقلة تقوم بمراقبة هذه الأنظمة وتقييم مدى التزامها بمبادئ العدالة والحياد، فضلا عن توفير آليات فعالة للمتضررين للتظلم والحصول على التعويض المناسب.

في النهاية، يظهر جليا أن إثبات المسؤولية المدنية عن أضرار التحيز الخوارزمي أمام المحاكم المغربية ليس مجرد مسألة قانونية بحتة، بل هو تحدّ تقني وتشريعي وإجرائي يستوجب تنسيقاً بين مختلف الأطراف المعنية لتطوير منظومة قانونية وقضائية شاملة وفعالة، تضمن حماية الحقوق الفردية وتعزيز الثقة في التكنولوجيا الحديثة، بما يرسخ مبادئ العدالة الرقمية في المجتمع المغربي.

المطلب الثاني: المسؤولية الجنائية عن التحيز الخوارزمي في التشريع المغربي بين متطلبات الردع وضوابط العدالة الدستورية

في ظل تسارع التحول الرقمي وتزايد الاعتماد على الأنظمة الذكية في اتخاذ القرارات ذات الأثر القانوني والاجتماعي، برزت تحديات جديدة تمس مبادئ العدالة والمساواة، لعل أبرزها ما يتعلق بما أصبح يعرف بالتحيز الخوارزمي، وهو انحراف غير مرئي في نتائج الخوارزميات يؤدي إلى تمييز غير مشروع ضد أفراد أو جماعات على أساس معطيات معينة مثل الجنس أو العرق أو الأصل الاجتماعي أو حتى الانتماء الجغرافي. وقد أفرز هذا الواقع تساؤلات عميقة حول مدى قابلية هذا النوع من التمييز للخضوع للمساءلة الجنائية، خاصة حين يؤدي إلى انتهاك الحقوق الأساسية أو المساس بكرامة الأفراد وحرياتهم.

وإذا كان القانون الجنائي المغربي يرتكز في فلسفته العامة على مبدأ الشرعية الجنائية، فإن إدراج أفعال تقنية ذات طابع خفي في دائرة التجريم يطرح إشكالات متعددة، تتصل أولا بمدى توافر الأركان التقليدية للجريمة، من فعل مادي، وعنصر معنوي، ونتيجة إجرامية، وتتصل ثانيا بمدى قدرة المنظومة الجنائية على استيعاب أنماط جديدة من الأفعال غير التقليدية، قد لا تصدر عن شخص طبيعي بشكل مباشر، بل عن نظام ذكي يعمل وفق منطق ذاتي ومعطيات رقمية ضخمة.

انطلاقا من ذلك، تطرح مساءلة التحيز الخوارزمي جنائيا إشكالا مزدوجا، فمن جهة هناك ضرورة موضوعية لبناء نظام عقابي يردع كل استخدام خوارزمي يفرز تمييزا غير مشروع، حماية لقيم المساواة والكرامة المنصوص عليها في الوثيقة الدستورية والمواثيق الدولية، ومن جهة أخرى، ينبغي احترام مبادئ العدالة الجنائية، وفي مقدمتها الشرعية، وتحديد المسؤوليات بدقة دون المساس بضمانات المحاكمة العادلة أو تحميل المسؤولية على أساس تقني يصعب ضبطه.

من هذا المنطلق، يروم هذا المطلب دراسة الإطار المفاهيمي والعملي للمسؤولية الجنائية عن التحيز الخوارزمي في التشريع المغربي، من خلال تحليل مدى قابلية هذا التحيز للتكييف الجنائي، واستكشاف آفاق إدماجه ضمن المنظومة العقابية الوطنية، دون المساس بالثوابت الدستورية والمبادئ العامة للقانون الجنائي. وتحقيقا لهذه الغاية، سيتم تقسيم المطلب إلى فقرتين، تتناول الأولى الأساس المفاهيمي والقانوني لتجريم التحيز الخوارزمي، بينما تتناول الثانية حدود التوفيق بين مقتضيات الردع الجنائي وضوابط العدالة الدستورية.

الفقرة الأولى: الإطار المفاهيمي والقانوني لتجريم التحيز الخوارزمي في التشريع الجنائي المغربي

يثير إدماج التحيز الخوارزمي في دائرة التجريم الجنائي إشكالات عميقة تتعلق بطبيعة الجريمة نفسها وحدود التكييف الجنائي في مواجهة أفعال تقنية غير تقليدية. فالتحيز الخوارزمي، باعتباره انحرافا في أداء نظام ذكي يؤدي إلى نتائج تمييزية أو إقصائية ضد أفراد أو فئات، لا يصدر بالضرورة عن نية إجرامية مباشرة من طرف بشري، بل غالبا ما يكون نتيجة لعوامل مركبة تتداخل فيها تصميمات الخوارزميات، والبيانات التي تم تدريب النظام عليها، وسياق التشغيل العام. من هذا المنطلق، يقتضي إدخال هذا النوع من الأفعال ضمن مجال التجريم الجنائي إعادة التفكير في الأسس التقليدية للمسؤولية الجنائية.

في التشريع المغربي، يستند النظام الجنائي إلى مبدأ الشرعية، المنصوص عليه في الفصل الثالث من القانون الجنائي، والذي يقر بأنه “لا جريمة ولا عقوبة إلا بنص”، وهو ما يفرض أن تكون كل الأفعال المجرمة محددة بشكل واضح ومسبق في النصوص القانونية. وبالتالي، فإن إدراج سلوك تقني مثل التحيز الخوارزمي ضمن دائرة التجريم يتطلب وجود نص قانوني صريح يجرمه أو إمكانية تكييفه ضمن جريمة قائمة. غير أن الواقع التشريعي الحالي لا يتضمن أية إشارة صريحة إلى الأفعال الناتجة عن الذكاء الاصطناعي أو الخوارزميات، مما يجعل المهمة معقدة، ويطرح تساؤلا أساسيا حول مدى إمكانية اعتماد التكييفات التقليدية لسد هذا الفراغ.

قد يرى البعض إمكانية تكييف التحيز الخوارزمي، حين تكون له نتائج تمييزية واضحة، ضمن جرائم التمييز المنصوص عليها في القانون الجنائي، خصوصا تلك المتعلقة بالتحريض على الكراهية أو الإقصاء على أساس العرق أو اللون أو الجنس أو غيرها من الأوصاف الشخصية. لكن هذا التكييف يصطدم بحقيقة أن الركن المعنوي في هذه الجرائم، أي القصد الجنائي، يصعب إثباته في حالة أن الخوارزمية اشتغلت بشكل مستقل ودون تدخل بشري مباشر. هنا تظهر الحاجة إلى تطوير مفاهيم المسؤولية، إما من خلال توسيع مفهوم الخطأ غير العمدي في سياق استخدام الأنظمة الذكية، أو باعتماد شكل من أشكال المسؤولية المفترضة أو الموضوعية في حالة الإهمال أو القصور في اختبار وتقييم الخوارزميات قبل تشغيلها.

كما أن المشرع المغربي، رغم تأثره التدريجي بالتحولات الرقمية، لا يزال مترددا في ولوج مجال تقنين الذكاء الاصطناعي وتأطير مخاطره الجنائية. وهذا التردد يخلق فراغا قانونيا يمكن أن يؤدي إلى إفلات جهات مسؤولة عن خوارزميات منحازة من العقاب، وهو ما يتعارض مع مبدأ حماية الحقوق الأساسية كما كرّسه دستور المملكة في فصله التاسع عشر، الذي يضمن المساواة بين المواطنين دون تمييز. من هنا، تبدو الضرورة ملحة لإعادة النظر في الهندسة التشريعية من خلال سن قوانين جنائية خاصة بالأنشطة الرقمية التي يمكن أن تؤدي إلى ضرر اجتماعي أو فردي بالغ.

من الناحية المفاهيمية، يفرض تجريم التحيز الخوارزمي توسيع فهم الجريمة لتشمل الأفعال التقنية التي تنتج آثارا تمييزية، حتى وإن لم يكن لها أصل في إرادة إجرامية تقليدية. ذلك أن الهدف من القانون الجنائي لا ينبغي أن ينحصر فقط في معاقبة النوايا الإجرامية، بل يجب أن يشمل أيضا الحماية الفعلية للمجتمع من أشكال الظلم المستحدثة، خصوصا حينما يتعلق الأمر بأدوات تكنولوجية قد تبدو محايدة لكنها تنتج قرارات تؤثر سلبا في الحقوق والحريات الأساسية.

وعليه، فإن وضع إطار مفاهيمي وقانوني لتجريم التحيز الخوارزمي في المغرب يتطلب المرور من مجرد التكييف التقليدي إلى تصور تشريعي جديد يعترف بأن الأضرار التي قد تنتج عن الأنظمة الذكية، بما فيها الأضرار ذات الطبيعة التمييزية، يجب أن تكون محلا للمساءلة الجنائية متى ثبت وجود خلل في التصميم أو الاستخدام أو الإشراف. وهو ما يفتح المجال لتأصيل مسؤولية جنائية حديثة تأخذ بعين الاعتبار طبيعة الفاعل الجديد، أي النظام الخوارزمي، والعلاقة بينه وبين المستخدم أو المشرف البشري.

الفقرة الثانية: التوازن بين متطلبات التجريم وضوابط العدالة الدستورية في مساءلة التحيز الخوارزمي

إن التوسّع في دائرة التجريم بغرض التصدي للتمييز الناتج عن التحيز الخوارزمي، رغم وجاهته من منظور حماية الحقوق، يفرض التزاما صارما بالضوابط التي تضعها العدالة الدستورية، باعتبارها الإطار الضامن لشرعية التدخل الزجري في حياة الأفراد. ذلك أن القانون الجنائي، بصفته الأداة الأكثر تدخلا في الحريات، ينبغي أن يظل خاضعا لمبدأ الضرورة، وألا يتجاوز نطاقه إلا في الحالات التي لا تكفي فيها الوسائل القانونية الأخرى لتحقيق الردع وحماية النظام العام.

في هذا الإطار، تطرح مساءلة التحيز الخوارزمي جنائيا إشكالية دقيقة تتعلق بمبدأ الشرعية الجنائية، الذي يعد من أهم المبادئ المقررة في الفصل الثالث من القانون الجنائي المغربي، والمكرس أيضا في الفصل الثالث والعشرين من الدستور، والذي يقضي بأنه لا يمكن تجريم أي فعل أو معاقبته إلا بنص قانوني سابق يحدد بدقة طبيعة الفعل والعقوبة المترتبة عنه. ومن ثم، فإن إدخال أفعال ذات طابع تقني محض، كنتاج خوارزميات قد لا يكون التحيز فيها متعمدا أو مباشرا، يتطلب صياغة قانونية دقيقة تضمن وضوح الركن المادي والمعنوي للجريمة، وتُبقي على الحد الأدنى من اليقين القانوني المطلوب لحماية الأفراد من التعسف.

كما أن مساءلة الأفعال الناتجة عن أنظمة الذكاء الاصطناعي، بما فيها التحيزات الخفية، قد تصطدم بمبدأ شخصية العقوبة، الذي يقتضي أن تنسب الجريمة إلى شخص محدد يتمتع بالإرادة والتمييز. وفي ظل التطور التكنولوجي، تتخذ قرارات مؤثرة من قبل أنظمة ذاتية التعلم، ما يثير تساؤلات حول كيفية نسبة الخطأ أو القصد الجنائي إلى مطور أو مشغل لم يكن على دراية مسبقة بنتيجة قرار آلي معين. وإذا كان من الممكن اعتماد شكل من أشكال المسؤولية غير العمدية أو المفترضة، فإن ذلك ينبغي أن يتم في إطار من الحذر القانوني والتقني، حتى لا تتحول المسؤولية إلى عبء عقابي غير مبرر.

وفي السياق ذاته، ينبغي مراعاة مبدأ التناسب في العقوبة، الذي يفرض على المشرّع ألا يبالغ في رد الفعل الزجري، وألا يساوي بين أفعال متباينة من حيث الخطورة أو الأثر. فليس كل تحيز خوارزمي يصل إلى درجة التمييز الإجرامي، وقد يكون بعضها مجرد نتيجة لقصور في البيانات أو خلل تقني لا يرقى إلى مرتبة الفعل الجرمي. ومن هنا، وجب اعتماد مقاربة تدريجية تقوم على التمييز بين الأخطاء التقنية البسيطة والأفعال ذات الأثر العميق والمستمر في حرمان الأفراد من حقوقهم.

كما أن تجريم التحيز الخوارزمي يجب أن يُمارس ضمن رؤية شمولية تراعي متطلبات الأمن القانوني من جهة، وتشجع الابتكار التكنولوجي من جهة أخرى. فالاستعمال المكثف للتجريم قد يثني الفاعلين الاقتصاديين والمبتكرين عن تطوير أو استخدام أنظمة الذكاء الاصطناعي، خشية التعرض للمساءلة الجنائية في حالة وقوع خطأ غير متوقع أو غير مقصود. ولهذا، يجب على المشرع أن يوازن بين الحاجة إلى الحماية الجنائية للمجتمع وبين ضرورة إرساء مناخ قانوني داعم للابتكار، من خلال سن قواعد واضحة، وتحديد مجالات المسؤولية بدقة، وتشجيع التقنيات التي تدمج آليات التقييم الأخلاقي والشفافية.

ولا يمكن إغفال دور القضاء الدستوري المغربي في مراقبة مدى احترام القوانين الجنائية لمبادئ العدالة الدستورية، خصوصا ما يتعلق بمبدأ الشرعية والتناسب والكرامة الإنسانية. فكل تشريع جنائي يتناول التحيز الخوارزمي لا بد أن يصمد أمام الرقابة الدستورية، ويظهر توازنا بين فعالية الردع واحترام الحريات الأساسية. ولذلك، فإن سن قواعد زجرية جديدة في هذا المجال يتطلب نقاشا عميقا بين المشرع والسلطة القضائية والخبراء التقنيين، لضمان انخراط الدولة في حماية الأفراد من الأذى الخوارزمي دون الإخلال بمبادئ المحاكمة العادلة والحق في الأمن القانوني.

وعليه، فإن بناء مسؤولية جنائية فعالة عن التحيز الخوارزمي يفرض وضع تصور تشريعي عقلاني ومتوازن، يستند إلى المعايير الدستورية الراسخة، ويحدد بدقة متى يصبح التحيز الخوارزمي فعلا مجرما، ومن هو الشخص الطبيعي أو المعنوي المسؤول عنه، وما هي حدود العقوبات الممكنة دون تجاوز مبدأ التناسب أو تهديد الحرية الفردية أو عرقلة التنمية الرقمية في المغرب.

الخاتمة

يشكل التحيز الخوارزمي أحد أبرز التحديات المستجدة التي طرحتها الثورة الرقمية على المنظومة القانونية الكلاسيكية، حيث لم يعد أثر القرارات المنحازة مقتصرا على إرادة بشرية صريحة أو على نوايا إجرامية ظاهرة، بل أصبح ينبع من منظومات ذكية تشتغل وفق معطيات رياضية معقدة تؤدي في بعض الأحيان إلى نتائج تمييزية تمس بالحقوق والحريات الأساسية للأفراد. كما أن الإشكال لا يكمن فقط في الضرر الناتج عن هذه القرارات، بل أيضا في غموض الجهة المسؤولة عنها، وصعوبة تكييفها قانونيا، سواء على مستوى المسؤولية الجنائية أو المدنية.

في المجال الجنائي، بدا واضحا أن مساءلة الأفعال الناتجة عن التحيز الخوارزمي تصطدم بجملة من العوائق القانونية والدستورية، في مقدمتها مبدأ الشرعية، ومبدأ شخصية العقوبة، ومبدأ التناسب. وهي مبادئ تؤطر التدخل الزجري وتضع له حدودا دقيقة، يصعب تجاوزها إلا في حال وجود نصوص واضحة ومعايير منضبطة تميز بين الخطأ التقني والتمييز المتعمد. وقد تبين أن إدماج التحيز الخوارزمي ضمن دائرة التجريم يتطلب قراءة جديدة لمفاهيم الجريمة والخطأ والفاعل، بما يسمح بتأطير هذه الظاهرة الحديثة دون المساس بالمكتسبات الدستورية والحقوقية.

أما على المستوى المدني، فإن المسؤولية عن الأضرار الناتجة عن التحيز الخوارزمي تطرح إشكالات حقيقية في الإثبات وتحديد المسؤولية، خاصة مع تعدد المتدخلين في دورة حياة الخوارزمية، من مصمم ومطور ومشغل ومزود بيانات. كما أن غياب الإطار التشريعي المتخصص في هذا الباب، وتعقيد المعايير التقنية المعتمدة، يشكلان حاجزا أمام المتضررين للحصول على تعويض عادل. وهو ما يؤكد الحاجة إلى إعادة هيكلة النظام القانوني ليكون أكثر قدرة على مواكبة التحولات الرقمية وضمان الانصاف القضائي في بيئة مؤتمتة.

انطلاقا من كل ما سبق، يمكن تقديم التوصيات التالية:

• ضرورة إعداد قانون خاص بالذكاء الاصطناعي يؤطر الجوانب الأخلاقية والقانونية والتقنية المرتبطة باستخدام الأنظمة الذكية، ويضع قواعد واضحة للمساءلة عن الأضرار الناتجة عنها، سواء كانت جنائية أو مدنية.
• مراجعة قواعد المسؤولية المدنية لتتلاءم مع خصوصيات الخوارزميات، من خلال اعتماد معايير جديدة للإثبات، وتحديد نطاق المسؤولية عن الأفعال الناتجة عن الخوارزميات المنحازة، وإدراج شكل من أشكال المسؤولية المفترضة أو الموضوعية في الحالات التي يصعب فيها إثبات القصد أو الخطأ المباشر.
• توسيع نطاق الجرائم المرتبطة بالتمييز ليشمل الأفعال الناتجة عن أنظمة الذكاء الاصطناعي حين تتسبب في تمييز فعلي وممنهج ضد فئات أو أفراد، مع احترام مبدأ الشرعية ومقتضيات المحاكمة العادلة.
• إحداث هيئة وطنية مستقلة للرقابة على الخوارزميات تكون مهمتها تتبع مدى احترام الأنظمة الذكية لمبادئ الشفافية والمساواة وعدم التمييز، ومنح المتضررين آلية للطعن أو المراجعة خارج الإطار القضائي التقليدي.
• تعزيز كفاءة القضاء المغربي في المجال الرقمي من خلال تكوين متخصصين في تقنيات الذكاء الاصطناعي وتحليل البيانات، بهدف تمكين القضاة من فهم الملفات التقنية التي تعرض عليهم، وضمان جودة الأحكام.
• تحيين المناهج القانونية في الجامعات ومراكز التكوين لتشمل مواضيع الذكاء الاصطناعي والتحول الرقمي وتأثيره على مفاهيم المسؤولية، من أجل إعداد جيل جديد من الفقهاء والقانونيين قادر على مواكبة التحولات التكنولوجية والحقوقية المتسارعة.
• تشجيع البحث العلمي الأكاديمي في موضوع العلاقة بين القانون والخوارزميات، وتمويل الدراسات التي ترصد المخاطر الحقوقية والأخلاقية المرتبطة بها في السياق المغربي.

إن العدالة الرقمية لن تتحقق إلا من خلال استباق القانون للتقنية، وبناء منظومة قانونية مرنة وعادلة تأخذ بعين الاعتبار تعقيدات الواقع الرقمي، وتضمن الحماية الفعلية للحقوق والحريات في وجه الخوارزميات التي قد تتخذ قرارات مؤثرة في مصير الأفراد دون شفافية أو رقابة.