المسؤولية الجنائية للذكاء الاصطناعي – الدكتور أسامة ولد النعيمية

المسؤولية الجنائية للذكاء الاصطناعي

Criminal liability of artificial intelligence

الدكتور أسامة ولد النعيمية

دكتور في القانون الخاص

هذا البحث منشور في مجلة القانون والأعمال الدولية الإصدار رقم 59 الخاص بشهر غشت / شتنبر 2025
رابط تسجيل الاصدار في DOI
https://doi.org/10.63585/KWIZ8576
للنشر و الاستعلام
mforki22@gmail.com
الواتساب 00212687407665

 

المسؤولية الجنائية للذكاء الاصطناعي

Criminal liability of artificial intelligence

الدكتور أسامة ولد النعيمية

دكتور في القانون الخاص

ملخص:

تُعدّ المسؤولية الجنائية للذكاء الاصطناعي إحدى أعقد التحديات القانونية المعاصرة، فمع غياب إطار قانوني دولي موحد، يظل السؤال قائمًا حول تحديد الجهة المسؤولة عند وقوع أضرار ناجمة عن أنظمة الذكاء الاصطناعي. تتجه النقاشات القانونية نحو احتمالات تحميل المسؤولية للمطورين، المبرمجين، أو المستخدمين، مع طرح فكرة الشخصية القانونية الإلكترونية المحدودة للذكاء الاصطناعي كحل مستقبلي، مما يستدعي ضرورة تطوير تشريعات تتناسب مع هذا التطور التكنولوجي المتسارع.

ABSTRACT

Criminal liability for artificial intelligence is one of the most complex contemporary legal challenges. As with the absence of a unified international legal framework, the question remains as to who is responsible when harm occurs from artificial intelligence systems.

Legal discussions are moving toward the possibility of holding developers, programmers, or users liable, with the idea of a limited electronic legal personality for artificial intelligence being proposed as a future solution.

This necessitates the development of some legislations that keeps pace with this rapid technological development.

تقديم

بدأ الذكاء الاصطناعي يدخل حيز الواقع العملي بشكل ملموس، فلم يعد مقتصرا على تجارب العلماء أو اقتراحات المفكرين، بل أصبح حاضرا في تفاصيل حياتنا اليومية، وتجلى ذلك عبر الهواتف الذكية التي تتفاعل بالذكاء ذاته الذي نعثر عليه في الحواسيب، والسيارات ذاتية القيادة، والطائرات بدون طيار، إن هذه الأمثلة العملية تؤكد أن الذكاء الاصطناعي لم يعد مجرد فكرة مستقبلية، بل أصبح واقعًا معيشيا، يتفاعل معه الإنسان بشكل مباشر وإيجابي^[1].

كما تظهر تطبيقات الذكاء الاصطناعي في العديد من المجالات، مثل السيارات ذاتية القيادة التي تعتمد على أكواد برمجية متطورة للتحكم في حركة السيارة بدون تدخل بشري، إضافة إلى أنظمة الملاحة الذاتية في السفن والطائرات، وفي العالم الرقمي يتم استخدام الذكاء الاصطناعي في تطوير خوارزميات قادرة على التعرف على الوجوه وتحليل الصور، مما قد يتدخل في خصوصية الأفراد ويستغل اهتماماتهم لأغراض تجارية، مثل الإعلانات المستهدفة، مما يعكس الحاجة الملحة لوضع قوانين تحمي حقوق الأفراد في هذا المجال المتطور^[2].

لكن تقنية الذكاء الاصطناعي سلاح ذو حدين، فهي من جهة تسهم في تحسين حياة الناس وتبسيط العديد من المهام اليومية، ومن جهة أخرى تثير العديد من التحديات القانونية والأخلاقية المتعلقة بالمسؤولية الجنائية.

أولا: الإشكال النواة

تشكل المسؤولية الجنائية الأساس القانوني الذي يبنى عليه توجيه التهمة إلى شخص معين وهي تعتمد على أربعة عناصر متكاملة، وجود نص قانوني يجرم الفعل، وقوع فعل مادي يرتكبه شخص مكلف قانونيا، توافر الركن المعنوي (القصد الجنائي)، والعنصر الذهني الذي يدفع الفاعل إلى ارتكاب الجريمة، إن تطور تقنيات الذكاء الاصطناعي يطرح تحديا منهجيا في تطبيق هذه العناصر التقليدية، خاصة عندما تؤدي هذه التقنيات إلى أفعال جرمية دون تدخل بشري مباشر واضح.

في ظل التطور السريع في تقنيات الذكاء الاصطناعي، يبرز تساؤل قانوني محوري حول مدى قابلية مساءلة الأنظمة الذكية جنائيا عند ارتكابها أفعالا مجرمة، وما إذا كانت المسؤولية الجنائية تقع على عاتق الجهة المطورة أو المستخدم أو المالك، أم أن هناك توجها نحو الاعتراف بالكيان الاصطناعي ذاته كطرف خاضع للمساءلة الجنائية.

وتطرح هذه الإشكالية الرئيسية تحديا بشأن مدى قدرة النظام القانوني التقليدي على استيعاب هذه الفرضيات ومساءلة الذكاء الاصطناعي وفق قواعد المسؤولية الجنائية المعتمدة ؟

تتفرع عن هذه الإشكالية الرئيسية مجموعة من التساؤلات، وهي كما يلي :

– ماذا نقصد بالذكاء الاصطناعي ؟

– ما هي أنواع الذكاء الاصطناعي ؟

– وما أنواع جرائم الذكاء الاصطناعي ؟

– هل يمكن تصنيف الذكاء الاصطناعي كشخص قانوني مستقل يحاسب جنائيا ؟

– في حال استبعاد تحميل الذكاء الاصطناعي مسؤولية جنائية، فمن يكون الجهة المسؤولة قانونيا المصنع، المبرمج، المستخدم أم المالك ؟

– كيف يمكن تعديل النصوص القانونية الحالية لاستيعاب خصوصية المسؤولية في سياق الجرائم المرتكبة بواسطة الذكاء الاصطناعي ؟

– هل تفي التشريعات الجنائية الراهنة بمتطلبات العدالة في مواجهة الجرائم التي تنتج عن تقنيات الذكاء الاصطناعي ؟

ثانيا : أهمية البحث

يحتل موضوع المسؤولية الجنائية للذكاء الاصطناعي مكانة بارزة في قلب النقاشات القانونية المعاصرة، إذ يمثل نقطة التقاء بين التطور التكنولوجي السريع والتشريعات الجنائية التقليدية، إن دراسة المسؤولية الجنائية للذكاء الاصطناعي يقدم إضافة على المستويين العلمي والعملي وهي لا تقتصر على معالجة إشكاليات قانونية مجردة، بل تمتد لتشمل أبعادا عملية تمس سلامة الأفراد والمجتمع، وتؤثر في مسار الابتكار التكنولوجي، وتدعم جهود المشرعين في بناء منظومة قانونية قادرة على مواكبة متطلبات الثورة الصناعية الرابعة.

– الأهمية العلمية :

تتجلى الأهمية العلمية للبحث في مساهمته في تأصيل المفهوم القانوني للذكاء الاصطناعي وبيان أنواعه، وطرح تصور قانوني واضح حول إمكانية منحه صفة الشخصية القانونية المستقلة، كما تكمن هذه الأهمية في تحليل موقع الجهات البشرية ذات الصلة، كالمبرمج والمستخدم والمالك، ضمن منظومة المسؤولية الجنائية، مما يثري المحتوى العلمي القانوني ويعزز النقاش الأكاديمي حول التفاعل بين التكنولوجيا الحديثة والقانون الجنائي.

– الأهمية العملية :

تكمن الأهمية العملية للبحث، في تسليط الضوء على أوجه القصور في المنظومة التشريعية الجنائية القائمة عند التعامل مع الأفعال المجرمة المرتبطة بتقنيات الذكاء الاصطناعي والدعوة إلى إعادة النظر في النصوص القانونية ذات الصلة، بما يضمن تكييفها مع خصائص هذه التقنيات الحديثة، وتسعى هذه الأهمية إلى تقديم حلول قانونية عملية تدعم فعالية المساءلة الجنائية وتحقيق العدالة في ظل التطورات التكنولوجية المتسارعة.

ثالثا: أهداف الدراسة

ينطلق هذا البحث في رحلة استكشافية تهدف إلى تحقيق مجموعة من الأهداف :

– تحديد مفاهيمي دقيق لمصطلح الذكاء الاصطناعي من زاوية قانونية جنائية.

– تبيان أهم الجرائم المرتكبة من طرف كيانات الذكاء الاصطناعي .

– تحليل مدى إمكانية تطبيق قواعد المسؤولية الجنائية على أنظمة الذكاء الاصطناعي وفقًا لأركان الجريمة.

– بيان المسؤولية الجنائية للأطراف المرتبطة بتصميم وتطوير وتشغيل الذكاء الاصطناعي، عند استبعاد مساءلته الذاتية.

– اقتراح معالجات تشريعية قانونية تستوعب خصائص الذكاء الاصطناعي وتسد الفراغ القانوني القائم في التشريع الجنائي الحالي.

رابعا : الإطار المفاهيمي

تتطلب معالجة الموضوع تحديدا دقيقا للمفاهيم الأساسية التي يقوم عليها البحث

تعريف المسؤولية الجنائية :

يعد مصطلح “المسؤولية الجنائية” مركبا يتكون من كلمتين هما “المسؤولية” و “الجنائية”، وذلك يستلزم إفراد كل كلمة بالبيان من الناحيتين اللغوية والاصطلاحية على النحو الآتي :

أ) التعريف لغة :

للمسؤولية في اللغة عدة تعريفات فسأل يسأل سؤالا وسأله ومسألة وتسالا، وسألت وأسال وسلت أسل والرجلان يتساءلان وجمع المسألة مسائل وتسألوا سأل بعضهم بعضا^[3].

للجناية في اللغة عدة تعريفات كذلك، فهي تعني الذنب والجرم وما يفعله الإنسان مما يوجب عليه العقاب أو القصاص في الدنيا والآخرة^[4].

ب) التعريف الاصطلاحي :

المسؤولية الجنائية هي مسؤولية تترتب عن ارتكاب جريمة من الجرائم، وتؤدي إلى عقاب مرتكب هذه الجريمة، فهي لا تترتب إلا على أفعال محددة هي الجرائم، وفقا لمبدأ لا جريمة ولا عقوبة إلا بنص المنصوص عليه في الفصل 23 من الدستور وكذلك الفصل الثالث من القانون الجنائي.

إذن المسؤولية الجنائية مرتبطة بالعقوبة أو الجزاء عموما، على اعتبار أن هذا الأخير الجزاء المحقق منها، إذ بدونه تفقد معناها، وبالتالي فإن المسؤولية الجنائية هي صلاحية الشخص لتحمل الجزاء الجنائي عما يرتكبه من جرائم^[5].

سادسا: المناهج المعتمدة

نظرا لطبيعة موضوع الدراسة وما يثيره من إشكالات قانونية واجتماعية، وبهدف تقديم رؤية شاملة للمسؤولية الجنائية لجرائم الذكاء الاصطناعي في التشريع المغربي والمقارن، ارتأينا مقاربة هذا الموضوع من خلال المنهج الوصفي وذلك بعرض صورة عامة للمسؤولية الجنائية لجرائم الذكاء الاصطناعي ، من حيث تعريفها، و أنواع جرائم الذكاء الاصطناعي بالإضافة إلى كيفية تصنيفها كشخص قانوني يحاسب جنائيا ، والمنهج التحليلي لوصف وتشخيص وتحليل ظاهرة جرائم الذكاء الاصطناعي، وذلك من خلال تفكيك النصوص القانونية وتحليل الإشكاليات الجديدة التي تطرحها هذه الجرائم، بالإضافة إلى دراسة التطورات القانونية المتعلقة بالمسؤولية الجنائية في ظل تقنيات الذكاء الاصطناعي. يهدف هذا المنهج إلى فهم الآثار الإجرامية لهذه الظاهرة وتحديد المسؤول الحقيقي عنها، مع اقتراح تعديلات تشريعية تنظم إنتاج وتطوير تقنيات الذكاء الاصطناعي لتحقيق المحاسبة الجنائية

المناسبة والمنهج النقدي لتسليط الضوء على مدى مسؤولية الذكاء الاصطناعي في الجرائم المرتكبة، مع تحليل جوانب القصور والنجاح التي قد تواجه تطبيق المسؤولية الجنائية عليه، بهدف تقييم فعالية الأطر القانونية الحالية واقتراح تحسينات تضمن محاسبة عادلة وواقعية.

سابعا: خطة البحث

المطلب الأول: مفهوم الذكاء الاصطناعي وأنماط الجرائم الناشئة عنه

المطلب الثاني: المسؤولية الجنائية لجرائم الذكاء الاصطناعي

المطلب الأول : مفهوم الذكاء الاصطناعي وأنماط الجرائم الناشئة عنه

يمثل الذكاء الاصطناعي أحد أبرز التطورات التكنولوجية التي أثرت بشكل عميق على مختلف جوانب الحياة الحديثة، حيث يمتاز بقدرته على محاكاة الذكاء البشري وأداء مهام معقدة بطرق مستقلة،وللفهم العلمي الدقيق لهذا المفهوم، يتطلب الأمر أولا استعراض تعريف الذكاء الاصطناعي وأنواعه المختلفة، وهو ما سيتم تناوله في (الفقرة الأولى) من هذا المطلب، (أما في الفقرة الثانية)، فسيتم التركيز على الجرائم التي قد تنشأ نتيجة استخدام تقنيات الذكاء الاصطناعي، مع تحليل طبيعة هذه الجرائم وأشكالها المتنوعة، مما يشكل قاعدة ضرورية لفهم الإشكاليات القانونية المرتبطة بها.

الفقرة الأولى : مفهوم الذكاء الاصطناعي

لفهم طبيعة الذكاء الاصطناعي وتأثيره المتزايد في مختلف المجالات، لا بد من البدء بتحديد مفهومه بدقة، إذ يشكل التعريف الأساس الذي يبنى عليه تحليل أبعاده التقنية والقانونية بعد ذلك، تأتي أهمية استعراض الخصائص الجوهرية التي تميز الذكاء الاصطناعي، والتي تفسر قدرته على أداء مهام معقدة بشكل مستقل،هذا التناول المنهجي يمكن من إدراك التحديات التي يطرحها الذكاء الاصطناعي، لا سيما في سياق المسؤولية الجنائية التي تشكل محور هذا البحث.

أولا : تعريف الذكاء الاصطناعي

ظهر مفهوم الذكاء الاصطناعي، ) (Artificial Intelligence – AIأو ما يعرف اختصارا بالـ (AI) وتطور على مر السنين ليصبح واحدة من أبرز التقنيات في القرن الحادي والعشرين، إذ يتمثل الهدف الرئيسي منه في محاكاة القدرات الذهنية البشرية مثل التفكير، التحليل، والتعلم من خلال الأنظمة الحاسوبية^[6]، يتمتع الذكاء الاصطناعي بمجموعة من التعاريف اللغوية والاصطلاحية.

فمن الناحية اللغوية، يعرف بأن الذكاء مصدر ذكا؛ ذكاء الإنسان هو قدرته على الفهم والاستنتاج والتحليل والتمييز بقوة فطرته وذكاء خاطره، أما كلمة “اصطناعي” في معجم المعاني الجامع، فهي اسم منسوب إلى “اصطناع”، أي ما كان مصنوعا غير طبيعي، وعليه فالذكاء الاصطناعي هو قدرة آلة أو جهاز ما على أداء بعض الأنشطة التي تحتاج إلى ذكاء، مثل الاستدلال الفعلي والإصلاح الذاتي^[7].

أما التعريف الاصطلاحي، فيتكون الذكاء الاصطناعي من كلمتين: الأولى “ذكاء” والثانية “اصطناعي” حيث أن الذكاء الاصطناعي، وحسب قاموس Websterقدرة أنظمة الكمبيوتر أو الخوارزميات على تقليد السلوك البشري الذكي”، وبالتالي مفاتيح الذكاء متمثلة في الإدراك، الفهم،

والتعلم. أما بالنسبة لكلمة “اصطناعي”، فهي ناتج الأشياء التي تنشأ من خلال النشاط أو الفعل الذي يتم من خلال اصطناع وتشكيل الأشياء^[8].

ويعرف أيضا ” بأنه فرع من علوم الحاسوب يمكن بواسطته خلق وتصميم برامج الحاسوب التي تقلد الذكاء البشري لكي يتمكن الحاسوب من القيام ببعض الأداءات بدلا من الإنسان، والتي تتطلب الفهم التفكير، السمع، والحركة بأسلوب منطقي.” وفي تعريف آخر، “هو مجموعة من السلوكيات التي تتسم بها البرامج الحاسوبية، والتي تهدف من ناحية إلى تحسين القدرة الإنتاجية، ومن ناحية أخرى إلى العمل على محاكاة القدرة الذهنية البشرية “^[9].

عرفه جون مكارثي^[10] بأنه “علم وهندسة صنع آلات ذكية”، بينما عرفته شركة IBMبأنه “التكنولوجيا التي تمكن أجهزة الكمبيوتر والآلات من محاكاة الذكاء البشري وقدراته على حل المشكلات، والتعلم، والفهم، واتخاذ القرارات، والإبداع، والاستقلالية”، وقد استخدم مصطلح الذكاء الاصطناعي للمرة الأولى خلال مؤتمر جامعة دارتموث بشأن الذكاء الاصطناعي في صيف عام 1956من قبل عالم الحاسوب جون مكارثي، الذي جمع علماء رياضيات وعلماء الحاسوب للبحث عن إمكانية تطوير آلة مفكرة^[11].

تندرج تحت الذكاء الاصطناعي عدة مجالات فرعية، أبرزها تعلم الآلة (Machine ) ،Learning – MLالذي يمكن الأنظمة من التعلم والتحسين الذاتي من خلال معالجة البيانات دون برمجة صريحة، والتعلم العميق Deep Learning – DLالذي يعتمد على الشبكات العصبية لمحاكاة بنية الدماغ البشري ومعالجة البيانات المعقدة عبر طبقات متعددة. كما يشمل الذكاء الاصطناعي التوليدي

Generative AI – GAIالذي يتيح للأنظمة توليد نصوص وصور ومخرجات جديدة بناءا على بيانات التدريب^[12].

من التطبيقات العملية للذكاء الاصطناعي: روبوتات المحادثة مثل ، ChatGPTأنظمة الترجمة الآلية، السيارات ذاتية القيادة، وأنظمة التوصية في المنصات الرقمية. ويعتمد نجاح هذه التطبيقات على جودة البيانات المستخدمة في تدريب النماذج، حيث أن البيانات المنحازة أو غير الكافية قد تؤدي إلى نتائج غير دقيقة أو متحيزة، ما يبرز أهمية مفاهيم مثل التحيز Biasوالهلوسة Hallucinationsفي تقييم أداء النماذج الذكية.

يعد الذكاء الاصطناعي اليوم محورا للابتكار في مجالات متعددة، ويثير في الوقت ذاته تحديات أخلاقية وتقنية تتعلق بالخصوصية، الشفافية، والمسؤولية الجنائية، ومن المصطلحات الحديثة المرتبطة بهذا المجال: الذكاء الاصطناعي العام ، AGIالنماذج اللغوية الضخمة ،Large Language

Models – LLMs)، وهندسة الموجهات Prompt Engineerimg

ثانيا: الخصائص والأنواع الرئيسية للذكاء الاصطناعي

تعد من خصائص الذكاء الاصطناعي ما يلي :

– إمكانية تمثيل المعرفة :حيث تحتوي على أسلوب تمثيل المعلومات باستخدام هيكلة خاصة لوصف المعرفة. وهذه الهيكلة تجمع بين الحقائق والقواعد المعرفية، مما يتيح للنظام فهم المعلومات بشكل منظم ومنطقي.

– التعامل مع البيانات غير الكاملة : يمتلك الذكاء الاصطناعي القدرة على التوصل إلى حلول لمشاكل حتى في حالة عدم توفر جميع البيانات اللازمة وقت الحاجة، مما يعزز من مرونته وكفاءته في التعامل مع المواقف الواقعية التي قد تفتقر إلى معلومات كاملة.

– التعامل مع البيانات المتضاربة :نجد أن له القدرة على التعامل مع بيانات تشبه الخطأ وتتعارض مع بعضها البعض، حيث يستطيع التمييز بين المعلومات المتضاربة واختيار الأنسب منها أو التوصل إلى استنتاجات منطقية رغم وجود تناقضات.

– القابلية على التعلم :وذلك باستطاعته التعلم من الخبرات الثابتة، وذلك بقابلية ليتحسن نحو تحسين الأداء وتوظيفها في مواقف جديدة، مما يعني أن النظام الذكي قادر على اكتساب مهارات جديدة وتطوير نفسه باستمرار بناءا على التجارب السابقة.

– الاستدلال : وهو طريقة لمحاولة اكتشاف شيء ما أو فكرة من خلال مستندات ومعطيات إرشادية، حيث يستخدم الذكاء الاصطناعي تقنيات الاستنتاج المنطقي للوصول إلى نتائج أو حلول بناءا على المعلومات المتاحة^[13].

أما بالنسبة لأنواع الذكاء الاصطناعي، يمكن تقسيمها إلى ثلاث أنواع رئيسية، وذلك على النحو التالي:

– الذكاء الاصطناعي الضعيف (الضيق : (IA faibleوهو النوع الذي يتولى أداء مهام محددة داخل بيئة معينة، ويمكن اعتباره مجرد رد فعل على موقف معين، ولا يمكن له العمل خارج ظروف البيئة المحددة له،يستخدم الذكاء الاصطناعي الضيق لمهام فردية مثل التعرف على الوجوه، أو التعرف على الصوت ومن أمثلة الذكاء الاصطناعي الضيق المساعدة الافتراضية مثل “سيري” على أجهزة آيفون.

– الذكاء الاصطناعي القوي ( : (IA forteيتميز هذا النوع بقدرته على جمع المعلومات وتحليلها ويستفيد من التجارب السابقة ليتخذ قرارات مستقلة وذاتية، يتمتع بقدرة على التفكير والفهم والتعرف بطريقة لا يمكن تمييزها عن البشر، ومن أمثلته السيارات ذاتية القيادة، وروبوتات الدردشة الفورية، وبرامج المساعدة الذاتية.

– الذكاء الاصطناعي الخارق ) : (IA super-intelligenteيهدف هذا النوع من الذكاء إلى محاكاة القدرات البشرية، وحتى قد يتفوق عليها في بعض الجوانب، ولكنه لا يزال قيد التجربة، ومن المتوقع أن تشكل هذه النماذج جيلاً جديداً من الذكاء الفائق في المستقبل، قادرة على التعلم الذاتي المستقل واكتشاف حلول جديدة، وتحليل كميات هائلة من البيانات بسرعة تفوق البشر بشكل كبير، وحتى الآن، لا توجد آلات أو أنظمة ذكاء اصطناعي خارقة موجودة على أرض الواقع، بمعنى أن الذكاء الاصطناعي الذي يتجاوز قدرات البشر لم يتحقق بعد^[14].

في ظل هذا التنوع والتطور السريع، أثبتت هذه التكنولوجيا تأثيراً عميقاً وشاملاً على مختلف جوانب الحياة البشرية، وأتاحت إمكانيات غير مسبوقة في تحسين الأداء، تسريع العمليات، والابتكار، وابتكار حلول ذكية لمشكلات معقدة. غير أن هذه القدرات المتقدمة لم تخلو من مخاطر جديدة، حيث بدأت تظهر أشكال متعددة من الجرائم التي تستغل تقنيات الذكاء الاصطناعي لأغراض إجرامية، مما يتطلب فهماً دقيقاً لطبيعة هذه الجرائم وأشكالها المختلفة، وهو ما سنناقشه في الفقرة الثانية من هذا المطلب.

الفقرة الثانية: نماذج من جرائم كيانات الذكاء الاصطناعي

تأتي جرائم الذكاء الاصطناعي على قمة جرائم المستقبل القريب، إن لم يكن بدأ بعضها الآن، فقد أدى التطور التكنولوجي خلال السنوات الماضية، والذي تزايدت وثيرته في الفترة الحالية، إلى ظهور العديد من تلك الجرائم، حيث أعطت البرمجة المتطورة لبعض الآلات التي تعمل بالذكاء الاصطناعي قدرات تصل خطورتها إلى بناء خبرة ذاتية تمكنها من اتخاذ قرارات منفردة في أي مواقف تواجهها، مثل الإنسان البشري.

نظرا لأن سيارات القيادة الذاتية والطائرات بدون طيار، بالإضافة إلى الروبوتات الآلية المزودة بتقنيات الذكاء الاصطناعي، تعد من أكثر التطبيقات قربا من الحياة اليومية للناس سنعرض لكل منها من خلال الفقرات التالية :

أولا: جرائم سيارات القيادة الذاتية

تعمل هذه السيارات من خلال برنامج ذكاء اصطناعي يصدر أوامر التشغيل للسيارة بعد تلقيه بيانات ناتجة عن أجهزة الرادار، والليزر، وأجهزة وخلايا الاستشعار الموجودة في السيارة، والتي تجمع البيانات عن الأجسام المحيطة بها مثل المشاة، السيارات المجاورة والكائنات الأخرى، بالإضافة إلى استشعار وقياس حالة الطرق. يتم ضبط برنامج الذكاء الاصطناعي الذي يتحكم في السيارة على إصدار أوامر بعد تحليل تلك المعطيات، ويعمل بنظام تشغيل مشابه لأنظمة تشغيل موجودة في أجهزة أندرويد أو ويندوز.

من أشهر الجرائم الجنائية التي ارتكبت بمعرفة سيارة ذاتية القيادة ما وقع في 18مارس ،2018عندما دهست سيارة ذاتية القيادة تابعة لشركة أوبر Uberسيدة تُدعى إلين هيرزبرغ Elaine Herzbergفي ولاية أريزونا الأمريكية، كانت السيارة في وضع القيادة الذاتية تحت إشراف سائق بشري، وكانت إلين تقود دراجتها لكن لم تتعرف السيارة على حركة جسم السيدة بشكل صحيح، مما أدى إلى إصابتها بجروح خطيرة نُقلت على إثرها إلى المستشفى، حيث توفيت متأثرة بتلك الإصابات، يعد هذا الحادث أول وفاة موثقة لمشاة تسببت بها سيارة ذاتية القيادة، وقد أدى إلى توقف أوبر فورا عن اختبار المركبات ذاتية القيادة في ولاية أريزونا وفتح تحقيقات موسعة حول الحادث.

كما وقعت حادثة أخرى في ولاية فلوريدا، حيث اصطدمت سيارة تحمل علامات تيسلا Teslaبشاحنة بيضاء اللون تحت تأثير أشعة الشمس الساطعة^[15]،مما أثار تساؤلات حول قدرة أنظمة الذكاء الاصطناعي على التعامل مع ظروف الإضاءة المتغيرة وتأثيرها على سلامة القيادة.

تجدر الإشارة إلى أن هذه الحوادث تفتح باب النقاش حول المسؤولية القانونية والأخلاقية المتعلقة باستخدام الذكاء الاصطناعي في أنظمة التحكم الذاتي، خاصةً في ظل غياب إطار قانوني واضح ينظم هذه التقنيات ويحدد المسؤوليات في حالات وقوع الحوادث أو الجرائم.

ثانيا: جرائم الطيارة بدون طيار

انتشرت الطائرات بدون طيار Dronesبشكل واسع، حيث توجد أنواع تدار عبر محطات تحكم أرضية بشرية، وأنواع أخرى تتمتع بقدرات ذاتية تمكنها من اتخاذ القرارات بشكل مستقل، مثل الطائرات ذاتية القيادة المستخدمة في توصيل الطرود والمواد الغذائية أو تلك المخصصة للتصوير الشخصي، مثل كاميرات الحركة المحمولة التي تثبت على اليد، تستخدم هذه الطائرات في العديد من التطبيقات المدنية والعسكرية، لكنها قد تستغل أيضا في ارتكاب جرائم، حيث يمكن أن تكون أداة فعالة في تنفيذ أنشطة إجرامية.

برزت الطائرات بدون طيار كسلاح متعدد المهام، تتنافس على امتلاكه الدول والجماعات المسلحة، تحولت هذه الطائرات إلى أدوات حربية فعالة في النزاعات الحديثة، إذ لم تعد تقتصر مهامها على الاستطلاع والمراقبة، بل أصبحت تستخدم في الهجوم المباشر على الأهداف العسكرية، غالبا ما تكون مجهزة بأنظمة متفجرة وذخائر دقيقة التوجيه، كما تستخدم لتعطيل الاتصالات العسكرية عبر التشويش على الترددات اللاسلكية، مما يجعلها أداة استراتيجية في الحروب المعاصرة^[16].

ثالثا: جرائم الإنسان الآلي –الروبوت-

الروبوتات تأتي بأشكال مختلفة ومتنوعة، وتعد من أكثر تطبيقات الذكاء الاصطناعي تقدما، يتم بناء هيكل مادي للروبوت يعمل وفق نمط تفكير بشري، ويتم برمجته وتزويده بالبيانات اللازمة ليؤدي مهمة محددة، مع منحه قدرا من الحرية في التصرف والتكيف مع كل موقف يواجهه على حدة.

وقد أثار الواقع العملي العديد من الإشكاليات المتعلقة بأفعال الروبوتات التي أدت إلى وقوع حوادث خطيرة، ومن أبرز هذه القضايا :

– حادثة روبرت وليام عام :1979تسجل هذه الحادثة على أنها أول حادث قتل شخص على يد روبوت، إذ وقعت في مصنع “فورد” لصناعة السيارات في ولاية “ميشغان” في الولايات المتحدة، وتتلخص الواقعة في أن عاملا يُدعى “روبرت وليام” قام بتسلق أحد الرفوف من أجل وضع منتجات معينة عليه، فما كان من الروبوت إلا أن وجه ذراعه له وضربه بضربة أدت إلى قتله، واتضح لاحقا أن هذا الروبوت مبرمج بأن يوضع على الرفوف عدداً معيناً من المواد، وانه قد اعتبر ما أقام به الضحية أمرا غير مألوف فأدى به إلى ضربه، لاسيما وان الضحية لم يكن يعلم بذلك^[17].

– حادثة الموظف الياباني عام : 1981 وتتلخص في أن موظفا يعمل في هذا المصنع قد قُتل على يد روبوت يعمل بالقرب منه، إذ أخطأ الروبوت في فهم تصرفات هذا الموظف معتقداً انه يقوم بتهديد مهمته وأنه يحاول أن يمنعه من تنفيذها، فوجد الروبوت أن الطريقة الأسلم لمواجهة ذلك أن يقوم بدفع الموظف إلى آلـة تشغيل مجاورة من خلال استخدام ذراعا هيدروليكيا قويا، وهو ما أدى إلى سحق العامل بشك ٍل مفاجئ^[18].

في خضم هذه الجرائم المرتبطة بتقنيات الذكاء الاصطناعي، تبرز إشكالية قانونية معقدة تتعلق بتحديد المسؤولية الجنائية عن الأفعال التي تصدر عن هذه الأنظمة. فغياب الشخصية القانونية للذكاء الاصطناعي وتعقيد آليات عمله يثيران تساؤلات جوهرية حول الجهات التي يجب تحميلها المسؤولية، سواء كانت الأفراد أو المؤسسات المطورة والمشغلة لهذه التقنيات، ومن هذا المنطلق، تتطلب هذه الإشكالية دراسة معمقة، وهو ما سيتم تناوله في المطلب الثاني من هذه الدراسة.

المطلب الثاني: المسؤولية الجنائية لجرائم الذكاء الاصطناعي

أصبح الذكاء الاصطناعي ضرورة حتمية لمتطلبات التقدم التكنولوجي الذي تسارعت وثيرته الفترة الحالية، مما أدى إلى ظهور العديد من الجرائم الحديثة، حيث أعطت البرمجة المتطورة لبعض آلات الذكاء الاصطناعي قدرات تصل خطورتها إلى بناء خبرة ذاتية تمكنها من ارتكاب أفعال صارت على قمة الجرائم المستحدثة، متجاوزة أحيانا رغبة الشخص المسؤول عنها أو المصنع أو المبرمج.

باعتبار المسؤولية الجنائية أثر قانوني مترتب عن الجريمة وبالتالي تحمل الفاعل للجزاء الذي تفرضه القواعد القانونية الجزائية، كان ضروريا بحث المسؤولية الجنائية عن جرائم الذكاء الاصطناعي ،سواء من حيث قيامها( الفقرة الأولى) أو من حيث الأطراف المسؤولون جنائيا عنها (الفقرة الثانية).

الفقرة الأولى: قيام المسؤولية الجنائية لجرائم الذكاء الاصطناعي

تعتبر المسؤولية الجنائية من أهم موضوعات القانون الجنائي التي طرحت نقاشا كبيرا في صفوف الفقه القانوني، ويقصد بها ” تلك المسؤولية التي تترتب عن العمل أو في الامتناع الذي جرمه المشرع الجنائي و عاقب عليه في نص من النصوص^[19]“، وبمعنى آخر فإن المسؤولية الجنائية هي تحمل الفاعل لتبعات أعماله الإجرامية، ومما لاشك فيه أن المسؤولية الجنائية ظلت لفترة طويلة من الزمن تثبت للشخص الطبيعي وحده باعتبار أن القانون يتوجه بخطابه إلى من يفهمه و يدركه حتى يتأتى له الانصياع لأوامره وتجنب نواهيه، إلا أن تطور المجتمعات الإنسانية أسفر عن ظهور نظرية جديدة تسمى بنظرية الشخص المعنوي أو الاعتباري^[20]، و من ثم أصبحت الشخصية القانونية تفترض وجود أشخاص معنوية إلى جانب الأشخاص الطبيعيين.

إذ يكفي لقيام المسؤولية الجنائية، أن يتم التعبير عن الفعل الإجرامي على نحو أساسي من خلال الأفعال أو التجاوزات، وأحيانا تكون هناك حاجة إلى عناصر خارجية أخرى بالإضافة إلى السلوك، مثل النتائج الخاصة بذلك السلوك والظروف الخاصة الكامنة وراء السلوك، ويحتوي مطلب النية الجرمية على مستويات مختلفة من العناصر الفعلية، ولا توجد معايير أخرى مطلوبة لقيام المسؤولية الجنائية، لا من البشر ولا من أي كيان آخر، بما في ذلك الشركات وكيانات الذكاء الاصطناعي رغم امتلاكه قدرات إضافية^[21]، إذ من أجل فرض المسؤولية الجنائية، يكفي وجود الفعل الإجرامي والنية الإجرامية في الجريمة المحددة، غير أن المسؤولية الجنائية تقوم بتحقق النتيجة الجرمية التي تترتب على السلوك الإجرامي المرتكب، ولا يكفي مجرد تحقق النتيجة الجرمية، فلابد من وجود علاقة سببية بين هذا السلوك الإجرامي المرتكب والنتيجة الجرمية.

وما دمنا قد اعترفنا للذكاء الاصطناعي بصفة الأشياء لا الإنسان، فإنه لا يعد في نظر القانون الجنائي سوى أداة لارتكاب الجريمة، وليس فاعلها الحقيقي^[22]،فالتشريعات الجنائية لم تحدد لكل جريمة أداة لارتكابها، و ما اشترطوه أن يكون هناك علاقة سببية بين الفعل والنتيجة، أي أن النتيجة الإجرامية سببا لفعل أو امتناع، أيا كانت الوسيلة أو الأداة المتخذة لتحقيقها وعليه، فإن أي اعتراف بوقوع الجريمة من الإنسآلة وإمكانية مساءلته جنائيا، هو خرق لمبدأ شرعية الجرائم والعقوبات، إذ لا توجد في الوقت الحاضر لوائح إقليمية أو دولية بشأن الذكاء الاصطناعي والمسؤولية الجنائية^[23]،إذ بالرجوع إلى نصوص قانون المسطرة الجنائية المغربي، نجد أن صياغة النصوص تخاطب الأشخاص؛ لذلك نجد معظم النصوص ذكرت كلمة “شخص” ،كما هو منطوق المادة الثامنة جاء بصياغة “يمكن أن تقام الدعوى المدنية ضد الفاعلين الأصليين أو المساهمين أو المشاركين في ارتكاب الجريمة، وضد ورثتهم أو الأشخاص المسؤولين مدنيا عنهم” ^[24]،والمادة الرابعة “تسقط الدعوى العمومية بموت الشخص المتابع”^[25]

وغيرها.

أما مجموعة القانون الجنائي، نصت في الفصل 132على أنه، ” كل شخص سليم العقل قادر على التمييز يكون مسؤولا شخصيا ” وبالرجوع إلى نصوص القانون الجنائي نجد أن المرجع الوحيد للمسؤولية الجنائية للشخص الاعتباري هو الفصل ، ^[26]127غير أنه لابد من الإشارة إلى أن مقتضياته جاءت على سبيل الاستثناء فقط، فالقاعدة العامة تستنتج أساسا من مقتضيات الفصل 132 التي تنص على أن المسؤولية الجنائية لا تقع إلا على الشخص المتمتع بالعقل والإرادة والتمييز، أي الشخص الذاتي فقط، ومن ثم فتوسعة النص القانوني ليشمل ما دون الأشخاص الطبيعيين هو خروج على المبدأ، لذا فالمشرع الجنائي لم يوجه تلك النصوص للإنسآلة على الإطلاق.

الفقرة الثانية : أطراف المسؤولية الجنائية لجرائم الذكاء الاصطناعي

يقوم القانون على مبادئ عدة أهمها مبدأ المسؤولية الجنائية، إذ لا يوجه الاتهام إلا على الشخص الذي ارتكب الفعل الجرمي المخالف للقانون والماس بالنظام العام للدولة، فالمسؤولية الجنائية تقتضي مساءلة الفاعلين الأصليين والمساهمين والمشاركين في الجريمة فلا يمكن مساءلة أطراف ليس لهم علاقة بهذا الفعل. وتعتبر المسؤولية الجنائية لجرائم الذكاء الاصطناعي معقدة بعض الشيء نظرا لوجود أطراف متعددة مرتبطة بالذكاء الاصطناعي وهي المصنع (المبرمج) والمستخدم (قد يكون المستخدم هو المالك أو دولة.).. والذكاء الاصطناعي نفسه في حالة ما إذا طور من نفسه بشكل ذاتي وأصبح يتخذ قرارات بنفسه بمعزل عن المبرمج بالإضافة إلى طرف خارجي. وهذا ما سنحاول معالجته من خلال دراسة أطراف المسؤولية الجنائية للذكاء الاصطناعي، المصنع أو المبرمج (أولا )، المالك أو المستخدم (ثانيا) الذكاء الاصطناعي نفسه (ثالثا) و الطرف الخارجي(رابعا).

أولا : مسؤولية المصنع ( المنتج او المبرمج)

تعد المسؤولية لمصنع الذكاء الاصطناعي من أهم ما يثار في حالة ارتكاب هذا الأخير لأي سلوك يعد جريمة طبقا للقانون، فيعتبر المنتج أو المصنع مسؤولا جنائيا عن كل ما ينجم عنهما من أفعال نتيجة عيوب في الصناعة^[27].

نص المشرع المصري في المادة 67/1من قانون التجارة رقم 17سنة 1999على أنه” يسأل منتج السلعة وموزعها قبل كل من يلحقه ضرر بدني أو مادي يحدثه المنتج إذا أثبت هذا الشخص أن الضرر نشأ بسبب عيب في المنتج” ونص المشرع الفرنسي في المادة 1368/1من القانون المدني على أنه يسأل المنتج عن الأضرار الناتجة عن منتجاته المعيبة سواء ارتبط مع المضرور بعقد أم لا^[28].

هذا من جهة، لكن ماذا لو كان هناك خطأ في برمجيات روبوتات الذكاء الاصطناعي أو تكوينه والذي أدى إلى وقوع جريمة ، هنا يتحمل المسؤولية الجنائية المبرمج مع ضرورة معرفة ماذا كان الخطأ متعمدا أولا، كأن يقوم فعلا ببرمجة الذكاء الاصطناعي وفق برمجيات خاطئة أو غير مفهومة كأن يخلط المبرمج بين إشارات ضوئية للمرور فيجعل برنامج الذكاء الاصطناعي و المتمثل هنا في سيارة ذاتية القيادة لا يتوقف أثناء إشارة اللون الأحمر مما قد يتسبب في حادث سير مميت، فنتيجة لخطأ في البرمجة أدى بالذكاء الاصطناعي لارتكاب الجريمة و بالتالي فإذا تم إثبات هذا الخطأ البرمجي فإن المبرمج يصبح مسؤولا جنائيا في هذه الحالة^[29]، لكن عبء الإثبات يبقى أمرا صعبا في معرفة أساس السلوك الإجرامي الذي تم اقترافه من طرف الذكاء الاصطناعي، هل هو خطأ في البرمجة أو الصنع^[30].

لكن المصنع قد يحمي نفسه من خلال بنود العقد المبرم مع المالك والذي يوافق عليها وبالتالي يبقى المالك هنا وحده الذي يتحمل مسؤولية الجرائم التي قد ترتكبها الروبوتات مثلا والتي لم تعد جماد بل تقوم بسلوكات ترقى إلى أن تكون سلوكات بشرية، وفي المقابل لا يمكن أن نعتبرها إنسان حتى نسائلها قانونيا وتحميلها المسؤولية والتي تتطلب الأهلية وهذه الأخيرة تستلزم الإرادة والإدراك.

ثانيا: المسؤولية الجنائية للمالك

يتمتع المالك أو المستخدم بتقنيات الذكاء الاصطناعي وقد يسيء استخدام ذلك البرنامج، غير أن هذه البرامج الذكية لا تخلو من الأخطاء مما تتسبب في ارتكاب جرائم ضد البشر، فالمستخدم بالرغم من أنه لا يبرمج الذكاء الاصطناعي إلا أنه استخدمه في الاعتداء على الغير، وهذا الأمر لا يختلف عن قيام شخص بتسخير حيوان للاعتداء على الآخرين، بالتالي يعتبر الجاني الحقيقي هو المستخدم أو المالك، على اعتبار أن الجريمة وقعت نتيجة سلوكه ولو لا هذا السلوك لما وقعت الجريمة^[31].

من هذا المنطلق ينتج على حدوث جريمة ما يعاقب عليها القانون الاحتمالات التالية :

– حدوث جريمة نتيجة سلوك المالك أو المستخدم وحده فتقع المسؤولية كاملة عليه، أو قد يتم استخدام تقنيات الذكاء الاصطناعي بشكل عكسي في الاعتداء على الآخرين باستغلاله كأداة مسخرة في يده لارتكاب جريمة معينة و هنا نكون أمام تطبيق نظرية الفاعل المعنوي، مثال ذلك تعطيل المالك أو المستخدم التحكم الآلي في السيارات ذاتية القيادة و الإبقاء على التوجيهات الصوتية التي تصدر من برنامج الذكاء الاصطناعي، و بالتالي يكون وحده المتحكم في السيارة فإذا صدر له تنبيه من البرنامج بأمر معين لتجنب حادثة و لم ينفذ هذا الأمر فتقع المسؤولية الجنائية عليه وحده.

– اشتراك المالك مع أحد الأطراف للقيام بالجريمة كاستعانة مالك الروبوت بشخص متخصص لتغيير أوامر التشغيل لاستخدامه في ارتكاب جريمة، ونفي المسؤولية الجنائية عن نفسه وإلحاقها بالروبوت ومصنعه، ففي هذه الحالة تكون المسؤولية مشتركة بين مالك الروبوت والشخص الذي ساعده في تغيير أوامر التشغيل^[32].

ثالثا: المسؤولية الجنائية للذكاء الاصطناعي نفسه

شهدت تقنيات الذكاء الاصطناعي تطورات مذهلة أدت إلى وصول الذكاء الاصطناعي إلى مرحلة الإدراك الاصطناعي ، فأصبح لديها القدرة على التعلم الذاتي والتحليل والتمييز واتخاذ القرارات باستقلالية عن البشر، فهي مشبعة بخوارزميات ذكية تتعلم من المجتمع المحيط بها، و أصبح أيضا لها القدرة على التعبير من خلال الوجه بشكل ذاتي و يمكنها التحاور و فهم لغتهم و تركيب إجابات منطقية تحاكي إجابات البشر، فأصبح الآن هناك إمكانية لارتكاب الجرائم من قبل الروبوتات الذكية ، و هناك فرضيات في حالة ارتكاب الروبوت الذكي بنفسه و التي تتمثل في :

الفرضية الأولى : وهي حالة مشاركة طرف آخر للروبوتات الذكية في ارتكاب الجريمة، وهنا يكون شريكا في الجريمة مع الروبوت الذكي رغم أنه يتحمل المسؤولية الجنائية كاملة وحده حاليا عن ارتكاب الجريمة ومستقبلا عند إقرار المسؤولية للذكاء الاصطناعي ستكون المسؤولية مشتركة، فمثلا قيام الشخص بإلغاء الحدود التي وضعها المصنع للذكاء الاصطناعي مما يجعله غير متصل بالمصنع ويصبح له الحرية الكاملة في تصرفاته بدون قيود التي كانت تمنعه من ارتكاب جرائم.

الفرضية الثانية : وهنا تكون برامج الذكاء الاصطناعي تتمتع باستقلالية كاملة نتيجة لتطوير نفسها عن طريق التعلم الذاتي وأصبح يتخذ قرارات خارج عن النظام البرمجي المعد من طرف المصنع أو المبرمج، ويكون هنا السلوك المجرم المرتكب من طرف الذكاء الاصطناعي نتيجة قراراته الذاتية وهنا يكون هو المسؤول عن إصدارها وبالتالي تكون المسؤولية الجنائية واقعة على الذكاء الاصطناعي وحده^[33].

رابعا: المسؤولية الجنائية لطرف خارجي

تتحقق هذه الحالة عند اختراق طرف خارجي لنظام الذكاء الاصطناعي والسيطرة عليه واستغلاله لارتكاب الجرائم؛ كما هو الحال الدخول الغير المشروع إلى نظام الكومبيوتر وزراعة الفيروسات أو الاستيلاء على البيانات المخزنة، حيث يستغل ثغرة في الذكاء الاصطناعي هنا نكون أمام حالتين :

الحالة الأولى : حالة استغلال الطرف الخارجي لثغرة في الذكاء الاصطناعي نتيجة إهمال المالك أو المصنع لهذه التقنية، فتكون هنا المسؤولية مشتركة بين الطرف الخارجي والشخص الذي وقع منه الإهمال، مثال ذلك استغلال ثغرة في برمجة الدرونز التجارية وتحويلها إلى سلاح وإطلاق النار على أشخاص وهنا تكون المسؤولية مشتركة بين الطرف الخارجي والشخص الذي وقع منه إهمال الذي تسبب في وجود تلك الثغرة.

الحالة الثانية : قيام الطرف الخارجي باستغلال ثغرة في الذكاء الاصطناعي التي لم تكن بسبب إهمال المصنع أو المالك، وهنا تقع المسؤولية الجنائية كاملة على الطرف الخارجي، كاختراق السحابة الإلكترونية التي يتم تخزين وإرسال الأوامر من خلالها لتقنية الذكاء الاصطناعي وقيامه بإصدار أوامر للذكاء الاصطناعي لارتكاب جرائم في حق أشخاص معينة يحملون صفات محددة^[34].

خاتمة

يعد الذكاء الاصطناعي من أبرز مظاهر التحول التكنولوجي في العصر الحديث، وقد أفرز هذا التطور السريع تحديات قانونية عميقة، خاصة فيما يتعلق بأنماط الجرائم المستحدثة الناتجة عنه، والمسؤولية الجنائية المترتبة على استخدامه.

وفي هذا السياق، تناول هذا البحث بالتحليل مفهوم الذكاء الاصطناعي، وأبرز صور الجرائم المرتبطة به، كما ناقش الإشكاليات المتعلقة بإسناد المسؤولية الجنائية عن تلك الأفعال في ظل غياب تشريعات واضحة ومحدثة.

وقد توصل البحث إلى مجموعة من النتائج والمقترحات يمكن إيجازها على النحو الآتي :

أولا : النتائج

– أدى توسع استخدام تقنيات الذكاء الاصطناعي إلى ظهور جرائم ذات طابع جديد، لم تتناولها النصوص العقابية التقليدية.

– اعتماد الذكاء الاصطناعي على خوارزميات التعلم الذاتي يمنحه قدرة متزايدة على اتخاذ قرارات مستقلة، ما يعقّد من مسألة تحديد الفاعل الجنائي.

– تعاني التشريعات الوطنية من قصور واضح في تنظيم الجرائم المرتكبة بواسطة الذكاء الاصطناعي أو من خلاله.

– لا يزال الاهتمام العربي بهذا المجال محدودا، سواء على مستوى البحث الأكاديمي أو الإطار التشريعي، رغم تصاعد التحديات المرتبطة به.

– هناك تزايد في انتهاك الخصوصية والحقوق الفردية بفعل استخدام تقنيات الذكاء الاصطناعي، في ظل ضعف الوعي المجتمعي ونقص الضوابط القانونية.

ثانيا : المقترحات

– ضرورة الإسراع في إعداد تشريعات متخصصة تُعنى بتنظيم استخدام الذكاء الاصطناعي، وتحديد المسؤولية الجنائية الناشئة عن الأفعال المرتكبة بواسطته.

– وضع تصور قانوني يسمح بإسناد المسؤولية الجنائية للأشخاص الطبيعيين أو الاعتباريين المسؤولين عن تشغيل أو تطوير هذه الأنظمة، مع بحث إمكانية مساءلة الكيان التقني ذاته في المستقبل.

– تشديد العقوبات على الجرائم المرتكبة باستخدام الذكاء الاصطناعي لما لها من أثر خطير على أمن المجتمع واستقراره.

– تشجيع البحث العلمي العربي في مجال الذكاء الاصطناعي والقانون الجنائي، وسد الفجوة الواضحة في المراجع والدراسات.

– تنظيم مؤتمرات وورش عمل متخصصة تُعنى بجرائم الذكاء الاصطناعي والمسؤولية القانونية عنها، بما يسهم في تطوير السياسات التشريعية والعدلية ذات الصلة.

وبذلك يكون هذا البحث قد وضع لبنة أساسية لفهم الإطار القانوني لجرائم الذكاء الاصطناعي، وهو مجال لا يزال في بداياته ويحتاج إلى جهود تشريعية وأكاديمية متكاملة لمواكبة هذا التطور التقني المتسارع.

لائحة المراجع

الكتب العامة :

– إدريس العلوي العبدلاوي، شرح القانون المدني، الجزء الثاني، .1996

– إبراهيم محمد إبراهيم، علاقة السببية في قانون العقوبات، دار النهضة العربية 2007.

– عبد الواحد العالمي، شرح القانون الجنائي المغربي -القسم العام- 2015.

– محمد جلال السعيد، المدخل لدراسة القانون، الطبعة الثالثة، 2016.

المعاجم والقواميس اللغوية :

– ابن منظور، لسان العرب، دار المعارف، القاهرة، جزء 3.

– معجم المعاني الجامع

المجلات والمقالات العلمية

المجلات :

– أحمدناه بوكنين، المسؤولية القانونية للذكاء الاصطناعي، مجلة الشؤون القانونية والقضائية، عدد 15، 2023.

– عبد الوهاب مريم، المسؤولية الجنائية عن جرائم الذكاء الاصطناعي، مجلة القانون وعلوم البيئة، مجلد ،2عدد 2،2023.

– د. محمود محمد سويف، المسؤولية الجنائية لتقنيات الذكاء الاصطناعي، مجلة البحوث الفقهية والقانونية، العدد 48، 2025.

– سمر عادل شحاتة محمد، المسؤولية الجنائية الناشئة عن جرائم المرتكبة بواسطة الذكاء الاصطناعي، مجلة روح القانون، العدد 102، 2023.

– صقر محمد العطار ومحمد النواسية، المسؤولية الناجمة عن استخدام الذكاء الاصطناعي، مجلة جامعة الشارقة للعلوم القانونية، مجلد 21، عدد 1،2024 .

– وفاء محمد أبو المعاطي صقر، المسؤولية الجنائية عن جرائم الذكاء الاصطناعي، مجلة روح القانون، العدد،96 أكتوبر 2021.

– يحيى إبراهيم دهشان، المسؤولية الجنائية عن جرائم الذكاء الاصطناعي، مجلة الشريعة والقانون، العدد 82، 2020.

– مريم قيس عليوي، الذكاء الاصطناعي: تطوره، تطبيقاته وتحدياته، دورية محكمة، مركز الجزيرة، العدد 20، 2023.

المقالات :

– ” خوارزميات الذكاء الاصطناعي: تعرف على أكثر 13خوارزمية شهرة واستخداما” متاح على :

https://holistiquetraining.com/public/ar/news/artificialintelligence-algorithms-exploring-the-13-most-famous-and- utilized

– جامعة المستقبل، ” أبرز حوادث وجرائم الذكاء الاصطناعي” متاح على :

https://adm.uomus.edu

– الذهب، علي “الطائرات دون طيار: التقنية والأثر العسكري والاستراتيجي”، مركز الجزيرة للدراسات، 30مايو 2019متاح على :

http://studies.aljazeera.net/ar/reports/2019/05/190530074750193.html

الرسائل العلمية :

– صابر الهدام، القانون في مواجهة الذكاء الاصطناعي- دراسة مقارنة، رسالة لنيل

دبلوم ماستر القانون الخاص، جامعة سيدي محمد بن عبد الله، فاس، كلية العلوم القانونية والاقتصادية والاجتماعية، 2021-2022.

المواقع الإلكترونية :

– IBM Website, “Artificial intelligence (AI) is technology that enables computers and machines to simulate human learning, comprehension, problem solving, decision making, creativity and autonomy.” https://www.ibm.com/topics/artificialintelligence

متاح على”مجالات الذكاء الاصطناعي” – Reemat Platform

– SAP. ” “ما هو الذكاء الاصطناعي؟https://www.sap.com/menaar/products/artificial-intelligence/what-is-artificialintelligence.html.

– Wikipedia, s.v. “Robert Williams (robot fatality) ” https://en.wikipedia.org/wiki/RobertWilliams(robot_fatality) (consulté le 9 juin 2025).

– Merriam-Webster Dictionary, “Artificial Intelligence webster.com/dictionary/artificial%20intelligence (consulté le 9 juin 2025).

1. سمر عادل شحاتة محمد، المسؤولية الجنائية الناشئة عن جرائم المرتكبة بواسطة الذكاء الاصطناعي، مجلة روح القانون، العدد،،102 سنة ،2023الصفحة1680. ↑
2. يحيى إبراهيم دهشان، المسؤولية الجنائية عن جرائم الذكاء الاصطناعي، مجلة الشريعة والقانون، العدد ،82السنة ،2020ص.2-3. ↑
3. لسان العرب، ابن منظور، باب السين، مادة سأل، دار المعارف، القاهرة الجزء 3 الصفحة 106. ↑
4. لسان العرب، ابن منظور، باب الجيم، مادة جلي، مرجع سابق، الصفحة .706. ↑
5. إدريس العلوي العبدلاوي، شرح القانون المدني، الجزء الثاني، السنة ،1996الصفحة.96. ↑
6. مريم قيس عليوي، “الذكاء الاصطناعي: تطوره، تطبيقاته وتحدياته”، دورية محكمة، مركز الجزيرة للدراسات، السنة الخامسة، العدد 20 نوفمبر2023. ↑
7. ذكاء اصطناعي .”معجم المعاني الجامع .متاح على https://www.almaa.com

   11 ↑

8. Merriam-Webster Dictionary, s.v. “Artificial Intelligence,” https://www.merriamwebster.com/dictionary/artificial%20intelligence (accessed June 9, 2025) ↑
9. 10عبد الوهاب مريم، “المسؤولية الجنائية عن جرائم الذكاء الاصطناعي”، مجلة القانون وعلوم البيئة، المجلد ،2العدد ( 2سبتمبر 2023 ص 682 متاح على :

   https://asjp.cerist.dz/en/article/186186. ↑

10. جون مكارثي ( )2011-1927هو عالم حاسوب أمريكي يُعتبر مؤسس الذكاء الاصطناعي، حيث صاغ المصطلح ونظم مؤتمر دارتموث عام 1956الذي أطلق هذا المجال رسم ًيا. اخترع لغة البرمجة Lispوساهم في تطوير مفاهيم الحوسبة الحديثة مثل تقاسم وقت الحاسوب. حصل على جائزة تورينغ عام 1971تقديرا لإسهاماته، ويُعتبر إرثه العلمي حجر الأساس في تطور الذكاء الاصطناعي حتى اليوم. ↑
11. IBM, “What is Artificial Intelligence (AI)?”, IBM Official Website, https://www.ibm.com/topics/artificial-intelligence (accessed June 9, 2025). Artificial intelligence (AI) is technology that enables computers and machines to simulate human learning, comprehension, problem solving, decision making, creativity and autonomy. ↑
12. Reemat Platform, ” ,”مجالات الذكاء الاصطناعيReemat, accessed June 9, 2025, https://reemat.net/%D8%A7%D9%84%D8%B0%D9%83%D8%A7%D8%A1- %D8%A7%D9%84%D8%A7%D8%B5%D8%B7%D9%86%D8%A7%D8%B9%D9%8A-4/. ↑
13. عبد الوهاب مريم، “المسؤولية الجنائية عن جرائم الذكاء الاصطناعي” م.س. ↑
14. SAP. ” “ما هو الذكاء الاصطناعي؟SAP. Accessed June 9, 2025. https://www.sap.com/menaar/products/artificial-intelligence/what-is-artificial-intelligence.html. ↑
15. صقر محمد العطار ومحمد النواسية، “المسؤولية الناجمة عن استخدام الذكاء الاصطناعي”، مجلة جامعة الشارقة للعلوم القانونية،المجلد 21، العدد 1، 2024.:

    https://doi.org/10.36394/jls.v21.i1.12 ↑

16. الذهب، علي. “الطائرات دون طيار: التقنية والأثر العسكري والاستراتيجي.” مركز الجزيرة للدراسات، 30مايو .2019 رابط التقرير: http://studies.aljazeera.net/ar/reports/2019/05/190530074750193.h

    17 ↑

17. Wikipedia, s.v. “Robert Williams (robot fatality),” last modified January 25, 2007, https://en.wikipedia.org/wiki/Robert_Williams_(robot_fatality), accessed June 10, 2025. ↑
18. جامعة المستقبل، “أبرز حوادث وجرائم الذكاء الاصطناعي”، منشور على موقع جامعة المستقبل 2025 :

    https://adm.uomus.edu ↑

19. عبد الواحد العالمي، شرح القانون الجنائي المغربي -القسم العام- الطبعة السادسة، مطبعة النجاح الجديدة، الدار البيضاء،،2015ص 326. ↑
20. – محمد جلال السعيد، المدخل لدراسة القانون، الطبعة الثالثة، مطبعة النجاح الدار البيضاء،،2016ص.4 ↑
21. حمدناه بوكنين،المسؤولية القانونية للذكاء الاصطناعي،مجلة الشؤون القانونية والقضائية،المجلد/العدد ع،15،2023ص.16. ↑
22. إبراهيم محمد إبراهيم، علاقة السببية في قانون العقوبات، دراسة تحليلية على ضوء الفقه والقضاء، دار النهضة العربية،،2007ص.38. ↑
23. أحمدناه بوكنين،مرجع سابق،ص 160. ↑
24. المادة 8من قانون المسطرة الجنائية المغربي، ظهير شريف رقم 1.02.255صادر في 25من رجب 03 1423أكتوبر 2002

    بتنفيذ القانون رقم 22.01المتعلق بالمسطرة الجنائية. ↑

25. تنص المادة 4من ق م ج م على أنه “تسقط الدعوى العمومية بموت الشخص المتابع، وبالتقادم وبالعفو الشامل وبنسخ المقتضيات الجنائية التي تجرم الفعل، وبصدور مقرر اكتسب قوة الشيء المقض ي به. وتسقط بالصلح عندما ينص القانون صراحة على ذلك “. ↑
26. الفصل 127من م ق ج المغربي، ينص على أنه: ” لا يمكن أن يحكم على الأشخاص المعنوية إلا بالعقوبات المالية والعقوبات الإضافية الواردة في الأرقام 5و 6و 7من الفصل 36ويجوز أيضا أن يحكم عليها بالتدابير الوقائية العينية الواردة في الفصل 62. ↑
27. وفاء محمد أبو المعاطي صقر، المسؤولية الجنائية عن جرائم الذكاء الاصطناعي، دراسة تحليلية واستشرافية، مجلة روح القانون، العدد ،96اكتوبر 2021ص124. ↑
28. د. محمود محمد سويف، المسؤولية الجنائية لتقنيات الذكاء الاصطناعي، مجلة البحوث الفقهية والقانونية، العدد الثامن والأربعون، . يناير 2025 ص، 287. ↑
29. صابر الهدام، القانون في مواجهة الذكاء الاصطناعي- دراسة مقارنة، رسالة لنيل دبلوم ماستر القانون الخاص، جامعة سيدي محمد بن عبد الله، فاس، كلية العلوم القانونية والاقتصادية والاجتماعية، ،2022/2021ص140. ↑
30. المصنع هو كل شخص صانع للسلعة في شكلها النهائي أو أجزاء منها أو شارك في تركيبها أو أعد المنتجات الأولية لها. ↑
31. صابر الهدام، م س، ص1. ↑
32. وفاء محمد أبو المعاطي صقر،م س، ص 128. ↑
33. وفاء محمد أبو المعاطي صقر،م س،ص 130. ↑
34. صابر الهدام، م س، ص 42. ↑