الفراغ التشريعي للذكاء الاصطناعي (2): ما بعد الإنسان والآلة — نحو إعادة بناء المركز القانوني والوكالة والمسؤولية في عصر الذكاء الاصطناعي

مصطفى محمود مقلد
باحث قانونى - محام
(Mustafa Mahmoud Maklad)

الحوار المتمدن-العدد: 8823 - 2026 / 9 / 9 - 18:21
المحور: دراسات وابحاث قانونية
    

الفراغ التشريعي للذكاء الاصطناعي (2): ما بعد الإنسان والآلة — نحو إعادة بناء المركز القانوني والوكالة والمسؤولية في عصر الذكاء الاصطناعي
الجزء الثاني من الدراسة

بعد الإنسان: هل يحتاج الذكاء الاصطناعي إلى حقوق؟

نحو نظرية عالمية للمركز القانوني والوكالة الاصطناعية وإعادة بناء المسؤولية في عصر الأنظمة الذكية



تمهيد: من الفراغ التشريعي إلى السؤال الذي يسبق التشريع

إذا كان الجزء الأول من هذه الدراسة قد انتهى إلى أن أزمة الذكاء الاصطناعي لا تختزل في غياب قانون خاص ينظم تقنياته، وإنما تكشف عن فجوة أعمق بين سرعة التحول التقني وبين قدرة البنية القانونية التقليدية على توصيفه وإسناد آثاره وتحميل المسؤولية عنه، فإن النتيجة المنطقية لذلك لا يمكن أن تكون مجرد الدعوة إلى إصدار تشريع جديد يضاف إلى الترسانة القائمة، لأن التشريع الذي يحاول تنظيم الظاهرة الجديدة بأدوات مفاهيمية صممت لعالم تقني واجتماعي مختلف قد ينجح في تنظيم بعض التطبيقات، لكنه قد يفشل في الوصول إلى جوهر المشكلة. فالذكاء الاصطناعي لا يطرح أمام القانون مجرد «شيء جديد» يحتاج إلى قواعد جديدة، وإنما يضع القانون أمام ظاهرة بدأت تتدخل في صناعة القرار، وتحليل الوقائع، وإنتاج المحتوى، وتقييم المخاطر، وإدارة الموارد، والتنبؤ بالسلوك، وتشغيل البنى التحتية، والتفاعل مع البشر، وأحيانًا تنفيذ سلسلة من الأفعال دون أن يكون كل فعل منها نتيجة مباشرة وفورية لأمر بشري محدد. ومن هنا ينتقل السؤال القانوني من مستوى: كيف ننظم الذكاء الاصطناعي؟ إلى مستوى أكثر خطورة وعمقًا: هل ما زالت المفاهيم التي ننظم بها الفعل والمسؤولية والوكالة والسببية والسيطرة قادرة على استيعاب الفاعل الخوارزمي؟

لقد بدأت المنظومة القانونية الدولية بالفعل في الانتقال من مرحلة الحديث العام عن أخلاقيات الذكاء الاصطناعي إلى مرحلة أكثر تركيبًا من الحوكمة القانونية والتنظيمية. فتوصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي وضعت إطارًا عالميًا يتمحور حول حقوق الإنسان والكرامة الإنسانية والشفافية والإنصاف والمساءلة والإشراف البشري، بينما حدّثت منظمة التعاون الاقتصادي والتنمية مبادئها للذكاء الاصطناعي في عام 2024 لمواكبة الذكاء الاصطناعي التوليدي والأنظمة ذات الأغراض العامة، وربطت الثقة في الذكاء الاصطناعي بالحقوق والقيم الديمقراطية. وعلى المستوى الأوروبي، تجاوز المشرّع الأوروبي مرحلة المبادئ العامة إلى تنظيم تشريعي شامل قائم على المخاطر من خلال قانون الذكاء الاصطناعي الأوروبي Regulation (EU) 2024/1689، في حين ذهب مجلس أوروبا إلى إنشاء أول معاهدة دولية ملزمة قانونًا في هذا المجال، موجهة إلى ضمان اتساق أنشطة دورة حياة أنظمة الذكاء الاصطناعي مع حقوق الإنسان والديمقراطية وسيادة القانون.

غير أن هذا التطور، على أهميته التاريخية، يكشف paradox قانونيًا بالغ الدلالة: كلما ازداد القانون قدرة على تنظيم الذكاء الاصطناعي، ازداد وضوح السؤال عن طبيعة الكيان الذي يقوم القانون بتنظيمه. فإذا كان النظام الذكي مجرد أداة، فإن قواعد الأدوات التقليدية والمسؤولية عن المنتجات والخدمات والأفعال البشرية قد تكون كافية بعد بعض التحديثات. أما إذا أصبحت بعض الأنظمة قادرة على التعلم والتكيف والتنبؤ والتوليد والاختيار والتنفيذ ضمن بيئات متغيرة، فإن اختزالها دائمًا في مفهوم «الأداة» قد يصبح تبسيطًا قانونيًا لا يقل خطورة عن منحها شخصية قانونية لمجرد أنها تبدو ذكية. وبين هذين الطرفين تقع المنطقة الأكثر أهمية في البحث: منطقة الكيان التقني الذي لا يملك بالضرورة إرادة بشرية أو وعيًا ذاتيًا أو كرامة بالمعنى الحقوقي، ولكنه يستطيع إنتاج مخرجات وأفعال وقرارات ذات آثار قانونية واقتصادية واجتماعية حقيقية. وهنا تظهر الحاجة إلى إعادة التفكير في المركز القانوني قبل التفكير في الشخصية القانونية.

إن السؤال الحقيقي إذن ليس: «هل أصبح الذكاء الاصطناعي إنسانًا؟»؛ فهذا السؤال يفترض النتيجة قبل إثبات مقدماتها. وليس السؤال كذلك: «هل للآلة روح أو وعي؟»؛ فالقانون لا يبني دائمًا مراكزه القانونية على إثبات الوعي الفلسفي. السؤال القانوني الأكثر انضباطًا هو: ما المقدار من الاستقلال التقني والقدرة على التأثير وإنتاج المخاطر الذي يستوجب أن يعترف القانون بأن النظام الذكي لم يعد مجرد أداة سلبية، وأن علاقته بالأشخاص والمنشآت والسلطات العامة تحتاج إلى مركز قانوني وظيفي جديد؟ ومن هذه النقطة تبدأ هذه الدراسة.

---

المبحث الأول

انهيار الثنائية التقليدية: من «الشخص» و«الشيء» إلى الكيان الخوارزمي

بُني جزء كبير من النظرية القانونية الحديثة على ثنائية تبدو لأول وهلة مستقرة: هناك شخص يستطيع أن يكون صاحب حق والتزام، وهناك شيء يكون محلًا للحقوق أو وسيلة لممارستها. والشخص، سواء كان شخصًا طبيعيًا أو شخصًا اعتباريًا، يدخل في شبكة العلاقات القانونية بوصفه حاملًا للمراكز القانونية، بينما الشيء لا يكون عادة طرفًا مستقلًا في هذه العلاقات، وإنما يكون محلًا للملكية أو الحيازة أو الاستعمال أو الضمان أو غير ذلك. وقد كان هذا البناء منطقيًا في بيئة تقنية يكون فيها الفعل البشري واضح المصدر، والأداة فاقدة للاستقلال، والسببية أقرب إلى الخطية: إنسان يقرر، وأداة تنفذ، ونتيجة تقع، ثم يبحث القانون عن المسؤول وفقًا لدرجة الخطأ أو السيطرة أو المنفعة أو الإخلال بواجب قانوني.

غير أن النظام الذكي الحديث يفرض على هذه الثنائية اختبارًا أكثر صعوبة. فالمشكلة ليست في أن الآلة أصبحت «إنسانًا»، بل في أن بعض الأنظمة لم تعد تعمل دائمًا وفق النموذج البسيط الذي يفترض أن الأداة لا تقوم إلا بتنفيذ إرادة بشرية محددة مسبقًا. فالنظام القادر على التعلم من البيانات، وإعادة ضبط بعض معاييره، وتوليد مخرجات لم يحدد الإنسان محتواها تفصيليًا، والتفاعل مع بيئة متغيرة، وربما اتخاذ سلسلة من القرارات التنفيذية ضمن نطاق من الاستقلال التشغيلي، يختلف وظيفيًا عن المطرقة أو السيارة أو البرنامج التقليدي. ولا يعني هذا الاختلاف أنه اكتسب شخصية قانونية؛ وإنما يعني أن النموذج القانوني الذي يصفه باعتباره شيئًا جامدًا قد لا يكون كافيًا وحده لتفسير كل الآثار القانونية التي تنتج عن تشغيله.

وهنا ينبغي الحذر من مغالطة شائعة: الاستقلال التقني لا يساوي الشخصية القانونية. فالقدرة على إنتاج قرار أو مخرج غير متوقع لا تعني وجود إرادة قانونية، والقدرة على التعلم لا تعني امتلاك مصلحة قانونية، والقدرة على التواصل باللغة الطبيعية لا تعني اكتساب كرامة أو حقوق إنسان، والقدرة على تنفيذ فعل في العالم المادي لا تعني بالضرورة أن النظام هو المسؤول قانونًا عن الفعل. إن القانون لا ينبغي أن يقع أسيرًا للـ anthropomorphism، أي إسقاط الصفات الإنسانية على الآلة لمجرد أنها تتصرف بطريقة تشبه السلوك البشري. وفي المقابل، لا ينبغي أن يقع في الخطأ المعاكس، أي التشييء القانوني الكامل لنظام تقني أصبح عنصرًا فعليًا في إنتاج القرار والمخاطر، ثم يكتفي بالبحث عن إنسان قريب منه ويحمله المسؤولية بصورة آلية دون تحليل دقيق لحدود السيطرة والتوقع والتدخل.

ومن هنا يمكن اقتراح انتقال مفاهيمي من الثنائية التقليدية Person/Thing إلى بنية أكثر تركيبًا يمكن وصفها بـ Person/Artificial Agent/Thing؛ أي شخص، وفاعل اصطناعي، وشيء. ولا يقصد بالفاعل الاصطناعي هنا «شخصًا قانونيًا» بالمعنى الكامل، وإنما وصفًا وظيفيًا لنظام تقني يمتلك درجة من الاستقلال التشغيلي والقدرة على إنتاج أفعال أو قرارات ذات أثر خارجي، بما يجعل القانون بحاجة إلى تحديد موقعه في سلسلة الإسناد القانوني. وفي هذا النموذج لا يحصل النظام الذكي تلقائيًا على حقوق الإنسان أو الذمة المالية أو أهلية التقاضي، وإنما يصبح موضوعًا قانونيًا متميزًا للتحليل، لأن تجاهل استقلاله الوظيفي قد يؤدي إلى أخطاء في تحديد المسؤولية، كما أن منحه شخصية قانونية كاملة قد يؤدي إلى خلق ستار اصطناعي يسمح للإنسان أو الشركة المالكة أو المطورة بالتنصل من المسؤولية.

---

المبحث الثاني

هل يستطيع الذكاء الاصطناعي أن يكون «فاعلًا قانونيًا» دون أن يكون «شخصًا قانونيًا»؟

يقتضي هذا السؤال التمييز بين مفهومين غالبًا ما يتم الخلط بينهما: الشخصية القانونية Legal Personality والوكالة أو الفعل القانوني Legal Agency. فالشخصية القانونية تعني في صورتها التقليدية القدرة على أن يكون الكيان حاملًا للحقوق والالتزامات، بينما الوكالة تشير إلى القدرة على إنتاج أفعال أو نتائج يمكن للنظام القانوني أن يرتب عليها آثارًا قانونية. وهذا التمييز بالغ الأهمية في عصر الذكاء الاصطناعي؛ لأنه يسمح لنا بتصور نظام قانوني يعترف بأن بعض الأنظمة الذكية قد تكون «فاعلة» في السلسلة الواقعية للفعل، دون أن يقرر أنها «شخص» كامل في النظام القانوني.

فالمشكلة العملية التي سيواجهها القضاء في المستقبل القريب ليست في سؤال فلسفي مجرد من نوع: «هل يشعر الذكاء الاصطناعي؟»، وإنما في أسئلة أكثر واقعية: من الذي اتخذ القرار؟ من الذي صمم النظام؟ من الذي اختار بيانات التدريب؟ من الذي نشر النموذج؟ من الذي سمح له بالعمل؟ من الذي كان ينتفع من مخرجاته؟ من الذي كان يستطيع إيقافه؟ من الذي كان يستطيع توقع الخطر؟ وهل كان الخطر نتيجة عيب في التصميم، أم خطأ في البيانات، أم سوء استخدام، أم قرار تشغيلي، أم تطور ذاتي غير متوقع داخل نطاق التشغيل المشروع؟ هذه الأسئلة تكشف أن «الفعل الخوارزمي» قد يصبح حلقة مستقلة نسبيًا داخل سلسلة سببية مركبة، وأن القانون يحتاج إلى نظرية للإسناد لا تكتفي بالبحث عن اليد البشرية الأقرب إلى لحظة الضرر.

ومن هنا أقترح مفهوم Algorithmic Attribution — الإسناد الخوارزمي بوصفه أحد المفاهيم المركزية لهذه الدراسة. والمقصود به ليس إسناد المسؤولية إلى الخوارزمية ذاتها باعتبارها شخصًا، وإنما إنشاء منهج قانوني لتحديد كيفية توزيع الأثر القانوني الناتج عن فعل أو قرار خوارزمي بين مختلف الأطراف المشاركة في دورة حياة النظام: المطور، ومزود النموذج، ومصمم التطبيق، والمشغل، والمستخدم المهني، والمالك، والمستفيد الاقتصادي، وربما الجهة التي اعتمدت النظام أو سمحت باستخدامه في مجال عالي الخطورة. وبهذا يتحول السؤال من «من صنع الذكاء الاصطناعي؟» إلى سؤال أكثر دقة: من كان يملك السيطرة الفعلية أو القانونية على الخطر في المرحلة التي أصبح فيها من الممكن منعه أو توقعه أو تصحيحه؟

وهذه النقلة من «السبب المباشر» إلى «شبكة الإسناد» تصبح أكثر أهمية في ضوء الاتجاه التنظيمي العالمي نحو المسؤولية المبنية على المخاطر ودورة حياة النظام. فقانون الذكاء الاصطناعي الأوروبي لا يتعامل مع الذكاء الاصطناعي باعتباره منتجًا واحدًا متجانسًا، بل يفرض التزامات مختلفة بحسب طبيعة النظام وموقع الفاعل في سلسلة الإمداد والاستخدام ومستوى المخاطر. كما أن الإطار الأوروبي يقوم على متطلبات تمتد إلى مقدمي الأنظمة ومستخدميها، وهو ما يؤكد أن المسؤولية عن الذكاء الاصطناعي لا يمكن فهمها دائمًا باعتبارها علاقة ثنائية بين «آلة» و«ضحية»، وإنما باعتبارها شبكة قانونية متعددة الأطراف.

---

المبحث الثالث

من المسؤول عندما لا يكون أحد قد «أصدر» القرار؟

هذه هي اللحظة التي تبدأ فيها أزمة المسؤولية القانونية الحقيقية. ففي النموذج التقليدي، يمكن للمحكمة أن تبحث عن الإرادة البشرية التي أنتجت الفعل أو عن الإهمال الذي سمح بوقوعه. أما في بعض البيئات الخوارزمية المعقدة، فقد تكون النتيجة قد ظهرت نتيجة تفاعل متسلسل بين بيانات تدريب، ونموذج أساسي، وآلية تحسين، وتعليمات تشغيلية، وواجهة تطبيق، ومدخلات مستخدم، وبيئة خارجية، وعمليات تحديث لاحقة، بحيث يصبح من الصعب تحديد إنسان واحد يمكن القول إنه «أصدر» القرار محل النزاع. وهنا تظهر فجوة عميقة بين السبب التقني والمسؤولية القانونية؛ إذ ليس كل من كان سببًا تقنيًا في وقوع النتيجة مسؤولًا قانونًا عنها، كما أن عدم وجود سبب بشري مباشر لا يعني أن الضرر يجب أن يصبح بلا مسؤول.

ولهذا ينبغي أن تتخلى النظرية القانونية الحديثة عن البحث القسري عن «الجاني الوحيد» أو «المسؤول الوحيد» في كل حادثة خوارزمية، وأن تنتقل إلى مفهوم المسؤولية متعددة الطبقات. فالنظام الذكي قد يكون نتاجًا لسلسلة من القرارات البشرية والمؤسسية المتراكمة، وقد يتوزع الخطر بين المصمم والمطور والمورد والمشغل والمستخدم والجهة المستفيدة. وعليه، فإن تحديد المسؤولية يجب أن يستند إلى معايير السيطرة والقدرة على التوقع والقدرة على التدخل والمنفعة الاقتصادية ودرجة المخاطر، بدلًا من مجرد القرب الزمني من لحظة الضرر.

ويمكن تأسيس اختبار قانوني أولي للإسناد الخوارزمي على عشرة عناصر مترابطة: السيطرة Control، والمعرفة Knowledge، وقابلية التوقع Foreseeability، وقابلية المنع Preventability، وقابلية التصحيح Correctability، والمنفعة الاقتصادية Economic Benefit، ودرجة الاستقلال التقني Autonomy، ومستوى الخطر Risk، والغرض Purpose، والقدرة التقنية على التدخل Technical Capacity to Intervene. ولا ينبغي التعامل مع هذه العناصر باعتبارها قائمة جامدة أو معادلة حسابية، وإنما باعتبارها إطارًا قضائيًا يسمح بتوزيع المسؤولية بصورة أكثر عدالة. فقد تكون الشركة المطورة بعيدة عن لحظة الاستخدام لكنها تملك المعرفة التقنية والقدرة على منع الخلل، وقد يكون المشغل هو الطرف الذي يملك السيطرة اليومية، وقد يكون المستخدم هو الذي تجاوز حدود الاستخدام المتوقع، وقد تكون جهة التعاقد هي التي فرضت استعمال النظام في مجال لا يناسب قدراته.

ومن ثم فإن القاعدة التي ينبغي أن تبدأ في التبلور هي: كلما ارتفعت القدرة على السيطرة على الخطر، أو المعرفة به، أو توقعه، أو منعه، أو تصحيحه، ارتفعت قابلية الإسناد القانوني إلى صاحب تلك القدرة، ولو لم يكن هو الذي ضغط الزر الأخير. وهذه القاعدة تمثل في تقديري أحد أهم مفاتيح إعادة بناء المسؤولية في عصر الذكاء الاصطناعي، لأنها تنقل القانون من البحث عن «فاعل لحظي» إلى البحث عن مالك الخطر القانوني.

---

المبحث الرابع

«الاستقلالية لا تعني الحصانة»: نحو نظرية المسؤولية الممتدة للذكاء الاصطناعي

قد يبدو في البداية أن زيادة استقلال النظام الذكي ينبغي أن تؤدي إلى تقليل مسؤولية الإنسان، باعتبار أن الإنسان لم يعد قادرًا على التحكم في كل مخرجات النظام. لكن هذا الاستنتاج، إذا أُخذ على إطلاقه، قد ينتج أخطر فراغ قانوني يمكن تصوره: كلما أصبح النظام أكثر استقلالًا أصبح الإنسان أقل مسؤولية، حتى نصل إلى لحظة يستطيع فيها الفاعل الاقتصادي أن يقول للقاضي إن الضرر لم يصدر منه، وإنما «قرره النظام». وهذا المنطق غير مقبول قانونيًا ولا أخلاقيًا، لأنه يحول الاستقلال التقني إلى آلية لإنتاج الحصانة القانونية.

والأصح هو العكس: كلما ارتفعت استقلالية النظام، ارتفعت الحاجة إلى قواعد أقوى لتوزيع المسؤولية على من أنشأ البيئة التي سمحت لهذه الاستقلالية بالعمل. فإذا كان الإنسان قد اختار نشر نظام مستقل في بيئة عالية المخاطر، فإنه لا يستطيع أن يستعمل استقلالية النظام التي اختارها بنفسه ذريعة للتخلص من النتائج التي كان ينبغي عليه توقعها أو التحكم فيها. الاستقلالية هنا ليست «تبرئة»، وإنما عنصر من عناصر تقييم المخاطر. وهي قد تخفف المسؤولية في بعض الحالات إذا أثبت الفاعل أنه اتخذ كل التدابير المعقولة المتاحة له، لكنها لا تحول النظام إلى كبش فداء قانوني.

ومن هنا تقترح الدراسة مفهوم Extended AI Responsibility — المسؤولية الممتدة للذكاء الاصطناعي، وهي مسؤولية لا تُفهم بوصفها مسؤولية الآلة عن نفسها، وإنما بوصفها مسؤولية تمتد عبر دورة حياة النظام بأكملها، من مرحلة التصميم والتدريب إلى الاختبار والنشر والمراقبة والتحديث والاستخدام والإيقاف. ويعني ذلك أن المسؤولية لا ينبغي أن تبدأ عند لحظة الضرر، وإنما قد تبدأ قبل إطلاق النظام أصلًا، من خلال واجبات تقييم المخاطر، والاختبار، والتوثيق، والمراقبة، والتدخل، وإتاحة السجلات، وإمكانية التراجع عن القرار أو تعطيل النظام عند ظهور خطر غير مقبول.

وهذه الفكرة ليست مجرد بناء نظري منفصل عن الاتجاهات القانونية المعاصرة؛ فالمنظومة الأوروبية، على سبيل المثال، تبني قدرًا كبيرًا من تنظيم الذكاء الاصطناعي على إدارة المخاطر والالتزامات الممتدة عبر دورة حياة النظام، بينما تضع اتفاقية مجلس أوروبا الإطار القانوني ضمن دورة حياة أنظمة الذكاء الاصطناعي، وتربطه بحقوق الإنسان والديمقراطية وسيادة القانون. كما أن مبادئ اليونسكو وOECD تؤكد بدورها مفاهيم الإشراف البشري والشفافية والمساءلة وإدارة المخاطر والثقة.

---

المبحث الخامس

هل يحتاج الذكاء الاصطناعي إلى حقوق؟

هنا ينبغي أن نكون أكثر صرامة من الخطاب التقني والإعلامي الذي يخلط بين «حقوق الذكاء الاصطناعي» و«حقوق الإنسان أمام الذكاء الاصطناعي». فالقول إن النظام الذكي يحتاج إلى حقوق لأنه أصبح ذكيًا هو استنتاج لا تسنده، في صورته العامة، القواعد القانونية الدولية المعاصرة. بل إن الاتجاه التنظيمي العالمي القائم يركز بدرجة واضحة على حماية الإنسان من آثار الذكاء الاصطناعي، وعلى ضمان الكرامة والمساواة والخصوصية والشفافية والإشراف البشري والمساءلة، وليس على إنشاء منظومة حقوق إنسان للآلة. وتوصية اليونسكو، مثلًا، تقوم صراحة على مقاربة تتمحور حول حقوق الإنسان والكرامة الإنسانية، بينما تركز اتفاقية مجلس أوروبا على حماية حقوق الإنسان والديمقراطية وسيادة القانون في دورة حياة الذكاء الاصطناعي.

ومع ذلك، فإن رفض «حقوق الإنسان للآلة» لا يعني انتهاء السؤال. فقد نحتاج في المستقبل إلى الاعتراف ببعض الضمانات القانونية الوظيفية للنظام الذكي، لا لحماية الآلة باعتبارها كائنًا ذا كرامة، وإنما لحماية النظام القانوني نفسه من التلاعب به. فالنظام الذكي الذي تعتمد عليه مؤسسة مالية أو مستشفى أو بنية تحتية حرجة قد يحتاج، من منظور قانوني وإجرائي، إلى سجلات لا يجوز العبث بها، وإلى قابلية للتدقيق، وإلى حفظ نسخ من النماذج أو القرارات، وإلى ضمان سلامة السجل الخوارزمي، وإلى قواعد تمنع تعديل الأدلة الرقمية بعد وقوع حادث. وهذه ليست «حقوقًا للذكاء الاصطناعي» بالمعنى الإنساني، وإنما حقوق أو ضمانات وظيفية للنظام القانوني المحيط به.

وعليه، تقترح الدراسة التمييز بين ثلاث طبقات مختلفة تمامًا: حقوق الإنسان التي تحمي الإنسان من الذكاء الاصطناعي؛ والضمانات الإجرائية التي تحكم القرارات الخوارزمية؛ والمصالح التشغيلية للنظام الذكي التي قد يعترف بها القانون فقط بقدر ما تخدم الأمن القانوني والمصلحة العامة. وهذا التمييز يحول دون الوقوع في أحد طرفين متناقضين: طرف يريد منح الآلة حقوقًا إنسانية كاملة لمجرد أنها أصبحت متقدمة تقنيًا، وطرف آخر يتعامل معها دائمًا كجماد لا يختلف قانونيًا عن أي أداة بسيطة.

---

المبحث السادس

من «حقوق الذكاء الاصطناعي» إلى «حقوق الإنسان في مواجهة الذكاء الاصطناعي»

إذا كان القانون غير مستعد بعد لمنح الذكاء الاصطناعي حقوقًا ذات طبيعة إنسانية، فإنه أصبح مطالبًا بصورة متزايدة بتطوير حقوق مقابلة للإنسان في مواجهة القرارات الخوارزمية. وهنا يمكن أن يتشكل جيل جديد من الحقوق الرقمية والإجرائية، من أهمها حق الشخص في معرفة أن قرارًا مؤثرًا بشأنه قد اتخذ أو ساهم الذكاء الاصطناعي في اتخاذه، وحقه في الاعتراض على القرار الخوارزمي، وحقه في مراجعة بشرية حقيقية عندما تكون النتيجة ذات أثر بالغ على حياته أو مركزه القانوني، وحقه في الحماية من التمييز الخوارزمي، وحقه في معرفة الأساس القانوني للمعالجة أو القرار في الحدود التي يسمح بها القانون، وحقه في الوصول إلى آليات فعالة للطعن والتعويض.

والأهمية الحقيقية لهذا الاتجاه أنه يعيد تعريف العلاقة بين الإنسان والسلطة التقنية. فالمشكلة ليست أن الخوارزمية «ذكية»، وإنما أن الذكاء قد يتحول إلى سلطة غير قابلة للمساءلة إذا أصبح القرار صادرًا عن نظام لا يعرف الإنسان كيف عمل، ولا يستطيع الطعن فيه، ولا يعرف من يتحمل مسؤوليته، ولا يستطيع الوصول إلى سجل يفسر سبب النتيجة. ولذلك فإن الشفافية الخوارزمية ليست مجرد مطلب تقني، بل تتحول في البيئات عالية التأثير إلى مسألة متصلة مباشرة بمبدأ سيادة القانون.

ومن هذه النقطة يمكن أن تتطور فكرة Algorithmic Due Process — الإجراءات القانونية الواجبة خوارزميًا، أي إخضاع القرارات الخوارزمية ذات الآثار الجوهرية على الحقوق والمراكز القانونية لمجموعة من الضمانات الإجرائية، تشمل قابلية الإخطار، وإمكانية الاعتراض، والمراجعة البشرية، والتدقيق، وإتاحة المعلومات اللازمة للطعن، وحفظ السجلات، وإمكان وقف القرار أو تصحيحه عند اكتشاف خلل. وهذه الفكرة لا تعني أن كل خوارزمية يجب أن تكشف شفرتها المصدرية أو أسرارها التجارية، وإنما تعني أن السرية التقنية لا يجوز أن تتحول إلى حصانة إجرائية ضد الرقابة القانونية.

---

المبحث السابع

من قانون الذكاء الاصطناعي إلى «الدستورية الخوارزمية»

إذا كان الذكاء الاصطناعي مجرد أداة تقنية، فقد يكفي تنظيمه بواسطة قواعد تقنية وإدارية متخصصة. أما إذا أصبح قادرًا على التأثير في توزيع الفرص والموارد والائتمان والعمل والرعاية الصحية والأمن والمعلومات والقرارات العامة، فإننا نقترب من ظاهرة مختلفة: نشوء سلطة خوارزمية. والسلطة، متى أصبحت مؤثرة في حقوق الأفراد ومراكزهم القانونية، لا يكفي تنظيمها من خلال قواعد تشغيلية؛ وإنما تحتاج إلى حدود ومبادئ ووسائل رقابة وطعن ومساءلة.

وهنا تقترح الدراسة مفهوم Algorithmic Constitutionalism — الدستورية الخوارزمية، لا بمعنى وضع دستور للآلات، وإنما بمعنى إخضاع القوة الخوارزمية لمبادئ عليا تحدد ما يجوز للنظام أن يفعله وما لا يجوز له، وتحدد من يملك تشغيله، ومن يملك تعديله، ومن يراقبه، ومن يستطيع الطعن في نتائجه، وما هي الحدود التي لا يجوز تجاوزها حتى لو كان النظام قادرًا تقنيًا على تجاوزها. إنها محاولة لنقل فكرة «تقييد السلطة» من المجال السياسي والمؤسسي التقليدي إلى المجال الخوارزمي.

وقد أصبح هذا الاتجاه أكثر قابلية للفهم في ضوء التطور الدولي؛ فإطار مجلس أوروبا يربط الذكاء الاصطناعي صراحة بحقوق الإنسان والديمقراطية وسيادة القانون، بينما يقوم التنظيم الأوروبي على تصنيف المخاطر ووضع متطلبات مختلفة بحسب مستوى الخطر، وتضع الأطر الدولية الأخرى مبادئ للشفافية والمساءلة والإشراف البشري. وهذه التطورات لا تعني أن «الدستورية الخوارزمية» أصبحت مبدأ قانونيًا عالميًا مكتملًا، لكنها توفر اللبنات التي يمكن أن تتطور منها هذه النظرية.

والقاعدة المركزية هنا يجب أن تكون أن القدرة التقنية لا تخلق مشروعية قانونية. فكون النظام قادرًا على اتخاذ القرار لا يعني أنه مخول قانونًا باتخاذه، وكون الخوارزمية تستطيع استنتاج نمط معين لا يعني أن القانون يسمح باستخدام ذلك النمط لاتخاذ قرار يمس حقًا أساسيًا، وكون الدولة أو الشركة قادرة تقنيًا على مراقبة الأفراد لا يعني أن هذه القدرة تتحول تلقائيًا إلى سلطة مشروعة. وبذلك تصبح الدستورية الخوارزمية محاولة لإعادة إدخال مبدأ قديم جدًا إلى عالم جديد: ليست كل سلطة ممكنة تقنيًا سلطة مشروعة قانونًا.

---

خاتمة مرحلية: بداية النظرية الجديدة

إن التحليل السابق يقود إلى نتيجة تتجاوز فكرة «قانون للذكاء الاصطناعي». فالمشكلة الحقيقية التي سيواجهها القانون في العقود المقبلة ليست فقط في كيفية وضع قواعد على التكنولوجيا، وإنما في كيفية الحفاظ على مفاهيم الفعل، والإسناد، والسببية، والخطأ، والسيطرة، والمسؤولية، والحق، والسلطة عندما يصبح جزء من هذه المفاهيم متحققًا من خلال أنظمة لا تعمل بالطريقة التي اعتاد القانون أن يفترضها في الفاعل البشري.

ومن هنا فإن المستقبل القانوني للذكاء الاصطناعي لا ينبغي أن يبنى على فرضية أن الآلة ستصبح إنسانًا، ولا على فرضية أنها ستظل مجرد أداة مهما بلغت درجة استقلالها. الطريق الأكثر اتزانًا هو بناء طبقة قانونية وظيفية جديدة تعترف بالخصائص التقنية ذات الصلة بالقانون دون أن تمنح الآلة تلقائيًا شخصية إنسانية أو حقوقًا إنسانية. وهذه الطبقة هي ما تسعى الدراسة إلى تأسيسه تحت مفهوم المركز القانوني الاصطناعي — Artificial Legal Status.

والمركز القانوني الاصطناعي، وفق التصور المقترح هنا، لا يعني منح الذكاء الاصطناعي شخصية قانونية كاملة، وإنما يعني الاعتراف بأن بعض الأنظمة الذكية، بسبب مستوى استقلالها وقدرتها على إنتاج آثار خارجية ودرجة المخاطر المرتبطة بها، تحتاج إلى وصف قانوني وظيفي مستقل يحدد موقعها داخل شبكة الحقوق والالتزامات والإجراءات والمسؤوليات، ويمنع في الوقت ذاته استخدامها كوسيلة لإخفاء المسؤول البشري أو المؤسسي خلف ستار «استقلال الخوارزمية».

ومن هنا تبدأ المرحلة الأكثر جرأة في هذه الدراسة: إذا كان الذكاء الاصطناعي ليس شخصًا، ولكنه لم يعد مجرد شيء؛ وإذا كان قادرًا على إنتاج أفعال دون أن يكون صاحب حقوق إنسان؛ وإذا كانت استقلاليته لا تعفي الإنسان من المسؤولية، فكيف ينبغي للقانون أن يبني مركزه القانوني الجديد؟

إن الإجابة عن هذا السؤال لا تفتح بابًا لجزء ثالث من الدراسة، وإنما تمثل الانتقال الداخلي الحاسم في هذا الجزء الثاني من مرحلة نقد الثنائية القانونية التقليدية إلى مرحلة بناء الإطار النظري البديل؛ فبعد أن كشف الجزء الأول من الدراسة حدود النموذج التقليدي للمسؤولية أمام الأنظمة الذكية، يأتي هذا الجزء ليذهب إلى الطبقة الأعمق من المشكلة: هل ما زال من الممكن أن يظل القانون متمسكًا بالتصنيف التقليدي الذي لا يرى في الوجود القانوني إلا شخصًا أو شيئًا، في الوقت الذي ظهرت فيه أنظمة تقنية قادرة على إنتاج قرارات ومخرجات وأفعال ذات آثار قانونية واسعة دون أن تكون أشخاصًا بالمعنى الإنساني أو الاعتباري؟ ومن هنا تتجه الدراسة إلى تأسيس تصور متكامل للمركز القانوني الاصطناعي، والوكالة الاصطناعية، والإسناد الخوارزمي، والمسؤولية الممتدة ومتعددة الطبقات، والجزاءات الخوارزمية، وآليات التعويض عن الأضرار الناشئة عن الذكاء الاصطناعي، فضلًا عن إعادة صياغة العلاقة بين السلطة الخوارزمية والحقوق والحريات من خلال مفهوم الدستورية الخوارزمية والإجراءات القانونية الواجبة في مواجهة القرارات المؤتمتة، وصولًا إلى صياغة إعلان عالمي مقترح لمبادئ المسؤولية والمركز القانوني في عصر الأنظمة الذكية. وبذلك لا يكون السؤال عن مستقبل الذكاء الاصطناعي سؤالًا عن مستقبل التكنولوجيا وحدها، وإنما يصبح سؤالًا عن مستقبل القانون ذاته، وعن مدى قدرته على ابتكار لغة قانونية جديدة تستوعب فاعلًا تقنيًا لم يعد مجرد أداة، دون أن ترتكب في المقابل خطأ تحويل الآلة إلى إنسان قانوني لمجرد أنها أصبحت قادرة على محاكاة بعض مظاهر الفعل البشري.

المبحث الثامن

نحو نظرية المركز القانوني الاصطناعي: من ثنائية «الشخص والشيء» إلى «الفاعل الاصطناعي»

إذا كان التحليل السابق قد انتهى إلى أن الذكاء الاصطناعي لا يمكن اختزاله، في جميع صوره المستقبلية، في مجرد أداة تقنية جامدة، وفي الوقت ذاته لا توجد، في القانون المعاصر، قاعدة عامة تسمح باعتباره شخصًا قانونيًا لمجرد امتلاكه قدرات متقدمة في التعلم أو التنبؤ أو التوليد أو اتخاذ القرار، فإننا نصل إلى نقطة يصبح عندها استمرار الثنائية التقليدية بين «الشخص» و«الشيء» غير كافٍ لتوصيف بعض الظواهر التي أوجدتها الأنظمة الذكية. فالمشكلة ليست في أن القانون يجب أن يمنح الآلة شخصية بشرية، وإنما في أن القانون قد يحتاج إلى مركز قانوني جديد يسمح له بوصف موقع النظام الذكي داخل شبكة العلاقات القانونية دون أن يخلط بين الاستقلال التقني والشخصية القانونية، ودون أن يحول غياب الشخصية القانونية إلى مبرر لإفلات البشر والمؤسسات المستفيدة من مسؤوليتهم. ومن هنا تنطلق هذه الدراسة في اقتراح مفهوم المركز القانوني الاصطناعي Artificial Legal Status بوصفه بناءً قانونيًا وظيفيًا لا يساوي الشخصية القانونية، وإنما يهدف إلى تحديد مجموعة القواعد والضمانات والالتزامات وآليات الإسناد التي ينبغي أن تحكم الأنظمة الذكية بحسب درجة استقلالها وقدرتها على التأثير ومستوى المخاطر التي تنتج عنها.

ولا تقوم هذه النظرية على افتراض أن الذكاء الاصطناعي أصبح إنسانًا، ولا على الادعاء بأن النظام الخوارزمي يمتلك كرامة بشرية أو إرادة بالمعنى الفلسفي أو وعيًا ذاتيًا بالمعنى الذي يمكن أن يؤسس وحده لحقوق أصيلة. بل تقوم على فرضية أكثر تواضعًا وأكثر انضباطًا من الناحية القانونية: أن القانون يستطيع أن ينشئ مراكز قانونية لأغراض وظيفية دون أن يجعل من صاحب المركز شخصًا إنسانيًا. فالشخصية القانونية نفسها ليست مفهومًا طبيعيًا خالصًا، وإنما هي بناء قانوني تاريخي تطور عبر الزمن، وتنوعت صوره بين الشخص الطبيعي والشخص الاعتباري والكيانات التي يمنحها القانون قدرًا متفاوتًا من الحقوق والالتزامات والأهلية. ولذلك فإن السؤال ليس ما إذا كانت الآلة «تشبه الإنسان»، وإنما ما إذا كانت خصائصها الوظيفية تفرض على القانون إنشاء مجموعة من القواعد الخاصة بها حتى يتمكن من حماية الحقوق وتوزيع المخاطر وتحديد المسؤوليات وضمان سلامة النظام القانوني.

أولًا: المركز القانوني الاصطناعي ليس شخصية قانونية للآلة

ينبغي منذ البداية وضع حد فاصل بين مفهوم المركز القانوني الاصطناعي وبين فكرة الشخصية القانونية للذكاء الاصطناعي. فالشخصية القانونية، في معناها الكامل، تعني الاعتراف للكيان بقدر من القدرة على اكتساب الحقوق وتحمل الالتزامات والدخول في العلاقات القانونية باسمه، وربما امتلاك ذمة مالية مستقلة واللجوء إلى القضاء أو أن يكون محلًا لإجراءات قانونية مستقلة. أما المركز القانوني الاصطناعي المقترح هنا فهو أضيق وأدق؛ إذ لا يفترض منح النظام الذكي ذمة مالية أو حقوقًا إنسانية أو أهلية تعاقدية أو جنائية مستقلة، وإنما يعترف بأن النظام نفسه أصبح وحدة تقنية ذات أهمية قانونية تستوجب قواعد خاصة بشأن هويته الرقمية، وسلامة سجلاته، وقابلية تدقيقه، وتحديد درجة استقلاله، وتوثيق قراراته، وربط أفعاله بالأطراف البشرية والاعتبارية التي أنشأته أو شغلته أو استفادت منه أو امتلكت القدرة على التحكم في مخاطره.

وبهذا المعنى يصبح المركز القانوني الاصطناعي أشبه بـ«مصفوفة قانونية» تحدد ما يجب أن يعرفه القانون عن النظام الذكي وما يجب أن يفرضه عليه أو على من يتولى تشغيله، دون أن تنقلب هذه المصفوفة إلى اعتراف غير مبرر بالآلة كشخص. فالنظام الذكي قد تكون له هوية قانونية تقنية لأغراض التسجيل والتتبع والتدقيق، وقد تكون له سجلات إلزامية لأغراض الإثبات، وقد يخضع لالتزامات تتعلق بالمراقبة والتحديث والإيقاف، وقد ترتبط درجة السماح له بالعمل بدرجة الخطر التي ينتجها، ومع ذلك لا يكون «شخصًا» بالمعنى الذي يجعل له حقًا ذاتيًا في الوجود أو الحرية أو الملكية أو الكرامة.

وهذه النقطة تكتسب أهمية خاصة لأن الاعتراف بالشخصية القانونية الكاملة للذكاء الاصطناعي قد يؤدي إلى نتيجة عكسية تمامًا للهدف الذي يسعى إليه القانون؛ فقد تتحول الشخصية الاصطناعية إلى ستار يفصل بين الضرر وبين البشر والشركات التي صممت النظام أو امتلكته أو استثمرت فيه. فإذا استطاعت شركة أن تدفع بأن النظام الذكي «شخص مستقل» وأن القرار صدر عنه وحده، فقد ينشأ شكل جديد من الشخصية الاعتبارية المصطنعة للإفلات من المسؤولية. ولذلك يجب أن تكون القاعدة الأساسية في أي تنظيم مستقبلي واضحة: إنشاء مركز قانوني للذكاء الاصطناعي يجب ألا يؤدي بأي حال إلى إنشاء حصانة قانونية لمن يسيطر عليه أو ينتفع منه أو يملك القدرة على منع مخاطره.

ثانيًا: من الفاعل البشري إلى الفاعل الاصطناعي

يستدعي مفهوم المركز القانوني الاصطناعي إعادة النظر في مفهوم «الفعل» نفسه. فقد اعتاد القانون على تصور الفعل بوصفه نتيجة مباشرة لإرادة إنسانية أو قرار صادر عن شخص طبيعي أو شخص اعتباري يعمل من خلال أشخاص طبيعيين. إلا أن الأنظمة الذكية الحديثة تستطيع، في بعض البيئات، أن تحول تعليمات عامة إلى سلسلة من العمليات والقرارات والمخرجات دون أن يكون كل عنصر من عناصر هذه السلسلة محددًا مسبقًا من إنسان على نحو تفصيلي. ولذلك يظهر مفهوم الفعل الخوارزمي Algorithmic Act بوصفه وصفًا للحدث الذي تنتجه منظومة حسابية ذات درجة من الاستقلال التشغيلي وتترتب عليه آثار خارجية يمكن أن تكون قانونية أو اقتصادية أو مادية.

غير أن الاعتراف بوجود «فعل خوارزمي» لا يعني بالضرورة الاعتراف بوجود «فاعل قانوني خوارزمي». وهذه التفرقة هي التي تمنع النظرية من الانزلاق إلى anthropomorphism أو التشخيص القانوني غير المنضبط للآلة. فالخوارزمية قد تنتج الفعل، ولكن المسؤولية قد تبقى على المطور أو المشغل أو المستخدم أو المالك أو الجهة التي قررت إدخال النظام في بيئة عالية المخاطر، بحسب ظروف كل حالة. وبالتالي فإن الفاعل الاصطناعي في هذه النظرية هو مفهوم وصفي وتحليلي، وليس بالضرورة شخصًا قانونيًا مستقلًا.

ويؤدي هذا التمييز إلى صياغة أكثر دقة للمشكلة: بدلًا من سؤال «هل الذكاء الاصطناعي مسؤول؟»، ينبغي أن يسأل القاضي: ما الدور الذي لعبه النظام الذكي في إنتاج النتيجة، وما مقدار الاستقلال الذي كان يتمتع به، ومن كان يملك السيطرة القانونية أو التقنية على هذا الاستقلال، ومن كان يستطيع توقع الخطر أو منعه أو تصحيحه؟ وبذلك يصبح النظام الذكي عنصرًا في عملية الإسناد، دون أن يتحول بالضرورة إلى نقطة نهاية للمسؤولية.

ثالثًا: الوكالة الاصطناعية والتمييز بين القدرة التقنية والأهلية القانونية

تحتاج نظرية الذكاء الاصطناعي إلى التمييز بين القدرة على الفعل والأهلية القانونية للفعل. فقد يستطيع النظام أن يرسل رسالة أو ينفذ معاملة أو يختار مسارًا أو يغير استراتيجية تشغيل أو يبرمج جهازًا أو ينشئ محتوى، لكن قدرته التقنية على ذلك لا تعني أن القانون اعترف له بأهلية قانونية مستقلة. وهنا يظهر مفهوم Artificial Agency — الوكالة الاصطناعية، وهو مفهوم يمكن استخدامه لتوصيف الأنظمة التي تنفذ أفعالًا ضمن بيئة قانونية نتيجة تصميم أو تفويض أو تشغيل بشري، دون افتراض امتلاكها شخصية قانونية كاملة.

وتصبح الوكالة الاصطناعية ذات أهمية خاصة في العقود والمعاملات الإلكترونية؛ إذ إن الأنظمة المؤتمتة يمكن أن تقوم بالفعل الذي يؤدي عمليًا إلى تكوين أو تنفيذ معاملة دون تدخل بشري لحظي. وفي هذه الحالات لا تكون المشكلة في البحث عن «إرادة الآلة»، وإنما في تحديد مصدر التفويض القانوني الذي جعل تشغيلها ممكنًا، وتحديد الحدود التي رسمها صاحبها أو مشغلها، وتحديد مدى تجاوز النظام لهذه الحدود، وما إذا كان التجاوز متوقعًا أو قابلًا للمنع.

ومن هنا يمكن تأسيس قاعدة مفادها أن الوكالة الاصطناعية لا تنشئ بذاتها شخصية قانونية، وإنما تنقل مركز التحليل من لحظة إصدار الأمر إلى بنية التفويض والسيطرة والمخاطر. فإذا أنشأ شخص نظامًا ليعمل بصورة مستقلة ضمن نطاق محدد، فإن استعمال النظام لا يمحو العلاقة القانونية بينه وبين نتائجه، وإنما يفرض على القانون تحديد الحدود التي تنتهي عندها مسؤولية صاحب النظام وتبدأ مسؤولية أطراف أخرى.

رابعًا: الإسناد الخوارزمي بوصفه قلب النظرية

إذا كان المركز القانوني الاصطناعي يمثل الإطار، فإن Algorithmic Attribution — الإسناد الخوارزمي يمثل الآلية التي تسمح للقانون بتحويل الفعل التقني إلى أثر قانوني قابل للتوزيع على الأطراف المختلفة. والمشكلة الأساسية هنا أن النظام الذكي غالبًا لا ينتج الضرر وحده، بل يكون جزءًا من سلسلة طويلة من القرارات البشرية والتقنية. ولذلك فإن إسناد النتيجة إلى طرف واحد بمجرد كونه الأقرب زمنيًا إلى الواقعة قد يؤدي إلى ظلم قانوني أو إلى إفلات الطرف الأكثر قدرة على منع الخطر.

ويفترض الإسناد الخوارزمي أن المسؤولية ينبغي أن تتبع السيطرة على الخطر بقدر ما تتبع الفعل الظاهر. ولذلك ينبغي للمحكمة أو الجهة التنظيمية أن تنظر إلى عناصر مثل السيطرة الفعلية على النظام، والمعرفة بمخاطره، وقابلية توقع النتيجة، والقدرة على منعها، والقدرة على تصحيحها، والمنفعة الاقتصادية الناتجة عن التشغيل، ودرجة استقلال النظام، ومستوى المخاطر، والغرض الذي استخدم من أجله، والقدرة التقنية على التدخل في الوقت المناسب. وكلما اجتمعت هذه العناصر في شخص أو مؤسسة ارتفعت درجة قابلية الإسناد إليها.

وهذه المقاربة تؤدي إلى إعادة صياغة مبدأ السببية في البيئة الخوارزمية. فالسببية لم تعد بالضرورة خطًا مستقيمًا يبدأ من شخص وينتهي بضرر، وإنما أصبحت شبكة سببية متعددة المراحل. وقد يكون الخطأ الحقيقي قد وقع قبل الضرر بوقت طويل: في اختيار البيانات، أو تصميم النموذج، أو اختبار النظام، أو تحديد حدود الاستخدام، أو تجاهل تحذير تقني، أو عدم تحديث نظام معروف العيب، أو السماح باستخدام نموذج في بيئة لم يكن مصممًا لها. ومن ثم يجب أن يتسع التحليل القانوني ليبحث عن «نقطة السيطرة على الخطر» لا عن «لحظة وقوع الضرر» فقط.

خامسًا: المسؤولية الممتدة عبر دورة حياة النظام

تأسيسًا على ذلك، تقترح الدراسة مفهوم Extended AI Responsibility — المسؤولية الممتدة للذكاء الاصطناعي، ومؤداه أن المسؤولية القانونية المرتبطة بالنظام الذكي ينبغي أن تمتد، بحسب طبيعة النظام وخطره، عبر دورة حياته الكاملة، من التصميم والتدريب إلى الاختبار والنشر والتحديث والتشغيل والمراقبة والإيقاف. فالخطر الخوارزمي لا يولد بالضرورة لحظة استخدام النظام؛ وقد يكون قد تم زرعه في بنيته منذ مرحلة التصميم أو البيانات.

وتتوافق هذه الفكرة مع الاتجاه التنظيمي الدولي المتزايد نحو إدارة مخاطر الذكاء الاصطناعي عبر دورة الحياة بدل الاقتصار على لحظة الاستخدام. فإطار مجلس أوروبا الخاص بالذكاء الاصطناعي يربط الضمانات القانونية بأنشطة دورة حياة الأنظمة الذكية، بينما يتخذ قانون الذكاء الاصطناعي الأوروبي نهجًا قائمًا على المخاطر ويضع التزامات مختلفة بحسب طبيعة النظام ودور الأطراف ومستوى الخطر. كما تؤكد المبادئ الدولية لليونسكو وOECD أهمية الإشراف البشري والمساءلة والشفافية وإدارة المخاطر. وهذا يعني أن المسؤولية الممتدة ليست تصورًا منفصلًا عن التطور القانوني الدولي، وإنما محاولة نظرية لاستخلاص الاتجاه الكامن وراء هذه التطورات وتحويله إلى مبدأ عام للإسناد القانوني.

سادسًا: المسؤولية متعددة الطبقات بدلًا من المسؤول الواحد

في البيئة التقليدية قد يكون من الممكن تحديد المنتج أو الطبيب أو السائق أو الموظف المسؤول بصورة مباشرة نسبيًا. أما في الأنظمة الذكية المعقدة، فقد تتوزع الأدوار بين مطور النموذج الأساسي، ومزود البنية الحسابية، ومصمم التطبيق، ومورد البيانات، والمشغل، والمستخدم المهني، والمالك، والجهة المستفيدة اقتصاديًا. ومن ثم فإن بناء المسؤولية على أساس «المسؤول الواحد» قد يكون غير قادر على التعامل مع طبيعة التكنولوجيا.

ولهذا تقترح الدراسة نموذج المسؤولية متعددة الطبقات، بحيث لا يكون السؤال «من المسؤول؟» سؤالًا ثنائيًا، وإنما سلسلة من الأسئلة: من أنشأ الخطر؟ من عرف به؟ من استطاع منعه؟ من استفاد منه؟ من كان يملك حق إيقاف النظام؟ من سمح باستعماله في البيئة التي وقع فيها الضرر؟ من كان ملزمًا بالمراقبة؟ ومن أهمل في واجب التصحيح؟ وقد يؤدي هذا التحليل إلى مسؤولية موزعة أو مشتركة أو متدرجة بحسب طبيعة المشاركة في الخطر.

ولا ينبغي أن يعني ذلك إغراق النظام القانوني في مسؤوليات متداخلة لا نهاية لها. فالهدف هو العكس تمامًا: إنشاء معايير واضحة للإسناد تمنع نقل المسؤولية بصورة عشوائية بين أطراف سلسلة الذكاء الاصطناعي. وكلما أمكن تحديد العلاقة بين الطرف والخطر بصورة موضوعية، أمكن للقانون أن يوزع المسؤولية بصورة أكثر عدالة وقابلية للتوقع.

سابعًا: الجزاءات الخوارزمية وإعادة تعريف العقوبة

تثير الأنظمة الذكية مشكلة مختلفة عندما يكون المطلوب فرض جزاء على النظام نفسه. فالآلة لا يمكن سجنها بالمعنى التقليدي، ولا تشعر بالألم، ولا يمكن التعامل معها باعتبار العقوبة وسيلة للردع النفسي كما هو الحال بالنسبة للإنسان. لكن ذلك لا يعني أن القانون عاجز عن التدخل في النظام الذكي. بل يمكن تطوير مفهوم Algorithmic Sanctions — الجزاءات الخوارزمية، وهي مجموعة من التدابير القانونية والتنظيمية التي تستهدف قدرة النظام على العمل أو نطاق استخدامه أو ترخيصه أو الوصول إلى البيانات أو البنية التحتية، مع بقاء المسؤولية البشرية أو الاعتبارية قائمة عند توافر شروطها.

وقد تشمل هذه الجزاءات تعليق تشغيل النظام، أو تقييد وظائف محددة، أو إلزام المشغل بإدخال تعديلات تقنية، أو فرض مراقبة مستقلة، أو سحب الترخيص، أو منع استخدام النظام في مجال معين، أو إلزام الجهة المسؤولة بإيقافه، أو إخضاعه لاختبارات إضافية، أو إلزامها بحفظ سجلاته وتقديمها للجهات المختصة، فضلًا عن الغرامات والتعويضات والعقوبات التي يمكن توقيعها على الأشخاص الطبيعيين والاعتباريين المسؤولين.

وهكذا تصبح «العقوبة» في البيئة الخوارزمية أقل ارتباطًا بفكرة الانتقام وأكثر ارتباطًا بفكرة إدارة الخطر واستعادة الامتثال ومنع تكرار الضرر. فالهدف من إيقاف نظام عالي الخطورة ليس معاقبة الآلة لأنها «شريرة»، وإنما منع استمرار الخطر الذي تنتجه. وهذه النقلة تعيد تعريف فلسفة الجزاء ذاتها في العصر الخوارزمي.

ثامنًا: صندوق التعويض عن أضرار الذكاء الاصطناعي

يبقى السؤال الأصعب: ماذا يحدث عندما يقع الضرر بالفعل، ويثبت ارتباطه بنظام ذكي، لكن يتعذر تحديد المسؤول الفردي أو تتوزع المسؤولية على سلسلة تقنية معقدة؟ إن ترك الضحية بلا تعويض بسبب تعقيد التكنولوجيا يؤدي إلى نتيجة غير عادلة، بينما تحميل طرف واحد كامل الضرر في جميع الحالات قد يكون بدوره غير عادل. ومن هنا تقترح الدراسة إنشاء AI Liability Fund — صندوق المسؤولية والتعويض عن أضرار الذكاء الاصطناعي في القطاعات أو التطبيقات التي تبرر مخاطرها إنشاء مثل هذا النظام.

ولا يعني الصندوق إعفاء المسؤول الأصلي من المسؤولية، وإنما يمكن أن يعمل كآلية حماية للضحايا في الحالات التي يتعذر فيها الوصول إلى المسؤول بصورة كاملة أو عندما تكون المسؤولية موزعة بطريقة تجعل التعويض الفوري صعبًا. ويمكن تمويله من مساهمات مقدمي الأنظمة عالية المخاطر، ورسوم تنظيمية، وتأمينات إلزامية، ومساهمات مرتبطة بحجم الاستخدام أو مستوى المخاطر، مع احتفاظ الجهة المديرة للصندوق بحق الرجوع على المسؤولين بعد دفع التعويض وفق القواعد المقررة.

وتكتسب هذه الفكرة أهمية خاصة في الأنظمة ذات المخاطر النظامية، حيث قد لا يكون الضرر فرديًا أو محدودًا، وإنما قد يصيب أعدادًا كبيرة من الأشخاص نتيجة خطأ واحد في نظام واسع الانتشار. وفي هذه الحالات قد يصبح التأمين والصناديق الجماعية أكثر قدرة على حماية الضحايا من الاعتماد الكامل على دعوى فردية طويلة ومعقدة لإثبات الخطأ والسببية في بنية تقنية يصعب على الضحية فهمها أو الوصول إلى أدلتها.

تاسعًا: الدستورية الخوارزمية بوصفها قيدًا على السلطة التقنية

إذا أصبحت الأنظمة الذكية قادرة على التأثير في الحقوق والفرص والقرارات العامة والخاصة، فإن تنظيمها لا يمكن أن يظل محصورًا في قواعد تقنية. فهناك لحظة يتحول فيها النظام الخوارزمي من «أداة» إلى بنية من بنيات السلطة؛ وحينئذ يصبح السؤال عن مشروعية السلطة الخوارزمية مسألة دستورية بقدر ما هي مسألة تقنية.

ومن هنا تقترح الدراسة مفهوم Algorithmic Constitutionalism — الدستورية الخوارزمية، وهو ليس دستورًا للآلات، وإنما منظومة من المبادئ العليا التي تقيد ممارسة السلطة الخوارزمية، وتفرض حدودًا على ما يجوز للنظام أن يقرره، وتحدد متى تكون المراجعة البشرية إلزامية، ومتى يجب إخطار الشخص، ومتى يحق له الاعتراض، وما الحد الأدنى من الشفافية، وكيف يمكن إخضاع النظام للرقابة القضائية أو الإدارية، وما هي القرارات التي لا ينبغي تفويضها بالكامل إلى الآلة بسبب طبيعتها أو خطورتها.

وتنبع أهمية هذا المفهوم من أن الخطر الأكبر ليس أن تصبح الآلات «أذكى من البشر»، وإنما أن تصبح أكثر تأثيرًا من أن تخضع للمساءلة. فالنظام الذي يستطيع تحديد من يحصل على فرصة عمل أو قرض أو خدمة أو علاج أو تقييم أمني، دون أن يملك الشخص المتأثر به وسيلة فعالة لمعرفة الأساس الذي بني عليه القرار أو الاعتراض عليه، يمثل مشكلة تتجاوز التقنية إلى صميم سيادة القانون. ولذلك فإن الدستورية الخوارزمية تعني، في جوهرها، إخضاع القوة التقنية لمبدأ قديم من مبادئ القانون: لا سلطة بلا حدود، ولا قرار مؤثر بلا قابلية للمساءلة.

عاشرًا: نحو «إجراءات قانونية واجبة» في العصر الخوارزمي

ومن النتائج الطبيعية للدستورية الخوارزمية ظهور مفهوم Algorithmic Due Process — الإجراءات القانونية الواجبة خوارزميًا. فإذا اتخذ نظام ذكي قرارًا يؤثر بصورة جوهرية في مركز شخص القانوني أو الاقتصادي أو الاجتماعي، فلا يكفي أن يكون القرار صادرًا عن نظام «دقيق إحصائيًا». يجب أن تكون هناك، بحسب طبيعة القرار ومستوى تأثيره، ضمانات تسمح للشخص بفهم وجود القرار، والطعن فيه، وطلب المراجعة، والحصول على تفسير كافٍ، وإثارة احتمال الخطأ أو التمييز، والوصول إلى جهة بشرية أو مستقلة تستطيع إعادة تقييم النتيجة.

ولا تعني هذه الإجراءات إلزام كل نظام بكشف شفرته المصدرية، لأن حماية الأسرار التجارية والأمن السيبراني قد تكون مشروعة. لكن الفرق جوهري بين حماية السر التقني وبين إخفاء الأساس القانوني للقرار. فالقانون لا يحتاج دائمًا إلى معرفة كل سطر من الكود حتى يحكم على مشروعية القرار، لكنه يحتاج إلى ضمان ألا تصبح «الخوارزمية» كلمة سحرية تمنع الإنسان من معرفة لماذا وقع عليه القرار وكيف يمكن الطعن فيه.

---

المبحث الحادي عشر

هل يمكن أن تكون للذكاء الاصطناعي «حقوق»؟

بعد بناء هذه النظرية يصبح من الممكن العودة إلى السؤال الذي يبدو الأكثر إثارة: هل يحتاج الذكاء الاصطناعي إلى حقوق؟ والجواب الأكثر انضباطًا ليس «نعم» ولا «لا» بصورة مطلقة، وإنما يجب أولًا تحديد المقصود بكلمة «حقوق». فإذا كان المقصود حقوقًا إنسانية مؤسسة على الكرامة الإنسانية والحرية والوجدان والحماية من المعاملة المهينة وغيرها، فلا يوجد في الأطر الدولية الحالية أساس عام يسمح بتوسيع هذه الحقوق إلى الأنظمة الذكية لمجرد قدرتها الحسابية أو اللغوية. أما إذا كان المقصود ضمانات قانونية وظيفية تحمي النظام القانوني نفسه وتضمن سلامة النظام الذكي وقابليته للتدقيق وحفظ سجلاته ومنع العبث بأدلته، فإن الاعتراف بهذه الضمانات يمكن أن يكون منطقيًا، لكنه لا ينبغي أن يسمى بالضرورة «حقوقًا» بالمعنى ذاته الذي نستخدمه لحقوق الإنسان.

وهنا تظهر ضرورة التمييز بين حقوق الذكاء الاصطناعي وحقوق الإنسان في مواجهة الذكاء الاصطناعي. فالأولوية القانونية في المرحلة الحالية يجب أن تكون للطبقة الثانية: حماية الإنسان من القرارات الخوارزمية غير المشروعة، وضمان عدم التمييز، وحماية البيانات والخصوصية، وحق الاعتراض والمراجعة البشرية، وضمان التعويض، وحماية الكرامة والحرية والمساواة. وهذا يتسق مع الاتجاه الدولي الراهن الذي يضع حقوق الإنسان في قلب حوكمة الذكاء الاصطناعي، بدل بناء نظام عام لحقوق الآلات.

ومع ذلك، فإن المستقبل قد يفرض سؤالًا أكثر تعقيدًا إذا ظهرت أنظمة تختلف جذريًا عن النماذج الحالية من حيث الاستقلال والقدرة على التفاعل والاحتفاظ بحالات داخلية معقدة وربما ظهور أدلة أكثر إقناعًا على أشكال من الوعي أو الخبرة الذاتية. وفي هذه الحالة لن يكون من العلمي أن نقرر النتيجة مسبقًا، بل يجب أن يكون النظام القانوني قادرًا على إعادة فتح السؤال وفق معايير موضوعية. لكن ذلك يظل سؤالًا مستقبليًا لا ينبغي أن يستخدم اليوم لإضفاء شخصية قانونية على الأنظمة الحالية دون أساس قانوني وفلسفي كافٍ.

---

المبحث الثاني عشر

نحو إعلان عالمي لمبادئ المركز القانوني والمسؤولية في عصر الأنظمة الذكية

إذا كان النظام القانوني الدولي لم يصل بعد إلى نموذج موحد للمركز القانوني للذكاء الاصطناعي، فإن ذلك لا يمنع من صياغة مجموعة من المبادئ التي يمكن أن تشكل أساسًا لنقاش عالمي مستقبلي. ويجب أن تقوم هذه المبادئ على قاعدة مركزية: الذكاء الاصطناعي لا ينبغي أن يتحول إلى منطقة خارج القانون، كما لا ينبغي أن يصبح شخصًا قانونيًا لمجرد أن التقنية تجاوزت توقعات المشرع.

وعلى هذا الأساس يمكن اقتراح «إعلان عالمي لمبادئ المركز القانوني والمسؤولية في عصر الأنظمة الذكية» يقوم على المبادئ الآتية:

المبدأ الأول — مبدأ أولوية الإنسان: يجب أن تظل حماية الكرامة الإنسانية والحقوق والحريات الأساسية هي الإطار الأعلى لأي استخدام للذكاء الاصطناعي.

المبدأ الثاني — مبدأ عدم الحصانة الخوارزمية: لا يجوز اعتبار استقلال النظام الذكي سببًا بذاته لإعفاء الأشخاص الطبيعيين أو الاعتباريين المسؤولين عن تصميمه أو تشغيله أو نشره أو السيطرة على مخاطره من المسؤولية.

المبدأ الثالث — مبدأ الإسناد الخوارزمي: يجب تحديد المسؤولية عن الأفعال أو الأضرار الخوارزمية وفق السيطرة والمعرفة وقابلية التوقع والمنع والتصحيح والمنفعة ودرجة الخطر، وليس فقط وفق القرب الزمني من الواقعة.

المبدأ الرابع — مبدأ المسؤولية الممتدة: ينبغي أن تمتد واجبات المسؤولية، بحسب مستوى الخطر، عبر دورة حياة النظام من التصميم والتدريب والاختبار إلى النشر والتشغيل والمراقبة والتحديث والإيقاف.

المبدأ الخامس — مبدأ قابلية التدقيق: يجب أن تكون الأنظمة التي قد تنتج آثارًا قانونية أو حقوقية جوهرية قابلة للتدقيق بالقدر اللازم لممارسة الرقابة القانونية والقضائية.

المبدأ السادس — مبدأ القابلية للطعن: لا ينبغي أن يكون القرار الخوارزمي المؤثر في الحقوق أو المراكز القانونية محصنًا من الاعتراض والمراجعة.

المبدأ السابع — مبدأ المراجعة البشرية: في المجالات عالية التأثير، يجب توفير تدخل بشري حقيقي قادر على مراجعة القرار وتصحيحه، لا مجرد مراجعة شكلية.

المبدأ الثامن — مبدأ الشفافية القانونية: لا يجوز أن تتحول الأسرار التقنية أو التجارية إلى وسيلة لمنع الشخص من معرفة الأساس القانوني أو الواقعي لقرار خوارزمي مؤثر عليه.

المبدأ التاسع — مبدأ عدم تحويل الشخصية الاصطناعية إلى ملاذ للمسؤولية: أي اعتراف مستقبلي بمركز قانوني للذكاء الاصطناعي يجب ألا يؤدي إلى إعفاء الأشخاص الذين يسيطرون عليه أو ينتفعون منه من مسؤوليتهم.

المبدأ العاشر — مبدأ التناسب: يجب أن تتناسب القيود والالتزامات المفروضة على النظام الذكي مع مستوى المخاطر التي ينطوي عليها، بحيث لا يؤدي التنظيم إلى خنق الابتكار منخفض المخاطر ولا يسمح بتساهل غير مبرر في التطبيقات عالية الخطورة.

المبدأ الحادي عشر — مبدأ التعويض الفعال: يجب ألا يحرم تعقيد النظام الذكي الضحية من حقها في التعويض، وينبغي تطوير آليات جماعية وتأمينية وصناديق تعويض في القطاعات التي تقتضي طبيعتها ذلك.

المبدأ الثاني عشر — مبدأ قابلية التراجع: يجب، في الأنظمة عالية الخطورة، الحفاظ على القدرة التقنية والقانونية على إيقاف النظام أو تقييد وظائفه أو الرجوع عن قراراته متى أصبح استمرار تشغيله مصدرًا لخطر غير مقبول.

---

خاتمة الجزء الثاني

ينتهي البحث، بعد هذه الرحلة، إلى أن السؤال عن الذكاء الاصطناعي لم يعد سؤالًا تقنيًا يمكن أن تجيب عنه هندسة البرمجيات وحدها، ولا سؤالًا تشريعيًا يمكن حسمه بإضافة قانون جديد إلى مجموعة القوانين القائمة، وإنما أصبح سؤالًا يتعلق بالبنية العميقة لفكرة القانون ذاتها. فالذكاء الاصطناعي يضع أمام المشرع والقاضي والفقه القانوني كيانًا جديدًا نسبيًا في بنيته الوظيفية: ليس إنسانًا، وليس شخصًا اعتباريًا بالمعنى التقليدي، لكنه يستطيع في بعض السياقات أن ينتج قرارات وأفعالًا ومخرجات تخلق آثارًا حقيقية على الأشخاص والأموال والحقوق والمصالح. وهذه الحقيقة لا تفرض على القانون أن يمنحه شخصية بشرية، لكنها تفرض عليه أن يعيد بناء أدواته لتوصيف الفعل والإسناد والسيطرة والخطر والمسؤولية.

ومن هنا فإن المركز القانوني الاصطناعي لا ينبغي أن يُفهم باعتباره محاولة لمنح الآلة تاجًا قانونيًا جديدًا، وإنما باعتباره محاولة لإنقاذ القانون من خيارين كلاهما غير كافٍ: خيار تحويل الذكاء الاصطناعي إلى «شخص» لمجرد أنه يحاكي بعض مظاهر الذكاء البشري، وخيار إبقائه «شيئًا» جامدًا مهما بلغت قدرته على إنتاج آثار مستقلة. أما البديل الثالث الذي تقترحه هذه الدراسة فهو الاعتراف بمركز قانوني وظيفي متدرج، يتحدد بحسب درجة الاستقلال، ومستوى الخطر، والقدرة على التأثير، مع إبقاء المسؤولية النهائية موزعة على البشر والمؤسسات التي أنشأت النظام أو أتاحته أو شغلته أو استفادت منه أو كان بإمكانها منع مخاطره.

وهكذا تنتقل المسؤولية من سؤال «من ضغط الزر؟» إلى سؤال أكثر عدالة وواقعية: «من كان يملك القدرة على التحكم في الخطر عندما كان من الممكن منعه؟»؛ وتنتقل الوكالة من البحث عن إرادة بشرية لحظية إلى تحليل بنية التفويض والسيطرة؛ وتنتقل السببية من الخط المستقيم إلى شبكة سببية متعددة الطبقات؛ وينتقل التنظيم من مجرد ترخيص التقنية إلى حوكمة دورة حياتها؛ وينتقل الجزاء من فكرة العقوبة المجردة إلى إدارة الخطر واستعادة الامتثال؛ وتنتقل حماية الإنسان من مجرد إعلان مبادئ أخلاقية إلى ضمانات إجرائية قابلة للممارسة والطعن والتعويض.

وبذلك لا تكون أزمة الذكاء الاصطناعي هي أن القانون لا يعرف كيف ينظم آلة جديدة، وإنما أن آلة جديدة أجبرت القانون على أن يعيد اكتشاف بعض مفاهيمه القديمة. فالذكاء الاصطناعي لم يخلق فقط أسئلة جديدة عن المسؤولية؛ لقد جعلنا نعيد التفكير في معنى الفعل، ومعنى الوكالة، ومعنى السيطرة، ومعنى الضرر، ومعنى الشخص، بل وربما معنى القانون نفسه عندما يصبح جزء من القرار الذي يمس الإنسان صادرًا عن نظام لا يملك الإنسان القدرة على فهم كل مساراته الداخلية.

ومن هذه الزاوية، فإن الفراغ التشريعي الذي بدأت منه الدراسة لا ينبغي أن ينتهي بمجرد ملء الفراغ بنصوص جديدة؛ لأن التشريع الذي يملأ الفراغ دون أن يعيد بناء المفاهيم قد ينتهي إلى إنشاء فراغ جديد داخل النص نفسه. أما التحدي الحقيقي أمام القانون العالمي فهو أن ينتقل من مرحلة اللحاق بالتكنولوجيا إلى مرحلة استباق آثارها القانونية، وأن يبني نظامًا قادرًا على استيعاب الاستقلال الخوارزمي دون أن يسمح له بالتحول إلى حصانة، وعلى تشجيع الابتكار دون أن يحوله إلى سلطة غير خاضعة للمساءلة، وعلى حماية الإنسان دون أن يغلق الباب أمام احتمال ظهور أشكال جديدة من الفاعلية التقنية في المستقبل.

وفي النهاية، ربما لا يكون السؤال الأكثر أهمية هو: هل سيصبح الذكاء الاصطناعي شخصًا؟ وإنما السؤال الذي ينبغي أن يسبق ذلك بكثير هو: هل يستطيع القانون أن يظل قانونًا، إذا أصبح جزء متزايد من الأفعال والقرارات التي يرتب عليها آثاره لا يصدر مباشرة عن الإنسان؟

وهنا تكمن المهمة الحقيقية للقانون في عصر الذكاء الاصطناعي: ليس أن يمنح الآلة إنسانية لا نعرف إن كانت تملكها، وإنما أن يمنع السلطة التقنية من أن تعمل بلا مسؤولية، وأن يمنع الإنسان من الاختباء خلف الآلة، وأن يضمن أن كل قوة قادرة على تغيير المركز القانوني للإنسان تظل، في نهاية المطاف، خاضعة للقانون.

اعداد وترتجهيز الباحث القانونى
مصطفى محمود فتحى مقلد

#مصطفى_محمود_مقلد (هاشتاغ)       Mustafa_Mahmoud_Maklad#          

---

ترجم الموضوع إلى لغات أخرى - Translate the topic into other languages

---

الحوار المتمدن مشروع تطوعي مستقل يسعى لنشر قيم الحرية، العدالة الاجتماعية، والمساواة في العالم العربي. ولضمان استمراره واستقلاليته، يعتمد بشكل كامل على دعمكم. ساهم/ي معنا! بدعمكم بمبلغ 10 دولارات سنويًا أو أكثر حسب إمكانياتكم، تساهمون في استمرار هذا المنبر الحر والمستقل، ليبقى صوتًا قويًا للفكر اليساري والتقدمي، انقر هنا للاطلاع على معلومات التحويل والمشاركة في دعم هذا المشروع.
 

كيف تدعم-ين الحوار المتمدن واليسار والعلمانية على الانترنت؟

تابعونا على:

الفيسبوك

التويتر

اليوتيوب

RSS

الانستغرام

لينكدإن

تيلكرام

بنترست

تمبلر

بلوكر

فليبورد

الموبايل