إسراء عبد الكريم حسين
الحوار المتمدن-العدد: 8740 - 2026 / 6 / 18 - 08:23
المحور:
حقوق الانسان
مقدمة: سلطة لا تُرى ولا تُسأَل.
ثمة لحظة فارقة في تاريخ البشرية حين انتقلت السلطة من يد بشرية مرئية إلى كيان رقمي يعمل في الخفاء. تلك اللحظة لم تكن نقطةً زمنية واحدة، بل هي مسار متسارع بدأ حين أسندنا إلى الخوارزميات قرارات من أُسند إليها مصير ملايين البشر: من يُقبَل في وظيفة، ومن يُمنح قرضاً بنكياً، ومن يُصنَّف خطراً أمنياً داهماً في قاعات المحاكم. في تلك اللحظة بالذات، لم تعد تكنولوجيا الذكاء الاصطناعي مجرد أداة إنتاجية نيِّرة، بل تحولت إلى ما يمكن تسميته بـ "السلطة التقديرية المؤتمتة" وهي سلطة تفتقر بطبيعتها إلى كل ما اشترطه الفكر القانوني والفلسفي الحديث في السلطة المشروعة: الشفافية، والمساءلة، وحق الطعن والاعتراض.
لا يقع هذا المقال في فخ الاستقطاب الزائف بين المتحمسين الذين يرون في الذكاء الاصطناعي مسيحَ العصر الرقمي، والمتشائمين الذين لا يرون فيه سوى وحش ديستوبي يترصد الحرية. كلا المنظورين يُخطئ لأنه يُجرِّد التقنية من سياقها الاجتماعي والمؤسسي. الحقيقة العلمية الرصينة التي تكشفها الأبحاث الأكاديمية المتراكمة، هي أن الذكاء الاصطناعي ليس تهديداً حتمياً ولا وعداً مطلقاً، بل هو مُضخِّم ومُسرِّع للواقع الذي يُدمَج فيه. فإن كانت المؤسسة التي تحتضنه عادلةً وشفافةً، صارت التقنية رافعةً للحقوق. وإن كانت محمَّلةً بإرث من التحيز والتمييز، حوَّلتِ الخوارزميةُ ذلك التمييزَ إلى قانون رقمي لا يقبل الطعن ولا يرحم.
ينطلق هذا المقال من أطروحة مركزية مفادها أن الإطار الأخلاقي الطوعي، ذلك الذي أغرقت الشركات التقنية العالمَ به من وثائق "مبادئ ومرتكزات" قد أثبت عجزه الكامل وتحوَّل إلى ضرب من ضروب التبييض الأخلاقي (Ethics Washing). ما تحتاجه البشرية اليوم ليس مزيداً من الشعارات، بل إطاراً حقوقياً ملزِماً قانوناً، مُرتكِزاً على القانون الدولي لحقوق الإنسان، ومُفعَّلاً عبر آليات تنفيذية صارمة تمتد من مرحلة التصميم الهندسي إلى لحظة تطبيق الخوارزمية على حياة الناس.
أولاً: حين تصبح الخوارزمية قاضياً - فرص لا تُنكَر وتهديدات لا تُحتمَل.
الوجه المضيء: رافعة حقوقية بلا سابقة.
لا يستقيم الحديث العلمي الرصين دون الإقرار بما حقَّقه الذكاء الاصطناعي من منجزات جوهرية في خدمة حقوق الإنسان. ففي مجال الحق في الصحة المكفول بالمادة الخامسة والعشرين من الإعلان العالمي، باتت أنظمة التشخيص الطبي المدعومة بالتعلم العميق قادرةً على اكتشاف الأورام السرطانية في مراحل أبكر مما يستطيعه أمهرُ الأطباء البشريين، فضلاً عن إسهامها في تسريع البحوث الجزيئية التي أنتجت لقاحات أنقذت ملايين الأرواح خلال جائحة كوفيد-19. وفي مجال التعليم، تُتيح أدوات التعلم الآلي المخصَّص تعليماً عالي الجودة لملايين الأطفال في المجتمعات النامية الذين يفتقرون إلى الفرص التقليدية، محققةً قدراً من العدالة المعرفية التي طالما ظلت حكراً على النخب.
على صعيد العمل الإنساني، كشفت الأزمات العالمية عن قدرة الذكاء الاصطناعي الاستثنائية في تحليل صور الأقمار الصناعية لتحديد مسارات النزوح القسري، وتوجيه المساعدات الإغاثية إلى قلب مناطق النزاع بكفاءة لوجستية يعجز عنها التخطيط البشري التقليدي. تلك هي الإمكانات الحقيقية لتقنية تستحق الاحتفاء بها - بشرط أن يكون الاحتفاء رزيناً ونقدياً، لا ساذجاً ومُغفِلاً.
الوجه المظلم: من الوعد إلى الكابوس.
بيد أن الصورة الأخرى، الأشد قتامة، لا تقل حضوراً ولا إلحاحاً. إن ما يُعرف في الأدبيات الأكاديمية بـ"التمييز الخوارزمي الممنهج" (Algorithmic Bias) يمثِّل الفخَّ الأعمق الذي يمكن أن تقع فيه الأنظمة الذكية. الخوارزميات لا تُنتج تحيزاتها من فراغ؛ بل هي تُعيد إنتاج التحيزات البشرية والتاريخية المُضمَّنة في "بيانات التدريب" وتُحجِّمها وتُؤبِّدها بغطاء زائف من النزاهة الرياضية. حين دُرِّبت بعض خوارزميات "التنبؤ بالجريمة" على بيانات شرطية تعكس تاريخاً من الاستهداف المكثَّف للأقليات العرقية، راحت تُصنِّف هذه الأقليات تلقائياً كـ"عالية الخطورة"، مُعيدةً إنتاج العنصرية في ثوب رياضي يدَّعي الموضوعية — وهو ما نسميه فخَّ الشكليات الرياضية (Mathematical Formalism Trap).
أما "معضلة الصندوق الأسود" (Black Box) فهي الأشد فتكاً بمنظومة العدالة. حين تستعين المحاكم بخوارزميات تقييم المخاطر لتحديد شروط الكفالة أو تحديد أحكام السجن، وحين تكون تفاصيل تلك الخوارزميات محميةً بقوانين "الأسرار التجارية" للشركات الخاصة، يُحرَم المتهم ومحاميه من حق فهم آلية القرار، ومن ثمَّ يُجرَّدان من الحق الجوهري في الطعن والمراجعة. في تلك اللحظة، يتحوَّل القاضي البشري إلى مجرد موظف ينفِّذ توصيات الآلة، وتتبخَّر قرينةُ البراءة في دخان التحيُّز الرقمي.
ولا تقف التهديدات عند حدود القضاء. فأنظمة التعرف على الوجوه المنتشرة في الفضاءات العامة قادرة على تحويل المدن إلى سجون مفتوحة، وخلق حالة من الرقابة الذاتية تُقيِّد حرية التجمع السلمي والمعارضة المشروعة. وعلى منصات التواصل الاجتماعي، تحذف خوارزميات الإشراف على المحتوى كميات هائلة من الآراء القانونية والمشروعة بحجة محاربة خطاب الكراهية، دون آليات حقيقية للطعن أو المراجعة البشرية — مما يُشكِّل خصخصةً فعليةً للعدالة وحرية التعبير في أيدي الشركات التقنية الكبرى.
ثانياً: أزمة الحوكمة — سقوط الأخلاق الطوعية وضرورة القانون الإلزامي
التبييض الأخلاقي: وثائق لا تُلزِم أحداً
في مواجهة الانتقادات المتصاعدة، لجأت الشركات التقنية الكبرى إلى ما غدا يُعرَف بـ"التبييض الأخلاقي" (Ethics Washing): صياغة وثائق مبادئ وأطر أخلاقية براقة تتحدث عن الشفافية والعدالة والمساءلة، لكنها تفتقر إلى أي آلية إلزام أو ردع قانوني حقيقي. هذه الأكواد الطوعية، مهما تزيَّنت بلغة الالتزام الأخلاقي، لا تُرتِّب أي جزاءات قانونية عند انتهاكها، وتُصاغ في الغالب بلغة فضفاضة مجردة لا تُترجَم إلى متطلبات تصميمية محددة قابلة للقياس والمساءلة.
الأدلة التجريبية على إخفاق هذا النهج باتت ساحقة. إذ كشفت دراسات تجريبية أكاديمية متعددة أن الشركات التي تصدرت قوائم الملتزمين بـ"مبادئ الذكاء الاصطناعي الأخلاقية" كانت في الوقت ذاته تُطور وتبيع أنظمة مراقبة بيومترية لأنظمة استبدادية، وتُبقي على تحيزات عنصرية موثَّقة في أنظمة توظيفها. الأخلاق دون إلزام قانوني ليست أخلاقاً، بل هي علاقات عامة.
النهج الحقوقي الإلزامي: المرجعية الوحيدة الكافية
على النقيض من هشاشة الأطر الأخلاقية الطوعية، يوفر القانون الدولي لحقوق الإنسان إطاراً مرجعياً صلباً وعالمياً يتمتع بخصائص جوهرية لا بديل عنها. فهو يستند إلى معاهدات دولية ملزمة تتمتع بشرعية تاريخية راسخة، ويحمل تكلفة قانونية وسياسية حقيقية للانتهاكات، ويوفر آليات انتصاف وجبر ضرر للضحايا عبر محاكم وطنية ودولية. وخلافاً لوثائق الأخلاق المُؤسسَة على القيم المجردة، يُترجِم هذا الإطار حقوقَ الإنسان إلى التزامات قانونية محددة تقع على عاتق الدول والشركات على حدٍّ سواء.
تمثِّل "المبادئ التوجيهية للأمم المتحدة بشأن الأعمال التجارية وحقوق الإنسان" (UNGPs) الركيزة العملية لتفعيل هذا النهج عبر مسارين متكاملين: أولهما التزام الدول بحماية الأفراد من انتهاكات الشركات عبر سن تشريعات صارمة، وثانيهما مسؤولية الشركات باحترام حقوق الإنسان باستقلالية تامة عن إرادة الدولة. ويتحقق ذلك عبر إدماج آليات "العناية الواجبة لحقوق الإنسان" (HRDD) في البنية المؤسسية للشركات، وإجراء تقييمات منهجية دورية لأثر منتجاتها وخدماتها على منظومة الحقوق.
نموذج الاتحاد الأوروبي: من الإلهام إلى التطبيق
يُقدِّم قانون الذكاء الاصطناعي الأوروبي (EU AI Act) نموذجاً تشريعياً رائداً يستحق الدراسة النقدية العميقة. يعتمد هذا القانون "النهج القائم على المخاطر" (Risk-Based Approach) بتصنيف أربعي دقيق: تطبيقات ذات مخاطر غير مقبولة تُحظر حظراً تاماً كأنظمة الائتمان الاجتماعي والمراقبة البيومترية الشاملة؛ وتطبيقات عالية المخاطر تخضع لرقابة مسبقة صارمة كخوارزميات التوظيف والعدالة الجنائية؛ وتطبيقات محدودة المخاطر تستلزم الشفافية مع المستخدم؛ فضلاً عن تطبيقات دنيا المخاطر تُترك دون تقييد معقَّد.
غير أن الاكتفاء بالإعجاب بهذا النموذج دون نقده سيكون قصوراً أكاديمياً. ثمة إشكاليات جوهرية تستدعي المعالجة: الفجوة بين جنوب الكرة الأرضية وشمالها في القدرة على تطبيق هذا النهج ومواكبته تشريعياً ومؤسسياً؛ وخطر استخدام الشركات الكبرى لقوانين "الأسرار التجارية" ذريعةً لإخفاء بيانات تدريبها وخوارزمياتها عن الرقابة الخارجية المستقلة. إن التوتر بين حماية الملكية الفكرية وضمان الشفافية اللازمة للمحاكمة العادلة يبقى أحد أبرز التحديات الفلسفية والقانونية التي لم تجد إجابةً قاطعة بعد.
ثالثاً: نحو حوكمة خوارزمية رشيدة — التصميم كأداة حقوقية
الابتكار المسؤول: رفض مقولة المقايضة الصفرية
من أكثر المغالطات رواجاً في خطاب الشركات التقنية تلك التي تصوِّر حماية حقوق الإنسان ضرورةً متناقضة مع الابتكار والنمو الاقتصادي، مروِّجةً لنظرية "المقايضة الصفرية" (Zero-Sum Game) التي تقول: إما الابتكار أو الحقوق، ولا سبيل إلى الجمع بينهما. هذه الأطروحة علمياً مردودة وتجريبياً مكذوبة. فالتجارب الأوروبية تُظهر أن اشتراطات حماية البيانات الصارمة لم تُعيق الابتكار، بل دفعت الشركات نحو ابتكار أكثر جودةً وأطول أمداً وأوسع انتشاراً في الأسواق التي تحترم حقوق المستهلكين.
البديل العلمي والأكاديمي الرصين هو مفهوم "الابتكار المسؤول" (Responsible Innovation)، القائم على إدراج متطلبات حقوق الإنسان في صلب مرحلة التصميم الهندسي والتكويد البرمجي. القانون لا ينبغي أن يتدخل بعد وقوع الكارثة كمحقق جنائي، بل يجب أن يوجِّه عملية الابتكار من منبعها عبر "التصميم المرتكز على القيم" (Value-Sensitive Design)؛ أي تحويل الحقوق إلى مواصفات تقنية مُضمَّنة في الكود البرمجي قبل أن يرى النظام النور.
الرقابة البشرية: الضمانة التي لا تُعوَّض
مهما بلغت دقة الأنظمة الذكية وكفاءتها، يظل مبدأ "الإنسان في دائرة القرار" (Human-in-the-Loop) ركيزةً لا تقبل المساومة في كل قرار ذي أثر عالٍ على حقوق الأفراد ومصائرهم. لا يعني هذا المبدأ رقابةً شكلية تختزل في توقيع موظف على مخرجات آلية، بل رقابةً بشرية حقيقية تمتلك صلاحية النقض والرفض دون خشية المحاسبة المؤسسية. إن معاقبة الموظف الذي يرفض توصية الخوارزمية لإدراكه وجودَ خلل حقوقي فيها، يُشكِّل بحد ذاته جريمةً مؤسسية موصوفة.
تتوزع المسؤولية القانونية عن انتهاكات الذكاء الاصطناعي على ثلاثة مستويات متكاملة وفق نظام "المسؤولية التوزيعية والتضامنية": الدول، المُقصِّرة في التشريع والرقابة؛ والشركات المطوِّرة، المسؤولة عن العيوب التصميمية والتحيزات الموروثة في بيانات التدريب؛ والجهات المستخدِمة، المسؤولة عن غياب الرقابة البشرية والاعتماد الأعمى على مخرجات الخوارزمية. هذا التوزيع التضامني للمسؤولية هو الاستجابة القانونية الوحيدة الكافية في مواجهة تقنية يتشارك في صنع آثارها فاعلون متعددون.
أسئلة مفتوحة على المستقبل
يُفضي التحليل الأكاديمي الأمين إلى الإقرار بجملة من التساؤلات التي لم تُحسم بعد ولن تُحسم بسهولة: هل يمكن صياغة مفهوم "العدالة الخوارزمية" في معادلات برمجية بحتة، أم أن العدالة بطبيعتها سياقية ومتنازَع عليها وتتغير عبر الزمان والمكان بحيث تستعصي على الأتمتة الكاملة؟ وكيف يمكن رسم حدود دقيقة بين حماية الملكية الفكرية للشركات والحق الأساسي في الشفافية القضائية للأفراد؟ وهل يمكن صياغة معايير دولية موحَّدة تراعي التفاوت الحاد في الأولويات والقدرات بين دول الشمال ودول الجنوب؟
المستقبل يتجه — بحكم الضرورة التاريخية — نحو ما يمكن تسميته "أنسنة التقنية وتقنين الحوكمة الخوارزمية". سنشهد انتقالاً من الوثائق الإرشادية اللينة (Soft Law) إلى اتفاقيات دولية ملزمة (Hard Law) تحت مظلة الأمم المتحدة، مصحوبةً بتشريعات وطنية تفرض عقوبات مالية وجنائية رادعة، وآليات إلزامية لتقييم الأثر الخوارزمي المستقل، ورقابة بشرية دائمة صاحبة سلطة نقض في كل النظم التي تمسُّ مصائر البشر ومستقبل حقوقهم.
خاتمة: الكرامة ليست متغيراً في معادلة
في نهاية المطاف، يظل السؤال الجوهري أخلاقياً قبل أن يكون قانونياً: ما الذي نريده من تقنياتنا؟ هل نريد منها أن تُسرِّع حياتنا فحسب، أم أن تُعمِّق كرامتنا وتوسِّع آفاق حريتنا؟ الذكاء الاصطناعي ليس جواباً جاهزاً على هذا السؤال؛ بل هو مرآة تعكس الإجابة التي نختارها كمجتمعات وكبشر.
ما تقوله الأبحاث الأكاديمية المتراكمة بصوت لا يقبل التأويل هو أن الكرامة الإنسانية ليست متغيراً قابلاً للاختزال في معادلة رياضية، ولا قيمةً يمكن التفريط فيها في سبيل سرعة المعالجة. حوكمة الذكاء الاصطناعي الرشيدة ليست عائقاً أمام التقدم، بل هي الشرط الضروري لأن يكون ذلك التقدم حقيقياً ومستداماً ومُنصِفاً لأجيال آتية لن تُسأَل عن ذنب لجَّاجتنا في التفويض الأعمى للآلة.
الخوارزمية يمكن أن تكون خادمةً للعدالة أو قاتلتها — والفارق بين المصيرين ليس في الكود البرمجي، بل في الإرادة السياسية والقانونية والأخلاقية للمجتمعات التي تصنع تلك الخوارزميات وتُطلقها في فضاء الحياة الإنسانية. وتلك مسؤولية لا تُؤتمَن عليها آلة مهما اتسعت ذاكرتها وتعمَّق تعلمها.
ترجم الموضوع
إلى لغات أخرى - Translate the topic into other
languages
الحوار المتمدن مشروع
تطوعي مستقل يسعى لنشر قيم الحرية، العدالة الاجتماعية، والمساواة في العالم
العربي. ولضمان استمراره واستقلاليته، يعتمد بشكل كامل على دعمكم.
ساهم/ي معنا! بدعمكم بمبلغ 10 دولارات سنويًا أو أكثر حسب إمكانياتكم، تساهمون في
استمرار هذا المنبر الحر والمستقل، ليبقى صوتًا قويًا للفكر اليساري والتقدمي،
انقر هنا للاطلاع على معلومات التحويل والمشاركة
في دعم هذا المشروع.
كيف تدعم-ين الحوار المتمدن واليسار والعلمانية
على الانترنت؟
|
ارسل هذا الموضوع الى صديق
|
حفظ - ورد
|
بحث
|
إضافة إلى المفضلة
|
للاتصال بالكاتب-ة
الفيسبوك
التويتر
اليوتيوب
الانستغرام
لينكدإن
تيلكرام
تمبلر
بلوكر
الموبايل
