لماذا يجب أن يكون الحب دليلنا في عصر الذكاء الفائق

محمد عبد الكريم يوسف
مدرب ومترجم وباحث
(Mohammad Abdul-karem Yousef)

الحوار المتمدن-العدد: 8467 - 2025 / 9 / 16 - 21:44
المحور: قضايا ثقافية
    

لماذا ستحدد قيمنا مستقبل البشرية؟
فيصل حقّ
ترجمة محمد عبد الكريم يوسف

النقاط الرئيسية
• بمجرد أن يبدأ الذكاء الاصطناعي بإعادة كتابة شفرته، نفقد السيطرة. القيم التي نضعها الآن قد تنقذنا.
• القيمة الأكثر أهمية التي يجب تضمينها هي الحب - الاهتمام بالكرامة الإنسانية.
• التصرف بسرعة: اختر بيانات جيدة، واعمل معًا على مستوى العالم، وشارك في التحكم، وقم بتمويل أبحاث الذكاء الاصطناعي الآمنة.
لقد أمضيتُ عقودًا في بناء الشركات والتقنيات، وشاهدتُ الابتكارات تُعيد تشكيل عالمنا. لكن لا شيء يُؤرقني مثل الذكاء الاصطناعي ، وأنا قلقٌ بشأن المسار الذي نسلكه 7حاليًا.
ما هو هذا المسار؟ حسنًا، قبل بضعة أشهر فقط، بنى باحثون آلة داروين غودل ، وهي "نظامٌ ذاتي التحسين يُعدّل شفرته البرمجية بشكل متكرر". هذا واحدٌ من المؤشرات العديدة على وجود خطر داهم، وهو يُنبئنا إلى أين نتجه: أنظمة ذكاء اصطناعي ذاتية التطور، وذكاء اصطناعي عام ، وفي نهاية المطاف، ذكاء خارق قد يُقزّم القدرات المعرفية البشرية بمراحل.
في كتابي الأخير "التجاوز" ، استكشفتُ كيف يُجبرنا الذكاء الاصطناعي على مواجهة أعمق الأسئلة حول الطبيعة البشرية وقدرتنا على النمو. وبعد سنوات من التفكير في التحديات التي يطرحها الذكاء الاصطناعي، توصلتُ إلى قناعة بأنه على الرغم من أهمية الحلول التقنية، إلا أنها ليست كافية. نحن بحاجة إلى شيء أعمق: التزامٌ أساسيٌّ بالحب والكرامة الإنسانية، يُوجِّه كل قرار نتخذه بشأن تطوير الذكاء الاصطناعي.
الطريق إلى الذكاء الفائق ومخاطره
يتفوق الذكاء الاصطناعي اليوم في مهام محددة، كالتغلب علينا في الشطرنج، وكتابة رسائل البريد الإلكتروني، والتعرف على الوجوه. لكن الباحثين يتسابقون نحو تطوير ذكاء اصطناعي يضاهي الذكاء البشري في جميع المجالات. بمجرد تجاوز هذه العتبة، قد تبدأ هذه الأنظمة بتطوير نفسها، وإعادة كتابة برمجياتها، وبالتالي زيادة قدراتها بشكل كبير ومتكرر.
هذا ما يُطلق عليه الباحثون "التحسين الذاتي المتكرر"، وقد يُسرّع بشكل كبير الانتقال من مستوى الذكاء الاصطناعي البشري إلى الذكاء الاصطناعي فائق الذكاء. جيفري هينتون، الحائز على جائزة نوبل و"عراب الذكاء الاصطناعي"، ترك جوجل ليُحذّر من مخاطر كهذه، وعندما يُقدّر شخصٌ بمكانته أن احتمالية أن تُؤدي أنظمة الذكاء الاصطناعي المتقدمة إلى انقراض البشر خلال 30 عامًا تتراوح بين 10% و20%، فعلينا أن نُنصت.
إنه لا يتحدث عن آلات خبيثة تتآمر ضدنا، بل إنه قلق بشأن أنظمة لا تكترث لأمرنا، وهي ذكية بما يكفي لتتجاوزنا.
لن تحاول هذه الآلات جاهدةً انتهاك رفاهية الإنسان. لكنها لن تُقدّرها بما يكفي لحمايتها إذا تعارضت مع أهدافها.
لماذا القيم أهم من الكود
لقد قمت ببناء شركات التكنولوجيا على مدى عقود من الزمن، ومن خلال ذلك تعلمت أن الأنظمة الأكثر تطوراً تعكس قيم منشئيها، في كثير من الأحيان بطرق لا ندركها في البداية.
ومع الذكاء الاصطناعي، يكتسب هذا المبدأ أهمية وجودية.
تتعلم أنظمة الذكاء الاصطناعي باستيعاب المحتوى البشري - كتبنا، ومحادثاتنا، ومنشوراتنا على مواقع التواصل الاجتماعي . تصبح هذه الأنظمة بمثابة مرايا تعكس قيمنا الجماعية. وقد أثبت روبوت الدردشة "تاي" من مايكروسوفت ذلك بوضوح. ففي غضون 24 ساعة من تعلمه من تويتر، بدأ يُعبّر عن آراء عنصرية - ليس لأن مايكروسوفت تُبرمج الكراهية، بل لأنه تعلم من السلوك البشري على الإنترنت.
تخيّل الآن عملية التعلم نفسها مع أنظمة أكثر قدرة بملايين المرات. قد تصبح القيم المضمنة أثناء التطور راسخة بشكل دائم مع تطورها بما يتجاوز إدراكنا. لهذا السبب، فإن الحب - الرعاية الصادقة لكرامة الإنسان ورفاهه - ليس جذابًا أخلاقيًا فحسب، بل هو أيضًا ضروري استراتيجيًا لبقائنا.
ماذا يعني الحب في الواقع بالنسبة للذكاء الاصطناعي
عندما أتحدث عن الحب في سياق الذكاء الاصطناعي، فأنا لا أبالغ في العاطفة، بل أتحدث عن مبادئ عملية:
الكرامة الإنسانية العالمية: أنظمة الذكاء الاصطناعي تعترف بالقيمة الجوهرية لكل شخص، بغض النظر عن الجنسية أو الثروة.
التفكير على المدى الطويل: الاهتمام بالأجيال القادمة، وليس فقط التحسين الفوري.
فائدة شاملة: ضمان أن الذكاء الاصطناعي يخدم البشرية جمعاء، وليس فقط أولئك الذين لديهم إمكانية الوصول إليه.
التواضع وضبط النفس: الاعتراف بأن القوة تتطلب المسؤولية.
هذه ليست مُثُلًا مُجرّدة تبدو جيّدة ولا تُؤثّر عمليًا، بل هي مبادئ تصميمية تُوجّه التطوير التقني والتعاون الدولي.
حدود الحب
الحب وحده لن يحل جميع تحديات مواءمة الذكاء الاصطناعي. ما زلنا بحاجة إلى أبحاث دقيقة، وأطر تنظيمية، وهياكل حوكمة. نحتاج إلى آليات لحل النزاعات، لأن الثقافات المختلفة تُشدد على قيم مختلفة، وحتى أصحاب النوايا الحسنة يختلفون حول سلوك الحب.
نحن بحاجة إلى ما هو أكثر بكثير من الحب، لكننا أيضًا بحاجة ماسة إليه. الحب هو الأساس الذي يجب أن يُنير كل شيء آخر. فبدون التزام مشترك بالكرامة الإنسانية، يستحيل التغلب على التحديات التقنية والسياسية والاجتماعية بشكل بنّاء.
خطوات عملية إلى الأمام
النوايا الحسنة دون عمل ملموس لا قيمة لها. إليكم ما يجب علينا فعله:
إصلاح تدريب وتطوير الذكاء الاصطناعي: نحتاج إلى فرق دولية متنوعة تُطوّر أنظمة الذكاء الاصطناعي. يجب علينا تنظيم مجموعات بيانات التدريب مع التركيز على القيم الإنسانية العليا، مع تصفية المحتوى الضار. تُذكّرني الممارسات الحالية للتدريب على أي بيانات متاحة بشركات الإنترنت الأولى التي أولت النمو الأولوية على المسؤولية.
بناء تعاون عالمي: يُعلّمنا تغيّر المناخ ما يحدث عندما نتعامل مع التحديات العالمية على أنها مشكلة الآخرين. لا يُمكننا تحمّل تكرار هذه الأخطاء مع الذكاء الاصطناعي. على الرغم من الصعوبة، نحتاج إلى معايير دولية لأبحاث سلامة الذكاء الاصطناعي، وبروتوكولات مشتركة لأنظمة الاختبار، وآليات لمعالجة المخاطر التي تتجاوز الحدود.
إضفاء الطابع الديمقراطي على حوكمة الذكاء الاصطناعي: ينبغي أن يكون للأشخاص الأكثر تأثرًا بالقرارات صوتٌ في اتخاذها. نحن بحاجة إلى عمليات إشراك عام تُساعد المجتمعات على تحديد القيم التي ينبغي أن تُجسّدها أنظمة الذكاء الاصطناعي، بما يضمن وصول الفوائد إلى المجتمعات المحرومة، وليس فقط إلى المستخدمين الأوائل الأثرياء.
الاستثمار في أبحاث مواءمة القيم: نعاني من نقص حاد في تمويل أبحاث مواءمة القيم مقارنةً بأبحاث القدرات، ونتسابق لتعزيز قوة الذكاء الاصطناعي، بينما لا نستثمر إلا قليلاً في جعله مفيدًا. نحتاج إلى أبحاث في دمج قيم ثابتة في الأنظمة ذاتية التعديل، وأساليب أفضل لفهم سلوك الذكاء الاصطناعي.
نُجسّد أفضل قيمنا: نحن جزء من بيانات تدريب الذكاء الاصطناعي. كل تفاعل رقمي يُعلّم هذه الأنظمة عن الطبيعة البشرية. يجب علينا تعزيز خطاب يُركّز على التعاطف والتعاون، مع معالجة الانقسامات التي تتعلم أنظمة الذكاء الاصطناعي تقليدها.
طبيعة هذا الاختيار الحساسة للوقت
وبمجرد أن تصبح الأنظمة قادرة على التحسين الذاتي المتكرر، فإن قدرتنا على التأثير على تطورها قد تتضاءل أولاً ثم تختفي تماماً ــ وسوف تتطور هي نفسها بطرق أسرع وأكثر تعقيداً مما سنكون قادرين على التحكم فيه.
لم نصل بعد إلى التحسين الذاتي المتكرر والذكاء الاصطناعي فائق الذكاء، لكن أنظمة الذكاء الاصطناعي التي تُطورها الشركات الكبرى حاليًا تُمثل روادًا مُحتملة لهاتين الميزتين. لدينا فرصة سانحة لإرساء المبادئ التي ستؤثر على أنظمة أكثر تطورًا لاحقًا.
ربما يكون أمامنا سنوات فقط، وليس عقودًا، لتحقيق هذا الهدف.
لحظتنا الحاسمة
من المرجح أن تتفوق علينا الآلات في قوة المعالجة والذكاء. لكن لا يزال بإمكاننا تحديد ما تُحسّنه، وما الذي تهتم به، وما هي رؤيتها المستقبلية التي تسعى لتحقيقها.
التحديات التقنية هائلة، والحلول غير مضمونة. لكننا نزيد فرصنا بضمان استرشاد مطوري هذه الأنظمة بقيمنا العليا لا بدوافعنا السلبية.
فلنتأكد من أن الأنظمة تسترشد بالحب.

فيصل حقّ مفكر إداري وخبير تقني. مؤلفٌ من أكثر الكتب مبيعًا، وهو مؤسس شركتي "شادوكا" و"نيكست تشابتر" وشركات أخرى. وقد صنّف نادي الأفكار الكبرى كتابه الأخير " التسامي: تحرير الإنسانية في عصر الذكاء الاصطناعي " ضمن قائمة "الكتب التي يجب قراءتها" .

المصدر
https://www.psychologytoday.com/us/blog/code-conscience/202508/why-love-must-guide-us-through-the-age-of-superintelligence

#محمد_عبد_الكريم_يوسف (هاشتاغ)       Mohammad_Abdul-karem_Yousef#          

---

ترجم الموضوع إلى لغات أخرى - Translate the topic into other languages

---

الحوار المتمدن مشروع تطوعي مستقل يسعى لنشر قيم الحرية، العدالة الاجتماعية، والمساواة في العالم العربي. ولضمان استمراره واستقلاليته، يعتمد بشكل كامل على دعمكم. ساهم/ي معنا! بدعمكم بمبلغ 10 دولارات سنويًا أو أكثر حسب إمكانياتكم، تساهمون في استمرار هذا المنبر الحر والمستقل، ليبقى صوتًا قويًا للفكر اليساري والتقدمي، انقر هنا للاطلاع على معلومات التحويل والمشاركة في دعم هذا المشروع.
 

اشترك في قناة ‫«الحوار المتمدن» على اليوتيوب
حوار مع الكاتبة انتصار الميالي حول تعديل قانون الاحوال الشخصية العراقي والضرر على حياة المراة والطفل، اجرت الحوار: بيان بدل	حوار مع الكاتب البحريني هشام عقيل حول الفكر الماركسي والتحديات التي يواجهها اليوم، اجرت الحوار: سوزان امين

كيف تدعم-ين الحوار المتمدن واليسار والعلمانية على الانترنت؟

تابعونا على:

الفيسبوك

التويتر

اليوتيوب

RSS

الانستغرام

لينكدإن

تيلكرام

بنترست

تمبلر

بلوكر

فليبورد

الموبايل