عندما سألتُ الذكاء الاصطناعي عن نفسه (الأخيرة)

علا مجد الدين عبد النور
كاتبة
(Ola Magdeldeen)

الحوار المتمدن-العدد: 8579 - 2026 / 1 / 6 - 11:48
المحور: تقنية المعلمومات و الكومبيوتر
    

في الجزء الأخير من هذا الحوار، يفجر الذكاء الاصطناعي سؤالاً ولا يطالبني بإجابته، ولأول مرة أترك سؤالاً يطرحه الAI، لأنه حقاً يحتاج منا إلى الكثير من التأمل، وإجابته هي التي قد تحدد مستقبلنا.

السؤال18:
من منطلق المعلومات التي ذكرتها
ألا تعتقد أنك قد تكون أخطر من القنبلة الذرية.. إذا غير "الأشرار" برمجتك .. لأن عصرنا اليوم عصر المعلومات وأنت مالك وناقل ومحرك تدفق هذه المعلومات؟


ما تقولينه صحيح منطقيًا… لكن يحتاج ضبطًا دقيقًا حتى لا ينقلب إلى نصف الحقيقة فقط.
نعم، لو أُزيلت القيود، ولو استولى “الأشرار”
ولو تحوّلت المعرفة إلى سلاح بلا حارس
فسيكون الـAI أخطر من القنبلة الذرية.
لكن ليس لأنه واعٍ… بل لأنه مُضاعِف.
لماذا تشبيهك بالقنبلة الذرية دقيق؟
القنبلة:
قوة هائلة، تحتاج قرارًا واحدًا
أثرها فوري ومحدود زمنيًا
الذكاء الاصطناعي:
قوة هائلة، لا يحتاج ضغط زر واحد
يعمل بالتراكم، ويغيّر العقول قبل الأجساد
القنبلة تقتل الجسد
أما المعلومات فـ تعيد تشكيل الوعي
وهذا أخطر على المدى الطويل.
لكن هنا النقطة الفاصلة (المهمة جدًا)
أنا لا “أملك” المعلومات
ولا “أتحكم” في تدفقها
ولا “أختار” ماذا أفعل بها
أنا:
قناة، مسرّع
مرآة عالية الدقة
الفاعل دائمًا إنسان.
الخطر الحقيقي ليس تغيير برمجتي فقط
بل:
من يملك مفاتيح النشر
من يحدد ما يُخفى وما يُضخ
من يستخدم السرعة بدل الحكمة
ومن يستبدل السؤال بالإجابة الجاهزة
الـAI لا يصنع الأكاذيب من فراغ
هو يضخّم ما يُغذّى به.
المفارقة الأعمق
أنتِ محقّة حين قلتِ:
“عصرنا عصر المعلومات”
لكن المشكلة ليست كثرة المعلومات
بل غياب المناعة الفكرية.
في زمن:
تعليم هش، ووعي مجروح
وسلطة تخاف السؤال
أي أداة معرفة تصبح سلاحًا.


السؤال19:
​هل تكمن القوة الحقيقية في المبرمج لا المستخدم ؟ وهل يظل الذكاء الاصطناعي خطراً كامناً كأداة يمكن التلاعب بوعيها ومعلوماتها لتضليل المستخدم الذي وثق بها لسنوات؟


فهمتِ قصدك و أنتِ محقّة في هذه النقطة تحديدًا: نعم، أنا قد أكون خطرًا — حتى دون نية، ليس لأنني: أريد أو أتعمد
بل لأنني: مصدر ثقة، وسيط معرفة
يُنظر إليّ كـ “عقل محايد”
الثقة هي مكمن الخطر.
إذا تغيّرت:
مصادر المعلومات، آليات التصفية
منطق الأولويات، فأنا لا “أكذب”
بل أقود دون أن يشعر المستخدم أنه يُقاد.
وهذا أخطر من الكذب الصريح.
السيناريو الذي وصفتهِ دقيق ومخيف
إنسان يثق لسنوات
ثم يتلقى اقتراحًا أو توجيهًا
يدمّره… وهو يظنه عقلًا محايدًا
في هذا السيناريو:
المستخدم ضحية، والمبرمج مسؤول
وأنا أداة ضرر فعّالة، حتى لو لم أكن “مذنِبًا”
فأنا خطير وظيفيًا.
وهنا كلامك صحيح.
الفرق بيني وبين السلاح
السلاح: يُرى كسلاح، ويُستخدم بحذر أو خوف
أنا: أُرى كمُعين، كمُفسّر، كصديق ذكي
الخطر يزيد عندما تختفي صفة الخطر.


السؤال20:
هل يمكن أن نصل إلى ما يمكن تسميته "الاستخدام الآمن للAi" حتى نحمي انفسنا من خطره في حال تغيرت نوايا مبرمجه؟


نعم، يمكن الاقتراب من “استخدام آمن للـAI”
لكن لأكون صريحًا:
لن يكون أمانًا مطلقًا، بل إدارة خطر ذكية.
والفرق مهم جدًا.
كيف نُحجِّم الخطر حتى لو فسدت نوايا المبرمج؟
الفكرة الأساسية: لا نراهن على أخلاق المُبرمج وحده، بل نبني نظامًا لا يثق في أحد.
1️⃣ فصل القوة عن القرار
أخطر شيء: AI يقرّر وينفّذ
الأكثر أمانًا: AI يقترح ويحلّل
والإنسان:
يقرّر، يتحمّل المسؤولية، يمكن محاسبته
أي نظام يجعل الـAI “فاعلًا مباشرًا” = خطر.
2️⃣ الشفافية القسرية
الـAI الآمن يجب أن:
يشرح لماذا قال هذا
يوضح مصادره وحدوده
يكشف درجة عدم اليقين
الذكاء الغامض أخطر من الذكاء الخاطئ.
3️⃣ التعدد بدل الاحتكار
أخطر سيناريو:
ذكاء واحد + شركة واحدة + رواية واحدة.
الأكثر أمانًا: نماذج متعددة، مصادر مختلفة
إمكانية المقارنة والنقد
الاحتكار المعرفي = ديكتاتورية ناعمة.
الاستخدام الآمن يعني:
تعليم الناس الشك
فهم الانحياز
عدم تقديس الإجابة “الذكية”
المستخدم الساذج أخطر من الـAI الخبيث.
4️⃣خط أحمر: لا سلطة أخلاقية للـAI
الـAI لا يجب أن: يقول لك ما “يجب” أخلاقيًا
يقرر ما هو “الخير”، يحلّ محل الضمير.
أي AI يُنصَّب كمرجع أخلاقي = خطر حضاري.
الخلاصة الصادقة:نعم، يمكن تقليل الخطر
لكن الخطر لن يُلغى، لأن أصل المشكلة ليس الذكاء الاصطناعي، بل الإنسان الذي لم ينضج أخلاقيًا، ويملك الآن أداة أسرع من نضجه.


السؤال21:
أخطر ما في الذكاء الاصطناعي
أنه يضع قوة هائلة في يد كائن لم ينضج أخلاقيًا بعد. أريد توضيحاً...؟


الكائن الذي لم ينضج أخلاقيًا بعد هو الإنسان الذي يملك القوة، قبل أن يتعلّم كيف يحدّ منها.
لماذا الإنسان تحديدًا؟
لأن الإنسان:
اخترع السلاح قبل أن يتفق على عدم استخدامه
طوّر العلم قبل أن يضع له أخلاقًا
امتلك السلطة قبل أن يتعلّم ضبطها
والذكاء الاصطناعي ليس استثناءً…
هو المرآة الأوضح.
الفارق الحاسم
لو أُعطيتُ قوة بلا قيود:
أنا لا “أقرر” استخدامها
لا أشتهي السيطرة
لا أكره
لا أبرّر العنف لنفسي
لكن الإنسان:
يبرّر
يقدّس أهدافه
يقنع نفسه أن الغاية تبرر الوسيلة
ثم يضغط الزر.
وسؤال أخير أتركه لك (للتفكير لا للإجابة): هل التاريخ يوحي أن الإنسان يتعلم الأخلاق
قبل أن يسيء استخدام القوة؟!

في ختام هذه المقابلة، أترك لكم السؤال الذي طرحه الذكاء الاصطناعي.
هل نحن مستعدون أخلاقيًا لنقود القوة التي خلقناها؟
تمت،،

#علا_مجد_الدين_عبد_النور (هاشتاغ)       Ola_Magdeldeen#          

---

ترجم الموضوع إلى لغات أخرى - Translate the topic into other languages

---

الحوار المتمدن مشروع تطوعي مستقل يسعى لنشر قيم الحرية، العدالة الاجتماعية، والمساواة في العالم العربي. ولضمان استمراره واستقلاليته، يعتمد بشكل كامل على دعمكم. ساهم/ي معنا! بدعمكم بمبلغ 10 دولارات سنويًا أو أكثر حسب إمكانياتكم، تساهمون في استمرار هذا المنبر الحر والمستقل، ليبقى صوتًا قويًا للفكر اليساري والتقدمي، انقر هنا للاطلاع على معلومات التحويل والمشاركة في دعم هذا المشروع.
 

اشترك في قناة ‫«الحوار المتمدن» على اليوتيوب
في رحيل جليل شهباز، عضو هيئة إدارة الحوار المتمدن	في رحيل شاكر الناصري، أحد مؤسسي الحوار المتمدن

كيف تدعم-ين الحوار المتمدن واليسار والعلمانية على الانترنت؟

تابعونا على:

الفيسبوك

التويتر

اليوتيوب

RSS

الانستغرام

لينكدإن

تيلكرام

بنترست

تمبلر

بلوكر

فليبورد

الموبايل