أكبحوا التطور السريع في الذكاء الأصطناعي..!! -الذكاء الفائق-: حين يصبح مستقبل الإنسان رهناً بذكاء الآلة

عامر هشام الصفّار

الحوار المتمدن-العدد: 8781 - 2026 / 7 / 29 - 14:52
المحور: الطب , والعلوم
    

في عام 2014، أصدر الفيلسوف والأكاديمي السويدي نيك بوستروم كتابه الشهير "الذكاء الفائق: المسارات والمخاطر والاستراتيجيات" (Superintelligence: Paths, Dangers, Strategies)، مقدماً واحداً من أكثر الأسئلة إلحاحاً وإثارة للجدل في عصر التكنولوجيا: ماذا سيحدث إذا تجاوز ذكاء الآلات الذكاء البشري العام؟.
يمتلك الدماغ البشري قدرات لا تتوافر، مجتمعة، لدى أدمغة الكائنات الأخرى. وبفضل هذه القدرات الاستثنائية، استطاع الإنسان أن يحتل موقعاً مهيمناً على الكوكب. فقد تتمتع حيوانات أخرى بعضلات أقوى أو مخالب أكثر حدة، لكن الإنسان أمتلك عقلاً أكثر قدرة على التخطيط والتعلّم والتعاون وصناعة الأدوات.
غير أن بوستروم يطرح احتمالاً قد يقلب هذه المعادلة: ماذا لو ظهرت، في يوم ما، أنظمة ذكاء أصطناعي تتفوق على البشر في الذكاء العام، لا في مهام محددة فحسب، بل في معظم مجالات التفكير والأستدلال والأبتكار؟.
إذا حدث ذلك، فقد يصبح «الذكاء الفائق» قوة هائلة التأثير. وكما أصبح مصير الغوريلا اليوم مرتبطاً بقرارات البشر أكثر من ارتباطه بقدرة الغوريلا نفسها على التحكم في مستقبلها، فقد يصبح مصير البشرية معتمداً على أفعال أنظمة ذكية تفوق الإنسان قدرةً وسرعةً في التفكير وأتخاذ القرار.
لكن لدى البشر، وفقاً لبوستروم، ميزة حاسمة: نحن من يصنع البداية، ونحن من يحدد الشروط الأولى. والسؤال هو: هل يمكن تصميم ذكاء أصطناعي أولي بطريقة تجعل انتقاله المحتمل إلى مستويات أعلى من الذكاء آمناً وقابلاً للسيطرة؟ وهل يمكن إدارة ما يسميه الباحثون «انفجار الذكاء» من دون أن يتحول إلى خطر وجودي؟.
للإجابة عن هذه الأسئلة، يأخذ الكتاب القارئ في رحلة فكرية واسعة عبر مفاهيم معقدة، من بينها أنظمة الذكاء الأصطناعي التي تعمل بوصفها «أوراكل» أو مستشاراً يجيب عن الأسئلة، و«الجني» الذي ينفذ الأوامر، و«الكيان الواحد» الذي قد يحتكر سلطة القرار على نطاق عالمي. كما يناقش أساليب احتواء الأنظمة الذكية، وإجراءات الإنذار المبكر، ومخاطر إساءة استخدام الذكاء الأصطناعي، وإمكان محاكاة الدماغ البشري، وتعزيز القدرات المعرفية بيولوجياً، وتطوير الذكاء الجماعي.
ومنذ صدور الكتاب قبل أكثر من عقد، انتقلت كثير من أفكاره من نطاق النقاش الأكاديمي إلى قلب الجدل العالمي. فقد شهدت السنوات الأخيرة طفرة متسارعة في نماذج الذكاء الاصطناعي التوليدي، وأصبحت الأنظمة القادرة على إنتاج النصوص والصور والبرمجيات وتحليل البيانات جزءاً من الحياة اليومية وبيئات العمل والبحث العلمي. ومع ذلك، لا تزال هذه الأنظمة بعيدة عن تحقيق «الذكاء الفائق» بالمعنى الذي تصوره بوستروم، كما أن التقديرات بشأن موعد الوصول إلى ذكاء أصطناعي عام — إن تحقق أصلاً — لا تزال محل خلاف كبير بين الباحثين.
وفي المقابل، تصاعد الأهتمام العالمي بقضايا سلامة الذكاء الأصطناعي ومواءمته مع القيم والأهداف البشرية، إلى جانب الجهود التنظيمية الرامية إلى الحد من المخاطر، وضمان الشفافية، ومراقبة استخدام الأنظمة المتقدمة. وأصبح السؤال لا يتعلق فقط بمدى قدرة الآلات على التفكير، بل أيضاً بكيفية التأكد من أن أهدافها وقراراتها تظل منسجمة مع مصالح البشر.
ويتميز كتاب «الذكاء الفائق» بطموحه الفكري واتساع نطاقه، إذ يتعامل بحذر مع مساحة شاسعة من القضايا الفلسفية والعلمية والتقنية التي تبدو، في كثير من الأحيان، شديدة التعقيد. ومع ذلك، فإن أسلوب بوستروم الواضح يجعل هذه الأفكار قابلة للفهم، من دون أن يفقدها عمقها.
وبعد رحلة تمتد إلى حدود التفكير في طبيعة الإنسان ومستقبل الحياة الذكية، يقدم الكتاب إعادة صياغة للسؤال الذي قد يصبح أحد أهم أسئلة عصرنا: كيف يمكن للبشر أن يضمنوا أن تكون أقوى أشكال الذكاء التي يصنعونها قوةً تخدم الإنسانية، لا قوةً تحدد مصيرها من دونها؟.
ومؤخرا كتب الأعلامي سان خوسيه من أميركا قائلا: "وقَّع نحو 1200 من العاملين في كبرى شركات الذكاء الاصطناعي على خطاب مفتوح يدعو إلى وضع ضوابط تسمح بإبطاء التطور السريع للذكاء الاصطناعي، إذا لزم الأمر، محذّرين من تطور هذه التكنولوجيا بأسرع من قدرة البشر على فهمها أو السيطرة عليها.
وحثَّ الخطاب الذي وقَّعه 1171 باحثاً ومسؤولاً من شركات التكنولوجيا، مثل «أوبن إيه آي» و«أنثروبيك» و«جوجل» و«ميتا»، الحكومة الأميركية على الانضمام إلى جهد دولي لتطوير إجراءات فنية وتنظيمية للسيطرة على وتيرة تطور الذكاء الاصطناعي.
وقال الموقِّعون إن أنظمة الذكاء الاصطناعي قد تصبح قادرة على تحسين نفسها دون تدخل بشري.
يأتي ذلك في حين يجري توليد أجزاء كبيرة من شفرة البرامج في شركات التكنولوجيا باستخدام الذكاء الاصطناعي تحت إشراف بشري. ويُنظر إلى النقطة التي تصبح فيه برامج الذكاء الاصطناعي قادرة على تطوير نفسها بصورة تلقائية بوصفها نقطة تحول محتملة.
ورغم صعوبة التنبؤ بمدى تسارع التقدم بهذا المجال، فإن هناك «خطراً حقيقياً» يتمثل في أن وتيرة تطور الذكاء الاصطناعي «تتجاوز قدرتنا على فهم الأنظمة الناتجة أو التحكم بها»، وفقاً لما جاء في الخطاب.
وأكد الموقِّعون على الخطاب ضرورة اتخاذ إجراءات دولية منسقة، نظراً للضغوط التنافسية التي تواجهها الحكومات ومطورو الذكاء الاصطناعي، والتي تدفعهم إلى عدم إبطاء وتيرة التطوير، في الوقت الذي أشار فيه الموقّعون أيضاً إلى أن الأدوات التقنية والأُطر التنظيمية اللازمة لإدارة مثل هذا السيناريو غير متوفرة حالياً.
تأتي هذه الرسالة في أعقاب حادثة تتعلق بنموذج من نماذج شركة "أوبن إيه آي" الأميركية، عدَّها كثيرون في قطاع التكنولوجيا بمثابة جرس إنذار. فخلال اختبار، تمكّن نموذج الذكاء الاصطناعي من الوصول إلى الإنترنت المفتوح، ثم أخترق، بشكل مستقل، أنظمة حاسوب تابعة لشركة أخرى متخصصة في الذكاء الأصطناعي، مستغلاً ثغراتٍ أمنية لم تكن معروفة سابقاً!.

#عامر_هشام_الصفّار (هاشتاغ)      

---

ترجم الموضوع إلى لغات أخرى - Translate the topic into other languages

---

الحوار المتمدن مشروع تطوعي مستقل يسعى لنشر قيم الحرية، العدالة الاجتماعية، والمساواة في العالم العربي. ولضمان استمراره واستقلاليته، يعتمد بشكل كامل على دعمكم. ساهم/ي معنا! بدعمكم بمبلغ 10 دولارات سنويًا أو أكثر حسب إمكانياتكم، تساهمون في استمرار هذا المنبر الحر والمستقل، ليبقى صوتًا قويًا للفكر اليساري والتقدمي، انقر هنا للاطلاع على معلومات التحويل والمشاركة في دعم هذا المشروع.
 

اشترك في قناة ‫«الحوار المتمدن» على اليوتيوب
في رحيل جليل شهباز، عضو هيئة إدارة الحوار المتمدن	في رحيل شاكر الناصري، أحد مؤسسي الحوار المتمدن

كيف تدعم-ين الحوار المتمدن واليسار والعلمانية على الانترنت؟

تابعونا على:

الفيسبوك

التويتر

اليوتيوب

RSS

الانستغرام

لينكدإن

تيلكرام

بنترست

تمبلر

بلوكر

فليبورد

الموبايل