المخاطرة بفقدان السيطرة على حضارتنا؟/ بقلم فرانكو بيراردي - ت: من الإيطالية أكد الجبوري

أكد الجبوري

الحوار المتمدن-العدد: 8779 - 2026 / 7 / 27 - 09:50
المحور: قضايا ثقافية
    

اختيار وإعداد أبوذر الجبوري - ت: من الإيطالية أكد الجبوري

"يصبح المجتمع الكوكبي مملوءًا بالأتمتة التقنية بشكل متزايد، لكن هذا لا يلغي بأي حال من الأحوال الصراع والعنف والمعاناة. لا يوجد انسجام في الأفق، ولا يبدو أن النظام قائمًا على الكوكب". (فرانكو بيراردي)

مقال للكاتب والمنظر والناشط الماركسي الإيطالي فرانكو بيراردي (1949 - ). نُشر المقال الأصلي في سيتكيست بتاريخ 20 مايو 2024.
يبحث بيفو بيراردي في العلاقة بين البشرية والذكاء الاصطناعي، محذرا من مستقبل قد يتفوق فيه الذكاء الاصطناعي على البشر ويحل محلهم.


النص؛

إن الكتابة المنهجية تبعدني عن الحالة الحالية التي يعيشها الرجال. إن اليقين بأن كل شيء مكتوب يلغينا أو يطاردنا. أعرف مناطق حيث يسجد الشباب أمام الكتب ويقبلون صفحاتها بوحشية، ولكنهم لا يستطيعون فك شفرة حرف واحد. لقد أدت الأوبئة، والخلافات الهرطوقية، والحج الذي يتحول حتما إلى أعمال نهب وسلب إلى تقليص عدد السكان. أعتقد أنني ذكرت حالات الانتحار، التي أصبحت أكثر تواترا كل عام. ربما يخدعني الشيخوخة والخوف، ولكنني أظن أن النوع البشري - الوحيد - على وشك الانقراض وأن المكتبة سوف تبقى: مضاءة، منعزلة، لا نهائية، ساكنة تمامًا، مسلحة بمجلدات ثمينة، عديمة الفائدة، غير قابلة للفساد، سر. خورخي لويس بورخيس، مكتبة بابل.

في هذا المقطع من القصة التي نشرها بورخيس في عام 1941 نجد حاضرنا بأكمله: تفكك الحضارة الإنسانية، والتعصب الديني للشباب الذين يقبلون صفحات الكتب التي لا يستطيعون حتى قراءتها، والأوبئة، والخلافات، والهجرات التي تتحول إلى لصوصية ونهب. تقليص عدد السكان. وأخيرا، حالات الانتحار، والتي أصبحت أكثر تواترا كل عام.

وصف جيد للعقد الثالث من القرن الحادي والعشرين.

وأخيرا يعلن بورخيس أن المكتبة لن تكون مقدر لها أن تختفي مع البشرية: فهي ستظل منعزلة، وسرية إلى ما لا نهاية، وعديمة الفائدة تماما.

فهل ستستمر المكتبة الهائلة من البيانات المسجلة بواسطة أجهزة الاستشعار البصرية والصوتية والرسومية المثبتة في كل ركن من أركان الكوكب في تغذية الروبوت المعرفي الذي يحل محل الكائنات البشرية الهشة، المسمومة بالوباء، والمصابة بالجنون إلى حد الانتحار؟ هذا ما يقوله بورخيس، ومن يدري؟

في العصر الحديث، كما قال فرانسيس بيكون، كانت المعرفة عامل قوة على الطبيعة وعلى الآخرين، ولكن من نقطة معينة فصاعدًا بدأ توسع المعرفة التقنية يعمل في الاتجاه المعاكس: لم يعد هناك أطراف صناعية للقوة البشرية. لقد تحولنا إلى نظام يتمتع بديناميكية مستقلة نجد أنفسنا محاصرين داخلها.

لقد خلقت التقنيات الرقمية الظروف المؤاتية لأتمتة التفاعل الاجتماعي، إلى الحد الذي جعل الإرادة الجماعية غير فعالة.

في كتابه "خارج السيطرة" (1993)، تنبأ كيفن كيلي بأن الشبكات الرقمية الناشئة آنذاك سوف تخلق عقلاً عالمياً سوف تضطر العقول دون العالمية (فردية أو جماعية أو مؤسسية) إلى الخضوع له.

وفي الوقت نفسه، كان البحث في مجال الذكاء الاصطناعي يتطور، وقد وصل الآن إلى مستوى من النضج يكفي للتنبؤ بنقش نظام من سلسلة من الأجهزة التي لا تعد ولا تحصى القادرة على أتمتة التفاعلات المعرفية البشرية في الجسم الاجتماعي.

إن المجتمع الكوكبي مليء بشكل متزايد بالأتمتة التقنية، ولكن هذا لا يلغي بأي حال من الأحوال الصراع والعنف والمعاناة. لا يوجد أي انسجام في الأفق، ولا يبدو أن هناك نظامًا قائمًا على هذا الكوكب.

تتعايش الفوضى والآلة، وتتشابك وتتغذي على بعضها البعض.

تعمل الفوضى على تغذية إنشاء واجهات تقنية للتحكم الآلي، والتي تسمح فقط باستمرار إنتاج القيمة. ولكن انتشار الأتمتة التقنية، التي تتحدىها حالات لا حصر لها من الصراعات بين القوى الاقتصادية والسياسية والعسكرية، يؤدي في النهاية إلى تأجيج الفوضى، بدلاً من الحد منها.

هل سيكون الأمر دائمًا على هذا النحو أم سيكون هناك ماس كهربائي وسيسيطر الفوضى على الآلة؟ أم أن الإنسان الآلي سيكون قادرًا على تحرير نفسه من الفوضى عن طريق القضاء على وكيله البشري؟


- امتثال؛
في الصفحات الأخيرة من رواية "الدائرة" لديفيد إيغارز، يعترف تاي جوسبودينوف لماي بعجزه في مواجهة المخلوق الذي تصوره وبناه بنفسه، شركة التكنولوجيا الوحشية التي تشكلت من اندماج فيسبوك وجوجل وباي بال ويوتيوب وغير ذلك الكثير. . . "لم أكن أرغب في أن يحدث ما يحدث"، يقول تي جوسبودينوف، "لكنني الآن لا أستطيع إيقافه".

تبرز الكمالية في أفق الرواية، وإغلاق الدائرة: حيث تتواصل تقنيات جمع البيانات الشعرية والذكاء الاصطناعي بشكل مثالي في شبكة شاملة من التوليد الاصطناعي للواقع المشترك.

إن المرحلة الحالية من تطوير الذكاء الاصطناعي ربما تأخذنا إلى عتبة القفزة إلى البعد الذي أسميه "الأتمتة المعرفية العالمية".

إن الإنسان الآلي ليس شبيهاً بالكائن البشري، بل هو تقارب عدد لا يحصى من الأجهزة التي تم إنشاؤها بواسطة الذكاء الاصطناعي المتفرق. لا يؤدي تطور الذكاء الاصطناعي إلى إنشاء الروبوتات، أو إلى المحاكاة المثالية للكائن الواعي، بل يتجلى في استبدال القدرات المحددة بأتمتة معرفية زائفة مرتبطة ببعضها البعض، وتتقارب في الأتمتة المعرفية العالمية.

في 28 مارس 2023، قام إيلون ماسك وستيف وزنياك، إلى جانب أكثر من ألف من كبار مشغلي التكنولوجيا الآخرين، بالتوقيع على خطاب يقترح وقفًا مؤقتًا لأبحاث الذكاء الاصطناعي:

"أصبحت أنظمة الذكاء الاصطناعي قادرة على المنافسة مع البشر في السعي لتحقيق أغراض عامة، وعلينا أن نسأل أنفسنا ما إذا كان ينبغي لنا أن نسمح للآلات بإغراق قنوات معلوماتنا بالدعاية والأكاذيب. هل يجب علينا السماح بأتمتة كافة أنشطة العمل، بما في ذلك الأنشطة المجزية؟ هل يجب علينا أن نطور عقولا غير بشرية قادرة على التفوق علينا عددا وأداء، فقط لتجعلنا عتيقين وتحل محلنا؟ هل يجب علينا المخاطرة بفقدان السيطرة على حضارتنا؟ لا يمكن تفويض هذه القرارات إلى قادة التكنولوجيا غير المنتخبين. لا ينبغي تطوير أنظمة الذكاء الاصطناعي القوية هذه إلا عندما نكون واثقين من أن تأثيراتها ستكون إيجابية وأن مخاطرها قابلة للإدارة. لذلك ندعو جميع مختبرات الذكاء الاصطناعي إلى تعليق تدريب أنظمة الذكاء الاصطناعي الأقوى من GPT-4 على الفور لمدة ستة أشهر على الأقل. ويجب أن يكون هذا الانفصال علنيا وقابلا للتحقق، ويجب أن يشمل جميع الجهات الفاعلة الرئيسية. وإذا لم يتم تنفيذ هذا التوقف المؤقت، فيتعين على الحكومات أن تأخذ زمام المبادرة لفرض وقف مؤقت.

ثم في أوائل مايو/أيار 2023، انتشرت أخبار تفيد بأن جيفري هينتون، أحد المبدعين الأوائل للشبكات العصبية، قرر مغادرة جوجل حتى يتمكن من التحدث عن مخاطر الذكاء الاصطناعي.

وقال هينتون لهيئة الإذاعة البريطانية (بي بي سي): "بعض مخاطر برامج الدردشة التي تعمل بالذكاء الاصطناعي مخيفة للغاية، لأنها يمكن أن تتفوق على البشر ويمكن أن تستخدمها جهات خبيثة".

وبالإضافة إلى توقع إمكانية التلاعب بالمعلومات، يشعر هينتون بالقلق إزاء "الخطر الوجودي الذي سينشأ عندما تصبح هذه البرامج أكثر ذكاءً منا". إنه مثل أن يكون لديك عشرة آلاف شخص وفي كل مرة يتعلم فيها شخص ما شيئًا ما، يعرفه الجميع تلقائيًا. "وبهذه الطريقة، يمكن لروبوتات الدردشة هذه أن تعرف أكثر بكثير من أي شخص آخر."

إن الإنسان الآلي ليس شبيهاً بالكائن البشري، بل هو تقارب عدد لا يحصى من الأجهزة التي تم إنشاؤها بواسطة الذكاء الاصطناعي المتفرق. لا يؤدي تطور الذكاء الاصطناعي إلى إنشاء الروبوتات، أو إلى المحاكاة المثالية للكائن الواعي، بل يتجلى في استبدال القدرات المحددة بأتمتة معرفية زائفة مرتبطة ببعضها البعض، وتتقارب في الأتمتة المعرفية العالمية.

في 28 مارس 2023، قام إيلون ماسك وستيف وزنياك، إلى جانب أكثر من ألف من كبار مشغلي التكنولوجيا الآخرين، بالتوقيع على خطاب يقترح وقفًا مؤقتًا لأبحاث الذكاء الاصطناعي:

"أصبحت أنظمة الذكاء الاصطناعي قادرة على المنافسة مع البشر في السعي لتحقيق أغراض عامة، وعلينا أن نسأل أنفسنا ما إذا كان ينبغي لنا أن نسمح للآلات بإغراق قنوات معلوماتنا بالدعاية والأكاذيب. هل يجب علينا السماح بأتمتة كافة أنشطة العمل، بما في ذلك الأنشطة المجزية؟ هل يجب علينا أن نطور عقولا غير بشرية قادرة على التفوق علينا عددا وأداء، فقط لتجعلنا عتيقين وتحل محلنا؟ هل يجب علينا المخاطرة بفقدان السيطرة على حضارتنا؟ لا يمكن تفويض هذه القرارات إلى قادة التكنولوجيا غير المنتخبين. لا ينبغي تطوير أنظمة الذكاء الاصطناعي القوية هذه إلا عندما نكون واثقين من أن تأثيراتها ستكون إيجابية وأن مخاطرها قابلة للإدارة. لذلك ندعو جميع مختبرات الذكاء الاصطناعي إلى تعليق تدريب أنظمة الذكاء الاصطناعي الأقوى من GPT-4 على الفور لمدة ستة أشهر على الأقل. ويجب أن يكون هذا الانفصال علنيا وقابلا للتحقق، ويجب أن يشمل جميع الجهات الفاعلة الرئيسية. وإذا لم يتم تنفيذ هذا التوقف المؤقت، فيتعين على الحكومات أن تأخذ زمام المبادرة لفرض وقف مؤقت.

ثم في أوائل مايو/أيار 2023، انتشرت أخبار تفيد بأن جيفري هينتون، أحد المبدعين الأوائل للشبكات العصبية، قرر مغادرة جوجل حتى يتمكن من التحدث عن مخاطر الذكاء الاصطناعي.

وقال هينتون لهيئة الإذاعة البريطانية (بي بي سي): "بعض مخاطر برامج الدردشة التي تعمل بالذكاء الاصطناعي مخيفة للغاية، لأنها يمكن أن تتفوق على البشر ويمكن أن تستخدمها جهات خبيثة".

وبالإضافة إلى توقع إمكانية التلاعب بالمعلومات، يشعر هينتون بالقلق إزاء "الخطر الوجودي الذي سينشأ عندما تصبح هذه البرامج أكثر ذكاءً منا". إنه مثل أن يكون لديك عشرة آلاف شخص وفي كل مرة يتعلم فيها شخص ما شيئًا ما، يعرفه الجميع تلقائيًا. "وبهذه الطريقة، يمكن لروبوتات الدردشة هذه أن تعرف أكثر بكثير من أي شخص آخر."

لقد تم تدريب البرنامج التوليدي على التعرف على معنى الكلمات والصور، ولديه القدرة على تنظيم العبارات نحويًا. إنها تمتلك القدرة على التعرف على السياق النحوي وإعادة تركيبه ولكن ليس السياق البراجماتي، أي البعد المكثف لعملية الاتصال، لأن هذه القدرة تعتمد على تجربة الجسد، وهي تجربة ليست في متناول الدماغ. بدون أعضاء. تشكل الأعضاء الحسية مصدرًا للمعرفة السياقية والتأملية التي لا يمتلكها الإنسان الآلي.

ومن وجهة نظر التجربة، لا يتنافس الإنسان الآلي مع الكائن الحي الواعي. ولكن من حيث الوظائف، فإن الروبوت المعرفي الزائف قادر على التفوق على العامل البشري في مهارة محددة (الحساب، إعداد القوائم، الترجمة، التصويب، إطلاق النار، وما إلى ذلك).

يتمتع الروبوت أيضًا بالقدرة على إتقان إجراءاته، أي القدرة على التطور. بعبارة أخرى، يميل الروبوت المعرفي إلى تعديل أغراض تشغيله، وليس فقط الإجراءات.

بمجرد تطوير مهارات التعلم الذاتي، يصبح الروبوت قادرًا على اتخاذ القرارات بشأن تطور الإجراءات، ولكن أيضًا، بشكل أساسي، قادر على اتخاذ القرارات بشأن أغراض التشغيل الآلي نفسه.

بفضل تطور الببغاوات العشوائية إلى وكلاء لغويين قادرين على التصحيح الذاتي التطوري، أصبحت اللغة، التي أصبحت قادرة على توليد الذات، مستقلة عن الوكيل البشري، وأصبح الوكيل البشري محاطًا باللغة تدريجيًا.

الإنسان ليس خاضعًا، بل مُغلفًا ومُحصورًا. إن الخضوع الكامل من شأنه أن يستلزم تهدئة الإنسان، والقبول الكامل: أي النظام في النهاية.

وأخيرا، هناك انسجام، وإن كان شموليا. ولكن لا. تسيطر الحرب على المشهد العالمي.


- الإنسان الآلي الأخلاقي هو وهم؛
وعندما أدرك متدربو الساحر الآثار المحتملة للقدرة على التصحيح الذاتي وبالتالي القدرة التطورية للذكاء الاصطناعي، بدأوا يتحدثون عن أخلاقيات الأتمتة، أو المحاذاة، كما يطلق عليها في مصطلحات فلسفة الأعمال.

في عرضهم المتكلف، يعلن مؤلفو روبوت المحادثة GPT أن نيتهم هي إدراج معايير أخلاقية تتوافق مع القيم الأخلاقية الإنسانية في منتجاتهم.

"يهدف بحثنا في المحاذاة إلى مواءمة الذكاء العام الاصطناعي (AGI) مع القيم الإنسانية واتباع النية البشرية. "نحن نتبع نهجًا تكراريًا تجريبيًا: من خلال محاولة مواءمة أنظمة الذكاء الاصطناعي عالية الكفاءة، يمكننا أن نتعلم ما ينجح وما لا ينجح، وبالتالي تحسين قدرتنا على جعل أنظمة الذكاء الاصطناعي أكثر أمانًا ومواءمة."

إن مشروع إدخال القواعد الأخلاقية في الآلة التوليدية هو من نسج الخيال العلمي القديم، وكان إسحاق أسيموف أول من كتب عنه عندما صاغ القوانين الأساسية الثلاثة للروبوتات. ويوضح أسيموف نفسه بطريقة سردية أن هذه القوانين لا تعمل.

وفي نهاية المطاف، ما هي المعايير الأخلاقية التي يجب أن ندرجها في الذكاء الاصطناعي؟

إن تجربة قرون عديدة تظهر أن الاتفاق العالمي على القواعد الأخلاقية أمر مستحيل، لأن معايير التقييم الأخلاقي مرتبطة بالسياقات الثقافية والدينية والسياسية، وكذلك بالسياقات البراجماتية غير المتوقعة للعمل. لا توجد أخلاق عالمية، بل فقط تلك التي فرضتها الهيمنة الغربية، والتي بدأت تنهار.

من الواضح أن أي مشروع للذكاء الاصطناعي سوف يتضمن معايير تتوافق مع رؤية عالمية، وعلم الكونيات، والمصلحة الاقتصادية، ونظام القيم الذي يتعارض مع الآخرين. وبطبيعة الحال، سوف يدعي الجميع العالمية.

إن ما يحدث من حيث التوافق هو عكس ما يعد به بناة الآلات: فليست الآلة هي التي تتوافق مع القيم الإنسانية، والتي لا أحد يعرف بالضبط ما هي هذه القيم. لكن يجب على البشر أن يتوافقوا مع القيم التلقائية للجهاز الذكي، سواء تعلق الأمر باستيعاب الإجراءات الضرورية للتفاعل مع النظام المالي، أو بتعلم الإجراءات اللازمة لاستخدام الأنظمة العسكرية.

أعتقد أن عملية تشكيل الذات للآلة المعرفية لا يمكن تصحيحها بالقانون أو بالمعايير الأخلاقية العالمية، ولا يمكن مقاطعتها أو تعطيلها.

إن طلب وقف العمل الذي قدمه تلاميذ الساحر التائب غير واقعي، ناهيك عن إلغاء تنشيط الروبوت. ويتعارض هذا مع المنطق الداخلي للآلة نفسها، ومع الظروف التاريخية التي تتم فيها هذه العملية، وهي ظروف المنافسة الاقتصادية والحرب.

في ظروف المنافسة والحرب، من المحتم أن يتم تنفيذ جميع التحولات التقنية القادرة على زيادة القوة الإنتاجية أو التدميرية.

وهذا يعني أنه لم يعد من الممكن إيقاف عملية البناء الذاتي للآلة العالمية.


- صناديق باندورا؛
"نحن نفتح أغطية صندوقي باندورا العملاقين"، هذا ما كتبه توماس فريدمان في مقال افتتاحي في صحيفة نيويورك تايمز بعنوان "تغير المناخ والذكاء الاصطناعي".

لقد لفتت انتباهي بعض الجمل من المقال:

"الهندسة متقدمة على العلم إلى حد ما. وهذا يعني أن حتى أولئك الذين يقومون ببناء ما يسمى بنماذج اللغة الطويلة التي تشكل أساس منتجات مثل ChatGPT وBard لا يفهمون تمامًا كيفية عملها أو النطاق الكامل لقدراتها.

ولعل السبب الذي دفع شخصاً مثل هينتون إلى ترك جوجل والاستفادة من حرية تحذير العالم من الخطر الشديد هو إدراكه أن الجهاز لديه القدرة على تصحيح نفسه وإعادة تحديد غرضه.

أين يكمن الخطر في كيان لا يمتلك الذكاء البشري ولكنه أكثر كفاءة من الإنسان في أداء مهام معرفية محددة ولديه القدرة على إتقان عمله؟

الوظيفة العامة للكيان الذكي غير العضوي هي إدخال ترتيب المعلومات إلى الكائن المحرك.

لدى الروبوت مهمة تنظيمية، لكنه يجد عامل فوضى في طريقه: الدافع العضوي، الذي لا يمكن اختزاله في النظام العددي.

إن الإنسان الآلي يوسع نطاقه إلى مجالات جديدة من العمل الاجتماعي، لكنه يفشل في إكمال مهمته طالما ظل توسعه محدودًا باستمرار العامل البشري الفوضوي.

والآن هناك احتمال أن يتمكن الإنسان الآلي في مرحلة ما من القضاء على عامل الفوضى بالطريقة الوحيدة الممكنة: القضاء على المجتمع البشري.
ـــــــــــــــــــــــــــــــــــــــــــــــــــ
Copyright © 2026
المكان والتاريخ: أوكسفورد . المملكة المتحدة ـ 07/26/26
ـ الغرض: التواصل والتنمية الثقافية
ـ العينة المستهدفة: القارئ بالعربية (المترجمة).

#أكد_الجبوري (هاشتاغ)      

---

ترجم الموضوع إلى لغات أخرى - Translate the topic into other languages

---

الحوار المتمدن مشروع تطوعي مستقل يسعى لنشر قيم الحرية، العدالة الاجتماعية، والمساواة في العالم العربي. ولضمان استمراره واستقلاليته، يعتمد بشكل كامل على دعمكم. ساهم/ي معنا! بدعمكم بمبلغ 10 دولارات سنويًا أو أكثر حسب إمكانياتكم، تساهمون في استمرار هذا المنبر الحر والمستقل، ليبقى صوتًا قويًا للفكر اليساري والتقدمي، انقر هنا للاطلاع على معلومات التحويل والمشاركة في دعم هذا المشروع.
 

اشترك في قناة ‫«الحوار المتمدن» على اليوتيوب
في رحيل جليل شهباز، عضو هيئة إدارة الحوار المتمدن	في رحيل شاكر الناصري، أحد مؤسسي الحوار المتمدن

كيف تدعم-ين الحوار المتمدن واليسار والعلمانية على الانترنت؟

تابعونا على:

الفيسبوك

التويتر

اليوتيوب

RSS

الانستغرام

لينكدإن

تيلكرام

بنترست

تمبلر

بلوكر

فليبورد

الموبايل