-ما الحمق الاصطناعي؟- وفقا لسلافوي جيجيك؟/ أبوذر الجبوري - ت: من الألمانية أكد الجبوري

أكد الجبوري

الحوار المتمدن-العدد: 8177 - 2024 / 11 / 30 - 17:17
المحور: الادب والفن
    

"المشكلة ليست في أن برامج الدردشة غبية، بل في أنها ليست "غبية" بما فيه الكفاية." (سلافوي جيجيك)


سؤال المقال. هو؛ ما الذي يحلله المفكر والمنظر الثقافي السلوفيني سلافوي جيجيك (1949 - ). عن كيفية تعامل روبوتات الدردشة مع التعليقات المسيئة وصعوبة التقاط السخرية والفروق الدقيقة في اللغة البشرية؟.

لا يوجد شيء جديد في "روبوتات الدردشة" القادرة على إجراء محادثة باللغة الطبيعية، والتي تفهم النية الأساسية للمستخدم وتقدم استجابات بناءً على قواعد وبيانات محددة مسبقًا. لكن قدرة روبوتات الدردشة هذه زادت بشكل ملحوظ في الأشهر الأخيرة، الأمر الذي ولّد التوتر والذعر في العديد من الدوائر.

لقد كان هناك الكثير من الحديث عن أن برامج الدردشة الآلية تبشر بنهاية مقالات الطلاب التقليدية. ولكن هناك قضية واحدة تستحق المزيد من الاهتمام وهي كيفية استجابة برامج الدردشة الآلية عندما يستخدم المحاورون البشريون تعليقات عدوانية أو متحيزة جنسيًا أو عنصرية لدعوة الروبوت للرد بأوهامه البذيئة. هل ينبغي برمجة الذكاء الاصطناعي للرد بنفس نغمة الأسئلة المطروحة؟

إذا قررنا تنفيذ نوع ما من التنظيم، فيجب علينا بعد ذلك تحديد المدى الذي يجب أن تذهب إليه الرقابة. فهل سيتم حظر المواقف السياسية التي تعتبرها بعض المجموعات "مسيئة"؟ فماذا سيحدث للتعبير عن التضامن مع الفلسطينيين في الضفة الغربية أو الحجة القائلة بأن إسرائيل دولة فصل عنصري (وهو الأمر الذي أدرجه الرئيس الأمريكي السابق جيمي كارتر (1924 -) ذات يوم في عنوان كتاب)؟ هل سيتم حظرهم لأنهم يعتبرون "معاديين للسامية"؟

المشكلة لا تنتهي عند هذا الحد. وكما يحذر الفنان والكاتب جيمس بريدل (1980 -)، فإن أنظمة الذكاء الاصطناعي الجديدة "تعتمد على الاستيلاء المنهجي على الثقافة القائمة"، وفكرة أنها "مطلعة بالفعل أو ذات قيمة هي في غاية الخطورة". لذلك، يجب علينا أيضًا توخي الحذر مع مولدات الصور الجديدة التي تعمل بالذكاء الاصطناعي. "في محاولتهم لفهم وتكرار الثقافة البصرية البشرية بأكملها،" يلاحظ بريدل، "يبدو أنهم أيضًا أعادوا خلق أحلك مخاوفنا. ربما تكون هذه مجرد إشارة إلى أن هذه الأنظمة جيدة جدًا في تقليد الوعي البشري، وصولاً إلى الرعب الكامن في أعماق الوجود: مخاوفنا من القذارة والموت والفساد.

الآن، ما مدى جودة أنظمة الذكاء الاصطناعي الجديدة في تقريب الوعي البشري؟ خذ بعين الاعتبار الحانة التي أعلنت مؤخرًا عن مشروب خاص بالإعلان التالي: "اشتر بيرة واحدة بسعر اثنتين واحصل على بيرة ثانية مجانًا تمامًا". بالنسبة لأي إنسان، من الواضح أن هذه مزحة. تمت إعادة صياغة العرض الخاص الكلاسيكي "اشتر واحدة واحصل على واحدة" وإلغاء نفسه. إنه تعبير عن السخرية التي سيتم اعتبارها صدقًا كوميديًا، وكل ذلك لتعزيز المبيعات. هل يمكن لروبوت الدردشة أن يفهم أيًا من هذا؟

كلمة "اللعنة" تطرح مشكلة مماثلة كـ(كلمة نابية"). على الرغم من أنه يشير إلى شيء يحب معظم الناس القيام به ("الجماع")، إلا أنه يأخذ أيضًا تكافؤًا سلبيًا ("لقد أخطأنا!" أو "اللعنة عليك!"). اللغة والواقع مربكان. هل الذكاء الاصطناعي جاهز لتمييز هذه الاختلافات؟

في مقالته التي كتبها عام 1805 بعنوان “حول التطوير التدريجي للفكر أثناء التحدث" (نُشرت لأول مرة بعد وفاته عام 1878)، عكس الشاعر الألماني هاينريش فون كلايست (1777 - 1811) الحكمة الشائعة القائلة بأنه لا ينبغي للمرء أن يفتح فمه للتحدث إلا إذا كان لديه فكرة واضحة عن ما ستقوله: "إذا تم التعبير عن فكرة ما بطريقة مشوشة، فهذا لا يعني أن هذه الفكرة قد تم تصورها بطريقة مشوشة. على العكس من ذلك، من الممكن أن تكون الأفكار التي تم التعبير عنها بالطريقة الأكثر إرباكًا هي تلك التي تم التفكير فيها بشكل أكثر وضوحًا.

العلاقة بين اللغة والفكر معقدة للغاية. في مقطع من أحد خطابات ستالين (1878 - 1953) في أوائل الثلاثينيات، يقترح تدابير جذرية "لكشف ومحاربة أولئك الذين يعارضون الجماعية في أفكارهم فقط ومكافحتهم بلا رحمة - نعم، أنا جاد، يجب أن نقاتل حتى أفكار الشعب. " يمكن للمرء أن يفترض بأمان أن هذا المقطع لم يتم إعداده مسبقًا. بعد أن انجرف ستالين في هذه اللحظة، سرعان ما أدرك ما قاله للتو. ولكن بدلاً من التراجع، قرر التمسك بمبالغاته.

وكما قال جاك لاكان لاحقاً، لقد كانت لحظة الحقيقة التي ظهرت على حين غرة من خلال فعل الإعلان. حدد لويس ألتوسير (1918 - 1990) ظاهرة مماثلة في التفاعل بين الجائزة والمفاجأة. الشخص الذي يستوعب فكرة ما فجأة سوف يفاجأ بما حققه. مرة أخرى، هل الشات بوت قادر على القيام بذلك؟

المشكلة ليست في أن برامج الدردشة غبية؛ المشكلة أنهم ليسوا "أغبياء" بما فيه الكفاية. لا يعني ذلك أنهم ساذجون (ولا يفهمون السخرية والانعكاسية)؛ هو أنهم ليسوا ساذجين بما فيه الكفاية (أنهم لا يدركون أن السذاجة يمكن أن تخفي رؤية معينة). الخطر الحقيقي إذن لا يكمن في اعتقاد الناس أن برنامج الدردشة الآلي هو شخص حقيقي؛ إن التواصل مع روبوتات الدردشة يجعل الأشخاص الحقيقيين يتحدثون مثل روبوتات الدردشة - ويفتقدون كل الفروق الدقيقة والمفارقات، ويصبحون مهووسين بقول ما تعتقد أنك تريد قوله فقط.

عندما كنت أصغر سنا، ذهب أحد الأصدقاء إلى محلل نفسي للعلاج بعد تجربة مؤلمة. كانت فكرة صديقي حول ما يتوقعه هؤلاء المحللون من مرضاهم مبتذلة، لذلك أمضى الجلسة الأولى في تكوين "ارتباطات حرة" كاذبة حول مدى كرهه لوالده ومدى رغبته في موته. كان رد فعل المحلل بارعًا: فقد تبنى موقفًا ساذجًا "ما قبل فرويدي" ووبخ صديقي لأنه لم يحترم والده ("كيف يمكنك التحدث بهذه الطريقة عن الشخص الذي جعلك ما أنت عليه اليوم؟"). وقد بعثت هذه السذاجة المصطنعة برسالة واضحة: أنا لا أصدق "ارتباطاتهم" الزائفة. هل يمكن لبرنامج الدردشة فك تشفير هذا النص الفرعي؟

على الأرجح لا، لأنه يشبه تصوير روان ويليامز للأمير ميشكين في رواية ("الأبله". 1869) لدوستويفسكي (1821 - 1881). وفقًا للقراءة القياسية، فإن ميشكين، "الأبله"، هو "رجل تقي وصالح وجميل" أُلقي به في حالة من الجنون المعزول بسبب الأعمال الوحشية القاسية والعواطف في العالم الحقيقي. لكن في إعادة قراءة ويليامز الجذرية، يمثل ميشكين عين العاصفة: مهما كان صالحًا وتقيًا، فهو الشخص الذي يسبب الخراب والموت الذي يشهده، بسبب دوره في شبكة العلاقات المعقدة التي تحيط به.

لا يقتصر الأمر على أن ميشكين شخص مغفل ساذج. والحقيقة هي أن شخصيته المنفرجة الخاصة تعني أنه لا يدرك التأثيرات الكارثية التي يخلفها على الآخرين. إنه شخص بسيط يتحدث حرفيًا مثل برنامج الدردشة الآلي. وتكمن "صلاحيته" في حقيقة أنه، مثل برنامج الدردشة الآلي، يتفاعل مع التحديات دون سخرية، ويقول عبارات مبتذلة خالية من أي انعكاس، ويأخذ كل شيء على محمل الجد ويعتمد على آلية الإكمال العقلي التلقائي بدلا من التكوين الحقيقي للأفكار. لهذا السبب، سوف تتوافق روبوتات الدردشة الجديدة بشكل جيد للغاية مع الأيديولوجيين من جميع الأنواع، بدءًا من أولئك الذين يظلون اليوم يقظين ("مستيقظين") إلى القوميين في حركة "المؤيدين لأمريكا العظمى" الذين يفضلون البقاء نائمين.

ــــــــــــــــــــــــــــــــــــــــــــــــــــ
Copyright © akka2024
المكان والتاريخ: طوكيـو ـ 11/27/24
ـ الغرض: التواصل والتنمية الثقافية
ـ العينة المستهدفة: القارئ بالعربية (المترجمة).

#أكد_الجبوري (هاشتاغ)      

---

ترجم الموضوع إلى لغات أخرى - Translate the topic into other languages

---

الحوار المتمدن مشروع تطوعي مستقل يسعى لنشر قيم الحرية، العدالة الاجتماعية، والمساواة في العالم العربي. ولضمان استمراره واستقلاليته، يعتمد بشكل كامل على دعمكم. ساهم/ي معنا! بدعمكم بمبلغ 10 دولارات سنويًا أو أكثر حسب إمكانياتكم، تساهمون في استمرار هذا المنبر الحر والمستقل، ليبقى صوتًا قويًا للفكر اليساري والتقدمي، انقر هنا للاطلاع على معلومات التحويل والمشاركة في دعم هذا المشروع.
 

اشترك في قناة ‫«الحوار المتمدن» على اليوتيوب
حوار مع الكاتبة انتصار الميالي حول تعديل قانون الاحوال الشخصية العراقي والضرر على حياة المراة والطفل، اجرت الحوار: بيان بدل	حوار مع الكاتب البحريني هشام عقيل حول الفكر الماركسي والتحديات التي يواجهها اليوم، اجرت الحوار: سوزان امين

كيف تدعم-ين الحوار المتمدن واليسار والعلمانية على الانترنت؟

تابعونا على:

الفيسبوك

التويتر

اليوتيوب

RSS

الانستغرام

لينكدإن

تيلكرام

بنترست

تمبلر

بلوكر

فليبورد

الموبايل