هكذا يلغي -المساعد الافتراضي- التحيز الجنسي في الذكاء الاصطناعي

بوياسمين خولى
كاتب وباحث متفرغ
(Abouyasmine Khawla)

الحوار المتمدن-العدد: 7275 - 2022 / 6 / 10 - 07:33
المحور: حقوق المراة ومساواتها الكاملة في كافة المجالات
    

أصبح اليوم "المساعد الافتراض الذكي - أو مساعد الذكاء الاصطناعي (AI) - artificial intelligence assistant أمرًا شائعًا. باستخدام نظام الذكاء الاصطناعي ، يحاكي هذا المساعد التفاعلات البشرية ويكمل المهام عوضنا . على سبيل المثال ، يمكن لـبرنامج "Cortana" من "Microsoft " التدقيق في نتائج محرك البحث وتعيين التذكيرات ؛ ويقوم المساعد المجهول صوتيا بقراءة اتجاهات نظام تحديد المواقع العالمي (GPS) على متن الطائرة ؛ ويمكن لبرنامج " Alexa" الشهير من "Amazon" أن يضفي الحيوية على إعداد الترفيه في غرفتك.

وغني عن القول ، أن الجميع الفاعلين في مجال الإلكترونيات – من " Apple" إلى" BMW"- يستثمرون في هذه التكنولوجيا ، مما يجعل المساعدين الافتراضيين في كل مكان. فلم تعد هذه التفاعلات المدعومة بالذكاء الاصطناعي مجرد وظائف، إنها أضحت المنتجات نفسها. ومن المتوقع وجود مساعدين يتم تنشيطهم بالصوت وعن بعد.

يجمع بعض أشهر المساعدين الافتراضيين الأذكياء - Siri و Cortana و Alexa - في شيء مشترك: أصواتهم الإنجليزية الافتراضية أصبحت ممكنة جميعًا بواسطة النساء. المرأة التي تقف وراء " Siri" من "Apple" هي الممثلة الكوميدية "سوزان بينيت". يتم التعبير عن "Cortana "، الذي يستند إلى شخصية ذكاء اصطناعي لشركة Microsoft ، على سوت "جين تايلور" ، تمامًا كما هو الحال في سلسلة ألعاب الفيديو. وعلى الرغم من أن "Alexa" ليس صوتًا لشخص حقيقي - تم إنشاؤه بدلاً من ذلك من قواعد تحويل النص إلى كلام (TTS) وتقنية الذكاء الاصطناعي - فإن مساعد أمازون لديه ، بلا شك ، الاسم الأكثر شيوعًا بين جميع مساعدي الذكاء الاصطناعي المشهورين.

فهل هناك تحيز جنساني - gender bias - في الذكاء الاصطناعي ؟

لا يمكن إنكار أن مجتمعنا الغارق في ثنائية النوع ، قد سمح للتحيز الجنساني بالتسرب إلى الذكاء الاصطناعي. أكثر من نصف مستخدمي المتحدثين الأذكياء في الولايات المتحدة لديهم " Alexa" ، وبينما حاليًا ، يمتلك 47٪ من جميع مستخدمي الهواتف الذكية في الولايات المتحدة أجهزة - iPhone - قفز هذا الرقم إلى 83٪ بالنسبة للمراهقين - وبالتالي ، يمكنهم الوصول إلى " Siri" . فكيف تعاملت شركات التكنولوجيا مع هذا الاتجاه المتمثل في ترميز المساعدين الافتراضيين الأذكياء مثل النساء؟

يمكن تغيير" Siri" و" Google Assistant" لاستخدام صوت مشفر بواسطة الإنسان (أي صوت يعبر عن ما يعتبر عمومًا في المجتمع الغربي سمات ذكورية). وفي الوقت نفسه ، توظف "أمازون" مشاهير ، مثل "مايكل بي جوردان" ، لإعارة مواهبهم الصوتية إلى" Alexa" لكن هذا لا يكفي.

قالت إحدى الخبيرات في مجال التواصل الشبكي: "الخوارزمية - the algorithm – هي في واقع الأمر، رأي يتم التعبير عنه بواسطة كود". "إذا كان معظمهم من الرجال الذين يطورون الخوارزميات ، فإن النتائج بالطبع ستكون متحيزة ... أنت تُعَلّم الآلة كيفية اتخاذ القرار". كل هذا، لتقول "إن مساعدي الصوت الأذكياء يفعلون الشيء غير ذكي وهو المتمثل في الاستمرار في تطبيع إخضاع النساء ، خاصة وأن معظم تفاعلنا مع هؤلاء المساعدين يدور حول الأوامر".

قالت أستاذة علم الاجتماع في جامعة جنوب كاليفورنيا ، الدكتورة "صفية أوموجا" في مجلة نيويورك: "إنها أداة اجتماعية قوية تعلمنا دور النساء والفتيات والنساء في تلبية الطلب". لحسن الحظ، وجد الباحثون طريقة لعكس هذا التحيز.

أول صوت "لاجنساني"- asexual voice- صوت "لا يخضع للنوع"، أو بعبارة أخرى "صوت غير مُجَنْدَر".
تم تطويره من طرفة فريق من الباحثين ومصممي الصوت واللغويين - هو جزء من مبادرة تسمى " Equal AI" ، والتي تأمل في "كتابة وتصويب المستقبل". جزء من هذا الهدف هو القضاء على التحيزات الضمنية وإنشاء خوارزميات لا تعكس التعصب البشري. في هذا الصدد، قالت "جولي كاربنتر" - خبيرة السلوك البشري والتكنولوجيات الناشئة ـ: "كان أحد أهدافنا الكبيرة هو المساهمة في حوار عالمي حول النوع الاجتماعي ، وحول النوع والتكنولوجيا والأخلاق".

وحسب جملة من الخبراء ، قد لا يكون المستخدمون على دراية بتحيزهم ، لكنهم سيظهرون مع ذلك تقاربًا لإعطاء أوامر للذكاء الاصطناعي المرمز للإناث ، بينما يفضلون الذكاء الاصطناعي المشفر للذكور عندما يحتاجون إلى مساعدة ، وهو شيء موثوق به. يفكر المرء هنا في "Watson" (1)، كمبيوتر إجابات الأسئلة لشركة IBM ، والذي تمحور حول Jeopardy على وجه الخصوص ، ومن خلال ذكائه ، كان من المفترض أن ينضح بنوع من السلطة ؛ على عكس مساعدي الجيب هؤلاء ، يتمتع " Watson" بصوت يقرأ تقليديًا كذكر.
___________________ ________(1) Watson هو برنامج كمبيوتر يعمل بالذكاء الاصطناعي تم تصميمه بواسطة شركة IBM للإجابة على الأسئلة المصاغة بلغة طبيعية. ويشير اسم "Watson" إلى –"Thomas J. Watson "- قائد شركة IBM من 1914 إلى 19562 ، حتى قبل تسمية هذه الشركة باسمها الحالي. في 2011 ، حقق " Watson " شهرة عالمية عندما أصبح بطل عرض الألعاب الأمريكية – Jeopardy- متغلبًا على أفضل المنافسين البشر في تاريخ هذه اللعبة._______________________________________________

أحببنا ذلك أم كرهنا ، فإننا نتفاعل جميعًا مع الإشارات الجنسانية. لذا ، سواء تم تصميمه عن عمد للقيام بذلك أم لا ، فإن الروبوت الجنساني سوف يطلق ردود فعل لن يفعلها الروبوت غير الجنسي. بالنسبة إلى عدد من الخبراء في هذا المجال ، إن الجنس هو بناء - مما يثير العديد من المخاوف الأخلاقية ، ومعظمها يتعلق بالتحيز الجنساني.

إذن، فكيف اختار الأشخاص الذين يقفون وراء مشروع "الصوت الأول من دون جنس " ؟ كانت الخطوة الأولى هي تسجيل عشرات الأشخاص - الأشخاص غير الثنائيين ، والنساء المتحولات والرجال المتحولين. في البداية ، اعتقد أحد مصممي الصوت ، أنه بإمكانهم إضافة طبقات صوتية ، وبالتالي دمجها في "نوع من الوسط" ، لكن هذه الطريقة لم تنجح.

بدلاً من ذلك ، تم التركيز على صوت يقع بين ما تعتبره أدمغتنا الثقافية الثنائية ذكوريًا أو أنثويًا - وهو شيء يعتمد إلى حد كبير على التردد أو طبقة الصوت. كان من الصعب العمل مع هذه الأصوات دون تدميرها. وفي نهاية المطاف تم تشغيل أربعة أشكال مختلفة من الاستمارات في استطلاع شمل 4500 شخص ، وبناءً على التعليقات ، استقر أصحاب المشروع على ما هو الآن "صوت اللاجنسي" أو المحايد بين الجنسين.

رغم أن في حين أن المساعدين الافتراضيين الأذكياء "المحايدين جنسانياً "، لم يجدوا طريقهم بعد إلى التكنولوجيا السائدة ، فمن الواضح أن الابتعاد عن ثنائية الجنس هو خطوة يمكن تعزيزها من خلال التقدم في التكنولوجيا. علما أن التكنولوجيا تتلاعب برغباتنا بوضع "الناس في صناديق"، وبالتالي لديها القدرة على دفع حدود الناس وتوسيع آفاقهم.

#بوياسمين_خولى (هاشتاغ)       Abouyasmine_Khawla#          

---

ترجم الموضوع إلى لغات أخرى - Translate the topic into other languages

---

الحوار المتمدن مشروع تطوعي مستقل يسعى لنشر قيم الحرية، العدالة الاجتماعية، والمساواة في العالم العربي. ولضمان استمراره واستقلاليته، يعتمد بشكل كامل على دعمكم. ساهم/ي معنا! بدعمكم بمبلغ 10 دولارات سنويًا أو أكثر حسب إمكانياتكم، تساهمون في استمرار هذا المنبر الحر والمستقل، ليبقى صوتًا قويًا للفكر اليساري والتقدمي، انقر هنا للاطلاع على معلومات التحويل والمشاركة في دعم هذا المشروع.
 

اشترك في قناة ‫«الحوار المتمدن» على اليوتيوب
في رحيل جليل شهباز، عضو هيئة إدارة الحوار المتمدن	في رحيل شاكر الناصري، أحد مؤسسي الحوار المتمدن

كيف تدعم-ين الحوار المتمدن واليسار والعلمانية على الانترنت؟

تابعونا على:

الفيسبوك

التويتر

اليوتيوب

RSS

الانستغرام

لينكدإن

تيلكرام

بنترست

تمبلر

بلوكر

فليبورد

الموبايل