صدمة اليويتوب
ما حدث مع زينة ربما يعتبر البعض شيئاً عابراً. لكن نموذج الاقتراحات الأولية التي قفزت أمام زينة، أتت نتيجة لتسجيل وضعها العائلي كأرملة في حساباتها الإلكترونية. وهذا ما أكّدت عليه مطوّرة البرامج والألعاب أمال الشريف، في حديث إلى “المدن”: “ما قدمه يوتيوب لزينة في البداية، كان نتيجة مؤشرات أولية عنها، كعمرها، ووضعها العائلي، وجنسها، والمنطقة التي تسكنها”.
معايير إنسانية
حديث الخبراء في الذكاء الاصطناعي عن الإساءة الجنسية أو العنصرية، التي قد ترتكبها النماذج الخوارزمية، تجاه النساء أو الأقليات العرقية، بات حديث الساعة. وأضحت ضخامة البيانات الرقمية مشكلة تسعى شركات عالمية إلى حلها وترتيبها، وفق معايير إنسانية. خصوصاً أن العالم السيبراني ينضح بالبيانات الرقمية عن الحياة الشخصية لأكثر من نصف سكان الكرة الأرضية، إذ بات لكل واحد منهم خوارزميته التي تشكّلت نتيجة تفاعله مع المنصّات والشركات الرقمية.
ذكورية فيسبوك
ارتكز حديث الخبراء على “النموذج الفكري”، الذي تأسست عليه الخوارزميات الكبرى لـ”فيسبوك” و”تويتر” و”يوتيوب” و”أمازون”. فلطالما ذَكّرَت الكاتبة الأميركية مويرا ويغل، وهي زميلة الدراسة لرئيس شركة “فيسبوك” مارك زكربورغ في جامعة هارفرد، بأن الأخير بنى منصته على أساس بيانات ذكورية، مثل التلصص والسخرية من بعض الطلاب، ونشر صور طالبات من دون إذنهنّ. أو حتى اجراء مسابقات حولهنّ لاختيار الطالبة الأجمل، أو الأكثر بشاعة.
دهاء يوتيوب
بعد انتهاء الانتخابات الاميركية، طالت الفضائح مواقع التواصل الاجتماعي. وتركّز النقد حول دورها الهجين في تأجيج التيارات اليمينية العالمية. وانكشف الدور السيء الذي أدّته خوارزمية “يوتيوب”، عندما بدأت تقترح مواد تؤيد فكر اليمين المتطرف حول العالم، وأخرى توسم اليسار السياسي بالمؤامرة.
تحيّز أمازون
شركة “أمازون” ليست أفضل حالاً. فقد كشفت خوارزميتها المعتمدة في “الاختبار الذكي”، الذي تجريه للتوظيف، عن تحيّز مبالغ فيه في إختيار الموظفين. إذ غلّبت الكفة لصالح الذكور على حساب الإناث بثلاثة أضعاف. كما تعاني خوارزمية الشركة من صعوبة في تحديد أصحاب البشرة الداكنة.
غوغل لغة التمميز
العنصرية تجاه النساء ترتكبها خدمة “google translate” أيضاً، التي غالباً ما تُترجم مختلف الضمائر إلى صيغة المذكّر. فعلى سبيل المثال عبارة ” o bir muhandis” تعني باللغة التركية “هو مهندس أو هي مهندسة” لكن غوغل يترجمها إلى العربية “هو مهندس” وحسب.
عطب في عقلية الشركات
يؤمن خبراء ومحللون أن الخوارزميات الحالية منحازة، وأداة عنصرية تعمل لصالح البيض، وبأنها “متحرّشة بالنساء”. وهذا عطب يساهم في تأجيج النزاعات ويحتاج إلى الإصلاح، والعمل المكثّف على تزويد الخوارزميات، بالمزيد من المعلومات عن النساء والأقليات والسود.
ويرى الخبراء أن الخلل الخوارزمي سببه “العقلية” التي تشرف على مشاريع تنظيم “البيانات الكبرى”، وتحليلها في الفضاء السيبراني. فقد ناشد مقال نشره موقع “nature”، تحت عنوان “الذكاء الاصطناعي .. متحيّز جنسياً وعنصري، ويجب تغيير ذلك!”، الشركات الكبرى ضرورة الاعتناء بآلية معالجة البيانات التي تلقّنها لأنظمتها الذكية، خصوصاً أن مستخدمين كثر لاحظوا أن موقع “imagenet” يصف كل امرأة ترتدي الفستان الأبيض بأنها “عروس”. بينما عجزت خوارزميته عن تحديد عرائس من أفريقيا وآسيا، لأنهنّ لا يرتدين الفستان الأبيض التقليدي.
وقبل أسبوعين كتبت نائبة رئيس شركة “ماستر كارد” مقالة نشرته في “المنتدى العالمي للاقتصاد”، بعنوان “لماذا يخفق الذكاء الاصطناعي مع الجيل الثاني للنساء؟”، مشيرة إلى فشل خوارزمية الشركات التكنولوجية الكبرى في تحقيق المساواة بين النساء والرجال.
التداعي الأخلاقي
قد يستحضر بعضنا أسئلة مُلحة عن أسباب فشل حركات التحرر العالمية ونجاح الحركات اليمينية المتطرفة في احتكار مراكز السلطة حول العالم. وهنا نستحضر قول لعالمة الرياضيات الأميركية كاثي أونيل بأن “لكل خوارزمية بنية أخلاقية تقوم عليها”. لذا ربما يكون السبب الرئيسي لهذا الفشل المخيف، اجتياح الخوارزميات، المتداعية أخلاقياً، الفضاء الرقمي من كل حدب وصوب.
