الخوارزميات هي عنصر أساسي في الحياة الحديثة. يعتمد الأشخاص على التوصيات الخوارزمية للخوض في الكتالوجات العميقة والعثور على أفضل الأفلام والطرق والمعلومات والمنتجات والأشخاص والاستثمارات. ولأن الناس يدربون الخوارزميات على قراراتهم ــ على سبيل المثال، الخوارزميات التي تقدم توصيات بشأن التجارة الإلكترونية ومواقع التواصل الاجتماعي ــ فإن الخوارزميات تتعلم التحيزات البشرية وتنظمها.
تُظهر التوصيات الخوارزمية تحيزًا تجاه الاختيارات والمعلومات الشعبية التي تثير الغضب، مثل الأخبار الحزبية. على المستوى المجتمعي، تعمل التحيزات الخوارزمية على إدامة وتضخم التحيز العنصري الهيكلي في النظام القضائي، والتحيز على أساس الجنس في الأشخاص الذين توظفهم الشركات، وعدم المساواة في الثروة في التنمية الحضرية.
يمكن أيضًا استخدام التحيز الخوارزمي لتقليل التحيز البشري. يمكن للخوارزميات أن تكشف عن التحيزات الهيكلية الخفية في المنظمات. في بحث نُشر في Proceedings of the National Academy of Science، وجدت أنا وزملائي أن التحيز الخوارزمي يمكن أن يساعد الناس على التعرف على التحيزات في أنفسهم وتصحيحها بشكل أفضل.
التحيز في المرآة
في تسع تجارب، قمت أنا وبيغوم سيليكيتوتان ورومان كاداريو بتقييم المشاركين في البحث لسائقي Uber أو قوائم Airbnb بناءً على مهاراتهم في القيادة، أو جدارتهم بالثقة، أو احتمالية استئجارهم للقائمة. لقد قدمنا للمشاركين التفاصيل ذات الصلة، مثل عدد الرحلات التي قاموا بها، أو وصف العقار، أو التقييم بالنجوم. وقمنا أيضًا بتضمين معلومات متحيزة غير ذات صلة: صورة كشفت عن عمر السائقين وجنسهم وجاذبيتهم، أو اسم يشير ضمنًا إلى أن مضيفي القائمة كانوا من البيض أو السود.
بعد أن أجرى المشاركون تقييماتهم، عرضنا لهم أحد ملخصي التقييمات: أحدهما يعرض تقييماتهم الخاصة، أو الآخر يعرض تقييمات الخوارزمية التي تم تدريبها على تقييماتهم. لقد أخبرنا المشاركين عن ميزة التحيز التي ربما أثرت على هذه التصنيفات؛ على سبيل المثال، من غير المرجح أن يستأجر ضيوف Airbnb من مضيفين يحملون أسماء أمريكية من أصل أفريقي بشكل واضح. ثم طلبنا منهم الحكم على مدى تأثير التحيز على التصنيفات في الملخصات.
سواء قام المشاركون بتقييم التأثير المتحيز للعرق أو العمر أو الجنس أو الجاذبية، فقد رأوا تحيزًا أكبر في التقييمات التي تجريها الخوارزميات مقارنة بأنفسهم. كان تأثير المرآة الخوارزمي هذا ثابتًا سواء حكم المشاركون على تقييمات الخوارزميات الحقيقية أو أظهرنا للمشاركين تقييماتهم الخاصة وأخبرناهم بشكل خادع أن الخوارزمية هي التي قامت بهذه التقييمات.
رأى المشاركون تحيزًا أكبر في قرارات الخوارزميات مقارنة بقراراتهم الخاصة، حتى عندما أعطينا المشاركين مكافأة نقدية إذا كانت أحكامهم المتحيزة تتطابق مع الأحكام التي أصدرها مشارك مختلف رأى نفس القرارات. وقد استمر تأثير المرآة الخوارزمية حتى لو كان المشاركون في الفئة المهمشة – على سبيل المثال، من خلال تحديد هويتهم كامرأة أو من ذوي البشرة السوداء.
كان المشاركون في البحث قادرين على رؤية التحيزات في الخوارزميات المدربة على قراراتهم الخاصة، كما تمكنوا من رؤية التحيزات في قرارات الأشخاص الآخرين. أيضًا، كان المشاركون أكثر احتمالًا لرؤية تأثير التحيز العنصري في قرارات الخوارزميات مقارنة بقراراتهم الخاصة، لكنهم كانوا متساوين في الاحتمال لرؤية تأثير السمات التي يمكن الدفاع عنها، مثل تصنيفات النجوم، على قرارات الخوارزميات وعلى قراراتهم الخاصة. قرارات.
التحيز العمياء
يرى الناس المزيد من تحيزاتهم في الخوارزميات لأن الخوارزميات تزيل النقاط العمياء لتحيز الأشخاص. من الأسهل رؤية التحيزات في قرارات الآخرين مقارنة بقراراتك الخاصة، لأنك تستخدم أدلة مختلفة لتقييمها.
عند فحص قراراتك بحثًا عن التحيز، فإنك تبحث عن دليل على التحيز الواعي – سواء فكرت في العرق أو الجنس أو العمر أو الحالة أو غيرها من الميزات غير المبررة عند اتخاذ القرار. أنت تتغاضى عن التحيز في قراراتك وتبرره لأنك لا تستطيع الوصول إلى الآلية الترابطية التي تحرك أحكامك البديهية، حيث غالبًا ما يلعب التحيز دوره. ربما تعتقد: “لم أفكر في عرقهم أو جنسهم عندما قمت بتعيينهم. لقد استأجرتهم على أساس الجدارة وحدها.
عند فحص قرارات الآخرين بحثًا عن التحيز، فإنك تفتقر إلى الوصول إلى العمليات التي استخدموها لاتخاذ القرارات. لذلك عليك أن تفحص قراراتهم بحثًا عن التحيز، حيث يكون التحيز واضحًا ويصعب تبريره. قد ترى، على سبيل المثال، أنهم قاموا بتعيين الرجال البيض فقط.
تعمل الخوارزميات على إزالة نقطة التحيز العمياء لأنك ترى الخوارزميات مثلما ترى أشخاصًا آخرين أكثر من نفسك. إن عمليات اتخاذ القرار في الخوارزميات هي بمثابة صندوق أسود، يشبه الطريقة التي لا يمكنك بها الوصول إلى أفكار الآخرين.
المشاركون في دراستنا الذين كانوا على الأرجح يظهرون نقطة التحيز العمياء كانوا أكثر عرضة لرؤية المزيد من التحيز في قرارات الخوارزميات مقارنة بقراراتهم الخاصة.
يقوم الناس أيضًا بإضفاء الطابع الخارجي على التحيز في الخوارزميات. إن رؤية التحيز في الخوارزميات أقل تهديدًا من رؤية التحيز في نفسك، حتى عندما يتم تدريب الخوارزميات على اختياراتك. يلقي الناس اللوم على الخوارزميات. يتم تدريب الخوارزميات على القرارات البشرية، ومع ذلك يطلق الناس على التحيز المنعكس اسم “التحيز الخوارزمي”.
عدسة تصحيحية
تظهر تجاربنا أن الأشخاص هم أيضًا أكثر عرضة لتصحيح تحيزاتهم عندما تنعكس في الخوارزميات. وفي تجربة نهائية، أعطينا المشاركين فرصة لتصحيح التقييمات التي قاموا بتقييمها. لقد أظهرنا لكل مشارك تقييماته الخاصة، والتي نسبناها إما إلى المشارك أو إلى خوارزمية مدربة على قراراته.
كان المشاركون أكثر عرضة لتصحيح التقييمات عندما نسبت إلى خوارزمية لأنهم يعتقدون أن التقييمات كانت أكثر انحيازًا. ونتيجة لذلك، كانت التقييمات النهائية المصححة أقل تحيزًا عندما نسبت إلى الخوارزمية.
لقد تم توثيق التحيزات الخوارزمية التي لها تأثيرات ضارة بشكل جيد. تظهر النتائج التي توصلنا إليها أنه يمكن الاستفادة من التحيز الخوارزمي من أجل الخير. الخطوة الأولى لتصحيح التحيز هي التعرف على تأثيره واتجاهه. باعتبارها مرايا تكشف تحيزاتنا، قد تعمل الخوارزميات على تحسين عملية صنع القرار لدينا.
تم إعادة نشر هذا المقال من The Conversation، وهي منظمة إخبارية مستقلة غير ربحية تقدم لك حقائق وتحليلات جديرة بالثقة لمساعدتك على فهم عالمنا المعقد. كتب بواسطة: كاري ك. مورويدج، جامعة بوسطن
اقرأ أكثر:
Carey K. Morewedge لا يعمل لدى أي شركة أو مؤسسة أو يستشيرها أو يمتلك أسهمًا فيها أو يتلقى تمويلًا منها قد تستفيد من هذه المقالة، ولم يكشف عن أي انتماءات ذات صلة بعد تعيينهم الأكاديمي.