كل ما تريد معرفته عن أزمة خوارزمية اقتصاص الصور لتويتر

تحيزات أخرى لخوارزمية Twitter التي فضلت الوجوه ذات البشرة الفاتحة تثير الجدل، حيث قدرت الخوارزمية من سيرغب الشخص في رؤيته أولاً في الصورة بحيث يمكن اقتصاص الصورة إلى حجم مناسب على تويتر وفقا لما نقله موقع TheNextWeb.

سعى تويتر إلى تحديد المزيد من الأضرار المحتملة في النموذج من خلال إطلاق أول محتوى مكافأة تحيز خوارزمي في الصناعة.

واكتشف الفائزون بالمسابقة، الذين تم الإعلان عنهم يوم الاثنين الماضى، عددًا كبيرًا من المشكلات الأخرى.

تحيزات تويتر الخوارزمية

أظهر بوجدان كولينيتش، الذي حصل على جائزة المركز الأول البالغة 3500 دولار، أن الخوارزمية يمكنها تضخيم التحيزات في العالم الحقيقي والتوقعات الاجتماعية للجمال.

كولينيتش طالبة متخرج في جامعة EPFL التقنية بسويسرا، قام بالتحقيق في كيفية توقع الخوارزمية لأي منطقة من الصورة سيشاهدها الناس.

واستخدمت الباحثة نموذج الرؤية الحاسوبية لتوليد صور واقعية لأشخاص بسمات جسدية مختلفة، ثم قارن بين الصور التي يفضلها النموذج.

قال كولينتش إن النموذج يفضل "الأشخاص الذين يبدون نحيفًا، وشبابًا، ولون بشرتهم فاتحة أو دافئة وملمس بشرة ناعم، وبسمات وجه أنثوية نمطية:"

تُترجم هذه التحيزات الداخلية بطبيعتها إلى أضرار التمثيل الناقص عند تطبيق الخوارزمية، مما يؤدي إلى استبعاد أولئك الذين لا يستوفون تفضيلات الخوارزمية لوزن الجسم والعمر ولون البشرة، يمكن أن يؤدي هذا التحيز إلى استبعاد الفئات السكانية الصغيرة وإدامة معايير الجمال النمطية في آلاف الصور.

كشف المشاركون الآخرون في المنافسة عن المزيد من الأضرار المحتملة.

ووجدت الوصيفة HALT AI ، أن الخوارزمية تقوم أحيانًا بإخراج الأشخاص ذوي الشعر الرمادي أو البشرة الداكنة، في حين أظهرت الفائزة بالمركز الثالث، رويا باكزاد، أن النموذج يفضل النصوص اللاتينية على العربية.

وتحتوي الخوارزمية أيضًا على تفضيل عنصري عند تحليل الرموز التعبيرية، وجد Vincenzo di Cicco ، مهندس برمجيات، أن الرموز التعبيرية ذات درجات ألوان البشرة الفاتحة من المرجح أن يتم التقاطها.