إن خوارزميات اقتصاص الصور على Twitter عنصرية ، ومتحيزة جنسيًا ، وأكثر من ذلك ، كما تعترف الشركة
ال ميزة اقتصاص الصور ، التي تستخدم التعلم الآلي لتحديد أي جزء من الصورة سيتم عرضه في خلاصات المستخدم ، تم اتهامه به كونها عنصرية ومتحيزة جنسياً في العام الماضي ، عندما وجد أنه من المرجح أن يتخلص من السود والنساء.
OPTAD-1
أعلنت الشركة عن مكافأة خطأ لأي شخص قادر على إثبات التحيز في خوارزمياتها ، وقد قامت الآن بتسمية الفائزين ، الذين أثبتوا بشكل مختلف عددًا من التحيزات ...
خلفية
عند تحميل صورة ذات اتجاه عمودي إلى Twitter ، يقوم النظام تلقائيًا بعمل اقتصاص لعرض نسخة أفقية في خلاصات الأشخاص. يتم عرض النسخة الكاملة فقط عندما ينقر الأشخاص عليها أو ينقرون عليها.
OPTAD-2
بدأ مستخدمو تويتر في ملاحظة أنه إذا أظهرت الصورة أشخاصًا بألوان بشرة مختلفة ، أو من جنسين مختلفين ، فمن المرجح أن يظهر المحصول رجلًا أبيض أكثر من امرأة سوداء.
استجابت الشركة من قبل ، ولكن أعلن أيضا ومنافسة خارجية لإثبات التحيزات في خوارزمياتها. وقد أعلنت الآن نتائج هذه المسابقة.
نتائج مسابقة قص الصور على تويتر
حساب Twitter Engineering غرد النتائج ، ورابط إلى ملف فيديو من العروض (أدناه).
OPTAD-3
المركز الأول من نصيبhiddenmarkov الذي عرض إرساله كيف أن تطبيق مرشحات التجميل يمكن أن يتلاعب بنموذج التسجيل الداخلي للخوارزمية. يوضح هذا كيف تضخم النماذج الخوارزمية التحيزات في العالم الحقيقي والتوقعات المجتمعية للجمال.
المركز الثاني يذهب إلىhalt_ai الذي وجد أن خوارزمية الملوحة تديم التهميش. على سبيل المثال ، تم تهميش صور كبار السن والمعاقين بشكل أكبر من خلال اقتصاصها من الصور وتعزيز تحيزات النظرة المكانية.
المركز الثالث من نصيبRoyaPak الذي جرب خوارزمية البروز على Twitter باستخدام الميمات ثنائية اللغة. يوضح هذا الإدخال كيف تفضل الخوارزمية اقتصاص النصوص اللاتينية على النصوص العربية وما يعنيه ذلك من حيث الأضرار التي تلحق بالتنوع اللغوي عبر الإنترنت.
OPTAD-4
تذهب الجائزة الأكثر إبداعًا في مكافأة التحيز الخوارزمي إلىOxNaN الذي استكشف التواصل القائم على Emoji للكشف عن التحيز في الخوارزمية ، التي فضلت Emojis ذات لون البشرة الفاتح. يوضح هذا الإدخال كيف يمكن أن تؤدي التعديلات حسنة النية على الصور إلى تحولات في بروز الصورة.
أكدت النتائج الكاملة العنصرية ، والتمييز على أساس الجنس ، والشيخوخة ، والقدرات ، وأكثر من ذلك. حتى أن أحد المشاركين وجد أن الخوارزمية تفضل البشرة الفاتحة الرموز التعبيرية للبشرة الداكنة اللون!
تم ربط Twitter برمز كل إدخال فائز على Github.
فضولي للغوص أعمق؟ يمكنك التحقق من الكود لجميع الإدخالات الفائزة في مكافأة التحيز الحسابي عبر ما يلي تضمين التغريدة استراحة.
الأول - https://t.co/bILzKMbNNT
الثاني - https://t.co/oBbu9GxOME
3rd – https://t.co/1W2BBsnboi
الأكثر إبداعًا - https://t.co/zU4bhDK3il- هندسة تويتر (TwitterEng) 9 أغسطس 2021
سيكون التحدي الذي يواجه Twitter الآن هو إصلاح هذه التحيزات ، والتي قد تكون مهمة أصعب من إثبات وجودها.
صورة: تقرير الصراف
