أعلنت شبكة تويتر، الجمعة، أنها ستمنح مكافآت للمستخدمين والباحثين الذين يكتشفون مكامن تحيز محتملة في الخوارزميات الخاصة بمنصتها، مرتبطة على سبيل المثال بالتمييز الجنسي أو العنصري.

وهذه المسابقة هي الأولى في الموضوع وفق تويتر التي أشارت إلى أن الجوائز قد تصل قيمتها إلى 3500 دولار.

هذه الفكرة مستنسخة من مسابقات تقدمها بعض المواقع الإلكترونية لاكتشاف ثغرات في أمن المعلوماتية، وفق ما أوضح المسؤولان في الشبكة رومان تشودري وجوتا ويليامز في رسالة.

وقال المسؤولان "من الصعب العثور على مكامن تحيز في نماذج التعلم الآلي، وأحيانا تجد الشركات أنها انتهكت الأخلاقيات عن غير قصد بعد استخدام" هذه النماذج، و"نريد أن يتغير ذلك".

في النموذج المطور لاكتشاف الثغرات الأمنية، ساعد الباحثون وقراصنة المعلوماتية على حد سواء مديري أمن تكنولوجيا المعلومات على "إنشاء أفضل الممارسات لتحديد وإدارة الثغرات الأمنية من أجل حماية الجمهور"، بحسب رومان تشودري وجوتا ويليامز، وأضاف المسؤولان في تويتر "نريد تطوير مجتمع مشابه" لاكتشاف تحيزات الخوارزميات.

وكانت تويتر قدمت في أبريل عملها الجاري لجعل الخوارزميات التي تعمل خلف كواليس المنصة أكثر مراعاة للأخلاقيات، وهي طريقة للرد على الانتقادات بشأن المخاطر المرتبطة بهذه التقنيات.

وقد تخلت الشبكة الاجتماعية بعد بضعة أسابيع عن خوارزمية للصور بعد أن اكتشفت أنها كانت متحيزة قليلاً لصالح الأشخاص البيض.