معهد MIT يزيل التحيز من تقنية التعرف على الوجه

125

يمكن أن تظهر الآلات الذكية التحيز من خلال تعلم بعض الإنحيازات من بيانات التدريب الأصلية المدخلة في النظام  وهو أحد الآثار الجانبية الخطيرة لأنظمة الذكاء الاصطناعي المستخدمة للتنبؤ بالجريمة.

ومع ذلك, يعمل فريق من مختبر علوم الكمبيوتر والذكاء الإصطناعي التابع لمعهد ماساتشوستس للتكنولوجيا على إيجاد حل لمشكلة التحيز.

“لقد أظهرت دراسة العام الماضي عنصرية خوارزميات التعرف على الوجه كحقيقة أساسية حول الذكاء الإصطناعي: إذا كانت الخوارزمية تتدرب على بيانات متحيزة, ستحصل على نتائج متحيزة”, كتب Conner Simons, مسؤول العلاقات الإعلامية في مختبر علوم الكمبيوتر والذكاء الإصطناعي التابع لمعهد ماساتشوستس للتكنولوجيا, في مدونة, مستشهدًا بمشروع Gender Shades  لعام 2018. (هو مشروع أنشأه المعهد لكشف التحيز في خوارزمية التعرف علي الوجه)

ومع وضع ذلك في الإعتبار, أنشأ الباحثون خوارزمية جديدة يمكن أن يزعم أنها تقوم تلقائيًا بإزالة تحيز البيانات من خلال إعادة إختزالها لتكون أكثر توازناً.

كما هو موضح في بيان Simons, يمكن للخوارزمية أن تتعلم مهمة محددة, مثل التعرف علي الوجه, بالإضافة إلى البنية الأساسية لبيانات التدريب – مما يسمح لها بتحديد وتقليل التحيزات الخفية.

في الإختبارات التي تستند إلى نفس مجموعة بيانات صورة الوجه التي طورها مختبر MIT Media العام الماضي, خفّضت الخوارزمية التحيز الصريح بنسبة تزيد عن 60 في المائة, مقارنة بنماذج التعرف علي الوجه “الحديثة”.

تتطلب معظم المقاربات القائمة لمكافحة التحيزات العنصرية مستوى معين من المدخلات البشرية. يحتاجون إلى شخص ما لتحديد تفضيلات معينة يريد العلماء أن يتعلمها.

يمكن لخوارزمية MIT الجديدة, وفقًا لما قاله Simons, أن تعرض ببساطة مجموعة بيانات, وأن تتعرف على ما هو مخفي من الداخل, وأن تعيد تشكيلها تلقائيًا لتصبح أكثر حيادية – دون مساعدة مبرمج.

“تصنيف الوجه على تحديدا هو التكنولوجيا التي غالبا ما ينظر إليها على أنها حل, حتى عندما أصبح من الواضح أن مجموعات البيانات المستخدمة لا يتم فحصها بشكل صحيح “، قال المؤلف المشارك في الدراسة و طالب الدكتوراه Alexander Amini في بيان. “يعد تصحيح هذه المشكلات أمرًا مهمًا على وجه الخصوص عندما نبدأ في رؤية هذه الأنواع من الخوارزميات المستخدمة في الأمن وتطبيق القانون والمجالات الأخرى”.

وأوضح أن خورازمية الفريق ذات أهمية خاصة بالنسبة لمجموعات البيانات الأكبر من اللازم لفحصها يدويا. يمكن إستخدامها أيضًا مع تطبيقات رؤية الكمبيوتر الأخرى ومع تقنية التعرف علي الوجه.

شاركت Ava Soleimany طالبة الدكتورة Amini, في كتابة هذه الورقة مع طالب الدراسات العليا Wilko Schwarting وأساتذة معهد ماساتشوستس للتكنولوجيا Sangeeta Bhatia و Daniela Rus.

تمت ترجمة المقال الأصلي والموجود بالرابط أدناه

https://www.geek.com/tech/mit-ai-removes-inherent-facial-recognition-bias-1771738/

 

 

تعليقات