خوارزمية جديدة تدرب برامج الذكاء الإصطناعي على محو تحيزاتها

399

في السنوات الأخيرة, عانت أنظمة الذكاء الإصطناعي من مشكلة رئيسية في المجمل بصفةعامة: سواء كان ذلك مقصودًا أم لا, يبقي المطورون تحيزات في نظمهم, مما يخلق خوارزميات تعكس نفس وجهات النظر المسبقة الشائعة في المجتمع.

ولهذا السبب من المثير للإهتمام أن المهندسين من معهد ماساتشوستس للتكنولوجيا وجامعة هارفارد يقولون إنهم طوروا خوارزمية يمكن أن تساعد على تحييد التحيز عن طريق تدريب الحساسية للذكاء الاصطناعي.

آلات تعلم آلات

تقوم الأداة بمراجعة خوارزميات التحيز وتساعد على إعادة تدريب البرامج على التصرف بطريقة أكثر إنصافًا, وفقًا لبحث جديد تم تقديمه هذا الأسبوع في مؤتمر الذكاء الإصطناعي والأخلاق والمجتمع.

وحتى عندما يتم نشر أنظمة الذكاء الإصطناعي المعقدة في العالم الحقيقي, يصبح من الصعب للغاية تقييم كيفية إتخاذ قراراتهم بالضبط. وهذا هو السبب في أهمية أتمتة العملية – حيث يمكن للأداة الجديدة أن تدخل وتعيد تحديد القيمة التي يمنحها نظام الذكاء الإصطناعي لكل جانب من جوانب بيانات التدريب الخاصة بها, وفقًا لما ورد في البحث.

على سبيل المثال, إذا تم تدريب خوارزمية لتحديد أن الأشخاص السود سيكونون مرشحين فقراء للحصول على وظيفة, فستكون الأداة الجديدة قادرة على تعليم الخوارزمية لتقييم المرشحين على العوامل ذات الصلة في تطبيقاتهم بدلاً من ذلك.

مشكلة نظامية

بالطبع, من الممكن أن تكون الخوارزمية الجديدة تحتوي على تحيزات خاصة بها. ولكن بالنظر إلى أن أنظمة الذكاء الاصطناعي موجودة بالفعل في الميدان, فإنها توصي بنشاط بأن الشرطة قد تجاوزت مناطق معينة التي تضم المزيد من الأقليات العرقية, ومن الأهمية القصوي أن يتعامل الباحثون مع التحيز الخوارزمي.

“تصنيف الوجه على وجه الخصوص هو تقنية غالباً ما ينظر إليها على أنه تم حل كل مشاكلها, “حتى عندما أصبح من الواضح أن مجموعات البيانات المستخدمة لا يتم فحصها بشكل صحيح”, قال Alexander Amini, الباحث في معهد ماساتشوستس للتكنولوجيا الذي ساعد في تطوير الأداة الجديدة, لـ TechXplore . “يعد تصحيح هذه المشكلات أمرًا مهمًا على وجه الخصوص عندما نبدأ في رؤية هذه الأنواع من الخوارزميات المستخدمة في مجالات الأمن وإنفاذ القانون والمجالات الأخرى”.

تمت ترجمة المقال الأصلي والموجود بالرابط أدناه

https://futurism.com/algorithm-trains-ai-to-erase-biases

 

 

تعليقات