يستخدم Instagram الذكاء الإصطناعي للكشف عن ظاهرة التنمر

253

في العام الماضي, قدم Instagram فلتر تعليقات محسن يستخدم التعلم الآلي للكشف عن الكلمات والعبارات المسيئة في السياقات النصية. الآن, تقوم الشركة بتوسيع النطاق عن طريق فحص للصور والتعليقات. أعلنت أنها ستستخدم الذكاء الإصطناعي “للكشف عن التنمر بشكل إستباقي” قبل إرسال المحتوى إلى المشرفين البشريين للمراجعة.

سيتم طرح الميزة الجديدة للمستخدمين في الأيام المقبلة, حيث سيتم إطلاقها في هذا الشهر لمناسبة منع التنمر في الولايات المتحدة وقبل أسبوع مكافحة التنمر في المملكة المتحدة. كما تتم إضافة التقنية نفسها إلى مقاطع الفيديو المباشرة لتصفية التعليقات هناك أيضًا.

هذا هو أول إعلان عن منتج تحت إشراف Adam Mosseri, رئيس Instagram الجديد الذي تولى منصبه بعد رحيل مؤسسي شركة Kevin Systrom و Mike Krieger في الشهر الماضي. ويقال إن الإنقسام كان سببه توترات بين المؤسسين والشركة الأم Facebook, التي تتدخل بشكل متكرر مع منتج Instagram.

مع إستمرار الثقة العامة في فيس بوك في الإنخفاض, يبقى Instagram النقطة المضيئة في مجموعة منتجات الشركة. إنه شائع الإستخدام ومربح في نفس الوقت, في هذا السياق, فإن إستخدام الذكاء الإصطناعي للمساعدة في التخلص من المحتوى المسيء والحفاظ على Instagram موطنًا للأجواء الجيدة أمر في غاية الأهمية.

ولكن من الثابت أن هذا النوع من التكنولوجيا ليس حلاً سحرياً لضبط المحتوى. تقنية الذكاء الإصطناعي يسهل نشرها على نطاق واسع ولكن لا يزال لديها مشكلة في التعامل مع السياق البشري والفوارق الدقيقة بين الكلمات. هذا هو السبب في أنه من الجيد أن ترشح عوامل تصفية التنمر الجديدة المحتوى إلى المشرفين البشريين لإجراء الفحص النهائي. الأتمتة بدون إشراف هي بالقطع تقنية غير ناجحة.

ومن المثير للاهتمام أن Instagram تقول إنها لا تقوم فقط بتحليل التسميات التوضيحية للصور لتحديد التنمر, ولكن أيضًا الصورة نفسها. في حديثه إلى The Verge, أعطى المتحدث الرسمي مثال للذكاء الإصطناعي الذي أجري بحثًا عن صور الشاشة المقطوعة كمثال على التنمر المحتمل, حيث يمكن مقارنة أحد الأشخاص سلبًا بشخص آخر. العوامل الأخرى التي سوف يبحث عنها الذكاء الإصطناعي غير واضحة. قد تكون هذه فكرة جيدة إذا أخذنا بعين الاعتبار أنه عندما أعلن Facebook أنه سيقوم بمسح الصور الساخرة بإستخدام الذكاء الإصطناعي, بدأ الناس على الفور التفكير في طرق للإلتفاف على هذه المرشحات. ظاهرة التنمر موجودة في كل بلاد العالم, ويلقي مئات الشباب الصغير حتفهم بسببها. من الجيد أن تفكر شركات مثل Instagram بإستخدام الذكاء الإصطناعي للحد من إنتشار مثل هذه الظاهرة.

تمت ترجمة المقال الأصلي والموجود بالرابط أدناه

https://www.theverge.com/2018/10/9/17954658/instagram-ai-machine-learning-detect-filter-bullying-comments-captions-photos

 

تعليقات