شاهد كيف يمكنك خداع كاميرات الذكاء الإصطناعي لتصبح خفياً بالنسبة لها؟

154

أنظمة المراقبة التي تعمل بالذكاء الإصطناعي أمر مقلق للغاية, إن قدرة الحكومات على تعقب المواطنين وتحديد هوياتهم بشكل جماعي يمكن أن يؤدي إلى أمور غير حميدة. ولكن كما أظهر الباحثون مرارًا وتكرارًا, هناك طرق لخداع مثل هذه الأنظمة.

المثال الأخير يأتي من مجموعة من المهندسين من جامعة  KU Leuven في بلجيكا. في ورقة تمت مشاركتها الأسبوع الماضي على موقع arXiv, يوضح هؤلاء الطلاب كيف يمكن للوحة بسيطة مطبوعة أن تخدع نظام الذكاء الإصطناعي المصمم للتعرف على الأشخاص الموجودين في الصور.

إذا قمت بطباعة إحدى تلك اللوحات المصممة خصيصًا وقمت بتعليقها حول رقبتك, الذكاء الإصطناعي لن يقوم بالتعرف عليك.

بينما يكتب الباحثون: “نعتقد أنه إذا قمنا بدمج هذه التقنية مع محاكاة متطورة للملابس, يمكننا تصميم وطباعة قميص يجعل الشخص غير مرئي فعليًا لكاميرات المراقبة الآلية.”

قد يبدو هذا غريبًا, لكنه في الواقع ظاهرة معروفة في عالم الذكاء الإصطناعى. تُعرف هذه الأنواع من النماذج بأنها أمثلة عدائية (adversarial), وهي تستفيد من الذكاء الهش لأنظمة رؤية الكمبيوتر لخداعه.

في الماضي, تم استخدام أمثلة عدائية لخداع أنظمة التعرف على الوجه. لقد تم تحويلها إلى ملصقات, وطبعها على عناصر ثلاثية الأبعاد, وحتى انه تم استخدامها لصنع فن يمكنه أن يخدع الخوارزميات.

حذر العديد من الباحثين من أن الأمثلة العدائية لها إمكانات خطيرة. يمكن استخدامها لخداع السيارات ذاتية القيادة في قراءة علامة توقف كمصباح, على سبيل المثال, أو يمكن أن تخدع أنظمة رؤية الذكاء الإصطناعي الطبية المصممة لتحديد الأمراض. يمكن القيام بذلك لأغراض الاحتيال الطبي أو حتى التسبب عمدا في ضرر.

في حالة هذا البحث الحديث – الذي رصدناه عن طريق David Hardmaru باحث  Google – تنطبق بعض المحاذير. الأهم من ذلك, أن التصحيح التصوري الذي طوره الطلاب لا يمكن إلا أن يخدع خوارزمية محددة واحدة تسمى YOLOv2. إنه لا يعمل حتى ضد أنظمة رؤية الكمبيوتر الجاهزة التي طورتها شركة Google أو شركات التكنولوجيا الأخرى, وبالطبع لا يعمل إذا كان هناك شخص ينظر إلى الصورة.

هذا يعني أن فكرة وجود تي شيرت يجعلك غير مرئي لجميع أنظمة المراقبة تبقى في عالم الخيال العلمي – في الوقت الراهن على الأقل. عند نشر المراقبة بالذكاء الإصطناعي في جميع أنحاء العالم, قد يرغب المزيد منا في الاختفاء.

شاهد فيديو توضيحي يبين كيفية خداع الخوارزمية

تمت ترجمة المقال الأصلي والموجود بالرابط أدناه

https://www.theverge.com/2019/4/23/18512472/fool-ai-surveillance-adversarial-example-yolov2-person-detection

 

تعليقات