تقوم وحدة Jigsaw من جوجل بإصدار رمز لأداة مفتوحة المصدر لمكافحة التحرش تسمى Harassment Manager. تستخدم الأداة المخصصة للصحفيين وغيرهم من الشخصيات العامة، واجهة برمجة تطبيقات Jigsaw’s Perspective للسماح للمستخدمين بفرز التعليقات التي يُحتمل أن تكون مسيئة على منصات الوسائط الاجتماعية بدءًا من تويتر.

 لقد ظهر لأول مرة كرمز مصدر للمطورين للبناء عليه ، ثم تم إطلاقه كتطبيق وظيفي لصحفيي مؤسسة Thomson Reuters Foundation في يونيو.

يمكن لـ Harassment Manager حاليًا العمل مع واجهة برمجة تطبيقات تويتر للجمع بين خيارات الإشراف – مثل إخفاء الردود على التغريدات وكتم الحسابات أو حظرها – مع نظام تصفية وإبلاغ جماعي حسبما نقل The Verege.

 يقوم المنظور بالتحقق من لغة الرسائل بحثًا عن مستويات “السمية” بناءً على عناصر مثل التهديدات والإهانات والألفاظ النابية. 

يقوم بفرز الرسائل في قوائم انتظار على لوحة المعلومات، حيث يمكن للمستخدمين معالجتها على دفعات بدلاً من معالجتها بشكل فردي من خلال أدوات الإشراف الافتراضية في تويتر.

 يمكنهم اختيار تعتيم نص الرسائل أثناء قيامهم بذلك ، بحيث لا يحتاجون إلى قراءة كل واحدة ، ويمكنهم البحث عن الكلمات الرئيسية بالإضافة إلى استخدام قوائم الانتظار التي تم إنشاؤها تلقائيًا.

يتيح مدير المضايقات أيضًا للمستخدمين تنزيل تقرير مستقل يحتوي على رسائل مسيئة ؛ يؤدي هذا إلى إنشاء مسار ورقي لصاحب العمل، أو في حالة وجود محتوى غير قانوني مثل التهديدات المباشرة ، يتم تطبيق القانون. في الوقت الحالي ، ومع ذلك، لا يوجد تطبيق مستقل يمكن للمستخدمين تنزيله.

وبدلاً من ذلك، يمكن للمطورين إنشاء تطبيقات تدمج وظائفها وخدماتها التي سيتم إطلاقها من قبل شركاء مثل Thomson Reuters Foundation.

أعلنت Jigsaw عن الأمر في اليوم العالمي للمرأة ، وصاغت الأداة على أنها ذات صلة خاصة بالصحفيات اللواتي يواجهن انتهاكات على أساس الجنس، وسلطت الضوء على المدخلات من “الصحفيين والناشطين الذين لديهم تواجد كبير على تويتر” وكذلك المنظمات غير الربحية مثل International Women’s Media Foundation و لجنة حماية الصحفيين. 

في منشور على موقع Medium ، قال الفريق إنه يأمل أن يتمكن المطورون من تخصيصه لمستخدمي الشبكات الاجتماعية الآخرين المعرضين للخطر.

 وجاء في المنشور: “نأمل أن توفر هذه التكنولوجيا موردًا للأشخاص الذين يواجهون المضايقات عبر الإنترنت، وخاصة الصحفيات والناشطات والسياسيون والشخصيات العامة الأخرى ، الذين يتعاملون مع سمية عالية على الإنترنت بشكل غير متناسب”.

قامت جوجل بتسخير “المنظور” للإشراف الآلي من قبل، في عام 2019 ، أصدرت امتدادًا للمتصفح يسمى Tune والذي يسمح لمستخدمي وسائل التواصل الاجتماعي بتجنب رؤية الرسائل ذات الاحتمالية العالية لكونها سامة، وقد تم استخدامه من قبل العديد من منصات التعليق (بما في ذلك Vox Media’s Coral).

 ولكن كما لاحظنا حول إصدار Perspective and Tune ، كان نموذج تحليل اللغة تاريخيًا بعيدًا عن الكمال. أحيانًا يصنف المحتوى الساخر بشكل خاطئ أو يفشل في اكتشاف الرسائل المسيئة، ويمكن للذكاء الاصطناعي على غرار Jigsaw أن يربط عن غير قصد مصطلحات مثل “أعمى” أو “أصم” – وهي ليست بالضرورة سلبية – بالسمية. 

كما تم انتقاد شركة Jigsaw نفسها لثقافة مكان العمل السامة، على الرغم من أن Google عارضت هذه الادعاءات.

على عكس الإشراف المدعوم بالذكاء الاصطناعي على خدمات مثل تويتر و إنستجرام، ومع ذلك فإن Harassment Manager ليس ميزة تعديل من جانب النظام الأساسي.

 يبدو أنها أداة فرز للمساعدة في إدارة النطاق الهائل أحيانًا لتعليقات الوسائط الاجتماعية، وهو أمر قد يكون ذا صلة بأشخاص خارج مجال الصحافة – حتى لو لم يتمكنوا من استخدامها في الوقت الحالي.