الإشراف على المحتوى بحاجة إلى مزيد من الجهد

ما مدى أخطاء المنسقين المكلفين بإبقاء المحتوى غير المرغوب فيه بعيدا عن شبكات التواصل الاجتماعي؟ أبعد بكثير مما تعتقد.
في الـ15 شهرا الأولى من وجودها، توصل المجلس المستقل الذي أنشأته شركة فيسبوك "أعيدت تسميتها الآن إلى شركة ميتا" لمراقبة ممارسات الإشراف على المحتوى في الشركة إلى عينة من 130 قرارا لإزالة المحتوى يعتقد أنها قد تكون موضع شك.
عند مراجعة هذه القضايا، توصلت شركة ميتا نفسها إلى أن المنسقين طبقوا قواعد الشركة الخاصة بشكل غير صحيح 51 مرة. في جوهر الأمر، فشلوا في وظيفتهم نحو 40 في المائة من الوقت.
إذا كانت هذه العينة قريبة من تمثيل ممارسات الإشراف على المحتوى على نطاق أوسع، فإن هذا غيض من فيض. في الأسبوع الماضي قال مجلس الإشراف على المحتوى في شركة ميتا إنه تلقى ما مجموعه 1.1 مليون شكوى فيما يتعلق بالطريقة التي تصرفت بها خدمات فيسبوك وإنستجرام التابعة للشركة، ضد محتوى المستخدم.
قد يبدو أن الحجم الهائل للاستياء - ومعدل الفشل في الحكم على ما ينبغي للمستخدمين أن يروه - يدعم حجة إيلون ماسك الداعية إلى وضع ضوابط أقل على الخطاب على الإنترنت. ادعى ماسك أن أحد الأسباب الرئيسة لمحاولته شراء شركة تويتر هو رفع الحواجز التي تحول دون التواصل عبر الإنترنت، بشرط أن يكون ذلك قانونيا. لكنه غير المسار ضمنيا في الأسابيع الأخيرة، واعترف بأن الأمور لن تكون بالبساطة نفسها التي أشار لها.
في حدث نظمته فاينانشيال تايمز الشهر الماضي، قال ماسك إنه يعتزم حظر المحتوى الذي وصفه بأنه كان "مدمرا للعالم"، وأوضح أيضا أنه سيستخدم تكتيكات مثل الحد من انتشار بعض التغريدات، أو تعليق مؤقت لبعض حسابات المستخدمين. في الأسبوع الماضي أخبر موظفي شركة تويتر أنه يعتزم اتخاذ إجراءات ضد المضايقات على الشبكة.
يشير هذا إلى أنه سيواجه كثيرا من التحديات نفسها التي تواجهها شركة ميتا. بالنسبة إلى مالك منصة فيسبوك، شكل التنمر والمضايقة أكبر مصدرين لاستياء المستخدمين، ويمثل الاثنان نحو ثلث الشكاوى المقدمة إلى مجلس الرقابة "المصدران الرئيسان الآخران للاستياء، اللذان يغذيان نصف الشكاوى المقدمة إلى مجلس الإدارة، يتعلقان بإجراءات شركة ميتا ضد خطاب الكراهية وضد العنف والتحريض".
إذا أراد ماسك الحد من الاستياء الذي ستثيره جهوده الخاصة للتحكم في المحتوى، فيمكنه فعل ما هو أسوأ من النظر إلى شركة ميتا كمثال. السماح لمجلس خارجي بتخمين بعض قراراته يعني التخلي عن السلطة على جانب مهم من تجربة المستخدم. لكن هذا له فائدة في إبعاد الشركة عن بعض الجدل، ونقل المسؤولية جزئيا على الأقل إلى مجموعة مستقلة مصممة للعمل كضمير خارجي.
يساعد النأي عن اتخاذ القرارات الصعبة كهذه أيضا على تسليط الضوء على التعقيد الهائل الذي ينطوي عليه تطبيق قواعد صارمة وسريعة على شيء مرن مثل اللغة. عملية المراجعة شاقة. في أول تقرير شامل له الأسبوع الماضي، قال مجلس الإدارة إنه تعامل مع 20 قضية فقط في أول 15 شهرا، وانتهى به الأمر إلى تجاوز قرارات الإشراف على المحتوى التي اتخذتها شركة ميتا في 14 من هذه القضايا - نسبة ضئيلة من إجمالي عدد الشكاوى التي تلقاها.
يعد نشر تفاصيل قرارات الإشراف على المحتوى طريقة جيدة لتحييد النقاد الذين قد يميلون إلى إصدار أحكام قاسية حول حقوق وأخطاء "الرقابة" على وسائل التواصل الاجتماعي. هناك القليل من الوضوح لما هو سيئ وجيد هنا.
كما أنه ليس بالأمر السيئ أن يصبح مجلس الرقابة ـ الذي يدفع باتجاه الحصول على مزيد من النفوذ ـ شوكة في جانب شركة ميتا. فقد حث بالفعل على الحصول على مزيد من البيانات حول كيفية عمل الإشراف على المحتوى. كذلك حث الشركة على أن تكون أكثر شفافية بشأن قراراتها تجاه المستخدمين. كما أنه يحاول أن يكون له رأي في سياسات المحتوى التي تنشئها شركة ميتا من أجل ميتافيرس قبل أن تتشكل هذه البيئة الجديدة الغامرة على الإنترنت.
كل هذا يساعد على إبقاء شركة ميتا في حالة تأهب، في حين يضيف إلى التصور القائل إنها تستجيب للضغوط الخارجية - أمر قد يقلل الدعوات إلى مزيد من التنظيم الحكومي المباشر.
لكن كما يظهر معدل الخطأ البالغ 40 في المائة في عينة صغيرة من قرارات الإشراف على المحتوى، فإن الجهود لا تزال غير كافية على الإطلاق. من المحتمل أن يكون الخطاب البشري دقيقا للغاية - والبشر أنفسهم غير معصومين عن الخطأ في أحكامهم - بحيث لا يجعل قواعد المحتوى عرضة للإنفاذ الصارم.
في حال شرائه شركة تويتر بالفعل، فهناك دروس ينبغي لماسك تعلمها سريعا لمصلحته. وبالنظر إلى شهيته لافتعال الجدل، فإن القفز إلى قلب معركة قوية حول المحتوى عبر الإنترنت قد يكون تماما ما يفكر فيه أغنى رجل في العالم.