الإشراف على المحتوى هو عملية مراجعة ومراقبة المحتوى الذي ينشئه المستخدم (UGC) ومحتوى الذكاء الاصطناعي المولد للتأكد من أنه ليس مسيئًا أو ضارًا أو مضللاً أو غير قانوني أو غير مناسب بأي شكل من الأشكال.
يمكن أن يساعد الإشراف الفعال في خلق بيئة آمنة وإيجابية عبر الإنترنت للأفراد وعامة الناس.
كيف يعمل الإشراف على المحتوى؟
يمكن مراجعة المحتوى للتأكد من استيفائه للمعايير والإرشادات قبل أن يصبح مرئيًا للعامة، أو يمكن نشره ثم مراجعته بعد حدوثه. يمكن أتمتة العملية الفعلية، أو تنفيذها يدويًا، أو استخدام نهج مختلط يشمل البشر في الحلقة.
- الإشراف اليدوي: يتم تعيين مشرفين بشريين لمراجعة المحتوى الخاص بمنصة معينة ويكونون مسؤولين عن إزالة المحتوى الذي لا يتوافق مع الإرشادات المحددة يدويًا.
- الإشراف المجتمعي: يقوم أعضاء مجتمع المنصة بمراجعة المحتوى والإشراف عليه بأنفسهم من خلال التصويت على المحتوى لأعلى أو لأسفل. قد يُمنح أعضاء المجتمع أيضًا الحق في الإبلاغ عن المحتوى غير المناسب أو إزالته.
- الإشراف الآلي: في هذا النهج، تقوم خوارزميات التعلم الآلي (ML) أو أدوات تجريف الويب باستخراج المحتوى المنشور على الإنترنت ووضع علامة على أنواع معينة من المحتوى. وذلك بناءً على معايير محددة مسبقًا أو أنماط بيانات معروفة. يمكن لأنظمة أتمتة العمليات الآلية (RPA) بعد ذلك اتخاذ إجراء بشأن المحتوى الذي تم وضع علامة عليه وإزالته أو تنفيذ بعض الاستجابات الأخرى المحددة مسبقًا.
- الإشراف المختلط: يقوم المشرفون البشريون بمراجعة المحتوى الذي تم وضع علامة عليه بواسطة خوارزميات ML ثم يقومون بإزالته أو تنفيذ بعض الاستجابات الأخرى المحددة مسبقًا، مثل الاتصال بسلطات إنفاذ القانون.
الإشراف على المحتوى وحرية التعبير.
عندما تم استخدام منصات وسائل التواصل الاجتماعي والمواقع الإلكترونية التي سمحت بالتعليقات غير المحددة لأول مرة لنشر خطاب الكراهية والمعلومات المضللة. سرعان ما أصبحت الحاجة إليه موضوعًا متزايدًا للنقاش في وسائل الإعلام وبين صناع السياسات.
في المراحل الأولى من تنفيذ تدابيره، ظهرت مخاوف بشأن التوازن الدقيق بين الحفاظ على بيئة آمنة على الإنترنت ودعم مبادئ حرية التعبير.
أثار الخوف من الرقابة والتحيز في إزالة المحتوى مناقشات حول المدى الذي يجب أن تكون فيه منصات التواصل الاجتماعي. مثل Facebook وX (المعروفة سابقًا باسم Twitter) مسؤولة عن مراقبة المحتوى الذي ينشئه المستخدمون – وما إذا كانت هذه الجهود قد تخنق وجهات النظر المتنوعة عن غير قصد وتعيق حرية التعبير.
التبادل الحر للأفكار على شبكة الإنترنت.
مع مرور الوقت، تطور مشهد الإشراف على المحتوى ومخاوف حرية التعبير استجابةً لمزيج من التقدم التكنولوجي، والأطر القانونية، والتوقعات المجتمعية المتغيرة.
لقد بدأ الناس يدركون الحاجة إلى تحقيق التوازن بين السماح بآراء متنوعة ومنع انتشار المحتوى الضار أو المضلل.
في الاتحاد الأوروبي، على سبيل المثال، يركز جزء كبير من قانون الخدمات الرقمية على الإشراف على المحتوى والمسؤولية التي تتحملها المنصات عبر الإنترنت لتحديد المعلومات الخاطئة وإزالة المحتوى الضار.
إقرأ أيضاً… ما هو نظام إدارة المحتوى CMS؟ الفوائد والأمثلة.
الذكاء الاصطناعي والإشراف على المحتوى.
في البداية، قدم الذكاء الاصطناعي الوعد بأتمتة اكتشاف وإزالة المحتوى غير المناسب أو المسيء وحماية المستخدمين من التعرض للمواد التي قد تكون ضارة.
وكانت نماذج الذكاء الاصطناعي التي تم تدريبها على مجموعات بيانات كبيرة من المحتوى المصنف مسبقًا أداة فعالة للمساعدة في تحديد المحتوى غير المناسب أو غير القانوني.
على الرغم من أن هذا النهج لم يكن دائمًا فعالاً بنسبة 100%. فقد أظهرت الدراسات أنه ساعد في منع انتشار المواد غير الدقيقة والضارة والمزعجة بشكل أكثر فعالية مما كان ممكنًا مع الاعتدال البشري وحده.
ومع ذلك، فقد أدى ظهور الذكاء الاصطناعي التوليدي إلى تقديم طبقة جديدة من التعقيد لجهود الإشراف على المحتوى.
ويمكن أيضًا استخدام نفس التقنيات التي تدعم الإشراف على محتوى الذكاء الاصطناعي لصياغة معلومات مضللة مقنعة، ومعلومات مضللة، وخطاب يحض على الكراهية، وتزييف عميق، وغير ذلك من المحتوى الضار الذي يمكن أن يتهرب من تقنيات الإشراف الأكثر تطورًا اليوم.
أثار التعايش بين الذكاء الاصطناعي باعتباره وسيطًا ومرتكبًا محتملاً بعض المخاوف المهمة، بما في ذلك الحاجة إلى:
- قم بتحسين خوارزميات الذكاء الاصطناعي متعددة الوسائط باستمرار لتعزيز قدرتها على التمييز بين المحتوى الأصلي والمحتوى الذي تم التلاعب به. إن دمج السياق والنية والفروق الثقافية الدقيقة في نماذج الاعتدال يمكن أن يقلل من مخاطر الإيجابيات أو السلبيات الكاذبة.
- تأكد من أن وسائل التواصل الاجتماعي ومنصات التعليق على مواقع الويب تتسم بالشفافية حول كيفية استخدام الذكاء الاصطناعي للإشراف على المحتوى والقيود المفروضة على التكنولوجيا.
- قم بتثقيف المستخدمين حول إساءة الاستخدام المحتملة لكل من المحتوى الذي ينشئه المستخدم والمحتوى الذي ينشئه الذكاء الاصطناعي. اليوم، أكثر من أي وقت مضى، من المهم دعم مبادرات محو الأمية الرقمية التي تمكن المستخدمين من التفكير النقدي.
- احتفظ دائمًا بالمشرفين البشريين في الحلقة. عندما يتم استخدام الذكاء الاصطناعي لتعزيز الذكاء، يمكن للأشخاص تقديم أحكام دقيقة قد يخطئها الذكاء الاصطناعي، خاصة عند تقييم المحتوى المعقد أو المعتمد على السياق.
- دعم التعاون بين الباحثين في مجال الذكاء الاصطناعي وعلماء الأخلاق وصانعي السياسات ومطوري الأنظمة الأساسية. وذلك لضمان قدرة البحث المستمر على تحديد التهديدات الناشئة وتوجيه تقنيات الإشراف على المحتوى المستقبلية.