الأمم المتحدة: 3 مستشفيات فقط تعمل في غزة
كشف تحقيق حديث أجراه برنامج "بانوراما"، التابع لهيئة الإذاعة البريطانية، عن مخاطر خوارزميات وسائل التواصل الاجتماعي التي تعرّض المراهقين الذكور لمحتوى ضار، بما في ذلك العنف والأفكار الكارهة للنساء.
وأشار التحقيق إلى أن المنصات الإلكترونية، مثل "تيك توك" و"إنستغرام"، تعتمد على خوارزميات تروج لمثل هذا المحتوى، مما يؤدي إلى تأثيرات سلبية على المستخدمين الشباب.
وأوضح أندرو كوانغ، محلل أمان المستخدمين السابق في تيك توك، أن المراهقين الذكور يتعرضون بشكل كبير لمحتوى يتضمن مشاهد عنف وأفكار كارهة للنساء، في حين يتم توجيه الفتيات إلى محتويات تتعلق بالموسيقى والمكياج. وأكد أن أدوات الذكاء الاصطناعي المستخدمة في مراقبة المحتوى ليست معصومة من الخطأ، مما يسمح لبعض المواد الضارة بالوصول إلى المستخدمين قبل اكتشافها وإزالتها.
وبحسب التقرير، تدعي تيك توك أنها تزيل 99% من المحتوى الذي ينتهك قواعدها عبر أدوات الذكاء الاصطناعي والمشرفين البشريين قبل أن يصل إلى 10,000 مشاهدة. ومع ذلك، يرى الخبراء أن هذا النظام لا يزال غير كافٍ لحماية المستخدمين الأصغر سنًا.
التحديات التنظيمية والرقابية
تواجه منصات التواصل الاجتماعي ضغوطاً متزايدة من الجهات الرقابية لتحسين آليات حماية المستخدمين الصغار. وقالت هيئة تنظيم الاتصالات البريطانية "أوفكوم" إن الشركات الكبرى كانت تتجاهل المخاطر المتعلقة بالمحتوى الضار على الأطفال، مطالبةً بإجراءات أكثر صرامة لحمايتهم.
وعلقت ألمودينا لارا، مديرة تطوير سياسات الأمان الرقمي في أوفكوم، بأن الشركات تعامل الأطفال وكأنهم بالغون، مما يعرضهم لمحتويات غير مناسبة.
ورغم تعهدات منصات التواصل الاجتماعي بتحسين أمان المستخدمين، بما في ذلك توظيف آلاف الموظفين المتخصصين واستثمار مليارات الدولارات في هذا المجال، لا تزال التحديات قائمة. وتقوم شركات مثل تيك توك وميتا بتقديم أدوات أمان متعددة، إلا أن فعاليتها في حماية المراهقين تبقى محل نقاش.
مخاوف وتحذيرات
وأعرب كوانغ عن مخاوفه من أن خوارزميات منصات التواصل الاجتماعي قد تؤدي إلى تعزيز السلوكيات الضارة لدى الشباب، وأشار إلى أن الخوارزميات تستند إلى مبدأ "التعلم المعزز"، حيث يتعلم النظام الآلي من خلال التجربة والخطأ لتحديد المحتويات التي تجذب المستخدمين لفترات أطول.
وتصنف الخوارزميات المحتوى استنادًا إلى تفضيلات المستخدمين وسلوكهم، مما يعني أن الفيديوهات ذات الطابع العنيف قد تستمر في الظهور للشباب إذا أبدوا اهتمامًا بها بشكل غير مقصود.
وأكد كوانغ أن المشكلة تكمن في أن فرق العمل المسؤولة عن تدريب وبرمجة هذه الخوارزميات في تيك توك لا تكون على علم بطبيعة المحتوى الذي يُرَوَّج له. عوضا عن ذلك، تعتمد الفرق على بيانات مجردة مثل عدد المشاهدات والفئة العمرية للمستخدمين.
الخطوات المستقبلية
ومع اقتراب تطبيق لوائح جديدة في المملكة المتحدة بحلول عام 2025، المرتبطة بتنظيم المحتوى الذي يظهر للمستخدمين على وسائل التواصل الاجتماعي، ستضطر المنصات للتحقق من أعمار المستخدمين ومنع التوصية بالمحتوى الضار لهم. كما سيكون على الشركات تحسين أدواتها لضمان عدم تعرض المستخدمين الصغار لمحتويات غير ملائمة.
وفي هذا السياق، أكدت "أوفكوم" أنها ستفرض عقوبات صارمة على الشركات التي تتهاون في حماية المستخدمين، بما في ذلك فرض غرامات كبيرة، وربما اتخاذ إجراءات قانونية. ورغم أن هذه الإجراءات قد تساعد على تحسين أمان المستخدمين، إلا أن الخبراء يرون أن التحديات لا تزال كبيرة.
وبينما تستمر منصات التواصل الاجتماعي في النمو والتأثير على حياة الشباب، تبقى مسألة حماية المراهقين من المحتويات الضارة قضية ملحة. ومع اقتراب تطبيق اللوائح الجديدة، يبقى السؤال مطروحاً حول ما إذا كانت هذه التدابير كافية للتعامل مع التحديات المتزايدة التي تفرضها خوارزميات هذه المنصات.
