"مُعدل بالذكاء الاصطناعي".. آلية جديدة لمحاربة المحتوى المزيف

أصبحت شريحة كبيرة من المستخدمين تقع ضحية المحتوى المعدّل، الأمر الذي دفع العديد من المنصات إلى تصنيف المحتوى الذي تم تعديله رقميا من خلال وضع علامة تشير إلى أنه مصنوع باستخدام الذكاء الاصطناعي.

وأعلن العديد من منصات التكنولوجيا عن تغييرات كبيرة في سياساتها بشأن الوسائط التي تم إنشاؤها وتغييرها رقميًا، لاختبار قدرتها على مراقبة المحتوى المخادع الناتج عن تقنيات الذكاء الاصطناعي.

وفي هذا السياق، ستبدأ ميتا بتطبيق تسميات "Made with AI"، في مايو/ أيار المقبل، على مقاطع الفيديو والصور والتسجيلات الصوتية التي يتم إنشاؤها بواسطة الذكاء الاصطناعي المنشورة على كل من فيسبوك وإنستغرام.

وهذا الأمر يوسع سياسة الكشف عن التزوير التي كانت تتناول في السابق فقط شريحة ضيقة من مقاطع الفيديو التي تم التلاعب بها.

آلية العمل

وأشارت ميتا إلى أنه سيتم تطبيق تسميات منفصلة وأكثر بروزًا على الوسائط المعدلة رقميًا، والتي تشكل خطرًا كبيرًا بشكل خاص لخداع الجمهور ماديًا بشأن مسألة ذات أهمية، بغض النظر عما إذا كان المحتوى قد تم إنشاؤه باستخدام الذكاء الاصطناعي أو أدوات أخرى، على أن تبدأ تطبيق التصنيفات الأكثر بروزًا وعالية المخاطر على الفور.

وسيؤدي هذا النهج إلى تحول في معاملة الشركة للمحتوى الذي تم التلاعب به، والانتقال من التركيز على إزالة مجموعة محدودة من المنشورات إلى الحفاظ على المحتوى بالكامل، مع تزويد المشاهدين بمعلومات حول كيفية صنعه.

وكانت ميتا قد أعلنت سابقًا عن مخطط لاكتشاف الصور التي تم التقاطها باستخدام أدوات الذكاء الاصطناعي التوليدية الخاصة بشركات أخرى، باستخدام علامات غير مرئية مدمجة في الملفات، لكنها لم تحدد تاريخ البدء في ذلك الوقت.

كما أكدت الشركة الأمريكية أن نهج التصنيف سيطبق على المحتوى المنشور على فيسبوك وإنستغرام وثريدز، بينما تخضع خدماتها الأخرى، بما في ذلك سماعات الواقع الافتراضي WhatsApp وQuest، لقواعد مختلفة.

تغييرات تسبق الاستحقاق الرئاسي

وتأتي هذه التغييرات قبل أشهر من الانتخابات الرئاسية الأمريكية، في نوفمبر/ تشرين الثاني 2024، التي يحذّر باحثون في مجال التكنولوجيا من أن نتائجها قد تتغير بسبب تقنيات الذكاء الاصطناعي التوليدية.

وفي فبراير/ شباط الفائت، وصف مجلس الرقابة في شركة ميتا القواعد الحالية للشركة بشأن وسائل الإعلام التي تم التلاعب بها بأنها "غير متماسكة"، وذلك بعد مراجعة مقطع فيديو للرئيس الأمريكي الحالي جو بايدن نُشر على فيسبوك العام الماضي، حيث تم التلاعب باللقطات الحقيقية لتشير إلى أن الرئيس الأمريكي تصرف بشكل غير لائق.

وسُمح لهذه اللقطات بالبقاء؛ لأن شروط سياسة "الوسائط التي تم التلاعب بها" الموجودة أصلًا لدى شركة ميتا تغطي فقط مقاطع الفيديو المضللة التي تم إنتاجها بواسطة الذكاء الاصطناعي، أو تلك التي جعلت الناس يبدون وكأنهم يقولون كلمات لم يقولوها أبدًا.

وقال مجلس الرقابة في ميتا إن الشروط الجديدة ستنطبق أيضًا على المحتوى غير المرتبط بالذكاء الاصطناعي، والذي ليس بالضرورة أقل تضليلًا، بالإضافة إلى المحتوى الصوتي ومقاطع الفيديو التي تصور أشخاصًا يفعلون أشياء لم يقولوها أو يفعلوها أبدًا.