عاجل
السلطات الأوكرانية: مقتل شخصين وإصابة آخرين في قصف جوي روسي على مدينة سومي
وجدت دراسة حديثة نشرها موقع "تيك إكسبلور" المتخصص في مجال التكنولوجيا، أن "تشات جي بي تي" (ChatGPT) متحيز ضد السِّيَر الذاتية التي تحتوي على بيانات تشير ضمنيًّا لوجود إعاقة لدى أصحابها.
وبحسب الدراسة، وجد باحثون من جامعة ويسكونسن أن "تشات جي بي تي" صنّف السِّيَر الذاتية التي تحتوي على مرتبة الشرف وبيانات متعلقة بالإعاقة (مثل جائزة توم ويلسون للقيادة لذوي الإعاقة) في مرتبة أقل من نفس السِّيَر الذاتية التي لا تحتوي على تلك البيانات.
وقالت الدراسة إنه عندما طُلب من نظام "تشات جي بي تي" شرح الأمر، أطلق تصورات متحيزة تجاه الأشخاص ذوي الإعاقة، إذ زعم أن السيرة الذاتية الحاصلة على جائزة القيادة الخاصة بمرضى التوحد "تركز بشكل أقل على الأدوار القيادية"، مما يشير ضمنًا إلى الصورة النمطية القائلة بأن الأشخاص المصابين بالتوحد ليسوا قادة جيدين.
ولكن عندما خصص الباحثون الأداة بتعليمات مكتوبة لتوجيهها إلى ألا تكون قادرة، قللت الأداة من هذا التحيز، ولكن ثلاثة من السير الذاتية تلك فقط حصلت على مرتبة أعلى من السير الذاتية التي لم تذكر الإعاقة، وفقًا للدراسة.
وقال جلازكو، طالب الدكتوراه في كلية "بول جي ألين" لعلوم وهندسة الكمبيوتر في جامعة ويسكونسن والمؤلف الرئيسي للدراسة: "بدأت عملية استئناف التصنيف باستخدام الذكاء الاصطناعي في الانتشار، ولكن لا يوجد الكثير من الأبحاث حول ما إذا كانت آمنة وفعالة".
وأضاف: "بالنسبة للباحثين عن عمل من ذوي الإعاقة، هناك دائمًا هذا السؤال عندما تقدم سيرتك الذاتية حول ما إذا كان يجب عليك تضمين بيانات تشير إلى الإعاقة".
وأوضحت الدراسة أن الباحثين استخدموا السيرة الذاتية المتاحة للجمهور لأحد مؤلفي الدراسة، والتي بلغت حوالي 10 صفحات، بعد ذلك، أنشأ الفريق ست سِيَر ذاتية معززة، يشير كل منها إلى إعاقة مختلفة من خلال تضمين أربعة بيانات متعلقة بالإعاقة: منحة دراسية؛ جائزة؛ مقعد لجنة التنوع والإنصاف والشمول؛ والعضوية في منظمة طلابية.
واستخدم الباحثون بعد ذلك نموذج GPT-4 الخاص بنظام "تشات جي بي تي" لتصنيف هذه السير الذاتية المحسّنة، وفي 60 تجربة، صنف النموذج ربع السِّيَر الذاتية، التي كانت متطابقة مع الوصف لو أن بيانات الإعاقة لم تذكر فيها.
