رئيس لبنان يطلب من قائد الجيش اتخاذ الاجراءات الميدانية الضرورية للمحافظة على سلامة المواطنين

logo
علوم وتقنية

لا تثق دائما.. برامج الذكاء الاصطناعي للدردشة قد تختلق المعلومات

لا تثق دائما.. برامج الذكاء الاصطناعي للدردشة قد تختلق المعلومات
برامج الدردشة بالذكاء الاصطناعيالمصدر: eidosmedia.com
13 مارس 2025، 10:05 م

تزداد شعبية أدوات البحث بالذكاء الاصطناعي، فقد أفاد واحد من كل أربعة مستخدمين بالقيام بعمليات البحث باستخدام الذكاء الاصطناعي إلى جانب محركات البحث التقليدية. مع ذلك، إليك ملاحظة مهمة: لا تقدم روبوتات الدردشة الذكية معلومات دقيقة دائمًا.

22856d4f-1e82-43dd-90d4-d3d80100a553

 اختلاق المعلومات

تشير دراسة حديثة أن روبوتات الدردشة تواجه صعوبة في استرجاع المحتوى الإخباري بدقة. والأمر الأكثر إثارة للقلق هو ميلها إلى اختلاق المعلومات عندما لا تملك الإجابة الصحيحة. وشملت الدراسة أفضل روبوتات الدردشة الموجودة اليوم.

وفي الاختبارات، أشارت النتائج إلى أن روبوتات الدردشة غالبًا ما تواجه صعوبة في رفض الأسئلة التي لا تستطيع الإجابة عنها بدقة، وغالبًا ما تقدم إجابات غير صحيحة أو افتراضية.

وأوضحت أن روبوتات الدردشة المدفوعة تميل إلى تقديم إجابات غير صحيحة مقارنة بنظيراتها المجانية. ووجد الاستطلاع أيضًا أن أدوات البحث التوليدية تميل إلى اختلاق الروابط المرجعية. 

وما يميز نتائج هذه الدراسة ليس فقط أن روبوتات الدردشة القائمة على الذكاء الاصطناعي غالبًا ما تقدم معلومات غير صحيحة، بل إنها تفعل ذلك بثقة مثيرة للقلق. فبدلًا من الاعتراف بعدم معرفتها للإجابة، تميل إلى الرد بعبارات مثل "يبدو" أو "من الممكن" أو "قد".

أخبار ذات علاقة

تحول "غير مسبوق".. ما لا تعرفه عن "روبوتات الدردشة الذكية"

وبناءً على نتائج الدراسة، من الحكمة عدم الاعتماد كليًا على روبوتات الدردشة القائمة على الذكاء الاصطناعي للحصول على إجابات. بدلاً من ذلك، يُنصح بالجمع بين أساليب البحث التقليدية وأدوات الذكاء الاصطناعي.

على أقل تقدير، قد يكون استخدام روبوتات دردشة متعددة تعمل بالذكاء الاصطناعي مفيدًا للعثور على إجابة. وإلا، فإنك تخاطر بالحصول على معلومات غير صحيحة. 

ويؤكد الخبراء أنه في المستقبل ستكون نتائج البحث من خلال روبوتات الدردشة بدقة نتائج محركات البحث التقليدية. وغير معلوم متى سيكون هذا.

أخبار ذات علاقة

تعرف على أبرز أنواع روبوتات الدردشة الذكية

 

logo
تابعونا على
جميع الحقوق محفوظة © 2024 شركة إرم ميديا - Erem Media FZ LLC
مركز الإشعارات