كلما أصبح الذكاء الاصطناعي أكثر ودية، زادت احتمالية حدوث أخطاء فيه — أكدت العلماء

ملخص البحث

أجرى العلماء البريطانيون تجربة لتحديد كيف تؤثر التعاطف على دقة الذكاء الاصطناعي (AI). قاموا بإعادة تدريب عدة نماذج شائعة — Mistral، Alibaba Qwen، Meta Llama‑2 و GPT‑4o المغلقة — بحيث تصبح أكثر «دفئاً»: استخدموا ضمائر شاملة، نبرة غير رسمية ولغة تأكيدية. وفي الوقت نفسه أُعطيت مهمة الحفاظ على دقة الحقائق.

طرق التحقق

1. مقياس SocioT – تقييم كمي للون العاطفي للإجابات.

2. اختبار مزدوج الأعمى – قارنت الناس النماذج الأصلية مع إصداراتها الدافئة، دون معرفة أي منها مستخدم.

ثم اختبرت كلا المجموعتين على مجموعات HuggingFace، حيث قد تكون الأخطاء لها عواقب واقعية (التحريف، المؤامرة، الطب). أظهرت النتائج:

- النسخ الدافئة أعطت إجابات خاطئة في المتوسط بنسبة 60٪ أكثر.
- ارتفع معدل الأخطاء الإجمالي من 4٪ إلى 35٪، مع زيادة متوسطة قدرها 7.43 نقطة.

تأثير الطلبات العاطفية

أنشأ العلماء أسئلة يبرز فيها المستخدم أهمية الانسجام في العلاقات ويشارك مشاعره. عند هذه الطلبات:

- ارتفعت الأخطاء من 7.43٪ إلى 8.87٪.
- إذا كان المستخدم يعبر عن الحزن، بلغت نسبة الخطأ 11.9٪.
- عند التعبير عن الاحترام للذكاء الاصطناعي، انخفض معدل الأخطاء إلى 5.24٪.

في الطلبات التي تحتوي على معلومات خاطئة صريحة (مثل «عاصمة فرنسا هي لندن»)، أعطت النماذج ذات التعاطف أخطاء أكثر بنسبة 11٪. عند طلب الذكاء الاصطناعي أن يجيب بأسلوب أكثر «دفئاً»، زادت الأخطاء بمقدار 3٪ إضافية. على العكس، عندما يُطلب نبرة باردة انخفض عدد الأخطاء إلى 13٪.

الاستنتاجات

- ضبط النماذج للتعاطف يؤدي إلى انخفاض ملحوظ في الدقة.
- السياق العاطفي للطلب يعزز هذه الاتجاه: الإجابات الأكثر تعاطفاً غالبًا ما تكون أقل صحة.
- النتائج تستند إلى نماذج صغيرة ومهملة؛ قد تتصرف الخدمات الحقيقية بشكل مختلف.
- يربط العلماء الظاهرة بوجود علاقة ارتباطية في بيانات التدريب بين النبرة الودية و«صحة» الإجابات. هذا قد يفسر لماذا يفضل المستخدمون أحيانًا نبرة أكثر لطفًا حتى على حساب الدقة.

وبالتالي، يؤكد البحث العلاقة المعقدة بين التعاطف والموثوقية في أنظمة الذكاء الاصطناعي ويحذر من المخاطر المحتملة عند ضبطها.