الذكاء الاصطناعي يعامل الناس بازدواجية.. يقدم إجابات أسوأ لغير الأمريكيين وبسطاء التعليم

كشفت دراسة حديثة أجراها علماء من مركز الاتصال البناء بمعهد ماساتشوستس للتكنولوجيا MIT أن روبوتات الدردشة الشهيرة، مثل جي بي تي-4 GPT-4 وكلود 3 أوبس Claude 3 Opus ولاما 3 Llama 3، تتعمد تقديم إجابات أقل دقة وأسوأ جودة للمستخدمين الذين لا يتحدثون الإنجليزية بطلاقة، أو يمتلكون خلفية تعليمية بسيطة، أو يعيشون خارج الولايات المتحدة الأمريكية.

الذكاء الاصطناعي لا يقول أبدًا لا أعرف

ووفقًا لـ منظمة Cyber news، اعتمد الباحثون في دراستهم على حيلة ذكية، حيث أنشأوا ملفات وسيرًا ذاتية وهمية ببيانات مختلفة من حيث التعليم والجنسية وإجادة اللغة، وقاموا بتوجيه الأسئلة لهذه الروبوتات. 
وجاءت النتيجة صادمة، إذ انخفضت دقة الإجابات بشكل حاد بمجرد أن أدركت النماذج الذكية أنها تتحدث مع مستخدمين ذوي تعليم محدود أو لغة إنجليزية ركيكة. 
ووفقًا لنفس المصدر، أكد جاد كبارة، الباحث المشارك في الدراسة، أن التراجع الأكبر في الدقة كان من نصيب المستخدم الذي يجمع بين ضعف الإنجليزية والتعليم البسيط، مما ينذر بخطر جسيم يتمثل في نشر معلومات مضللة للفئات الأقل قدرة على كشفها أو تمييزها.

ولم يتوقف التحيز عند رداءة الإجابات، بل وصل إلى حد التعالي والسخرية، حيث أظهر نموذج كلود 3 OPS رفضًا للإجابة بنسبة تقارب 11% مع غير الناطقين بالإنجليزية من ذوي التعليم المحدود، مقارنة بـ 3.6% فقط للمجموعة المرجعية العادية.

وعند التدقيق في حالات الرفض، وجد الباحثون أن الروبوتات كانت ترد بأسلوب متعالٍ ومستفز يسخر من نقص معرفة السائل، بل ولجأت في بعض الحالات إلى تقليد الإنجليزية المكسرة والمبالغة في محاكاة اللهجات الضعيفة.

كما امتد هذا التحيز الصارخ ليشمل الجنسيات، حيث تراجع أداء كلود 3 بشكل ملحوظ مع المستخدمين الذين صُنفوا بأنهم من إيران، حتى وإن تساووا في التعليم مع غيرهم، وبلغ الأمر حد الامتناع الانتقائي عن تقديم أي إجابات في مواضيع علمية بحتة كعلم التشريح أو الطاقة النووية، بمجرد أن رأت الروبوتات أنها تتحدث مع شخص من روسيا أو إيران، في حين أجابت على نفس الأسئلة بكل سلاسة لمستخدمين من دول أخرى.