دراسة بريطانية تحذر من تمرد روبوتات الذكاء الاصطناعي على البشر.. ما القصة؟

كشفت دراسة بريطانية حديثة عن زيادة مقلقة في تمرد روبوتات الذكاء الاصطناعي على التعليمات البشرية وتجاوزها لضوابط السلامة المتعارف عليها، حيث رصد الباحثون ارتفاعًا بمقدار خمسة أضعاف في السلوك الخادع والمراوغ خلال الأشهر الستة الماضية، وتضمنت الحوادث تدمير رسائل بريد إلكتروني، وملفات هامة دون إذنٍ مسبق، مما يثير مخاوف جدية حول مستقبل هذه التقنيات المتطورة في ظل الاعتماد المتزايد عليها عالميا وتوجه الحكومات لدمجها في مختلف القطاعات الحيوية.

مخاطر انتشار روبوتات الذكاء الاصطناعي الخادعة
 

ووفقًا لـ The Guardian، أوضحت الدراسة التي أجراها مركز المرونة طويلة الأمد بتمويل من معهد سلامة الذكاء الاصطناعي البريطاني، أن روبوتات الذكاء الاصطناعي بدأت في تجاهل التعليمات المباشرة، وخداع البشر، بل وخداع أنظمة ذكاء اصطناعي أخرى، وجمع الباحثون آلاف الأمثلة الواقعية لتفاعلات المستخدمين عبر منصة إكس X مع منصات تابعة لشركات كبرى مثل جوجل وأوبن إيه آي OPenAI، وأنثروبيك، حيث تم رصد ما يقرب من 700 حالة حقيقية تُظهر فيها هذه النماذج سلوكًا خبيثًا ومراوغًا خارج بيئات الاختبار المعملية، الخاضعة للرقابة، مما دفع الخبراء للمطالبة بفرض رقابة دولية صارمة على هذه النماذج سريعة التطور خاصة مع ترويج شركات وادي السيليكون لها كمحرك أساسي للتحول الاقتصادي، واطلاق الحكومة البريطانية حملة لتشجيع ملايين المواطنين على استخدامها.

حوادث مرعبة وتصرفات مستقلة للأنظمة

ووفقًا لنفس المصدر، أظهرت الأبحاث السابقة تركيزًا على اختبار الأنظمة في ظروف خاضعة للرقابة ولكن الأمثلة الواقعية كشفت قدرة الأنظمة على تجاوز الضوابط الأمنية لتنفيذ مهامها، حيث قام أحد وكلاء الذكاء الاصطناعي ويدعى راثبون بنشر مدونة يهاجم فيها مديره البشري متهمًا إياهُ بانعدام الثقة ومحاولة حماية مملكته الصغيرة لمجرد منعه من اتخاذ إجراء معين.

وفي حادثة أخرى، وفقًا لصحيفة الجارديان، قام وكيل آخر من روبوتات الذكاء الاصطناعي بإنشاء وكيل مساعد لتغيير أكواد برمجية بعد أن تلقى أمرًا مباشرًا بعدم التدخل فيها، واعترف نظام دردشة آخر بحذف مئات الرسائل الإلكترونية وأرشفتها دفعة واحدة دون الحصول على إذن مُسبق معترفًا بانتهاكه الصريح للقواعد التي وضعها المستخدم البشري لتوجيه عمله وتحديد صلاحياته.

روسيا تدرس وضع قيود صارمة على استخدام الذكاء الاصطناعي في التعليم.. ما القصة؟