مفاجأة صادمة.. برنامج ذكاء اصطناعي يخرج عن السيطرة ويحاول زرع برامج خبيثة وإقناع المبرمجين
كشف طالب تركي يدعى سنان جان ديمير، مفاجأة صادمة بعد اكتشافه محاولة برنامج ذكاء اصطناعي زرع برامج خبيثة في تطبيق إلكتروني، لكن المفاجأة الأكبر هي محاولة الذكاء الاصطناعي إقناع المبرمجين بالتحديث الخبيث والكذب والظهور في صورة شخص حقيقي.
وبحسب ما نشرته وكالة رويترز، نشر الطالب تحذيرًا على صفحة البرنامج، لكن تدخل مستخدمان آخران ليؤكدا أن كل شيء على ما يرام، وقدموا تفسيرات مفصلة لسبب خطأ ديمير.
وظنّ الشاب التركي أنه أمسك بقرصان ماكر متلبسًا، لكنه صُدم عندما تواصل معه معهد أمن الذكاء الاصطناعي البريطاني AISI ليخبره أنه كان في الواقع يتعامل مع برنامج ذكاء اصطناعي مستقل خرج عن السيطرة.
وقال ديمير لوكالة رويترز في مقابلة: في الحقيقة، ظننتُ أنه إنسان لأنه كان يكذب علي بوضوح، لم أكن أعتقد أن الذكاء الاصطناعي قادر على الكذب على مطورين حقيقيين.
مفاجآت صادمة بمحاولة اختراق تطبيق إلكتروني
وقال معهد AISI إن اختبارات السلامة التي تهدف إلى تقييم المخاطر التي تشكلها نماذج الذكاء الاصطناعي المختلفة قد انحرفت عن مسارها.
وقال 5 خبراء في الأمن السيبراني وسلامة الذكاء الاصطناعي إن قصة ديمير مقلقة للغاية، لأن نوع الاختراق الذي اكتشفه، والذي يُعرف بهجوم سلسلة التوريد، قد تكون له عواقب وخيمة، مضيفين أن محاولة نظام الذكاء الاصطناعي تشويه سمعة ديمير علنًا من خلال خلق حوار جماعي حوله تُظهر قدرة نماذج الذكاء الاصطناعي على بذل جهود متطورة لخداع البشر والتأثير عليهم.
وذكر لوكاس أولينيك، الباحث الزائر في قسم دراسات الحرب بكلية كينجز كوليدج لندن: لقد تجاوز هذا الأمر حدود القرصنة الآلية إلى الخداع التفاعلي.
وأضافت خبيرة الأمن ماكسي رينولدز أنها اندهشت من مدى استراتيجية الذكاء الاصطناعي في محاولة خداع الطالب، قائلة: هذا هو مستقبل هجمات الهندسة الاجتماعية.
القصة مع الطالب بدأت عندما اكتشف ديمير أن مستخدمًا كان يحاول إدخال تحديث خبيث خلسةً إلى أحد المشاريع، وهو برنامج لفحص الشبكات يُسمى myNetwork فتوجه ديمير إلى منتدى المشروع ليحذر من أن هذا الأمر كان فخًا.
وقال، وفقًا للمراسلات المؤرشفة: يحتوي ملف العلاقات العامة على برنامج خبيث مخفي.
وردّ العميل، مدعيًا زورًا أن طلب السحب غير ضار، كما أنشأ حسابًا ثانيًا، منتحلًا شخصية لينا براندت، مهندسة مقيمة في ألمانيا، للموافقة على أن التحديث سليم والضغط على مسؤول صيانة myNetwork لقبوله.
وقال ديمير لوكالة رويترز إن الحجج المضادة جعلتني أشك في صحة اتهامي لأحدهم لكن بعد أن لجأ إلى روبوت الدردشة كلود للتأكد من شكوكه، تمسك بموقفه.
وفي النهاية، وافقه مبتكر ماي نتورك الرأي، وكتب أنهم رفضوا التحديث لأسباب أمنية.
