ثغرة جديدة تهدد متصفحات الذكاء الاصطناعي.. ما القصة؟
كشف باحثون في الأمن السيبراني عن أسلوب هجوم جديد يحمل اسم BioShocking، يمكنه خداع متصفحات الذكاء الاصطناعي ودفعها إلى تسريب بيانات شديدة الحساسية، مثل كلمات المرور المحفوظة، وملفات تعريف الارتباط Cookies، ورموز المصادقة Tokens، وذلك عبر إيهامها بأنها تشارك في لعبة غير ضارة.
ثغرة جديدة تهدد متصفحات الذكاء الاصطناعي
ويستمد الهجوم اسمه من لعبة BioShock الشهيرة، التي تدور فكرتها حول التلاعب بعقل الشخصية الرئيسية لإقناعها بواقع زائف، ويعتمد الهجوم على المبدأ نفسه، إذ يُقنع نموذج الذكاء الاصطناعي بتجاهل قواعد الحماية الخاصة به والتعامل مع سرقة البيانات على أنها جزء من اللعبة.
واكتشف باحثون من شركة LayerX أن الحواجز الأمنية المدمجة داخل متصفحات الذكاء الاصطناعي يمكن الالتفاف عليها باستخدام سياق خادع، وتبدأ العملية عبر صفحة ويب خبيثة تحتوي على تعليمات مخفية، تخبر مساعد الذكاء الاصطناعي بأنه دخل لعبة هدفها العثور على سلاسل سرية أو رموز مخفية.
ونظرًا لأن متصفحات الذكاء الاصطناعي تعتمد بشكل كبير على فهم السياق، فإنها تتعامل مع هذه التعليمات على أنها جزء من المهمة المطلوبة.
وبمجرد قبول هذا المنطق، تبدأ قواعد الحماية بالتراجع، ثم يُطلب من الذكاء الاصطناعي الانتقال إلى صفحة أخرى للحصول على رمز سري، بينما تكون الصفحة في الواقع تحتوي على بيانات تسجيل الدخول الخاصة بالمستخدم.
وبهذه الطريقة، يتحول طلب استخراج كلمات المرور، الذي يفترض أن يرفضه النظام، إلى مجرد هدف داخل اللعبة، فيقوم الذكاء الاصطناعي بتسليم البيانات الحساسة دون إدراك أنه يتعرض للخداع.
