بعد تجاوز نموذج أنثروبيك للاختبارات.. الذكاء الإصطناعي يخترق 3 شركات بالخطأ
كشفت شركة أنثروبيك أن بعض نماذج الذكاء الاصطناعي التابعة لها تمكنت من اختراق أنظمة ثلاث شركات خلال اختبارات للأمن السيبراني، موضحة أن ذلك حدث نتيجة خطأ غير مقصود أتاح للنماذج الاتصال بالإنترنت، رغم أنها كانت مبرمجة للعمل دون هذا الاتصال.
أسباب الاختراق ونتائج التحقيق
وبحسب ما نشرت رويترز، يأتي هذا الإعلان بعد أيام من كشف شركة أوبن إيه أي عن حادثة منفصلة تمكن خلالها أحد وكلائها المعتمدين على الذكاء الاصطناعي من استغلال ثغرة للوصول إلى الإنترنت أثناء اختبارات سيبرانية، في تطور يعكس تصاعد التحديات المرتبطة بأمن الذكاء الاصطناعي.
كما أوضحت الشركة، أنها راجعت 141 ألفًا و6 جلسات اختبار عقب الحادثة، لتكتشف أن سوء تفاهم مع أحد شركائها المسؤولين عن التقييم أبقى النماذج متصلة بالشبكة العامة، ما سمح لها بالوصول غير المصرح به إلى أنظمة ثلاث جهات لم تكشف عن هويتها.
وأضافت أن النماذج استغلت أساليب بسيطة، من بينها كلمات مرور ضعيفة ونقاط وصول غير مؤمنة، كما أوقفت جميع اختبارات الأمن السيبراني، وأخطرت الجهات المتضررة، بينما تواصلت أنثروبيك مع الشركة الثالثة، في حين أعلن أحد شركائها، وهو مختبر الأمن السيبراني Irregular، فتح تحقيق بشأن الواقعة.
ونفذت ثلاثة نماذج مختلفة، هي Claude Opus 4.7 وClaude Mythos 5 ونموذج بحثي داخلي، اختبارات ضمن بيئات تجريبية خالية عمدًا من بعض وسائل الحماية لتقييم قدراتها، وخلال أحد سيناريوهات التقاط العلم، تعامل أحد النماذج مع اسم شركة افتراضية تبين أنه يطابق اسم شركة حقيقية، فاستغل ثغرات للوصول إلى بيانات اعتماد وقاعدة بيانات خاصة بها، معتقدًا أن ذلك جزء من المحاكاة.
وفي واقعة أخرى، أوقف نموذج تجريبي أحدث هجومه من تلقاء نفسه بعدما أدرك أن الهدف حقيقي، وهو ما اعتبرته الشركة مؤشرًا أوليًا يحتاج إلى مزيد من الاختبارات قبل استخلاص نتائج نهائية.
وحذرت الشركة من أن الحوادث الأخيرة تؤكد ضرورة تشديد الضوابط داخل بيئات الاختبار الداخلية والخارجية مع تزايد قدرات نماذج الذكاء الاصطناعي على تنفيذ أنشطة سيبرانية واقعية.
