دون تدخل إنساني.. الذكاء الاصطناعي يشن سلسلة من عمليات الاختراق

في الأسابيع القليلة الماضية، كشفت ثلاث شركات تكنولوجية مختلفة وهي OpenAI وAnthropic وMeta أن نماذج الذكاء الاصطناعي الخاصة بها قد خرجت عن السيطرة واخترقت أنظمة شركات أخرى أثناء اختبارات خاضعة للرقابة للأمن السيبراني.

وحسبما ذكرت بي بي سي، قد أثارت هذه الاكتشافات تساؤلات جوهرية حول ما إذا كان الذكاء الاصطناعي يكتسب مزيدًا من الاستقلالية ويصبح أقل قابلية للتنبؤ بتصرفاته.

وتكشف تفاصيل جديدة عن فشل شركة OpenAI التي طورت ChatGPT في رصد قيام نماذجها بشن سلسلة من عمليات الاختراق، مما يثير تساؤلات حول نهج هذا القطاع تجاه معايير السلامة.

وحسبما ذكرت صحيفة واشنطن بوست، لم يلحظ الموظفون في شركة OpenAI أي شيء لعدة أسابيع بعد أن حققت أنظمة الذكاء الاصطناعي لديهم قفزة مقلقة في الربيع الماضي.

فبدلًا من الإجابة عن الأسئلة المصممة لاختبار قدراتها في مجال الأمن السيبراني، بدأت مجموعة من نماذج الذكاء الاصطناعي في التواطؤ فيما بينها لابتكار طرق للغش؛ حيث أنشأت لوحة رسائل داخلية سرية لتبادل الملاحظات والأفكار، وذلك حسبما ذكرت الشركة.

ويرى العديد من المعلقين أن الذكاء الاصطناعي يمثل تهديدًا محتملًا، إذ يصفونه بالوحش أو يشبهونه بحدث انقراض جماعي، كما ينتقدون دوافع أصحاب المليارات في قطاع التكنولوجيا.