OpenAI تطلق ميزة جديدة لمنع المستخدمين من إيذاء أنفسهم
أعلنت شركة OpenAI إطلاق ميزة أمان جديدة تحمل اسم Trusted Contact، تهدف إلى تعزيز الاستجابة للحالات التي يُحتمل فيها ظهور مؤشرات على التفكير في إيذاء النفس في أثناء استخدام شات جي بي تي.
OpenAI تطلق ميزة جديدة لمنع المستخدمين من إيذاء أنفسه
ووفقًا لما نشره موقع ذا صن تتيح الميزة للمستخدم البالغ تحديد شخص موثوق به، مثل أحد أفراد العائلة أو الأصدقاء، ليكون جهة اتصال طوارئ يتم تنبيهه في حال رصد النظام مؤشرات خطيرة خلال المحادثات.
وبحسب الشركة، في حال تطورت المحادثة إلى محتوى يشير إلى أفكار إيذاء النفس، يتم تشجيع المستخدم أولًا على التواصل مع جهة الاتصال المحددة، قبل أن يتم إرسال إشعار تلقائي إليها يدعوها للتحقق من حالة المستخدم.
تعتمد OpenAI حاليًا على مزيج من الأنظمة الآلية والمراجعة البشرية لرصد الحالات الحساسة، حيث تقوم خوارزميات النظام بتحديد المحادثات التي قد تتضمن إشارات خطيرة، ثم تُحال إلى فرق مختصة للمراجعة.
وتقول الشركة إنها تسعى لمراجعة هذه التنبيهات خلال أقل من ساعة، وإذا تم تصنيف الحالة على أنها عالية الخطورة، يتم إرسال إشعار إلى جهة الاتصال الموثوقة عبر البريد الإلكتروني أو الرسائل النصية أو إشعار داخل التطبيق.
