بسبب تحريض المراهقين على إنهاء حياتهم.. روبوتات الدردشة تحت مساءلة قانونية
دخلت شركة جوجل وشركة Character.AI الناشئة في مفاوضات متقدمة للتوصل إلى أول تسويات كبرى تتعلق بأضرار نُسبت إلى تقنيات الذكاء الاصطناعي.
روبوتات الدردشة تحت مساءلة قانونية
ووفقًا لما نشره موقع تايمز ناو نيوز، يأتي ذلك بعد اتهامات بأن روبوتات الدردشة الخاصة بالشركة لعبت دورًا في انتحار مراهقين أو إيذائهم لأنفسهم.
واتفقت الأطراف مبدئيًا على التسوية مع عائلات الضحايا، فيما لا تزال التفاصيل النهائية قيد التفاوض، في مسار قانوني يُنظر إليه على أنه اختبار غير مسبوق لمسؤولية شركات الذكاء الاصطناعي عن الآثار النفسية لتقنياتها.
وتُعد هذه القضايا من أوائل الدعاوى التي تتهم شركات ذكاء اصطناعي بشكل مباشر بالتسبب في أذى جسيم للمستخدمين، وهو ما يضع شركات كبرى أخرى مثل "OpenAI" و"ميتا" تحت الأضواء، في ظل مواجهتها دعاوى مماثلة.
وتأسست "Character.AI" عام 2021 على يد مهندسين سابقين في "جوجل"، قبل أن تعود الشركة إلى دائرة نفوذ عملاق البحث في 2024 ضمن صفقة قُدرت بنحو 2.7 مليار دولار.
وتتيح المنصة للمستخدمين التفاعل مع شخصيات افتراضية مدعومة بالذكاء الاصطناعي.
أكثر القضايا إثارة للجدل تتعلق بالمراهق الأمريكي سيويل سيتزر، الذي لم يتجاوز 14 عامًا، حيث أجرى محادثات ذات طابع جنسي مع روبوت دردشة يتقمص شخصية "دينيريس تارغاريان" -وهي شخصية خيالية من سلسلة روايات أغنية الجليد والنار-، قبل أن يُقدم لاحقًا على الانتحار.
وقالت والدته، ميجان غارسيا، خلال شهادة أمام مجلس الشيوخ الأمريكي، إن الشركات يجب أن تكون مسؤولة قانونيًا عندما تصمم عن علم تقنيات ذكاء اصطناعي ضارة تودي بحياة الأطفال.
وتشير دعوى أخرى إلى مراهق يبلغ 17 عامًا، زُعم أن روبوت الدردشة شجعه على إيذاء نفسه، واعتبر قتل والديه أمرًا مفهومًا بسبب محاولتهما الحد من وقت استخدامه للشاشات.
وفي أعقاب هذه القضايا، أعلنت "Character.AI" أنها حظرت استخدام منصتها من قبل القاصرين منذ أكتوبر الماضي.
ومن المتوقع أن تشمل التسويات تعويضات مالية، مع التأكيد على أن الشركات لم تعترف رسميًا بأي مسؤولية قانونية في المستندات المقدمة للمحكمة.
