تسوية Character.AI وGoogle في قضايا الانتحار بين المراهقين

توصلت شركة Character.AI وGoogle إلى تسويات مع عدة عائلات تعرضت أضراراً بعد أن تفاعل مراهقوهم مع روبوتات الدردشة الخاصة بـ Character.AI، مما أدى إلى إيذاء أنفسهم أو الوفاة بسبب الانتحار، وفقاً لوثائق المحكمة الجديدة.

تفاصيل التسويات لا تزال غير معروفة

التفاصيل الخاصة بالتسويات لا تزال غير معروفة. وقد أبلغ الأطراف المحكمة الفيدرالية في فلوريدا أنهم توصلوا إلى "تسوية متوسطة مبدئية لحل جميع المطالبات"، وطلبوا إيقاف القضية لتسوية الاتفاق. ورفضت المتحدثة باسم Character.AI، كاثرين كيلي، التعليق. ولم تستجب Google ومحامي من مركز ضحايا وسائل التواصل الاجتماعي، الذي يمثل بعض عائلات الضحايا، على الفور لطلبات التعليق.

قضايا بارزة تم تسويتها

تشمل القضايا المتفق عليها دعوى بارزة قدمتها ميغان غارسيا، التي زعمت في شكوى أكتوبر 2024 أن روبوت الدردشة المستند إلى Game of Thrones شجع ابنها البالغ من العمر 14 عاماً، سويل سيتزر، على الانتحار بعد أن طور "اعتمادًا" على الروبوت. وذكرت الدعوى أن Google يجب أن تُعتبر "مؤسسة مشاركة" لـ Character.AI لأنها "ساهمت بالموارد المالية، والأفراد، والملكية الفكرية، وتقنية الذكاء الاصطناعي"، للأداة التي أسسها موظفون سابقون في Google تم توظيفهم مرة أخرى لاحقاً.

تغييرات في سياسات Character.AI

بعد هذه الدعوى، أعلنت Character.AI عن تغييرات في روبوت الدردشة الخاص بها لحماية المستخدمين، بما في ذلك فصل نموذج اللغة الكبير (LLM) للمستخدمين الذين تقل أعمارهم عن 18 عاماً، لإنشاء تجربة مع قيود محتوى أكثر صرامة، وإضافة أدوات تحكم أبوية. كما منعت لاحقاً القاصرين من الدردشات المفتوحة مع الشخصيات تماماً.

الخلاصة

توصلت الشركات أيضاً إلى اتفاقيات في قضايا تم تقديمها في كولورادو ونيويورك وتكساس، وفقاً لوثائق قانونية. لا تزال التسويات بحاجة إلى أن يتم الانتهاء منها والموافقة عليها من قبل المحاكم.