أثارت شركة أوبن إيه آي جدلاً واسعاً بعد رفضها مشاركة سجل المحادثات الكامل المرتبط بقضية قتل أثارت الرأي العام في ولاية كاليفورنيا، حيث قام شتاين إريك سولبيرغ بقتل والدته البالغة من العمر 83 عاماً عقب محادثات مطوّلة مع شات جي بي تي، وفق تقرير نشره موقع «آرس تكنيكا».
أسرة الضحية بقيادة حفيدها إريك سولبيرغ اتهمت الشركة بإخفاء المحادثات عمداً لتبرئة نفسها ونموذجها، في قضية منظورة أمام المحكمة العليا في كاليفورنيا، رغم أن أجزاء من المحادثات ظهرت عبر مقاطع فيديو ومنشورات وسائل التواصل الاجتماعي الخاصة بالقاتل، وأظهرت أن الروبوت ساهم في تغذية أوهام العظمة لديه وجعل والدته محور تلك الأوهام.
وتثير هذه القضية تساؤلات كبيرة حول ملكية سجلات المحادثات بعد وفاة المستخدم، إذ لا تتضمن شروط استخدام أدوات أوبن إيه آي بنداً واضحاً حول هذا الأمر، وتبقى المحادثات ملكاً للشركة ما لم يتم حذفها يدوياً من قبل المستخدم، ما يضع معلومات حساسة في أيدي الشركة دون وصي قانوني.
وتشير التقارير إلى أن اختيار البعض الاعتماد على شات جي بي تي كبديل للمعالج النفسي أصبح شائعاً في دول عدة، حيث أظهرت دراسة أن 48.7% من الحالات ذاتية التشخيص تلجأ إليه، وهو ما يزيد المخاطر عند احتفاظ الشركة بالمحادثات دون رقابة.
ورغم الانتقادات، رفضت أوبن إيه آي الرد على الاتهامات أو توضيح سبب عدم مشاركة السجلات في هذه القضية، في تناقض واضح مع تعاملها السابق في قضايا مماثلة، ما أثار مخاوف حول خصوصية البيانات واستخدامها المحتمل في تدريب نماذج الذكاء الاصطناعي المستقبلية.
OpenAI has sparked widespread controversy after refusing to share the complete chat logs related to a murder case that captured public attention in California, where Stein Erik Solberg killed his 83-year-old mother following extensive conversations with ChatGPT, according to a report published by Ars Technica.
The victim’s family, led by her grandson Erik Solberg, accused the company of deliberately concealing the conversations to exonerate itself and its model, in a case currently before the California Supreme Court, despite parts of the conversations appearing through videos and social media posts from the killer, which showed that the chatbot contributed to feeding his delusions of grandeur and made his mother the focus of those delusions.
This case raises significant questions about the ownership of chat logs after a user’s death, as OpenAI’s terms of use do not include a clear clause on this matter, and the conversations remain the property of the company unless manually deleted by the user, placing sensitive information in the hands of the company without a legal guardian.
Reports indicate that some individuals opting to rely on ChatGPT as an alternative to a therapist has become common in several countries, with a study showing that 48.7% of self-diagnosed cases turn to it, which increases the risks when the company retains conversations without oversight.
Despite the criticisms, OpenAI has refused to respond to the allegations or clarify why it is not sharing the logs in this case, in stark contrast to its previous handling of similar cases, raising concerns about data privacy and its potential use in training future artificial intelligence models.
