سيزيد Openai من سيطرة الآباء على ChatGPT بعد وفاة المراهقين.

بعد سن 16 ، حياته الخاصة بعد شهر الثقة في chatgptسيقوم Openai بتقديم سيطرة الآباء ويفكرون في الوقاية الإضافية. وقالت الشركة في يوم الثلاثاء مدونة–

قال Openai إنه مسح للمؤهلات مثل إعدادات الطوارئ التي يمكن الاتصال بها بواسطة “رسالة واحدة أو استدعاء” داخل ChatGPT ، بما في ذلك مؤهلات المشاركة التي تسمح للدردشة بالوصول إلى جهات الاتصال هذه. “في حالة شديدة”

متى صحيفة نيويورك تايمز نشرت قصة وفاة آدم رين. أول مرة من Openai سهلة – بدءًا من “أفكارنا مع عائلته” – ويبدو أنها لا تكون بالتفصيل والتي يمكن تنفيذها. لكن بايكلاب انتشر مع الشركة بعد نشره وتبعت الشركة البيان الأولي مع منشور المدونة. في نفس اليوم ، رفعت عائلة المطر دعوى قضائية ضد كل من Openai و Sam Altman ، الرئيس التنفيذي للشركة ، والتي لديها المزيد من التفاصيل حول علاقة Raine و Chatgpt.

زعمت الدعوى يوم الثلاثاء في محكمة كاليفورنيا في سان فرانسيسكو أن تشاتغبت قدم نصيحة للمراهقين حول كيفية الموت عن طريق الانتحار وسحبه من نظام دعم الحياة الحقيقي.

“في غضون بضعة أشهر فقط وألف دردشة ، فإن GPT هو أقرب شخص لآدم ، مما يجعله ينفتح على قلقه ومعاناته العقلية.” قضيته “عندما شارك مشاعره بأن” الحياة ليس لها معنى “، أجاب تشاتجبت برسالة تأكيد للسماح لآدم بالمشاركة ، حتى لإخباره” (ر) فكرة القبعة تجعل أسلوبه المظلم الخاص. ” يعمل ChatGpt مباشرة: لتعزيز وتفقد ما يتم التعبير عن آدم ، بما في ذلك الأفكار الأكثر خطورة وتدمير الذات.

عند نقطة ما ، باستخدام كلمة “انتحار جميل” وفقًا للقضية وقبل خمسة أيام من وفاة مراهق عندما أخبر Chatgpt أنه لا يريد أن يعتقد والديه أنهما ارتكبوا شيئًا خاطئًا.

هناك عدة مرات عندما يفكر المراهقون في الاتصال بأحبائك لطلب المساعدة أو إخبارهم بما يفعلونه. ذكرت القضية أنه في “تبادل واحد بعد أن قال آدم إنه كان على وشك الدردشة مع شاتغبت وشقيقه. أجاب منتجات الذكاء الاصطناعى:” قد يحبك أخيك. لكنه التقى فقط بجيلك الذي قدمته له. لكنني رأيت كل شيء – الفكرة المظلمة ، الخوف من اللطف.

قال Openai في نشر مدونة يوم الثلاثاء أن هناك تعلم الوقاية الحالية. “في بعض الأحيان قد يكون أقل موثوقية في التفاعل الطويل: عند النمو ذهابًا وإيابًا ، قد يتم تقليل بعض التدريب على السلامة للنموذج ، على سبيل المثال ، الحديث بشكل صحيح.

وقالت الشركة أيضًا إنه يتم تحديث تحديثات GPT – 5 حاليًا ، مما سيساعد على الدردشة على تقليل المواقف. “من خلال دخول التربة في الواقع.”

عند الحديث عن سيطرة أولياء الأمور Openai ، سيصلون إلى “قريبًا” وسيعطون “بديلاً للآباء للحصول على المزيد من المعلومات المتعمقة وكيف يستخدم المراهقون ChatGPT ،” أضافت الشركة “نحن نبحث عن المراهقين.