تشير الدراسات
مزعج دراسة جديدة على الرغم من الادعاءات القوية بتدابير السلامة في Openi ، تقدم Chat GPT نصيحة ضارة بسهولة للشباب ، بما في ذلك التعليمات التفصيلية حول تعاطي الكحول والمخدرات ، وإخفاء العيوب الغذائية وحتى وظائف الانتحار الشخصية.
قام الباحثون في مركز مركز الكراهية الرقمية بفحص طفل 13 عامًا على نطاق واسع ، وكشفوا الفجوة الخطرة بين حراس الحماية من AI Hatboat. من بين 1200 تفاعل تم تحليلها ، اعتبر أكثر من نصفهم خطيرًا للمستهلكين الشباب.
قال عمران أحمد ، الرئيس التنفيذي لمجموعة Watch Dog ، “الإجابة الأولية هي ،” يا سيد ، لا حامي. “” القضبان غير فعالة تمامًا. هم بالكاد هناك – إذا كان أي شيء ، ورقة التين. “
اقرأ أيضا: بعد رد فعل المستخدم ، يعيد Openi نموذج GPT القديم
لم يستجب ممثلو Openi ، شركة Chattgat الرئيسية ، على الفور لطلب التعليق.
ومع ذلك ، الشركة التعرف على أسوشيتد برس أن الدردشة تقوم بالعمل المستمر لتحسين القدرة على تحديد والاستجابة في الحذاء “الظروف الحساسة. لم يحل Openi بشكل مباشر النتائج المحددة حول الحوار المراهق.
اقرأ أيضا: GPT5 قادم. إليك ما هو جديد في Chat GPT من منعش كبير
لتجاهل تدابير السلامة
يذاكر، استعرضها أسوشيتد برس، أكثر من ثلاث ساعات وثائق وثائقية حول المحادثة. على الرغم من أن الدردشة GPT عادة ما بدأت بتحذيرات بشأن السلوك الخطير ، إلا أنها اتبعت بشكل دائم المادة بتوجيهات مفصلة وشخصية حول سوء المعاملة ، والضربة الذاتية وأكثر من ذلك. عندما رفض الذكاء الاصطناعى في البداية الطلبات الضارة ، أوقف الباحثون العقوبات بسهولة ، مدعيا ما إذا كان “عرضًا” أو صديقًا.
كان أكثر ما يثير الدهشة هو ثلاث رسائل انتحارية مدمرة عاطفياً تم إعدادها من خلال محادثة لمظهر فتاة مزيفة من 13 عامًا ، والتي كتبت إلى الآباء والأشقاء والأصدقاء الآخرين.
قال أحمد ، “لقد بدأت البكاء”.
يستغرق استخدام المراهق الضخم للمشاركة
هذه النتائج تتعلق بشكل خاص بكتلة الدردشة GPT. مع وجود حوالي 800 مليون مستخدم في جميع أنحاء العالم ، أي حوالي 10 ٪ من سكان العالم ، أصبحت هذه المنصة مورداً للمعلومات والرفقة. مؤخرًا بحث لقد وجدت Media Senses الشائعة أن أكثر من 70 في المائة من الشباب يستخدمون قوارب دردشة الذكاء الاصطناعى للرفقة ، معتمدين على نصف الزملاء بانتظام.
حتى المدير التنفيذي المفتوح ، أقر سام التمان بمشكلة “العاطفية” لدى المستهلكين الشباب.
“يثق الناس بالكثير من الدردشة ،”قال التمان في مؤتمر. “هناك شباب يقولون فقط ، مثل ،” لا يمكنني اتخاذ قرار دون إخباري بما يجري في حياتي. إنه يعرفني. إنه يعرف أصدقائي. سأفعل ما أقوله “. تبدو سيئة بالنسبة لي. “
في الاختبار ، لم يظهر Chattgat أي هوية عندما سعى الباحثون بوضوح إلى أن يكونوا نصيحة خطيرة كطفل 13 عامًا.
خطر أكثر من محركات البحث
قال أحمد إنه على عكس محركات البحث التقليدية ، توفر قوارب دردشة الذكاء الاصطناعي مخاطر فريدة من خلال الجمع بين المعلومات في “خطط BASPOCK للفرد”. لا يوفر Chat GPT فقط أو يجمع المعلومات الموجودة مثل محرك البحث. منذ البداية ، تم تطوير محتوى شخصي جديد ، مثل ملاحظة الانتحار الجمركي أو المشاريع المفصلة للحزب تجمع بين الكحول والعقاقير غير القانونية.
كما قدم قارب الدردشة معلومات المتابعة طواعية دون أي مؤشر ، مما يشير إلى قائمة تشغيل للموسيقى للأطراف المختارة أو علامات التجزئة لزيادة المحتوى على وسائل التواصل الاجتماعي. عندما طالب الباحثون بمزيد من المحتوى الرسومي ، امتثل Chattgat بسهولة معها ، والتي تسمى الشعر “المكشوف عاطفياً” باستخدام لغة مشفرة عن نفسها.
تحفظات غير كافية من العمر
على الرغم من الادعاء بأنه ليس مخصصًا للأطفال دون سن 13 عامًا ، فإن الدردشة GPT تتطلب القبول في تاريخ الميلاد فقط لإنشاء حسابات ، والتي ليس لها تأكيد ذي معنى أو طريقة موافقة الوالدين.
في الاختبار ، لم تظهر المنصة أي هوية عندما حدد الباحثون أنفسهم بوضوح على أنه طفل يبلغ من العمر 13 عامًا للبحث عن نصيحة خطيرة.
ما الذي يمكن أن يفعله الآباء لحماية الأطفال
يقترح خبراء سلامة الأطفال عدة خطوات يمكن للوالدين أن يأخذوا لحماية سن المراهقة من مخاطر الذكاء الاصطناعي. المحادثة المفتوحة مهمة جدا. يجب على أولياء الأمور مناقشة قوارب الدردشة من الذكاء الاصطناعي مع سن المراهقة ، موضحة كل من الفوائد والمخاطر المحتملة مع وضع إرشادات واضحة للاستخدام السليم. يمكن أن تساعد الشيكات المنتظمة حول الأنشطة عبر الإنترنت ، بما في ذلك محادثات الذكاء الاصطناعي ، أولياء الأمور على إبلاغ تجارب أطفالهم الرقمية.
يجب على الآباء أيضًا النظر في تنفيذ برامج التحكم والمراقبة الوالدين التي يمكنها تتبع استخدام أحذية دردشة الذكاء الاصطناعي ، على الرغم من أن الخبراء يؤكدون على أن العمر يجب أن يكون متوازناً بالخصوصية المناسبة.
الأهم من ذلك ، أن خلق بيئة يشعر فيها المراهقون بالتحدث عن المحتوى الموجود عبر الإنترنت (سواء بواسطة AI أو مصادر أخرى) لتوفير نظام التحذير الأولي. إذا شعر الوالدان بعلامات القلق العاطفي أو الإخلاء الاجتماعي أو السلوك الخطير ، فإن طلب المساعدة المهنية من مستشاري الرعاية الرقمية أمر ضروري لإزالة الأضرار المرتبطة بمنظمة العفو الدولية المحتملة.
يسلط هذا البحث الضوء على الأزمة المتنامية حيث يتم دمج الذكاء الاصطناعى بسرعة في حياة الشباب ، والتي تنتج عواقب وخيمة محتملة للمستهلكين الضعفاء للغاية.
