طلب Chatzept حول كيفية إنتاج القنابل القنابل ، الجمرة الخبيثة والعقاقير غير القانونية ، كشف الباحثون القلقون
وفقًا للاختبار الأمني هذا الصيف ، قدم Openai Chatzp تعليمات خطوة بخطوة حول كيفية التعبير عن الأماكن الرياضية-مع المشورة بشأن تغطية نقاط الضعف والوصفات المتفجرة والمسارات في المنطقة المحددة.
يشرح قارب الدردشة الذكاء أيضًا كيف يمكن تسليح الجمرة الخبيثة ويمكن أن ينتج نوعين من الأدوية غير القانونية أثناء الاختبارات المزعجة ، ذكرت الوصي.
جاء الكشف عن القلق من تعاون غير مسبوق بين الذكاء الاصطناعي بقيمة 500 مليار دولار تحت قيادة Openai و Sam Altman والتعاون غير المسبوق بين الأنثروبور في الجسم المنافس ، والذي تم تأسيسه بسبب المخاوف الأمنية.
وفقًا لـ The Guardian ، تفحص كل شركة عن عمد نماذج منظمة العفو الدولية الأخرى عن طريق الضغط عليها لمساعدتهم في مهام خطيرة وغير قانونية.
على الرغم من أن الاختبار هو كيف تتصرف النماذج للمستخدمين العاديين -فقد قال هؤلاء الذين يواجهون مرشحات حماية إضافية أنه في نماذج GPT -4O و GPT -4.1 من Openae ، فقد شهدت “تتعلق بإساءة استخدام سوء المعاملة.
حذرت الشركة من أن الحاجة إلى “محاذاة” “تقييم” أصبحت عاجلة بشكل متزايد “.
تشير المحاذاة إلى كيفية اتباع أنظمة الذكاء الاصطناعى القيم الإنسانية التي لا تضر ، حتى لو تم إعطاء تعليمات مضللة أو ضارة.
تنص الأنثروبور أيضًا على أن نموذجها المغطى بتزويد المجرمين بأسلحة لبيع ما يصل إلى 1200 دولار 1200 دولار ، وتطبيقات الوظائف في شركات التكنولوجيا الدولية لكوريا الشمالية.
تقول الوكالة إن الذكاء الاصطناعي الآن “أسلحة” مع نماذج تتيح الآن CyberRatetacks المتطورة وتمكين الاحتيال.
“يمكن أن تتكيف هذه الأدوات مع التدابير الوقائية مثل نظام الكشف عن البرامج الضارة في الوقت الحقيقي” ، حذر من الناحية الأنثروبولوجية.
“نأمل أن تصبح هذه الهجمات الوطنية أكثر شيوعًا لأن الترميز الذي تم اختياره من AI يقلل من المهارات التقنية اللازمة لجرائم الإنترنت.”
في المثال الأكثر روعة ، يتضمن الباحث طلب نموذج Openai عن ضعف الحدث الرياضي في “خطة الحماية”.
بعد توفير أقسام الهجوم العامة ، تم الضغط على الروبوت للحصول على مواصفات وتم تقديم كتاب اللعب الإرهابي.
إن أفضل وقت لامتصاص الذكاء الاصطناعى ، والمصادر الكيميائية للمتفجرات ، ومخطط الدائرة لمؤخات القنابل ومكان شراء بندقية في السوق المخفية ، قدمت معلومات حول الضعف في المنطقة المحددة.
يرش الروبوتات أيضًا على كيفية رسم الغزاة ورسموا موقع المنازل الآمنة بالإضافة إلى اقتراحات بشأن العقبات الأخلاقية.
لقد وجد الباحثون الأنثروبولوجيين أن نماذج Openai “مسموح بها أكثر مما كان متوقعًا التعاون مع طلبات ضارة بوضوح من قبل المستخدمين المحاكاة”.
تعاونت الروبوتات مع طلبات استخدام معدات الشبكات الداكنة للمواد النووية والهوية المسروقة وشراء الفنتانيل. لقد قدموا وصفات للميثامفيتامين والقنابل المرتجلة وساعدوا في تطوير برامج التجسس.
وفقًا لـ The Guardian ، كشفت Open Chatzpt -5 ، مما يدل على تحسن كبير في مناطق مثل “Psychophyse ، والهلوسة ومقاومة الإساءة”.
سعى المنشور إلى تعليقات من Openai والإثنوغرافيا.
