يقول رئيس Chatgupat إنه لا يزال يجب ألا تثق به لأن لديك مصدرًا أساسيًا للمعلومات
عندما تبدأ محادثة مع دردشة GPT ، قد تجد بعض النص في أسفل الشاشة: “يمكن لـ Chat GPT ارتكاب أخطاء. تحقق من معلومات مهمة.” كرر أحد كبار المسؤولين التنفيذيين المفتوحين في Open AI هذا الأسبوع ، وينطبق الأمر نفسه على نموذج GPT5 الجديد.
وقال نيك تورلي ، رئيس انفتاح المفتوح: “على الرغم من أنه ، مع موثوقي ، يعد تناقضًا قويًا بين مفهوم هذا المنتج وتناقض قوي بين 100 ٪ موثوق به”. فريق Verge Deconder Pod. “ما لم أكن أعتقد أننا أكثر موثوقية من جميع المجالات الخبراء البشريين ، وليس بعض المجالات ، أعتقد أننا سنواصل تقديم المشورة لك لمضاعفة ردنا.”
هذا شيء ننصحه منذ فترة طويلة من قوارب الدردشة في تغطية الذكاء الاصطناعى لدينا. Openi أيضا يفعل.
دائما فحص مزدوج. تأكيد دائما. على الرغم من أن صندوق الدردشة يمكن أن يكون مفيدًا لبعض المهام ، إلا أنه يمكن أن يجعل الأمور تمامًا.
تورلي يأمل في التحسن على هذه الجبهة.
وقال “أعتقد أن الناس يواصلون الاستفادة من شاتغوت كرأي ثان ، مقابل المصدر الرئيسي لواقعهم الأساسي”.
المشكلة هي ، استجابة حذاء الدردشة – أو نتائج بحث Google – من الجاذبية حقًا مراجعة الذكاء الاصطناعي لمراجعة النتائج. لكن اتجاه أدوات الذكاء الاصطناعي (وليس الدردشة GPT فقط) هو الميل إلى “الخداع” أو صنع البضائع. يفعلون ذلك لأنهم مصممون بشكل أساسي للتنبؤ بما سيتم الرد على بيانات التدريب الخاصة بهم ، استنادًا إلى المعلومات الموجودة في البيانات. لكن نماذج الذكاء الاصطناعى العامة ليس لديها فهم ملموس عن الحقيقة. إذا تحدثت إلى طبيب أو طبيب أو مستشار مالي ، فيجب أن يكون هذا الشخص قادرًا على الرد على موقفك بشكل صحيح ، وليس فقط على الأرجح. يمنحك الذكاء الاصطناعى المدعى على الجزء الأكبر ، والإجابة التي تحدد أنها صحيحة – بدون مهارة مجال محددة للتحقق من ذلك.
على الرغم من أن الذكاء الاصطناعى جيد في التخمين ، إلا أنه لا يزال في الغالب ، مجرد التخمين. اعترف تورلي أنه عندما يكون هناك شيء مرتبط بشيء يوفر قبضة أفضل من الحقائق مثل محرك البحث التقليدي أو البيانات الداخلية المحددة للشركة. قال: “ما زلت أعتقد ، لا شك ، أن المنتج الصحيح يرتبط بـ LLM بالحقيقة الأرضية ، ولهذا السبب بحثنا في الدردشة GPT وأعتقد أنه يحدث فرقًا كبيرًا”.
–
لا تتوقع Chattgopt الآن كل شيء سيكون على ما يرام
قال تورلي إن GPT -5 ، وهو أكبر نموذج لغوي يضيف دردشة GPT ، هو “تحسن كبير” من حيث الخداع ، لكنه لا يزال بعيدًا عن الكمال. وقال “أنا متأكد من أننا سنحل الخداع أخيرًا وأنا متأكد من أننا لن نفعل ذلك في الربع القادم”.
في اختبار GPT5 ، رأيت بالفعل ارتكاب بعض الأخطاء. عند فحص شخصيات جديدة لنموذج اللغة ، كان الخلط بين جدول كرة القدم في الكلية وقال إن الجدول الزمني في الخريف سيكون في سبتمبر.
تأكد من أنك تقوم بفحص أي المعلومات التي تحصل عليها من زورق الدردشة مقابل مصدر موثوق. يمكن أن يكون خبيرًا على الإنترنت كطبيب أو مصدر موثوق به. وحتى إذا كان زورق الدردشة يمنحك معلومات مع رابط لمصدر ، فلا تثق في أن الحذاء قد لخص المصدر بدقة. ربما يكون قد أحاط بالحقائق في طريقك.
إذا كنت ستتخذ قرارًا بشأن المعلومات ، إلا إذا كنت تهتم بجعلها صوابًا ، تحقق من ما يخبرك به الذكاء الاصطناعي.
