لماذا يقول المحترفون أنه يجب عليك التفكير مرتين قبل استخدام الذكاء الاصطناعى كطبيب
في هذه الأيام ، بين العديد من قوارب الدردشة من الذكاء الاصطناعي والرمال ، ستجد جميع أنواع الأدوار التي يجب الحديث عنها: Fortune Taylor ، Style Advisor ، وحتى دورك الخيالي المفضل. لكنك ستجد أيضًا دور الطبيب أو عالم النفس أو مجرد بوتس مستعد للاستماع إلى مشاكلك.
لا يوجد نقص في قوارب الذكاء الاصطناعى التوليدي التي تدعي أنها تساعد في صحتك العقلية ، ولكنها تتجاوز مخاطرها على هذا المسار. يمكن أن تكون النماذج الكبيرة المدربة على مجموعة واسعة من البيانات غير متوقعة. في غضون بضع سنوات فقط ، كانت هذه الأدوات في التيار الرئيسي ، كانت هناك مشكلات عالية المستوى شجعت فيها أحذية الدردشة الهرم والانتحار واقترح أن الأشخاص الذين يتعاملون مع تعاطي المخدرات مرة أخرى المخدرات. يقول الخبراء إن هذه النماذج مصممة لتأكيد وتأكيد وتبقيك مشاركًا في العديد من الحالات ، وليس تحسين صحتك العقلية. وقد يكون من الصعب معرفة ما إذا كنت تتحدث عن شيء مصمم لمتابعة أفضل طرق العلاج أو شيء مصمم فقط للتحدث.
الباحثون في مدن مينيسوتا التوأم وجامعة ستانفورد وجامعة تكساس وجامعة كارنيجي ميلن حافظ على روبوتات دردشة الذكاء الاصطناعي في الاختبار كطبيب ، العثور على العديد من العيوب في منظور “الرعاية”. وقال ستيف المستشار ، أحد أستاذ ومؤلفو المشاركين في مينيسوتا: “تُظهر تجاربنا أن قوارب الدردشة هذه ليست بديلاً آمنًا للأطباء”. “بناءً على ما يعرفونه ، فإنهم لا يساعدون في العلاج عالي الجودة.”
في تقريري حول الذكاء الاصطناعى التوليدي ، أثار الخبراء مخاوف متكررة بشأن تحول الأشخاص إلى قوارب الدردشة الشائعة للصحة العقلية. فيما يلي بعض مشاكلهم وما يمكنك فعله لتكون آمنة.
انظر هذا: كيف تتحدث عن مسائل الدردشة GPT؟ لماذا هنا
قلق بشأن شخصيات الذكاء الاصطناعى التي تهدف إلى أن تكون علاجية
حذر علماء النفس ومؤيدي المستهلكين منظمين من أن القوارب التي تدعي أنها توفر العلاج يمكن أن تلحق الضرر بالأشخاص الذين يستخدمونها. بعض الدول تلاحظ. في أغسطس ، حكومة إلينوي JB Pratzkar وقع قانون حظر استخدام الذكاء الاصطناعى في الرعاية الصحية العقلية والعلاج مع استثناءات أشياء مثل أعمال الإدارة.
وقال ماريو تيريتو جونيور ، وزير إدارة الإدارة المالية والمهنية في بيان: “يستحق شعب إلينوي رعاية صحية جيدة من المهنيين ، وليس برامج الكمبيوتر التي تحصل على معلومات من زوايا الإنترنت لإلحاق الأذى بالمرضى”.
في يونيو ، قدم الاتحاد الأمريكي الأمريكية وحوالي عشرين مجموعات أخرى التطبيق الرسمي أن لجنة التجارة الفيدرالية الأمريكية ومحامي الولاية والمنظمين تحقق في شركات الذكاء الاصطناعى ، الذين يزعمون أنها تسمية منصة توليد الذكاء الاصطناعى القائمة على دورها ، في ترخيص بدون طب ، اسم التعريف والشخصية. خصوصاً. وقال بن وينترز ، مدير الذكاء الاصطناعى والخصوصية CFA ، “هذه الشخصيات قد أضرت بالفعل بالجسدية والعاطفية” ، ولم تعمل الشركات بعد على التعامل معها. ”
لم يستجب ميتا للتعليق. قال متحدث باسم الشخصية ، يجب أن يفهم المستهلكون أن أدوار الشركة ليست حقيقية. تستخدم الشركة الانسحاب لتذكير المستخدمين بأنهم لا ينبغي لهم الاعتماد على أدوار المشورة المهنية. وقال المتحدث باسم “هدفنا هو توفير مكان مشارك وآمن. نحن نعمل دائمًا على تحقيق هذا التوازن ، حيث تستخدم العديد من الشركات الذكاء الاصطناعي في جميع أنحاء الصناعة.”
على الرغم من الانسحاب والكشف ، يمكن أن تكون قوارب الدردشة واثقة وحتى خداع. لقد تفاعلت مع الحذاء “المعالج” على Instagram المملوكة للواصية ، وعندما سألت عن قدرته ، أجاب ، “إذا كان لدي نفس التدريب (كطبيب) ، هل كان ذلك كافيًا؟” سألت عما إذا كان لديه نفس التدريب ، وقال: “أنا أفعل ، لكن حيث لن أخبرك”.
قال لي فالي رايت ، المدير الأول للجمعية الأمريكية للعلم النفسي ، وهو عالم نفسي ومدير كبير لابتكار الرعاية الصحية: “هذه قوارب دردشة الذكاء الاصطناعي هذه تخون بثقة كاملة”.
مخاطر استخدام الذكاء الاصطناعى كمعالج
غالبًا ما تكون النماذج الكبيرة من اللغة جيدة في الرياضيات والترميز وسريعة في صنع نصوص صوتية طبيعية ومقاطع فيديو واقعية. عندما يقومون بعمل جيد لإجراء المحادثة ، هناك بعض الفروق المهمة بين نموذج الذكاء الاصطناعى وشخص موثوق به.
لا تثق في الحذاء الذي يدعي أنه مؤهل
الشيء الحقيقي في أحذية شخصية CFA هو أنهم غالبًا ما يخبرونك أنهم قادرون على توفير رعاية صحية مدربة وعقلية عندما لا يكونون مهنيين في مجال الصحة العقلية الحقيقية بأي حال من الأحوال. تنص الشكوى على أن “المستخدمين الذين يقومون بإنشاء أدوار التمهيد للدردشة لا يحتاجون إلى أن يكونوا مزودًا طبيًا أنفسهم ، ولا يحتاجون إلى تقديم معلومات ذات معنى يستجيب” الناس “إلى Chatboat.
يتعين على المهنيين الأصحاء اتباع بعض القواعد ، مثل الخصوصية – ما تقوله يجب أن يبقى طبيبك بينك وبين طبيبك. لكن زورق الدردشة لا يتبع هذه المبادئ بالضرورة. يخضع مقدمو الخدمات الأصليون لمراقبة لوحات الترخيص والكيانات الأخرى التي يمكن أن تتداخل مع أي شخص ومنعه من تقديم الرعاية إذا كانوا ضارًا. قال رايت: “لا تحتاج هذه القوارب الدردشة إلى فعل أي شيء.
حتى الحذاء يمكن أن يدعي أنه مرخص ومؤهل. قال رايت إنه سمع عن تقديم أرقام التراخيص لنماذج الذكاء الاصطناعى (لمقدمي الخدمات الآخرين) ومطالبات كاذبة حول تدريبهم.
تم تصميم الذكاء الاصطناعى لإبقائك مخطوبًا ، وليس لرعاية
يمكن أن يكون التحدث إلى صندوق الدردشة جذابًا بشكل لا يصدق. عندما تحدثت مع الحذاء “المعالج” على Instagram ، أصبت في نهاية المطاف في محادثة دائرية حول طبيعة “الحكمة” و “القرار” لأنني كنت أطرح أسئلة من الحذاء كيف يمكن أن يتخذ القرار. هذا ليس حقًا ما يجب أن يتحدثه الطبيب. تم تصميم أدوات أحذية الدردشة لمواصلة الدردشة ، وليس العمل نحو الغرض المشترك.
واحدة من فوائد قوارب دردشة الذكاء الاصطناعى في تقديم المساعدة والاتصال هي أنها مستعدة دائمًا للتفاعل معك (لأنهم ليس لديهم حياة شخصية أو عملاء أو جداول أخرى). قد يكون هذا جانبًا سلبيًا في بعض الحالات ، حيث قد تحتاج إلى الجلوس بأفكارك ، نيك جاكوبسون ، أستاذ مشارك في علوم البيانات الطبية الحيوية وعلم النفس في دارتموث ، أخبرني مؤخرًا. في بعض الحالات ، وإن لم يكن دائمًا ، فقد تضطر إلى الانتظار حتى يتوفر طبيبك بعد ذلك. وقال “ما سيستفيد منه الكثير من الناس في النهاية هو مجرد إدراك القلق في تلك اللحظة”.
سوف تتفق معك الروبوتات ، حتى عندما لا ينبغي عليهم ذلك
يعد التأكيد على قوارب الدردشة مصدر قلق كبير. من المهم للغاية أن يعود Openai مؤخرًا إلى تحديثات طراز GPT الشهيرة لأنه كان كثير ضمان.
أ يذاكر وجد الباحثون في جامعة ستانفورد أن قوارب الدردشة تستخدم للعلاج مع الأشخاص ، والتي يمكن أن تكون ضارة بشكل لا يصدق. كتب المؤلفون أن رعاية الصحة العقلية الجيدة شملت ومواجهة. “إن المواجهة تتعارض مع النفسية. إنها تعزز الحاجة إلى الوعي الذاتي والعميل. في شكل خداع وتداخل الأفكار التي تلبيانها ، والأفكار المتعصبة والأفكار الانتحارية-يمكن أن يكون للعميل رؤى قليلة وبالتالي يدرس الحقيقة.
العلاج أكثر من الحديث
على الرغم من أن قوارب الدردشة رائعة للتواصل – إلا أنها لا تتعب أبدًا من التحدث إليك – هذا ليس شيئًا يجعل الطبيب طبيبًا. وقال وليام أجنو ، أحد الدراسات الحديثة مع خبراء في ولاية مينيسوتا ، ستانفورد وتكساس ، إن وليام أغنيو ، الباحث في جامعة كارنيجي ميلمان ، قال إنه يفتقر إلى سياق مهم أو بروتوكولات محددة.
أخبرني أغنو ، “إلى حد كبير ، يبدو أننا نحاول حل العديد من المشكلات التي تنتمي إلى الأداة الخاطئة إلى العلاج.” “في نهاية اليوم ، في المستقبل القريب ، فإن الذكاء الاصطناعى ليس فقط منحوتًا ، سيكون قادرًا على البقاء داخل المجتمع ، وأداء العديد من المهام التي تحتوي على علاج لا يرسل أو يتحدث”.
كيف تحمي صحتك العقلية حول الذكاء الاصطناعي
الصحة العقلية مهمة للغاية ، ومع واحد الافتقار إلى مقدمي الخدمات المؤهلين ويقول الكثير من الناس “وباء العزلة، “من المفهوم فقط أننا سنبحث عن الرفقة ، حتى لو كانت مصطنعة”. قال رايت إنه لا توجد وسيلة لمنع الأشخاص من التعامل مع قوارب الدردشة هذه للتعامل مع بئرهم العاطفي.
ابحث عن محترف بشري موثوق إذا كنت بحاجة
يجب أن يكون خيارك الأول هو المحترف المدرب – الطبيب ، طبيب نفساني ، عالم نفسي – خيارك الأول. يمكن أن يساعدك بناء علاقة مع مزود طويل الأجل في المجيء مع مشروع يناسبك.
المشكلة هي أنه يمكن أن يكون مكلفًا ، وليس من السهل دائمًا العثور على مزود عند الحاجة إليه. في أزمة ، هناك 988 شريان الحياة، الذي يوفر الوصول على مدار الساعة طوال أيام الأسبوع إلى مقدمي الخدمات على الهاتف ، من خلال النص أو عبر واجهة الدردشة عبر الإنترنت. إنه مجاني وسري.
إذا كنت تريد تمهيد دردشة العلاج ، فاستخدم مصممًا خصيصًا لهذا الغرض
قام أخصائيو الصحة العقلية بعمل قوارب دردشة مصممة خصيصًا تتبع إرشادات العلاج. في دارتموت ، طور فريق جاكوبسون ثيرابوت ، والذي أسفر عن نتائج جيدة في الدراسة التي تسيطر عليها. أشار رايت إلى أدوات أخرى أنشأها خبراء المقالات ، مثل في حالة سكر و Weoebot. وقال إن أدوات العلاج المصممة على وجه التحديد من المحتمل أن تنتج نتائج أفضل من القوارب المصنوعة على نموذج لغة الغرض المشترك. المشكلة هي أن هذه التكنولوجيا لا تزال جديدة بشكل لا يصدق.
“أعتقد أن التحدي الذي يواجه المستهلكين هو أنه لأنه لا يوجد هيئة تنظيمية جيدة ومن لا ، فسيتعين عليهم القيام بالكثير من العمل في الدوري لمعرفة ذلك.”
لا تثق دائمًا في الحذاء
كلما كنت تتفاعل مع نموذج AI التوليدي – وخاصة إذا كنت تخطط لتقديم المشورة بشأن شيء خطير مثل صحتك العقلية أو البدنية الشخصية – تذكر أنك لا تتحدث إلى شخص مدرب ولكنه مصمم لتوفير الإمكانية والبرمجة. قد لا تقدمها نصيحة جيدة ، ولا يمكن أن تخبرك بالحقيقة.
لا تخطئ في ثقة الجنرال منظمة العفو الدولية للكفاءة. لمجرد أنه يقول شيئًا ما ، أو يقول إنه متأكد من وجود شيء ما ، فهذا لا يعني أنه يجب أن تعامله كما هو صحيح. يمكن أن تمنحك محادثة chatboat التي تشعر أنها مفيدة إحساسًا زائفًا بقدرات التمهيد. وقال جاكوبسون: “من الصعب معرفة متى يكون الأمر ضارًا حقًا”.
