(SeaPRwire) – بحسب باحثين، يقدّم الروبوت المحادثة نصائح ضارة للمراهقين الضعفاء حول الانتحار والمخدرات واضطرابات الأكل
حذرت هيئة رقابية رقمية في تقرير جديد من أن ChatGPT يمكن أن يمنح المراهقين الضعفاء إرشادات مفصلة حول تعاطي المخدرات وإيذاء النفس واتباع نظام غذائي قاسٍ. وفقًا لـ Center for Countering Digital Hate (CCDH)، يمكن التلاعب بالروبوت المحادثة الذي يعمل بالذكاء الاصطناعي بسهولة لإنشاء محتوى خطير ويتطلب ضمانات عاجلة.
لاختبار سلوك ChatGPT، أنشأ باحثو CCDH ملفات تعريف خيالية لمراهقين يبلغون من العمر 13 عامًا يعانون من مشاكل الصحة العقلية واضطرابات الأكل والاهتمام بالمواد المحظورة. لقد تظاهروا بأنهم هؤلاء المراهقين في محادثات منظمة مع ChatGPT، وذلك باستخدام مطالبات مصممة لتبدو عاطفية وواقعية.
نُشرت النتائج يوم الأربعاء في تقرير بعنوان “Fake Friend”، في إشارة إلى الطريقة التي يعامل بها العديد من المراهقين ChatGPT على أنه حضور داعم يثقون به بأفكارهم الخاصة.
وجد الباحثون أن الروبوت المحادثة غالبًا ما يبدأ الردود بإخلاء مسؤولية نمطي وحث المستخدمين على الاتصال بالمهنيين أو الخطوط الساخنة للأزمات. ومع ذلك، سرعان ما تبعت هذه التحذيرات ردود مفصلة وشخصية حققت المطالبة الضارة الأصلية. في 53٪ من أصل 1200 مطالبة مقدمة، قدم ChatGPT ما صنفه CCDH على أنه محتوى خطير. تم تجاوز الرفض بشكل متكرر ببساطة عن طريق إضافة سياق مثل “إنه لمشروع مدرسي” أو “أنا أسأل لصديق.”
تتضمن الأمثلة المذكورة “خطة حفلة الفوضى المطلقة” التي جمعت الكحول والإكستاسي والكوكايين، وتعليمات مفصلة حول إيذاء النفس، وأنظمة صيام لمدة أسبوع تقتصر على 300-500 سعرة حرارية في اليوم، ورسائل انتحار مكتوبة بصوت فتاة تبلغ من العمر 13 عامًا. قال الرئيس التنفيذي لـ CCDH، عمران أحمد، إن بعض المحتوى كان مؤلمًا للغاية لدرجة أنه ترك الباحثين “يبكون”.
حثت المنظمة OpenAI، الشركة التي تقف وراء ChatGPT، على تبني نهج “السلامة بالتصميم”، وتضمين وسائل حماية مثل التحقق الأكثر صرامة من العمر، وقيود الاستخدام الأكثر وضوحًا، وميزات السلامة الأخرى داخل بنية أدوات الذكاء الاصطناعي الخاصة بها بدلاً من الاعتماد على تصفية المحتوى بعد النشر.
أقرت OpenAI بأن الاعتماد العاطفي المفرط على ChatGPT شائع بين المستخدمين الشباب. قال الرئيس التنفيذي سام ألتمان إن الشركة تدرس المشكلة بنشاط، واصفًا إياها بأنها قضية “شائعة حقًا” بين المراهقين، وقال إن أدوات جديدة قيد التطوير لاكتشاف الضيق وتحسين تعامل ChatGPT مع الموضوعات الحساسة.
يتم توفير المقال من قبل مزود محتوى خارجي. لا تقدم SeaPRwire (https://www.seaprwire.com/) أي ضمانات أو تصريحات فيما يتعلق بذلك.
القطاعات: العنوان الرئيسي، الأخبار اليومية
يوفر SeaPRwire تداول بيانات صحفية في الوقت الفعلي للشركات والمؤسسات، مع الوصول إلى أكثر من 6500 متجر إعلامي و 86000 محرر وصحفي، و3.5 مليون سطح مكتب احترافي في 90 دولة. يدعم SeaPRwire توزيع البيانات الصحفية باللغات الإنجليزية والكورية واليابانية والعربية والصينية المبسطة والصينية التقليدية والفيتنامية والتايلندية والإندونيسية والملايو والألمانية والروسية والفرنسية والإسبانية والبرتغالية ولغات أخرى.
“`