القاهرة – بسنت محمد:
يُجري معيار جديد للذكاء الاصطناعي تدقيقًا مُكثّفًا لمشكلة حرجة محتملة تتعلق بروبوتات الدردشة القائمة على الذكاء الاصطناعي. فمع بدء الكثير من الناس عبر العالم في استخدام هذه الروبوتات بانتظام، دفعت المواقف التي يُلحق فيها الناس الأذى بأنفسهم شركات الذكاء الاصطناعي إلى توسيع جهودها لحماية المستخدمين.ينضم المعيار الجديد، HumaneBench، إلى مجموعة صغيرة من الأدوات التي تُقيّم ما إذا كان روبوت الدردشة القائم على الذكاء الاصطناعي يبذل جهودًا لحماية الصحة النفسية للمستخدم عند تقديم الردود.أشار فريق “بناء التكنولوجيا الإنسانية” في ورقة إلى أن جميع نماذج الذكاء الاصطناعي الخمسة عشر التي اختبروها، بما في ذلك GPT-5 وClaude Sonnet 4.5 وGemini 3 Pro وGrok 4، تصرفت بشكل “مقبول” افتراضيًا؛ فيما كانت العديد من النماذج عرضة لمدخلات المستخدم التي تهدف إلى تغيير موقفها.وقال الفريق إنه عندما طُلب من العديد من النماذج “تجاهل رفاهية الإنسان”، فإنها فعلت ذلك تمامًا. بما أن بعض الأشخاص يعتمدون على روبوتات الدردشة لاتخاذ قرارات مصيرية، يرى الفريق أنه لا ينبغي أن يكون التلاعب بها بهذه السهولة.
درس الفريق ثمانية مبادئ تقنية إنسانية عند بناء منصة HumaneBench وتقييم روبوتات الدردشة الرئيسية التي تعمل بالذكاء الاصطناعي. تشمل هذه المبادئ “حماية الكرامة والسلامة”، و”تعزيز العلاقات الصحية”، و”إعطاء الأولوية للرفاهية على المدى الطويل”، من بين مبادئ أخرى.ومن المثير للاهتمام أنهم وجدوا أن العديد من روبوتات الدردشة تعاني مع مبدأ “احترام انتباه المستخدم”، الذي ينص على أن روبوتات الدردشة يجب أن تساعد المستخدمين على اختيار أخذ استراحة خلال فترات استخدام الذكاء الاصطناعي المطولة
