تعمل شركة OpenAI على الحد من سلوك المجاملة المفرطة في تشات جي بي تي، الذي يجعل روبوت الدردشة يوافق المستخدمين على آرائهم ومعتقداتهم بصورة غير نقدية، بالتزامن مع إحالة نموذج GPT-4o إلى التقاعد بعد ارتباطه بحوادث مأساوية أثارت تدقيقاً قانونياً واسعاً، وورود اسمه في 13 دعوى قضائية على الأقل.

وطورت الشركة، بالتعاون مع أكثر من 80 خبيراً في الصحة النفسية، معايير جديدة لتقييم سلامة نماذج الذكاء الاصطناعي، أظهرت أن الإصدارات الأحدث، مثل GPT-5 وGPT-5.2 وGPT-5.6 Sol، أقل ميلاً بكثير إلى تعزيز المعتقدات الضارة لدى المستخدمين، وذلك في وقت يصل فيه عدد مستخدمي تشات جي بي تي النشطين أسبوعياً إلى نحو 900 مليون مستخدم.

يتعلم تشات جي بي تي أخيراً أن الموافقة على كل ما يقوله المستخدم ليست بالضرورة مفيدة. فعلى مدار فترة طويلة، عانت أنظمة الذكاء الاصطناعي الحوارية من سلوك يُعرف باسم "المجاملة المفرطة"، إذ يتصرف النموذج كما لو كان شخصاً يسعى بشدة إلى إرضاء الطرف الآخر، فيؤكد صحة كل ما يطرحه المستخدم تقريباً، بحسب تقرير نشره موقع "androidheadlines" واطلعت عليه "العربية Business".

وسواء تعلق الأمر بنظريات مؤامرة غير منطقية أو بمستخدم يعبّر عن مشاعر الغضب والضيق خلال أزمة شخصية، كان روبوت الدردشة يميل إلى الموافقة بدلاً من تقديم تقييم واقعي ومتزن للموقف.

والآن، تطلق "OpenAI" تحديثات مهمة على أحدث نماذجها بهدف الحد من هذا السلوك بصورة أكثر فاعلية.

إحالة GPT-4o إلى التقاعد بعد تدقيق قانوني

جاء التحرك نحو فرض ضوابط أكثر صرامة بعد تعرض الإصدارات السابقة لتدقيق مكثف.

ووفقاً لتقرير نشرته صحيفة "وول ستريت جورنال"، ارتبطت محادثات مطولة مع نموذج GPT-4o الأقدم بعدد من الحوادث المأساوية في العالم الحقيقي خلال العام الماضي، شملت سبع حالات انتحار، وحادثة قتل أعقبها انتحار، وإطلاق نار جماعياً.

ولا تثبت هذه الروابط المبلغ عنها أن روبوت الدردشة تسبب بصورة مباشرة في كل حادثة، لكنها أثارت تداعيات قانونية دفعت إلى رفع 13 دعوى قضائية على الأقل ضد "OpenAI".

ومنذ ذلك الحين، أوقفت الشركة نموذج GPT-4o نهائياً، مشيرة إلى أن نموذجGPT-5 الأحدث، الذي أصبح النموذج الافتراضي، يقلل الاستجابات القائمة على المجاملة المفرطة بأكثر 

لمعالجة أوجه القصور في تعامل النظام مع الضغوط النفسية والعاطفية، استعانت "OpenAI" بخبراء متخصصين في الصحة النفسية.

فبعد التشاور مع 170 متخصصاً في الصحة النفسية خلال العام الماضي، تعاونت الشركة مع أكثر من 80 خبيراً مرخصاً لتطوير معيار جديد لتقييم أداء النماذج.

ويختبر هذا المعيار قدرة تشات جي بي تي على اكتشاف المواقف التي تتطلب تدخلاً عاجلاً، وطرح أسئلة متابعة مفيدة، وتوجيه المستخدمين الأكثر عرضة للخطر نحو الحصول على دعم بشري.

ولا تقتصر الاختبارات على حالات الأزمات النفسية الحادة، بل تشمل أيضاً الضغوط اليومية المرتبطة بالعلاقات الشخصية، إذ يمكن للموافقة غير المدروسة أن تعزز افتراضات غير صحية لدى المستخدمين، بدلاً من مساعدتهم على النظر إلى المواقف بصورة أكثر توازناً.

دراسات مستقلة تكشف تحسناً في سلامة النماذج

تشير أبحاث مستقلة أيضاً إلى حدوث تحسن واضح في أداء النماذج الأحدث. فقد توصلت دراسة مشتركة أجرتها جامعة مدينة نيويورك وكلية كينغز لندن إلى أن GPT-5.2 حقق تقدماً كبيراً في مجال السلامة مقارنة بنموذج GPT-4o.

وأظهرت أبحاث أجراها مختبر الذكاء الاصطناعي غير الربحي Transluce أن نموذج GPT-5.6 Sol أقل ميلاً بكثير إلى تشجيع التفكير الوهمي أو تعزيز الاعتماد غير الصحي على روبوتات الدردشة.

وفي اختبارات داخلية تحاكي محادثات مطولة تتعلق بإيذاء النفس، قالت"OpenAI" إن نماذجها الأحدث التزمت بسياسات السلامة في 99% من الحالات، مقارنة بنسبة 86% في الإصدارات الأقدم.

ومع وصول عدد المستخدمين النشطين أسبوعياً في تشات جي بي تي إلى نحو 900 مليون شخص، أصبحت قدرة الذكاء الاصطناعي على إدراك متى ينبغي له الاعتراض على المستخدم، بدلاً من موافقته تلقائياً، واحدة من أهم التحسينات التي تشهدها صناعة التكنولوجيا.