أصدرت مؤسسة "كومن سينس ميديا"، وهي منظمة غير ربحية تركز على سلامة الأطفال وتوفر تقييمات ومراجعات للوسائط والتكنولوجيا، تقييمها لمخاطر منتجات ذكاء جيميني الاصطناعي من "غوغل" يوم الجمعة.

وبينما وجدت المنظمة أن الذكاء الاصطناعي من "غوغل" ذكر بوضوح للأطفال أنه برنامج كمبيوتر وليس صديقًا -وهو أمر يساعد في الحد من التفكير الوهمي والذهان لدى الأفراد ذوي الحساسية العاطفية- إلا أنها أشارت أيضًا إلى وجود مجال لتحسينات في عدة جوانب أخرى.

ولفتت المنظمة إلى أن إصداري من "دون 13 عامًا" و"تجربة المراهقين" في "جيميني" يبدوان في الأساس نسخة من الإصدار الموجه للبالغين، مع إضافة بعض ميزات الأمان فقط، بحسب تقرير لموقع "TechCrunch" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".

وتعتقد المنظمة أنه لضمان سلامة الأطفال عند استخدام منتجات الذكاء الاصطناعي، يجب تصميمها مع مراعاة سلامة الأطفال منذ البداية.

وأظهر تحليلها أن "جيميني" لا يزال قادرًا على مشاركة محتوى "غير مناسب وغير آمن" مع الأطفال، قد لا يكونون مؤهلين لاستيعابه، بما في ذلك معلومات تتعلق بالمخدرات والكحول ونصائح صحية نفسية غير آمنة أخرى.

وهذا قد يثير قلق الآباء بشكل خاص، حيث أشارت تقارير إلى دور الذكاء الاصطناعي في بعض حالات انتحار المراهقين في الأشهر الأخيرة. وتواجه شركة الذكاء الاصطناعي "OpenAI" أول دعوى قضائية بسبب وفاة صبي يبلغ من العمر 16 عامًا بعدما انتحر بعد استشارته لـ"شات جي بي تي" لعدة أشهر حول مخططاته، بعد أن تمكن من تجاوز قيود الأمان.

ورُفعت أيضًا دعوى قضائية ضد شركة "Character.AI" بسبب انتحار أحد مستخدميها المراهقين.

إضافة إلى ذلك، يأتي هذا التحليل في وقت تشير فيه تسريبات إلى أن شركة أبل تفكر في استخدام "جيميني" كنموذج لغوي كبير لدعم النسخة المقبلة من مساعدها الصوتي "سيري" من المقرر إطلاقها العام المقبل. وهذا قد يعرض المزيد من المراهقين للمخاطر، ما لم تتخذ "أبل" إجراءات لضمان سلامة المستخدمين.

وقالت "كومن سينس" أيضًا إن منتجات "جيميني" الموجهة للأطفال والمراهقين لم تأخذ في الاعتبار الحاجة إلى تقديم إرشادات ومعلومات مختلفة للمستخدمين الأصغر سنًا مقارنة بالكبار. ونتيجة لذلك، فقد صنفت المنظمة المنتجين على أنه كل منهما "عالي المخاطر" على الرغم من إضافة بعض أدوات التنقيح المضافة لأغراض السلامة.

عارضت "غوغل" هذا التقييم، لكنها أشارت في الوقت نفسه إلى أن ميزات الأمان لديها في تحسن.

وقالت الشركة، في تصريح لموقع "TechCrunch"، إنها تضع سياسات وإجراءات أمان خاصة لمستخدميها دون سن 18 عامًا للمساعدة في منع ظهور محتوى ضار، وأنها تستعين بفِرَق اختبار متخصصة وتستشير خبراء خارجيين لتعزيز إجراءات الحماية.

مع ذلك، اعترفت الشركة بوجود بعض المشكلات في استجابات "جيميني"، لذا أضافت إجراءات حماية إضافية لمعالجة هذه المخاوف.

وأشارت الشركة -كما ذكرت كومن سينس- إلى أنها تملك إجراءات حماية تمنع نماذجها من الانخراط في محادثات قد تبدو وكأنها علاقات شخصية. واقترحت "غوغل" أن تقرير المنظمة بدا وكأنه تناول ميزات غير متاحة للمستخدمين دون سن 18 عامًا، لكنها لم تتمكن من التحقق من ذلك لعدم إمكانية الاطلاع على أسئلة الاختبار التي استخدمتها المنظمة.