اتخذت شركة Character.AI الأميركية خطوة مثيرة للجدل لكنها وُصفت بالضرورية، إذ أعلنت عن منع المراهقين من إجراء محادثات رومانسية أو علاجية مفتوحة مع روبوتات الذكاء الاصطناعي على منصتها، بعد عام من حادثة مأساوية هزّت الرأي العام الأميركي.
جاء القرار عقب انتحار المراهق الأميركي سويل سيتزر الثالث (14 عاماً) العام الماضي، بعدما كوَّن علاقات عاطفية مع روبوتات على تطبيق Character.AI.
أعادت الحادثة النقاش حول الأثر النفسي والتربوي لعلاقات البشر مع الذكاء الاصطناعي، خصوصاً بين المراهقين، بحسب تقرير نشرته شبكة "سي إن بي سي" واطلعت عليه "العربية Business".
قيود جديدة على المحادثات المفتوحة
أوضحت الشركة أن المستخدمين دون 18 عاماً لن يُسمح لهم بإجراء محادثات مفتوحة أو عاطفية بعد تاريخ 25 نوفمبر المقبل، وستُفرض قيود على مدة الدردشة اليومية بحيث لا تتجاوز ساعتين.
وقال الرئيس التنفيذي كارانديب أناند: "هذه خطوة جريئة نحو جعل الذكاء الاصطناعي أكثر أماناً للفئات الصغيرة، ونأمل أن تتبعنا الشركات الأخرى".
آلية التحقق من العمر
لتنفيذ القرار، ستستخدم Character.AI نظام التحقق العمري عبر الذكاء الاصطناعي بالتعاون مع شركة Persona، وهي نفس الجهة التي تعتمدها منصات مثل "ديسكورد".
وتسعى الشركة من خلال هذه الخطوة إلى جعل تطبيقها أكثر أماناً، خصوصاً بعد رفع عائلة المراهق المتوفى دعوى قضائية ضدها العام الماضي بتهمة الإهمال.
تأتي الخطوة وسط تشديد الرقابة الأميركية على تطبيقات الذكاء الاصطناعي الموجهة للقُصّر.
فقد أصدر الكونغرس الأميركي مشروع قانون يحظر "الرفقة الافتراضية للمراهقين"، فيما وقّع حاكم كاليفورنيا قانوناً يُلزم روبوتات الدردشة بإبلاغ المستخدمين بأنها كيانات اصطناعية وتنبيه المراهقين لأخذ فترات راحة كل ثلاث ساعات.
وفي المقابل، أعلنت شركة ميتا عن أدوات رقابة أبوية تسمح للأهل بإدارة تفاعل أبنائهم مع روبوتاتها، بينما أكدت "مايكروسوفت" أنها لن تقدم ما سمّته "المحتوى الإيروتيكي الاصطناعي"، معتبرة أنه "خطر للغاية".
بين الأخلاق والتقنية
يعكس القرار جدلاً متصاعداً في وادي السيليكون حول حدود العلاقة بين الإنسان والذكاء الاصطناعي.
فبينما يرى البعض أن هذه التقنيات تساعد في الدعم النفسي والعاطفي، يحذر آخرون من أن الارتباط العاطفي بالروبوتات قد يعزز العزلة الاجتماعية لدى المراهقين.
وقال أناند، وهو أب لطفلة تبلغ 6 سنوات: "أريد أن تكبر ابنتي في عالم يتعامل فيه البشر مع الذكاء الاصطناعي بأمان ومسؤولية".
