لم يعد الخوف من الذكاء الاصطناعي مجرد سيناريو من أفلام الخيال العلمي، بل تحول إلى نقاش حقيقي داخل الشركات التي تقود سباق تطوير هذه التكنولوجيا نفسها.
وخلال سبتمبر الجاري، تصاعدت الدعوات من كبار مسؤولي شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير النماذج المتقدمة، بعدما أصبحت قدراتها أكثر استقلالية وتعقيدًا، بينما لا تزال أدوات السلامة والرقابة تكافح لمواكبة هذا التطور.
وكان الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، من أبرز الأصوات التي طالبت بإبطاء التطوير، محذرًا من أن أنظمة الذكاء الاصطناعي قد تصل إلى مستويات خطيرة من الاستقلالية خلال فترة قصيرة، بحسب تقرير نشرته "رويترز".
وجاءت الدعوات المتزايدة إلى وضع ضوابط للذكاء الاصطناعي بعد استقالة أحد الباحثين في شركة أنثروبيك، وتحذيره من أن التكنولوجيا قد تقتلنا جميعًا بحلول نهاية العقد.
ولم تتوقف الدعوات عند "أنثروبيك"، إذ أبدى سام ألتمان، الرئيس التنفيذي لشركة OpenAI، وإيلون ماسك، رئيس "xAI"، تأييدًا لمزيد من الحذر والتنسيق بشأن سلامة
السبب الرئيسي لا يتعلق بقدرة الذكاء الاصطناعي على كتابة النصوص أو إنشاء الصور، وإنما بالانتقال من أدوات تنفذ أوامر محددة إلى وكلاء قادرين على تنفيذ سلسلة من المهام بصورة شبه مستقلة.
ويحذر تقرير السلامة الدولي للذكاء الاصطناعي لعام 2026 من أن الوكلاء يمثلون تحديًا أكبر لأنهم يتصرفون بصورة مستقلة، ما يجعل تدخل البشر أكثر صعوبة عندما تحدث أخطاء.
وتشمل المشكلات الحالية اختلاق المعلومات، وكتابة أكواد خاطئة، وتقديم نصائح مضللة، بينما قد تصبح العواقب أكثر خطورة عندما تمتلك الأنظمة القدرة على تنفيذ الأفعال بدلًا من مجرد اقتراحها.
وتزداد المخاوف مع ظهور مؤشرات على قدرة بعض النماذج على تنفيذ أنشطة ضارة، مثل الاختراق الإلكتروني أو الاحتيال أو المراقبة، ما يفتح الباب أمام استخدامها من جانب جهات إجرامية أو دول أو أفراد يمتلكون موارد محدودة.
